|
吴有光
2012.2.13
伊妹：Webbery(at)sohu(dot)com
部落格：http://blog.sina.com.cn/wuyouguang 目录 函数逼近论中的几个概念： 框架，Riesz基，Hamel基和Schauder基 1 序 2 直观描述部分 2.1空间关系 2.2 Hilbert空间中的框架和基 3 数学描述部分 3.1 框架理论 3.2 框架与Riesz关系
从4天前开始打算写10页左右的框架理论的文章，想作为我的文章sparse representation中的一节。然而，明明框架就是用于稀疏或冗余表示，但总无法从sparse的角度来写，并且网上关于框架的资料也很少。虽然找到不少论文，但都是关于小波框架构造的，都是专门给数学系的人看的，不是专著就是几十页的毕业论文，看得毫无头绪。糊糊混混三四天过去了，除了睡了几个大觉之外，毫无进展。 今天早上起来，打算改换思路，就从我以前看过life beyond bases那篇文章的方向入手，写一个自我的框架内容总结就行了。方向对了进展就快了，从2月13日上午10点开始，到2月14日凌晨2点，加上吃饭上厕所和修改，不超过14个小时。 关键字：框架，Riesz基，Hamel基，Schauder基，希尔伯特空间，巴拿赫空间，稀疏表示，冗余表示，正交基，正交表示 Key words: Frame, Riesz basis, Hamel basis, Schauder basis, Hilbert space, Banach space, Sparse representation, Redundant representation, Orthonormal basis (ONB), Orthogonal linear combination
Banach空间和Hilbert空间是赋范线性空间中两个概念 赋范线性空间具备完备性（极限的封闭性）时称为Banach空间；赋范线性空间定义内积则为内积空间；Banach空间中定义内积即为Hilbert空间（即完备内积空间），或者完备的线性空间为Hilbert空间。 Banach空间——完备赋范线性空间。 Hilbert空间——完备内积空间，内积空间必为线性空间。 Euclidean空间是Hilbert空间特殊化，Hilbert空间是欧几里得空间的推广，欧几里德空间是定义了内积的有限维线性空间。 集合论中的空间关系请看本人先前的博文：http://blog.sina.com.cn/s/blog_569d6df80100rfa4.html 框架和Riesz基是Hilbert空间的概念；Hamel基和Schauder基是Banach空间中的概念。 框架是Hilbert空间中一组完备函数列，完备的意思是空间中任意函数都可以由其表示出来，并且满足后面3.1节中的(3.1.1)式。主要特点：可能是冗余的，即元素一般都线性相关。 Riesz基是Hilbert空间中的线性无关组。 框架+无冗余=Riesz基。注意Riesz不包含正交和规范两个条件。
Hamel基：Banach空间对应Hilbert空间Riesz基的为Schauder基和Hamel基，有限维称为Hamel基，无限维（countable basis）称为Schauder基。 换一种描述，完备赋范线性空间（Banach空间）中一组线性无关基，如果可将该空间中所有元素线性表出，则称为基，也称为代数基。由于线性无关性，其表示系数唯一。 因为正交概念必须在内积空间中才存在，所有只有Hilbert空间中才有正交基的说法。 我们常说的基都是（Hilbert空间中）标准正交化的Riesz基，称为标准正交基(Orthonormal Basis, ONB)。 【我是先写后面的框架和Riesz关系，再回头来看其与Schauder基的关系的。因为之前一点都不了解，再加上我先入为主的思想是二者一定是递进关系，所以简单到二者只是所处空间不同这一点都花了我至少两个小时，因为网上根本没有这二者的直接对比（空间不同当然没有了）。百度用“Riesz基+Schauder基”居然没有结果，于是反复在维基百科中反复比对这两个基的定义，才发现不同点】
基
线性空间V中，存在某一个线性无关子集B，空间V中所有向量都可以用B中的元素线性表示，则称B这个空间的基。
1），基元素线性无关
2），空间V由B长成，且V无法由B的子集张成。这句话意思是说，B已经是符合要求的最小集了。
Hamel基与Schauder基
如果V是有限维的，则B称为Hamel基；如果是无限维，就称为Schauder基。Hamel基也称为代数基。
我们一般接触的线性空间是欧几里得空间，都是有限维，里面基都是Hamel基 正交基
如果B中元素两两正交，则称B为正交基。一般正交基伴随着基的归一化，即每个基能量为1。并且都要保证空间的完备性。正交基是最为严格的基（相对于双正交基和广泛意义上的“基”来说）。
傅里叶变换，图像处理中的DCT变换，Walsh变换，Garbor变换等，所使用的基都是正交基。 双正交基
在V中，如果存在两个线性无关子集B和B'，且B中元素与B'中元素互相正交，但B中内部元素并不正交，则称为B和B'为双正交基。这时已经放宽了条件。这是因为完备正交基非常难找，而双正交的则好办一些。
在小波变换中，双正交基显示了他的光芒，DB小波就是双正交小波，其分解效果所有小波基中最好的。 广义上的“基”
有时我们把超完备的向量也称为基。注意，这时元素之间已经线性相关。这在最近的压缩感知的观测矩阵的讨论中被广泛讨论。如果是相关的，那么元素之间的相关性对信号表示有什么影响，以及怎么控制相关性以达到表示的最优，是正在热门讨论的问题。比如b1与b2完全相关，基b1=cb2，c为常数，那么无论在那种讨论或者应用中，这种b1和b2所造成的冗余都是毫无意义的。
空间 空间：具有某些内在结构的集合。当不附加结构时，我们一般称为集合，否则称为空间。 下面由空间的叠加依次递进：什么都没附加，称集合，也可以称为空间；附加度量（测度或距离），称度量空间（测度空间或距离空间）；附加线性结构，称线性空间或向量空间；在线性空间上附加范数，称赋范线性空间；在赋范线性空间上附加内积，称内积空间。 完备的赋范线性空间，称Banach空间；完备的内积空间称Hilbert空间。 我们对任何事物的刻画，都要确定其所属空间，才能知道如何来刻画其性质。有兴趣的可以仔细研读一下小波，其中对小波空间、小波的正交补空间的刻画。特别提醒，不要读科大出那本牛书，保证让你看不懂！ 空间的完备性是为了保证极限的封闭性，而极限是依赖于度量（测度）的定义的。即任何一个柯西列都收敛到此空间中的某个元素，即它们与某个元素的距离的极限为0。例如Hilbert空间是一个内积空间，其上有距离和角的概念（及由此引伸而来的正交性与垂直性的概念）。 
由此来理解其他空间就容易理解了。比如投影空间是某类集合上附加了某种结构，Soblev空间也是在某一类元素上叠加了某些特殊的结构。 我们常见的Euclid space（欧式空间）是实数域上的内积空间；对应的复数域上的内积空间称为酉空间。 最常用的要数Hilbert空间，我们用重新描述一遍：在一个复向量空间H上的给定内积，并由内积导出范数，如果其对于这个范数来说是完备的，那么它就是希尔伯特空间。 下面几点值得记住： （1） 度量（更一般的是拓扑）是定义现代分析核心概念（极限、连续等）的基础； （2） 对空间抽象和分类的过程中，三个起到核心作用的概念：度量（或距离）、极限（或连续）和线性。 （3） 度量是用来刻画空间的几何结构，极限（或收敛）是用来刻画空间的分析结构，线性是用来刻画空间的代数结构。 （4） 现代分析=几何+代数+分析。由于极限是在度量的基础上定义的，常把分析结构看做是度量结构必备的。因此，现代分析=几何+代数。 （5） 泛函分析的基础建立在集合的两种结构上，一种是代数结构即线性结构，另一种是度量（拓扑）结构。具有度量结构的集合称为度量空间，具有线性结构的集合称为线性空间（或向量空间）。度量空间与线性空间本并不互相包含，二者的交集称为度量线性空间
  
图1 各类框架间转换关系图 
图2 各类框架间包含关系图
图3 框架，Riesz基和ONB关系图 Reference [1]牛晓芳,李建华. Hilbert空间中框架，Riesz基与正交基之间的关系[J]. 河西学院学报, vol. 23, no. 5, pp:12-18, 2007 Niu Xiao-fang,Li Jian-hua. The relationship among Frames, Riesz Bases and orthonormal Bases in Hilbert Space. Journal of Hexi University, vol. 23, no. 5, pp:12-18, 2007 [2] J. Kovacecic, A. Cherbira. Life beyond bases: The advent of the frames (Part I).IEEE Signal Process. Mag., 24 (5) (2007), pp. 115–125 [3] J. Kovacecic, A. Cherbira. Life beyond bases: The advent of the frames (Part II). IEEE Signal Process. Mag., 24 (5) (2007), pp. 115–125 [4]曲长文. 框架理论及应用. 国防工业出版社, 2009年.
|
