什么是“希尔伯特空间”？

刨根问底儿拦不住！

大卫·希尔伯特

大卫·希尔伯特（德语：David Hilbert [ˈdaːvɪt ˈhɪlbɐt]，1862年1月23日－1943年2月14日），德国数学家，是19世纪和20世纪初最具影响力的数学家之一。希尔伯特1862年出生于哥尼斯堡（今俄罗斯加里宁格勒），1943年在德国哥廷根逝世。他因为发明了大量的思想观念（例：不变量理论、公理化几何、希尔伯特空间）而被尊为伟大的数学家、科学家。^[1]

David Hilbert

希尔伯特空间

希尔伯特空间（Hilbert space）指的其实就是完备的内积空间（Complete inner product space），两者同义。而非完备的内积空间又称为准希尔伯特空间（pre-Hilbert space）。

那么显然就有如下关系：

即希尔伯特空间是一种特殊的内积空间，其特殊性就体现在其完备性上，因为一个内积空间不一定是完备空间。

那么，这其中包含有两个概念，即：“完备空间”和“内积空间”。而两者的交集即为“完备的内积空间”。下面分开进行解释。

完备空间

在数学分析中，完备空间又称完备度量空间或称柯西空间（Cauchy space）。如果一个度量空间  中的所有柯西序列都收敛在该空间  中的一点，则称该空间  为完备空间。^[2]

这个定义中又涉及到两个的概念，即“度量空间（Metric space）”和“柯西序列（Cauchy sequence）”。

度量空间

在数学中，度量空间是个具有距离函数的集合，该距离函数定义集合内所有元素间之距离。此距离函数被称为集合上的度量。度量空间中最符合人们对于现实直观理解的是三维欧几里得空间（Euclidean space）。^[3]

这里的“距离”是一个抽象概念，不仅仅指两点间的直线距离，还包括向量距离、函数距离、曲面距离等。定义为：

设  是一个非空集合，对中任意两点  ，在度量  的作用下，有一实数  与该两点对应且满足：

1. 正定性：  ，且  当且仅当  成立;

2. 对称性：  ;

3. 三角不等式：   .

那么就称  为中的一个距离（度量），称为一个对于度量  而言的度量空间。

柯西序列

在数学中，柯西序列、柯西列、柯西数列或基本列是指这样一个数列，它的元素随着序数的增加而愈发靠近。任何收敛数列必然是柯西列，任何柯西列必然是有界序列。^[4]

完备性

前面提到“如果一个度量空间  中的所有柯西序列都收敛在该空间  中的一点，则称该空间 为完备空间。”

可以把实数和有理数作为具体的例子。

由实数  定义的序列在通常定义的距离意义下是完备的。

而由有理数  定义的序列在通常定义的距离意义下则不是完备的。例如一个由有理数构成的序列：

  ， ，即  。可以用巴比伦方法^[5]证明其结果收敛于  。

图片来源：维基百科

说了这么多，用一句通俗但不严谨的话来表达就是：通常见到的空间中，实数空间是完备空间。

内积空间

指的是添加了一个“运算方法”（或称“结构”）的向量空间（或称为“线性空间”，两者同义），这个新添加的运算方法即“内积（Inner product）”又称“标量积（Scalar product）”或称“点积（Dot product）”。内积将一对向量与一个纯量连接起来，允许我们严格地谈论向量的“夹角”和“长度”，并进一步谈论向量的正交性。^[6]

这其中又涉及了“向量空间（Vector space）”的概念。

而且，内积空间具有基于空间本身的内积所自然定义的范数，， 且其满足平行四边形定理，也就是说内积可以诱导一个范数，所以内积空间一定是“赋范空间”。这其中又涉及了“赋范空间（Normed vector space）”的概念。

一步一步来，先说说向量空间（或称“线性空间”，两者同义）。

向量空间

一般向量空间的定义如下：布于一个域  （例如，实数域 、复数域  ）的向量空间 是由向量组成的一个集合，并赋予该集合向量与向量之间的加法：  ；以及标量与向量之间乘法：  。向量  之和为   ，向量  与标量  之积为  。向量空间中向量加法与标量乘法运算满足：

1. 加法交换律：     ；

2. 加法结合律： ( ) ( )  ；

3. 向量单位元：存在唯一的  使得     ；

4. 逆元：存在唯一的  ，使得    ;

5. 向量分配律：对于  ,  ;

6. 标量分配律：对于  ,  ;

7. 结合律：对于 ;

8. 标量单位元：对于 .

因此，向量空间实质上是一个加法可交换群  附加了一个运算，该运算将每一个标量  与向量  的乘积指定为一向量  ，且该向量  . 可见，向量空间的定义中并不包含向量与向量之间的乘法。

而这也是正是内积作为区别内积空间与一般向量空间的附加条件的原因。这也是为什么内积空间包含三个运算：向量与向量之间的加法，标量与向量之间的乘法，以及向量与向量之间的乘法。

在了解了向量空间的基础上，再反过头来，补充一下赋范空间的概念和这几个空间之间的关系。由于赋范空间定义在向量空间的基础之上，所以也称为线性赋范空间，简称赋范空间。注意，前面提到，向量空间就是线性空间，两者同义。

（线性）赋范空间

范数常常被用来度量某个向量空间（或矩阵）中的每个向量的长度或大小。其定义是：

设  是布于一个域  （例如，实数域 、复数域  ）的向量空间，函数  作用于，且满足条件：

1. 正定性：对  ；且  当且仅当；

2. 齐次性：对，有  ;

3. 三角不等式：对  ，有   。

称 是上的一个范数，定义了范数  的向量空间  称为（线性）赋范空间。

通过将赋范空间和上面的度量空间相比较，可知“范数”与“距离”之间的区别有：

1. 距离（或称“度量”）是定义在任意非空集合上的，而范数则定义在向量空间上；

2. 在向量空间中，范数可以诱导距离（或称“度量”），反之不成立，这也意味着赋范空间一定属于度量空间;

3. 范数的“齐次性”表明范数可以看做是强化后的距离概念。

下图显示了几个空间之间的包含关系：^[7]

图片来源：维基百科