正交性,Orthogonality 正交性是内积空间和Hilbert空间理论的核心概念,它是有限维欧几里得空间中垂直概念在无穷维空间中的推广。正交性不仅在理论研究中具有基本重要性,在最小二乘法、信号处理、量子力学等领域也有广泛应用。

一、正交的定义

1.1 基本定义

在内积空间 中:

定义:若 满足 ,则称 与 正交(orthogonal),记作 。

几何意义: 与 之间的”角度”为 。

零向量的性质:零向量 与空间中任何向量正交:

1.2 正交系的定义

定义:集合 称为正交系(orthogonal system),如果对任意 且 ,有 。

标准正交系(orthonormal system):若 是正交系且对所有 有 ,则称 为标准正交系。

记号:若 是标准正交系,则:

1.3 正交列的例子

三角函数系(在 中):

Legendre多项式(在 中):

满足:

二、正交补

2.1 定义与基本性质

定义:设 是内积空间 的子集。 的正交补(orthogonal complement)定义为:

基本性质:

定理 1:对任意子集 :

  1. 是 的闭线性子空间

证明:

  1. 若 ,则对任意 : 故 。连续性保证 是闭集。

  2. 若 ,则对任意 ,,故 。

  3. 若 ,则 。∎

2.2 子空间的正交补

定理 2:若 是内积空间 的闭线性子空间,则:

证明:需要投影定理。对任意 ,存在唯一分解:

其中 是 在 上的正交投影,。∎

推论:(当 是闭子空间时)

2.3 正交补的计算

有限维情况: 设 ,则:

即 是齐次线性方程组 的解空间,其中 的行向量是 。

例子:在 中,设 (-轴),则:

即 平面。

三、勾股定理(Pythagorean Theorem)

3.1 基本形式

定理:若 ,则:

证明:

3.2 推广到多个向量

若 是正交系,则:

证明:利用归纳法和正交性。

标准正交系:若 ,则:

四、正交分解定理

4.1 投影定理

定理(投影定理):设 是Hilbert空间 的闭凸子集。对任意 ,存在唯一的 使得:

且 满足变分不等式:

几何意义: 是 在 上的最佳逼近。

特殊情况(线性子空间):若 是闭线性子空间,则:

即 ,其中 且 。∎

4.2 正交分解

推论:若 是Hilbert空间 的闭线性子空间,则:

且分解是唯一的:

证明:由投影定理,取 ( 在 上的正交投影),。唯一性由正交性保证。∎

4.3 正交投影算子

定义:设 是Hilbert空间 的闭线性子空间。正交投影算子 定义为:

性质:

  1. 线性性:
  2. 幂等性:( 是投影)
  3. 自伴性:
  4. 范数:(若 )

五、Bessel不等式

5.1 有限Bessel不等式

定理:设 是内积空间 中的标准正交系。对任意 :

证明:设 ,则 对所有 成立。由勾股定理:

等号成立当且仅当 ,即 可以由 线性表示。∎

5.2 无限Bessel不等式

定理:设 是Hilbert空间 中的标准正交系。对任意 :

其中求和对至多可数个非零项进行。

推论:(),即Fourier系数趋于零。

5.3 Fourier系数

设 是标准正交系。对 ,称:

为 关于 的Fourier系数。

最佳逼近性质:对固定 ,部分和:

是 在 中的最佳逼近:

六、Parseval等式

6.1 完备标准正交系

定义:标准正交系 称为完备的(或完全的),如果:

等价地,不存在非零向量与所有 正交:

6.2 Parseval等式

定理:设 是Hilbert空间 中的完备标准正交系。对任意 :

证明:由稠密性,存在 使得 。由Bessel不等式:

令 ,并由范数的连续性得证。∎

推论(Fourier级数收敛):

在 中范数收敛。

七、应用

7.1 最小二乘法

问题:给定数据点 ,求拟合直线 。

正交投影方法: 在 中,设:

求 在 上的正交投影:

即正规方程组:

解得最小二乘估计 。

7.2 信号处理

正交分解:信号 分解为正交分量:

其中 是标准正交基(如小波基、Fourier基)。

能量守恒(Parseval等式):

7.3 量子力学

态的正交分解:量子态 在标准正交基 下:

概率解释: 是测量得到第 个本征态的概率。

归一化条件:


参考链接

参考文献

  1. Rudin, W. (1991). Functional Analysis (2nd ed.). McGraw-Hill.
  2. Kreyszig, E. (1978). Introductory Functional Analysis with Applications. Wiley.
  3. Reed, M., & Simon, B. (1980). Functional Analysis (Vol. 1). Academic Press.

AI 结构化补充(2026-05-02)

定义

Orthogonality 正交性是“垂直”在向量空间中的代数表达。在有限维实空间 中,入口公式最简单:

有限维定义

若

则

当这个数为零时,称 与 正交。若两个向量都非零,这等价于二者夹角为 。

零向量与任意向量正交,因为

但零向量没有确定方向,所以“零向量与任意向量正交”和“零向量有任意夹角”不是同一件事;夹角通常只对非零向量定义。

子空间层面的正交

向量正交只检查一对向量;子空间的正交性要求更强的全称条件。若 ,则

因此,不能只找出某一对基向量正交就断言两个子空间正交;必须检查两组基之间所有交叉内积都为零。若 是 的基, 是 的基,则

才推出 。

维数给出一个硬边界:若 ,则 ,所以

一旦两个子空间的维数和超过环境空间维数,它们不可能正交。例如 中两个二维平面必有非零交线,这条交线中的非零向量不可能与自身正交。 房间的地面平面与两面墙相交形成的竖直直线可以正交:直线上的任意竖直向量都与地面平面内的任意水平向量点积为零。相反,两面墙即使看起来互相垂直,也不是正交子空间,因为它们共享同一条交线;交线上的非零向量同时属于两个平面,不可能与自身正交。更一般地,两个子空间只在零向量相交并不推出正交,例如 中两条不垂直的过原点直线也只有零向量交点。

勾股定理

若 ,则

证明只需展开点积:

同理,

因为 ,两个展开式中的交叉项都消失。这就是直角三角形勾股定理的向量形式,也说明正交不是“没有相互作用”,而是交叉项精确抵消。

垂直向量集合

固定一个非零向量 ,所有与它正交的向量组成集合

这是一个通过原点的线性子空间。

  • 在 中, 是一条过原点的直线。
  • 在 中, 是一个过原点的平面。
  • 在 中, 是一个维数为 的超平面。

例如 时,垂直向量满足

所以它们落在一条直线上。

正交系与标准正交系

一组向量 若两两正交,即

则称为正交系。若再满足

则称为标准正交系。

标准基

就是 中最基本的标准正交系,因为

正交投影

正交性给出“最近点”的判别。若 是 在某个子空间 上的投影,则残差

必须与 中每个方向正交。对一条直线 ,这就是

从而得到

这也是向量投影和最小二乘正规方程的几何机制。

内积空间中的正交

在一般内积空间中,定义变为

所有有限维点积结论的结构仍然保留:正交会消去交叉项,产生勾股定理、正交补分解和投影公式。在线性代数中,四个基本子空间的核心正交关系就是

并且由于对应维数分别加到 与 ,它们进一步成为正交补。