正交基

正交基，Orthogonal Basis 正交基是Hilbert空间理论的核心工具，它是有限维欧几里得空间标准正交基在无穷维空间中的推广。正交基使得我们可以将复杂的函数或向量表示为简单基函数的线性组合，这在Fourier分析、小波分析、量子力学等领域有极其重要的应用。

一、基本定义

1.1 标准正交系

定义：在内积空间 $X$ 中，集合 $\{e_i{\}}_{i\in I}$ 称为标准正交系（orthonormal system），如果：

$$⟨e_i,e_j⟩={\delta }_{ij}=\{\begin{array}{ll}1& i=j\\ 0& i\ne j\end{array}$$

等价条件：

1. 正交性：$e_i\perp e_j$（$i\ne j$）
2. 标准化：$\Vert e_i\Vert =1$（所有 $i$）

1.2 正交基的定义

定义：Hilbert空间 $H$ 中的标准正交系 $\{e_i{\}}_{i\in I}$ 称为正交基（或标准正交基，orthonormal basis），如果：

$$\overline{\mathrm{span}}\{e_i{\}}_{i\in I}=H$$

即有限线性组合在 $H$ 中稠密。

等价刻画：

1. 稠密性：$\forall x\in H,\forall \epsilon >0,\exists$ 有限组合 ${\sum }_{i\in F}{\alpha }_i{e}_i$ 使得 $\Vert x-{\sum }_{i\in F}{\alpha }_i{e}_i\Vert <\epsilon$
2. Parseval等式：$\Vert x{\Vert }^2={\sum }_{i\in I}|⟨x,e_i⟩{|}^2$
3. 唯一性：若 $x={\sum }_{i\in I}{\alpha }_i{e}_i$，则 ${\alpha }_i=⟨x,e_i⟩$

注：这与Hamel基（线性代数中的代数基）不同！Hilbert空间中的正交基通常是不可数的，但每个向量只能表示为可数个基向量的线性组合。

1.3 Fourier系数

设 $\{e_n{\}}_{n=1}^{\infty }$ 是可分Hilbert空间 $H$ 的正交基。对任意 $x\in H$：

Fourier系数：

$$c_n=⟨x,e_n⟩,n=1,2,\dots$$

Fourier级数：

$$x=\sum _{n=1}^{\infty }{c}_n{e}_n$$

收敛性：级数在 $H$ 中范数收敛，即：

$$\underset{N\to \infty }{\lim }\Vert x-\sum _{n=1}^N{c}_n{e}_n\Vert =0$$

二、Gram-Schmidt正交化过程

2.1 有限维情况

定理（Gram-Schmidt）：设 $\{v_1,\dots ,v_n\}$ 是内积空间中线性无关的向量组。则存在标准正交系 $\{e_1,\dots ,e_n\}$ 使得：

$$\mathrm{span}\{e_1,\dots ,e_k\}=\mathrm{span}\{v_1,\dots ,v_k\},k=1,\dots ,n$$

算法：

$$\begin{array}{rl}{u}_1& =v_1,e_1=\frac{u_1}{\Vert u_1\Vert }\\ u_2& =v_2-⟨v_2,e_1⟩e_1,e_2=\frac{u_2}{\Vert u_2\Vert }\\ u_3& =v_3-⟨v_3,e_1⟩e_1-⟨v_3,e_2⟩e_2,e_3=\frac{u_3}{\Vert u_3\Vert }\\ & ⋮\\ u_k& =v_k-\sum _{i=1}^{k-1}⟨v_k,e_i⟩e_i,e_k=\frac{u_k}{\Vert u_k\Vert }\end{array}$$

几何意义：$u_k=v_k-P_{M_{k-1}}{v}_k$，其中 $M_{k-1}=\mathrm{span}\{e_1,\dots ,e_{k-1}\}$。

验证：

• $⟨u_k,e_i⟩=0$（$i<k$）由构造保证
• $\Vert e_k\Vert =1$ 由归一化保证

2.2 无穷维情况

在可分Hilbert空间中，可以对可数稠密子集应用Gram-Schmidt过程得到可数正交基。

定理：每个可分Hilbert空间都有可数正交基。

2.3 应用实例

Legendre多项式的构造：

在 $L^2[-1,1]$ 中对 $\{1,x,x^2,x^3,\dots \}$ 应用Gram-Schmidt：

$$\begin{array}{rl}{P}_0(x)& =1\\ P_1(x)& =x\\ P_2(x)& =x^2-\frac{1}{3}\\ P_3(x)& =x^3-\frac{3}{5}x\\ & ⋮\end{array}$$

满足：

$${\int }_{-1}^1{P}_m(x)P_n(x)dx=\frac{2}{2n+1}{\delta }_{mn}$$

三、经典正交基

3.1 Fourier基（三角函数系）

在 $L^2[-\pi ,\pi ]$ 中：

标准正交Fourier基：

$$e_0(x)=\frac{1}{\sqrt{2\pi }},e_n(x)=\frac{\cos nx}{\sqrt{\pi }},{\overline{e}}_n(x)=\frac{\sin nx}{\sqrt{\pi }},n=1,2,\dots$$

Fourier级数：对 $f\in L^2[-\pi ,\pi ]$：

$$f(x)=\frac{a_0}{2}+\sum _{n=1}^{\infty }\left(a_n\cos nx+b_n\sin nx\right)$$

其中：

$$a_0=\frac{1}{\pi }{\int }_{-\pi }^{\pi }f(x)dx,a_n=\frac{1}{\pi }{\int }_{-\pi }^{\pi }f(x)\cos nxdx,b_n=\frac{1}{\pi }{\int }_{-\pi }^{\pi }f(x)\sin nxdx$$

Parseval等式：

$$\frac{1}{\pi }{\int }_{-\pi }^{\pi }|f(x){|}^{2}dx=\frac{|a_0{|}^2}{2}+\sum _{n=1}^{\infty }\left(|a_n{|}^2+|b_n{|}^2\right)$$

3.2 复指数Fourier基

在 $L^2[-\pi ,\pi ]$ 中：

$$e_n(x)=\frac{e^{inx}}{\sqrt{2\pi }},n\in \mathbb{Z}$$

正交性：

$$⟨e_m,e_n⟩=\frac{1}{2\pi }{\int }_{-\pi }^{\pi }{e}^{i(m-n)x}dx={\delta }_{mn}$$

Fourier级数：

$$f(x)=\sum _{n=-\infty }^{\infty }{c}_n{e}^{inx},c_n=\frac{1}{2\pi }{\int }_{-\pi }^{\pi }f(x)e^{-inx}dx$$

3.3 Legendre多项式基

在 $L^2[-1,1]$ 中：

标准化Legendre多项式：

$${\tilde{P}}_n(x)=\sqrt{\frac{2n+1}{2}}{P}_n(x),n=0,1,2,\dots$$

性质：

$${\int }_{-1}^1{\tilde{P}}_m(x){\tilde{P}}_n(x)dx={\delta }_{mn}$$

广义Fourier级数（Legendre级数）：

$$f(x)=\sum _{n=0}^{\infty }{c}_n{\tilde{P}}_n(x),c_n={\int }_{-1}^{1}f(x){\tilde{P}}_n(x)dx$$

3.4 Haar小波基

在 $L^2[0,1]$ 中：

Haar小波：

$$\psi (x)=\{\begin{array}{ll}1& 0\le x<\frac{1}{2}\\ -1& \frac{1}{2}\le x<1\\ 0& \text{其他}\end{array}$$

Haar小波系：

$${\psi }_{j,k}(x)=2^{j/2}\psi (2^{j}x-k),j,k\in \mathbb{Z}$$

构成 $L^2(\mathbb{R})$ 的正交基。

优点：局部性好，适合分析突变信号。

3.5 Hermite多项式基

在 $L^2(\mathbb{R},e^{-x^2}dx)$ 中：

Hermite多项式：

$$H_n(x)=(-1{)}^n{e}^{x^2}\frac{d^n}{d{x}^n}{e}^{-x^2},n=0,1,2,\dots$$

前几项：

$$H_0(x)=1,H_1(x)=2x,H_2(x)=4x^2-2,H_3(x)=8x^3-12x$$

正交性：

$${\int }_{-\infty }^{\infty }{H}_m(x)H_n(x)e^{-x^2}dx=2^{n}n!\sqrt{\pi }{\delta }_{mn}$$

应用：量子谐振子的本征函数。

四、可分Hilbert空间的同构

4.1 同构定理

定理：设 $H$ 是无限维可分Hilbert空间，则 $H$ 等距同构于序列空间 ${\ell }^2$：

$$H\cong {\ell }^2$$

证明思路：

1. 取 $H$ 的可数正交基 $\{e_n{\}}_{n=1}^{\infty }$
2. 定义映射 $T:H\to {\ell }^2$ 为： $$Tx=(⟨x,e_1⟩,⟨x,e_2⟩,\dots )$$
3. 验证 $T$ 是线性、单射、满射的等距同构：
   • 线性性：$T(\alpha x+\beta y)=\alpha Tx+\beta Ty$
   • 等距性：$\Vert Tx{\Vert }_{{\ell }^2}^2={\sum }_{n=1}^{\infty }|⟨x,e_n⟩{|}^2=\Vert x{\Vert }_H^2$（Parseval等式）
   • 满射：对任意 $(c_n)\in {\ell }^2$，级数 ${\sum }_{n=1}^{\infty }{c}_n{e}_n$ 在 $H$ 中收敛

意义：所有无限维可分Hilbert空间在结构上是相同的，区别仅在于具体的元素和运算定义。

4.2 分类定理

定理：Hilbert空间按维数分类：

• 有限维：$H\cong {\mathbb{C}}^n$（或 ${\mathbb{R}}^n$）
• 可分无限维：$H\cong {\ell }^2$
• 不可分：$H$ 的正交基不可数

例子：

• $L^2[0,1]\cong {\ell }^2$（可分）
• $L^2(\mathbb{R})\cong {\ell }^2$（可分）
• 非可分Hilbert空间很少在应用中出现

五、正交基的性质

5.1 最佳逼近性质

定理：设 $\{e_n{\}}_{n=1}^N$ 是标准正交系。对任意 $x\in H$，部分和：

$$S_N=\sum _{n=1}^N⟨x,e_n⟩e_n$$

是 $x$ 在 $\mathrm{span}\{e_1,\dots ,e_N\}$ 中的最佳逼近：

$$\Vert x-S_N\Vert =\underset{y\in \mathrm{span}\{e_1,\dots ,e_N\}}{\min }\Vert x-y\Vert$$

证明：由正交性中的投影定理，$S_N$ 是 $x$ 在 $\mathrm{span}\{e_1,\dots ,e_N\}$ 上的正交投影。∎

5.2 Bessel不等式与Parseval等式

Bessel不等式：

$$\sum _{n=1}^{\infty }|⟨x,e_n⟩{|}^2\le \Vert x{\Vert }^2$$

Parseval等式（正交基的特征）：

$$\sum _{n=1}^{\infty }|⟨x,e_n⟩{|}^2=\Vert x{\Vert }^2$$

等号成立当且仅当 $\{e_n\}$ 是完备正交系（即正交基）。

5.3 Riesz-Fischer定理

定理：设 $\{e_n{\}}_{n=1}^{\infty }$ 是Hilbert空间 $H$ 的正交基。则：

$$H=\left\{\sum _{n=1}^{\infty }{c}_n{e}_n:(c_n)\in {\ell }^2\right\}$$

且映射 $x\mapsto (⟨x,e_n⟩{)}_{n=1}^{\infty }$ 是 $H$ 到 ${\ell }^2$ 的等距同构。

证明：${\ell }^2$ 的完备性保证级数收敛。∎

六、应用

6.1 量子力学

波函数的展开：量子态 $|\psi ⟩$ 在能量本征态 $\{|n⟩\}$ 下：

$$|\psi ⟩=\sum _n{c}_n|n⟩,c_n=⟨n|\psi ⟩$$

概率解释：

• $|c_n{|}^2$：测量得到能量 $E_n$ 的概率
• 归一化：${\sum }_n|c_n{|}^2=1$

例子：量子谐振子的能量本征态是Hermite函数（Hermite多项式乘高斯函数）。

6.2 信号处理

Fourier分析：

• 信号 $f(t)$ 分解为不同频率的分量
• 频谱 $F(\omega )$ 是Fourier系数的连续形式
• Parseval等式对应能量守恒

小波分析：

• 多分辨率分析
• 时频局部化
• 压缩和去噪应用

6.3 数值分析

函数逼近：

$$f(x)\approx \sum _{n=0}^N{c}_n{\varphi }_n(x)$$

其中 $\{{\varphi }_n\}$ 是正交多项式（Legendre、Chebyshev等）。

优点：

• 系数计算稳定
• 逼近误差易估计
• 避免病态线性方程组

6.4 数据科学

主成分分析（PCA）：

• 协方差矩阵的特征向量构成正交基
• 数据投影到主要成分
• 降维和特征提取

奇异值分解（SVD）：

$$A=U\Sigma V^T$$

其中 $U$ 和 $V$ 的列是标准正交基。

---

参考链接

• Hilbert空间
• 正交性
• 内积
• 函数空间
• Fourier级数

参考文献

1. Rudin, W. (1991). Functional Analysis (2nd ed.). McGraw-Hill.
2. Kreyszig, E. (1978). Introductory Functional Analysis with Applications. Wiley.
3. DeVore, R. A., & Lorentz, G. G. (1993). Constructive Approximation. Springer.
4. Mallat, S. (2009). A Wavelet Tour of Signal Processing (3rd ed.). Academic Press.

---

AI 结构化补充（2026-05-02）

一、基本定义

正交基，Orthogonal Basis 正交基是Hilbert空间理论的核心工具，它是有限维欧几里得空间标准正交基在无穷维空间中的推广。正交基使得我们可以将复杂的函数或向量表示为简单基函数的线性组合，这在Fourier分析、小波分析、量子力学等领域有极其重要的应用。

1.1 标准正交系

定义：在内积空间 $X$ 中，集合 $\{e_i{\}}_{i\in I}$ 称为标准正交系（orthonormal system），如果：

$$⟨e_i,e_j⟩={\delta }_{ij}=\{\begin{array}{ll}1& i=j\\ 0& i\ne j\end{array}$$

等价条件：

1. 正交性：$e_i\perp e_j$（$i\ne j$）
2. 标准化：$\Vert e_i\Vert =1$（所有 $i$）

在实有限维空间中，若 $q_1,\dots ,q_n$ 是标准正交向量，并令

$$Q=[q_1\cdots q_n],$$

则上式等价于

$$q_i^T{q}_j={\delta }_{ij},Q^{T}Q=I.$$

当 $Q$ 是方阵时，还满足 $Q{Q}^T=I$ 与 $Q^T=Q^{-1}$，即 $Q$ 是正交矩阵；当 $Q$ 是长矩阵时，$Q^T$ 只是左逆，$Q{Q}^T$ 是到列空间 $C(Q)$ 的投影矩阵。

有限维正交展开可以看成 Hilbert 空间 Fourier 展开的矩阵版本。若 $Q=[q_1\cdots q_n]$ 是方阵标准正交基，则每个 $b$ 都能由一维正交分量重构：

$$b=Q{Q}^{T}b=q_1(q_1^{T}b)+\cdots +q_n(q_n^{T}b).$$

若只取前 $k<n$ 个正交方向，则

$$p=q_1(q_1^{T}b)+\cdots +q_k(q_k^{T}b)=Q{Q}^{T}b$$

是 $b$ 到这些方向张成子空间的最佳逼近，而不是 $b$ 本身。正交基的计算优势正在于这些一维投影互不耦合，可以逐项计算再相加。

1.2 正交基的定义

定义：Hilbert空间 $H$ 中的标准正交系 $\{e_i{\}}_{i\in I}$ 称为正交基（或标准正交基，orthonormal basis），如果：

$$\overline{\mathrm{span}}\{e_i{\}}_{i\in I}=H$$

即有限线性组合在 $H$ 中稠密。

等价刻画：

1. 稠密性：$\forall x\in H,\forall \epsilon >0,\exists$ 有限组合 ${\sum }_{i\in F}{\alpha }_i{e}_i$ 使得 $\Vert x-{\sum }_{i\in F}{\alpha }_i{e}_i\Vert <\epsilon$
2. Parseval等式：$\Vert x{\Vert }^2={\sum }_{i\in I}|⟨x,e_i⟩{|}^2$
3. 唯一性：若 $x={\sum }_{i\in I}{\alpha }_i{e}_i$，则 ${\alpha }_i=⟨x,e_i⟩$

注：这与Hamel基（线性代数中的代数基）不同。Hilbert空间中的正交基可以是有限、可数或不可数；在可分Hilbert空间中可取可数正交基，而每个向量的展开至多涉及可数个非零系数。

1.3 Fourier系数

设 $\{e_n{\}}_{n=1}^{\infty }$ 是可分Hilbert空间 $H$ 的正交基。对任意 $x\in H$：

Fourier系数：

$$c_n=⟨x,e_n⟩,n=1,2,\dots$$

Fourier级数：

$$x=\sum _{n=1}^{\infty }{c}_n{e}_n$$

收敛性：级数在 $H$ 中范数收敛，即：

$$\underset{N\to \infty }{\lim }\Vert x-\sum _{n=1}^N{c}_n{e}_n\Vert =0$$

二、Gram-Schmidt正交化过程

2.1 有限维情况

定理（Gram-Schmidt）：设 $\{v_1,\dots ,v_n\}$ 是内积空间中线性无关的向量组。则存在标准正交系 $\{e_1,\dots ,e_n\}$ 使得：

$$\mathrm{span}\{e_1,\dots ,e_k\}=\mathrm{span}\{v_1,\dots ,v_k\},k=1,\dots ,n$$

算法：

$$\begin{array}{rl}{u}_1& =v_1,e_1=\frac{u_1}{\Vert u_1\Vert }\\ u_2& =v_2-⟨v_2,e_1⟩e_1,e_2=\frac{u_2}{\Vert u_2\Vert }\\ u_3& =v_3-⟨v_3,e_1⟩e_1-⟨v_3,e_2⟩e_2,e_3=\frac{u_3}{\Vert u_3\Vert }\\ & ⋮\\ u_k& =v_k-\sum _{i=1}^{k-1}⟨v_k,e_i⟩e_i,e_k=\frac{u_k}{\Vert u_k\Vert }\end{array}$$

几何意义：$u_k=v_k-P_{M_{k-1}}{v}_k$，其中 $M_{k-1}=\mathrm{span}\{e_1,\dots ,e_{k-1}\}$。

在线性代数的三向量写法中，先取 $A=a$，再从 $b$ 中扣除沿 $A$ 的投影：

$$B=b-\frac{A^{T}b}{A^{T}A}A.$$

然后从 $c$ 中扣除沿 $A$ 与 $B$ 的投影：

$$C=c-\frac{A^{T}c}{A^{T}A}A-\frac{B^{T}c}{B^{T}B}B.$$

最后把 $A,B,C$ 分别除以自身长度得到标准正交向量。这个过程保留

$$\mathrm{span}\{A,\dots \}=\mathrm{span}\{a,\dots \},$$

但把不同方向之间的内积耦合消掉。

若把一组正交基向量作为矩阵 $A$ 的列，则 $A^{\ast }A$ 是对角矩阵；若进一步把它们归一化为矩阵 $Q$，则

$$Q^{\ast }Q=I.$$

这正是正交基在计算中的价值：内积矩阵被简化，投影系数可以直接由内积读出。

若原矩阵 $A=[a_1\cdots a_n]$ 列满秩，Gram-Schmidt 产生 $Q=[q_1\cdots q_n]$ 与上三角矩阵 $R$：

$$A=QR,R=Q^{T}A.$$

在实数有限维情形，最小二乘问题 ${\min }_x\Vert Ax-b\Vert$ 因此化为

$$R\hat{x}=Q^{T}b.$$

若一开始就投影到 $C(Q)$，则坐标和投影直接为

$$\hat{x}=Q^{T}b,p=Q{Q}^{T}b.$$

当 $Q$ 覆盖整个空间时 $Q{Q}^T=I$，于是 $p=b$；当 $Q$ 只覆盖真子空间时，$p$ 是最佳逼近。这个区别对应有限维线性代数中“方阵正交矩阵”和“列标准正交长矩阵”的边界。

验证：

• $⟨u_k,e_i⟩=0$（$i<k$）由构造保证
• $\Vert e_k\Vert =1$ 由归一化保证

2.2 无穷维情况

在可分Hilbert空间中，可以对可数稠密子集应用Gram-Schmidt过程得到可数正交基。

定理：每个可分Hilbert空间都有可数正交基。

2.3 应用实例

Legendre多项式的构造：

在 $L^2[-1,1]$ 中对 $\{1,x,x^2,x^3,\dots \}$ 应用Gram-Schmidt：

$$\begin{array}{rl}{P}_0(x)& =1\\ P_1(x)& =x\\ P_2(x)& =x^2-\frac{1}{3}\\ P_3(x)& =x^3-\frac{3}{5}x\\ & ⋮\end{array}$$

满足：

$${\int }_{-1}^1{P}_m(x)P_n(x)dx=\frac{2}{2n+1}{\delta }_{mn}$$

三、经典正交基

3.1 Fourier基（三角函数系）

在 $L^2[-\pi ,\pi ]$ 中：

标准正交Fourier基：

$$e_0(x)=\frac{1}{\sqrt{2\pi }},e_n(x)=\frac{\cos nx}{\sqrt{\pi }},{\overline{e}}_n(x)=\frac{\sin nx}{\sqrt{\pi }},n=1,2,\dots$$

Fourier级数：对 $f\in L^2[-\pi ,\pi ]$：

$$f(x)=\frac{a_0}{2}+\sum _{n=1}^{\infty }\left(a_n\cos nx+b_n\sin nx\right)$$

其中：

$$a_0=\frac{1}{\pi }{\int }_{-\pi }^{\pi }f(x)dx,a_n=\frac{1}{\pi }{\int }_{-\pi }^{\pi }f(x)\cos nxdx,b_n=\frac{1}{\pi }{\int }_{-\pi }^{\pi }f(x)\sin nxdx$$

Parseval等式：

$$\frac{1}{\pi }{\int }_{-\pi }^{\pi }|f(x){|}^{2}dx=\frac{|a_0{|}^2}{2}+\sum _{n=1}^{\infty }\left(|a_n{|}^2+|b_n{|}^2\right)$$

在 $[0,2\pi ]$ 上也常直接使用未归一化三角函数族

$$1,\cos x,\sin x,\cos 2x,\sin 2x,\dots .$$

它们的交叉内积为零：

$${\int }_0^{2\pi }\cos jx\cos kxdx=0(j\ne k),{\int }_0^{2\pi }\sin jx\sin kxdx=0(j\ne k),$$ $${\int }_0^{2\pi }\sin jx\cos kxdx=0.$$

长度平方则是

$$\Vert 1{\Vert }^2=2\pi ,\Vert \cos kx{\Vert }^2=\Vert \sin kx{\Vert }^2=\pi .$$

因此除以 $\sqrt{2\pi }$ 或 $\sqrt{\pi }$ 后才是标准正交基。未归一化形式下，系数仍然是投影除以长度平方：

$$\text{coefficient along }g=\frac{⟨f,g⟩}{⟨g,g⟩}.$$

这一点解释了有限维公式 $c=Q^{\mathsf{T}}b$ 为什么会变成 Fourier 系数公式：$Q$ 的列向量换成正交基函数，矩阵乘法中的点积换成积分内积。取前 $N$ 个三角基函数得到的部分和，是 $f$ 在相应有限维三角多项式空间中的 $L^2$ 最佳逼近。需要区分的是，正交基保证范数意义的收敛；遇到跳跃间断时，逐点极限通常取左右极限的平均值。

3.2 复指数Fourier基

在 $L^2[-\pi ,\pi ]$ 中：

$$e_n(x)=\frac{e^{inx}}{\sqrt{2\pi }},n\in \mathbb{Z}$$

正交性：

$$⟨e_m,e_n⟩=\frac{1}{2\pi }{\int }_{-\pi }^{\pi }{e}^{i(m-n)x}dx={\delta }_{mn}$$

Fourier级数：

$$f(x)=\sum _{n=-\infty }^{\infty }{c}_n{e}^{inx},c_n=\frac{1}{2\pi }{\int }_{-\pi }^{\pi }f(x)e^{-inx}dx$$

3.3 Legendre多项式基

在 $L^2[-1,1]$ 中：

标准化Legendre多项式：

$${\tilde{P}}_n(x)=\sqrt{\frac{2n+1}{2}}{P}_n(x),n=0,1,2,\dots$$

性质：

$${\int }_{-1}^1{\tilde{P}}_m(x){\tilde{P}}_n(x)dx={\delta }_{mn}$$

广义Fourier级数（Legendre级数）：

$$f(x)=\sum _{n=0}^{\infty }{c}_n{\tilde{P}}_n(x),c_n={\int }_{-1}^{1}f(x){\tilde{P}}_n(x)dx$$

3.4 Haar小波基

在 $L^2[0,1]$ 中：

Haar小波：

$$\psi (x)=\{\begin{array}{ll}1& 0\le x<\frac{1}{2}\\ -1& \frac{1}{2}\le x<1\\ 0& \text{其他}\end{array}$$

Haar小波系：

$${\psi }_{j,k}(x)=2^{j/2}\psi (2^{j}x-k),j,k\in \mathbb{Z}$$

构成 $L^2(\mathbb{R})$ 的正交基。

优点：局部性好，适合分析突变信号。

3.5 Hermite多项式基

在 $L^2(\mathbb{R},e^{-x^2}dx)$ 中：

Hermite多项式：

$$H_n(x)=(-1{)}^n{e}^{x^2}\frac{d^n}{d{x}^n}{e}^{-x^2},n=0,1,2,\dots$$

前几项：

$$H_0(x)=1,H_1(x)=2x,H_2(x)=4x^2-2,H_3(x)=8x^3-12x$$

正交性：

$${\int }_{-\infty }^{\infty }{H}_m(x)H_n(x)e^{-x^2}dx=2^{n}n!\sqrt{\pi }{\delta }_{mn}$$

应用：量子谐振子的本征函数。

四、可分Hilbert空间的同构

4.1 同构定理

定理：设 $H$ 是无限维可分Hilbert空间，则 $H$ 等距同构于序列空间 ${\ell }^2$：

$$H\cong {\ell }^2$$

证明思路：

1. 取 $H$ 的可数正交基 $\{e_n{\}}_{n=1}^{\infty }$
2. 定义映射 $T:H\to {\ell }^2$ 为： $$Tx=(⟨x,e_1⟩,⟨x,e_2⟩,\dots )$$
3. 验证 $T$ 是线性、单射、满射的等距同构：
   • 线性性：$T(\alpha x+\beta y)=\alpha Tx+\beta Ty$
   • 等距性：$\Vert Tx{\Vert }_{{\ell }^2}^2={\sum }_{n=1}^{\infty }|⟨x,e_n⟩{|}^2=\Vert x{\Vert }_H^2$（Parseval等式）
   • 满射：对任意 $(c_n)\in {\ell }^2$，级数 ${\sum }_{n=1}^{\infty }{c}_n{e}_n$ 在 $H$ 中收敛

意义：所有无限维可分Hilbert空间在结构上是相同的，区别仅在于具体的元素和运算定义。

4.2 分类定理

定理：Hilbert空间按维数分类：

• 有限维：$H\cong {\mathbb{C}}^n$（或 ${\mathbb{R}}^n$）
• 可分无限维：$H\cong {\ell }^2$
• 不可分：$H$ 的正交基不可数

例子：

• $L^2[0,1]\cong {\ell }^2$（可分）
• $L^2(\mathbb{R})\cong {\ell }^2$（可分）
• 非可分Hilbert空间很少在应用中出现

五、正交基的性质

5.1 最佳逼近性质

定理：设 $\{e_n{\}}_{n=1}^N$ 是标准正交系。对任意 $x\in H$，部分和：

$$S_N=\sum _{n=1}^N⟨x,e_n⟩e_n$$

是 $x$ 在 $\mathrm{span}\{e_1,\dots ,e_N\}$ 中的最佳逼近：

$$\Vert x-S_N\Vert =\underset{y\in \mathrm{span}\{e_1,\dots ,e_N\}}{\min }\Vert x-y\Vert$$

证明：由正交性中的投影定理，$S_N$ 是 $x$ 在 $\mathrm{span}\{e_1,\dots ,e_N\}$ 上的正交投影。∎

若 $Q=[q_1\cdots q_N]$ 的列是标准正交向量，则有限维写法为

$$p=q_1(q_1^{\ast }x)+\cdots +q_N(q_N^{\ast }x)=Q{Q}^{\ast }x.$$

当 $Q$ 是方阵标准正交矩阵时，还有 $Q{Q}^{\ast }=I$，任意向量都能由这些互相正交的分量重构。 在实数记号下，这正是 $\hat{x}=Q^{T}b,p=Q{Q}^{T}b$；如果 $Q$ 只张成真子空间，$p$ 是最佳逼近而不是原向量本身。

5.2 Bessel不等式与Parseval等式

Bessel不等式：

$$\sum _{n=1}^{\infty }|⟨x,e_n⟩{|}^2\le \Vert x{\Vert }^2$$

Parseval等式（正交基的特征）：

$$\sum _{n=1}^{\infty }|⟨x,e_n⟩{|}^2=\Vert x{\Vert }^2$$

等号成立当且仅当 $\{e_n\}$ 是完备正交系（即正交基）。

5.3 Riesz-Fischer定理

定理：设 $\{e_n{\}}_{n=1}^{\infty }$ 是Hilbert空间 $H$ 的正交基。则：

$$H=\left\{\sum _{n=1}^{\infty }{c}_n{e}_n:(c_n)\in {\ell }^2\right\}$$

且映射 $x\mapsto (⟨x,e_n⟩{)}_{n=1}^{\infty }$ 是 $H$ 到 ${\ell }^2$ 的等距同构。

证明：${\ell }^2$ 的完备性保证级数收敛。∎

六、应用

6.1 量子力学

波函数的展开：量子态 $|\psi ⟩$ 在能量本征态 $\{|n⟩\}$ 下：

$$|\psi ⟩=\sum _n{c}_n|n⟩,c_n=⟨n|\psi ⟩$$

概率解释：

• $|c_n{|}^2$：测量得到能量 $E_n$ 的概率
• 归一化：${\sum }_n|c_n{|}^2=1$

例子：量子谐振子的能量本征态是Hermite函数（Hermite多项式乘高斯函数）。

6.2 信号处理

Fourier分析：

• 信号 $f(t)$ 分解为不同频率的分量
• 频谱 $F(\omega )$ 是Fourier系数的连续形式
• Parseval等式对应能量守恒

小波分析：

• 多分辨率分析
• 时频局部化
• 压缩和去噪应用

6.3 数值分析

函数逼近：

$$f(x)\approx \sum _{n=0}^N{c}_n{\varphi }_n(x)$$

其中 $\{{\varphi }_n\}$ 是正交多项式（Legendre、Chebyshev等）。

优点：

• 系数计算稳定
• 逼近误差易估计
• 避免病态线性方程组

6.4 数据科学

主成分分析（PCA）：

• 协方差矩阵的特征向量构成正交基
• 数据投影到主要成分
• 降维和特征提取

奇异值分解（SVD）：

$$A=U\Sigma V^T$$

其中 $U$ 和 $V$ 的列是标准正交基。

---

参考链接

• Hilbert空间
• 正交性
• 内积
• 函数空间
• Fourier级数

参考文献

1. Rudin, W. (1991). Functional Analysis (2nd ed.). McGraw-Hill.
2. Kreyszig, E. (1978). Introductory Functional Analysis with Applications. Wiley.
3. DeVore, R. A., & Lorentz, G. G. (1993). Constructive Approximation. Springer.
4. Mallat, S. (2009). A Wavelet Tour of Signal Processing (3rd ed.). Academic Press.