Eigenvalues and Eigenvectors
一、基本定义和几何意义
\large A \vec{x}=\lambda\vec{x} \end{align}$$ $\lambda$ 为特征值 $\vec{x}$ 为特征向量 **直观上的理解**：当矩阵作用于向量时，大多数向量会改变方向，但是有某些向量不会改变方向，而只是在同一方向上伸缩。其中：不改变方向的向量为**特征向量**，伸缩的倍数为**特征值**。 ### 二、计算特征值和特征向量 **特征方程**： $$\begin{align} (A-\lambda E) \vec{x}=0 \end{align}$$ **特征多项式**： $$\begin{align} f(\lambda)=\det(A-\lambda E)=\begin{vmatrix} a_{11}-\lambda & a_{12 } & \cdots & a_{1n} \\ a_{21} & a_{22 } -\lambda& \cdots & a_{2n} \\ \vdots & \vdots & \ddots & \vdots \\ a_{n 1} & a_{n2} & \cdots & a_{nn}-\lambda \end{vmatrix}=0 \end{align}$$ - 从[[线性方程组\|线性方程组]]的角度看：**特征方程**实质上为齐次线性方程组，有非零解的充分必要条件是系数[[行列式\|行列式]] $\left\lvert A-\lambda E \right\rvert=0$ 为 0，可以求得特征值、进而求的特征向量 - 从[[向量空间\|向量空间]]的角度看：特征向量 $\vec{x}$ 在 $A-\lambda E$ 的**零空间**中，如果 $\lambda=\lambda_{i}$ 为矩阵 $A$ 的一个特征值, 则 $(A-\lambda_{i}E) \vec{x}=0$ 可以求得非零解 $\vec{x}_{i}$，求得的解向量为 $\lambda=\lambda_{i}$ 对应的特征向量 ### 三、迹和行列式 可以通过矩阵本身，快速得到特征值的和与积 - **特征值之和**等于矩阵的迹（对角线之和） $${\lambda}_{1} + {\lambda}_{2} + \cdots + {\lambda}_{n}={a}_{11}+{a}_{22}+\cdots+{a}_ {nn} =tr(A)$$ - **特征值之积**为矩阵的行列式 $${\lambda}_{1} {\lambda}_{2} \cdots {\lambda}_{n}=\left\lvert A \right\rvert$$ ### 实矩阵的复数特征值 如果矩阵有复数的特征值，则特征值一定共轭。 设特征值为 $\lambda=a+ib,\overline{\lambda}=a-ib$ $$\begin{align} A\mathbf{x}=\lambda \mathbf{x}\quad A\overline{\mathbf{x}}=\overline{\lambda } \overline{\mathbf{x}} \end{align}$$ ### 实际应用 最重要的应用： [[矩阵对角化\|矩阵对角化]] **稳定性分析**：在控制理论中，系统稳定性的分析依赖于系统矩阵的特征值的实部。 **数据降维**：[[主成分分析\|主成分分析]]（PCA）中，特征向量帮助确定数据的主要变化方向。 --- ## AI 结构化补充（2026-05-02） **Eigenvalues and Eigenvectors** ### 一、基本定义和几何意义 $$\begin{align} \large A \vec{x}=\lambda\vec{x} \end{align}$$ $\lambda$ 为特征值 $\vec{x}$ 为特征向量 严格说，$A$ 必须是方阵，且 $\vec{x}\ne 0$；零向量虽然满足许多齐次等式，但不作为特征向量。 **直观上的理解**：当矩阵作用于向量时，大多数向量会改变方向，但是有某些向量不会改变方向，而只是在同一方向上伸缩。其中：不改变方向的向量为**特征向量**，伸缩的倍数为**特征值**。 ### 二、计算特征值和特征向量 **特征方程**： $$\begin{align} (A-\lambda E) \vec{x}=0 \end{align}$$ **特征多项式**： $$\begin{align} f(\lambda)=\det(A-\lambda E)=\begin{vmatrix} a_{11}-\lambda & a_{12 } & \cdots & a_{1n} \\ a_{21} & a_{22 } -\lambda& \cdots & a_{2n} \\ \vdots & \vdots & \ddots & \vdots \\ a_{n 1} & a_{n2} & \cdots & a_{nn}-\lambda \end{vmatrix}=0 \end{align}$$ - 从[[线性方程组\|线性方程组]]的角度看：**特征方程**实质上为齐次线性方程组，有非零解的充分必要条件是系数[[行列式\|行列式]] $\left\lvert A-\lambda E \right\rvert=0$ 为 0，可以求得特征值、进而求的特征向量 - 从[[向量空间\|向量空间]]的角度看：特征向量 $\vec{x}$ 在 $A-\lambda E$ 的**零空间**中，如果 $\lambda=\lambda_{i}$ 为矩阵 $A$ 的一个特征值, 则 $(A-\lambda_{i}E) \vec{x}=0$ 可以求得非零解 $\vec{x}_{i}$，求得的解向量为 $\lambda=\lambda_{i}$ 对应的特征向量 ### 三、迹和行列式 可以通过矩阵本身，快速得到特征值的和与积 - **特征值之和**等于矩阵的迹（对角线之和） $${\lambda}_{1} + {\lambda}_{2} + \cdots + {\lambda}_{n}={a}_{11}+{a}_{22}+\cdots+{a}_ {nn} =tr(A)$$ - **特征值之积**为矩阵的行列式 $${\lambda}_{1} {\lambda}_{2} \cdots {\lambda}_{n}=\left\lvert A \right\rvert$$ ### 实矩阵的复数特征值 如果矩阵有复数的特征值，则特征值一定共轭。 设特征值为 $\lambda=a+ib,\overline{\lambda}=a-ib$ $$\begin{align} A\mathbf{x}=\lambda \mathbf{x}\quad A\overline{\mathbf{x}}=\overline{\lambda } \overline{\mathbf{x}} \end{align}$$ ### 实际应用 最重要的应用： [[矩阵对角化\|矩阵对角化]] **稳定性分析**：在控制理论中，系统稳定性的分析依赖于系统矩阵的特征值的实部。 **数据降维**：[[主成分分析\|主成分分析]]（PCA）中，特征向量帮助确定数据的主要变化方向。 ### 计算路线与快速校验 特征值问题的几何起点是Ax=\lambda x, \qquad x\ne0.
特征值 $\lambda$ 描述该方向被拉伸、压缩、反向或压到零；当 $\lambda=0$ 时，对应特征向量就在 $A$ 的零空间中。计算时先解\det(A-\lambda I)=0
得到特征值，再把每个根代回 $(A-\lambda I)x=0$ 求对应特征向量。迹与行列式提供快速校验：特征值之和等于 $\operatorname{tr}A$，特征值之积等于 $\det A$。 ### 不变方向的运算规则 若Ax=\lambda x,
A^2x=\lambda^2x,\qquad A^{-1}x=\lambda^{-1}x,\qquad (A+cI)x=(\lambda+c)x.
其中 $A^{-1}$ 这一条要求 $A$ 可逆，也等价于这个特征值不为 $0$。更一般地，矩阵的高次幂不会混合已经分解到特征向量方向上的分量；每个方向只被自己的特征值反复缩放。因此特征值问题把复杂的向量演化拆成若干一维伸缩。 ### Markov 矩阵中的稳定方向 设A=\begin{pmatrix} 0.8&0.3\ 0.2&0.7 \end{pmatrix}.
\det(A-\lambda I) =\lambda^2-\frac32\lambda+\frac12 =\left(\lambda-1\right)\left(\lambda-\frac12\right),
所以特征值为 $1$ 与 $\frac12$。对应特征向量可取x_1=\begin{pmatrix}0.6\0.4\end{pmatrix},\qquad x_2=\begin{pmatrix}1\-1\end{pmatrix}.
$x_1$ 是稳定方向，因为 $Ax_1=x_1$；$x_2$ 是衰减方向，因为 $Ax_2=\frac12x_2$。第一列可以写成\begin{pmatrix}0.8\0.2\end{pmatrix} =x_1+0.2x_2,
A^{99}\begin{pmatrix}0.8\0.2\end{pmatrix} =x_1+0.2\left(\frac12\right)
A^{100}\approx \begin{pmatrix} 0.6000&0.6000\ 0.4000&0.4000 \end{pmatrix}.
### 投影、反射与零特征值 投影矩阵的特征值只可能是 $1$ 或 $0$。例如P=\begin{pmatrix} 0.5&0.5\ 0.5&0.5 \end{pmatrix}
P\begin{pmatrix}1\1\end{pmatrix} =\begin{pmatrix}1\1\end{pmatrix},\qquad P\begin{pmatrix}1\-1\end{pmatrix} =0.
因此 $\lambda=1$ 的特征向量填满投影保留的列空间，$\lambda=0$ 的特征向量填满被压到零的零空间。反射矩阵R=\begin{pmatrix}0&1\1&0\end{pmatrix} =2P-I
有相同的两个特征向量，但特征值变为 $1$ 与 $-1$：方向 $(1,1)^T$ 不变，方向 $(1,-1)^T$ 被反向。 零特征值没有特殊禁忌。它的含义只是存在非零向量 $x$ 使 $Ax=0$，即 $x$ 在零空间中；因此方阵奇异当且仅当 $0$ 是一个特征值。 ### 奇异矩阵例子 对A=\begin{pmatrix}1&2\2&4\end{pmatrix},
\det(A-\lambda I) =(1-\lambda)(4-\lambda)-4 =\lambda^2-5\lambda =\lambda(\lambda-5).
所以特征值为 $0$ 与 $5$。对应特征向量可取\lambda=0:\ x=\begin{pmatrix}2\-1\end{pmatrix},\qquad \lambda=5:\ x=\begin{pmatrix}1\2\end{pmatrix}.
这里 $\lambda=0$ 来自矩阵本身奇异，$\lambda=5$ 来自平移后的矩阵 $A-5I$ 奇异。任一特征向量的非零倍数仍是同一特征值的特征向量。 ### AB 与 A+B 的常见误区 一般不能把 $A$ 与 $B$ 的特征值直接相乘得到 $AB$ 的特征值，也不能直接相加得到 $A+B$ 的特征值。问题出在特征向量不一定共享。 若 $x$ 同时满足Ax=\lambda x,\qquad Bx=\beta x,
ABx=A(\beta x)=\beta Ax=\beta\lambda x,
(A+B)x=(\lambda+\beta)x.
A=\begin{pmatrix}0&1\0&0\end{pmatrix},\qquad B=\begin{pmatrix}0&0\1&0\end{pmatrix}.
$A$ 与 $B$ 的特征值全为 $0$，可是AB=\begin{pmatrix}1&0\0&0\end{pmatrix},\qquad A+B=\begin{pmatrix}0&1\1&0\end{pmatrix}
分别出现特征值 $1$，以及 $1,-1$。如果 $A$ 与 $B$ 有一组共同的 $n$ 个线性无关特征向量，则可以在这些方向上逐一相乘或相加特征值，这正是共同特征向量条件的意义。 ### 基与对角化的边界 特征向量最有用的情形，是它们组成一组基。这样任意向量都可以分解到特征方向上，矩阵的幂、逆和平移都按一维规则处理。若一个 $2\times2$ 矩阵只有一条特征向量直线，即使代数上有重特征值，也不能得到完整特征向量基，因而不能直接对角化。单位矩阵是相反的极端：它的特征值全为 $1$，但每个非零向量都是特征向量。