正态分布

二维正态分布

f(x,y)= \dfrac{1}{2\pi \sigma_{1}\sigma_{2}\sqrt{ 1-\rho^{2} }}\exp \left\{-\dfrac{1}{2(1-\rho^{2})} \left[(\dfrac{x-\mu_{1}}{\sigma_{1}})^{2}-2\rho(\dfrac{x-\mu_{1}}{\sigma_{1}})(\dfrac{y-\mu_{2}}{\sigma_{2}})+(\dfrac{y-\mu_{2}}{\sigma_{2}})^{2}\right]\right\} \end{align}$$ 二维正态分布的[[二维分布函数\|边缘正态分布]] 为一维 [[正态分布\|正态分布]] 使用[[协方差矩阵\|协方差矩阵]]研究: $X\sim N(\mu_{1},\sigma_{1}^{2}),Y\sim N(\mu_{2},\sigma_{2}^{2})$ $$\begin{align} C&=\begin{pmatrix} \sigma_{1}^{2} & \rho \sigma_{1}\sigma_{2} \\ \rho \sigma_{1}\sigma_{2} & \sigma_{2}^{2} \end{pmatrix} \\ \\ \left\lvert C \right\rvert &=\sigma_{1}^{2}\sigma_{2}^{2}(1-\rho^{2}) \\ \\ C^{-1}&= \dfrac{1}{\left\lvert C \right\rvert }\begin{pmatrix} \sigma_{2}^{2} & -\rho \sigma_{1}\sigma_{2} \\ -\rho \sigma_{1}\sigma_{2} & \sigma_{1}^{2} \end{pmatrix} \end{align}$$ $$\begin{align} x&=\begin{pmatrix} x_{1} \\x_{2} \end{pmatrix} \quad \mu=\begin{pmatrix} \mu_{1} \\ \mu_{2} \end{pmatrix}\\ \end{align}$$ $$\begin{align} f(x_{1},x_{2})&= \dfrac{1}{2\pi \sqrt{ \left\lvert C \right\rvert } }\exp \left[- \dfrac{1}{2}(x-\mu)^{T}C^{-1}(x-\mu)\right] \end{align}$$ ### n 维正态分布 --- ## AI 结构化补充(2026-05-02) [[正态分布\|正态分布]] [[多元高斯分布\|多元高斯分布]] ### 二维正态分布 $(X,Y)\sim N(\mu_{1},\mu_{2},\sigma_{1}^{2},\sigma_{2}^{2},\rho)$ $$\begin{align} f(x,y)= \dfrac{1}{2\pi \sigma_{1}\sigma_{2}\sqrt{ 1-\rho^{2} }}\exp \left\{-\dfrac{1}{2(1-\rho^{2})} \left[(\dfrac{x-\mu_{1}}{\sigma_{1}})^{2}-2\rho(\dfrac{x-\mu_{1}}{\sigma_{1}})(\dfrac{y-\mu_{2}}{\sigma_{2}})+(\dfrac{y-\mu_{2}}{\sigma_{2}})^{2}\right]\right\} \end{align}$$ 二维正态分布的[[二维分布函数\|边缘正态分布]] 为一维 [[正态分布\|正态分布]] 使用[[协方差矩阵\|协方差矩阵]]研究: $X\sim N(\mu_{1},\sigma_{1}^{2}),Y\sim N(\mu_{2},\sigma_{2}^{2})$ $$\begin{align} C&=\begin{pmatrix} \sigma_{1}^{2} & \rho \sigma_{1}\sigma_{2} \\ \rho \sigma_{1}\sigma_{2} & \sigma_{2}^{2} \end{pmatrix} \\ \\ \left\lvert C \right\rvert &=\sigma_{1}^{2}\sigma_{2}^{2}(1-\rho^{2}) \\ \\ C^{-1}&= \dfrac{1}{\left\lvert C \right\rvert }\begin{pmatrix} \sigma_{2}^{2} & -\rho \sigma_{1}\sigma_{2} \\ -\rho \sigma_{1}\sigma_{2} & \sigma_{1}^{2} \end{pmatrix} \end{align}$$ $$\begin{align} x&=\begin{pmatrix} x_{1} \\x_{2} \end{pmatrix} \quad \mu=\begin{pmatrix} \mu_{1} \\ \mu_{2} \end{pmatrix}\\ \end{align}$$ $$\begin{align} f(x_{1},x_{2})&= \dfrac{1}{2\pi \sqrt{ \left\lvert C \right\rvert } }\exp \left[- \dfrac{1}{2}(x-\mu)^{T}C^{-1}(x-\mu)\right] \end{align}$$ ### n 维正态分布 设 $x\in\mathbb{R}^M$,均值向量为 $m$,协方差矩阵为 $V$。当 $V$ 对称正定时,$M$ 维正态分布有普通密度

p(x)=\frac{1}{(\sqrt{2\pi})^M\sqrt{\det V}} \exp\left[-\frac12(x-m)^TV

这里 $m=\operatorname{E}[x]$,$V=\operatorname{E}[(x-m)(x-m)^T]$。系数中的 $(\sqrt{2\pi})^M\sqrt{\det V}$ 是归一化因子,保证全空间积分为 $1$。若 $V=I$,各坐标是标准正态并且相互独立;若 $V$ 是对角矩阵但对角元不全相同,各坐标仍独立,但方差不同。 ### 独立性与非对角协方差 二维情形中,若 $X,Y$ 独立,则联合密度分解为两个一维密度的乘积,协方差矩阵为

V=\begin{pmatrix} \sigma_1^2&0\ 0&\sigma_2^2 \end{pmatrix}.

V=\begin{pmatrix} \sigma_1^2&\sigma_{12}\ \sigma_{12}&\sigma_2^2 \end{pmatrix}, \qquad \sigma_{12}=\operatorname{E}[(X-\mu_1)(Y-\mu_2)].

非对角项不只是符号修饰,它会在 $(x-m)^TV^{-1}(x-m)$ 中产生交叉项,改变等密度曲线的方向。直观上,一个变量的偏离会携带关于另一个变量偏离的信息。 ### 向量形式与解相关 由于协方差矩阵 $V$ 对称正定,可正交对角化为

V=Q\Lambda Q^T,\qquad \Lambda=\operatorname{diag}(\lambda_1,\ldots,\lambda_M),\quad \lambda_i>0.

X=x-m,\qquad Y=Q

(x-m)^TV^{-1}(x-m) =X^TQ\Lambda^{-1}Q^TX =Y^T\Lambda^{-1}Y =\sum_{i=1}^M\frac{y_i

这一步把相关坐标旋转成不相关坐标。因为 $Q$ 是正交矩阵,变量替换不改变体积元素;积分因此分裂为一维高斯积分的乘积:

\int_{\mathbb{R}^M}e^{-Y^T\Lambda^{-1}Y/2},dY =\prod_{i=1}^M\int_{-\infty}^{\infty}e^{-y_i^2/(2\lambda_i)},dy_i =(\sqrt{2\pi})^M\sqrt{\det V}.

这正好解释了密度公式中的归一化分母。 ### 边界条件 普通密度要求 $V$ 正定:所有特征值都严格大于 $0$,从而 $\det V>0$ 且 $V^{-1}$ 存在。若 $V$ 奇异,分布只集中在某个低维仿射子空间上,是退化正态分布;此时不能把上面的公式当作相对于 $M$ 维 Lebesgue 测度的普通 pdf 来写。实际使用中还要区分“不相关”和“独立”:对联合正态变量二者等价,但对一般分布并不等价。