Variance 是衡量随机变量或一组数据离散程度的度量,它描述了数据点与其平均值(期望值)的偏差平方的平均值。 方差提供了数据分布的波动或分散程度的信息。
刻画随机变量取值 与数学期望的离散程度
- 若 的取值较为集中,则方差较小
- 若 的取值较为分散,则方差较大
一、基本定义
方差定义为:
将方差开根号定义为标准差/均方差:
方差公式:使用随机变量平方的期望减去期望的平方
D(X)=E(X^{2})-(E(X))^{2} \end{align}$$ $$\begin{align} D(X)&=E[X^{2}+E(X)^{2}-2XE(X)] \\ &=E(X^{2})+E(X)^{2}-2E(X)E(X) \\ &=E(X^{2})-E(X)^{2} \end{align}$$ ### 二、一般的计算 #### 1. 离散型随机变量 概率分布律 $P\left\{X=x_{i} \right\}=p_{i}\quad i=1,2,3,\cdots$ $$\begin{align} D(X)=\sum\limits_{i=1}^{\infty}(x_{i}-E(X))^{2}\cdot p_{i} \end{align}$$ #### 2. 连续型随机变量 概率密度为 $f(x)$ $$\begin{align} D(X)=\int _{-\infty}^{+\infty} \left[x_{i}-E(X)\right]^{2}f(x)\, dx \end{align}$$ ### 三、基本性质 1. $C$ 为常数,则 $D(C)=0$ 2. $D(CX)=C^{2}D(X)$ 3. $X,Y$ 为随机变量,则: $$\begin{align} D(aX\pm bY)=a^{2}D(X)+b^{2}D(Y)\pm 2abE\{[X-E(X)][Y-E(Y)]\} \end{align}$$ 最后一项实际为[[协方差\|协方差]],若 $X,Y$ [[随机变量的独立性\|相互独立]],则进一步可简化为: $$\begin{align} D(aX\pm bY)=a^{2}D(X)+b^{2}D(Y) \end{align}$$ 4. $D(X)=1 \Leftrightarrow P\left\{X=E(X) \right\}=1$ 证明见: [[切比雪夫不等式\|切比雪夫不等式]] $$\begin{align} D(aX\pm bY)&=E\left[aX+ bY-(aEX+bEY)\right]^{2} \\ &=E[a(X-E(X))+b(Y-E(Y))]^{2} \\ &=a^{2}E(X-E(X))^{2}+b^{2}E(Y-E(Y))^{2}+2abE[(X-E(X))(Y-E(Y))] \\ &=a^{2}D(X)+b^{2}D(Y)+2ab Cov(X,Y) \end{align}$$ ### 标准化变量 随机变量有数学期望 $E(X)=\mu$ 方差 $D(X)=\sigma^{2}$,记 $X^{*}=\dfrac{X-\mu}{\sigma}$ $$\begin{align} X^{*}=\dfrac{X-E(X)}{\sqrt{ D(X) }} \end{align}$$ $E(X^{*})=\dfrac{1}{\sigma}[E(X)-\mu]=0$ $D(X^{*})=\dfrac{1}{\sigma^{2}}E[(X-\mu)^{2}]=\dfrac{\sigma^{2}}{\sigma^{2}}=1$ ### 特殊分布的方差 [[分布函数\|分布函数]] $$\begin{align} \int _{-\infty}^{+\infty} x^{2} \dfrac{1}{\sqrt{ 2\pi }} e^{ - \frac{x^{2}}{2} } \, dx =E(X^{2})=1 \end{align}$$ --- ## AI 结构化补充(2026-05-02) **Variance** $D(X)$ 是衡量随机变量或一组数据离散程度的度量,它描述了数据点与其平均值(期望值)的偏差平方的平均值。 方差提供了数据分布的波动或分散程度的信息。 刻画随机变量取值 $X$ 与数学[[期望\|期望]]的==离散程度== - 若 $X$ 的取值较为**集中**,则方差较**小** - 若 $X$ 的取值较为**分散**,则方差较**大** ### 一、基本定义 方差定义为: $$D(X)=E[(X-E(X))^{2}]$$ 将方差开根号定义为**标准差/均方差:**$\sqrt{ D(X) }$ **方差公式**:使用随机变量**平方的期望**减去**期望的平方** $$\begin{align} D(X)=E(X^{2})-(E(X))^{2} \end{align}$$ $$\begin{align} D(X)&=E[X^{2}+E(X)^{2}-2XE(X)] \\ &=E(X^{2})+E(X)^{2}-2E(X)E(X) \\ &=E(X^{2})-E(X)^{2} \end{align}$$ ### 二、一般的计算 #### 1. 离散型随机变量 概率分布律 $P\left\{X=x_{i} \right\}=p_{i}\quad i=1,2,3,\cdots$ $$\begin{align} D(X)=\sum\limits_{i=1}^{\infty}(x_{i}-E(X))^{2}\cdot p_{i} \end{align}$$ #### 2. 连续型随机变量 概率密度为 $f(x)$ $$\begin{align} D(X)=\int _{-\infty}^{+\infty} \left[x-E(X)\right]^{2}f(x)\, dx \end{align}$$ ### 三、基本性质 1. $C$ 为常数,则 $D(C)=0$ 2. $D(CX)=C^{2}D(X)$ 3. $X,Y$ 为随机变量,则: $$\begin{align} D(aX\pm bY)=a^{2}D(X)+b^{2}D(Y)\pm 2abE\{[X-E(X)][Y-E(Y)]\} \end{align}$$ 最后一项实际为[[协方差\|协方差]],若 $X,Y$ [[随机变量的独立性\|相互独立]],则进一步可简化为: $$\begin{align} D(aX\pm bY)=a^{2}D(X)+b^{2}D(Y) \end{align}$$ 4. $D(X)=0 \Leftrightarrow P\left\{X=E(X) \right\}=1$ 证明见: [[切比雪夫不等式\|切比雪夫不等式]] $$\begin{align} D(aX\pm bY)&=E\left[aX+ bY-(aEX+bEY)\right]^{2} \\ &=E[a(X-E(X))+b(Y-E(Y))]^{2} \\ &=a^{2}E(X-E(X))^{2}+b^{2}E(Y-E(Y))^{2}+2abE[(X-E(X))(Y-E(Y))] \\ &=a^{2}D(X)+b^{2}D(Y)+2ab Cov(X,Y) \end{align}$$ ### 标准化变量 随机变量有数学期望 $E(X)=\mu$ 方差 $D(X)=\sigma^{2}$,记 $X^{*}=\dfrac{X-\mu}{\sigma}$ $$\begin{align} X^{*}=\dfrac{X-E(X)}{\sqrt{ D(X) }} \end{align}$$ $E(X^{*})=\dfrac{1}{\sigma}[E(X)-\mu]=0$ $D(X^{*})=\dfrac{1}{\sigma^{2}}E[(X-\mu)^{2}]=\dfrac{\sigma^{2}}{\sigma^{2}}=1$ ### 特殊分布的方差 [[分布函数\|分布函数]] $$\begin{align} \int _{-\infty}^{+\infty} x^{2} \dfrac{1}{\sqrt{ 2\pi }} e^{ - \frac{x^{2}}{2} } \, dx =E(X^{2})=1 \end{align}$$ ### 样本方差、概率方差与计算恒等式 方差的共同思想是“离均值距离的平方平均”,但样本数据和概率模型对应的公式不同。 样本 $x_1,\ldots,x_N$ 的样本均值为m=\frac{x_1+\cdots+x_N}{N}.
S^2=\frac{1}{N-1}\sum_{i=1}^{N}(x_i-m)
这里除以 $N-1$ 而不是 $N$,是因为 $m$ 已经由同一批样本估计出来,消耗了一个自由度;在独立同分布抽样下,这样的 $S^2$ 是总体方差 $\sigma^2$ 的无偏估计。 例如样本年龄为 $18,17,18,19,17$,样本均值m=\frac{18+17+18+19+17}{5}=17.8.
\begin{aligned} S^2 &=\frac{1}{4}\left[(.2)^2+(-.8)^2+(.2)^2+(1.2)^2+(-.8)^2\right] \ &=\frac{2.8}{4}=0.7. \end{aligned}
\sum_{i=1}^{N}(x_i-m)^2 =\sum_{i=1}^{N}x_i^2-2m\sum_{i=1}^{N}x_i+Nm^2 =\sum_{i=1}^{N}x_i^2-Nm
其中最后一步用了 $\sum_i x_i=Nm$。它说明平方离差和可以由平方和与均值直接得到。 若概率已知,方差围绕期望 $m=E[x]$ 计算:\sigma^2=E[(x-m)^2]=\sum_{i=1}^{n}p_i(x_i-m)
\sigma^2=\int_{-\infty}^{\infty}(x-m)
例如新生年龄为 $17,18,19$ 的概率分别是 $.2,.5,.3$,期望年龄为m=(.2)17+(.5)18+(.3)19=18.1.
\begin{aligned} \sigma^2 &=(.2)(17-18.1)^2+(.5)(18-18.1)^2+(.3)(19-18.1)^2 \ &=(.2)(1.21)+(.5)(.01)+(.3)(.81)=.49. \end{aligned}
\sigma=\sqrt{.49}=.7.
### 标准化与零方差边界 若随机变量有均值 $\mu$、标准差 $\sigma>0$,可以定义标准化变量X
使 $E(X^*)=0$、$D(X^*)=1$。这一步要求 $\sigma$ 严格大于 $0$。 当 $\sigma=0$ 时,随机变量几乎处处等于它的均值,没有离散程度。此时 $X^*=(X-\mu)/\sigma$ 会除以 $0$,不能直接定义。类似地,[[相关系数\|相关系数]]\rho_{XY}=\frac{\operatorname{Cov}(X,Y)}{\sigma_X\sigma_Y}
也要求 $\sigma_X>0$ 且 $\sigma_Y>0$;只要其中一个标准差为 $0$,相关系数就不能按这个公式直接计算。