Probability 概率

一、频率

在 n 次试验中出现的次数 事件 A 在 n 次试验的频率

  • 非负性: 对任一事件 ,
  • 正则性: 对必然事件 ,
  • 可加性:

二、概率的统计定义

统计定义只是描述性的,以实验为基础,但并不取决于试验

当随机试验的次数充分大时,事件A 发生的频率 稳定在某个数 附近摆动 则 为事件的概率,

三、概率的公理化定义

Kolmogorov: 为一个样本空间, 为 的某些子集组成的一个事件域,对任一事件 ,定义在事件域上的一个实值函数 满足以下三条公理:

  • 非负性:

  • 正则性:

  • 可列可加性:若事件两两互不相容

四、概率的计算

1. 古典概型

Classical Probability 古典概型 通常适用于离散的样本空间 直接基于样本点的数量和等可能性来计算概率

2. 几何概型

通常适用于连续的样本空间 基于几何测度(如长度、面积、体积等)来定义事件的概率。 应用:蒙特卡洛方法

3. 主观概率

人们根据经验对按事件发生可能性所给出的个人信念

四、概率的性质

1. 可加性

  1. 对于不可能事件:

  2. 有限可加性:对 n 个互不相容的事件

P\left ( \bigcup \limits _{i=1}^{n}A_{i} \right)=\sum\limits_{i=1}^{n}P (A_{i}) \end{align}$$ 3. **对立事件公式**:$P(\bar{A})=1-P (A)$ #### 2. 单调性 1. 对任意两个事件 $A,B$,且 $B\subset A$ $$\begin{align} P(A-B)=P(A)-P(B)\quad P(A)>P(B) \end{align}$$ 2. 对任意两个事件 $A,B$ , **减法公式**: $$\begin{align} P(A-B)=P(A)-P(AB) \end{align}$$ #### 3. 加法公式 **加法公式**: $$\begin{align} &P(A\cup B)=P(A+B) \\ =&P(A)+P(B-AB)\\ =&P(A)+P(B)-P(AB) \end{align}$$ **半可加性**:$P(A\cup B)\leq P(A)+P(B)$ **任意 $n$ 个事件的加法公式**: $$\begin{align} P\left( \bigcup_{i=1}^{n}A_{i} \right)&=\sum\limits_{i=1}^{n}P(A_{i})-\sum\limits_{1\leq i<j\leq n}^{} P(A_{i}A_{j})+\sum\limits_{1\leq i<j<k\leq n}^{} P(A_{i}A_{j}A_{k}) \\ &+\cdots+(-1)^{n-1}P(A_{1}A_{2}\cdots A_{n}) \end{align}$$ 每个单独事件的概率之和-任意两个事件概率之积的和+任意三个事件概率之积的和- $\cdots$ $$\begin{align} P(A+B+C)&=P(A)+P(B)+P(C) \\ &\quad -P(AB)-P(BC)-P(AC)+P(ABC) \end{align}$$ ### 线性代数表示 有限个结果的概率可写成非负权重 $p_1,\ldots,p_n$,并满足

p_i\ge0,\qquad \sum_{i=1}^n p_i=1.

E[x]=p_1x_1+\cdots+p_nx_n=p\cdot x.

当结果连续时,离散概率 $p_i$ 换成概率密度 $p(x)$,区间概率由面积给出:

P(a\le x\le b)=\int_a^b p(x),dx=F(b)-F(a).

因此概率既可以理解为“总和为 $1$ 的权重”,也可以理解为“密度曲线下的面积”。前者适合有限样本空间和矩阵表示,后者适合连续随机变量和积分计算。