随机过程

Stochastic Process

随机过程本质是多维随机变量的延申，任一时刻的状态都为随机变量 随机过程与样本函数的关系可以参考总体和样本的关系。

一、基本概念

随机过程：依赖于参数 $t\in T$ 的一族无限多个随机变量 $\left\{X_t,t\in T\right\}$

给定参数集 $T$（通常为时间域），对每个 $t\in T$，$X_t$ 是一个随机变量，所有随机变量 $\{X_t,t\in T\}$ 的集合构成随机过程。

• 参数集： $T$ 无限实数集，$t\in T$ 看作时间
• 状态： $X_t$ 的观察值 $x_t$ 为时刻 $t$ 时的取值；在固定 $t$ 时，$X_t$ 是随机变量，描述系统在时刻 $t$ 的瞬时状态
• 状态空间： $\left\{X_t,t\in T\right\}$ 对于一切 $t\in T$，$X_t$ 的一切可能取值的全体/所有可能状态取值的集合
• 样本函数/样本曲线： $x(t),t\in T$ 对随机过程进行一次试验（在 $T$ 上进行一次全局观测），得到的一个函数

基本分类

1. 根据在任一时刻 $t$ 的状态 $X_t$

   • 连续型随机过程（$X_t$ 连续型随机变量）
   • 离散型随机过程（$X_t$ 离散型随机变量）

2. 根据参数集 $T$

   • 连续参数随机过程（ $T$ 为有限区间或无限区间）：使用 $X(t)=X_t$ 表示对时间 $t$ 的依赖关系
   • 离散参数随机过程（ $T$ 为离散集合）：又称为时间序列

实际例子

• 布朗运动（连续参数+连续状态）
  $T=[0,\infty )$, $S=\mathbb{R}$，描述悬浮粒子受分子碰撞的轨迹。
  样本函数：连续但不可微的路径。

• 泊松过程（连续参数+离散状态）
  $T=[0,\infty )$, $S=\{0,1,2,\cdots \}$，描述单位时间内事件发生次数（如电话呼叫）。
  样本函数：单调递增的阶梯函数。

• 马尔可夫链（离散参数+离散状态）
  $T=\{0,1,2,\cdots \}$, $S$ 有限，描述状态转移（如天气变化）。
  样本函数：状态跳转序列（如“晴-雨-晴-阴”）。

二、统计描述

随机过程在任一时刻的状态都为随机变量，可以借助随机变量的统计方法来描述随机过程的统计特性

1. 分布函数族

分布函数完善刻画随机过程的统计特性

一维分布函数：对于每一个固定的时间 $t$, 有分布函数

F_{X}(x;t)=P\left\{X(t)\leq x \right\}\quad x\in R \end{align}$$ **一维分布函数族**：刻画了随机过程在各个时刻的统计特性 $$\begin{align} \left\{F_{X}(x,t),t\in T \right\} \end{align}$$ **n 维分布函数**：对于每一个固定的时间 $t$, 有分布函数 $$\begin{align} F_{X}(x_{1},x_{2},\cdots,x_{n};t_{1},t_{2},\cdots,t_{n})=P\left\{X(t_{1})\leq x_{1} , X(t_{2})\leq x_{2},\cdots,X(t_{n})\leq x_{n}\right\}\quad x_{i}\in R \end{align}$$ **n 维分布函数族**：刻画随机过程在不同时刻状态之间的统计联系 $$\begin{align} {F_{X}(x_{1},x_{2},\cdots,x_{n};t_{1},t_{2},\cdots,t_{n}),t_{i}\in T} \end{align}$$ #### 2. 数字特征 > 统一使用随机变量中[[矩\|矩]]的概念来进行数字特征的描述 最重要的是均值函数和自相关函数，刻画了随机过程的主要统计特性 对于 $\left\{X(t),t \in T \right\}$ **均值函数**： $$\begin{align} \mu_{X}(t)=E\left[X(t)\right] \end{align}$$ 均方值函数：二阶原点矩 $$\begin{align} \varPsi^{2}_{X}(t)=E\left[X^{2}(t)\right] \end{align}$$ 方差函数：二阶中心矩 $$\begin{align} \sigma^{2}_{X}(t)=D_{X}(t)=Var[X(t)]=E\left\{[X(t)-\mu_{X}(t)]^{2} \right\} \end{align}$$ **自相关函数**：对任意 $t_{1},t_{2}\in T$ 的随机过程的二阶混合原点矩 $$\begin{align} R_{XX}(t_{1},t_{2})=R_{X}(t_{1},t_{2})=E[X(t_{1})X(t_{2})] \end{align}$$ 自协方差函数：对任意 $t_{1},t_{2}\in T$ 的随机过程的二阶混合中心矩 $$\begin{align} C_{XX}(t_{1},t_{2})=Cov\left[X(t_{1}),X(t_{2})\right]=E\left\{ [X(t_{1})-\mu_{X}(t_{1})][X(t_{2})-\mu_{X}(t_{2})]\right\} \end{align}$$ ### 三、重点研究的过程 #### 二阶矩过程 对于每一个 $t\in T$ ，随机过程 $\left\{X(t),t \in T \right\}$ 的二阶原点矩都存在 $$\begin{align} \varPsi^{2}_{X}(t)=E\left[X^{2}(t)\right] \end{align}$$ 则根据柯西-施瓦茨不等式：二阶矩过程的自相关函数总是存在的 #### 正态过程 更为特殊的二阶矩过程，每一个有限维分布都是[[正态分布\|正态分布]]