平稳时间序列：AR 模型

1. 自协方差函数与自相关函数#

设弱平稳时间序列 $\{Y_t\}$ 的均值为 $\mu$，方差有限且为正。

自协方差函数（Autocovariance Function, ACVF）：描述同一弱平稳时间序列相隔 $k$ 期的两个随机变量之间线性共同变动程度的函数，定义为：

由于弱平稳过程的协方差只取决于时间间隔，$\gamma_k$ 不依赖具体时点 $t$。平稳使同一个滞后 $k$ 在样本不同位置具有同一种统计含义，因此能够用整段历史估计同一个 $\gamma_k$ 和 $\rho_k$。其基本性质为：

自相关函数（Autocorrelation Function, ACF）：将自协方差按过程方差标准化所得、描述同一弱平稳时间序列相隔 $k$ 期随机变量之间线性相关程度的函数：

因此：

自相关描述时间序列自身不同期之间的线性统计依赖，不构成经济因果关系。

图 3-1 固定比较滞后 $k=2$。左图为平稳 AR(1)，$\phi=0.6$，因此 $\operatorname{Corr}(Y_t,Y_{t-2})=\rho_2=\phi^2=0.36$，与具体时点 $t$ 无关；右图为从 $Y_0=0$ 出发、创新方差恒定的随机游走，此时 $\operatorname{Corr}(Y_t,Y_{t-2})=\sqrt{(t-2)/t}$，同一滞后的相关程度随 $t$ 改变。弱平稳性把“具体时点”从二阶矩结构中去掉，只保留“相隔多少期”。

2. 样本自协方差与样本自相关#

样本自协方差（Sample Autocovariance）：利用有限样本估计总体自协方差的统计量。对观测样本 $y_1,\ldots,y_T$，令：

常用的 $k$ 阶样本自协方差写为：

样本自相关函数（Sample Autocorrelation Function）：由样本自协方差标准化得到的总体 ACF 估计量：

总体参数 $\rho_k$ 与样本统计量 $\hat\rho_k$ 必须区分。即使总体白噪声在所有非零滞后上的自相关均为 0，有限样本中的 $\hat\rho_k$ 也通常不会恰好等于 0。

3. 白噪声、独立白噪声与高斯白噪声#

白噪声过程（White-noise Process）：均值为 0、方差为不随时间变化的有限正数，并且任意两个不同时点之间协方差为 0 的弱平稳过程。记为：

其条件为：

因此白噪声的自协方差函数为：

相应 ACF 为：

独立白噪声（Independent White Noise）：各期随机变量进一步相互独立的白噪声过程。独立性强于零自相关；一般白噪声只要求不同期之间不存在线性相关。

高斯白噪声（Gaussian White Noise）：有限维联合分布均为多元正态分布的白噪声过程。高斯条件下，零协方差蕴含独立性，因此高斯白噪声同时是独立白噪声。

若残差仍存在显著自相关，模型仍遗漏了可由过去线性预测的结构。图 3-2 使用固定种子 20260906 模拟 $T=240$ 的 AR(2) 序列，真实参数为 $\phi_1=0.9$、$\phi_2=-0.35$，随后分别用 OLS 拟合 AR(1) 与 AR(2)。欠拟合的 AR(1) 残差仍保留显著低阶自相关；AR(2) 残差前 12 阶样本 ACF 均落在约 $\pm1.96/\sqrt{T}$ 的白噪声参考范围内。

时间序列建模的一个基本目标，是把可系统预测的线性动态从数据中提取出来，使剩余项不再保留显著线性时序结构。

1. AR(1) 模型与平稳条件#

自回归过程（Autoregressive Process, AR）：当前随机变量由自身有限个滞后值、确定性项和随机扰动线性决定的时间序列过程；其阶数由进入模型的最高非零滞后阶数确定。

一阶自回归过程（First-order Autoregressive Process, AR(1)）：最高非零滞后阶数为 1 的自回归过程，当前随机变量由常数项、自身一期滞后值和当期白噪声创新线性决定：

其中：

• $c$：常数项。
• $\phi$：一阶自回归系数。
• $\varepsilon_t$：均值为 0、方差为 $\sigma_\varepsilon^2$ 的白噪声创新，并与过去的 $Y_{t-j}$ 正交；若采用条件均值解释，则要求 $E(\varepsilon_t\mid\mathcal F_{t-1})=0$。

AR(1) 的齐次特征方程为：

伴随表示的特征值为 $\lambda=\phi$。因而稳定条件为：

等价地，AR 滞后多项式为：

当 $\phi\neq0$ 时，其唯一零点为 $z=1/\phi$；平稳因果 AR(1) 要求该零点位于单位圆外，即 $|z|>1$。当 $\phi=0$ 时，模型退化为常数均值加白噪声，$\Phi(z)=1$ 没有有限零点。

在白噪声创新具有有限方差的条件下，$|\phi|<1$ 保证存在唯一的因果弱平稳解。$\phi=1$ 与 $\phi=-1$ 均位于单位根边界，$|\phi|>1$ 则不满足因果平稳条件。

2. 因果表示与无条件均值#

若 $|\phi|<1$，AR(1) 的无条件均值存在且不随时间变化。对模型两边取期望：

因此：

令中心化过程：

则：

反复向过去迭代 $m$ 期：

由于 $|\phi|<1$，初值项在适当条件下趋于 0，从而得到因果无限阶表示：

即：

该表示说明平稳 AR(1) 是当前及过去创新的线性滤波；第 $j$ 期以前创新的权重为 $\phi^j$。

3. 方差、自协方差与 ACF#

由中心化方程：

且 $\varepsilon_t$ 与过去的 $X_{t-1}$ 正交，可得：

因此平稳 AR(1) 的无条件方差为：

对 $k\geq1$，将中心化方程两边同乘 $X_{t-k}$ 并取期望：

递推得到：

相应的理论 ACF 为 $\rho_k=\phi^{|k|}$。

在 AR(1) 中，$\phi$ 同时是一阶回归系数、一阶自相关和冲击经过一期后的保留比例。$\rho_k=\phi^k$ 表明 ACF 的衰减速度直接反映过程的记忆长度。

因此 AR(1) 的自相关具有几何衰减结构：

AR(1) 中，$|\rho_k|=|\phi|^k$ 对 $k$ 单调下降；这一性质不能直接推广到高阶 AR 模型。

4. 例：平稳 AR(1) 的总体矩与 ACF#

考虑模型：

由于：

该过程满足 AR(1) 平稳条件。其无条件均值为：

无条件方差为：

前 3 阶理论自相关分别为：

有限样本的均值、方差和样本 ACF 会围绕相应总体量波动；在满足常见遍历条件的平稳因果 AR 过程中，样本矩随样本量增加可用于一致估计相应总体矩。

1. AR(2) 模型、均值与平稳性#

二阶自回归过程（Second-order Autoregressive Process, AR(2)）：当前随机变量由常数项、自身前两期滞后值和当期白噪声创新线性决定的随机过程：

使用滞后算子可写为：

其中：

对应的齐次特征方程为：

若两个特征根 $\lambda_1,\lambda_2$ 均满足：

则 AR(2) 的动态系统稳定；在有限方差白噪声创新条件下，对应唯一因果弱平稳解。

等价地，AR 滞后多项式：

的两个零点必须满足 $|z_j|>1$。二阶情况下，平稳参数区域也可写为：

若过程平稳，则无条件均值满足：

因此：

2. AR(2) 的 Yule–Walker 递推#

令 $X_t:=Y_t-\mu$，则中心化模型为：

对 $k\geq1$，两边同乘 $X_{t-k}$ 并取期望。由于当期创新与过去状态正交：

当下标出现负数时使用平稳过程的对称性 $\gamma_{-j}=\gamma_j$。特别地，$k=1$ 时：

所以：

当 $k=2$ 时：

对 $k=0$，创新项贡献自身方差：

上述方程共同决定平稳 AR(2) 的方差与各阶自协方差。

3. ACF 的衰减形态与特征根#

AR(2) 的 ACF 对 $k\geq2$ 满足与齐次动态方程相同的递推：

因此 ACF 的长期形态由特征根决定。若 $\lambda_1\neq\lambda_2$ 为两个实根，则：

其中常数 $A,B$ 由 $\rho_0=1$ 和 $\rho_1$ 决定。平稳条件下 $|\lambda_j|<1$，两个指数项均衰减，但若根异号，ACF 可以出现符号交替或绝对值非单调变化。

若特征根为共轭复根：

则实值 ACF 可写为：

表现为阻尼振荡。模 $r$ 决定衰减速度，角度 $\theta$ 决定振荡周期。AR(2) 已能产生阻尼振荡，因此相关图出现波浪形衰减并不自动意味着季节性。

例如，考虑：

具有特征根 $0.8$ 与 $-0.4$，两者模均小于 1，因此过程平稳。其 ACF 是两个衰减指数项的线性组合，而不是像 AR(1) 那样由单个 $\phi^k$ 决定。

若取：

则特征根为：

且 $|\lambda_{1,2}|=\sqrt{0.5}<1$，因而其 ACF 呈现严格的阻尼振荡结构。

1. AR(p) 模型、滞后多项式与平稳条件#

$p$ 阶自回归过程（$p$th-order Autoregressive Process, AR(p)）：最高非零滞后阶数为 $p$ 的自回归过程，当前随机变量由常数项、自身前 $p$ 期滞后值和当期白噪声创新线性决定，其中 $\phi_p\neq0$：

定义 AR 滞后多项式：

则模型写为：

对应的齐次特征方程为：

平稳因果 AR(p) 过程（Stationary Causal AR(p) Process）：AR 滞后多项式全部零点位于单位圆外、从而能够表示为当前及过去创新的收敛线性滤波的 AR(p) 过程。其等价平稳条件为：

等价地，伴随矩阵的全部特征值 $\lambda_j=1/z_j$ 满足：

在平稳条件下，若无条件均值存在，则：

2. 无限阶冲击表示#

令中心化过程 $X_t:=Y_t-\mu$，则：

在平稳因果条件下，$\Phi(L)$ 存在收敛的逆算子：

因此：

系数 $\psi_j$ 满足递推：

$\psi_j$ 同时给出一次创新对 $j$ 期后变量的动态响应系数。平稳因果条件保证这些冲击权重随期距增加而充分衰减。

3. Yule–Walker 方程#

Yule–Walker 方程（Yule–Walker Equations）：把平稳 AR(p) 的自回归系数、创新方差与总体自协方差联系起来的一组线性矩方程。

对中心化 AR(p)：

当 $k\geq1$ 时：

其中负下标按 $\gamma_{-j}=\gamma_j$ 处理。对 $k=0$：

取 $k=1,\ldots,p$，前 $p$ 个方程可写成矩阵形式：

若自协方差矩阵可逆，则给定 $\gamma_0,\ldots,\gamma_p$ 可以解出 $\phi_1,\ldots,\phi_p$；再由：

得到创新方差。反之，给定 AR 系数与创新方差也可以由这些方程求出理论自协方差。

4. AR(p) 的自相关函数#

将 $k\geq1$ 的 Yule–Walker 方程两边除以 $\gamma_0$，得到：

其中 $\rho_{-j}=\rho_j$、$\rho_0=1$。

因此 AR(p) 的 ACF 满足与模型本身相同的 $p$ 阶线性递推。平稳条件下，ACF 由若干模小于 1 的实指数项或阻尼三角项组合而成，通常随滞后阶数逐渐衰减而不是在有限阶后严格变为 0。

1. 偏自相关函数#

偏自相关函数（Partial Autocorrelation Function, PACF）：在控制 $Y_{t-1},\ldots,Y_{t-k+1}$ 的线性影响后，度量 $Y_t$ 与 $Y_{t-k}$ 之间剩余线性相关程度的函数。

对每个 $k\geq1$，考虑 $Y_t$ 对其前 $k$ 期滞后值的总体最优线性投影：

第 $k$ 阶偏自相关系数定义为最后一个投影系数：

该定义与“分别从 $Y_t$ 和 $Y_{t-k}$ 中剔除中间 $k-1$ 个滞后变量的线性影响后，再计算两个残差的相关系数”等价。图 3-3 以 AR(2) 的二阶滞后为例：ACF(2) 直接度量 $Y_t$ 与 $Y_{t-2}$ 的相关，不控制中间滞后，因此同时保留经 $Y_{t-1}$ 传递和不经 $Y_{t-1}$ 的线性联系；PACF(2) 先剔除 $Y_{t-1}$ 对两端变量的线性影响，再度量剩余相关。图中箭头表示滞后线性传播，不表示经济因果关系。

2. AR(p) 的 PACF 截尾性质#

截尾（Cutoff）：某一理论相关函数从有限滞后阶数之后恒等于 0 的性质。

若真实过程是最小阶数为 $p$ 的平稳 AR(p)，即 $\phi_p\neq0$，则：

因此平稳 AR(p) 的典型理论识别特征为：

• ACF：通常拖尾，即以指数衰减或阻尼振荡方式逐步趋近于 0。
• PACF：在第 $p$ 阶后截尾。

拖尾（Tailing Off）：理论相关函数不在某一有限阶后恒等于 0，而是随着滞后阶数增加逐渐衰减至 0 的性质。

样本 ACF/PACF 是带抽样误差的估计量。即使理论 PACF 在 $p$ 阶后为 0，有限样本的 $\hat\alpha_k$ 也不会在 $k>p$ 时全部恰好为 0。

3. ACF 与 PACF 的理论识别图#

下图直接由 AR 模型参数生成理论 ACF，并利用 Durbin–Levinson 递推计算理论 PACF。所有滞后阶数均为离散整数，图中不使用真实市场数据或目测拟合曲线。

图中的四组模型分别展示：正系数 AR(1) 的同号几何衰减、负系数 AR(1) 的交替衰减、具有复特征根的 AR(2) 阻尼振荡，以及 AR(3) 在第 3 阶后的 PACF 截尾。它们共同满足 AR(p) 的一般识别关系：ACF 的形态由特征根决定，PACF 的理论截尾阶数由最小 AR 阶数决定。