时间序列预测的Box-Jenkins方法入门指南

自回归积分滑动平均模型，简称ARIMA，是时间序列预测和分析的标准统计模型。

随着其发展，Box和Jenkins的作者还提出了一个用于识别、估计和检验特定时间序列数据集的模型的过程。这个过程现在被称为Box-Jenkins方法。

在本文中，您将了解Box-Jenkins方法以及将其用于时间序列预测问题的技巧。

具体来说，您将学习

• 关于ARIMA过程以及Box-Jenkins方法的3个步骤。
• 选择ARIMA模型的q、d和p配置的最佳实践启发式方法。
• 通过查找过拟合和残差误差作为诊断过程来评估模型。

立即开始您的项目，阅读我的新书《Python时间序列预测》，其中包括分步教程和所有示例的Python源代码文件。

让我们开始吧。

时间序列预测的Box-Jenkins方法入门指南
照片由 Erich Ferdinand 拍摄，保留部分权利。

自回归积分滑动平均模型

ARIMA模型是一类用于分析和预测时间序列数据的统计模型。

ARIMA是**A**uto**R**egressive **I**ntegrated **M**oving **A**verage（自回归积分滑动平均）的首字母缩写。它是更简单的自回归滑动平均模型的泛化，并增加了积分的概念。

这个缩写是描述性的，抓住了模型本身的特点。简而言之，它们是：

• AR：自回归。一种模型，它使用观察值与若干滞后观察值之间的依赖关系。
• I：积分。通过对原始观察值进行差分（即用前一个时间步的观察值减去当前时间步的观察值）来使时间序列平稳。
• MA：滑动平均。一种模型，它使用观察值与应用于滞后观察值的滑动平均模型中的残差误差之间的依赖关系。

这些组成部分中的每一个都在模型中作为参数明确指定。

使用标准表示法*ARIMA(p,d,q)*，其中参数被整数值替换，以快速指示正在使用的特定ARIMA模型。

ARIMA模型的参数定义如下：

• p：模型中包含的滞后观察值的数量，也称为滞后阶数。
• d：对原始观察值进行差分的次数，也称为差分阶数。
• q：滑动平均窗口的大小，也称为滑动平均阶数。

Box-Jenkins方法

Box-Jenkins方法由George Box和Gwilym Jenkins在其开创性的1970年教科书《时间序列分析：预测与控制》中提出。

该方法的前提是，如果时间序列是平稳的，则生成该序列的过程可以用ARMA模型来近似；如果是非平稳的，则用ARIMA模型来近似。

该教科书的2016年第5版（第二部分，第177页）将该过程称为随机模型构建，并指出它是一个迭代过程，包含以下3个步骤：

1. 识别。使用数据和所有相关信息来帮助选择最能概括数据的模型子类。
2. 估计。使用数据训练模型的参数（即系数）。
3. 诊断检查。在可用数据的背景下评估拟合的模型，并检查模型可以改进的方面。

这是一个迭代过程，因此，在诊断过程中获得新信息后，您可以返回第一步，将其纳入新的模型类别。

让我们更详细地看看这些步骤。

1. 识别

识别步骤进一步细分为：

1. 评估时间序列是否平稳，如果不平稳，则需要多少差分才能使其平稳。
2. 确定数据的ARMA模型的参数。

1.1 差分

以下是一些识别期间的技巧。

• 单位根检验。对时间序列使用单位根统计检验，以确定它是否平稳。每次差分后重复进行。
• 避免过度差分。对时间序列进行过多差分会引入额外的序列相关性和额外的复杂性。

1.2 配置AR和MA

可以使用两个诊断图来帮助选择ARMA或ARIMA的p和q参数。它们是：

• 自相关函数 (ACF)。该图总结了观察值与滞后值的相关性。x轴显示滞后，y轴显示-1到1之间的相关系数，分别表示负相关和正相关。
• 偏自相关函数 (PACF)。该图总结了观察值与滞后值之间的相关性，但排除了先前滞后观察值的影响。

这两个图都显示为条形图，其中水平线表示95%和99%的置信区间。因此，跨越这些置信区间的条形更具显著性，值得注意。

在这些图上您可能会观察到的一些有用模式是：

• 如果ACF在某个滞后后逐渐减小，而PACF在某个滞后后突然截止，则模型为AR。此滞后值作为p的值。
• 如果PACF在某个滞后后逐渐减小，而ACF在某个滞后后突然截止，则模型为MA。此滞后值作为q的值。
• 如果ACF和PACF都逐渐减小，则模型是AR和MA的混合。

2. 估计

估计涉及使用数值方法来最小化损失或误差项。

我们不会详细介绍模型参数的估计，因为这些细节由所选的库或工具处理。

我建议参考教科书，以更深入地理解ARMA和ARIMA模型需要解决的优化问题以及用于解决它的优化方法，例如有限内存BFGS。

3. 诊断检查

诊断检查的目的是寻找模型与数据不匹配的证据。

以下是两个有用的诊断检查领域：

1. 过拟合
2. 残差误差。

3.1 过拟合

第一个检查是检查模型是否过拟合数据。通常，这意味着模型比必需的更复杂，并且捕获了训练数据中的随机噪声。

这对于时间序列预测是一个问题，因为它会负面影响模型泛化能力，导致在样本外数据上预测性能不佳。

必须仔细关注样本内和样本外性能，这需要仔细设计一个强大的测试框架来评估模型。

3.2 残差误差

预测残差为诊断提供了绝佳的机会。

检查误差的分布有助于揭示模型的偏差。理想模型的误差应类似于白噪声，即均值为零、方差对称的高斯分布。

为此，您可以使用密度图、直方图和Q-Q图来比较误差分布与预期分布。非高斯分布可能表明数据预处理的机会。分布的偏斜或非零均值可能表明预测存在偏差，可能需要纠正。

此外，理想模型在预测残差的时间序列中不应留下任何时间结构。可以通过创建残差误差时间序列的ACF和PACF图来检查这些。

残差误差中存在序列相关性表明有机会在模型中使用这些信息。

进一步阅读

该主题的权威资源是《时间序列分析：预测与控制》。我推荐2016年第5版，特别是第二部分和第6-10章。

以下是一些额外的阅读材料，如果您想深入了解，可以帮助您更全面地理解：

• Box-Jenkins建模，作者：Rob J Hyndman，2002 [PDF]。
• 维基百科上的Box-Jenkins方法。
• 统计方法手册第6.4.4.5节. Box-Jenkins模型，NIST。

总结

在本文中，您了解了用于时间序列分析和预测的Box-Jenkins方法。

具体来说，你学到了：

• 关于ARIMA模型和通用的Box-Jenkins方法的3个步骤。
• 如何使用ACF和PACF图来选择ARIMA模型的p和q参数。
• 如何使用过拟合和残差误差来诊断拟合的ARIMA模型。

您对Box-Jenkins方法或本文有任何疑问吗？
在下面的评论中提出你的问题，我会尽力回答。

想用Python开发时间序列预测吗？

几分钟内开发您自己的预测

...只需几行python代码

在我的新电子书中探索如何实现
Python 时间序列预测入门

它涵盖了**自学教程**和**端到端项目**，主题包括：*数据加载、可视化、建模、算法调优*等等。

最终将时间序列预测带入
您自己的项目

跳过学术理论。只看结果。

查看内容