如何在 Keras 中使用 TimeseriesGenerator 进行时间序列预测

时间序列数据必须被转换为具有输入和输出组件的样本结构，然后才能用于拟合监督学习模型。

如果您必须手动执行此转换，可能会很困难。Keras 深度学习库提供了 TimeseriesGenerator，可以自动将单变量和多变量时间序列数据转换为样本，为训练深度学习模型做好准备。

在本教程中，您将了解如何使用 Keras TimeseriesGenerator 为深度学习方法准备时间序列数据进行建模。

完成本教程后，您将了解：

• 如何定义 TimeseriesGenerator 生成器并使用它来拟合深度学习模型。
• 如何为单变量时间序列准备生成器并拟合 MLP 和 LSTM 模型。
• 如何为多变量时间序列准备生成器并拟合 LSTM 模型。

开始您的项目，阅读我的新书《时间序列预测深度学习》，其中包含分步教程和所有示例的Python源代码文件。

让我们开始吧。

如何在 Keras 中使用 TimeseriesGenerator 进行时间序列预测
图片来源：Chris Fithall，保留部分权利。

教程概述

本教程分为六个部分；它们是：

1. 时间序列用于监督学习的问题
2. 如何使用 TimeseriesGenerator
3. 单变量时间序列示例
4. 多变量时间序列示例
5. 多变量输入和相关序列示例
6. 多步预测示例

注意：本教程假设您使用的是 Keras v2.2.4 或更高版本。

时间序列用于监督学习的问题

在将时间序列数据用于训练监督学习模型（如深度学习模型）之前，需要进行准备。

例如，单变量时间序列表示为观察向量

监督学习算法要求数据以样本集合的形式提供，其中每个样本都有一个输入组件 (X) 和一个输出组件 (y)。

模型将从提供的示例中学习如何将输入映射到输出。

时间序列必须转换为具有输入和输出组件的样本。这种转换既告知模型将学习什么，也告知您将来在进行预测时如何使用该模型（例如，预测需要什么（X），以及进行的预测是什么（y））。

对于感兴趣进行一步预测的单变量时间序列，将先前时间步长的观察值（即滞后观察值）用作输入，并将当前时间步长的观察值作为输出。

例如，上述 10 步单变量序列可以表示为监督学习问题，其中三个时间步长作为输入，一个时间步长作为输出，如下所示：

您可以编写代码自己执行此转换；例如，请参阅帖子

• 如何在 Python 中将时间序列转换为监督学习问题

或者，当您有兴趣使用 Keras 训练神经网络模型时，可以使用 TimeseriesGenerator 类。

如何使用 TimeseriesGenerator

Keras 提供了 TimeseriesGenerator，可用于自动将单变量或多变量时间序列数据集转换为监督学习问题。

使用 TimeseriesGenerator 分为两个部分：定义它以及使用它来训练模型。

定义 TimeseriesGenerator

您可以创建该类的实例，并指定时间序列问题的输入和输出方面，它将提供一个 Sequence 类的实例，然后可以使用该实例在序列的输入和输出之间进行迭代。

在大多数时间序列预测问题中，输入和输出序列将是相同的序列。

例如

严格来说，该类不是生成器，因为它不是 Python Generator，您不能对其使用 next() 函数。

除了指定时间序列问题的输入和输出方面之外，还有一些额外的参数应进行配置；例如：

• length：每个样本的输入部分中要使用的滞后观察值数量（例如，3）。
• batch_size：每次迭代要返回的样本数量（例如，32）。

您必须根据您设计的有问题框架定义 length 参数。即要用作输入的所需滞后观察值数量。

您还必须定义 batch size，也就是训练期间模型的 batch size。如果数据集中的样本数量少于 batch size，您可以将生成器和模型中的 batch size 设置为生成器中的样本总数，方法是计算其长度；例如：

还有其他参数，例如定义数据中的起始和结束偏移量、采样率、步幅等。您不太可能使用这些功能，但您可以在 完整 API 中找到更多详细信息。

默认情况下，样本不进行洗牌。这对于一些在批次中跨样本维护状态的循环神经网络（如 LSTM）很有用。

对于一些神经网络（如 CNN 和 MLP），在训练时洗牌样本会受益。通过将 ‘shuffle‘ 参数设置为 True 可以启用洗牌。这将起到对每个批次返回的样本进行洗牌的作用。

在撰写本文时，TimeseriesGenerator 仅限于一步输出。不支持多步时间序列预测。

使用 TimeseriesGenerator 训练模型

一旦定义了 TimeseriesGenerator 实例，就可以使用它来训练神经网络模型。

可以使用 TimeseriesGenerator 作为数据生成器来训练模型。这可以通过使用 fit_generator() 函数拟合定义的模型来实现。

此函数将生成器作为参数。它还接受一个 steps_per_epoch 参数，该参数定义每个 epoch 中要使用的样本数量。可以将其设置为 TimeseriesGenerator 实例的长度，以使用生成器中的所有样本。

例如

同样，可以通过调用 evaluate_generator() 函数使用生成器来评估已拟合的模型，并使用 predict_generator() 函数使用已拟合的模型对新数据进行预测。

使用数据生成器拟合的模型不必使用生成器版本的评估和预测函数。只有当您希望数据生成器为模型准备数据时，才能使用它们。

单变量时间序列示例

我们可以通过一个关于小型人为单变量时间序列数据集的实际示例来具体说明 TimeseriesGenerator。

首先，让我们定义数据集。

我们将选择这样构建问题：使用最后两个滞后观察值来预测序列中的下一个值。例如：

目前，我们将 batch size 设置为 1，以便我们可以探索生成器中的数据。

接下来，我们可以查看数据生成器为此时间序列准备了多少样本。

最后，我们可以打印每个样本的输入和输出组件，以确认数据已按预期准备好。

完整的示例如下所示。

运行此示例将首先打印生成器中的样本总数，即八个。

然后，我们可以看到每个输入数组的形状为 [1, 2]，每个输出的形状为 [1,]。

观察结果符合我们的预期，有两个滞后观察值将用作输入，随后的值将用作输出。

现在我们可以用这个数据拟合一个模型，学习将输入序列映射到输出序列。

我们将从一个简单的多层感知器（MLP）模型开始。

将生成器定义为使用每个批次的所有样本，鉴于样本数量很少。

我们可以定义一个具有 50 个节点的隐藏层和一个进行预测的输出层的简单模型。

然后，我们可以使用 fit_generator() 函数，用生成器拟合模型。生成器中只有一小批数据，因此我们将 steps_per_epoch 设置为 1。模型将训练 200 个 epoch。

拟合完成后，我们将进行一个样本外的预测。

给定输入 [9, 10]，我们将进行预测，并期望模型预测 [11] 或接近它的值。模型未经优化，这只是一个如何使用生成器的示例。

完整的示例如下所示。

注意：您的 结果可能因算法或评估程序的随机性、或数值精度的差异而有所不同。考虑运行该示例几次并比较平均结果。

运行该示例会准备生成器、拟合模型并进行样本外预测，正确预测出接近 11 的值。

我们也可以使用生成器来拟合循环神经网络，例如长短期记忆网络（LSTM）。

LSTM 期望数据输入具有 [samples, timesteps, features] 的形状，而到目前为止所述的生成器将滞后观察值作为特征提供，形状为 [samples, features]。

我们可以将单变量时间序列在准备生成器之前重塑为 [10, 1]，代表 10 个时间步长和 1 个特征；例如：

TimeseriesGenerator 然后会将序列拆分为具有 [batch, n_input, 1] 或 [8, 2, 1] 形状的样本，其中包含生成器中的所有八个样本以及用作时间步长的两个滞后观察值。

完整的示例如下所示。

注意：您的 结果可能因算法或评估程序的随机性、或数值精度的差异而有所不同。考虑运行该示例几次并比较平均结果。

再次，运行示例将准备数据、拟合模型并预测序列中的下一个样本外值。

多变量时间序列示例

TimeseriesGenerator 也支持多变量时间序列问题。

这些问题是指您有多个并行序列，每个序列在同一时间步长都有观察值。

我们可以通过一个示例来演示这一点。

首先，我们可以人为地创建两个并行序列的数据集。

将多变量时间序列格式化为每个时间序列是一个单独的列，行是每个时间步长的观察值，这是一种标准结构。

我们定义了序列为向量，但我们可以将它们转换为列。我们可以将每个序列重塑为一个形状为 [10, 1] 的数组，代表 10 个时间步长和 1 个特征。

现在，我们可以通过调用 hstack() NumPy 函数将列水平堆叠到一个数据集中。

现在，我们可以直接将此数据集提供给 TimeseriesGenerator。我们将使用每个序列的先前两个观察值作为输入，并使用每个序列的下一个观察值作为输出。

每个样本将是一个三维数组 [1, 2, 2]，代表 1 个样本、2 个时间步长和 2 个特征（或并行序列）。输出将是一个二维序列 [1, 2]，代表 1 个样本和 2 个特征。第一个样本将是：

完整的示例如下所示。

运行该示例将首先打印准备好的数据集，然后是数据集中样本的总数。

接下来，打印每个样本的输入和输出部分，确认了我们的预期结构。

样本的三维结构意味着生成器不能直接用于 MLP 等简单模型。

这可以通过在将时间序列数据集提供给 TimeseriesGenerator 之前将其展平为一维向量，并将 length 设置为要用作输入的步数乘以序列中的列数（n_steps * n_features）来实现。

这种方法的一个限制是，生成器只允许您预测一个变量。对于多变量时间序列，您几乎肯定最好自己编写一个函数来准备数据，而不是使用 TimeseriesGenerator。

样本的三维结构可以直接用于 CNN 和 LSTM 模型。下面列出了使用 TimeseriesGenerator 进行多变量时间序列预测的完整示例。

注意：您的 结果可能因算法或评估程序的随机性、或数值精度的差异而有所不同。考虑运行该示例几次并比较平均结果。

运行示例将准备数据、拟合模型，并预测每个输入时间序列的下一个值，我们期望为 [110, 115]。

多变量输入和相关序列示例

存在一些多变量时间序列问题，其中有一个或多个输入序列和一个需要预测的单独输出序列，该序列依赖于输入序列。

为了具体说明，我们可以人为地创建一个包含两个输入时间序列和一个输出序列的示例，该输出序列是输入序列的总和。

其中输出序列中的值是输入时间序列中同一时间步长值的总和。

这与之前的示例不同，在这些示例中，给定输入，我们希望预测目标时间序列中的下一个时间步长值，而不是输入相同的当前时间步长。

例如，我们想要如下所示的样本：

我们不想要如下所示的样本：

尽管如此，TimeseriesGenerator 类假定我们要预测下一个时间步长，并将按上述第二种情况提供数据。

例如

运行示例将打印样本的输入和输出部分，输出值是下一个时间步长的值，而不是我们对此类问题可能期望的当前时间步长的值。

因此，我们可以修改目标序列（out_seq）并在开头插入一个额外的值，以将所有观察值向下移动一个时间步长。

这种人工移位将允许我们偏好的问题构建。

包含此移位的完整示例将在下面提供。

运行示例将显示问题偏好的构建方式。

这种方法将适用于输入样本的长度，无论其长度如何。

多步预测示例

与许多其他经典和机器学习模型相比，神经网络模型的一个优点是它们可以进行多步预测。

也就是说，模型可以学习将一个或多个特征的输入模式映射到多个特征的输出模式。这可以在时间序列预测中用于直接预测多个未来时间步。

这可以通过模型直接输出向量来实现，通过将所需的输出数量指定为输出层中的节点数，或者可以通过专门的序列预测模型（如编码器-解码器模型）来实现。

TimeseriesGenerator 的一个限制是它不直接支持多步输出。具体来说，它不会创建目标序列中可能需要的多个时间步。

尽管如此，如果您准备的目标序列有多个时间步，它将遵守并将其作为每个样本的输出部分。这意味着您有责任为每个时间步准备预期的输出。

我们可以用一个简单的单变量时间序列来演示这一点，该序列在输出序列中有两个时间步。

您可以看到目标序列中的行数必须与输入序列中的行数相同。在这种情况下，我们必须知道超出输入序列的值，或者将输入序列截断到目标序列的长度。

完整的示例如下所示。

运行示例会打印样本的输入和输出部分，显示两个滞后观测作为输入，以及多步预测问题中的两个时间步作为输出。

进一步阅读

如果您想深入了解，本节提供了更多关于该主题的资源。

• 如何在 Python 中将时间序列转换为监督学习问题
• TimeseriesGenerator Keras API
• Sequence Keras API
• Sequential Model Keras API
• Python Generator

总结

在本教程中，您了解了如何使用 Keras TimeseriesGenerator 为深度学习模型准备时间序列数据。

具体来说，你学到了：

• 如何定义 TimeseriesGenerator 生成器并使用它来拟合深度学习模型。
• 如何为单变量时间序列准备生成器并拟合 MLP 和 LSTM 模型。
• 如何为多变量时间序列准备生成器并拟合 LSTM 模型。

你有什么问题吗？
在下面的评论中提出你的问题，我会尽力回答。

立即开发时间序列深度学习模型！

在几分钟内开发您自己的预测模型

...只需几行python代码

在我的新电子书中探索如何实现
用于时间序列预测的深度学习

它提供关于以下主题的自学教程：
CNN、LSTM、多元预测、多步预测等等...

最终将深度学习应用于您的时间序列预测项目

跳过学术理论。只看结果。

查看内容