使用 Python 和 Keras 中的卷积神经网络识别手写数字

深度学习技术能力的一个流行演示是图像数据中的目标识别。

机器学习和深度学习中对象识别的“你好世界”是用于手写数字识别的 MNIST 数据集。

在这篇文章中，您将学习如何使用 Keras 深度学习库在 Python 中开发一个深度学习模型，以在 MNIST 手写数字识别任务上实现接近最先进的性能。

完成本教程后，您将了解：

• 如何在 Keras 中加载 MNIST 数据集
• 如何开发和评估用于 MNIST 问题的基线神经网络模型
• 如何为 MNIST 实现和评估一个简单的卷积神经网络
• 如何为 MNIST 实现一个接近最先进的深度学习模型

通过我的新书《使用 Python 进行深度学习》启动您的项目，包括分步教程和所有示例的 Python 源代码文件。

让我们开始吧。

• 2016 年 6 月：首次发布
• 2016 年 10 月更新：更新至 Keras 1.1.0、TensorFlow 0.10.0 和 scikit-learn v0.18
• 2017 年 3 月更新：更新至 Keras 2.0.2、TensorFlow 1.0.1 和 Theano 0.9.0
• 2019 年 9 月更新：更新至 Keras 2.2.5 API
• 2022 年 7 月更新：更新至 TensorFlow 2.x API

请注意，本教程的扩展版本，请参阅

• 如何开发用于 MNIST 数字分类的深度 CNN

使用 Python 和 Keras 中的卷积神经网络识别手写数字
照片由 Jamie 拍摄，保留部分权利。

MNIST 手写数字识别问题描述

MNIST 问题是 Yann LeCun、Corinna Cortes 和 Christopher Burges 开发的一个数据集，用于评估机器学习模型在手写数字分类问题上的表现。

该数据集是从国家标准与技术研究院 (NIST) 提供的多个扫描文档数据集中构建的。数据集的名称由此而来，即 Modified NIST 或 MNIST 数据集。

数字图像取自各种扫描文档，经过大小归一化和居中处理。这使其成为评估模型的绝佳数据集，让开发人员能够专注于机器学习，而无需最少的数据清理或准备。

每个图像都是一个 28×28 像素的正方形（总共 784 像素）。使用标准的数据集拆分来评估和比较模型，其中 60,000 张图像用于训练模型，另外 10,000 张图像用于测试模型。

这是一个数字识别任务。因此，有十个数字（0 到 9）或十个类别需要预测。结果使用预测误差报告，这无非是反向的分类准确率。

出色的结果可以实现低于 1% 的预测误差。使用大型卷积神经网络可以实现大约 0.2% 的最先进预测误差。在 Rodrigo Benenson 的网页上列出了 MNIST 和其他数据集的最先进结果以及相关论文的链接。

在 Keras 中加载 MNIST 数据集

Keras 深度学习库提供了一种方便的方法来加载 MNIST 数据集。

首次调用此函数时，数据集将自动下载并存储在您的主目录中 ~/.keras/datasets/mnist.npz，文件大小为 11MB。

这对于开发和测试深度学习模型非常方便。

为了演示加载 MNIST 数据集是多么容易，首先，编写一个小脚本来下载并可视化训练数据集中的前四张图像。

您可以看到，下载和加载 MNIST 数据集就像调用 mnist.load_data() 函数一样简单。运行上面的示例，您应该会看到下面的图像。

MNIST 数据集中的示例

带多层感知器的基线模型

您真的需要像卷积神经网络这样的复杂模型才能在 MNIST 上获得最佳结果吗？

使用只有单个隐藏层的非常简单的神经网络模型可以获得非常好的结果。在本节中，您将创建一个简单的多层感知器模型，该模型实现了 1.74% 的错误率。您将以此作为基线来比较更复杂的卷积神经网络模型。

让我们首先导入您需要的类和函数。

现在，您可以使用 Keras 辅助函数加载 MNIST 数据集。

训练数据集被构造为一个三维数组，包含实例、图像宽度和图像高度。对于多层感知器模型，您必须将图像缩小为像素向量。在这种情况下，28×28 大小的图像将是 784 个像素输入值。

您可以使用 NumPy 数组上的 reshape() 函数轻松完成此转换。您还可以通过强制像素值的精度为 32 位来减少内存需求，这也是 Keras 默认使用的精度。

像素值是介于 0 和 255 之间的灰度值。在使用神经网络模型时，对输入值进行一些缩放几乎总是一个好主意。由于比例是众所周知且表现良好的，因此您可以通过将每个值除以最大值 255 来非常快速地将像素值归一化到 0 到 1 的范围。

最后，输出变量是一个从 0 到 9 的整数。这是一个多类分类问题。因此，对类别值使用 One-Hot 编码，将类别整数向量转换为二进制矩阵是一个好习惯。

您可以使用 Keras 中内置的 tf.keras.utils.to_categorical() 辅助函数轻松完成此操作。

现在您已经准备好创建您的简单神经网络模型。您将在一个函数中定义您的模型。如果您想稍后扩展示例并尝试获得更好的分数，这会很方便。

该模型是一个简单的神经网络，有一个隐藏层，其中神经元的数量与输入（784 个）相同。隐藏层中的神经元使用整流器激活函数。

输出层使用 softmax 激活函数，将输出转换为类似概率的值，并允许从十个类别中选择一个作为模型的输出预测。对数损失用作损失函数（在 Keras 中称为 categorical_crossentropy），并且高效的 ADAM 梯度下降算法用于学习权重。

现在您可以拟合和评估模型了。模型经过十个 epoch 的拟合，每 200 张图像更新一次。测试数据用作验证数据集，让您可以查看模型训练时的技能。使用 verbose 值为 2 以将每个训练 epoch 的输出减少到一行。

最后，使用测试数据集评估模型，并打印分类错误率。

将所有这些整合在一起后，完整的代码列表如下。

在 CPU 上运行示例可能需要几分钟。

注意：由于算法或评估过程的随机性或数值精度差异，您的结果可能会有所不同。考虑多次运行示例并比较平均结果。

您应该会看到下面的输出。这个用很少代码行定义的非常简单的网络实现了 2.3% 的可观错误率。

用于 MNIST 的简单卷积神经网络

既然您已经了解了如何加载 MNIST 数据集并训练一个简单的多层感知器模型，那么现在是时候开发一个更复杂的卷积神经网络（CNN）模型了。

Keras 确实提供了许多创建卷积神经网络的功能。

在本节中，您将为 MNIST 创建一个简单的 CNN，演示如何使用现代 CNN 实现的所有方面，包括卷积层、池化层和 Dropout 层。

第一步是导入所需的类和函数。

接下来，您需要加载 MNIST 数据集并将其重塑，使其适合训练 CNN。在 Keras 中，用于二维卷积的层期望像素值具有 [像素][宽度][高度][通道] 的维度。

请注意，在此示例中，为了保持一致性，您强制使用所谓的通道优先排序。

在 RGB 的情况下，最后一个维度像素将为 3，分别表示红色、绿色和蓝色分量，就像每个彩色图像有三个图像输入一样。在 MNIST 的情况下，像素值为灰度，因此像素维度设置为 1。

和以前一样，将像素值归一化到 0 到 1 的范围并对输出变量进行 One-Hot 编码是一个好主意。

接下来，定义你的神经网络模型。

卷积神经网络比标准的多层感知器更复杂，因此您将从使用一个简单结构开始，该结构使用所有元素以获得最先进的结果。下面总结了网络架构。

1. 第一个隐藏层是一个称为 Convolution2D 的卷积层。该层有 32 个特征图，大小为 5×5，并使用整流器激活函数。这是输入层，它期望具有上述结构：[像素][宽度][高度] 的图像。
2. 接下来，定义一个池化层，它采用最大值，称为 MaxPooling2D。它配置为 2×2 的池大小。
3. 下一层是一个使用 Dropout 的正则化层。它被配置为随机排除层中 20% 的神经元，以减少过拟合。
4. 接下来是一个将二维矩阵数据转换为向量的层，称为 Flatten。它允许输出由标准的全连接层处理。
5. 接下来是一个包含 128 个神经元和整流器激活函数的全连接层。
6. 最后，输出层有十个神经元，对应十个类别，并使用 softmax 激活函数为每个类别输出类似概率的预测。

和以前一样，模型使用对数损失和 ADAM 梯度下降算法进行训练。

您以与多层感知器相同的方式评估模型。CNN 经过十个 epoch 的拟合，批量大小为 200。

将所有这些整合在一起后，完整的示例列在下面。

运行示例后，会打印每个 epoch 的训练和验证测试的准确率，最后打印分类错误率。

注意：由于算法或评估过程的随机性或数值精度差异，您的结果可能会有所不同。考虑多次运行示例并比较平均结果。

在 GPU 上（例如，在 AWS 上）运行一个 epoch 可能需要大约 45 秒。您可以看到该网络的错误率为 1.19%，这比我们上面简单的多层感知器模型要好。

用于 MNIST 的大型卷积神经网络

既然您已经了解了如何创建一个简单的 CNN，那么让我们看看一个能够接近最先进结果的模型。

您将导入类和函数，然后像前面的 CNN 示例一样加载和准备数据。

这次您将定义一个包含额外卷积层、最大池化层和全连接层的大型 CNN 架构。网络拓扑可以总结如下：

1. 30 个特征图的卷积层，大小为 5×5
2. 在 2*2 补丁上进行最大池化的池化层
3. 15 个特征图的卷积层，大小为 3×3
4. 在 2*2 补丁上进行最大池化的池化层
5. 概率为 20% 的 Dropout 层
6. 展平层
7. 具有 128 个神经元和整流器激活的全连接层
8. 具有 50 个神经元和整流器激活的全连接层
9. 输出层

与前两个实验一样，模型经过十个 epoch 的拟合，批量大小为 200。

将所有这些整合在一起后，完整的示例列在下面。

运行示例会打印每个 epoch 的训练和验证数据集的准确率，以及最终的分类错误率。

注意：由于算法或评估过程的随机性或数值精度差异，您的结果可能会有所不同。考虑多次运行示例并比较平均结果。

该模型每个 epoch 运行大约 100 秒。这个稍大的模型实现了 0.83% 的可观分类错误率。

这不是一个优化的网络拓扑。也不是对近期论文中网络拓扑的复现。您有很大的机会来调整和改进此模型。

您能达到的最佳错误率是多少？

在评论中发布您的配置和最佳分数。

MNIST 资源

MNIST 数据集经过深入研究。以下是您可能想查阅的一些额外资源。

• 官方 MNIST 数据集网页
• Rodrigo Benenson 的网页，列出了最先进的结果
• 使用此数据集的 Kaggle 竞赛（查看脚本和论坛部分以获取示例代码）
• 在浏览器中可以测试的只读 MNIST 训练模型（非常酷）

总结

在这篇文章中，您发现了 MNIST 手写数字识别问题以及使用 Keras 库在 Python 中开发的能够取得出色结果的深度学习模型。

通过本教程，您学会了

• 如何在 Keras 中加载 MNIST 数据集并生成数据集图表
• 如何重塑 MNIST 数据集并开发一个简单但性能良好的多层感知器模型来解决该问题
• 如何使用 Keras 创建用于 MNIST 的卷积神经网络模型
• 如何开发和评估能够达到接近世界级结果的更大规模的 MNIST CNN 模型。

您对手写识别深度学习或这篇文章有任何疑问吗？请在评论中提出您的问题，我将尽力回答。