使用 Keras 深度学习库通过 CNN 进行对象分类

Keras 是一个用于深度学习的 Python 库，它封装了强大的数值库 Theano 和 TensorFlow。

传统神经网络在解决一个困难问题时会遇到瓶颈，这个问题被称为对象识别。它指的是模型能够识别图像中的对象。

在这篇文章中，你将学习如何在 Keras 中开发和评估用于对象识别的深度学习模型。完成本教程后，你将了解：

• 关于 CIFAR-10 对象分类数据集以及如何在 Keras 中加载和使用它
• 如何创建用于对象识别的简单卷积神经网络
• 如何通过创建更深层的卷积神经网络来提升性能

通过我的新书《使用 Python 进行深度学习》启动你的项目，其中包括分步教程和所有示例的 Python 源代码文件。

让我们开始吧。

• 2016 年 7 月：首次发布
• 2016 年 10 月更新：针对 Keras 1.1.0 和 TensorFlow 0.10.0 进行了更新。
• 2017 年 3 月更新：针对 Keras 2.0.2、TensorFlow 1.0.1 和 Theano 0.9.0 进行了更新。
• 2019 年 9 月更新：针对 Keras 2.2.5 API 进行了更新。
• 2022 年 7 月更新：更新至 TensorFlow 2.x API

有关为 CIFAR-10 开发 CNN 的扩展教程，请参阅以下帖子：

• 如何从零开始开发用于 CIFAR-10 照片分类的 CNN

CIFAR-10 问题描述

自动分类对象照片的问题非常困难，因为对象的排列、位置、光照等因素几乎是无限的。这是一个棘手的问题。

这是计算机视觉领域的一个热门研究问题，最近也成为深度学习能力的重要展示。为此问题开发的标准计算机视觉和深度学习数据集是由加拿大高级研究所（CIFAR）开发的。

CIFAR-10 数据集包含 60,000 张照片，分为 10 个类别（因此得名 CIFAR-10）。类别包括飞机、汽车、鸟、猫等常见物体。数据集以标准方式划分，其中 50,000 张图像用于模型训练，其余 10,000 张用于评估其性能。

照片为彩色，包含红、绿、蓝分量，但尺寸较小，为 32 x 32 像素的正方形。

使用非常大的卷积神经网络可以获得最先进的结果。你可以在Rodrigo Benenson 的网页上了解 CIFAR-10 的最先进结果。模型性能以分类准确率报告，高于 90% 的性能非常好，人类在此问题上的性能为 94%，撰写本文时最先进的结果为 96%。

有一个使用 CIFAR-10 数据集的 Kaggle 竞赛。这是一个加入讨论开发新模型并获取模型和脚本作为起点的绝佳场所。

在 Keras 中加载 CIFAR-10 数据集

CIFAR-10 数据集可以很容易地在 Keras 中加载。

Keras 具有通过 `cifar10.load_data()` 函数自动下载 CIFAR-10 等标准数据集并将其存储在 `~/.keras/datasets` 目录中的功能。此数据集大小为 163 兆字节，因此可能需要几分钟才能下载。

下载后，后续调用该函数将加载数据集以供使用。

数据集以腌制训练集和测试集的形式存储，可在 Keras 中使用。每个图像都表示为一个三维矩阵，具有红、绿、蓝、宽度和高度的维度。我们可以直接使用 matplotlib 绘制图像。

运行代码会创建一个 3x3 的照片图。图像已经从 32x32 的小尺寸放大，但你仍然可以清楚地看到卡车、马和汽车。你还可以看到一些图像被强制转换为方形长宽比后出现的一些失真。

CIFAR-10 图像小样本

用于 CIFAR-10 的简单卷积神经网络

CIFAR-10 问题最好使用卷积神经网络 (CNN) 解决。

你可以通过定义此示例中需要的所有类和函数来快速开始。

接下来，你可以加载 CIFAR-10 数据集。

红色、绿色和蓝色通道的像素值范围从 0 到 255。

使用归一化数据是一种好习惯。因为输入值易于理解，所以你可以通过将每个值除以最大观测值（即 255）来轻松归一化到 0 到 1 的范围。

请注意，数据以整数形式加载，因此你必须将其转换为浮点值才能执行除法。

输出变量定义为一个整数向量，范围从 0 到 1，表示每个类别。

你可以使用独热编码将它们转换为二进制矩阵，以最好地模拟分类问题。此问题有十个类别，因此你可以预期二进制矩阵的宽度为 10。

让我们从定义一个简单的 CNN 结构作为基线开始，并评估它在这个问题上的表现。

你将使用一个包含两个卷积层，然后是最大池化层和网络平坦化到全连接层的结构来做出预测。

基线网络结构可以总结如下：

1. 卷积输入层，32 个特征图，大小为 3x3，使用整流器激活函数，权重约束最大范数设置为 3
2. Dropout 设置为 20%
3. 卷积层，32 个特征图，大小为 3x3，使用整流器激活函数，权重约束最大范数设置为 3
4. 最大池化层，大小为 2x2
5. 展平层
6. 全连接层，512 个单元，使用整流器激活函数
7. Dropout 设置为 50%
8. 全连接输出层，10 个单元，使用 softmax 激活函数

使用对数损失函数，并使用随机梯度下降优化算法，配置为具有大学习率 0.01 的大动量和权重衰减。

你可以使用 25 个 epoch 和 32 的批次大小来拟合这个模型。

选择少量 epoch 是为了让本教程更容易理解。通常，对于这个问题，epoch 的数量会大一个或两个数量级。

模型拟合后，你将在测试数据集上评估它，并打印出分类准确率。

将所有这些结合起来，完整的示例如下所示。

运行此示例将提供以下结果。首先，总结了网络结构，这证实了设计已正确实现。

每个 epoch 后，训练和测试数据集上的分类准确率和损失都会被打印出来。

注意：由于算法或评估过程的随机性，或者数值精度的差异，你的结果可能会有所不同。考虑多次运行示例并比较平均结果。

该模型在测试集上进行评估，准确率达到 70.5%，这并不出色。

你可以通过创建一个更深层的网络来显著提高准确率。这就是你将在下一节中探讨的内容。

用于 CIFAR-10 的大型卷积神经网络

你已经看到，一个简单的 CNN 在这个复杂问题上表现不佳。在本节中，你将探讨如何扩大模型的规模和复杂性。

让我们设计一个简单 CNN 的深度版本。你可以引入额外的卷积层，并增加更多的特征图。你将使用相同的卷积、Dropout、卷积和最大池化层模式。

该模式将重复三次，分别使用 32、64 和 128 个特征图。其效果是随着最大池化层的存在，特征图的数量增加而尺寸越来越小。最后，在网络的输出端将使用一个额外且更大的全连接层，以尝试更好地将大量特征图转换为类别值。

新网络架构的总结如下：

• 卷积输入层，32 个特征图，大小为 3x3，使用整流器激活函数
• Dropout 层，20%
• 卷积层，32 个特征图，大小为 3x3，使用整流器激活函数
• 最大池化层，大小为 2x2
• 卷积层，64 个特征图，大小为 3x3，使用整流器激活函数
• Dropout 层，20%。
• 卷积层，64 个特征图，大小为 3x3，使用整流器激活函数
• 最大池化层，大小为 2x2
• 卷积层，128 个特征图，大小为 3x3，使用整流器激活函数
• Dropout 层，20%
• 卷积层，128 个特征图，大小为 3x3，使用整流器激活函数
• 最大池化层，大小为 2x2
• 展平层
• Dropout 层，20%
• 全连接层，1024 个单元，使用整流器激活函数
• Dropout 层，20%
• 全连接层，512 个单元，使用整流器激活函数
• Dropout 层，20%
• 全连接输出层，10 个单元，使用 softmax 激活函数

你可以非常容易地在 Keras 中定义此网络拓扑，如下所示：

你可以使用与上述相同的程序和相同的 epoch 数量来拟合和评估此模型，但批次大小通过一些小的实验调整为 64。

将所有这些结合起来，完整的示例如下所示。

运行此示例将打印每个 epoch 在训练和测试数据集上的分类准确率和损失。

注意：由于算法或评估过程的随机性，或者数值精度的差异，你的结果可能会有所不同。考虑多次运行示例并比较平均结果。

最终模型的分类准确率估计值为 79.5%，比我们简单的模型高出 9 个百分点。

改进模型性能的扩展

你在这个非常困难的问题上取得了不错的成绩，但距离取得世界级的成果还有很长的路要走。

以下是一些你可以尝试的想法，以扩展模型并提高模型性能。

• 训练更多周期。每个模型都只训练了非常少的周期，25个。通常，大型卷积神经网络会训练数百甚至数千个周期。你应该期望通过显著增加训练周期数来提高性能。
• 图像数据增强。图像中的物体位置各不相同。通过使用一些数据增强，很可能可以进一步提高模型性能。标准化、随机位移或水平图像翻转等方法可能会有所帮助。
• 更深的网络拓扑。所呈现的较大网络已经很深，但可以为该问题设计更大的网络。这可能涉及在输入层附近使用更多的特征图，并可能减少池化操作的激进程度。此外，可以采用并评估已证明有用的标准卷积网络拓扑。

总结

在这篇文章中，你学习了如何在 Keras 中创建深度学习模型，用于照片中的物体识别。

通过本教程，你学到了：

• 关于 CIFAR-10 数据集以及如何在 Keras 中加载它，并绘制数据集中的临时示例。
• 如何在问题上训练和评估一个简单的卷积神经网络。
• 如何将简单的卷积神经网络扩展为深度卷积神经网络，以提高解决这个难题的性能。
• 如何使用数据增强在困难的物体识别问题上获得进一步的提升。

你对物体识别或这篇文章有任何疑问吗？请在评论中提出你的问题，我将尽力回答。