作者归档 | Jason Brownlee

神经网络模型使用随机梯度下降进行训练，模型权重使用反向传播算法进行更新。训练神经网络模型所要解决的优化问题极具挑战性，尽管这些算法因其出色的实际效果而被广泛使用，但它们并不能保证能够收敛到一个好的 [...]

深度学习神经网络在配置和训练方面都很有挑战性。几十年来，各种技巧和窍门散布在数百篇研究论文、源代码以及学术界和从业者的头脑中。 《神经网络：技巧集锦》一书最初出版于 1998 年，并于 2012 年在深度 [...]

深度学习神经网络改进速成班。7 天内提升您的深度学习模型性能。神经网络模型的配置通常被称为“黑暗艺术”。这是因为对于给定问题的网络配置没有硬性规定。我们无法解析地计算出最优模型 [...]

深度学习神经网络学习从输入到输出的映射函数。这是通过在模型对训练数据进行错误时更新网络权重来实现的。更新会持续减少此错误，直到找到一个足够好的模型或学习过程 [...]

深度学习神经网络模型的容量控制着它能够学习的映射函数的类型范围。容量太小的模型无法学习训练数据，这意味着它会欠拟合；而容量太大的模型可能会记住训练数据，这意味着它会过拟合 [...]

现代深度学习库（如 Keras）允许您通过几行代码在几分钟内定义并开始拟合各种神经网络模型。尽管如此，为新的预测建模问题配置神经网络以获得良好性能仍然很具挑战性。获得良好 [...]

深度学习神经网络的一个有趣优势是它们可以重用于相关问题。迁移学习是指一种预测建模技术，用于处理不同但相似的问题，然后可以部分或全部重用它来加速训练并提高模型在 [...]

给定误差函数、学习率甚至目标变量的尺度选择，神经网络的训练可能会变得不稳定。训练期间对权重的重大更新可能导致数值溢出或下溢，通常称为“梯度爆炸”。梯度爆炸问题在使用循环神经网络时更常见， [...]

深度学习神经网络从训练数据集中学习输入到输出的映射。模型的权重被初始化为小的随机值，并通过优化算法响应训练数据集的误差估计来进行更新。鉴于模型中使用的小权重以及 [...]