优化涉及找到一个目标函数的输入，该输入导致函数输出的最小值或最大值。名为 SciPy 的开源 Python scientific computing 库提供了一套优化算法。许多算法被用作其他算法的构建模块，最著名的是机器学习算法中的 [...]
作者归档 | Jason Brownlee
从零开始实现带动量的梯度下降
梯度下降是一种优化算法，它遵循目标函数的负梯度来定位函数的最小值。梯度下降的一个问题是，在具有大量曲率或嘈杂梯度的优化问题上，它可能会在搜索空间中来回摆动，并且可能会卡住 [...]
深度学习神经网络的权重初始化
在开发深度学习神经网络模型时，权重初始化是一个重要的设计选择。历史上，权重初始化涉及使用小的随机数，尽管在过去十年中，已经开发出更多特定的启发式方法，这些方法利用信息，例如所使用的激活函数的类型以及节点输入的数量。 [...]
反向传播与随机梯度下降的区别
初学者对于用于训练深度学习神经网络模型的算法存在很多困惑。人们经常听说神经网络使用“误差反向传播”算法或“随机梯度下降”进行学习。有时，这些算法中的任何一个都用作神经网如何拟合的简称 [...]
局部优化与全局优化
优化是指找到一个目标函数的输入集，该输入集导致目标函数的最大值或最小值。通常用局部与全局优化的术语来描述优化问题。同样，也经常用局部与 [...] 来描述优化算法或搜索算法。
如何开发用于预测汽车保险赔付的神经网络
为新数据集开发神经网络预测模型可能具有挑战性。一种方法是首先检查数据集并构思可能有效的模型，然后探索简单模型在数据集上的学习动态，最后使用强大的测试工具开发和调整数据集模型。 [...]
如何在 Python 中使用 Nelder-Mead 优化方法
Nelder-Mead 优化算法是一种广泛用于不可微分目标函数的。因此，它通常被称为模式搜索算法，并被用作局部或全局搜索程序，用于解决非线性、可能嘈杂且多峰的函数优化问题。在本教程中，您将了解 Nelder-Mead 优化算法。 [...]
如何开始使用推荐系统
推荐系统可能是普通人接触到的最常见的预测模型类型。它们构成了 Amazon、Spotify 和 Youtube 等服务的推荐基础。如果您才刚开始接触推荐系统，这是一个庞大而艰巨的话题。存在着大量的 数据准备技术、算法和模型评估 [...]
机器学习的回归指标
回归是指涉及预测数值的预测建模问题。它与分类不同，分类涉及预测类标签。与分类不同，您不能使用分类准确率来评估回归模型所做的预测。相反，您必须使用专门为评估回归问题预测而设计的误差指标。在 [...]
如何为深度学习选择激活函数
激活函数是神经网络设计的一个关键部分。隐藏层中激活函数的选择将控制网络模型学习训练数据集的效果。输出层中激活函数的选择将定义模型可以进行的预测类型。因此，一个 [...]