存档 | 优化

函数优化是一个研究领域，它寻求一个函数的输入，该输入能产生函数的最大值或最小值。优化算法有很多种，在简单易于可视化的测试函数上研究和培养对优化算法的直觉非常重要。二维函数需要两个 [...]

机器学习算法具有超参数，允许算法针对特定数据集进行定制。尽管超参数的影响通常可以理解，但它们对特定数据集的具体影响以及它们在学习过程中的交互可能不为人知。因此，在机器学习过程中对算法超参数的值进行调优非常重要 [...]

梯度下降是一种优化算法，它沿着目标函数的负梯度方向移动，以定位函数的最小值。梯度下降的一个局限性是，如果梯度变得平坦或曲率很大，搜索的进度会减慢。可以向梯度下降添加动量， [...]

梯度下降是一种优化算法，它沿着目标函数的负梯度方向移动，以定位函数的最小值。梯度下降的一个局限性是，如果目标函数返回嘈杂的梯度，它可能会卡在平坦区域或来回振荡。动量是一种加速 [...]

盆地跳跃是一种全局优化算法。它被开发用于解决化学物理学中的问题，尽管它是一种有效的算法，适用于具有多个最优值的非线性目标函数。在本教程中，您将了解盆地跳跃全局优化算法。完成本教程后，您将知道：盆地跳跃优化是一种全局 [...]

函数优化需要选择一个算法来有效地采样搜索空间并找到一个好的或最佳的解决方案。有很多算法可供选择，尽管建立一个基准，了解对于某个问题哪些类型的解决方案是可行或可能的，这一点很重要。这可以通过朴素的 [...]

遗传算法是一种随机全局优化算法。它可能是最受欢迎和最广为人知的受生物学启发的算法之一，与人工神经网络一起。该算法是一种进化算法，并通过自然选择的生物学理论来执行优化过程 [...]

差分进化是一种全局优化算法。它是一种进化算法，与其他进化算法（如遗传算法）相关。与遗传算法不同，它专门设计用于在实值向量上操作，而不是位串。也与遗传算法不同，它使用向量运算，如向量 [...]

进化策略是一种随机全局优化算法。它是一种进化算法，与其他算法（如遗传算法）相关，但它专门为连续函数优化而设计。在本教程中，您将了解如何实现进化策略优化算法。完成本教程后，您将知道：进化策略是一种 [...]

模拟退火是一种随机全局搜索优化算法。这意味着它在搜索过程中利用了随机性。这使得该算法适用于其他局部搜索算法效果不佳的非线性目标函数。与随机爬山局部搜索算法一样，它会修改单个解决方案并 [...]