人工神经网络是一种计算模型，用于逼近输入和输出之间的映射。它受到人脑结构的启发，由相互连接的神经元网络组成，这些神经元在接收来自相邻神经元的刺激集时会传播信息。训练神经网络涉及一个 […]
泰勒级数简明入门
泰勒级数入门 泰勒级数展开是一个很棒的概念，不仅在数学领域，而且在优化理论、函数逼近和机器学习中。当需要函数在不同点的值的估计时，它被广泛应用于数值计算。在本教程中，您将了解泰勒级数 [...]
近似法简明入门
在分类或回归等机器学习任务中，逼近技术在从数据中学习方面起着关键作用。许多机器学习方法通过学习算法来逼近函数或输入输出之间的映射。在本教程中，您将了解什么是逼近及其重要性 [...]
微积分链式法则 – 更多函数
链式法则是一种重要的导数法则，它允许我们处理复合函数。它对于理解反向传播算法的工作原理至关重要，反向传播算法广泛应用链式法则来计算损失函数相对于神经网络每个权重的误差梯度。我们将 [...]
单变量和多变量函数的链式法则
链式法则允许我们找到复合函数的导数。反向传播算法广泛使用它来训练前馈神经网络。通过以有效的方式应用链式法则并遵循特定的操作顺序，反向传播算法计算损失函数相对于 [...] 的误差梯度。
拉格朗日乘数法入门
拉格朗日乘子法是一种简单而优雅的方法，用于寻找具有等式或不等式约束的函数的局部最小值或局部最大值。拉格朗日乘子也称为待定乘子。在本教程中，我们将讨论给定等式约束时的方法。在本教程中，您将了解该方法 [...]
优化/数学规划简明介绍
无论是监督学习问题还是无监督问题，都会有一些优化算法在后台运行。几乎任何分类、回归或聚类问题都可以看作是一个优化问题。在本教程中，您将了解什么是优化以及相关的概念。完成本教程后，您将 [...]
拉普拉斯算子的温和介绍
拉普拉斯算子最早由皮埃尔-西蒙·拉普拉斯应用于天体力学或外层空间物体运动的研究，并因此得名。此后，拉普拉斯算子一直被用来描述许多不同的现象，从电势到热和流体的扩散方程 [...]
Hessian 矩阵的温和介绍
Hessian 矩阵属于一类涉及二阶导数的数学结构。它们常用于机器学习和数据科学算法中，用于优化感兴趣的函数。在本教程中，您将了解 Hessian 矩阵、其对应的判别式及其重要性。所有概念都通过示例进行说明。完成此 [...]
雅可比矩阵简明介绍
在文献中，“雅可比行列式”一词经常可以互换地用来指代雅可比矩阵或其行列式。矩阵和行列式都有有用且重要的应用：在机器学习中，雅可比矩阵汇集了反向传播所需的偏导数；行列式在变量替换过程中很有用 [...]