梯度提升机是一种强大的集成机器学习算法，它使用决策树。提升是一种通用的集成技术，它涉及按顺序向集成中添加模型，后续模型会纠正先前模型的性能。AdaBoost 是第一个实现提升承诺的算法。梯度提升是一种通用 […]
作者归档 | Jason Brownlee
如何在Python中开发AdaBoost集成模型
提升是一类集成机器学习算法，涉及组合许多弱学习器的预测。弱学习器是一种非常简单的模型，尽管它在数据集上具有一定的技能。提升在实际算法开发之前很久就是一个理论概念，而 AdaBoost（自适应提升）算法是 […]
机器学习中算法与模型的区别
机器学习涉及机器学习算法和模型的使用。对于初学者来说，这非常令人困惑，因为“机器学习算法”经常与“机器学习模型”互换使用。它们是相同的还是不同的？作为开发人员，您对“算法”的直觉，例如排序算法和搜索算法，将有助于澄清 […]
如何使用 Python 开发 Bagging 集成算法
Bagging 是一种集成机器学习算法，它组合了许多决策树的预测。它也很容易实现，因为它只有少数几个关键的超参数，并且有合理的启发式方法来配置这些超参数。Bagging 的总体表现良好，并为整个决策树算法的集成领域提供了基础 […]
机器学习中自由度的简明入门
自由度是统计学和工程学中的一个重要概念。它通常用于总结用于计算统计量（例如样本统计量或统计假设检验）的值的数量。在机器学习中，自由度可能指 […] 中的参数数量。
如何使用 Python 开发额外树集成
Extra Trees 是一种集成机器学习算法，它组合了许多决策树的预测。它与广泛使用的随机森林算法有关。它通常可以获得与随机森林算法一样好或更好的性能，尽管它使用更简单的算法来构建用作成员的决策树 […]
如何在 Python 中开发随机森林集成模型
随机森林是一种集成机器学习算法。鉴于它在各种分类和回归预测建模问题中都具有良好或出色的性能，它可能是最受欢迎和最广泛使用的机器学习算法。它也很容易使用，因为它只有几个关键的超参数和配置它的合理启发式方法 […]
如何使用 Python 开发投票集成
投票是一种集成机器学习算法。对于回归，投票集成涉及做出多个其他回归模型的平均预测。在分类中，硬投票集成涉及对来自其他模型的清晰类标签的投票进行求和，并预测得票最多的类。软投票集成涉及 […]
如何在机器学习中处理大 p 小 n (p >> n) 的情况
我的数据集中的列数比行数多怎么办？机器学习数据集通常是结构化数据或表格数据，由行和列组成。作为模型输入的列称为预测变量或“p”，行是样本“n”。大多数机器学习算法都假设有很多 […]
多类分类中的“一对多”和“一对一”策略
并非所有分类预测模型都支持多类分类。诸如感知器、逻辑回归和支持向量机之类的算法是为二元分类设计的，并且不能原生支持具有两个以上类别的分类任务。一种使用二元分类算法进行多类分类问题的方法是将多类分类数据集分割成多个 […]