档案 | 集成学习

梯度提升机是一种强大的集成机器学习算法，它使用决策树。提升是一种通用的集成技术，涉及按顺序将模型添加到集成中，后续模型会纠正先前模型的性能。AdaBoost 是第一个实现提升承诺的算法。梯度提升是一种泛化 [...]

提升是一类集成机器学习算法，涉及组合许多弱学习器的预测。弱学习器是一种非常简单的模型，尽管它在数据集中具有一定的技能。在开发出实用的算法之前，提升是一个理论概念，而 AdaBoost（自适应提升）算法 [...]

Bagging 是一种集成机器学习算法，它结合了许多决策树的预测。它也很容易实现，因为它具有很少的关键超参数和用于配置这些超参数的合理启发式方法。Bagging 通常表现良好，并为整个决策树算法领域提供了基础 [...]

Extra Trees 是一种集成机器学习算法，它结合了许多决策树的预测。它与广泛使用的随机森林算法有关。它通常可以获得与随机森林算法一样好甚至更好的性能，尽管它使用一种更简单的算法来构建用作成员 [...]

随机森林是一种集成机器学习算法。鉴于其在各种分类和回归预测建模问题中表现良好或优秀，它可能是最受欢迎和最广泛使用的机器学习算法。由于其关键超参数少且在配置方面具有合理的启发式方法，因此它也很容易使用 [...]

投票是一种集成机器学习算法。对于回归，投票集成涉及做出一个预测，该预测是多个其他回归模型的平均值。在分类中，硬投票集成涉及对来自其他模型的清晰类别标签的投票进行求和，并预测得票最多的类别。软投票集成涉及 [...]

并非所有分类预测模型都支持多类分类。诸如感知机、逻辑回归和支持向量机等算法是为二元分类设计的，并且不原生支持具有两个以上类别的分类任务。使用二元分类算法进行多类分类问题的一种方法是将多类分类数据集分割成多个 [...]

堆叠或堆叠泛化是一种集成机器学习算法。它使用元学习算法来学习如何最好地组合两个或多个基础机器学习算法的预测。堆叠的好处在于，它可以利用一系列在分类或回归任务上表现良好的模型的强大功能，并 [...]

梯度提升是一种强大的集成机器学习算法。它在结构化预测建模问题中很受欢迎，例如表格数据的分类和回归，并且通常是在 Kaggle 等机器学习竞赛的获胜解决方案中使用的主要算法或主要算法之一。梯度提升有许多实现 [...]

多输出回归是涉及根据输入示例预测两个或多个数值的回归问题。一个例子是根据输入预测坐标，例如预测 x 和 y 值。另一个例子是多步时间序列预测，涉及预测给定变量的多个未来时间序列。许多机器学习 [...]