无需数学基础，理解机器学习算法的 5 种方法

在自上而下的学习方法中，理论部分是如何体现的？

在传统的机器学习教学方法中，理论是先行的，需要有扎实的数学背景才能理解。在我教授机器学习的方法中，我先教你如何端到端地解决问题并交付结果。

那么理论在哪里发挥作用呢？

在本文中，您将了解到我们讨论机器学习中的“理论”时真正指的是什么。提示：这一切都与算法有关。

您会发现，一旦您熟练掌握了解决问题和交付结果的技能，您就会产生深入研究的冲动，以便更好地理解和取得更好的结果。没有人能够阻止您。

最后，您将了解到 5 种技术，您可以在练习标准数据集的机器学习时使用这些技术来逐步加深对机器学习算法的理解。

用我新书 《掌握机器学习算法》 开启您的项目，书中包含分步教程以及所有示例的Excel电子表格文件。

如何学习不带数学的机器学习
照片作者： Ed Brambley，部分权利保留

最后学习理论，而不是先学习理论

目前教授开发者机器学习的方式很糟糕。

它是自下而上教授的。如果您是一名主要希望将机器学习作为解决问题的工具，而不是该领域的任何研究人员的开发者，那么这种方式就很糟糕。

传统方法要求您在学习算法理论之前先学习所有先修数学课程，如线性代数、概率和统计。如果您有机会接触到算法的工作实现，或者讨论如何端到端地解决问题并交付一个工作良好、可靠且准确的预测模型，那您就走运了。

我教授自上而下的机器学习学习方法。在这种方法中，我们首先 1) 学习一套系统性的端到端解决问题的方法，2) 将该方法映射到“同类最佳”的机器学习工具和平台，然后 3) 在测试数据集上进行有针对性的练习。

您可以在文章“机器学习入门：从开发者到机器学习从业者的飞跃”中了解更多关于我教授自上而下机器学习的方法。

那么在这个过程中，理论部分如何定位呢？

如果模型颠倒过来，理论就会被推迟教授。但我们谈论的是什么理论？以及在测试数据集上练习时，我们具体如何学习这些理论？

获取您的免费算法思维导图

方便的机器学习算法思维导图样本。

我创建了一份方便的思维导图，其中包含60多种按类型组织的算法。

下载、打印并使用它。

理论实际上就是关于算法

机器学习领域充斥着理论。

之所以充斥着理论，是因为存在一种用数学方法来描述和解释概念的传统。

这很有用，因为数学描述可以非常简洁，减少歧义。它们也便于分析，利用了其描述的上下文中的技术（例如，对过程的概率理解）。

许多这些旁系的数学技术通常会与机器学习算法的描述捆绑在一起。对于那些只想对某个方法进行肤浅理解以便配置和应用它的人来说，这感觉是压倒性的。令人沮丧。

如果您没有基础来解析和理解算法的描述，那会令人沮丧。这种沮丧是因为，例如，在计算机科学领域，算法经常被描述，但不同之处在于这些描述旨在快速理解（例如，用于桌面检查）和实现。

我们知道，例如，在学习哈希表是什么以及如何使用它时，我们在日常工作中几乎不需要知道哈希函数的具体细节。但我们也知道哈希函数是什么，以及在哪里可以了解更多关于哈希函数的具体细节以及如何编写自己的哈希函数。为什么机器学习不能像这样工作呢？

机器学习中遇到的“理论”的绝大部分都与机器学习算法有关。如果您询问任何初学者他们为什么对理论感到沮丧，您会了解到这是关于学习如何理解或使用特定的机器学习算法。

在这里，“算法”比创建预测模型的过程更广泛。它还包括用于特征选择、创建新特征、转换数据以及估计模型在未见过数据上的准确性的算法（例如，交叉验证）。

因此，最后学习理论，实际上意味着学习机器学习算法。

深入研究理论的冲动

我通常建议对著名的机器学习数据集进行有针对性的练习。

这是因为像 UCI 机器学习存储库上的那些著名机器学习数据集很容易使用。它们很小，可以放入内存并在您的工作站上处理。它们也经过充分研究和理解，因此您有比较的基准。

您可以在文章“使用 UCI 机器学习存储库的小型内存数据集练习机器学习”中了解有关有针对性地练习机器学习数据集的更多信息。

理解机器学习算法是这个过程的一部分。原因是，在成功处理标准机器学习算法的过程中，您会遇到局限性。您会想知道如何从某个算法中获得更多，或者想知道如何更好地配置它，或者它实际上是如何工作的。

这种想要了解更多和好奇心将驱动您去学习机器学习算法的理论。您将不得不拼凑算法的理解，以实现更好的结果。

我们看到，年轻开发者在各种背景下也出现过同样的情况，他们最终会研究开源项目、教科书甚至研究论文的代码来磨练自己的技艺。成为一个更好、更有能力的程序员的需求促使他们这样做。

如果您充满好奇心并渴望成功，您将无法抗拒学习理论。

理解机器学习算法的 5 种技术

在您进行有针对性的练习时，将会有一个深入研究机器学习算法的时间

届时，您可以使用一些技术和模板来快速完成此过程。

在本节中，您将了解到 5 种可以帮助您快速理解机器学习算法理论的技术。

1) 创建机器学习算法列表

刚开始时，您可能会被大量的可用算法压得喘不过气来。

即使在试用算法时，您也可能不确定要将哪些算法纳入您的组合（提示：要多样化）。

刚开始时，一个很棒的技巧是跟踪您读过的算法。这些列表可以很简单，只包含算法的名称，并且随着您的兴趣和好奇心的增长，可以增加复杂性。

捕获细节，例如它们适合的问题类型（分类或回归）、相关算法以及分类（决策树、核方法等）。当您看到一个陌生的算法名称时，将其添加到您的列表中。当您开始一个新问题时，尝试一些您以前从未用过的算法。在之前用过的算法旁边打个勾。依此类推。

控制列表中的算法名称可以让您掌握主动。这个极其简单的策略可以帮助您摆脱不知所措。您简单的算法列表可以在以下方面节省大量时间和精力：

• 尝试用于新的和不同问题类型（时间序列、评分系统等）的算法的思路。
• 可以研究以了解更多应用方法的算法。
• 按类别（树、核方法等）掌握算法类型。
• 避免陷入固定某个最喜欢的算法的问题。

开始创建算法列表，打开一个电子表格并开始。

有关此策略的更多信息，请参阅文章“通过创建有针对性的机器学习算法列表来掌控局面”。

2) 研究机器学习算法

当您想了解更多关于某个机器学习算法的信息时，您需要进行研究。

您对研究算法的主要兴趣在于学习如何配置它以及它是如何工作的。

研究不仅仅是为了学者。一些简单的技巧可以帮助您在收集给定机器学习算法的信息方面走得很远。

关键是信息的来源多样化。以下是您可以参考的信息来源类型列表，以了解您正在研究的算法。

1. 权威来源，如教科书、讲义、幻灯片和概述论文。
2. 重要来源，如算法首次被描述的论文和文章。
3. 前沿来源，描述了算法的最新扩展和实验。
4. 启发式来源，如机器学习竞赛、问答网站上的帖子和会议论文。
5. 实现来源，如工具和库的开源代码、博客文章和技术报告。

您不必是博士研究员，也不必是机器学习算法专家。

花时间仔细阅读许多来源，收集您试图弄清楚的机器学习算法的事实。专注于您可以应用或理解的实际细节，其余的留给以后。

有关研究机器学习算法的更多信息，请参阅文章“如何研究机器学习算法”。

3) 创建自己的算法描述

您在研究中发现的机器学习算法描述将是不完整和不一致的。

一种您可以采用的方法是整理您自己的迷你算法描述。这是另一种非常简单且非常强大的策略。

您可以设计一个标准的算法描述模板，其中仅包含对您从算法中获得最大收益有用的详细信息，如算法使用启发式、伪代码列表、参数范围和资源列表。

然后，您可以在多个关键算法中使用相同的算法描述模板，并开始构建您自己的小型算法百科全书，以便将来可以参考。

您可能希望在自己的算法描述模板中使用的一些问题包括：

• 算法的标准缩写是什么？
• 算法的目标或目的是什么？
• 算法的伪代码或流程图描述是什么？
• 使用算法的启发式方法或经验法则是什么？
• 了解算法的有用资源有哪些？

您会对这些描述的有用性和实用性感到惊讶。例如，我使用这种方法写了一本关于自然启发式算法描述的书，多年来我仍然会参考它。

有关如何创建有效的算法描述模板的更多信息，请参阅文章“如何学习机器学习算法”。

有关我使用标准算法描述模板描述的算法书的更多信息，请参阅“智能算法：自然启发式编程秘籍”。

4) 研究算法行为

机器学习算法是复杂的系统，有时通过它们在实际数据集上的行为来理解它们是最好的。

通过设计使用小型数据集的机器学习算法的实验，您可以深入了解算法的工作原理、局限性以及如何以可能转化为其他问题上卓越结果的方式进行配置。

您可以用来研究机器学习算法的一个简单过程如下：

1. 选择一个您想了解更多的算法（例如，随机森林）。
2. 确定您想回答的关于该算法的一个问题（例如，树的数量的影响）。
3. 设计一个实验来回答这个问题（例如，在几个二分类问题上尝试不同数量的树，并绘制与分类准确率的关系图）。
4. 执行实验并写下您的结果，以便将来使用。
5. 重复这个过程。

这是应用机器学习真正令人兴奋的方面之一，通过您自己简单的调查，您可以获得令人惊讶的最新成果。

有关如何从算法行为中学习的更多信息，请参阅文章“如何研究机器学习算法行为”。

5) 实现机器学习算法

没有比亲手实现更能深入了解机器学习算法了。

从头开始实现机器学习算法时，您将面临给定实现所涉及的无数微小决策。您可能决定用经验法则来解决其中一些问题，或者将它们全部作为参数暴露给用户。

下面是一个可重复的过程，您可以使用它从头开始实现机器学习算法。

1. 选择一种编程语言，您最熟悉的语言可能是最好的。
2. 选择一个要实现的算法，从简单的开始（下方有列表）。
3. 选择一个问题来测试您的实现，2D 数据易于可视化（即使在 Excel 中）。
4. 研究该算法并利用许多不同的信息来源（例如，阅读教程、论文、其他实现等）。
5. 单元测试该算法以确认您的理解并验证实现。

从小处着手，建立信心。

例如，作为您第一个从头开始实现的机器学习算法，您可以选择以下 3 种算法：

• 使用梯度下降的线性回归
• k-最近邻（请看我的 Python 教程）
• 朴素贝叶斯（请看我的 Python 教程）

有关如何实现机器学习算法的更多信息，请参阅文章“如何实现机器学习算法”。

另请参阅文章：

• “从头开始实现机器学习算法的好处”
• “在实现机器学习算法时不要从开源代码开始”

理论并非只为数学家而设

机器学习并非只为数学精英而设。您可以了解机器学习算法的工作原理以及如何从中获得最大收益，而无需深入研究多元统计学。

您不必擅长数学。

正如我们在技术部分看到的，您可以从算法列表开始，然后逐渐深入到算法研究、描述和算法行为。

通过这些方法，您可以在不深入数学的情况下走得很远。

您不必是学术研究人员。

研究不仅仅是为了学者。任何人都可以阅读书籍和论文，并整理出自己对某个主题（例如特定机器学习算法）的理解。

您最大的突破将来自于您扮演“科学家”的角色，并像对待需要研究的复杂系统一样对机器学习算法进行实验。您会发现许多有趣的细微行为，这些行为甚至可能没有被记录下来。

采取行动

选择上面列出的一个技术并开始实施。

我是说今天，马上。

不确定从哪里开始？

这里有 5 个不错的起点建议：

1. 列出 10 种分类机器学习算法（可以看看我的算法之旅来获取一些想法）。
2. 找到五本详细描述随机森林的书籍。
3. 使用您自己的算法描述模板创建关于朴素贝叶斯的五张幻灯片演示。
4. 打开 Weka，在鸢尾花数据集上查看“k”参数如何影响 k-最近邻的准确率。
5. 使用随机梯度下降实现线性回归。

您采取行动了吗？喜欢这篇文章吗？ 请在下方留言。

了解机器学习算法的工作原理！

几分钟内了解算法如何工作

...只需算术和简单示例

在我的新电子书中探索如何实现
精通机器学习算法

它涵盖了**10种顶级算法**的**解释**和**示例**，例如：
_线性回归_、_k-近邻_、_支持向量机_等等...

最后，揭开
机器学习算法的神秘面纱

跳过学术理论。只看结果。

查看内容