Weka 机器学习迷你课程

在14天内成为机器学习实践者

机器学习是一个引人入胜的研究领域，但您如何才能真正将其应用于自己的问题呢？

您可能对如何为机器学习最好地准备数据、使用哪些算法或如何选择一个模型而不是另一个模型感到困惑。

在这篇文章中，您将发现一个14部分的速成课程，使用 Weka 平台进行应用机器学习，其中不包含任何数学公式或编程代码。

完成本迷你课程后

• 您将了解如何端到端地处理数据集并提供一组预测或高性能模型。
• 您将熟悉 Weka 机器学习工作台，包括如何探索算法和设计受控实验。
• 您将知道如何创建问题的多个视图，评估多种算法，并使用统计数据为自己的预测建模问题选择表现最佳的模型。

使用我的新书《Weka 机器学习精通》**启动您的项目**，其中包括所有示例的**分步教程**和清晰的**屏幕截图**。

让我们开始吧。

(**提示**：您可能想打印或收藏此页面，以便以后参考)

使用 Weka 进行应用机器学习迷你课程
图片由Leon Yaakov拍摄，保留部分权利。

本迷你课程适合谁？

在我们开始之前，让我们确保你来对了地方。下面的列表提供了一些关于本课程设计对象的一般性指导。

如果您不完全符合这些要点，请不要惊慌，您可能只需要在某个领域稍作补充即可跟上。

您是一名略懂机器学习的开发者。

这意味着您了解机器学习的一些基础知识，例如交叉验证、一些算法以及偏差-方差权衡。这并不意味着您是机器学习博士，只是您知道里程碑或知道在哪里查找它们。

本迷你课程并非机器学习教科书。

它将引导您从一个略懂机器学习的开发者，成长为一个能够使用 Weka 平台从头到尾处理数据集并提供一组预测或高性能模型的开发者。

迷你课程概述（可以期待什么）

本迷你课程分为14个部分。

每节课设计为约30分钟。您可能会更快完成一些课程，而对于其他课程，您可能会选择深入研究并花费更多时间。

您可以根据自己的喜好快速或缓慢地完成每个部分。一个舒适的安排可能是两周内每天完成一节课。强烈推荐。

接下来14节课将涵盖的主题如下：

• **第01课**：下载并安装 Weka。
• **第02课**：加载标准机器学习数据集。
• **第03课**：描述性统计和可视化。
• **第04课**：重新缩放您的数据。
• **第05课**：对您的数据执行特征选择。
• **第06课**：Weka 中的机器学习算法。
• **第07课**：估算模型性能。
• **第08课**：您数据上的基线性能。
• **第09课**：分类算法。
• **第10课**：回归算法。
• **第11课**：集成算法。
• **第12课**：比较算法性能。
• **第13课**：调整算法参数。
• **第14课**：保存您的模型。

这将非常有趣。

您需要做一些工作，一点阅读，一点在 Weka 中修修补补。您想开始应用机器学习，对吗？

(**提示**：所有这些课程的答案都可以在本博客中找到，使用搜索功能)

有任何问题，请在下面的评论中提出。

在评论中分享你的结果。

坚持下去，不要放弃！

第01课：下载并安装 Weka

首先要做的是在您的工作站上安装 Weka 软件。

Weka 是免费的开源软件。它用 Java 编写，可以在任何支持 Java 的平台上运行，包括

• Windows。
• Mac OS X。
• Linux。

您可以下载 Weka 独立软件或捆绑 Java 的版本。

如果您的系统尚未安装 Java，我建议下载并安装捆绑 Java 的版本。

1. 本课程的任务是访问 Weka 下载页面，下载并在您的工作站上安装 Weka。

第02课：加载标准机器学习数据集

现在您已经安装了 Weka，您需要加载数据。

Weka 设计用于加载名为 ARFF 的原生格式数据。它是一种修改后的 CSV 格式，其中包含有关每个属性（列）类型的附加信息。

您的 Weka 安装包含一个子目录，其中包含许多 ARFF 格式的标准机器学习数据集，供您加载。

Weka 还支持从原始 CSV 文件以及数据库加载数据，并根据需要将数据转换为 ARFF。

在本课程中，您将在 Weka 资源管理器中加载一个标准数据集。

1. 启动 Weka（点击鸟图标），这将启动 Weka GUI Chooser。
2. 点击“Explorer”按钮，这将打开 Weka Explorer 界面。
3. 点击“Open file…”按钮，导航到 Weka 安装中的 data/ 目录并加载 diabetes.arff 数据集。

注意，如果您的 Weka 安装中没有 data/ 目录，或者您找不到它，请从 Weka 下载网页下载 .zip 版本的 Weka，解压缩并访问 data/ 目录。

您刚刚在 Weka 中加载了您的第一个数据集。

尝试加载 data/ 目录中的其他数据集。

尝试从 UCI 机器学习存储库下载原始 CSV 文件并在 Weka 中加载它。

第03课：描述性统计和可视化

一旦您可以在 Weka 中加载数据，查看它就很重要。

Weka 允许您查看从数据中计算出的描述性统计数据。它还提供可视化工具。

在本课程中，您将使用 Weka 了解更多关于您的数据。

1. 打开Weka GUI选择器。
2. 打开Weka Explorer。
3. 加载 data/diabetes.arff 数据集。
4. 点击“Attributes”列表中的不同属性，并在“Selected attribute”窗格中查看详细信息。
5. 点击“Visualize All”按钮以查看所有属性分布。
6. 点击“Visualize”选项卡并查看所有属性的散点图矩阵。

习惯在“Preprocess”选项卡中查看不同属性的详细信息，并在“Visualize”选项卡中调整散点图矩阵。

第04课：重新缩放您的数据

原始数据通常不适合建模。

通常，您可以通过重新缩放属性来提高机器学习模型的性能。

在本课程中，您将学习如何在 Weka 中使用数据过滤器来重新缩放数据。您将对数据集的所有属性进行归一化，将它们重新缩放到0到1的一致范围。

1. 打开 Weka GUI Chooser，然后打开 Weka Explorer。
2. 加载 data/diabetes.arff 数据集。
3. 点击“Filter”窗格中的“Choose”按钮，然后选择 unsupervised.attribute.Normalize。
4. 点击“Apply”按钮。

在“Selected attribute”窗格中查看每个属性的详细信息，并注意比例的变化。

探索使用其他数据过滤器，例如 Standardize 过滤器。

通过点击已加载过滤器的名称并更改其参数来探索配置过滤器。

通过点击“Preprocess”选项卡上的“Save…”按钮，测试保存修改后的数据集以备后用。

第05课：对您的数据执行特征选择

您的数据集中并非所有属性都与您想要预测的属性相关。

您可以使用特征选择来识别与您的输出变量最相关的属性。

在本课程中，您将熟悉使用不同的特征选择方法。

1. 打开 Weka GUI Chooser，然后打开 Weka Explorer。
2. 加载 data/diabetes.arff 数据集。
3. 点击“Select attributes”选项卡。
4. 点击“Attribute Evaluator”窗格中的“Choose”按钮，然后选择“CorrelationAttributeEval”。
   1. 系统将显示一个对话框，要求您更改为“Ranker”搜索方法，这是使用此特征选择方法时所需的。点击“Yes”按钮。
5. 点击“Start”按钮运行特征选择方法。

查看“Attribute selection output”窗格中的输出，并记下每个属性的相关性分数，较大的数字表示更相关的特征。

探索其他特征选择方法，例如使用信息增益（熵）。

探索在“Preprocess”选项卡和“Remove”按钮中选择要从数据集中删除的特征。

第06课：Weka 中的机器学习算法

Weka 工作台的一个主要优点是它提供了大量的机器学习算法。

您需要熟悉机器学习算法。

在本课程中，您将仔细研究 Weka 中的机器学习算法。

1. 打开 Weka GUI Chooser，然后打开 Weka Explorer。
2. 加载 data/diabetes.arff 数据集。
3. 点击“Classify”选项卡。
4. 点击“Choose”按钮，并注意算法的不同分组。
5. 点击所选算法的名称以对其进行配置。
6. 点击配置窗口上的“More”按钮，了解更多关于实现的信息。
7. 点击配置窗口上的“Capabilities”按钮，了解更多关于其用法的信息。
8. 注意窗口上的“Open”和“Save”按钮，可以将不同的配置保存和加载。
9. 将鼠标悬停在配置参数上，注意工具提示帮助。
10. 点击“Start”按钮运行算法。

浏览可用算法。请注意，根据您的数据集是分类问题（预测类别）还是回归问题（预测实际值），某些算法可能不可用。

探索并了解 Weka 中可用的各种算法。

获得选择和配置算法的信心。

第07课：估算模型性能

现在您已经知道如何选择和配置不同的算法，您需要知道如何评估算法的性能。

在本课程中，您将学习在 Weka 中评估算法性能的不同方法。

1. 打开 Weka GUI Chooser，然后打开 Weka Explorer。
2. 加载 data/diabetes.arff 数据集。
3. 点击“Classify”选项卡。

“Test options”窗格列出了可用于评估算法性能的各种不同技术。

• 黄金标准是10折“交叉验证”。这是默认选择的。对于小型数据集，折叠数可以从10调整到5甚至3。
• 如果您的数据集非常大，并且您想快速评估算法，您可以使用“Percentage split”选项。默认情况下，此选项将使用66%的数据集进行训练，并使用剩余的34%来评估模型的性能。
• 另外，如果您有一个包含验证数据集的单独文件，您可以通过选择“Supplied test set”选项来评估您的模型。您的模型将在整个训练数据集上进行训练，并在单独的数据集上进行评估。
• 最后，您可以评估模型在整个训练数据集上的性能。如果您更关注描述性模型而不是预测性模型，这会很有用。

点击“Start”按钮，使用您选择的测试选项运行给定算法。

尝试不同的测试选项。

通过点击“More options…”按钮，进一步完善提供的配置中的测试选项。

第08课：您的数据上的基线性能

当您开始评估数据集上的多个机器学习算法时，您需要一个用于比较的基线。

基线结果为您提供一个参考点，以了解给定算法的结果是好是坏，以及好坏的程度。

在本课程中，您将了解 ZeroR 算法，您可以将其用作分类和回归算法的基线。

1. 打开 Weka GUI Chooser，然后打开 Weka Explorer。
2. 加载 data/diabetes.arff 数据集。
3. 点击“Classify”选项卡。ZeroR 算法是默认选择的。
4. 点击“Start”按钮。

这将使用10折交叉验证在您的数据集上运行 ZeroR 算法。

ZeroR 算法也称为零规则，是一种可以用来计算数据集中所有算法性能基线的算法。它是“最差”的结果，任何表现更好的算法都说明它在您的问题上具有一定的能力。

在分类算法上，ZeroR 算法将始终预测最常见的类别。如果数据集的类别数量相等，它将预测第一个类别值。

在糖尿病数据集上，这导致分类准确率为65%。

对于回归问题，ZeroR 算法将始终预测平均输出值。

在各种不同的数据集上尝试 ZeroR 算法。在所有其他算法之前，您应该始终首先运行它以建立基线。

第09课：分类算法之旅

Weka 提供了大量的分类算法。

在本课程中，您将发现5种可用于分类问题的顶级分类算法。

1. 打开 Weka GUI Chooser，然后打开 Weka Explorer。
2. 加载 data/diabetes.arff 数据集。
3. 点击“Classify”选项卡。
4. 点击“Choose”按钮。

您可以用于分类的5种顶级算法包括

• 逻辑回归 (functions.Logistic)。
• 朴素贝叶斯 (bayes.NaiveBayes)。
• k-近邻 (lazy.IBk)。
• 分类与回归树 (trees.REPTree)。
• 支持向量机 (functions.SMO)。

尝试使用这些顶级算法。

在不同的分类数据集上试用它们，例如具有两个类的数据集和具有更多类的数据集。

第10课：回归算法之旅

分类算法是 Weka 的专长，但其中许多算法也可用于回归。

回归是对实际值结果（例如美元金额）的预测，与预测类别（例如“狗”或“猫”）的分类不同。

在本课程中，您将发现5种可用于回归问题的顶级回归算法。

您可以从 Weka 数据集下载网页下载一套标准回归机器学习数据集。下载名为“包含37个回归问题的 jar 文件，来自各种来源”的回归问题数据集-numeric.jar 压缩包。

• “包含37个回归问题的 jar 文件，来自各种来源”

使用您喜欢的解压缩程序解压缩 .jar 文件，您将获得一个名为 numeric/ 的新目录，其中包含37个可供您使用的回归问题。

1. 打开 Weka GUI Chooser，然后打开 Weka Explorer。
2. 加载 data/housing.arff 数据集。
3. 点击“Classify”选项卡。
4. 点击“Choose”按钮。

可用于回归的5种顶级算法包括

• 线性回归 (functions.LinearRegression)。
• 支持向量回归 (functions.SMOReg)。
• k-近邻 (lazy.IBk)。
• 分类与回归树 (trees.REPTree)。
• 人工神经网络 (functions.MultilayerPerceptron)。

尝试使用这些顶级算法。

在不同的回归数据集上尝试它们。

第11课：集成算法之旅

Weka 非常易于使用，这可能是它相对于其他平台的**最大优势**。

除此之外，Weka 还提供了一套庞大的集成机器学习算法，这可能是 Weka 相对于其他平台的**第二个巨大优势**。

值得花时间熟练使用 Weka 的集成算法。在本课程中，您将发现5种可用的顶级集成机器学习算法。

1. 打开 Weka GUI Chooser，然后打开 Weka Explorer。
2. 加载 data/diabetes.arff 数据集。
3. 点击“Classify”选项卡。
4. 点击“Choose”按钮。

您可以使用的5种顶级集成算法包括

• Bagging (meta.Bagging)。
• 随机森林 (trees.RandomForest)。
• AdaBoost (meta.AdaBoost)。
• 投票 (meta.Voting)。
• 堆叠 (meta.Stacking)。

尝试使用这些顶级算法。

大多数这些集成方法都允许您选择子模型。尝试使用不同子模型的组合。以非常不同的方式工作并产生不同预测的技术组合通常会带来更好的性能。

在不同的分类和回归数据集上试用它们。

第12课：比较算法性能

Weka 提供了一个专门用于比较算法的不同工具，名为 Weka 实验环境。

Weka 实验环境允许您设计和执行机器学习算法的受控实验，然后分析结果。

在本课程中，您将设计您的第一个 Weka 实验，并发现如何使用 Weka 实验环境来比较机器学习算法的性能。

1. 打开“Weka Chooser GUI”。
2. 点击“Experimenter”按钮，打开“Weka Experiment Environment”。
3. 点击“New”按钮。
4. 点击“Datasets”窗格中的“Add new…”按钮，并选择“data/diabetes.arff”。
5. 点击“Algorithms”窗格中的“Add new…”按钮，并添加“ZeroR”和“IBk”。
6. 点击“Run”选项卡，然后点击“Start”按钮。
7. 点击“Analyse”选项卡，然后点击“Experiment”按钮，再点击“Perform test”按钮。

您刚刚在 Weka 中设计、执行并分析了您的第一个受控实验结果。

您比较了糖尿病数据集上 ZeroR 算法与 IBk 算法的默认配置。

结果显示 IBk 的分类准确率高于 ZeroR，并且这种差异具有统计显著性（结果旁边的小“v”字符）。

扩展实验并添加更多算法，然后重新运行实验。

更改“Analyse”选项卡上的“Test base”，以更改哪组结果作为与其他结果进行比较的参考。

第13课：调整算法参数

为了充分利用机器学习算法，您必须根据您的问题调整方法的参数。

您无法预先知道如何最好地做到这一点，因此您必须尝试许多不同的参数。

Weka 实验环境允许您设计受控实验，以比较不同算法参数的结果以及差异是否具有统计显著性。

在本课程中，您将设计一个实验来比较 k-近邻算法的参数。

1. 打开“Weka Chooser GUI”。
2. 点击“Experimenter”按钮以打开“Weka Experiment Environment”
3. 点击“New”按钮。
4. 点击“Datasets”窗格中的“Add new…”按钮，并选择“data/diabetes.arff”。
5. 点击“Algorithms”窗格中的“Add new…”按钮，并添加3个“IBk”算法副本。
6. 点击列表中的每个 IBk 算法，然后点击“Edit selected…”按钮，将3个不同算法的“KNN”分别更改为1、3、5。
7. 点击“Run”选项卡，然后点击“Start”按钮。
8. 点击“Analyse”选项卡，然后点击“Experiment”按钮，再点击“Perform test”按钮。

您刚刚设计、执行并分析了比较算法参数的受控实验结果。

我们可以看到，大 K 值的效果优于默认值1，并且差异显著。

探索更改 KNN 的其他配置属性，并建立开发实验以调整机器学习算法的信心。

第14课：保存您的模型

一旦您在问题上找到了表现最佳的模型，您就需要将其定稿以备将来使用。

在最后一课中，您将学习如何训练最终模型并将其保存到文件以备将来使用。

1. 打开 Weka GUI Chooser，然后打开 Weka Explorer。
2. 加载 data/diabetes.arff 数据集。
3. 点击“Classify”选项卡。
4. 将“Test options”更改为“Use training set”，然后点击“Start”按钮。
5. 右键单击“Result list”中的结果，然后点击“Save model”，输入文件名，例如“diabetes-final”。

您刚刚在整个训练数据集上训练了一个最终模型，并将结果模型保存到文件中。

您可以将此模型重新加载到 Weka 中，并使用它对新数据进行预测。

1. 右键单击“Result list”，点击“Load model”，然后选择您的模型文件（“diabetes-final.model”）。
2. 将“Test options”更改为“Supplied test set”，然后选择 data/diabetes.arff（这可能是一个没有预测的新文件）
3. 在“Test options”中点击“More options”，并将“Output predictions”更改为“Plain Text”
4. 右键单击已加载的模型，然后选择“Re-evaluate model on current test set”。

新的预测现在将列在“Classifier output”窗格中。

尝试保存不同的模型并对全新的数据集进行预测。

使用 Weka 迷你机器学习课程回顾

恭喜，你做到了。干得好！

花点时间回顾一下你已经走了多远：

• 您发现了如何启动和使用 Weka 资源管理器和 Weka 实验环境，这可能是您第一次接触。
• 您加载了数据，对其进行了分析，并使用了数据过滤器和特征选择来为建模准备数据。
• 您发现了一套机器学习算法，以及如何设计受控实验来评估它们的性能。

不要轻视这一点，您在短时间内取得了长足的进步。这只是您使用 Weka 进行应用机器学习之旅的开始。请继续练习并发展您的技能。

您喜欢这门迷你课程吗？您有任何问题或难点吗？
留下评论，让我知道。

探索无需代码的机器学习！

在几分钟内开发您自己的模型

...只需几次点击

在我的新电子书中探索如何实现
使用 Weka 精通机器学习

涵盖自学教程和端到端项目，例如
加载数据、可视化、构建模型、调优等等...

最终将机器学习应用到你自己的项目中

跳过学术理论。只看结果。

查看内容