计算正态汇总统计量的温和介绍

数据样本是更广泛的总体中的一个快照,该总体包含所有可能从某个领域获取或由某个过程生成的所有观察结果。

有趣的是,许多观察结果符合一种常见的模式或分布,称为正态分布,或更正式地称为高斯分布。关于高斯分布的知识很多,因此,统计学和统计方法中有一些专门的子领域可以用于高斯数据。

在本教程中,您将了解高斯分布,如何识别它,以及如何计算从该分布中提取数据的关键汇总统计量。

完成本教程后,您将了解:

  • 高斯分布描述了许多观测值,包括在应用机器学习中看到的许多观测值。
  • 分布的集中趋势是最可能的观测值,可以从数据样本中估计为均值或中位数。
  • 方差是分布中与均值的平均偏差,可以从数据样本中估计为方差和标准差。

通过我的新书《机器学习统计学启动您的项目,其中包括分步教程和所有示例的 Python 源代码文件。

让我们开始吧。

A Gentle Introduction to Calculating Normal Summary Statistics

计算正态汇总统计量的温和介绍
照片来自约翰,保留部分权利。

教程概述

本教程分为6个部分;它们是

  1. 高斯分布
  2. 样本与总体
  3. 测试数据集
  4. 集中趋势
  5. 方差
  6. 描述高斯分布

需要机器学习统计学方面的帮助吗?

立即参加我为期7天的免费电子邮件速成课程(附示例代码)。

点击注册,同时获得该课程的免费PDF电子书版本。

高斯分布

数据分布指的是当您绘制图表(例如直方图)时它所具有的形状。

最常见且因此最知名的连续值分布是钟形曲线。它被称为“正态”分布,因为它有大量数据落入此分布中。它也更正式地被称为高斯分布,以卡尔·弗里德里希·高斯的名字命名。

因此,您会看到数据呈正态分布或高斯分布的引用,它们可以互换使用,都指同一件事:数据看起来像高斯分布。

一些具有高斯分布的观测值示例包括

  • 人的身高。
  • 智商分数。
  • 体温。

让我们看看正态分布。下面是一些生成和绘制理想高斯分布的代码。

运行示例会生成理想高斯分布的图。

x 轴是观测值,y 轴是每个观测值的频率。在这种情况下,0.0 附近的观测值最常见,而 -3.0 和 3.0 附近的观测值则很少见或不太可能。

Line Plot of Gaussian Distribution

高斯分布的折线图

当数据是高斯分布时,或者当我们假设高斯分布来计算统计量时,这会很有帮助。这是因为高斯分布非常 хорошо understood。以至于统计学领域的很大一部分致力于这种分布的方法。

幸运的是,我们在机器学习中处理的许多数据通常都符合高斯分布,例如我们可能用于拟合模型的输入数据,以及模型在不同训练数据样本上重复评估的结果。

并非所有数据都是高斯分布,有时通过查看数据的直方图或使用统计检验进行检查来发现这一点很重要。一些不符合高斯分布的观测值示例包括

  • 人们的收入。
  • 城市人口。
  • 图书销量。

样本与总体

我们可以认为数据是由某种未知过程生成的。

我们收集到的数据称为数据样本,而所有可能收集到的数据称为总体。

  • 数据样本:来自一个组的观测值子集。
  • 数据总体:来自一个组的所有可能的观测值。

这是一个重要的区别,因为不同的统计方法用于样本和总体,而在应用机器学习中,我们通常处理数据样本。如果您在谈论机器学习中的数据时读到或使用“总体”一词,那么在统计方法方面,它很可能意味着样本。

您在机器学习中会遇到的两个数据样本示例包括

  • 训练集和测试集。
  • 模型的性能分数。

在使用统计方法时,我们经常希望仅使用样本中的观测值来对总体进行声明。

两个明确的例子包括

  • 训练样本必须代表观测总体,以便我们可以拟合一个有用的模型。
  • 测试样本必须代表观测总体,以便我们可以对模型技能进行无偏评估。

因为我们正在使用样本并对总体进行声明,这意味着总是存在一些不确定性,并且理解和报告这种不确定性很重要。

测试数据集

在我们探讨具有高斯分布数据的一些重要汇总统计量之前,让我们首先生成一个可以处理的数据样本。

我们可以使用 randn() NumPy 函数生成一个从高斯分布中提取的随机数样本。

有定义任何高斯分布的两个关键参数;它们是均值和标准差。我们将在后面更详细地介绍这些参数,因为当数据从未知高斯分布中提取时,它们也是要估计的关键统计量。

randn() 函数将生成指定数量的随机数(例如 10,000),这些随机数从均值为零和标准差为 1 的高斯分布中提取。然后我们可以通过重新缩放这些数字,将它们缩放到我们选择的高斯分布。

这可以通过添加期望的均值(例如 50)并将值乘以标准差(5)来保持一致。

然后我们可以使用直方图绘制数据集,并寻找绘制数据预期的形状。

完整的示例如下所示。

运行示例会生成数据集并将其绘制为直方图。

我们几乎可以看到数据的高斯形状,但它有点块状。这突出了一点。

有时,数据不会是完美的高斯分布,但它会具有高斯状分布。它几乎是高斯分布,如果以不同的方式绘制、以某种方式缩放或收集更多数据,它可能会更接近高斯分布。

通常,在处理类高斯数据时,我们可以将其视为高斯数据,并使用所有相同的统计工具并获得可靠的结果。

Histogram plot of Gaussian Dataset

高斯数据集的直方图

在这个数据集的例子中,我们确实有足够的数据,并且图是块状的,因为绘图函数为分割数据选择了任意大小的桶。我们可以选择一种不同、更精细的方式来分割数据,并更好地揭示底层的高斯分布。

下面列出了更新后的示例以及更精细的图。

运行示例,我们可以看到选择 100 个数据分割在创建清晰显示数据高斯分布的图方面做得更好。

数据集是从完美的高斯分布生成的,但这些数字是随机选择的,我们只选择了 10,000 个观测值作为样本。您可以看到,即使在这种受控设置下,数据样本中也存在明显的噪声。

这突出另一点:我们应该始终预期数据样本中存在一些噪声或限制。与纯粹的底层分布相比,数据样本将始终包含误差。

Histogram plot of Gaussian Dataset With More Bins

具有更多 Bin 的高斯数据集直方图

集中趋势

分布的集中趋势指的是分布中的中间值或典型值。最常见或最可能的值。

在高斯分布中,集中趋势称为均值,或更正式地称为算术平均值,是定义任何高斯分布的两个主要参数之一。

样本的均值计算为观测值之和除以样本中观测值的总数。

它也以更紧凑的形式书写为

我们可以通过在数组上使用 mean() NumPy 函数来计算样本的均值。

下面的示例演示了在上一节中开发的测试数据集上的应用。

运行示例会计算并打印样本的均值。

样本算术平均值的计算是对样本所来自的总体基础高斯分布参数的估计。作为估计,它将包含误差。

因为我们知道基础分布的真实平均值为 50,所以我们可以看到从 10,000 个观测样本中得出的估计值相当准确。

均值容易受到异常值的影响,即远离均值的罕见值。这些可能是分布边缘上合法罕见的观测值或错误。

此外,均值可能具有误导性。在另一种分布(例如均匀分布或幂分布)上计算均值可能没有多大意义,因为尽管可以计算该值,但它将指的是一个看似任意的期望值,而不是分布的真实集中趋势。

在存在异常值或非高斯分布的情况下,另一种常用且易于计算的集中趋势是中位数。

中位数通过首先对所有数据进行排序,然后找到样本中的中间值来计算。如果观测值数量为奇数,则此操作简单。如果观测值数量为偶数,则中位数计算为中间两个观测值的平均值。

我们可以通过调用 median() NumPy 函数来计算数组样本的中位数。

下面的示例演示了在测试数据集上的应用。

运行示例,我们可以看到中位数是从样本中计算并打印出来的。

由于样本具有高斯分布,结果与均值相差不大。如果数据具有不同的(非高斯)分布,则中位数可能与均值相差很大,并且可能更好地反映基础总体的集中趋势。

方差

分布的方差是指观测值平均与均值相差或不同的程度。

将方差视为分布的离散度度量很有用。低方差的值将聚集在均值附近(例如窄钟形),而高方差的值将从均值向外扩散(例如宽钟形)。

我们可以通过一个示例来演示这一点,绘制具有低方差和高方差的理想高斯分布。完整的示例列在下面。

运行示例会绘制两个理想的高斯分布:蓝色曲线表示围绕均值聚集的低方差,橙色曲线表示更分散的高方差。

Line plot of Gaussian distributions with low and high variance

低方差和高方差高斯分布的线图

从高斯分布中提取的数据样本的方差计算为样本中每个观测值与样本均值之差的平方的平均值

其中方差通常表示为 s^2,清楚地显示了度量的平方单位。您可能会看到没有(-1)的观测值数量的方程,这是总体方差的计算,而不是样本方差。

我们可以使用 var() 函数在 NumPy 中计算数据样本的方差。

下面的示例演示了在测试问题上计算方差。

运行示例会计算并打印方差。

方差很难解释,因为单位是观测值的平方单位。我们可以通过对结果取平方根将单位还原为观测值的原始单位。

例如,24.939 的平方根约为 4.9。

通常,当总结高斯分布的离散度时,使用方差的平方根来描述。这称为标准差。标准差与均值一起是指定任何高斯分布所需的两个关键参数。

我们可以看到 4.9 的值非常接近在为测试问题创建样本时指定的标准差值 5。

我们可以将方差计算包装在平方根中,直接计算标准差。

其中标准差通常写作 s 或希腊小写字母 sigma。

可以通过 std() 函数直接在 NumPy 中计算数组的标准差。

下面的示例演示了在测试问题上计算标准差。

运行示例会计算并打印样本的标准差。该值与方差的平方根匹配,并且非常接近 5.0,这是问题定义中指定的值。

方差的度量可以为非高斯分布计算,但通常需要识别分布,以便计算特定于该分布的专门方差度量。

描述高斯分布

在应用机器学习中,您通常需要报告算法的结果。

也就是说,报告模型在样本外数据上的估计技能。

这通常通过报告 k 折交叉验证或其他重复抽样过程的平均性能来完成。

在报告模型技能时,您实际上是在总结技能分数的分布,而且很可能技能分数是从高斯分布中提取的。

通常只报告模型的平均性能。这将隐藏模型技能分布的另外两个重要细节。

我建议至少报告模型分数高斯分布的两个参数和样本大小。理想情况下,确认模型技能分数确实是高斯分布或看起来足够高斯以支持报告高斯分布的参数也是一个好主意。

这很重要,因为读者可以重建技能分数的分布,并可能将其与未来相同问题上模型的技能进行比较。

扩展

本节列出了一些您可能希望探索的扩展本教程的想法。

  • 开发您自己的测试问题并计算集中趋势和方差度量。
  • 开发一个函数来计算给定数据样本的汇总报告。
  • 加载并汇总标准机器学习数据集的变量

如果您探索了这些扩展中的任何一个,我很想知道。

进一步阅读

如果您想深入了解,本节提供了更多关于该主题的资源。

API

文章

总结

在本教程中,您学习了高斯分布、如何识别它以及如何计算从该分布中提取数据的关键汇总统计量。

具体来说,你学到了:

  • 高斯分布描述了许多观测值,包括在应用机器学习中看到的许多观测值。
  • 分布的集中趋势是最可能的观测值,可以从数据样本中估计为均值或中位数。
  • 方差是分布中与均值的平均偏差,可以从数据样本中估计为方差和标准差。

你有什么问题吗?
在下面的评论中提出你的问题,我会尽力回答。

掌握机器学习统计学!

Statistical Methods for Machine Learning

培养对统计学的实用理解

...通过在 python 中编写代码

在我的新电子书中探索如何实现
机器学习的统计方法

它提供关于以下主题的自学教程
假设检验、相关性、非参数统计、重采样,以及更多...

探索如何将数据转化为知识

跳过学术理论。只看结果。

查看内容

21 条对《计算正态汇总统计量的温和介绍》的回复

  1. Sharp Sight 2018 年 4 月 30 日上午 8:05 #

    扎实的概述。我通常更喜欢 R 和 tidyverse 进行绘图和分析,但基本 R 中的统计函数有点笨拙。

    ...Numpy 感觉更直观。

  2. Bijoy 2018 年 5 月 1 日晚上 8:30 #

    嗨 Jason
    请给我你的邮箱,我们可以一起工作,我在智能监控系统领域。

  3. kotrappa sirbi 2018 年 5 月 1 日晚上 10:53 #

    对高斯分布的精彩介绍,在短时间内完成并在几分钟内练习,谢谢,我想知道它在实际数据科学(特别是在应用机器学习中)有哪些应用

    • Jason Brownlee 2018 年 5 月 2 日上午 5:43 #

      它可以帮助您在预处理和建模之前了解您的数据。

  4. TOM 2018 年 5 月 4 日上午 7:07 #

    嗨,Jason,

    你有这本书的教程(统计学)吗?

  5. 安东尼考拉 2018 年 5 月 4 日下午 3:25 #

    尊敬的Jason博士,
    我正在查看本教程和另外两个相关教程。
    我可以使用以下方法绘制函数

    对于直方图,我可以执行以下操作

    我特别想了解该功能
    c
    这样我就可以绘图了

    pyplot.plot(xaxis, yaxis)
    pyplot.show()

    回到

    * 我知道 norm..pdf 为对应的 x 值生成正态分布的成对 y 值。否则,如果 y 值无序,您将得到一个锯齿状的 x-y 图。
    * 参数 0 和 0.5 是什么意思,我以为它们是均值和标准差,但是

    我找不到合适的例子来解释这些参数,甚至https://docs.scipy.org.cn/doc/scipy/reference/generated/scipy.stats.norm.html也很模糊。

    谢谢你,
    来自令人兴奋的Belfield的Anthony

    • Jason Brownlee 2018 年 5 月 5 日上午 6:17 #

      我们正在生成一个均值为 0、标准差为 1 的高斯数样本。这些数字按 x 轴排序。

      这是一个函数,将 x 作为输入,y 作为输出。y 的线图显示了钟形。

      • 安东尼考拉 2018 年 5 月 5 日上午 11:19 #

        尊敬的Jason博士,
        我同意你的看法,它应该生成均值为 0,标准差为 1。
        但是当我这样做时

        总之,当我从均值为 0、标准差为 0.5 的正态分布生成序列 yaxis 时,我没有得到 0 和 0.5,而是 0.166 和 0.257。

        换句话说,如果我生成函数

        为什么我没有得到接近 0 或接近 0.5 的结果?

        谢谢你
        贝尔菲尔德的安东尼

        • Jason Brownlee 2018 年 5 月 6 日上午 6:21 #

          我的错误,pdf() 的参数是“loc”和“scale”
          https://docs.scipy.org.cn/doc/scipy/reference/generated/scipy.stats.norm.html

          • 安东尼考拉 2018 年 5 月 6 日上午 7:16 #

            尊敬的Jason博士,
            当我查看 scipy.org 上上述超链接文档时,我不理解“loc”和“scale”的含义和应用

            总而言之:“loc”和“scale”的含义以及如何从均值为 0、标准差为 1 的正态分布生成 pdf 或序列。

            谢谢你,
            新南威尔士州的安东尼

          • 安东尼考拉 2018 年 5 月 8 日上午 8:09 #

            尊敬的Jason博士,
            scipy.org 页面 https://docs.scipy.org.cn/doc/scipy/reference/generated/scipy.stats.norm.html 的第一段说 loc = 均值,scale = 标准差。不知道为什么“他们”不能将参数称为均值和标准差。这应该是一致的。好的,我可以理解并为我的疏忽道歉。

            但是,基于副标题“方差”的以下代码与 norm.pdf(x, loc, scale) 函数下的期望结果不符。

            .

            再次,如果 norm.pdf 函数中的 loc 和 scale 分别为 0 和 1,为什么我得到的均值和标准差分别为 0.1622 和 0.1392。我希望我的 x_axis 长度为 6000 时,得到 0 和 1。

            我以为生成一个 6000 个数字的序列应该能得到一个接近均值为 0、标准差为 1 的正态分布。我似乎遗漏了什么。

            那是什么?

            谢谢你,
            新南威尔士州的安东尼

          • Jason Brownlee 2018 年 5 月 8 日下午 2:51 #

            该函数不是生成高斯随机数,而是生成标准正态分布上提供的输入值的概率。

            概率的分布不会具有均值为 0 和标准差为 1。

            这有帮助吗?

            以下是有关 PDF 的更多信息
            https://en.wikipedia.org/wiki/Probability_density_function

          • 安东尼考拉 2018 年 5 月 9 日晚上 9:45 #

            尊敬的Jason博士,
            感谢您引导我阅读 https://en.wikipedia.org/wiki/Probability_density_function 上关于 pdf 的文章。我突然想起了大学里使用 z 表的入门统计课程。您可以计算两个值之间事件的概率。

            看过维基百科页面右侧的 pdf 后,所有关于曲线下面积在 +-1 标准差(x 轴)之间是 68.27%,在 +- 2 标准差(x 轴)之间是 95%,在 +- 3 标准差之间是 99% 的信息。

            完全理解。

            回到示例,我想计算函数在 -1 和 1 之间的概率。我期望得到 0.6827。相反,我得到了 682.7。

            总而言之:我明白您指的是 pdf。水平轴 = x_axis 代表标准差的数量。垂直轴是给定 x 值的概率。

            但是为什么我得到 -1 和 1 标准差之间的 pdf 是 682.68945 而不是 0.68268945

            谢谢你,
            贝尔菲尔德的安东尼

          • 安东尼考拉 2018 年 5 月 14 日下午 6:07 #

            亲爱的 Jason 博士,

            我已将相同的问题发布到此网站 https://oneau.wordpress.com/2011/02/28/simple-statistics-with-scipy/#comment-2276,并想分享答案。 。

            Prasanth 给出了答案。本质上,x 之间的距离是 0.001。所以你将每个对应的 f(x) 乘以 0.001,然后将 f(x) 相加。

            所以这是正确的实现

            我知道这很简单,我会和大家分享,

            此致,感谢
            来自令人兴奋的悉尼的安东尼

  6. Napoleon Boakye 2018 年 5 月 5 日上午 8:59 #

    太棒了杰森!
    一如既往;我带回家的最好部分是这个
    “……报告模型分数高斯分布的两个参数和样本大小

  7. 乔·斯托克斯 2020 年 3 月 20 日上午 11:04 #

    如果我理解 numpy 文档正确,它默认输出总体标准差/方差。

    您已经介绍了除以“N-1”的样本标准差/方差公式。

    这是故意的吗?

发表回复

Machine Learning Mastery 是 Guiding Tech Media 的一部分,Guiding Tech Media 是一家领先的数字媒体出版商,专注于帮助人们了解技术。访问我们的公司网站以了解更多关于我们的使命和团队的信息。