资源 | 一文解析统计学在机器学习中的重要性（附学习包）

统计学在机器学习中至关重要，是应用机器学习的先决条件，能将观测结果转化为信息并回答样本相关问题，是汇总数据和量化样本域属性的工具集合。统计是机器学习的必备先决条件机器学习与统计的紧密关联：机器学习和统计是密切相关的研究领域，统计学家常把机器学习称为“应用统计”或“统计学习”，这表明二者在理论和方法上有深厚的渊源，机器学习在很大程度上依赖统计学的理论和方法。初学者需具备统计学背景：对于初学者来说，具备一定的统计学背景对学习机器学习至关重要。例如，在流行的实用机器学习书《应用预测建模》中提到，读者应掌握一些基本统计知识，包括方差、相关、简单线性回归和基本假设检验（如p值和检验统计）；在《统计学习入门》中也期望读者至少有一门统计学基础课程；即便不是严格先决条件，如《编程集体智慧》一书也指出掌握一些基本统计知识有助于理解算法。学习统计学的原因将原始数据转化为信息：单独的原始观察数据只是数据，并非信息或知识。例如，我们拥有大量关于天气、销售等方面的原始数据，但这些数据本身并不能直接告诉我们有用的信息。通过统计学方法，我们可以回答诸如“什么是最常见或可预期的观测”“观测的限制条件是什么”“数据是什么样子的”等问题，从而将原始观察数据转化为可以使用和分享的信息。处理实验结果中的复杂问题：除了原始数据，我们还可以设计实验来采集观测数据。根据实验结果，会面临更复杂的问题，如“哪些变量是最相关的”“两个实验的结果有什么不同”“数据中的差异是真实的还是噪声的结果”。这些问题对于项目决策、利益相关者的判断等都很重要，而统计方法是找到这些问题答案的关键。应用于机器学习模型训练和结果解释：在机器学习中，我们需要用统计方法了解用于训练模型的数据，同时用它来解释测试不同模型的结果。实际上，预测建模项目的每一步都需要用到统计方法。统计学的定义和分类统计学的定义：统计学是数学的一个子领域，是处理数据和使用数据回答问题的方法集合。它历经数百年发展，由众多为解决问题而寻找答案的人开发出各种方法。虽然对于初学者来说，统计方法可能显得庞大而无形，且与其他研究领域的方法难以区分，但一些基于统计与概率关系的重要定理，如大数定律和中心极限定理，提供了有价值的理论基础。大数定律帮助我们理解为什么较大的样本往往更好，中心极限定理为我们比较样本之间的期望值（如平均值）提供基础。统计学的分类描述性统计：用于将观察到的原始数据汇总成我们可以理解和共享的信息。通常是对数据样本统计值的计算，以总结数据样本的属性，例如计算共同的期望值（如平均值或中值）和数据的价差（如方差或标准偏差）。此外，还涵盖利用图形方法对数据样本进行可视化，通过图表和图形可以定性理解观测的形状或分布以及变量的相关性。推断统计：通过从一组较小的被称为样本的观察数据进行量化，提炼出域或总体属性的方法。一般是从总体分布中估计出特征值，如期望值或价差的估计等。可以利用复杂的统计推断工具量化给定观测数据样本的概率，这些工具通常被称为统计假设检验工具，其中检验的基本假设称为零假设。延展阅读资源书籍：《应用预测建模》（2013年）、《R语言应用程序统计学习导论》（2013年）、《编程集智能：构建智能Web 2.0应用程序》（2007年）、《统计》（第四版，2007年）、《统计：统计推断的简明课程》（2004年）、《简明统计》（第三版，2010年）。文章：维基百科上的统计、门户：维基百科上的统计、维基百科上的统计文章列表、维基百科上的数理统计、维基百科上的统计历史、维基百科的描述性统计、对维基百科的统计推断。