机器学习概述

机器学习是多领域交叉学科，研究计算机模拟人类学习行为以获取新知识或技能，并改善自身知识结构，即从数据中学习规律和模式以应用于新数据预测。 具体介绍如下：定义与核心要素多领域交叉性：机器学习从业者需掌握编程技能、数理统计知识及专业领域知识。核心研究内容：计算机模拟人类学习行为，获取新知识或技能，改善知识结构。简明定义：从数据中学习规律和模式，以应用在新数据上做预测。三要素：数据（Data）：机器学习的输入。学习算法（Learning Algorithm）：从数据中学得模型的过程。模型（Model）：学到的结果。数学表达：假设存在Ground Truth f，学习算法从假设集合(Hypothesis Set, H)中选出最佳映射g，使g尽可能接近f。机器学习可定义为：A takes D and H to get g（用数据计算近似目标f的假设g）。发展历史人工智能起源：1950年，马文·明斯基（“人工智能之父”）与邓恩·埃德蒙建造世界首台神经网络计算机；同年，阿兰·图灵提出图灵测试。人工智能诞生：1956年，达特茅斯会议上约翰·麦卡锡提出“人工智能”一词，后与明斯基共同创建MIT AI LAB实验室。机器学习独立：20世纪80年代，机器学习成为独立科学领域，技术百花齐放，分为两大主流：符号主义学习：代表包括决策树和基于逻辑的学习。连接主义学习：代表技术为支持向量机及“核方法”，当前机器学习方法一般指统计机器学习方法。深度学习爆发：2010年前后，大数据和计算机性能提升推动深度学习发展。工作流程机器学习工作流程一般分为四步：数据预处理：清洗、转换数据，为模型训练做准备。机器学习、训练模型：使用学习算法从数据中学习模型。模型评估：通过测试数据评估模型性能。预测新数据：应用模型对新数据进行预测。分类按训练数据标注情况：监督学习：输入样本有标注，分为分类（离散值标注，如二分类、多分类）和回归（连续值标注，如预测房价）。无监督学习：训练样本无标注，解决聚类问题（如用户群体分析）。其他类别：半监督学习：部分数据有标签，部分无标签，算法包括自训练、直推学习、生成式模型等。集成学习：结合多个模型提高性能。深度学习：基于深层神经网络的学习方法。增强学习：通过与环境交互学习最优策略。