机器学习中的主动学习包括什么

机器学习中的主动学习包括模型初始化、样本选择、人工标注和模型更新四个循环步骤。模型初始化：这是主动学习的第一步，需要构建一个初始的机器学习模型。这个模型可能并不准确，但它为后续步骤提供了一个基础。样本选择：在主动学习中，样本选择是关键步骤。该阶段采用一定的不确定性标准来选择最有价值的未标注样本进行人工标注。这些标准可以通过数学模型中的$argmax*{x∈D}P(y∣f(x))$表达式来量化。技术策略涵盖三类查询框架：基于信息量：如置信度最小化法、熵最大化法。这些方法选择那些模型预测最不确定的样本，因为这些样本最有可能提供新的信息来改进模型。基于代表性：如委员会查询法。这种方法考虑样本在数据集中的代表性，选择那些能够最好地代表整个数据集的样本。综合准则：如预期模型变化法、边界采样法。这些方法结合了信息量和代表性的因素，以选择那些既能提供新信息又具有代表性的样本。人工标注：在选择了最有价值的样本后，需要人工对这些样本进行标注。这是主动学习中唯一需要人工干预的步骤。模型更新：使用新标注的样本更新机器学习模型，以提高其准确性和泛化能力。然后，模型会再次用于选择新的未标注样本，进入下一个迭代周期。主动学习主要应用于自然语言处理、医疗影像分析等标注稀缺场景，其背后的关键思想是，如果允许机器学习算法选择它学习的数据，就可以用更少的训练标签实现更高的准确性。