【ICML2021】深度架构持续学习，127页ppt教程讲述持续学习进展与未来

ICML 2021 线上会议中，来自 University of Montreal & MILA 的 Irina Rish 等人进行了关于《持续学习》的教程讲解，该教程共 127 页 PPT，介绍了持续学习的进展与未来方向。具体内容如下：持续学习的背景与目标人类具备从经验中持续学习的能力，能够将先前学到的知识和技能应用于新情境，并作为后续学习的基础。人工智能（AI）的宏伟目标之一是构建一个具备“持续学习”能力的代理，通过自主增量开发复杂的知识和技能，构建对世界的理解。然而，当前人工智能系统易受新数据或新环境的影响，学习过程通常局限于固定数据集和孤立任务，难以实现复杂和自主的智能行为。持续学习和适应能力虽被视为智能代理的基本支柱，但大多未被纳入主要的人工智能研究重点。教程内容概述本教程基于机器学习研究和人工智能深度架构的最新进展，总结持续学习思想的应用。从动机和简短历史出发，将最近的持续学习进展与之前相关主题的研究联系起来，总结主要方法、基准和关键结果方面的最新进展。教程第二部分涵盖低监督信号的持续学习探索性研究，以及与其他范式（如无监督、半监督和强化学习）的关系。强调神经科学最新发现对原始持续学习算法设计的影响，以及在现实应用中的部署。最后强调持续学习作为可持续机器学习的关键技术推动者及其社会影响，并概述有趣的研究问题和未来值得解决的方向。教程目录Introduction and State-of-the-artMotivation & Brief HistoryInspirations from NeuroscienceSupervised Continual LearningContinual Reinforcement LearningFuture Directions and Open ChallengesContinual Unsupervised LearningContinual Learning Applications & ToolsImpact on Sustainable Artificial IntelligenceOpen Questions & Conclusion讲者信息参考文献(Kirkpatrick, 2016) Kirkpatrick, James, et al. "Overcoming catastrophic forgetting in neural networks." Proceedings of the national academy of sciences 114.13 (2017): 3521-3526.(Parisi, 2019) Parisi, German I., et al. "Continual lifelong learning with neural networks: A review." Neural Networks 113 (2019): 54-71.(Ring, 1998) Ring, Mark B. "CHILD: A first step towards continual learning." Learning to learn. Springer, Boston, MA, 1998. 261-292.(Thrun, 1998) Thrun, Sebastian. "Lifelong learning algorithms." Learning to learn. Springer, Boston, MA, 1998. 181-209.(Carlson, 2010) Carlson, Andrew, et al. "Toward an architecture for never-ending language learning." Proceedings of the AAAI Conference on Artificial Intelligence. Vol. 24. No. 1. 2010.(Goodfellow, 2013) Goodfellow, Ian J., et al. "An empirical investigation of catastrophic forgetting in gradient-based neural networks." arXiv preprint arXiv:1312.6211 (2013).(Lomonaco, 2019) Lomonaco, Vincenzo. PhD Dissertation. "Continual Learning with Deep Architectures." (2019).PPT 内容展示