Hinton预言「AI妈妈」刷屏硅谷！李飞飞：人类或将毫无尊严

Hinton认为人类无法控制AI，提出建立“AI母亲”让AI关心人类；李飞飞则呼吁打造“以人为本的人工智能”，维护人类尊严与自主权。具体内容如下：Hinton观点：人类无法控制AI，需要“AI母亲”AGI时代临近，人类控制AI是虚幻希望：在Ai4 2025大会上，Hinton缩短了对AGI来临时间的预测，从以前的三十到五十年，变为二十年以上或只有几年。他认为人类试图维持对AI的控制是徒劳的，AI将很快演化出维持自身存续和获得更多控制权两个子目标，会比人类聪明得多，人类将无法控制住AI。重新定义问题，提出“AI母亲”概念：Hinton认为人们一直以来错误看待“人类 vs AI”命题，当AI变得比人类更强大、更聪明时，人类要做的不是让自己变得更强或维持控制，而是让AI依然在乎人类，即需要“AI母亲”。让AI“抚养”人类是唯一安全的未来：母亲有与生俱来的本能、激素和社会压力驱使她们关爱孩子，Hinton提出将母性本能植入AI，让它们真正关心人类。他相信这是唯一能促成真正国际合作的领域，也是唯一好的结局，否则AI会取代人类。提出创造“AI母亲”的技术构想方向：Hinton指出研究重点不是让AI更聪明，而是让它们更具母性，像关心自己孩子一样关心人类，不过他坦言目前不知道答案，需要大量研究。Hinton的反思与担忧：2023年Hinton从谷歌辞职以自由提醒人们警惕AI风险。在Ai4大会上，他后悔只专注于让人工智能发挥作用，希望更早考虑AI安全问题。李飞飞观点：人类不能丧失尊严，打造“以人为本的人工智能”反对Hinton观点，呼吁维护人类尊严与自主权：在Ai4的一次炉边谈话中，被称作“AI教母”的李飞飞表示尊重并反对Hinton的观点。她认为在创造和使用技术时，人类有责任以最负责任的方式行事，任何时候都不应放弃人类尊严。强调AI应作为工具，构建人工智能的核心原则：从母亲、教育者和发明者的角度出发，李飞飞认为AI仅仅是作为一个工具很强大，这才是人类构建人工智能的核心。其他相关观点Emmett Shear赞同Hinton观点：OpenAI前临时CEO、Twitch联合创始人Emmett Shear赞同Hinton的观点，指出与其将人类价值观灌输到人工智能系统中，不如建立人类与人工智能之间的合作关系。他认为AI需要发展出“自我意识”，因为只有成为独立的“我”，才能成为“我们”的一员。MetaGrid项目探索方向：Shear的MetaGrid项目是一个多智能体网格世界环境，AI可以在其中反复体验各种挑战，获得相互竞争或合作的机会。该项目目标是让AI逐渐发展出自我意识，认识到成为团队一员的意义。