机器之心对话张亚勤：机器学习对安全领域而言是把双刃剑

机器学习对安全领域而言是把双刃剑，主要体现在其既能提升安全防护能力，也可能因自身漏洞被利用而带来新威胁。具体如下：机器学习为安全领域带来的优势处理大量数据并识别威胁：具有人工智能能力的系统能够处理巨量数据，善于识别和应对威胁。例如可以根据大数据中的模式来判别 DDoS 攻击可能将于何时何地发生，进而在真正有人发动攻击之前就采取预防措施。过去十年大数据分析让 AI 实现了跨越式发展，机器学习基于大量数据得出结论的方法在安全领域已得到广泛应用，深度学习议程在安全大会上的数量也越来越多。拓展安全边界：AI 让安全边界延展覆盖了物联网、汽车和各种垂直领域，虽然可被攻击的事物增多，但也能通过识别数据和预测防御攻击的方法来保护系统。例如百度的自动驾驶系统阿波罗（Apollo）和智能语音助手度秘（DuerOS）等人工智能系统，会经常进行网络安全攻击和防御模拟来提升防御能力。构建安全生态系统：百度构建了名为 OASES 的智能边缘安全生态系统，可以让不同的安卓版本有能力更好地防御网络攻击。机器学习给安全领域带来的挑战模型和算法存在漏洞：某些 AI 模型和算法本身可能存在漏洞，黑客可利用其进行攻击。例如有研究表明只要用胶带在停车标志上加上特定的图案，就能让 AI 将其识别成一个 45 MPH 的限速标志，卷积网络对角度、位置偏移、图像尺寸等条件非常敏感，这体现了算法的脆弱性。对抗样本的潜在威胁：虽然对抗样本目前还不能用于大规模攻击，但研究者在实验室模拟该领域攻防及开发工作，以深入研究这一技术。例如在 Apollo 开源后，很多安全专家和白帽黑客“攻击”过其模型并分享防御代码，说明对抗样本攻击是潜在的安全威胁。新出现的对特定领域的威胁：随着安全边界的延展，出现了新对汽车的威胁。比如黑客可以让制动系统和制动防抱死系统（ABS）失效，从而从驾驶者手里接管汽车；通过干扰 GPS，改变汽车显示的位置或地图信息；还能攻击视频等其它车载信息系统。去年中国一个安全研究团队就成功攻破了一台特斯拉 Model X。应对机器学习带来的安全挑战的措施提升算法稳健性：针对 AI 模型复杂易存在漏洞的问题，需要提升算法的稳健性。例如百度在完成一次攻击模拟后，会立即探索防御它的方法，Apollo 中超过 50%的代码都与安全相关，通过这种方式来增强系统的安全性。培养跨学科人才：目前在安全、人工智能和垂直行业工作的跨学科人才太少，而自动驾驶等新兴领域对安全专家要求很高，不仅应了解自动驾驶技术，也要熟悉一般意义上的汽车，还要熟悉所有相关的 AI 算法和安全算法。因此培养跨学科人才是应对安全挑战的重要举措。