网信办发布《全球人工智能治理倡议》，聚焦人工智能安全风险！

网信办发布《全球人工智能治理倡议》，聚焦人工智能安全风险中央网信办于10月18日正式发布了《全球人工智能治理倡议》（以下简称《倡议》），该《倡议》旨在通过国际合作，共同应对人工智能发展带来的安全风险与挑战。一、《倡议》的核心内容与原则《倡议》明确提出，各国在发展人工智能时应坚持相互尊重、平等互利的原则，确保无论国家大小、强弱或社会制度如何，都有平等发展和利用人工智能的权利。核心内容主要包括：坚持以人为本、智能向善：引导人工智能朝着有利于人类文明进步的方向发展，确保技术发展服务于社会公益和人类福祉。建立风险等级测试评估体系：通过不断提升人工智能技术的安全性、可靠性、可控性和公平性，来降低潜在风险。支持技术防范风险：积极发展用于人工智能治理的相关技术开发与应用，利用人工智能技术本身来防范可能的风险。二、我国针对人工智能安全风险的监管措施在我国，监管机构高度重视人工智能技术的滥用问题，特别是针对人脸识别领域的潜在风险。近年来，相关部门不断出台相关法规，如2023年的《生成式人工智能服务管理办法》与《人脸识别技术应用安全管理规定（试行）》，以加强监管和防范风险。三、人工智能安全风险的具体表现网络暴力：借助AI技术制作逼真的照片、视频，对受害者进行恶意攻击和伤害。人工智能诈骗：通过获取目标人脸图像信息，利用软件分析面部特征进行换脸、活化图像，进而实施诈骗。攻击人脸识别防护系统：利用人工智能技术绕过或攻击人脸识别算法，为企业及客户带来巨大损失。四、应对人工智能安全风险的措施为应对上述风险，IT研究和分析机构Gartner等提出了多项战略技术趋势，包括全民化的生成式AI和AI信任、风险与安全管理。同时，企业也在积极寻求解决方案，如爱加密推出的人脸安全综合防护系统。该系统通过“查、打、防”三位一体的人工智能安全应用体系，全面加固人脸识别系统。其中：“查”环节：利用运行环境检测、注入攻击检测、视频流签名、数据加密等技术，检测APP运行环境是否存在安全风险，防止篡改人脸识别图片、视频。“打”环节：基于百万级数据集训练的防御算法模型，具有高达98.6%的图片攻击拒绝率和99.6%的视频攻击拒绝率，能够快速识别并防御攻击样本。“防”环节：提供模型安全检测平台和可视化的攻防对抗靶场，帮助企业不断提升人脸识别系统的安全防护能力。五、图片展示以下是爱加密人脸安全综合防护系统的部分功能展示：六、总结与展望随着人工智能技术的不断发展，其带来的安全风险也日益凸显。通过国际合作和共同治理，以及企业自身的技术创新和防护措施，我们可以有效降低这些风险，确保人工智能技术的健康、可持续发展。未来，期待更多企业和机构加入到人工智能治理的行列中来，共同为构建安全、可靠的人工智能环境贡献力量。