最担心的事情还是发生了！西藏日喀则地震，正在被“AI假图”塑造？

西藏日喀则地震期间确实出现了利用AI生成虚假图片传播谣言的情况，这些“AI假图”干扰了新闻真实性，加重了社会信任成本，需引起重视并加强监管与治理。事件概述1月7日9时05分，西藏日喀则市定日县发生6.8级地震。一些网友利用AI技术生成“灾区”群众被埋、房屋坍塌等虚假照片进行发布，并配文日喀则地震等关键词博取流量，造成网友误解。例如，一张“被压废墟下的小男孩”图片在某短视频平台被多个账户转发，配文都与西藏日喀则地震关联，其中一些甚至获得好几万的转评赞。然而，这张小男孩图片实际是由AI生成，在传播过程中，原图的“疑似使用AI生成技术，请谨慎甄别”提示被很多自媒体删去，增加了迷惑性。社媒平台上还有很多标着“日喀则地震”的图片也并非现场图，如“在废墟中妈妈用身体为孩子顶住压力”的图片，实际是借由AI或旧图重新拼接，故意混淆视听。AI造谣问题严峻干扰新闻真实性：AI生成逼近真实的图片乃至音视频变得轻而易举，AI造谣具有门槛低、批量化、识别难等特点，治理虚假信息的手段需要进一步升级。加重社会信任成本：虚假信息以高度可信的方式呈现给社会公众，会引发广泛的社会不信任，公众将不再信任新闻、名人言论或商业声明，甚至可能引发市场动荡和社会恐慌。长期接触虚假信息，可能让公众在真真假假中迷失自我，产生“信任衰退效应”。影响司法与商业：伪造的音视频证据可能干扰司法判决，削弱法律的权威性。虚假的决策声明或谈判内容可能导致错误决策和经济损失。被压废墟下的小男孩AI生成图，引发广泛关注，实际为虚假信息平台审核与监管需加强审核滞后：当前市面上AI智能APP在生成“地震”等关键词时，未给予任何侵权、违规、虚假信息等干预提示，自动生成了多张相关图片。在发布环节，AI生成的图片及视频只有在创作者发布后，平台才能进行识别和审核，审核过程通常要在发布1小时后才能完成，无法第一时间标注虚拟图片信息。相关法规：2023年7月我国颁布了《生成式人工智能服务管理暂行办法》，为AI生成内容的监管提供了法律依据。AI不是法外之地利用AI生成图片本身不会受到处罚，但若肆意用AI技术生成地震受灾严重的画面，甚至编造谣言，图片和配文内容与事实严重不符，且引发社会广泛关注甚至网友的恐慌，则属扰乱公共秩序行为。若相关内容转发评论量较大，造成了不良社会影响，根据《治安管理处罚法》相关规定，发布者可能面临法律制裁。未来治理方向AI软件方：未来是否进行AI生成标识强制标注，从源头减弱虚假信息的传播效果。AI软件在输入有关地震等关键词时，应给出“不传播虚假信息”等提示，在算法上具备道德和法律的判断能力，避免生成和传播虚假信息。平台方：应落实把关责任，针对灾害事故、社会热点事件，加强信息筛查，常态化升级平台甄别技术，强化事后惩戒。在发布内容前进行必要的审核，特别是在涉及灾害等敏感话题时，加强审核力度。废墟中妈妈用身体为孩子顶住压力的虚假图片，实际为借由AI或旧图重新拼接提升媒介素养灾难报道与媒介素养：在灾害面前，虚假图片会夺公众之瞩目，淆乱救援者对灾情之研判与施救，不仅消费公众情感，也扰乱公共秩序，甚至可能会引起社会恐慌情绪。不传播未经证实的消息，应当是基本的媒介素养。AI时代下的媒介素养：当前AI技术尚不完善，但仍有大批网民难以辨别AI生成内容。我国新增网民以10-19岁青少年和“银发族”为主，他们根本不了解AI技术发展到了何种程度，看到相关视频自然也不会联想到完全是由AI虚构生成。因此，需要通过科普提升更多网民的媒介素养，提升识别AI作品的能力。延伸阅读：2024年的“AI 事故”AI内容垃圾：生成式AI的出现让大批量的文本、图片、视频以及其他素材的创作变得轻而易举，但质量欠佳的产物也大量涌现，被称为AI内容垃圾。AI扭曲真实事件：如巴基斯坦网站利用AI生成都柏林的活动列表，导致数百人聚集等待参加并不存在的万圣节游行，暴露了公众对AI生成内容的盲目信任问题。AI色情图像：随着生成式AI技术的发展，非自愿深度伪造（deepfake）色情内容泛滥，严重侵害了隐私权，且现有法律和技术手段尚不足以有效应对。