西藏日喀则地震，竟然有人用 AI 生成的旧图假装“被压在废墟下的孩子”！！！

在2025年1月7日西藏日喀则市定日县6.8级地震的灾情中，确实出现了有人用AI生成的旧图假装“被压在废墟下的孩子”的情况。以下是详细介绍：AI生成图片的传播情况：一个戴帽子、被压在废墟下的小孩的图片，广泛流传在“日喀则地震”相关视频中，实则由AI生成。该图片最早出现在一个叫“AI小芭芘”的账号2024年11月18日的短视频中，作者声明了“内容由AI生成”。仔细观察图片，可以看到这个小孩的左手有6根手指，这是AI生成内容常见的异常特征。其他疑似AI生成或旧图拼接的情况：还有一些标着“日喀则地震”的图片也并非现场图。例如“在废墟中妈妈用身体为孩子顶住压力”的图片，评论区有人说“目前已经救出，其母亲多处骨折还是平安无事”，但截图后选择“识别图片”，就能在同平台上看到2022年就有创作者发布，明显是借由AI或旧图重新拼接，故意混淆视听。AI生成虚假图片的原理：AI生成被压在废墟下孩子的图片，背后涉及生成式人工智能技术，以文本到图像生成模型（Text-to-Image Models）为核心。这类技术通过解析用户输入的文字描述，将语义信息转化为逼真的图像。其原理基于扩散模型（Diffusion Models）或生成对抗网络（GAN，Generative Adversarial Network）。扩散模型是基于概率模型，在每一步迭代中将噪声图像调整为更加符合输入描述的形态；生成对抗网络则是通过生成器和判别器的对抗训练生成高质量图像，生成器根据文字描述生成图像，判别器判断生成的图像是否真实，通过不断对抗最终生成高度逼真的场景。AI生成虚假图片泛滥的原因：随着AI图像生成工具的普及，普通用户无需技术背景，只需输入文字即可生成相关图像，极大降低了滥用门槛，很容易引发争议。尤其是生成灾难图像，不仅可能制造恐慌，误导公众，还是对真实灾难和受灾者的亵渎。更可怕的是，如果别有用心的人利用AI技术生成一些诸如恐怖袭击视频、灾难事件或大规模冲突的视频，还可能引起群众恐慌，导致不理性的群体行为甚至社会动荡。AI造假的负面影响：社会信息真实性崩塌：虚假信息以高度可信的方式呈现给社会公众，操纵大众心理、情绪和预期，会引发广泛的社会不信任，公众将不再信任新闻、名人言论或商业声明，甚至可能引发市场动荡和社会恐慌。长期接触虚假信息，可能让公众在真真假假中迷失自我，产生“信任衰退效应”，对健全社会危害极大。司法系统面临危机：伪造的音视频证据可能干扰司法判决，削弱法律的权威性。商业领域受到冲击：虚假的决策声明或谈判内容可能导致错误决策和经济损失等。识别AI造假内容的方法：制作不够精良的AI造假视频、图文用肉眼就可看出异常，例如人物表情僵硬、面部边缘模糊、背景过渡不自然、人脸光影效果与周围环境光线情况不符、手指扭曲或手指数量不对等。但随着技术进步，这些异常特征越来越少，肉眼分辨越来越难。这种情况下必须通过技术检测、法律监管、公众教育和平台审查等方法来防范AI技术的滥用，公众要认识到AI造假的危险性，提高警惕，信任权威机构或有权威机构背书、声誉一贯良好、出错也能自己纠错的信源，对于任何来源可疑的内容保持合理怀疑，尤其是打算根据这些信息采取进一步行动的时候。