水可载舟亦可覆舟-AI，可信AI！

可信AI是应对AI技术滥用的关键，通过图像篡改识别、AIGC图片生成识别和OCR对抗技术等手段，可有效提升对AI造假的甄别能力，保障信息安全。图像篡改识别定义与类型：图像篡改指将图像修改后用于不法场景，主要分为复制移动、拼接、擦除和重打印四种类型。复制移动是将一张图像的某部分复制到另一图像的某部分；拼接是将两个无关图像拼接成一个；擦除是清除图像中的重要信息；重打印是在擦除基础上编辑新文本内容。检测原理：图像篡改部分与原图像交界处存在瑕疵，如突变点，利用机器学习或深度学习方法可识别图片异常部分。合合信息的技术：提出基于HRNet的编码器－解码器结构的图像真实性鉴别模型，以ConvNeXt作为编码器提取图片整体特征，再经过LightHam（基于降维的）或者EANet（基于注意力机制的）的解码器，捕捉更细粒度的图像差异，判断图片是否存在篡改，提高鉴别精度。应用场景：可应用于转账记录、交易记录、聊天记录、资质证书、文档合同、银行保单等图片的真假判别，保证信息真实性，防止欺诈行为。同时，用户需提高防范意识，确认数据来源可信性、时间戳、水印、数字签名等。AIGC图片生成识别现状与问题：AIGC快速或批量生成图片、短视频的能力虽带来欢乐，但被不法分子利用进行新闻造假、资讯造假、诽谤造谣、造假诈骗等。对于人来说，分辨真实人脸和AI生成的人脸较困难，但模型可提取关键信息进行判断。合合信息的技术：基于空域与频域关系建模，通过多头注意力机制获取图片空间特征，增加纹理增强模块放大浅层特征中的细微伪影，借助模型训练捕捉真实图片和生成式图片的细微差异，实现真实人脸和伪造人脸的判别。应用场景：可应用于身份验证访问控制、金融反欺诈、移动设备安全检索、数字图像提取、视频会议远程验证等，防止使用伪造人脸进行身份验证，获取个人信息及权限，降低资金盗刷概率，避免侵权问题，保护个人财产安全。OCR对抗技术背景与需求：生活中常需将重要证件或文件发给他人，但这些图片含重要个人信息，不法分子利用OCR技术提取信息会导致泄露，因此需对图片进行加密。攻击方法：包括白盒攻击方法和黑盒攻击方法。白盒攻击是已知OCR系统的全部结构和参数，通过计算输入图片关于OCR目标函数的梯度，逐步添加噪声，降低目标文本正确类上预测得分，使系统产生错误预测；黑盒攻击是未知OCR系统的全部结构和参数，直接对其进行攻击，通过输入输出与模型进行交互，根据模型的输出反馈调整攻击方案。合合信息的方法：在目标文本周围区域反复迭代增加特定的高斯噪声以及亮度变换，将原始ORC系统作为金标准，反复迭代，直至识别错误。应用场景：可应用于隐私保护、数据加密等场景，防止重要信息被他人通过OCR系统获取，避免个人财产受到威胁。