用AI识别AI伪造图像,中国信通院携手合合信息发布团体标准

科技要有购入芯 2024-09-24 15:14:35

Deepfake(深度伪造)技术野蛮生长,引发了一系列负面后果。在韩国通讯软件Telegram上,某私密聊天室成员利用女性照片非法合成色情照片和视频,影响极为恶劣。除了普通的受害者,知名人士也难以逃脱图像伪造的“魔爪”,某视频网站上,由AI合成的马斯克等名人为虚假投资做背书的视频泛滥成灾。

不法分子利用人工智能技术兴风作浪,让人防不胜防,文档图像领域更是诈骗的重灾区。近日,由中国图象图形学学会、中国信息通信研究院、上海合合信息科技股份有限公司、中国科学技术大学、深圳大学、上海交通大学、华南理工大学、南开大学等高校、公司联合编制、中国互联网协会发布的《文本图像篡改检测系统技术要求》团体标准(简称“《要求》”)正式发布,将助力文档图像处理技术安全、有序发展。

《要求》为行业发展撑起保护伞

科技的发展使得数字化图像逐渐成为重要的信息传递手段,在提供便利的同时也带来了极大的安全隐患。区别于自然图像,文本图像篡改痕迹更加难以察觉,用户只需使用一键式图像编辑工具即可低成本篡改文档、聊天记录、资质证书等图像,人眼或者传统检测系统难以辨认。

作为中国首批文本图像篡改检测领域的团体标准之一,《文本图像篡改检测系统技术要求》围绕“细粒度”视觉差异伪造图像鉴别、生成式图像判别、文档图像完整性保护等行业焦点议题,建立了统一的评估框架。《要求》覆盖了市面上常见的图像篡改类型,适用于拍照证照、扫描证照、拍照文档、扫描文档、截图等五大类文本图像篡改检测系统,为企业在开发篡改检测技术时提供了明确指导,提升产品的可靠性和有效性。

随着人工智能、机器学习和大数据技术的发展,文本图像反篡改技术也在不断突破边界,据信通院移动互联网反欺诈研究中心显示,反篡改技术正在朝着智能化和自动化、多模态融合、注重鲁棒性和适应性、增强用户体验、高效处理大规模数据等方向进化,探索复杂环境下如何提高检测的效率和准确性。《要求》一方面推动了前沿技术的规模化应用;另一方面,前瞻性标准一定程度上引领行业技术发展方向,为企业应对未来挑战提供了坚实基础。

AI“照妖镜”识破图像篡改真面目

近年来,证件造假案件屡见不鲜。2024年6月,内蒙古某地破获了一起伪造机动车证件抵押诈骗案件,嫌疑人在汽车租赁公司租车后伪造车辆行驶证,转手抵押获得借款,涉案金额超300余万元,辨别证件真伪亟需“火眼金睛”。

面对篡改图像以假乱真的难题,合合信息基于深度学习的图像篡改检测方法,推出了“PS篡改检测”技术,可检测出多种篡改形式,智能捕捉图像在篡改过程中留下的细微痕迹,并以热力图的形式展示图像区域篡改位置。

除了能检测上述案例中的行驶证页面是否被篡改,PS篡改检测技术还支持多种应用场景,包括身份证、护照在内的多种卡证,营业执照,商场小票等各类票据。目前,合合信息卡证篡改检测技术可集成至企业现有业务中,具备高响应、低误检率等优势。

图说 合合信息图像篡改检测技术对身份证图片篡改痕迹进行定位

图像篡改手段层出不穷,合合信息也在不断优化升级检测技术,据悉,合合信息技术团队通过大规模样本预训练模型,实现了对截图场景的有效篡改检测。这一技术还能够通用推广到PDF扫描文档的场景中,例如,检测房屋租赁合同PDF文件中字段(姓名、房屋地址等)、二维码、背景等内容是否有篡改痕迹,降低房屋租赁风险。

纵观科技发展进程,AI时代已经到来,生成式技术的发展增加了篡改检测的难度,文档图像反篡改领域需要建立起联合防范机制,及时应对各类挑战。后续,合合信息也将积极参与文本图像篡改检测标准首批贯标测评工作,为行业竖立标杆,助力打造中国“可信AI”在机器视觉、图像处理领域的体系建设,以技术之道反制技术之险。

0 阅读:0

科技要有购入芯

简介:感谢大家的关注