尊龙凯时app-尊龙凯时官方网站

AI图像内容安全新技术防范“生成式造假”

文章出处: 人气:发表时间:2023-07-10

&尊龙凯时官方网站nbsp;

开年以来,多个图像生成软件在全球迅速蹿红,其作画逼真程度“技惊四座”。人工智能(AI)让生成、篡改等多形式的图片伪造的门槛变得更低,由此引发的隐患令人忧虑。

利用AI进行图像造假的行为,是AI可信化发展需要应对的重点问题。在近日召开的世界人工智能大会(WAIC 2023)上,中国信息通信研究院(简称中国信通院)围绕“多模态基础大模型的可信AI”主题举办了专项论坛。论坛上,合合信息发布的AI图像内容安全技术方案可精准定位截图篡改痕迹,对生成式图片进行智能判别,防止不法分子利用技术手段非法爬取图片上的信息。

 ?

合合信息AI图像篡改检测技术应用效果展示。                  合合信息供图

去年的人工智能大会上,合合信息首次展示了“PS篡改检测”技术,今年,AI图像篡改检测“黑科技”持续优化升级,应用面也拓展至“截图篡改检测”。升级后的AI图像篡改检测技术可检测包括转账记录、交易记录、聊天记录等多种截图,无论是从原图中“抠下”关键要素后移动“粘贴”至另一处的“复制移动”图片篡改手段,还是“擦除”“重打印”等方式,图像篡改检测技术均可“慧眼”识假。

该技术的主要难点在于,与证照篡改检测相比,截图的背景没有纹路和底色,整个截图没有光照差异,难以通过拍照时产生的成像差异进行篡改痕迹判断,现有的视觉模型通常难以充分发掘原始图像和篡改图像的细粒度差异特征。

为此,合合信息提出了一种基于HRNet的编码器-解码器结构的图像真实性鉴别模型,结合图像本身的信息,包括但不限于噪声、频谱等, 从而捕捉到细粒度的视觉差异,达到高精度鉴别效果。

返回顶部