原标题:截图造假无所遁形!合合信息图画篡改检测“黑科技”再晋级|2023国际人工智能大会
本年以来,多个图画生成软件在全球敏捷蹿红,其作画传神程度“技惊四座”。AI一路“狂飙”,让生成、篡改等多方法的图片假造的门槛变得更低,由此引发的危险也令人担忧。
图画是信息的首要载体之一,运用AI进行图画造假的行为,是AI可信化开展需求应对的要点问题。在本届国际人工智能大会(WAIC 2023)上,我国信息通讯研讨院(简称我国信通院)环绕“多模态根底大模型的可信AI”主题举办了专项论坛。论坛上,合合信息AI图画内容安全技能计划取得广泛重视。该计划可精准定位截图篡改痕迹,对生成式图片进行智能判别,避免不法分子运用技能办法不合法爬取图片上的信息。
图说:合合信息智能立异事业部总经理唐琪现场介绍合合信息AI图画安全技能运用 采访目标供给(下同)
上一年的人工智能大会上,合合信息初次展现了“PS篡改检测”技能,“像素级”的辨认精确度让现场参观者感叹,在辨认证件、收据等各类重要的商业材猜中的PS痕迹方面,AI真的是“火眼金睛”。
本年,AI图画篡改检测“黑科技”继续优化晋级,运用面也拓宽至“截图篡改检测”。相较于上一年的天然场景图画,对用户日子影响更大的资质证书、文档合同、银行保单等截图若被不法分子运用,所接受的财产损失难以估计。
据了解,晋级后的AI图画篡改检测技能可查验测验包括转账记载、买卖记载、聊天记载等多种截图,无论是从原图中“抠下”要害要素后移动“张贴”至另一处的“仿制移动”图片篡改手法,仍是“擦除”“重打印”等方法,图画篡改检测技能均可“慧眼”识假。
图说:“重打印”篡改图片检测示例:将一张图片输入到合合信息AI图画篡改检测模型中,模型便可以判别这张图画是否被篡改,而且定位图画的篡改区域
该技能的首要难点在于,与证照篡改检测比较,截图的布景没有纹理和底色,整个截图没有光照差异,难以经过摄影时发生的成像差异进行篡改痕迹判别,现有的视觉模型一般难以充沛开掘原始图画和篡改图画的细粒度差异特征。
为此,合合信息提出了一种根据HRNet的编码器-解码器结构的图画实在性辨别模型,结合图画自身的信息,包括但不限于噪声、频谱等, 然后捕捉到细粒度的视觉差异,到达高精度辨别作用。
针对频上“热搜”的AIGC论题,合合信息研发了关于AI生成图片辨别技能,用于判别图片是否由AI生成。AIGC生成图画辨认的一大难点在于AI生成的图画场景繁复,机器难以判别。合合信息根据空域与频域联系建模,能运用多维度特征来分辩实在图片和生成式图片的纤细差异。
此外,合合信息对OCR对立进犯技能展开了立异性的研讨。当人们在网上发送含有个人隐私信息的图片时,这些材料包括的信息很可能被不法分子运用OCR技能提取并走漏。OCR对立进犯技能可对场景文本或许文档内文本进行扰动,为个人或企业的重要文件“上锁”,避免第三方经过OCR系统读取并保存图画中所有的文字内容,下降数据走漏的危险,到达维护隐私信息的意图。
图说:合合信息OCR对立进犯技能运用作用展现,可对要害信息进行隐瞒,在不影响肉眼观看的情况下阻挠机器主动爬取
我国信通院发布的《人工智能白皮书(2022年)》中说到,人工智能正在迈入“立异驱动、运用深化、规范开展”的新阶段。可信AI的完成,需求政府、企业、高校等多方力气的协同。职业规范的拟定,或将为我国“可信AI”在机器视觉、图画处理范畴的系统建造供给有力支撑。
为贯彻落实《中华人民共和国网络安全法》《生成式人工智能服务管理办法(征求意见稿)》等文件中关于AI服务的规范性要求,系统性树立图画内容安全职业开展次序,本年6月,我国信通院牵头发动了《文档图画篡改查验测验规范》拟定作业,合合信息、我国图画图形学学会、我国科学技能大学等科学技能立异企业及闻名学术组织联合参加编制。
据悉,该项规范将根据工业现状,环绕“细粒度”视觉差异假造图画辨别、生成式图画判别、文档图画完整性维护等职业焦点议题,凝集职业一致,以期为职业供给有用指引。合合信息智能立异事业部总经理唐琪在论坛共享中表明,《文档图画篡改查验测验规范》拟定项意图发动,是AI图画内容安全系统建造之路上的重要的里程碑。等待更多研讨组织、企业主体参加进来,一起推进AI服务规范性的全体提高和职业开展次序的树立,助力科技向上而行,向善开展。
可信AI的健康开展,除了规范引领,也需求“硬科技”支撑。合合信息深耕智能文字辨认、智能图画处理范畴,技能成果获权威组织及商场认可。最近一个月内,合合信息智能文档处理产品经过我国信通院“可信AI—智能文档处理系统”评价作业,并取得“5级”鉴定。“5级”为该模块最高评判等级。