揭秘AI如何监督AI 蚂蚁集团两款AI鉴真产品亮相2024WAIC_蚂蚁 ceo

【】7月4日消息，随着AI技术获得的门槛变低，一些黑灰产也瞄准了AI新型诈骗手段，为社会带来了安全隐患。为了唤起公众对AI安全的认知，联合行业对抗AI风险，并真正为行业提供鉴真辨伪的工具产品，蚂蚁研发了AIGC和深度伪造的鉴真产品，并在2024世界人工智能大会上首次展出。

“多模态AI鉴真”是模拟蚂蚁大模型安全检测平台“蚁天鉴2.0”的AIGC检测和证照深度合成检测两大能力推出的互动产品。观众可选择证照、音频、视频等多样化素材，该互动会先对这些素材做一番伪造模拟生成。之后，该产品能对上述伪造的素材快速进行精准鉴别，并形成检测报告。在真实的生产场景，蚁天鉴AI鉴真解决方案，支持多模态内容真实性和深度伪造检测，防范深度合成技术滥用风险，图像识别准确率99.9%，达到信通院测评行业最高优秀级别，已经具备了引领性的AI安全对抗能力。

在“谍影重重”互动装置前，观众还可用一场情景剧的方式打开深度伪造（Deepfake ）的攻防“魔盒”。首先，用户在该装置上传一张照片，可通过AI换脸合成一张新的人脸照片。下一步，可使用合成后的照片甚至视频去刷脸，该互动能够鉴别出该照片或者视频是否是AI合成，进而阻止风险行动。这一套装置背后，是蚂蚁数科安全科技品牌 ZOLOZ 搭建的端云一体的技术体系。“Deepfake攻和防是一个相对且不断精进的过程，你在进步，Deepfake也在进步，我们要做的就是跑在它的前面”，蚂蚁工作人员表示。

蚂蚁集团认为，大模型从智能涌现到应用涌现实现人人可得，需要布局关键技术，用以解决大模型的可信、经济、易用三大难题。本次会展中，蚂蚁展区展示了应对大模型大规模应用背后的系列关键技术。

大模型可信应用是指在面向专业领域（如金融、医疗等）应用时，构建一个以大模型为核心的专业智能服务体系。该体系应确保应用的专业性、真实性、可控性和安全性，以满足专业领域的高标准要求，可通过专业知识库、智能体、知识图谱、运筹优化等技术来实现。本次大会入选SAIL TOP30奖的“智能认知决策技术与平台”便是关键技术成果。