初创公司Reality Defender融资1500万美元 专注检测深度伪造内容

划重点:

1. Reality Defender是一家专注于检测深度伪造和合成媒体的初创公司，最近成功融资1500万美元，由DCVC领投。

2. 该公司提供多种工具，包括针对AI生成的文本、图像、音频和视频的检测工具，主要服务于企业、政府机构等，致力于识别和对抗合成媒体。

3. 除了融资，Reality Defender还发布了可解释的AI功能，以及实时的深度伪造筛查工具，帮助呼叫中心和欺诈团队捕捉即时的合成媒体。

10月18日 消息:深度伪造技术和合成媒体的出现引发了对信息真实性和可信度的担忧。为了应对这一挑战，初创公司Reality Defender最近宣布成功融资1500万美元，由风险投资公司DCVC领投。该公司专注于开发工具，用于检测和处理各种合成媒体，包括由AI生成的文本、图像、音频和视频。

Reality Defender的服务对象主要包括企业、政府机构以及其他大型组织，旨在帮助他们区分使用生成式AI创建的合成媒体。这家初创公司自2021年成立以来，声称已经捕获了数百万个深度伪造媒体，并成功阻止了多次虚假信息宣传活动，这得益于他们采用的多模态方法。Reality Defender的网络应用程序和API经过内部培训，能够准确定位生成式AI制作的媒体的操纵或制造。

Ben Colman，Reality Defender的首席执行官，在一篇博客文章中写道:“在这个人工智能不断进步的时代，任何一个人都难以区分现实与伪造。我们是对抗人工智能驱动的虚假信息潮流的一道光明，我们不仅致力于识别和抵制这些威胁，还要积极确保它们不侵蚀信任和民主的支柱。在面对这个不断演变的挑战时，我们的目标始终如一，那就是确保真相和真实性在复杂数字欺骗面前依然不可动摇地闪耀。”

除了融资，Reality Defender还推出了新的可解释AI功能，用于其生成式AI文本检测工具，通过着色文本以突出合成段落，提供了对系统工作原理的可视性。这一可解释AI功能还在音频、图像和视频检测工具中开发中。此外，该初创公司还发布了实时的深度伪造筛查工具，可用于选定的语音渠道，帮助呼叫中心和欺诈团队即时捕捉生成式媒体的操纵。

深度伪造技术的恶意使用已经变得司空见惯，例如，有人制作深度伪造视频试图欺骗他人，甚至试图将他们与诈骗行为联系起来。因此，各行各业都面临着对抗合成媒体的压力。尽管一些公司已经推出了深度伪造检测工具，但这一领域仍在不断发展。比如，对于合成文本的检测，OpenAI曾发布了一款备受瞩目的工具，但在发布后六个月后悄然下架。