看似熟悉的声音：电话系统面临人工智能伪造声音诈骗的挑战_声音造假 人工智能

10 月 23 日消息:随着美国联邦通信委员会对一家庞大的跨国自动拨号电话诈骗运营商处以近 3 亿美元的罚款，我们看到了这种诈骗行为的普遍性。而当电话的另一端是你认识的人——你的公司老板、配偶或孙子——紧急请求金钱以帮助他们摆脱困境时，情况就变得复杂了。

由于人工智能的使用，这些声音可以被仿真并实时与你通信，这让电话变得不再可信。电话分析和软件公司 Hiya 的产品管理总监 Jonathan Nelson 表示，过去，当你的电话响起时，我们可以假设有一根物理的铜线连接这两点，但现在这种联系消失了。然而，它所隐含的信任并没有消失。

现在，你可以信任的唯一电话就是你主动接听的那些电话。但据 Hiya 的全球通话威胁报告 2023 年第二季度显示，四分之一的非接触式通话被报告为垃圾通话，意味着它们可能是欺诈性的或仅仅是骚扰电话。

数字安全公司 McAfee 的一份关于人工智能和网络安全的报告显示，52% 的美国人在网上分享他们的声音，这就为诈骗者提供了制作数字生成的声音来侵害你认识的人的主要成分。这种方式被称为交互式语音响应（IVR），它被用于一种被称为声音网络钓鱼或vishing的垃圾邮件中。Nelson 表示，虽然以前的网络钓鱼需要花费大量的时间和金钱，但人工智能可以以一种常见的方式处理过去需要特殊技能的垃圾邮件攻击。

据 McAfee 的首席技术官 Steve Grobman 表示，这种类型的电话通话在现阶段不太可能比其他更明显的垃圾电话通话更为普遍。然而，它们让受害者处于一个更加危险的情境，使他们更容易采取行动，这就是为什么要做好准备的重要性，Grobman 说。

识别人工智能诈骗的重要性

对于这种新型的诈骗行为，我们需要结合消费者教育和技术战争，或更具体地说，白帽人工智能与黑帽人工智能的战争来加以防范。

McAfee 和 Hiya 等公司站在这场战斗的前线，他们通过识别人工智能诈骗的模式（例如类似信用历史的电话号码的历史通话模式）并找到阻止它们的方法。

尽管美国联邦政府牵头进行了 IRS 骗局调查，但针对人工智能技术对自动拨号骚扰的反应却是混乱的，一位专家表示。

Black Bear Security Consultants 的首席执行官 Kristofor Healey 曾是美国国土安全部的特工，他在联邦政府的时间里调查了大规模的洗钱组织，并领导了 IRS 骗局的调查，这是美国历史上最大的电话诈骗案。

Healey 表示，政府和执法机关本质上是反应式的系统，但人工智能作为呼叫中心（无论它们是好的呼叫中心还是坏的呼叫中心，他说）的工具，将使需要应对的案件数呈倍数增长。

对深度伪造音频垃圾电话的防范

最终，技术只能做到那么主动，因为网络犯罪分子总是能够将事情推向一个新的水平。专家表示，商业和消费者教育是唯一真正主动的方法，需要向人们传递如何保护自己及周围人的信息。

对于企业来说，这可能意味着将关于深度伪造音频垃圾电话的教育作为员工网络安全培训的一部分。对于个人来说，这可能意味着要对自己在网上发布的内容更为谨慎。Grobman 表示，有时候，冒险的行为可能会对你周围的人产生更大的影响，而不是直接影响到你自己。犯罪分子可以利用我们在社交媒体上发布的内容，通过人工智能生成的声音克隆电话来与其他受害者建立信任关系。

与此同时，身份保护和个人数据清理服务将继续对消费者有用。制定员工在接收非接触式电话时的行为规范，以及他们在网上分享的内容，将越来越成为常见的做法。

Grobman 建议家庭制定一个紧急词或验证词，他们可以使用这个词来确保电话那头的确实是他们的亲人。这就像口头密码一样。避免使用您的宠物或孩子的名字，或任何容易获得的信息。

如果有人打电话称他们来自某公司，挂断电话，查找公司的联系信息（不要只是回拨给您的电话号码），然后自己拨打电话进行验证。通过可信的渠道进行独立验证是极其重要的，Grobman 说。

至于 Healey，他充当一种电话诈骗的守护者，当屏幕上显示出垃圾电话号码时，他总是接电话。他不会向对方提供任何确认信息，也不会告诉对方他是谁或他自己的任何信息。他只是尽可能长时间地与他们通话，因为他们的语音 IP 技术正在运作。

让他们在电话上的时间越长，就越能防止他们伤害其他人，Healey 说。

对于训练有素的人来说，垃圾电话可能听起来很可笑，但像老年人或心理状态脆弱的人就会为这场骗局所欺骗。

随着人工智能技术模仿我们熟悉的人，朋友或亲人的声音，这场猫鼠游戏变得更加根深蒂固。有时候它不再是关于钱的问题，而是关于成就、肾上腺素和权力。但在有关这一不断变化的威胁传播的同时，技术也在助力于反击。