网络安全专家 Mikko Hyppönen 对 2024 年的五大 AI 网络威胁发出警告

深度伪造（Deepfakes）

研究人员长期以来一直将深度伪造描述为 AI 犯罪中最令人担忧的用途，但这种合成媒体尚未实现他们的预测。然而，最近几个月，他们的担忧开始变为现实。根据来自伦敦的 ID 验证独角兽 Onfido 的研究，2023 年深度伪造欺诈尝试增加了 3000%。

深度诈骗（Deep Scams）

尽管名称上与深度伪造相似，但深度诈骗并不一定涉及操纵媒体。在这种情况下，深度指的是诈骗的大规模。通过自动化，可以将目标从少数扩大到无限。

支持 LLM 的恶意软件（LLM-enabled Malware）

AI 已经开始编写恶意软件。Hyppönen 的团队发现了三种蠕虫病毒，它们启动 LLM 来重写每次恶意软件复制的代码。尽管这些还没有在现实网络中被发现，但它们已经在 GitHub 上发布——而且它们有效。

零日漏洞的发现（Discovery of Zero-Days）

另一个新兴的担忧涉及零日漏洞，这些漏洞是由攻击者在开发人员创建解决方案之前发现的。AI 可以检测这些威胁，但它也可以创建它们。

自动化恶意软件（Automated Malware）

WithSecure 已经将自动化整合到其防御中，这使得该公司在攻击者（他们仍然主要依赖手动操作）之上拥有优势。对于犯罪分子来说，关闭差距的明显方式是：完全自动化的恶意软件活动。