《人类简史》作者尤瓦尔·赫拉利警告：人工智能可能引发具有灾难性后果的金融危机

11 月 10 日消息:历史学家兼著名作者尤瓦尔·赫拉利近日向《卫报》表示，人工智能（AI）的复杂性使其潜在危险难以预测，并可能引发具有灾难性后果的金融危机。

图源备注：图片由AI生成，图片授权服务商Midjourney

赫拉利在谈及 AI 模型安全测试时提出，预见一个强大系统可能造成的所有问题是一个挑战。他指出，与核武器不同，人工智能涉及许多危险场景，每个场景发生的可能性都相对较小，但总体上构成了对人类文明生存的存在威胁。

《人类简史》系列图书的作者赫拉利，一直对 AI 发展持有关注态度。他表示，上周在布莱切利园举行的全球 AI 安全峰会上，多国政府的联合声明是一个非常重要的进步。领先的政府们聚集在一起，表达了对技术的担忧，并采取了相应行动。

他特别提到，这次峰会能够使不仅是欧盟、英国、美国，甚至包括中国政府在内的国家签署声明，这是一个非常积极的迹象。他强调，如果没有全球合作，将极难（如果不是不可能的话）遏制 AI 最危险的潜在威胁。

峰会最后达成了一个协议，包括英国和美国的 10 个政府、欧盟以及包括 ChatGPT 开发商 OpenAI 和谷歌在内的主要 AI 公司，将合作测试先进的 AI 模型，在它们发布之前和之后进行。

赫拉利指出，AI 模型的安全测试问题在于预见一个强大系统可能造成的所有问题。AI 与人类历史上的所有先前技术不同，因为它是第一种可以自行做出决策、自行创造新想法、自行学习和发展的技术。几乎可以肯定的是，即使是创造了这项技术的人类，也极难预见所有潜在的危险和问题。

赫拉利指出，政府在向公众解释 AI 的危险时，引用了 AI 系统帮助制造生化武器的威胁，但还有其他可能的场景值得关注。他特别指出，金融领域非常适合应用人工智能系统——这是 AI 的理想领域，因为它仅涉及数据——并可能成为严重 AI 造成危机的源头。

赫拉利进一步警告说：如果 AI 不仅被赋予更大的控制权来管理世界的金融系统，而且开始创造只有 AI 能理解的新金融工具，没有人类能够理解呢？他补充说，2007-08 年金融危机是由几乎无人理解且因此监管不足的债务工具（如抵押债务义务）引起的。

赫拉利指出：AI 有潜力创造比债务抵押债券 (CDO) 等债务工具复杂数个数量级的金融工具。想象一下，我们有一个没有人能够理解的金融系统，因此也无法进行监管。然后发生了金融危机，没有人知道发生了什么。

上个月，英国政府提出了对一种先进 AI 模型可能构成的存在威胁的担忧，该模型可能通过控制和操纵金融系统造成威胁。但赫拉利表示，AI 引发的金融危机不会直接摧毁人类文明。他补充说：至少不是直接的。但如果它引发了某种战争或冲突，可能会间接地造成灾难性风险——经济的、社会的、政治的——但本身我不会将其描述为存在主义风险。

这位以色列作者支持暂停先进 AI 发展六个月的呼声，并支持使人工智能公司对其产品造成的损害负责。他表示，焦点不应该是具体的法规，而应该是拥有技术知识并能快速应对新突破的监管机构。

赫拉利强调：我们需要尽可能快地创建强大的监管机构，能够识别并对危险做出反应，这基于我们无法预先预测所有危险和问题并提前立法的理解。他补充说：这应该是主要努力方向，而不是现在就写一些非常长且复杂的规定，这些规定可能在通过议会或国会时已经过时。

在这一构架中，AI 安全研究所应聘请了解 AI 对世界金融潜在影响的专家，赫拉利说。

上个月，英国首相里希·苏纳克宣布成立英国 AI 安全研究所，紧随其后，白宫也宣布计划成立类似机构，两者都有望在测试先进 AI 模型中发挥关键作用。在峰会上发言的苏纳克表示，英国需要首先了解先进模型的能力，然后再引入法律应对。