微软总裁表示短期内不可能出现超级智能 AGI，强调 AI 安全的重要性

12 月 1 日消息:微软公司总裁表示，在未来 12 个月内创造出超智能人工智能（AI）的可能性几乎不存在，并警告称这项技术可能还需数十年时间才能实现。

OpenAI 的联合创始人 Sam Altman 本月早些时候被公司董事会免去首席执行官职务，但在员工和股东的强烈反对声中迅速被重新任命。

路透社上周独家报道称，Altman 被免职的事件紧随研究人员向董事会报告一项危险发现之后，他们担心这一发现可能产生意想不到的后果。

一位消息人士告诉路透社，名为 Q*（发音为 Q-Star）的内部项目可能是这家初创公司寻找所谓的人工通用智能（AGI）的突破。OpenAI 将 AGI 定义为在大多数经济价值高的任务中超越人类的自治系统。

然而，微软总裁布拉德·史密斯（Brad Smith）周四在英国接受记者采访时否认了这一危险突破的说法。

在未来 12 个月内看到所谓的 AGI，即计算机比人类更强大的可能性绝对为零。这需要多年，甚至可能需要几十年的时间，但我仍然认为现在就应该关注安全问题，他说。

消息人士告诉路透社，向 OpenAI 董事会发出的警告是导致 Altman 被解职的众多不满因素之一，还有人担心在评估风险之前就将进展商业化。

当被问及这样的发现是否导致 Altman 被解职时，史密斯表示：我认为根本不是这样的。我认为董事会和其他人显然存在分歧，但并不是基于这样的担忧。

我们真正需要的是安全制动装置。就像电梯中的安全制动装置、电路的断路器、巴士的紧急制动器一样——控制关键基础设施的 AI 系统中也应该有安全制动装置，以确保它们始终在人类控制之下，史密斯补充道。