马斯克等千名科技人士签署公开信 呼吁暂停训练比GPT-4更强大的AI系统

3月29日消息，据外媒报道，在当地时间周二发布的一封公开信中，埃隆·马斯克和一群人工智能专家以及科技高管呼吁所有人工智能（AI）实验室立即暂停训练比GPT-4更强大的AI系统。

这封公开信由非营利性组织Future of Life Institute发布，信的开头写道：“广泛的研究表明，具有与人类竞争智能的AI系统可能会对社会和人类造成深远的风险，这一点也得到了顶级AI实验室的承认。”

这封公开信获得了1000多个签名支持，其中包括苹果联合创始人史蒂夫·沃兹尼亚克（Steve Wozniak）、Stability AI CEO伊马德·穆斯塔克（Emad Mostaque）、Sapiens的作者尤瓦尔·诺亚·哈拉里亚斯（Yuval Noah Hararias）、马斯克、图灵奖得主约书亚·本吉奥（Yoshua Bengio）、纽约大学名誉教授加里•马库斯（Gary Marcus）等，他们呼吁暂停训练比GPT-4更强大的AI系统至少6个月。

不出所料，OpenAI和微软高管并没有签署这封公开信。此外，Meta首席人工智能科学家Yann LeCun的名字没有出现在署名名单中。

这封公开信提到，6个月的暂停并不意味着AI总体发展的暂停，只是从目前危险的竞赛中退后一步。

公开信指出：“只有在我们确信它们的效果是积极的，风险是可控的，才应该开发强大的人工智能系统。”

这封公开信要求AI实验室和专家共同开发和实施一套安全协议，然后由独立的外部专家进行严格审计和监督。

在这封公开信发布的前两周，也就是在今年3月14日，美国AI研究公司OpenAI推出了新一代大型语言模型GPT-4。GPT-4是迄今为止最先进的AI系统，它的能力既让AI专家感到震惊，也让他们感到恐惧。

GPT-4是一个多模态大型语言模型，即支持图像和文本输入，以文本形式输出；扩写能力增强，能处理超过25000个单词的文本；更具创造力，并且能够处理更细微的指令；在高级推理能力方面超过了2022年11月30日推出的AI聊天机器人工具ChatGPT。