麻省理工学院教授称人类面临人工智能逐底竞争的风险_美国麻省理工人工智能实验室

10 月 27 日消息:麻省理工学院（MIT）的物理和人工智能研究教授 Max Tegmark 最近表示，少数科技公司通过无节制的 AI 开发正在危害人类的未来，并呼吁停止这种逐底（ace to the bottom，意思是指在竞争中不断降低标准或品质，以获取更低的价格或成本。这个短语通常用于描述企业或市场中的竞争策略，意味着企业为了在竞争中获胜，不断降低产品或服务的质量或价值。这种做法可能会对整个行业或市场造成负面影响，导致产品质量下降、工作条件恶化或价格战等问题。竞争的做法。

他是今年 4 月份发布、得到包括马斯克和苹果公司联合创始人 Steve Wozniak 在内的数千名科技行业人士签名的影响力极大的公开信的发起人，信中呼吁暂停大规模 AI 实验的进行。

Tegmark 教授在接受《卫报》采访时表示：我们正在目睹一个必须停止的逐底现象。我们急需 AI 安全标准，以将此转变为向上竞争。AI 承诺了许多令人难以置信的好处，但是越来越强大的系统的鲁莽和未经检查的开发，没有监督，正在威胁我们的经济、社会和生活。为了确保安全的创新，规定至关重要，以防止少数 AI 公司危害我们共同的未来。

本周，包括两位被誉为现代技术教父在内的 23 名 AI 专家在一份政策文件中表示，政府必须有权暂停开发异常强大的模型。多伦多大学技术与社会斯瓦茨·瑞斯曼研究所的主任 Gillian Hadfield 表示，未来 18 个月内将构建出比现有模型强大数倍的 AI 模型。

她说：有公司计划在 18 个月内，用比今天的最先进技术多 100 倍的计算力来训练模型。没有人知道它们会有多强大。而且基本上没有任何规定，限制他们能够用这些模型做什么。

该文件的作者包括 ACM 图灵奖得主 Geoffrey Hinton 和 Yoshua Bengio，他们主张政府必须对强大的模型进行许可，并在必要时暂停其开发。

未受限制的通用人工智能（AGI）的发展，成为呼吁更严格规定的关键担忧之一。

上月，亚马逊宣布将投资高达 40 亿美元在 Anthropic，这是一家由前 OpenAI 高管创办的初创公司，计划在亚马逊的云服务上收集专有数据。尽管亚马逊没有透露将拥有 Anthropic 的多少股份，但据估计其价值为 40 亿美元，亚马逊的股份将是少数股份。目前，Anthropic 正因涉嫌使用受版权保护的歌词而被音乐厂商起诉。

亚马逊与 Anthropic 的交易被视为电子商务巨头迄今为止最重要的举措，以赶超在云服务业务方面较小，但在 AI 方面领先的微软和 Alphabet。

自 2016 年以来，Alphabet 的 Google 已经投资了大约 1200 亿美元在人工智能和云计算领域，包括英国的 DeepMind，名为 Language Models for Dialog Applications（LaMDA）的生成性 AI 工具，以及面向消费者的 Bard。

此外，Facebook 的母公司 Meta 已从元宇宙转向 AI，并计划今年投资 330 亿美元，以支持其开源大型语言模型 Llama 的持续构建 AI 能力。

Goldman Sachs 在 8 月份发布的一份报告估计，到 2025 年，全球 AI 领域的投资将高达 2000 亿美元。报告预测，生成式 AI 将在全球范围内对企业和社会产生大规模的变革，并整体提升全球的生产力和 GDP。

新 AI 公司的融资也正经历着数十亿美元的投资热潮，据数据公司 PitchBook 为 Bloomberg 编制的数据显示，第三季度的投资金额接近 180 亿美元，比去年同期增加了 27%，而与此同时，全球科技创业公司的融资却下降了 31%，降至 730 亿美元。