Sam Altman 警告人工智能的潜在威胁 但仍然希望全世界都能使用它_人工智能威胁派

11 月 1 日消息：OpenAI 的 CEO Sam Altman 最近对公众表示，他的公司背后的技术可能会威胁到人类文明的未来。今年 5 月，Altman 在华盛顿特区的一个参议院小组委员会听证会上紧急呼吁立法者：制定周密的法规，以拥抱人工智能的强大前景，同时减轻其对人类的潜在威胁。这是他和 AI 未来的决定性时刻。

自去年 OpenAI 的 ChatGPT 推出以来，38 岁的 Altman 迅速成为了新一代能够根据用户提示生成图像和文本的生成式 AI 工具的代言人。ChatGPT 发布后不久，几乎成为了 AI 的代名词，它被 CEO 们用来草拟电子邮件，也帮助人们在没有编程经验的情况下构建网站，甚至通过了法律和商学院的考试。它有潜力革新包括教育、金融、农业和医疗保健在内的几乎所有行业。

然而，这些工具也引发了关于在学校作弊、取代人类劳动力甚至对人类存在的潜在威胁的担忧。例如，AI 的崛起使经济学家警告可能会影响劳动市场。据 Goldman Sachs 估计，未来全球可能有多达 3 亿全职工作被生成式 AI 以某种方式自动化。根据世界经济论坛今年 4 月的报告，仅在未来五年内就可能有大约 1400 万个职位消失。

在美国国会的证词中，Altman 表示，AI 可能被用于操纵选民和目标传播虚假信息是他最担心的领域。

听证会后两周，Altman 与数百名顶尖的 AI 科学家、研究人员和商业领袖共同签署了一封信，声明：应该将减轻 AI 灭绝风险作为全球优先事项，与其他社会规模的风险如大流行病和核战争一道。

这种警告在媒体中得到了广泛的报道，有些人建议，这显示了需要更严肃地看待这种末日情景。它还突显了硅谷的一个重要动态：一些最大科技公司的高管告诉公众，AI 有可能导致人类灭绝，同时也在竞相投资和部署这项技术，使其成为数十亿人使用的产品。

尽管如此，OpenAI 仍然在全力推进。最近，有报道称 OpenAI 和 iPhone 设计师 Jony Ive 正在与日本的软银集团谈判，为一个旨在取代智能手机的 AI 设备筹集 10 亿美元。

这种卓越的技术进步让人对 AI 未来的安全和效益产生了深刻的思考。尽管 Altman 可能是一个聪明和合格的领袖，但他仍然只是一个人。面对可能会成为大规模毁灭性武器的技术，世界正在指望 Altman 能够为人类的最佳利益采取行动。