GPT-5觉醒让全世界大佬都怕了 DeepMind紧急教AI做人

4月25日 消息:自从GPT-4发布以来，社会上关于“人类将要被AI毁灭”的言论也越来越多。全世界的AI大佬都害怕了，目前已有5万人签名了叫停GPT-5训练的公开信。

为了防止我们一不小心被AI毁灭，DeepMind 在美国国家科学院院刊上发表了一篇论文，该论文使用哲学家约翰罗尔斯的“无知之幕”概念来教 AI 如何做出道德决定。

论文地址:https://www.pnas.org/doi/10.1073/pnas.2213709120

罗尔斯认为，当人们为一个社会选择正义原则时，前提应该是他们不知道自己在这个社会中究竟处于哪个地位。

如果不知道这个信息，人们就不能以利己的方式做决定，只能遵循对所有人都公平的原则。

“无知之幕”的概念被用于心理学和政治学等领域，以在量刑和税收等问题上达成集体协议。通过将这一概念应用于 AI，DeepMind 正在采用一种新颖的方法来确保 AI 以一套优先考虑公平和帮助有需要的人的价值观为指导。

具有强大道德指南针的人工智能的发展对于确保人工智能造福于整个社会而不造成伤害至关重要。

DeepMind 使用哲学概念来指导 AI 发展是 AI 研究跨学科性质的一个例子，它借鉴了哲学、心理学和政治学等领域的见解。