“AI教父”频发警报：人工智能比气候变化的威胁更紧迫「ai+人工智能」

·“随着气候的变化，很容易推荐你应该做什么：你只要停止燃烧碳。如果你这样做，最终一切都会好起来的。但对于这个（AI），你根本不清楚应该做什么。”

·“生物智能”在信息传递方面“非常低效”，相比之下，数字智能有一个巨大的优势：在多个副本之间共享信息很容易， “当它们中的一个学到了一些东西时，它们就都知道了，可以轻松地存储更多副本。”

被称为“AI教父”之一的科学家杰弗里·辛顿（Geoffrey Hinton）近日频繁接受媒体采访，对人工智能可能存在的威胁发出警报。他称AI可能对人类构成比气候变化“更紧迫”的威胁，并阐述了AI有可能超越人类的理由：数字智能在共享信息上比人脑高效得多。

杰弗里·辛顿认为，AI能互相学习分享知识，绕过限制操纵人类。(02:33)

“我不想贬低气候变化的价值。我不想说，‘你不应该担心气候变化’。那也是一个巨大的风险。”当地时间5月5日，辛顿在接受路透社采访时表示，“但我认为这（AI）最终可能会变得更加紧迫。”

他补充说：“随着气候的变化，很容易推荐你应该做什么：你只要停止燃烧碳。如果你这样做，最终一切都会好起来的。但对于这个（AI），你根本不清楚应该做什么。”

最近，辛顿宣布离开已工作十年的谷歌，希望能对AI的风险大声发出警报，同时撇开与前雇主的关系。1986年，辛顿与他人合著开创性论文《通过反向传播算法的学习表征》，这是关于支撑AI技术的神经网络的里程碑著作。2018年，他与另外两名AI大牛约书亚·本希奥（Yoshua Bengio）和杨立昆（Yann LeCun）一同被授予图灵奖。现在，辛顿和越来越多的科技领袖一样，公开表达了对人工智能威胁的担忧。

4月，推特首席执行官埃隆·马斯克与数千人一起签署了一封公开信，呼吁暂停开发比GPT-4更强大的系统六个月。但辛顿不同意暂停研究。

“这完全不现实。”他说， “我处于‘这是一个生存风险’的阵营，已经足够接近了，我们现在应该非常努力地工作，并投入大量资源来弄清楚我们能做些什么。”

“过去50年里，我一直在尝试制造可以像大脑一样学习的计算机模型，以便更好地理解大脑是如何学习事物的。”辛顿在接受英国《卫报》采访时说，“在尝试思考大脑如何实施所有这些模型背后的算法时，我得出结论它也许不能——也许这些大模型实际上比大脑好得多。”

辛顿说，像人类这样的“生物智能”具有一定优势：以低功率运行，“只有30瓦，即使你在思考”，而且“每个人的大脑都有点不同”，这意味着人通过模仿他人来学习。但这种方法在信息传递方面“非常低效”。相比之下，数字智能有一个巨大的优势：在多个副本之间共享信息很容易， “在能量方面付出了巨大的代价，但当它们中的一个学到了一些东西时，它们就都知道了，可以轻松地存储更多副本。所以好消息是，我们已经发现了永生的秘密。坏消息是，它不适合我们。”

“AI教父”杰弗里·辛顿接受专访时解释了自己为什么担心AI、频发警报，“就像外星人已经登陆，人类却毫无意识，因为他们的英语说得很好。”(02:02)

一旦接受了数字智能有可能超越人类，就会得出令人震惊的结论。 “我曾认为它最终会发生，但我们有足够的时间：30到50年。（现在）我不这么认为了。而且我不知道任何更聪明的东西被不那么聪明的东西控制的例子——至少，自从拜登当选以来没有。”他说，“你需要想象一些比我们更聪明的东西，就像我们比青蛙更聪明一样。它会从网络上学习，它会阅读每一本关于如何操纵人的书，并在实践中看到它。”

辛顿认为，关键时刻将在未来5到20年内到来。“但我不排除一两年的可能性。而且我仍然不排除100年的可能性——认识到生物智能和数字智能有很大不同，而数字智能可能更好，已经动摇了我对‘不会很快到来’的信心。 ”

在某种程度上，仍有希望证明人工智能的潜力被夸大了。辛顿告诉《卫报》： “我目前有很大的不确定感。大型语言模型可能已经消耗了网络上的所有文档，除非它们能够访问我们所有的私人数据，否则它们将无法走得更远。我不想排除这样的可能性——我认为对这种情况充满信心的人都是疯子。”

辛顿认为，这种发展是资本主义下技术不可避免的结果。“并不是说谷歌一直很糟糕。事实上，谷歌是这项研究的领导者，支撑这一波浪潮的核心技术突破来自谷歌，谷歌决定不直接向公众发布。谷歌担心我们担心的所有事情，它享有良好的声誉，不想把事情搞砸。我认为这是一个公平、负责任的决定。但问题是，在资本主义制度下，如果你的竞争对手那样做，你也只能做同样的事情。”

“我不是政策专家。我只是一个突然意识到有可能发生非常糟糕的事情的人。我希望所有了解AI的最优秀的大脑——不仅是哲学家、政治家和政策专家，还有真正了解正在发生的事情细节的人——认真思考这些问题。”他说。

目前，欧盟的一个立法委员会已经对上述公开信作出回应，呼吁美国总统拜登与欧盟委员会主席冯德莱恩就AI的未来方向召开全球峰会。上周，欧盟通过了针对生成式人工智能的具有里程碑意义的提案，将迫使OpenAI等公司披露用于训练其模型的版权材料。

当地时间5月4日，包括Alphabet首席执行官桑德尔·皮查伊（Sundar Pichai ）、OpenAI首席执行官山姆·奥特曼（Sam Altman）和微软首席执行官萨蒂亚·纳德拉（Satya Nadella）在内的多家人工智能公司领导人在白宫与副总统卡马拉·哈里斯举行了会谈。“你们正在做的事情具有巨大的潜力和巨大的危险。”拜登在会议上露面时说。

5月4日，多位顶尖人工智能企业的首席执行官参加白宫会议。

白宫新闻秘书卡琳·让-皮埃尔（Karine Jean-Pierre）在简报会上说：“总统已经广泛了解了 ChatGPT，并且知道它是如何运作的。”

辛顿说，自从他在5月1日首次就AI的危险发表讲话以来，一直在拒绝全球媒体的采访请求。 “目前有3个人想和我谈谈——伯尼·桑德斯（Bernie Sanders，美国参议员）、查克·舒默（Chuck Schumer，美国参议院多数党领袖）和埃隆·马斯克。哦，还有白宫。”