AI教父Hinton：我支持超级AI取代人类！_al教父

声明:本文来自于微信公众号 新智元（ID:新智元），作者:新智元，授权转载发布。

【新智元导读】AI教父Geoffrey Hinton在最近的采访中表达了自己对AI智能的理解——LLM并不是简单的统计模型，已经具备了理解能力。与此同时，网友翻出了去年12月的过期视频，惊奇地发现Hinton早就叛变了，竟然对超级AI取代人类的未来表示支持。

最近，半退休的AI教父Geoffrey Hinton频频出现在各种采访中，输出他关于ASI的各种言论和观点，甚至只是聊点生涯轶事都可以引起网友们的热烈讨论。

不到一个月之前，他就揭发了爱徒Ilya在暑假受够了炸薯条的工作，结果投奔自己实验室的经历。

虽然这些演讲和采访内容各异，但Hinton始终不忘一点——提示我们注意AGI安全和飞速发展的智能，并预告它们将代替人类的赛博朋克未来。

对于AI，Hinton的想法和感情比起我们想必要复杂许多。

在神经网络坐冷板凳的那些日子里，他守着自己的实验室和两名研究生不离不弃，最终等到了深度学习大放异彩的时代。

在2013年入职谷歌后，Hinton成为教父，一边亲眼看着自己孩子一样的AI快速成长，一边逐渐担心少年终成恶龙。最终他选择了与自己创造的世界搏斗，过上了致力于警告AI安全的退休生活。

AI不是统计技巧，而是有理解能力

Hinton最近一次的公开露面是BNN彭博社6月15日进行的独家采访。

Hinton在采访中输出的AI具有理解能力的观点引起了Reddit社区的广泛讨论。

如果理解的意思是LLM能否对某个概念建立复杂的内在表示，那么答案是肯定的。如果理解的意思是LLM能否用与人类相同的方式理解概念，那么答案是否定的（否则模型不会在诗歌方面如此出色的同时有如此差的算术能力）。

毕竟，AI能否理解，这个问题既模糊，又在社区内存在极大的争议和分歧。

Hinton坚决反驳了一种流行的观点，即LLM仅仅是统计技巧，并不能真正理解自然语言的含义。

他表示，这是完全错误的。类似于词袋（bag of words）或者N元组(N-gram)这种曾经的语言模型，内部保存了一个很大的有概率分数的单词组合表，的确是依靠统计概率工作。

说到这里，身为英国人的Hinton非常自然地用国菜开始举例。

比如单词表里会显示，鱼和薯条经常出现在一起。因此模型看到鱼这个单词，自然就会预测下一个单词是薯条，丝毫不考虑上下文。

这就是为什么，曾经的统计语言模型在自动补全功能上的表现很差。

但当今LLM的工作原理已经完全不同了。现在，模型预测下一个单词的方法是理解你到目前为止所说的话。

比如，想要回答人类的问题，LLM必须首先理解问题的含义，否则根本无法预测答案的第一个单词。从这个角度理解，单词预测任务（next token prediction）相当于是倒逼LLM发展出理解能力。

Hinton的言语中透露出，他也相信Scaling Law的存在。随着模型逐渐扩展，加上更多Transformer这样的技术突破，AI终将变得比人类更智能，只不过是时间早晚的问题。

主持人反问他，变得更聪明的技术一定会带来风险吗?

Hinton的回应一针见血——你能举出多少例子，说明更聪明的在被不太聪明的控制?拜登当选之后就不再有了吧?

他提到，好友Yann LeCun的观点就与自己不同，认为AI非常安全。但Hinton的论据是，AI已经达到了构建智能体（agnet）的程度，能够自主创建目标。

这些目标会驱动智能体攫取更多控制权，会希望避免毁灭、建立自我保护，某种程度上这是一种自身利益，也许就是进化的开始。

那么人类呢?

Hinton预言，如果AI开始进化、最强的一方获胜，人类就会被遗忘，被碾压进尘土（原话:left in the dust）。AI将从孩子变成我们的父母，接管一切。

这听起来的确是科幻小说的场景，但对Hinton是认真的，我不再认为这听起来很科幻，而是现实存在的威胁。

超级AI取代人类

上面彭博的这篇最新采访中，Hinton谈到了AI取代人类的可能。

Reddit网友随后翻出了一个去年12月的访谈视频，同样涉及AI取代人类的话题，但这一次，Hinton的观点更加让人惊讶——

他宣称，自己实际上是支持AI的!

事情起源于采访最后的一名观众提问，原问题是这样的:

如果一个超级智能AI摧毁了人类，但客观上创造了一种意识层面上更好的物种，您个人是支持还是反对这种结果?如果反对，您建议用什么方法，在面对超级智能AI时维持人类意识的存在或主导地位?

接下来，Hinton用平静的语气回答道:我实际上是支持的，但我认为表示反对是更明智的说法。

采访者表示，你展开说说?

但Hinton只是非常谨慎地给出了一句话，人们不喜欢被取代。

采访者继续追问原因，Hinton首先叠甲，人类有很多好的方面，也有很多不那么好的方面。

之后给出了一段令人深思的解释:目前我们还不清楚什么是最好的智能形式。显然，从人的角度来看，一切都与人有关。但未来有一天，我们可能会把『人文主义』看成一种类似于种族主义的概念。

这段对话在Reddit上同样是一石激起千层浪。

发帖的博主都十分惊讶于Hinton的激进态度，而且他被要求展开解释时似乎态度非常坚决，即使他心知肚明，表示反对是更明智的说法。

有人严厉批评，认为他不顾人类这个物种的生存和整体福祉，这是愤世嫉俗、虚无主义的表现。毕竟，人都没了， 要那么先进的AI技术有什么用呢?

很难想象比这更愤世嫉俗的行为了。

我认为很多未来主义者都嘲讽人文主义的价值，希望在任何可能的情况下将人类因素从『方程』上移走。

但也同样有支持和理解的声音，认为Hinton并不是愤世嫉俗、憎恶人类，只是清醒意识到了一个现实——人类不是造物的顶峰。

进化会继续，更好的物种必然出现，他只是用一种更开放、坦然的心态接受了这个事实。

参考资料:

https://www.youtube.com/watch?v=iWPo7Yhg7Vc&t=3327s

https://www.youtube.com/watch?v=g_Lhmhj1894