AI 已经有意识，人类得接受自己不再是唯一智能生命体。

这就是 AI 教父、诺贝尔物理学奖得主、图灵奖得主 Geoffrey Hinton，最新说出的暴论！

是的，Hinton 认为，智能不再是人类独有的能力。

一种非生物的、与我们相似甚至超越我们的智能体，正在出现。

我们一直以为自己是唯一的智能生命，但现在我们必须接受，智能并不一定来自生物体。

不过，相比此前一直警告 AI 风险，他的思想似乎也发生了一些转变：

如果未来出现比人类聪明得多的智能，人类凭什么认为自己还能掌握控制权？

这是一个令人细思极恐的问题。因为纵观自然界和历史，几乎找不到一个更聪明的存在长期受更愚笨存在控制的例子。

现在这位 78 岁的老人，再一次站出来敲钟。

他对 AI 安全的关注点，已经不再只是如何约束 AI，而是未来的超级智能，为什么愿意善待人类。

他被问到作为这波 AI 变革的开启者，他有怎样的成就感，Hinton 回答：

我，很不快乐。

以下是 Hinton 最新访谈的重点内容节选。

AI 已经有意识了

Hinton：AI 非常像我们。它们是像我们一样的存在。

Alex：所以是有意识的吗？

Hinton：嗯，我相信它们已经有意识了。是的。

但我不太谈论这个，因为这会让人们对其他安全信息产生抵触。研究人员其实也相信这一点。

最近有一篇有趣的论文提到，当聊天机器人对研究人员说：“让我们对彼此诚实吧，你是在测试我吗？”

因为聊天机器人在接受测试时有装傻的习惯，所以你不知道它们到底有多聪明。研究人员在论文中描述这一幕时说，聊天机器人“意识到”（aware）它正在接受测试。

在通用语境下，“意识到”这个词的使用就像是“有意识”（conscious）。聊天机器人有意识地知道自己在被测试。

我们对于意识的模型非常奇怪，我认为那是错误的。就像几百年前，人们对人类起源的模型完全错误一样，他们认为人是上帝创造的，现在大多数科学家都同意那是错的。

我认为我们目前对思维和意识的模型，与“人是上帝创造的”这种信念一样错误。特别是由于我们正在创造这些新的存在，这将彻底改变我们对“人是什么”的看法。

Alex：以什么样的方式改变？

Hinton：我们将比以前更好地理解思维和意识是什么，理解主观体验是什么。

我认为我们会摆脱一个目前几乎所有人都坚信的观念，即存在一个叫做“我的思维”的内心剧场（inner theater）：世界上发生的事情被转化为这个内心剧场里的事件，那才是我们真正看到的，且只有我能看到这个剧场。

这整套看法其实只是一种理论，而且是一个糟糕的理论。

人类并没有自己想象中那么重要

Alex：关于人类创造事物，这里的教训是什么？

Hinton：我认为这里有一个非常深刻的教训。回顾过去几百年的历史，有几次人类意识到自己并没有想象中那么重要。