AI教父预判未来十年：人类正经历比工业革命更伟大的智力解放

最近，韩国 KBS 电视台专访了被誉为“AI 教*父”的 Geoffrey Hinton。作为深度学习领域的奠基人，他在人工神经网络上的开创性工作，直接奠定了今天生成式 AI 的基础，也因此拿下了今年的诺贝尔物理学奖。

但有意思的是，他同时也是目前最坚定的 AI 信徒之一。从采访中那种笃定的语气里，你几乎能同时看到一幅既充满希望、又暗藏隐忧的未来图景。

十年后，我们可能会迎来一个连当下最狂野的想象力都无法企及的 AI 时代——就像十年前，没人能预见 GPT-4 一样。未来的突破，大概率会远远超出我们的预期。

从工业革命解放体力，到 AI 革命释放智力，人类正在一步步突破自身的局限。但 Hinton 也发出了一个不得不听的警告：当我们为未来欢呼雀跃时，是不是也该好好想想，如何在这场 AI 浪潮中确保人类自己还能坐在驾驶席上？

以下是这次对话中一些值得细品的观点。

自 1950 年代人工智能诞生以来，一直有两条路线在并行：一条基于逻辑，一条基于生物学。生物学派试图模拟大脑中的神经网络，逻辑派则更侧重模拟逻辑推理。直到最近，神经网络这条线才开始真正压过逻辑派，展现出惊人的效果。

神经网络能取得如此显著的成果，主要原因有三：首先是来自英伟达等公司开发的游戏芯片，提供了强大的计算能力；其次是互联网带来的海量数据；第三是技术进步，比如 2017 年 Google 推出的 Transformer 模型，让语言模型的效果有了质的飞跃。

如果遇到难以诊断的病例，可以交给医生，他们的诊断正确率大约在 40%；或者交给一个 AI 系统，正确率能到 50%；但最妙的是，如果医生和 AI 联手工作，正确率能直接拉到 60%。在北美，每年大约有 20 万人因误诊而死亡，这意味着 AI 是有能力挽救无数生命的。

过去，矿业公司想知道某个承包商能不能按时完成任务，得花三周时间雇一家大型咨询公司写报告。现在，只需 4 秒，AI 系统就能给出答案。

AI 有时会搞错事情，但人类也会。它会产生“幻觉”，其实在心理学上，这叫做“虚构”，是人类再常见不过的现象。如果你观察过任何一个回忆很久以前事情的人，你会发现他们记不住所有细节，但往往会非常自信地讲述，而这些细节多半是错的。所以，某种程度上，人类就像这些大型聊天机器人一样，也总是在编造事实。

预测未来非常困难，尤其是在变化极快的时候。想知道 10 年后会是什么样？最好的办法，或许是回头看看 10 年前的情况。10 年前没人会想到 GPT-4 这类东西出现。所以，10 年后，我们一定会拥有一些完全没人预料到的技术，它们会比人们预期的好得多。

从长远来看，计算机能够拥有我们人类所有的感知能力。我并不认为人类有什么特别之处——我们只是非常复杂，经历了一个漫长的进化过程。对其他人来说，我们当然很特别，但没有什么东西是机器无法模拟的。

现在最需要做的，是在技术发展过程中强化安全研究。而只有那些大公司，才有足够的资源来做这些事。所以，我们需要政府出手，强迫这些大公司在安全上投入更多。

工厂里的所有机器设备，都是为人类操作而设计的。所以，与其重新设计所有机器设备，不如重新设计一个人。这样就能继续使用现有的设备。现在，人们正在尝试这条路。

每隔几年，总会有人说神经网络被过度炒作了，一切就要崩溃了。但他们每次都错了，我相信他们还会继续错下去。

在 Hinton 看来，人类的主要限制曾经是体力，工业革命消除了这一限制。而现在，主要限制是我们的智力，人工智能将会消除它。

那么，深度学习到底是怎么工作的？它本质上是从大脑的工作方式中获得的灵感。我们并不完全理解大脑的机制，但已经知道了不少。大脑中有许多叫做神经元的脑细胞，它们之间有连接。当我们学习时，这些连接强度就会变化。神经元通过发送信号来沟通，而所有神经元要做的，就是决定什么时候发送信号。

如果接收到足够的输入，它就会发出信号。但这取决于连接的权重——权重小的连接，信号影响不大；权重大的连接，信号强，更容易触发下一个神经元。学习的过程，就是不断调整这些连接强度。

关键问题来了：大脑是根据什么原则来调整连接强度的？1980 年代，科学家提出了“反向传播”方法，用来解决这个问题。当时效果还算中等，但没人意识到，一旦提供海量数据和计算资源，这种方法会变得异常强大。现在的大型聊天机器人，用的正是反向传播来改变计算机中模拟的神经网络连接强度——这就是深度学习的核心原理。

举个例子，要训练一个能识别鸟类的神经网络，第一层可能包含识别边缘的神经元；下一层，可能会识别边缘的组合，比如两条边在锐角处相交，这可能代表鸟喙的形状；再下一层，可能会识别物体组合，比如鸟喙和眼睛的位置关系合适，就可能是鸟头。诀窍在于，通过多个层次逐步检测越来越复杂的特征，直到最终判断——这很可能是一只鸟。而所有这些权重，都是学习得来的。

自 1950 年代 AI 诞生以来，基于逻辑的方法在头 50 年里几乎占了主流，但并没真正奏效。直到 2009 年左右，神经网络这条线才开始取得显著进展。2012 年是个重大突破点——模拟生物学的神经网络，在物体识别上突然变得非常有效。

此后，神经网络引发了广泛兴趣，尤其是 ChatGPT 发布后，大家看到它不仅能理解你说的话，还能合理回答，这引起了巨大关注。可以预见，AI 将在各个行业得到广泛应用。

医疗领域的影响显然非常积极。如果我有症状，我会去看家庭医生。但如果我得的是罕见病，家庭医生可能从未见过。我更愿意找一个接诊过 1 亿病人的“家庭医生”，或者一个了解我整个基因组、掌握所有检查结果和完整病史的医生。未来，AI 医生就是这样。它们比普通医生优秀得多，在解读医学影像上也更出色。

教育方面也一样。有私人导师的孩子，学习速度会比在课堂上快两倍。有了 AI，每个人都能拥有自己的私人导师，这对教育的影响将是巨大的。

在任何拥有数据的领域，AI 都会非常有用。对于大学来说，这或许不太理想，但大势如此。

主持人：但我们也看到它有时会产生错误。

Geoffrey Hinton：AI 有时会搞错，人类也会。所谓“幻觉”，在人类身上叫“虚构”，这是再常见不过的现象。如果你观察一个回忆往事的人，会发现他们记不住所有细节，却往往自信地讲述一堆错误信息。所以人类和大型聊天机器人一样，总是在“编造”事实。预测未来很难，但回头看 10 年前，你会明白——10 年后一定会出现完全没人预料到的、比预期好得多的技术。

主持人：这次 AI 革命，在文明史上的意义是什么？

Geoffrey Hinton：工业革命让人类的体力不再那么重要。在那之前，挖沟得靠人；之后，体力变得无关紧要。现在，我们的挑战是智力问题。当 AI 变得比我们更聪明时，人类的智力也会像体力一样不再重要。历史就像是一个不断去除人类局限的过程——以前是体力，现在是智力。

但问题是，有多少例子是更聪明的事物被更不聪明的事物控制的？我只想到一个：母亲和婴儿的关系。进化过程中，为了让婴儿影响母亲的行为，大自然投入了极大的努力。但即便如此，婴儿和母亲的智力也差不了太多。所以，当 AI 比我们聪明时，我们还能不能保持控制，这是个大问题。

有些人认为一切都会很顺利。我对此持怀疑态度——我们创造出的智能体，并不是总会完全遵从指令。

主持人：AI 对人类工作岗位的威胁呢？

Geoffrey Hinton：风险是多方面的，不能混为一谈。AI 会取代很多工作。比如律师助理，做法律研究的那种，AI 已经能做得更好。我有个亲戚在卫生服务部门处理投诉信，以前写一封回信要 25 分钟，现在扔给 ChatGPT，五分钟就能搞定。这类职位自然就减少了。

有人说 AI 会创造大量新岗位，确实会，但能不能抵消那些被取代的普通办公室工作，目前还不清楚。这对失业人员来说是个严峻的问题，也是政府该关注的。

短期来看，我最担心的是 AI 让网络攻击和生物武器制造变得更简单。去年网络钓鱼攻击增加了 1200%，很大程度上就是聊天机器人干的。我还担心有人利用这些技术制造新的病原体，目前几乎没有控制措施。

中期来看，工作流失和自主致命武器是我非常担心的。长期来看，最怕的就是 AI 变得比我们更聪明，最终接管我们。我觉得两到三年内就可能看到自主致命武器问世——所有主要国防部门都在全力开发。而关于 AI 的法规，都有一条明确写着：不适用于军事用途。政府不愿自我监管，反而在竞相开发。一旦投入使用，灾难性的后果会倒逼国际协议，就像化学武器那样，但代价可能会很大。

现在需要做的，是在技术发展中加强安全研究，而只有大公司有资源去做。所以政府必须强迫它们投入更多。

要留住技术人才，最好的方式就是提供一个能专心研究的环境。加拿大就是个好例子——尽管经济体量不大，但在 AI 领域非常出色，原因就是长期资助基础科学研究。像我和乔舒亚·本乔、里奇·萨顿这些人，之所以选择加拿大，很大程度上是因为它在基础科学上给了大量资金。所以，大力资助基础科学研究，尤其是计算能力，是留住人才的关键。

主持人：你觉得机器人和 AI 是一起发展的吗？

Geoffrey Hinton：你是说人形机器人？我看到很多人在做这个。之所以这么做，很可能是因为工厂本来就是为人类设计的。与其重新设计所有机器设备，不如重新设计一个人——这样就能继续用现有的机器。现在大家正在尝试这条路。我不确定会怎样，但这是一个充满巨大不确定性的时代，面对未来，保持谨慎没有坏处。

主持人：会有一个调整期或者经济衰退吗？

Geoffrey Hinton：有两种看法。我的看法是，这种发展会持续下去。那些坚持逻辑方法、一直不看好神经网络的人，总说 AI 要走到尽头了。但神经网络已经实现了巨大进展，做出了让人惊讶的事。每隔几年，总有人说神经网络被过度炒作，一切将要崩溃——但他们每次都是错的。我相信，他们还会继续错下去。