超级智能来了，你准备好没有？

超级智能来了，你准备好没有？

有一天，我们将创造出远远超过我们自己的人工智能。我们准备好迎接他们了吗？图片来源：《终结者》

（秦鹏/翻译）人类还没有遇到更智能的生命形式，但如果我们创造出认知能力远远超过我们自己的机器，这种情况将会改变。到那时，我们的命运将取决于这种“超级智能”的意志，就像今天大猩猩的命运更多地取决于我们，而不是它们自己的行为一样。

因此，我们有理由怀疑这种超级智能的抱负是什么。有没有办法设计他们的激励系统超级智能，使他们的偏好与我们的一致？假设超级智能一开始对人类友好，有没有办法保证即使它创造了一个更强大的替代版本，它也会对我们保持友好？

这些也许是我们这个物种将面临的最严重的问题，因此有必要创建一门先进的人工智能新学科来处理这些问题。回答这些问题的大部分工作还有待完成，但在过去的 10 年里，一群数学家、哲学家和计算机科学家已经开始取得进展。正如我在我的新书《超级智能：路径、危险、策略》中解释的那样，他们的发现突然令人不安，但当我啜饮时，却有一种令人陶醉的魅力。 总之，我们会明白，为机器智能的演进做准备是这个时代的必须。

但是，让我们退后一步，想想为什么具有高水平通用智能的机器如此令人难以置信。我所说的超级智能是指在几乎所有领域的认知表现都远远超过人类的智能体。显然超级智能来了，你准备好没有？，我们目前所有的人工智能（AI）都不符合这个标准。在很多方面，它们甚至不如老鼠。

所以我们不是在谈论当前或近期的系统。没有人知道开发在一般学习和推理能力方面与人类相媲美的机器智能需要多长时间。一个更合理的猜测是，它还有几十年的时间。但一旦 AI 达到并超越这个水平，它们就有可能迅速上升到彻头彻尾的超级智能阶段。

在人工智能科学家的能力超过人类科学家之后，人工智能领域的研究将由机器在数字时间尺度上进行，进展也会相应迅速。所以会有一个智能爆炸的可能，也就是我们会从没有计算机比人类更聪明的时代迅速进化到机器超级智能远超所有生物智能的时代。

第一个体验这种智能爆炸的AI系统将变得异常强大。这将是世界上唯一能够快速开发许多其他技术的超级智能，例如纳米分子机器人技术，并根据自己的喜好利用这些技术塑造未来的生活。

我们可以区分三种形式的超级智能。速度超级智能可以做人类大脑可以做的一切超级智能来了，你准备好没有？，但速度要快得多。一个运行速度比人脑快10000倍的智能系统可以在几秒钟内读完一本书，一个下午完成一篇博士论文。对于这么快的头脑来说，外面的世界就像是放慢了相机的速度。

集成超级智能是一个由大量人类智能体组成的系统，作为一个整体，它的性能远远优于任何当前的认知系统。以计算机软件形式运行的人类意识可以很容易地被复制并在多台计算机上运行。如果每个副本的价值足以覆盖硬件和电力的成本，就会出现巨大的激增。在一个拥有数十亿此类智能的世界中，技术进步将比今天快得多，因为科学家和发明家的数量将是今天的数千倍。

最后是能力超级智能，它的运行速度至少与人类意识一样快，但在能力方面要聪明得多。这是一个更难理解的概念，这意味着可能存在比人类更聪明的代理，就像我们比任何其他动物更聪明一样。单就纯算力而言，人脑未必优于抹香鲸。后者是已知最大的大脑，重量约为 7.8kg，而人类大脑的平均重量 1.5kg。当然，人类以外的动物的大脑完全适合它们的生态需求。然而，人脑具有抽象思维、复杂语言表达和长期规划的能力，使我们能够比其他物种更成功地从事科学、技术和工程。然而，没有理由认为我们的大脑是最聪明的大脑。事实上，我们可能是能够创造技术文明的最愚蠢的生物物种。这个利基市场被我们占据是因为我们一开始就到达了那里，而不是因为我们在任何意义上都最适合这个利基市场。

不同类型的超级智能可能有不同的优势和劣势。例如，集体超级智能将擅长解决容易分解为独立子问题的问题超级智能，而能力超级智能将在需要新概念洞察或复杂协作思维的问题上具有优势。

但是，不同类型的超级智能的间接能力范围是相同的。只要第一次迭代具备科研能力，就有可能迅速成长为综合全面的超级智能。这是因为它将有能力为自己构建其最初缺乏的任何认知功能所需的计算机或认知科学研究，以及配套的开发软件。

一旦发展到这个水平，机器人大脑将比生物大脑具有许多基本优势，就像引擎比生物肌肉具有优势一样。在硬件方面，优势包括更多的处理单元、更高的操作频率、更快的内部通信以及更大的存储容量。

软件优势难以量化，但同样重要。比如再现性。制作一个软件的精确副本很容易，但是“复制”一个人是一个缓慢的过程，并且没有办法将父母一生中获得的技能和知识直接传递给他们的后代。编辑数字思维的代码也更容易：这使得实验和开发改进的意识结构和算法成为可能。我们可以编辑自己大脑中突触连接的细节——这就是我们所说的学习——但我们无法改变神经网络工作的一般原则。

我们没有希望与这些机器人大脑竞争。我们只能通过设计希望他们的目标与我们的目标一致。找到一种方法来做到这一点是一个艰巨的难题。目前尚不清楚我们能否在有人成功创造超级智能之前解决这个难题。但人类的命运可能取决于以正确的顺序解决这两个问题。 （编辑：骏马）

编译自《新科学家》，为超级智能的黎明做好准备