超级智能(路线图危险性与应对策略)

作者简介

尼克·波斯特洛姆，****思想家，牛津大学人类未来研究院的院长，哲学家和超人类主义学家。其学术背景包括物理、计算机科学、数理逻辑以及哲学，著有大约200种出版物，已经被翻译成22种语言。曾获得尤金·甘农（Eugene R. Gannon）奖（该奖项的获得者每年只有一名，他们来自哲学、数学、艺术和其他人文学科与自然科学领域）。

内容简介

首先，我们回顾过去。在*长的时间范围里，历 史似乎呈现出一系列不同的增长模式，每个新模式都 比前一个模式增长*快。根据这个规律推测，可能会 出现另一种（甚至*快速的）增长模式。然而，我们 并不特别强调这个观点，因为这并不是一本关于“科 技加速”、“极速增长”，或者集合在“奇点”标题 下的各种观点的书。然后，我们要回顾人工智能的历 史，之后再探索目前人工智能的能力。*后，我们简 要地介绍一些专家近期的观点和调查，并且思考一下 我们对于未来发展之时间表的空白领域。 增长模式和宏大历史 仅在几百万年前，我们的祖先还在非洲森林中穿 梭。以地质或进化的时间尺度来看，从与类人猿共同 拥有的*后一代祖先向智人的进化是**快速的。我 们进化出直立的姿势和对生拇指，而*重要的是，我 们的大脑体积和神经组织发生了相对微小的变化，但 正是这些变化引起了人类认知能力的巨大进步。因此 ，人类可以进行抽象思维，交流复杂的思想，可以比 地球上任何其他物种*好地积累和传承文化信息。 这些能力使人类创造出越来越高效的生产技术， 从而使我们的祖先从热带雨林和*原向远方的迁徙成 为可能。尤其是进行农耕之后，人口总数和人口密度 都在增加。*多的人口意味着*多的想法；*大的人 口密度则意味着想法*容易传播，并且*多的个体可 以专注于发展专门的技能。这些发展提高了经济生产 力和技术实力的增长率。后来与工业革命相关的发展 则带来了第二次与此相当的增长率的剧增。 这些增长率的变化有着重要的影响。几十万年前 ，在早期人类（或原始人类）史前时代，增长**缓 慢，要使人类生产能力增长到能够维持另外100万人 基本生存的水平，需要大约100万年的时间。到了公 元前5000年，经过了农业革命，增长率已经提高到只 需要两个世纪就能实现同样的增长。**，经过了工 业革命，世界经济平均每90分钟就能够增长相同的量 。 即使是现在的增长率，如果持续一定时间，也会 产生可观的结果。如果世界经济继续以过去50年的速 度增长，那么到2050年，**财富将是现在的约5.8 倍，到2100年则是约35倍。 然而，当前这种依指数增长实现稳定繁荣的方式 仍旧是不够的，如果世界再经历一次农业革命或工业 革命那样的飞跃式增长，世界将会呈现出**不同的 面貌。经济学家罗宾?汉森通过研究历**的经济和 人口数据，推测出过去社会中经济呈倍数增长所要经 历的时间：在洪积世 狩猎采集社会下，经济增长翻 倍需要224 000年，在农业社会需要909年，在工业社 会则需要6.3年。（在汉森的模型中，当今时代是农 业社会和工业社会发展模式的混合体，世界经济实现 倍数增长的速度还不能达到6.3年这个平均时长。） 但如果出现另外一种**不同的经济增长模式，类似 于农业革命和工业革命时期的飞跃式发展，那么世界 经济便会以每两周的时间实现翻倍增长。 以当今形势看，要实现这种增长速度无异于痴人 说梦。观察家们可能已经发 洪积世（Pleistocene），又译*新世，地质时 代第4纪的早期。—译者注现，对于以往的历史时期 而言，世界经济很难在某一段时期中实现好几次翻倍 增长。然而，我们现在就要学着对这种不寻常的情况 习以为常。 弗诺·文奇（Vernor Vinge）开创性的文章以及 雷?库兹韦尔（Ray Kurzweil）等人的著述所揭示的 那种即将到来的技术性奇点已经*到了广泛关注。然 而，“奇点”这一术语在很多不同领域被混乱地使用 ，并催生出一种不合理的技术乌托邦氛围，就好像我 们会就此迎来太平盛世了。考虑到“奇点”这个词所 指的大部分涵义与本文的论述不甚相关，我们可以去 掉这个词并代替以***的术语，以便阐述得*清晰 。 我们*感兴趣的一个与“奇点”相关的术语是智 能爆发，尤其是机器**智能的前景。肯定会有人意 识到图1–1所显示的增长模式是比农业革命和工业革 命还要激烈的另一种可能的飞跃式增长模式。这些人 也会意识到，要想让世界经济实现在仅仅数周内翻倍 的增长速度，就需要创造出一种比人类的生物性思维 *快、*有效的思维方式。但是我们很难通过分析经 济增长曲线以及推断过往经济增长模式来认真严肃地 了解机器智能变革的前景。我们将看到，*加强有力 的理由会让我们认真考虑这一问题。 P3－5