人工智能科学家雷·库兹韦尔：“到 2045 年，我们的智能将扩大一百万倍” | 人工智能 (AI)

美国计算机科学家、技术乐观主义者雷·库兹韦尔是人工智能 (AI) 领域的长期权威。他的畅销书《人工智能：人工智能的未来》于 2005 年出版， 奇点即将来临激发了人们的想象力，他提出了科幻般的预测：到 2029 年，计算机将达到人类水平的智能，而人类将在 2045 年左右与计算机融合，成为超人，他称之为“奇点”。如今，近 20 年过去了，76 岁的库兹韦尔又推出了续集， 奇点越来越近 ——他的一些预测也不再那么古怪。库兹韦尔的日常工作是 谷歌。他向 观察者 以他作为作家、发明家和未来学家的个人身份。

为什么要写这本书？
奇点即将来临 谈论未来，但 20 年前，人们还不知道人工智能是什么。我很清楚会发生什么，但并不是每个人都清楚。现在人工智能主导着谈话。是时候重新审视我们取得的进展——大型语言模型 (LLM) 使用起来非常愉快——以及即将到来的突破。

您对 2029 年和 2045 年的预测没有改变……
我一直保持一致。所以 2029 年，既是人类级别的智能，也是通用人工智能（AGI），后者略有不同。人类级别的智能通常意味着人工智能已经达到了 最多 到 2029 年，人工智能将在大多数方面实现这一目标。（2029 年之后可能会有几年的过渡期，人工智能在编写奥斯卡获奖剧本或产生深刻的新哲学见解等几项关键技能方面尚未超越顶尖人类，尽管它会。）AGI 意味着人工智能可以做所有事情 任何 人类可以做到，但要达到更高的水平。AGI 听起来更难，但它正在同时到来。而我对五年后的预测实际上是保守的：埃隆·马斯克 最近说 这将在两年内实现。

我们确实必须意识到人工智能的潜力，并监控其行为——但仅仅反对它是不明智的

我们为什么要相信你的日期？
我是唯一一个预测到如今人们对人工智能产生如此巨大兴趣的人。1999 年，人们认为这需要一个世纪甚至更长时间。我说 30 年，看看我们现在的情况。最重要的驱动因素是计算能力的指数增长，而价格则以不变美元计算。我们每 15 个月的性价比就会翻一番。由于计算能力的增加，法学硕士 (LLM) 两年前才开始发挥作用。

目前还缺少什么才能使人工智能达到您预测的 2029 年的水平？
一是更强的计算能力——这即将到来。这将使情境记忆、常识推理和社交互动得到改善，而这些都是仍然存在缺陷的领域。然后我们需要更好的算法和更多的数据来回答更多的问题。法学硕士幻觉 [where they create nonsensical or inaccurate outputs] 到 2029 年，人工智能将不再是一个问题——这种情况已经比两年前少了很多。问题之所以出现，是因为他们没有答案，他们也不知道答案。他们寻找最好的东西，但这可能是错误的或不合适的。随着人工智能变得越来越聪明，它将能够更准确地理解自己的知识，并在它不知道的时候准确地向人类报告。

机器人即将崛起？谷歌新任工程总监认为如此……

奇点到底是什么？
如今，我们的大脑尺寸有限，无法超越这个尺寸变得更聪明。但云端却越来越聪明，而且增长速度真的没有界限。奇点，这个借用物理学的比喻，将在我们大脑与云端融合时出现。我们将结合自然智能和控制智能，将它们融为一体。脑机接口将使这一切成为可能，最终将是纳米机器人——分子大小的机器人——它们将通过毛细血管无创地进入我们的大脑。到 2045 年，我们的智能将扩大一百万倍，这将深化我们的意识和觉悟。

很难想象这会是什么样子，但听起来不太有吸引力……
想象一下，这就像拥有一部手机，但在你的大脑中。如果你问了一个问题，你的大脑将能够从云端获取答案，就像你现在在手机上做的那样——只是它会是即时的，不会有任何输入或输出问题，你也不会意识到它已经完成了（答案会直接出现）。人们确实会说“我不想要那个”：他们认为他们也不想要手机！

1977 年，库兹韦尔在马萨诸塞州剑桥市展示了这台库兹韦尔阅读机，它可以将印刷文字转换成合成语音。图片来源：Bettmann 档案馆

先进人工智能系统的生存风险又如何呢？它们可能会获得意想不到的力量，严重危害人类？人工智能“教父” 杰弗里·辛顿 去年离开谷歌， 部分 由于这些担忧，而其他 高的– 伊隆·马斯克 (Elon Musk) 等知名科技领袖 也发出了警告。本月早些时候， OpenAI 和 Google DeepMind 员工 呼吁加强对口哨的保护鼓风机引起安全隐患。
我有一章关于危险。我一直致力于寻找前进的最佳方式，并帮助开发了 阿西洛马人工智能原则 [a 2017 non-legally binding set of guidelines for responsible AI development]我们必须意识到人工智能的潜力，并密切关注人工智能的发展。但仅仅反对人工智能是不明智的：人工智能的优势是如此巨大。所有大公司都在努力确保其系统安全并符合人类价值观，而不是创造新的进步，这是积极的。

计算能力会不会受到物理限制而受到阻碍？
我们今天拥有的计算基本上是完美的：它会每年都变得更好，并继续保持这种状态。我们可以通过很多方法继续改进芯片。我们才刚刚开始使用第三维 [create 3D chips]，这将帮助我们度过许多年。我认为我们不需要量子计算：我们从未能够证明它的价值。

你认为，图灵测试将在 2029 年通过，即人工智能能够通过文本与人类进行无区别的交流。但要通过图灵测试， 人工智能需要变得更愚蠢。该怎么做呢？
人类并没有那么准确，他们也不知道很多事情！如今，你可以向法学硕士询问任何领域的任何理论，他都会非常聪明地回答你。但是谁能做到这一点呢？如果人类这样回答，你就知道这是一台机器。所以这就是简化的目的——因为测试试图模仿人类。 有些人正在举报 GPT-4 可以通过图灵测试。我认为我们还需要几年时间才能解决这个问题。

并非每个人都能负担得起您所设想的未来技术。技术不平等让您担心吗？
富有可以让你尽早负担得起这些技术，但同时也会让你觉得这些技术效果不佳。 [mobile] 那时的智能手机非常新，价格昂贵，性能也非常差。它们只能获取很少的信息，而且无法与云端通信。现在，它们非常便宜，而且非常有用。世界上大约四分之三的人都拥有智能手机。所以这里的情况也是一样的：这个问题会随着时间的推移而消失。

我的第一个计划是活下去——达到长寿逃逸速度。我还打算创造一个我自己的复制品

这本书详细介绍了人工智能的工作– 杀伤力。我们应该担心吗？
既是，也不是。某些类型的工作将被自动化，人们将受到影响。但新的能力也会创造新的工作。像“社交媒体影响者”这样的工作甚至在 10 年前也是没有意义的。今天我们的工作比以往任何时候都多，美国每小时平均个人收入是 100 年前的 10 倍（按今天的美元计算）。 全民基本收入 将在 2030 年代开始实施，这将有助于缓解就业中断带来的危害。到那时还不够，但随着时间的推移，它会变得足够。

除了失业之外，人工智能还有望通过其他令人担忧的方式改变世界：传播虚假信息、通过有偏见的算法造成伤害以及加强监控。你不会过多关注这些……
我们确实需要解决某些类型的问题。我们即将迎来选举，“深度伪造”视频令人担忧。我认为我们实际上可以找到解决办法 [what’s fake] 但如果这件事发生在选举之前，我们就没有时间了。在偏见问题上，人工智能正在向人类学习，而人类有偏见。我们正在取得进展，但还没有达到我们想要的水平。还有 人工智能公平使用数据的问题 需要通过法律程序来解决。

您在谷歌做什么？这本书在出版前经过过审查吗？
我为他们提供各种改进产品和推进技术的建议，包括法学硕士学位。这本书是以个人身份撰写的。谷歌很高兴我发表这些内容，而且没有评论。

许多人会对你关于物理和数字永生的预测持怀疑态度。你预计医疗纳米机器人将在 2030 年代问世，它们将能够进入我们的身体并进行修复，这样我们就可以无限期地活着，并且 “来世”技术 2040 年代将会出现一种技术，让我们能够上传自己的思想，以便恢复 – 甚至投入到令人信服的机器人中 – 如果我们经历生物死亡。
一切都在呈指数级发展：不仅是计算能力，还有我们对生物学的理解以及我们在更小规模上进行工程设计的能力。在 2030 年代初，我们有望达到长寿逃逸速度，即我们因衰老而失去的每一年寿命都可以通过科学进步得到弥补。当我们越过这一速度时，我们实际上会得到更多的寿命。这并不能保证长生不老——仍然会有意外发生——但你死亡的概率不会逐年增加。通过数字方式让逝者复活将带来一些有趣的社会和法律问题。

您对永生有什么计划？
我的第一个计划是活下去，从而达到长寿的逃逸速度。我每天服用大约 80 颗药丸来保持健康。低温冷冻是后备方案。我还打算制造一个自己的复制品 [an afterlife AI avatar]，即 我认为在 2020 年代后期我们都会拥有这种选择。我和父亲做过类似的事情，收集了他一生中写过的所有东西，这有点像和他说话。 [My replicant] 将能够借鉴更多的素材，从而更忠实地展现我的个性。

我们现在应该做什么才能为未来做好最好的准备？
这不会是我们与人工智能的对决：人工智能将进入我们体内。它将使我们能够创造以前不可能实现的新事物。这将是一个相当美好的未来。