尼尔·史蒂芬森最惊人的预测

多年后重新审视科幻小说，有时并不那么虚构。 推理小说在预言即将到来的创新以及它们将如何颠覆世界方面有着令人印象深刻的记录：HG 威尔斯写了关于原子弹的文章 几十年 第二次世界大战之前，以及雷·布拉德伯里 (Ray Bradbury) 1953 年的小说， 华氏 451，我们今天将其称为蓝牙耳机的设备。

也许没有哪个作家比尼尔·史蒂芬森（Neal Stephenson）对我们当前的技术时代更有洞察力。 他的小说创造了这个词 元宇宙，为加密货币奠定了概念基础，并想象了一个地球工程星球。 在 ChatGPT 发布前近三十年，他就预言了当前的人工智能革命。 他早期小说之一的核心元素是 钻石时代：或者，年轻女士的插图入门书，是一本神奇的书，充当一个年轻女孩的私人导师和导师，适应她的学习方式——本质上，它是一个个性化的、超先进的聊天机器人。 标题中的《Primer》以现场演员（被称为“ractor”）的声音大声说话，让人想起当今的生成式人工智能，就像许多数字技术一样，高度依赖于人类的创造性劳动。

斯蒂芬森的书于 1995 年出版，探讨了无缝、即时数字通信的未来，其中具有强大功能的微型计算机嵌入日常生活中。 公司占主导地位，新闻和广告具有针对性，屏幕无处不在。 这是一个阶级和文化分歧严重的世界（小说讲述了一个自称为“新维多利亚派”的强大贵族教派），但在这个世界中，《入门》被描述为技术的最佳体现。

但史蒂芬森对当今人工智能的看法远比他对入门书的看法更为悲观。 “聊天机器人不是神谕，”他上周五通过 Zoom 告诉我。 “这是一个统计引擎，可以创建听起来准确的句子。” 我与史蒂芬森谈论了他那本具有惊人先见之明的书以及似乎已经开始的生成人工智能革命。

为了篇幅和清晰度，本次对话已被编辑。

黄马泰： 《年轻女士的图解入门》 是一本适应和教导年轻女孩的书，这似乎与许多公司对不久的将来的人工智能聊天机器人和助手的愿景产生了共鸣。 您在构思 Primer 时是否开始探索智能机器的想法？

尼尔·史蒂芬森： 当我们有了孩子并得到了这款设计用于悬挂在婴儿床上的手机后，我就产生了这个想法。 它上面有非常原始、简单的形状，因为当他们是新生儿时，他们的视觉系统无法解析精细的细节。 所以会有一个正方形、一个三角形和一个圆形。 然后，经过一定的天数或几周后，你应该把这些卡片从手机上拿出来，然后换上另一套更适合他们那个年龄的大脑能力的卡片。 这让我开始思考： 如果你把这个想法扩展到所有其他形式的智力成长会怎么样？

驱动这本书的技术并不是我们现在所认为的真正的人工智能——我正在和那些正在研究一些底层技术的人交谈，这些技术需要以安全、匿名的方式在互联网上进行通信。 我想这里面隐含着一个人工智能，它可以生成故事并根据孩子的学习曲线提高复杂程度，但我并没有真正深入研究这一点； 我只是假设它会在那里。

黄： 如今，OpenAI、谷歌、Meta 等许多公司都表示，他们希望打造能够适应每个用户的人工智能助手，就像 Primer 充当老师一样。 您是否在当今的生成人工智能模型中看到任何类似于或有朝一日可能变得像 Primer 的东西？

史蒂芬森： 大约一年前，我与一家在视频游戏中制作人工智能角色的初创公司合作。 由于幻觉，我发现它是有益且令人着迷的：我可以看到新的模式是如何从输入的汤中出现的。 我认为是一项功能的同一件事在大多数应用程序中都是一个错误。 我们已经看到律师使用 ChatGPT 创建法律文件的例子，而人工智能只是捏造了看起来完全可信的过去的案例和先例。 当你考虑在教育中尝试使用这些模型的想法时，这也成为一个错误。 他们所做的就是生成听起来像正确句子的句子，但没有底层大脑能够真正辨别这些句子是否正确。

阅读：高中英语结束

想想我们可能想教给某人的任何概念，例如毕达哥拉斯定理。 网上一定有成千上万种关于毕达哥拉斯定理的新旧解释。 我们真正需要的是了解每个孩子的学习方式，以便我们可以立即将他们与数千个孩子中最适合他们学习方式的方式联系起来。 对我来说，这听起来像是一个人工智能类型的项目，但它是一种不同于 DALL-E 或大型语言模型的人工智能应用程序。

黄： 然而，如今，这些从根本上预测序列中的单词的语言模型正被应用于许多它们没有专门能力的领域——GPT-4 用于医疗诊断，Google Bard 作为导师。 这让我想起了书中使用的一个术语，而不是 人工智能, 伪智能，今天许多该技术的批评者可能会欣赏这一点。

史蒂芬森： 我已经忘记了。 那本书的主要笑点是将维多利亚时代的用语和偏见应用到高科技事物上。 我的想法可能是维多利亚时代的人会对这个词表示怀疑 人工智能，因为他们会因为计算机可以取代人脑的想法而感到冒犯。 因此，他们可能希望将这个想法视为模拟或“伪”智能，而不是真实的智能。

黄： 大约一年前，在一次 面试 与 金融时报，你称生成式人工智能的输出“空洞且无趣”。 为什么会这样？您的评估有变化吗？

史蒂芬森： 我怀疑当我发表这些言论时，我想到的是图像生成技术的当前状态。 有一些事情让我感到不舒服，最重要的是他们受益于数千名真实人类艺术家的未经认可的作品。 我会稍微夸张一点，但似乎任何新技术的第一个应用都是让艺术家的事情变得更加糟糕。 音乐领域肯定也发生过这种情况。 这些图像生成系统看起来机械化和武器化程度令人难以置信。

阅读：这 183,000 本书正在加剧出版和科技领域最大的斗争

另一部分是，很多人很早就对此感到兴奋，只是生成了大量材料，并随意将它们发布到互联网上。 如果你创作一幅画的唯一方法就是在画布上费力地涂抹，那么结果可能是好是坏，但至少这是你作为艺术家做出的大量微观决定的结果。 你对每一笔画都进行了编辑判断。 这些程序的输出中不存在这种情况。

黄： 即使在 钻石时代，这本入门书似乎提供了对艺术家劳动和技术的评论，这与当今的生成人工智能非常相关。 入门书教一个女孩，但与这本书数字连接的人类演员必须大声朗读文本。

史蒂芬森： 如果你是舞台上或电影中的传统演员，你会站在镜头前，表演一次，然后可以制作很多副本。 在书中，我认为这是对未来的一个非常积极的愿景，我们拥有的技术可以使配音演员实际上随时按需进行现场表演。 即使有了今天的语音克隆，如果你将其分解为最简单的元素，仍然有人坐在麦克风前并提供这些材料。 虽然我猜像 Primer 这样的系统可能无法实时运行； 你可能会有一些滞后——人工智能正在生成文本并将其发送到ractor，然后ractor必须读取它。

黄： 就当今某些人工智能程序的运行规模而言，根本没有足够的人来做这件事。

史蒂芬森： 我所布置的场景 钻石时代 最主要的一点是，ractors是一种稀缺资源，因此Primer更像是一种奢侈品。 但最终，这本书的源代码落入了一个想要大规模制作它的人的手中，而世界上没有足够的钱，也没有足够的演员来为所有这些书配音，所以在那时，他决定使用自动生成的声音。

黄： 小说的另一个主题是不同的社会经济阶层如何获得教育。 这本入门书是为贵族设计的，但你的小说也追踪了中产阶级和工人阶级女孩与本书版本互动的故事。 目前，许多生成式人工智能都是免费的，但该技术的运行成本也非常昂贵。 您认为生成式人工智能的应用可能会如何？

史蒂芬森： 这本书写于20世纪90年代中期互联网刚刚上线的时代，带有一点早期互联网乌托邦主义的色彩。 人们倾向于认为，当全世界的知识都在线时，每个人都会涌向它。 事实证明，如果你让每个人都可以访问国会图书馆，他们所做的就是在 TikTok 上观看视频。 钻石时代 这反映了我当时与许多其他人分享的关于所有这些知识将如何影响社会的天真想法。

黄： 你认为我们现在看到的人们在考虑如何使用生成式人工智能时是否有些天真？

史蒂芬森： 一定。 这是基于对这些东西正在做什么的一种可以理解的误解。 聊天机器人不是神谕，而是神谕。 它是一个统计引擎，可以创建听起来准确的句子。 现在我的感觉是，就像我们刚刚发明了晶体管一样。 我们已经有了一些人们开始采用的消费产品，比如晶体管收音机，但我们还不知道晶体管将如何改变社会。 我们正处于人工智能的晶体管无线电阶段。 我认为目前行业中正在发生的很多骚动都是风险资本家将资金投入到商业计划中，以及团队正在快速评估许多可以做好的不同事情。 我确信将会出现一些我不敢预测的事情，因为数百万人疯狂创作的结果总是比一个人的想象更有趣。