Mustafa Suleyman 希望平衡人工智能创新与安全

在人工智能正在迅速重塑我们世界的时代， 穆斯塔法·苏莱曼 是这场技术革命前沿的关键人物。 作为 DeepMind 的联合创始人（后来将其卖给了谷歌），苏莱曼在推进人工智能研究和应用方面发挥了重要作用，使他成为该领域的领先权威。 苏莱曼的最新贡献，他的书 即将到来的浪潮，深入探讨人工智能对人类社会的深刻影响。 这不仅仅是一本关于技术的书；它也是一本关于技术的书。 这是关于人工智能将如何改变我们未来生活、工作和娱乐方式的讨论。 在 即将到来的浪潮在本书中，苏莱曼探讨了人工智能前所未有的扩散及其影响，为人工智能如何赋予人类权力或危害人类提供了细致入微的视角。

他的见解在这个时代尤其重要 人工智能的潜力似乎无限，但其风险和道德困境也十分突出。 苏莱曼并不回避这些挑战。 相反，他正面面对他们，提出平衡创新与安全、技术进步与道德治理的框架。 穆斯塔法·苏莱曼（Mustafa Suleyman）是理解和驾驭人工智能时代的重要指南，强调了人类在这个新时代生存和繁荣的机会。 值得 在苏莱曼被任命为 值得100名单。

您如何看待人工智能的兴起改变我们的生活、工作和娱乐方式？

人工智能将改变我们生活中的几乎所有事实……看看你的周围。 几乎你所看到的一切都被智慧所感动。 在某种程度上，你的每一次互动都基于你的智力。 我们的文化、世界、经济和关系都是以智慧层面为基础的。 这大概就是人性的基本特征吧。 我们即将见证 有史以来最大规模的智力增殖，其成本直线下降至零，新智能在整个社会的大规模传播。 每个人都将有机会获得目前只有民族国家或首席执行官才能拥有的团队和能力——顾问、战略家、教练、律师和医生组成的团队。 如果每个人都有一个可以自主帮助实现目标的代理，那么我们生活在一个几乎生活的方方面面都将被人工智能触及的世界。 无论你想做什么，人工智能都会提供帮助。 这即将到来。 这是一个巨大的机遇，也是一个巨大的挑战。

您认为世界已经准备好广泛部署人工智能了吗？

这种变化将是巨大的，而且我认为社会还没有完全应对其严重程度。 在许多情况下，我们的关键机构已经出现故障，而下一次的变化将具有巨大的破坏性。 立法者正在努力跟上并赶上一系列快速发展和发展的技术。 在过去的十年里， [AI] 模型尺寸增加了九个数量级。 借助人工智能，我们看到其能力和规模的增长甚至超越了我们刚刚经历的计算机和互联网时代。 风险也在同时增长——许多风险都得到了很好的追踪，有些则没有那么明显。 在 即将到来的浪潮，我谈论技术作为生产力巨大增长的源泉，但也是坏人赋权工具包，一种手段 新形式的虚假信息 或适应性攻击。 电力升级系统有可能发生事故和故障。 在这一切之中，围绕人工智能的讨论变得更加普遍，这是积极的一步。 但我们距离做好准备还有很长的路要走。 这就是为什么我觉得现在是时候更公开地谈论这些问题的部分原因了。

您如何设想一种平衡的遏制方法，而又不会扼杀创新或经济增长？

做到这一点没有简单、直接的途径，但这就是挑战。 我的遏制想法是应该能够达到这个平衡。 它始于更多的投资和努力 安全基础技术工作 并从那里开始构建。 但这是一条狭窄的道路。 一方面，我们可能会扼杀、积极打压，造成极端反应，带来各种负面影响。 另一方面，如果我们任由开放的、不受控制的发展在全世界范围内展开，就会存在灾难的威胁。 对我来说，这是二十一世纪最大的困境。 找到平衡的方法至关重要。

您能否详细说明可能有效管理人工智能开发和部署的道德框架？

对我来说，遏制是一个总体框架，可以将目前正在发挥作用的所有元素结合起来，将拼图的许多部分组合在一起。 遏制应该成为对前沿技术无懈可击的社会控制。 人们立即求助于监管，虽然监管很重要，但仅靠监管是不够的。 整个领域发展得太快，覆盖的地区太多，监管不足以成为灵丹妙药。 需要明确的是，我是监管的大力倡导者，只是它需要支持。 如上所述，我将从技术安全工作开始，这必须是全球的首要任务。 人工智能安全问题远未得到解决。 我还认为我们需要在审计人工智能系统以及为公司和国际治理建立新结构方面开展新的工作。 我们需要公司内部的责任文化和公司外部的群众运动，以实现变革和积极成果。 在各个层面上，从代码库到全球社会力量的规模，我们都需要努力遏制即将到来的浪潮。

您认为国际合作在这方面可以发挥什么作用？

没有国际合作，就没有遏制。 人们谈论技术、人工智能领域的军备竞赛。 虽然我多年来一直反对这个框架，相信即使谈论它也可能使它更有可能，但这就是我们现在所处的点。 它是真实的; 这已经发生了。 中国和美国都认为推进这项技术有战略需要。 双方都意识到安全担忧，但最终需要各方有意义的参与来管理。 为人工智能创建一个稳定、可靠的国际治理体系，让所有主要推动者共同努力，这不仅仅是一件好事。 这是必要的。 这也是一个非常艰巨的任务。 我提倡的第一步是创建 IPCC [Intergovernmental Panel on Climate Change] 对于人工智能。 它将有助于澄清风险并提供一个国际评估论坛。 这将是一个好的开始。

您建议我们如何让社会做好准备，应对人工智能在增强人类决策方面能力的迅速增强？ 是否有历史模型可以指导这一准备工作？

在某些方面，人工智能是前所未有的。 我们从未处理过 机器走向自主 就像人工智能一样。 目前还没有，但很快就会出现。 我们从未有过一种技术能够如此快速地扩展功能阶梯，如此迅速地传播到如此多的用户，从绝对最先进的技术发展到开源，在短短几个月内可供互联网上的每个人使用。 这是新的。 然而，从历史中吸取教训仍然至关重要。 核技术远未得到完美遏制，但其关注程度、安全工作、国际协议等至少提供了一种模式。 它表明某种程度的遏制是可能的。 我们已经成功地限制了化学武器等技术的创造； 我们逐步淘汰氟氯化碳以弥补臭氧层的空洞； 在国际机构的指导和法律文书的推动下，我们正在努力实现经济脱碳。 所有这些努力并没有完美地映射到人工智能上，这带来了独特的挑战，但它们提供了指导。 他们带来希望。

最后，作为既不是政策制定者也不是科学家的个人，我们可以采取哪些具体步骤来促进这些变革性技术的更安全、更负责任的部署？

参与其中！ 我对遏制和即将到来的浪潮提出的重要论点之一是，它只有在真正的民众参与和压力下才能实现。 我们需要重大运动、群众利益和关心这些问题的人。 我们还需要内部的批评者来建立它。 人工智能不应该仅仅由啦啦队员创造；它应该由啦啦队创造。 它也应该由从一开始就对担忧和风险保持警惕的怀疑论者制定。 每个人都与人工智能有利害关系。 使其成功将需要集体的努力。

观看 Craig Mundie 在 Techonomy 23 上谈论人工智能