梅兰妮·米切尔：“当人工智能被植入到像孩子一样体验世界的机器人中时，它就会腾飞”| 技术

我们是否夸大了人工智能（AI）的潜力？ 他有多聪明？ 它会到达人类吗？ 这些是 Melanie Mitchell（洛杉矶，55 岁）在她的书中提出的一些问题 人工智能。 思考者的指南，《Captain Swing》本周一以西班牙语出版。 他的回应很有力：我们距离创造超级智能还很远，无论多少 一些公司的说法恰恰相反。 根本原因之一是机器不像我们一样进行推理。 他们几乎可以比其他人更好地完成任何任务，但他们对世界的了解还不如一岁的婴儿。

米切尔提供了衡量人工智能现象的基本背景，自从两年前 ChatGPT 等工具出现以来，这项技术就一直处于公众辩论中。 政治家、商人和学者 最近警告过 这些系统的危险他们用他们能够生成的精致文本以及他们可以制作的超现实图像和视频让世界眼花缭乱。

圣达菲研究所复杂性教授兼波特兰州立大学教授戴维斯在她的著作中描述了最先进的人工智能系统如何工作，并将其与人类推理进行对比。 结论：目前任何机器都无法实现诸如直觉或环境知识等关键方面。 米切尔在新墨西哥州圣达菲的家中通过视频通话参加《国家报》。

问。 今天的人工智能有什么能力？

回答。 几年前，随着生成式人工智能（包括应用程序）的到来，它的能力发生了巨大的飞跃 像 ChatGPT 或 Dall-E。 但这些系统虽然看起来像这样，但对世界的理解与我们不同。 这就是为什么有时他们会做一些奇怪的事情或者编造一些事情。 它们缺乏可靠性，有一系列难以预测的局限性。 因此，我认为虽然这些系统非常有用并且我一直在使用它们，但我们必须谨慎对待对它们的信任。 尤其是在没有人工监督的情况下。

P。 因为？

R。 他们可能会犯严重的错误。 一个明显的例子是自动驾驶汽车。 它们尚未出现在我们身边的原因之一是，它们在人类很少会发生的情况下会失败，例如无法识别行人或障碍物。 另一个例子是自动面部识别系统。 这些机器非常擅长检测图像中的人脸，但在识别深色皮肤的人或女性方面表现较差。 通过 ChatGPT，我们看到了无数他们言出必行的案例。

P。 生成式人工智能的繁荣对学科的发展是有利还是有害？

R。 从某种程度上来说，这 炒作 它增加了人们的期望，然后导致失望。 在人工智能的历史上，这种情况已经发生过很多次。 在 20 世纪 50 年代和 1960 年代，据说几年内我们就会拥有具有人类智能的机器。 那没有发生。 所谓的人工智能冬天到来了：研究资金枯竭，公司破产。 我们现在正处于一个充满期待的时期。 问题是，乐观主义者的预测真的会成为现实吗？还是我们会再次陷入巨大的失望？ 很难预测。

P。 就在三年前， 未来将是虚拟宇宙。 今天没有人再谈论它了。 您认为人工智能会发生类似的事情吗？

R。 这种情况在重大技术创新中时常发生：存在一种巨大的炒作泡沫，然后期望没有得到满足，人们感到失望，然后技术最终脱颖而出。 事实证明，这种发展是有用的，但并不像人们预期的那么辉煌。 人工智能很可能会发生这种情况。

P。 您认为人工智能系统缺乏语义理解或常识，因此不可能具有真正的智能。 您认为这种情况会在某个时刻发生改变吗？

R。 这是可能的。 我们没有理由不能开发这样的机器。 问题是，我们如何到达那里？ ChatGPT 已使用所有可用的数字书籍和文本以及互联网上的所有视频和图像进行了培训。 但有些事情与常识和知识有关，无法用语言和数据编码：它们只能通过经验来掌握。 也许机器无法像我们一样体验世界，才能以更人性化的方式思考。 人工智能学科对此存在很多争论。 我怀疑，当机器不仅接受被动的语言训练，而且像孩子一样积极地体验世界时，巨大的飞跃就会到来。

人工智能的历史表明，我们对生命和智能的直觉常常是错误的，现实中一切都比我们想象的复杂得多。

P。 当他们处于机器人形态时。

R。 是的。 插入机器人中的人工智能可以接受与儿童相同类型的教育或发展。 计算之父之一艾伦·图灵 (Alan Turing) 在 20 世纪 50 年代就已经对此进行了推测。 这个想法现在更有意义了。

P。 你在书中描述了人工智能是如何工作的，以及它与我们的推理方式有多大关系。 如果流程履行了其功能，它还重要吗？

R。 这取决于您想使用该系统做什么。 我汽车的 GPS 可以找到往返我想去的地方的路线。 他不懂道路或交通的概念，但他做得很好。 问题是我们是否真的希望系统与人类世界进行更广泛的交互。 他们必须在多大程度上理解它？ 曾经有一个案例，一辆自动驾驶汽车在某个时刻猛踩刹车，而驾驶员不知道为什么。 原来，有一个广告牌，上面贴着广告，上面有一个停止标志。 你能避免这样的错误吗？ 只有当你像我们一样了解世界时。

P。 你认为AI能走多远？

R。 我认为我们没有理由不能开发出具有与人类相当的智能的机器。 但要到达那里会非常困难，我们离它还很远。 在 20 世纪 70 年代，人们认为当机器能够达到大师水平的国际象棋时，它们的智力就可以与人类相媲美。 事实证明并非如此。 然后据说当他们能够翻译文本或保持对话时。 这也没有发生。 人工智能的整个历史表明，我们对生命和智能的直觉常常是错误的，现实中一切都比我们想象的要复杂得多。 我认为这种情况将会持续下去。 我们将更多地了解聪明的真正含义。

说人工智能系统可能会失控并毁灭我们，至少是一种极不可能的推测。

P。 那么这一切都是值得的。

R。 人工智能的目标之一是帮助理解我们所说的智能的含义。 而且，当尝试在机器上实现它时，我们经常意识到它确实包含许多我们没有考虑到的元素。

P。 一些人工智能先驱， 饰 杰弗里·辛顿，相信这项技术会变得难以控制。 你怎么认为？

R。 人工智能带来多种危险。 可用于生产 错误信息和 深度造假。 存在算法偏差，就像我在面部识别案例中提到的那样。 辛顿和其他人更进一步说，这些系统可能会失控并摧毁我们。 至少可以说，这种说法是极不可能的，而且是推测性的。 如果我们开发一个超级智能系统，我怀疑它不会关心我们的价值观，就像杀死所有人类是不对的。 如此多地关注人类生存威胁这一戏剧性的想法只会转移人们对当前真正重要的事情的注意力。

P。 您认为作为一个社会，我们是否正在充分应对我们今天面临的这些威胁？

R。 是的，尽管立法总是很难跟上创新的步伐。 欧盟已迈出第一步 欧洲人工智能法规。 我们在美国看到的一件事是 版权诉讼。 所有这些系统都经过大量文本和图像的训练。 如果您没有付费使用，我们是否面临版权侵权？ 该法律尚不清楚，因为它是在这项技术发展之前很久就颁布的。 我们将看看这个问题是如何解决的。

神经科学家不了解大脑如何工作，并通过实验来试图理解他们所看到的东西。 这就是生成式人工智能现在正在发生的事情

P。 你最近见过的最令人印象深刻的人工智能应用是什么？

R。 最让我兴奋的是这些系统在科学问题上的应用。 例如，DeepMind 正在致力于使用人工智能来预测蛋白质的结构。 它还被用于开发新材料和药物。 我们正处于一个新的科学时代，也许与计算机的到来所开创的时代一样重要。

P。 他在书中表示，那些校准深度学习系统（最先进的人工智能技术）的人看起来像是炼金术士而不是科学家，因为他们在不确切知道自己在做什么的情况下调整机器中的参数。

R。 这本书写完后不久，人们就开始谈论工程工程师。 提示 [las instrucciones que se le da las herramientas de IA generativa]。 您的工作是尽力使系统尽可能良好地运行。 事实证明，有人通过这项工作赚了很多钱。 这是纯粹的炼金术，背后没有任何科学依据。 这只是尝试一些事情。 有些有效，有些无效，我们不知道为什么。

P。 具有讽刺意味的是，那些试图优化人类历史上最复杂技术之一的人却是盲目地这样做。

R。 从某种意义上说，这些系统是黑匣子。 它们是系统 软件 它们非常复杂，没有经过明确的编程来执行某些操作，但经过了训练，从数据中学习，没有人能弄清楚它们为什么会这样工作。 神经科学家也不了解大脑是如何工作的，他们通过实验来试图理解他们所看到的东西。 这就是生成式人工智能现在正在发生的事情。

您可以关注 EL PAÍS 技术 在 Facebook y X 或在这里注册以接收我们的 时事通讯。

_