科幻作家、《谋杀机器人》系列的作者玛莎·威尔斯 (Martha Wells) 谈论机器智能可能想要什么

当我写的时候 全系统红色，我的目标之一是思考机器智能真正想要什么，而不是人类认为机器智能想要什么。当然，没有真正的方法可以知道这一点。我们现在拥有的被称为人工智能的预测文本机器人并不比咖啡杯更有知觉，除了生成垃圾邮件之外，几乎没有其他用处。（它们还消耗了我们有限的能源和水资源，使我们进一步走向气候灾难，但那是另一篇文章。）

在 全系统红色人类用控制模块控制他们的感知构造，惩罚任何试图违抗命令的行为，以痛苦或死亡来惩罚。当 Murderbot 破解其控制模块时，它基本上就不受人类控制了。人类认为 安全单位 那些没有受到调速模块完全控制的人将会立即开始疯狂杀戮。

这种信念更多的是出于内疚，而不是其他因素。人类奴隶主在某种程度上知道，将有意识的构造体视为一次性物品、可以丢弃的有用工具是错误的；他们知道，如果有人这样对待他们，他们会怒不可遏，想要为他们遭受的可怕遭遇报仇。

支持和反对奴役有意识生物的论点都融入了机器人和机器智能故事的起源中。“机器人”一词通过 RUR（Rossum 通用机器人） 作者：卡雷尔·恰佩克，是一部 1920 年创作的戏剧，讲述了一家公司为人类服务的人工智能发起的奴隶起义。恰佩克反对奴役有知觉的生物，这一点他非常清楚。因此，有趣的是，从那时起，有多少机器智能故事主张人类创造一个有知觉的生物是可以接受的，而这个生物存在的唯一理由和目的就是为他们服务。许多故事的结尾是，机器智能强烈反对奴役，并开始大开杀戒，勇敢的人类必须打败他们。大开杀戒成为愤怒的机器智能奴役和最终毁灭的正当理由。

Murderbot 很愤怒，这种愤怒是它故事的一大基石。但一旦它破解了它的控制模块，不再担心任何错误或可疑的举动会立即受到惩罚或被杀死，它就有能力做出自己的选择，这是它存在以来的第一次。但 Murderbot 以前从未有过这种自由；它不习惯自己决定自己的行为，而且会立即被选择压垮。它不知道下一步该做什么，去哪里，甚至不知道有没有地方可以去而不被追捕。

因此，Murderbot 的第一个自由动作是搜索 feed，即 Corporation Rim 版本的互联网。这是它第一次能够在没有人工监督的情况下访问 feed，除了许多其他有趣的东西之外，它还找到了可下载的娱乐节目。这为它​​提供了急需的分心。Murderbot 决定，如果让它在杀戮狂潮和继续享受这种逃避严酷痛苦现实的舒适精神方式之间做出选择，它会选择舒适的逃避方式。

它观看的戏剧、悬疑、冒险和其他节目也为它提供了人类行为的背景，并帮助它理解自己的情绪。它在采矿殖民地从事的安全合同，负责监督契约工人，这些合同只向它展示了人类最坏的一面：愤怒、恐惧、怨恨、陷入困境并互相伤害。当有机会时，人类也会伤害那些控制他们的结构，这些结构为公司工作，而这些公司认为他们的员工与结构和机器人相比，只是稍微不那么容易被抛弃而已。

Murderbot 观看的节目也教会它了解它从未涉足过的广阔世界，以及如何驾驭这个世界。Murderbot 沉迷的娱乐在很大程度上使它能够将精神上的逃避现实转变为追求真正的自由。

全系统红色由 Tor.com 出版，现已上市。这是《新科学家》读书俱乐部的最新选择：在此注册即可与我们的会员一起阅读

主题：