一位高级官员表示，由于围绕人工智能武器的未来挥之不去的恐惧和困惑，五角大楼最近更新了一项已有十年历史的政策，以向人们保证它不会“在地下室建造杀手机器人”。
这位官员最近表示，相对较新的国防部指令对大多数自主武器的开发和批准增加了更严格的审查程序，这是一项“善治”举措。 但随着人工智能在军事领域的蓬勃发展，不仅在美国，而且在中国和其他地方，国际社会都面临着检查的压力。 该技术的使用和功能正在不断增长。
去年， 国防部更新了指令 关于武器系统自主性的文章最初于 2012 年发表。国防部副部长凯瑟琳·基克斯 (Kathleen Kicks) 博士表示，这一变化归因于“我们周围技术的巨大进步”，反映出人工智能在人工智能领域的巨大而快速的发展。过去十年。
也许国防部关于人工智能的指令最大的变化是纳入了一项高级审查政策，该政策要求“自主武器系统，包括具有自主和半自主操作模式的武器系统”得到许多高级国防官员的批准在开发开始之前以及在任何技术投入使用之前再次进行。
空军军士长。 2023 年 11 月 6 日，多米尼克·加西亚 (Dominic Garcia) 在路易斯安那州巴克斯代尔空军基地观察队友通过远程控制训练操作机器狗 Atom。
空军高级飞行员威廉·皮尤
该指令的修订增加了更严格的规则，符合国防部在武器系统中开发人工智能方面更为谨慎的一些措辞。 据负责部队发展和新兴能力的国防部副助理部长迈克尔·C·霍洛维茨 (Michael C. Horowitz) 博士称，它还有助于澄清围绕五角大楼人工智能和军事应用意图的一些困惑。
在战略与国际研究中心 (CSIS) 瓦德瓦尼人工智能和先进技术中心小组上 国防部人工智能和自治政策的现状 本月早些时候，霍洛维茨表示，修订该指令的目标“坦率地说主要是一项良好的治理举措”。
霍洛维茨解释说：“我们最终陷入了这样的境地：在部门之外，利益团体认为国防部可能正在地下室建造杀手机器人。”
“在部门内部，”他继续说道，“对该指令的实际内容存在很多困惑，有些人实际上认为该指令禁止开发具有特定特征甚至一般特征的自主武器。”
因此，新指令明确了国防部关于人工智能武器开发的政策“什么是允许的，什么是不允许的”。 地下室里可能没有杀手机器人，但军方正在积极寻求人工智能的一席之地。
2020 年 10 月 19 日，在夏威夷群岛周围的一次旨在测试和评估美国战略司令部远征后勤的战术、技术和程序并增强战略力量的战备状态。
海军一等士 Devin M. Langer
该指令现在明确表示，任何不属于特定豁免类别的自主武器系统（例如霍洛维茨所说的“保护美国基地免受大量同时导弹袭击”的技术）都必须经过审查高级审查流程高于所有其他测试和评估要求。
根据政策，该流程包括多名副国防部长以及参谋长联席会议副主席。
“这是一个巨大的官僚主义提升，”霍洛维茨说。
此举反映出美国在开发人工智能武器系统方面日益增长的兴趣和进展。 从乌克兰正在进行的战争中我们学到了很多东西，无人机已成为战场上的主导因素，而自主性是关键追求。
第一人称视角无人机追击士兵或将有效载荷扔进毫无戒心的坦克的故事凸显了 熟练的无人机操作员的重要性日益增加。 这些故事常常与对电子战的担忧联系在一起，这些担忧可能会影响电子战的能力。 容易干扰或干扰无人机。
这些案例引发了人们对无人机自主性作用的质疑，特别是当操作员与其无人机之间的连接可以如此轻易地切断时。 人们还担心人类操作员需要如何参与该过程。 这种讨论已经远远超出了无人机的范围，特别是当美国和其他国家的军队已经 想得更大，关于诸如此类的事情 无人战斗机, 军舰， 和 更多的。
2020 年 11 月 10 日，飞行员在佛罗里达州廷德尔空军基地观看无人驾驶地面车辆的测试。
空军一等飞行员蒂芙尼·普莱斯
随着美国和其他主要大国在人工智能方面处于领先地位，它们也可能有助于开启一个新的战争时代，这一时代引起了其他国家的担忧，特别是考虑到“杀手机器人“以及几年前发生的事件，当时 无人机失控了 并在没有指示的情况下追捕人类目标。
最近，有报道称以色列使用 人工智能寻找哈马斯目标，提出了一些问题。
去年秋天，联合国就限制人工智能如何以及何时在战场上做出决策展开了争论。 许多官员对人工智能是否能够在未经人类授权的情况下决定杀死人类目标表示担忧。
美国、俄罗斯、澳大利亚和以色列当时都认为没有必要制定新的国际法规， 《纽约时报》报道。 然而，其他国家曾希望利用联合国作为平台来提出限制措施并限制自主武器的运作方式。
据《泰晤士报》报道，巴基斯坦大使哈利勒·哈希米在联合国总部举行的一次会议上表示，“自满似乎不再是一种选择”。 “当我们为技术突破做准备时，采取行动的机会之窗正在迅速缩小。”
除了五角大楼的限制之外，军方正在追求自主性和人工智能。 例如，在八月，希克斯 说 美国国防部希望“在未来 18 到 24 个月内，在多个领域部署数千个规模的可消耗自主系统”，这是与中国的一项惊人努力，因为中国也需要人工智能武器和系统。
