担心五角大楼“在地下室建造杀手机器人”带来了更严格的人工智能规则
一位高级官员表示，由于围绕人工智能武器的未来挥之不去的恐惧和困惑，五角大楼最近更新了一项已有十年历史的政策，以向人们保证它不会“在地下室建造杀手机器人”。 这位官员最近表示，相对较新的国防部指令对大多数自主武器的开发和批准增加了更严格的审查程序，这是一项“善治”举措。 但随着人工智能在军事领域的蓬勃发展，不仅在美国，而且在中国和其他地方，国际社会都面临着检查的压力。 该技术的使用和功能正在不断增长。 去年， 国防部更新了指令 关于武器系统自主性的文章最初于 2012 年发表。国防部副部长凯瑟琳·基克斯 (Kathleen Kicks) 博士表示，这一变化归因于“我们周围技术的巨大进步”，反映出人工智能在人工智能领域的巨大而快速的发展。过去十年。 也许国防部关于人工智能的指令最大的变化是纳入了一项高级审查政策，该政策要求“自主武器系统，包括具有自主和半自主操作模式的武器系统”得到许多高级国防官员的批准在开发开始之前以及在任何技术投入使用之前再次进行。 空军军士长。 2023 年 11 月 6 日，多米尼克·加西亚 (Dominic Garcia) 在路易斯安那州巴克斯代尔空军基地观察队友通过远程控制训练操作机器狗 Atom。 空军高级飞行员威廉·皮尤 该指令的修订增加了更严格的规则，符合国防部在武器系统中开发人工智能方面更为谨慎的一些措辞。 据负责部队发展和新兴能力的国防部副助理部长迈克尔·C·霍洛维茨 (Michael C. Horowitz) 博士称，它还有助于澄清围绕五角大楼人工智能和军事应用意图的一些困惑。 在战略与国际研究中心 (CSIS) 瓦德瓦尼人工智能和先进技术中心小组上 国防部人工智能和自治政策的现状 本月早些时候，霍洛维茨表示，修订该指令的目标“坦率地说主要是一项良好的治理举措”。 霍洛维茨解释说：“我们最终陷入了这样的境地：在部门之外，利益团体认为国防部可能正在地下室建造杀手机器人。” “在部门内部，”他继续说道，“对该指令的实际内容存在很多困惑，有些人实际上认为该指令禁止开发具有特定特征甚至一般特征的自主武器。” 因此，新指令明确了国防部关于人工智能武器开发的政策“什么是允许的，什么是不允许的”。 地下室里可能没有杀手机器人，但军方正在积极寻求人工智能的一席之地。 2020 年 10 月 19 日，在夏威夷群岛周围的一次旨在测试和评估美国战略司令部远征后勤的战术、技术和程序并增强战略力量的战备状态。 海军一等士 Devin M. Langer 该指令现在明确表示，任何不属于特定豁免类别的自主武器系统（例如霍洛维茨所说的“保护美国基地免受大量同时导弹袭击”的技术）都必须经过审查高级审查流程高于所有其他测试和评估要求。 根据政策，该流程包括多名副国防部长以及参谋长联席会议副主席。 “这是一个巨大的官僚主义提升，”霍洛维茨说。 此举反映出美国在开发人工智能武器系统方面日益增长的兴趣和进展。 从乌克兰正在进行的战争中我们学到了很多东西，无人机已成为战场上的主导因素，而自主性是关键追求。 […]