美国国家安全局警告称，美国对手自由挖掘私人数据可能拥有人工智能优势

电气工程师吉尔伯特·埃雷拉 (Gilbert Herrera) 于 2021 年底被任命为美国国家安全局研究主任， 人工智能革命正在酝酿 在美国科技行业内部。

美国国家安全局有时被戏称为“No Such Agency”的缩写，长期以来一直聘请顶尖的数学和计算机科学人才。 其技术领导者是先进计算和人工智能的早期和狂热用户。 然而，当埃雷拉在马里兰州米德堡的 NSA 总部通过电话与我谈论最新人工智能热潮的影响时，似乎该机构和其他许多人一样，对背后的大型语言模型最近取得的成功感到震惊 聊天GPT 等热门人工智能产品。 为了清晰和长度，对话经过了轻微编辑。

ChatGPT 时刻给 NSA 带来了多大的惊喜？

哦，我以为你的第一个问题是“国家安全局从约柜中学到了什么？” 从 1939 年左右开始，这种情况就反复出现。我很想告诉你，但我不能。

我认为每个人都从 ChatGPT 时刻学到的是，如果你向人工智能投入足够的数据和足够的计算资源，这些新兴属性就会出现。

美国国家安全局确实将人工智能视为利用自动化通过计算执行任务的悠久历史的前沿。 长期以来，人工智能一直被视为我们可以更智能、更快速、大规模运营的方式。 因此，20 多年来，我们一直致力于实现这一时刻的研究。

大型语言模型早在生成预训练 (GPT) 模型之前就已存在。 但是这个“ChatGPT 时刻”——一旦你可以要求它写一个笑话，或者一旦你可以参与对话——这确实将它与我们和其他人所做的其他工作区分开来。

美国国家安全局及其美国盟友的同行有时会先于其他人开发出重要技术，但会保密，例如 20 世纪 70 年代的公钥密码学。 大型语言模型是否也会发生同样的情况？

在国家安全局，我们无法创建这些大型变压器模型，因为我们无法使用这些数据。 我们不能使用美国公民的数据。 另一件事是预算。 我听了一个播客，其中有人分享了微软的财报电话会议，他们说他们每季度在平台成本上花费 100 亿美元。 [The total US intelligence budget in 2023 was $100 billion.]

确实需要有足够的钱来进行数百亿的资本投资和 [who] 能够访问能够产生这些新兴属性的数据。 所以这确实是超大规模者 [largest cloud companies] 政府可能不关心个人隐私，不必遵守个人隐私法，也不存在窃取数据的问题。 至于那个人是谁，我就留给你们自己想象吧。

这是否会让美国国家安全局和美国在情报收集和处理方面处于不利地位？

我会稍微反驳一下：这并不会让我们处于很大的劣势。 我们需要解决这个问题，我会解决这个问题。

对于我们处理民族国家目标的责任来说，这并不是一个巨大的劣势。 如果你看看其他应用程序，可能会让我们一些处理国内情报的同事感到更加困难。 但情报界需要找到一条使用商业语言模型并尊重隐私和个人自由的途径。 [The NSA is prohibited from collecting domestic intelligence, although multiple whistleblowers have warned that it does scoop up US data.]