中央情报局首席技术专家对生成式人工智能持谨慎态度

知识优势可以拯救生命、赢得战争、避免灾难。 在中央情报局，基本的人工智能——机器学习和算法——长期以来一直服务于这一使命。 现在，生成式人工智能也加入了这一努力。

中央情报局局长威廉·伯恩斯表示，人工智能技术将增强人类，而不是取代人类。 该机构的第一任首席技术官 Nand Mulchandani 正在整理这些工具。 这是相当紧迫的：对手已经在传播人工智能生成的深度伪造品，旨在损害美国的利益。

Mulchandani 曾是硅谷的首席执行官，曾领导过成功的初创公司，在五角大楼联合人工智能中心工作了一段时间后，他于 2022 年被任命为该职位。

他负责监督的项目包括：类似 ChatGPT 的生成人工智能应用程序，该应用程序利用开源数据（即非机密、公开或商业可用的数据）。 美国情报界 18 个机构的数千名分析师都在使用它。 不出所料，其他使用大语言模型的中央情报局项目都是秘密的。

美联社对 Mulchandani 的采访为了篇幅和清晰度进行了编辑。

问：您最近说生成式人工智能应该被视为“疯狂、喝醉的朋友”。 你能详细说明一下吗？

答：当这些生成式人工智能系统产生“幻觉”时，它们有时会表现得像你在酒吧喝醉的朋友一样，他会说一些让你超出正常概念界限并激发创造性思维的事情。 请记住，这些基于人工智能的系统本质上是概率性的，因此它们并不精确（它们很容易被伪造）。 因此，对于艺术、诗歌和绘画等创造性任务来说，这些系统非常出色。 但我还不会使用这些系统进行精确的数学计算或设计飞机或摩天大楼 – 在这些活动中“足够接近”是行不通的。 他们也可能存在偏见和狭隘，我称之为“兔子洞”问题。

问：据我所知，目前 CIA 唯一在企业规模使用大型语言模型是开源人工智能，名为 Osiris，它是为整个情报界创建的。 那是对的吗？

答：这是我们唯一公开披露的。 这对我们来说绝对是一次本垒打。 不过，我们应该将讨论范围扩大到法学硕士之外——例如，我们处理包括视频在内的多种媒体类型的大量外语内容，并使用其他人工智能算法和工具来处理这些内容。

问：特别竞争研究项目是一个专注于国家安全领域人工智能的高级咨询小组，该项目发布了一份报告，称鉴于生成式人工智能的颠覆性潜力，美国情报部门必须迅速整合生成式人工智能。 它设定了两年的时间表，以超越实验和有限的试点项目，并“大规模部署通用人工智能工具”。 你同意？

故事还在继续

答：中央情报局 (CIA) 100% 致力于利用这些技术并扩展它们。 我们正在认真对待这一问题，就像我们正在认真对待任何技术问题一样。 我们认为我们已经大大超出了最初的时间表，因为我们已经在生产中使用了 Gen AI 工具。 更深层的答案是，我们正处于大量额外更改的早期阶段，其中很大一部分工作是将技术更广泛地集成到我们的应用程序和系统中。 现在还处于早期阶段。

问：您能说出您的大语言模型合作伙伴的名字吗？

答：我不确定现在命名供应商是否有趣。 现在市场上的法学硕士数量激增。 作为一个聪明的客户，我们不会将我们的船与一组特定的法学硕士或一组特定的供应商联系起来。 我们正在评估和使用几乎所有领先的法学硕士，包括商业级和开源的。 我们并不将法学硕士市场视为单一实验室，即单个实验室优于其他实验室的市场。 正如您在市场上注意到的那样，每个新版本的型号都在相互超越。

问： CIA 对于大语言模型最重要的用例是什么？

答：主要是总结。 中央情报局的开源分析师不可能消化我们每天收集的媒体和其他信息。 因此，这对于洞察情绪和全球趋势来说是一个游戏规则改变者。 然后分析师会深入研究细节。 他们必须能够完全确定地注释和解释他们引用的数据以及他们如何得出结论。 我们的贸易技术没有改变。 这些额外的内容为分析师提供了更广阔的视角——包括我们收集的机密和开源内容。

问：该机构采用生成式人工智能的最大挑战是什么？

答：内部没有太多的文化阻力。 我们的员工每天都在与人工智能打交道。 显然，全世界都在关注这些新技术和惊人的生产力提升。 诀窍在于解决我们对信息划分和系统构建方式的限制。 在许多情况下，数据分离不是出于安全原因，而是出于法律原因。 我们如何有效地连接系统以获得人工智能的好处，同时保持所有这些完好无损？ 一些非常有趣的技术正在出现，可以帮助我们思考这个问题，并以维护加密和隐私控制的方式组合数据。

问：生成式人工智能目前的水平与小学生一样复杂。 相比之下，情报工作是成年人的事。 这一切都是为了试图识破对手的欺骗。 Gen AI 如何融入这项工作？

答：首先，我们要强调的是，人类分析师具有首要地位。 我们拥有各自领域的世界领先专家。 在许多传入信息的情况下，需要大量的人类判断来权衡其重要性和重要性——包括可能提供信息的个人。 我们没有机器可以复制这些。 我们并不是在寻找计算机来完成领域专家的工作。

我们现在看到的是副驾驶模型。 我们认为 Gen AI 可以在头脑风暴、提出新想法方面产生巨大影响。 以及提高生产力和洞察力。 我们必须对如何做到这一点非常确定，因为如果运用得当，这些算法将成为一股向善的力量。 但如果使用不当，它们真的会伤害你。