美国国家安全专家警告称,人工智能巨头没有采取足够措施保护其机密

谷歌, 在公开评论中 在报告发布前向国家电信和信息管理局提交的一份报告中,该公司表示,预计“破坏、降级、欺骗和窃取模型的企图将增多”。但它补充说,其机密由“由具有世界一流专业知识的工程师和研究人员组成的安全、安全和可靠性组织”保护,并且正在制定“一个框架”,该框架将涉及一个专家委员会,以帮助管理对模型及其权重的访问。

像谷歌一样, OpenAI在评论中表示 NTIA 表示,根据具体情况,需要开放和封闭两种模式。OpenAI 开发了 GPT-4 等模型以及基于这些模型构建的服务和应用程序(如 ChatGPT),上周,OpenAI 在其董事会中成立了自己的安全委员会,本周 发布 在其博客上详细介绍了用于训练模型的技术的安全性。该博文表示希望这种透明度能够激励其他实验室采取保护措施。它没有具体说明需要保护秘密不让谁知道。

兰德公司首席执行官杰森·马瑟尼在斯坦福大学与赖斯一同发表讲话时,也表达了对安全漏洞的担忧。马瑟尼表示,美国通过出口管制来限制中国获得强大的计算机芯片,从而阻碍了中国开发商开发自己的模型的能力。他声称,这增加了他们直接窃取人工智能软件的需要。

根据马瑟尼的估计,花费几百万美元进行网络攻击以窃取人工智能模型权重(一家美国公司可能要花费数千亿美元来创建),对中国来说非常值得。“这真的很难,而且非常重要,但我们在全国范围内投入的资金还不够,”马瑟尼说。

中国驻华盛顿特区大使馆没有立即回应《连线》对盗窃指控发表评论的请求,但过去曾表示此类说法是西方官员毫无根据的诽谤。

谷歌表示,它向执法部门通报了 事件 这成为美国指控中国窃取人工智能芯片机密的案件。尽管该公司表示,他们采取了严格的保护措施,以防止其专有数据被盗,但法庭文件显示,谷歌花了相当长的时间才抓获被告丁林伟,丁林伟是一名中国公民,他对联邦指控表示不认罪。

据检察官称,这名工程师,又名莱昂 (Leon),于 2019 年受聘为谷歌的超级计算数据中心开发软件。从 2022 年开始的大约一年时间里,他涉嫌将 500 多份包含机密信息的文件复制到他的个人谷歌账户中。法庭文件称,该计划的部分实施方法是,该员工将信息粘贴到公司笔记本电脑上的 Apple Notes 应用程序中,将文件转换为 PDF,然后上传到其他地方,同时避开谷歌旨在捕捉此类泄露的技术。

美国声称,在涉嫌盗窃期间,该员工与中国一家人工智能初创公司的首席执行官保持联系,并已着手创办自己的中国人工智能公司。如果罪名成立,他将面临最高 10 年的监禁。

Leave a Reply

Your email address will not be published. Required fields are marked *

近期新闻​

编辑精选​