CISA 牵头开展桌面演习，重点关注遭受黑客攻击的人工智能

网络安全和基础设施安全局表示，上周在位于弗吉尼亚州雷斯顿的微软工厂的联合网络防御合作组织的协调下，与私营部门举行的首次桌面会议支持制定跨部门人工智能安全事件合作手册，该手册将于年底前发布。

为何重要

该机构在 6 月 14 日的一份声明中表示，JCDC 内部的一项专门规划工作，即 CISA 的公私合作伙伴关系模式，推动人工智能提供商、安全供应商和关键基础设施所有者和运营商之间的准备合作，解决国家关键基础设施中人工智能系统的风险、威胁、漏洞和缓解措施。

超过 50 个组织参加了最近为时四小时的准备演习，分享了他们安全采用人工智能来保护关键基础设施免受新出现威胁并实践协作响应的策略。

HiddenLayer 首席执行官兼联合创始人 Chris Sestito 表示：“在受控环境中模拟针对人工智能系统的对抗性威胁是一个非常宝贵的训练场，可以让安全团队了解当今存在的漏洞和威胁。”

其他参加会议的科技公司包括亚马逊网络服务、思科、IBM、微软、NVIDIA、OpenAI、Palantir、Palo Alto Networks、Protect AI 等领先供应商。此外，还有联邦调查局、国家安全局、国家情报总监办公室、国防部和司法部。

伊斯特利在声明中表示：“这次演习标志着我们朝着降低人工智能带来的风险的共同承诺又迈出了一步。”

Palo Alto Networks 公共政策和政府事务副总裁 Sandy Reback 补充道：“随着人工智能的应用不断扩大，我们看到网络威胁环境的复杂性也随之增长。”

“在此类关键演习上进行公私合作将更好地保护我们的数字生活方式。”

美国联邦调查局网络部门助理主任布莱恩·沃恩德兰 (Bryan Vorndran) 表示，这次演习体现了该机构对合作伙伴关系的承诺。

CISA 表示，在开发 AI 产品时需要采用安全设计方法，这也是除事件响应协作和桌面演习实践之外的一个重要主题。

OpenAI 安全主管马特·奈特 (Matt Knight) 在声明中承认：“这些合作有利于我们安全地开发和部署人工智能技术的努力。”

JCDC 计划于 2024 年进行第二次演习，该演习将纳入美国关键基础设施中与系统集成商相关的漏洞，以便在将 AI 技术应用到现有系统时实现互操作性。AI 集成商帮助组织采用 AI 并创建更大的 AI 系统。

IBM X-Force 全球合作伙伴兼负责人 Troy Bettencourt 在该机构公告中指出：“随着关键基础设施面临日益严重的攻击和人工智能威胁的增加，早期准备和常规测试比以往任何时候都更加重要，以减少任何附带损害。”

该机构表示，《人工智能安全事件协作手册》将于今年年底在 CISA 与私营部门的桌面演习中推出，旨在促进政府、行业和全球合作伙伴之间的人工智能安全事件响应协调工作。

思科负责安全和信任的奥马尔·桑托斯 (Omar Santos) 称该剧本是“一项急需的举措”，它“将成为业界同行和全球合作伙伴协调人工智能安全事件的重要资源”。

大趋势

作为两年前启动的使命的一部分，JCDC 表示正在努力降低人工智能相关威胁和漏洞对关键基础设施提供商的影响。 网站。

新兴技术始终为桌面演习提供了成熟的机会，专家们一致认为，在保护关键基础设施时，政府是关键的合作伙伴。

“有法律定义了这种关系，特别是《国防授权法案》。该法案规定了联邦政府通过行业风险管理机构与关键基础设施部门之间的关系。 [critical infrastructure]” Intermountain Health 首席信息安全官兼 HHS 405(d) 任务组联合主席 Erik Decker 在与医疗机构分享医疗服务提供者与组织网络安全桌面练习技巧时指出。 医疗保健 IT 新闻。

记录在案

Knight 在一份声明中表示：“在 OpenAI，我们坚信安全是一项团队运动。它依靠合作而蓬勃发展，并从透明度中受益匪浅。这项举措不仅加强了我们的防御能力，而且还培育了一个致力于集体安全进步的社区，其中包括认识到使用人工智能工具进行网络防御的好处。”

微软公司副总裁兼首席网络安全顾问 Bret Arsenault 补充道：“当我们进入新的人工智能领域时，安全至关重要，与行业和政府合作伙伴的合作对于制定有效且协调的安全事件应对措施至关重要。”

“练习响应场景和模拟，例如今天以人工智能为重点的桌面演习，可以推动学习和共享，这将有助于全面增强网络弹性。”

Andrea Fox 是医疗保健 IT 新闻的高级编辑。
电子邮件: [email protected]
医疗保健 IT 新闻是 HIMSS 媒体出版物。

HIMSS 医疗保健人工智能论坛计划于 9 月 5 日至 6 日在波士顿举行。 了解详细信息并注册。