CHAI 发布负责任的人工智能框架，征求公众意见

健康人工智能联盟发布了负责任地开发和部署医疗保健人工智能的框架草案。

CHAI 表示，该框架由一份标准指南和一系列清单组成，经过两年多的开发，旨在满足对共识标准和实用指导的迫切需求，以确保医疗保健领域的人工智能惠及所有人群，包括来自服务不足和代表性不足的社区的群体。

现在开放 60 天的公开审查和评论期。

为何重要

CHAI 于 2021 年 12 月启动，此前曾于 2023 年 4 月发布了可信 AI 蓝图，这是来自领先的学术医疗中心、区域卫生系统、患者倡导者、联邦机构和其他医疗保健和技术利益相关者的专家基于共识的努力。

CHAI 在周三的公告中表示，新指南将蓝图中的原则与联邦机构的指导相结合，而清单则提供了在日常运营过程中应用保证标准的可行步骤。

从功能上看，《保证标准指南》概述了行业认可的医疗保健领域人工智能部署标准，而保证报告清单可以帮助识别用例、开发医疗保健人工智能产品，然后部署和监控它们。

CHAI 表示，这些文件设计的基本原则符合美国国家医学院的《人工智能行为准则》、白宫的《人工智能权利法案》蓝图、美国国家标准与技术研究所的若干框架，以及美国卫生与公众服务管理局的《战略防范与应对网络安全框架》。

CHAI 首席执行官 Brian Anderson 博士强调了公众审查和评论期的重要性，以帮助确保人工智能的有效、实用、安全、公平和公正。

他在一份声明中表示：“这一举措将表明，整个健康生态系统基于共识的方法既可以支持医疗保健领域的创新，又可以建立人工智能可以为我们所有人服务的信任。”

该指南将提供一种通用语言和对健康人工智能生命周期的理解，并探索在医疗保健工作流程中设计、开发和部署人工智能的最佳实践，而草案清单则有助于在整个生命周期内对健康人工智能解决方案进行独立审查，以确保它们有效、有效、安全并最大限度地减少偏见。

该框架提出了六个用例来展示注意事项和最佳实践：

1. 预测 EHR 风险（儿童哮喘恶化）
2. 影像诊断（乳房X光检查）
3. 生成式人工智能（EHR 查询和提取）
4. 理赔门诊（护理管理）
5. 临床操作和管理（需事先获得医疗编码授权）
6. 基因组学（利用基因组标记进行精准肿瘤学）

CHAI 指出，公开报告清单的应用结果将确保透明度。

该联盟的编辑委员会审查了该指南和清单，并于五月在斯坦福大学的一次公开论坛上进行了展示。

CHAI 的一位参与者、拉丁裔癌症研究所的创始人兼执行董事 Ysabel Duron 在一份声明中表示，需要多元化和多部门患者声音的合作和参与，以“防止偏见、歧视和意外的有害结果”。

她在 CHAI 的声明中表示：“人工智能可以成为克服障碍、缩小拉丁裔患者和医疗专业人员在医疗服务方面的差距的有力工具，但如果我们不参与其中，它也可能会造成危害。”

大趋势

上个月，美国众议院能源和商业卫生小组委员会在美国食品药品管理局对医疗器械和其他生物制品的监管听证会上首次讨论了这一问题，现在越来越多的立法者向 FDA 和医疗保险和医疗补助服务中心询问有关他们对医疗保健 AI 的使用和监督的问题。

小山 周二报道称，众议院和参议院有 50 多名议员 呼吁加强监督 人工智能在医疗保险优势覆盖决策中的应用，同时 统计 称收到了共和党人的来信 批评 FDA 与 CHAI 的合作关系。

爱荷华州共和党众议员玛丽安内特·简·米勒-米克斯 (Mariannette Jane Miller-Meeks) 博士在 5 月 22 日的听证会上询问 FDA 是否会将 AI 认证外包给 CHAI，她表示 CHAI 组织不够多元化，并且“明显有试图进行监管俘获的迹象”。

“它没有通过气味测试，”她说。

设备和放射健康中心主任 Jeff Shuren 博士告诉 Miller-Meeks，CDRH 作为联邦联络人与 CHAI 和其他 AI 行业联盟进行接触，但不会让该组织参与申请审查。

Shuren 补充道：“我们也告诉 CHAI，他们需要在医疗科技领域有更多的代表性。”

记录在案

CHAI 联合创始人兼董事会成员、斯坦福医疗保健首席数据科学家 Nigam Shah 博士在一份声明中表示：“量化 AI 算法有效性的共享方法将有助于确保我们能够充分发挥 AI 对患者和医疗系统的潜力。”“该指南代表了我们 2,500 多名 CHAI 社区成员的集体共识，其中包括患者倡导者、临床医生和技术人员。”

Andrea Fox 是医疗 IT 新闻的高级编辑。
电子邮件: [email protected]
医疗保健 IT 新闻是 HIMSS 媒体出版物。

HIMSS 医疗保健人工智能论坛计划于 9 月 5 日至 6 日 在 波士顿。 了解详细信息并注册。