该非营利组织与梅奥合作提高人工智能透明度

学术医院和技术公司是一家非营利组织的一部分，该非营利组织正着手在全国范围内建立一个实验室网络，以测试医疗保健人工智能工具。

这项事业由 健康人工智能联盟是一个由人工智能和数据科学领域的学术健康系统、组织和专家从业者组成的社区，将在明尼苏达州罗彻斯特的梅奥诊所、​​北卡罗来纳州达勒姆的杜克大学和其他组织等机构建立实验室，以确保平衡和适当的评估人工智能模型在被广泛采用之前的研究。

CHAI 联合创始人、医学博士 Brian Anderson 表示：“我们打算做的是支持开发一套由社区共识驱动的标准和测试框架。” 贝克尔的。 “然后，这些 CHAI 认可的保证实验室将使用该测试框架，以确保采用适当的框架来评估人工智能模型的公平性、性能、安全性和透明度。”

例如，模型将在这些保证实验室接受审查，提供全面的评估。 初始阶段涉及在销售或部署之前的开发和销售阶段测试模型。 安德森博士表示，这种早期评估可确保模型符合既定的标准和要求。

随着模型进入医疗保健系统内的部署阶段，将需要考虑更多因素。

安德森博士说，除了安全性、有效性、准确性和公平性等传统绩效指标之外，还迫切需要进行可用性评估。 这涉及评估模型如何集成到医疗保健系统的 EHR 中，包括按钮配置、警报时间以及患者与医生互动期间的上下文考虑等因素。

随着时间的推移，模​​型也会发生变化和漂移，影响其整体性能和准确性，因此保证实验室将在通过仪表板和评估定期监控这些模型方面发挥关键作用。

这种外部验证可确保人工智能工具在集成到医疗保健系统中时满足性能、公平性和透明度的最高标准。

这些保证实验室测试的结果（安德森博士称之为“报告卡”）将在国家登记处公开发布，以提供模型性能的完全透明度，使患者、医疗机构和社会能够了解这些模型的运行情况执行情况以及部署地点。

他说：“如果您是某个特定卫生系统的患者，并且您看到该卫生系统部署了该模型，那么您就可以与您的提供者进行知情对话，了解他们可能如何使用该模型。” 。 “了解是否应该使用它的适当性。因此，我们希望让患者能够进行这些对话。”

安德森博士表示，这些实验室目前已经在梅奥的带领下建立起来。

安德森博士表示，他预计到今年年底，至少会有六个（如果不是十几个）实验室建成。

CHAI 与梅奥诊所和微软等科技公司作为主要参与者的合作，代表了医疗保健组织对确保人工智能在医疗保健中负责任地开发和部署的巨大需求。

“像 FDA 这样的组织认识到这些实验室的需求，”梅奥诊所平台监管策略和合规经理 Brenton Hill 告诉我们 贝克尔的。 “我们认为这将有助于负责任的人工智能。”