NIH 资助开发用于健康差异研究的人工智能工具

2024 年 4 月 1 日 – 乔治华盛顿大学 (GW) 医学与健康科学学院 (SMHS) 和马里兰大学东海岸分校 (UMES) 授予 美国国立卫生研究院 (NIH) 提供为期两年、价值 839,000 美元的拨款，用于推进人工智能 (AI) 工具的开发，以改善健康公平。

该项目被称为“解决资源贫乏社区健康差距的值得信赖的人工智能”(AI-FOR-U)，专注于设计一种“基于理论的参与式开发方法”，用于构建可以帮助一线医护人员的人工智能工具解决他们所服务的社区中的差异。

在项目期间，研究团队将致力于开发和实施人工智能和机器学习工具，旨在增强风险预测模型的可解释性和公平性。 然后，这些工具将在行为健康、心脏代谢疾病和肿瘤学的背景下进行评估。 从那里，研究人员将衡量用户对这些工具的信任度。

“我们将在工具开发中将理论驱动的社区参与与增强信任算法的应用和测试结合起来，”临床研究和领导力教授、GW 生物医学信息学中心 (BIC) 主任 Qing Zeng 博士解释道。华盛顿特区退伍军人事务医疗中心数据科学成果研究主任在新闻稿中说。 “临床用例结果将由我们的合作伙伴和利益相关者驱动和选择。 在项目准备过程中，一些风险预测模型已成为我们合作伙伴共同的高度优先事项。”

该研究团队将与马里兰州、弗吉尼亚州和华盛顿特区的七个社区合作伙伴合作，为拉丁裔、黑人、LGBTQ+、移民和社会经济地位较低的社区提供服务：亚历山大市（弗吉尼亚州）公立学校、Apple Discount Drugs、华裔美国人组织华盛顿特区、圣伊丽莎白医院、Unity Healthcare、弗吉尼亚州立大学和 Whitman Walker Health。

这些组织将参加社区调查、焦点小组和访谈，以提供有关该项目人工智能工具的反馈。

UMES 学院院长兼教授 T. Sean Vasaitis 博士表示：“人工智能在医疗保健领域的持续实施将对我们治疗患者的方法以及许多紧迫问题的解决方案的开发产生深远的影响。”药学和卫生专业。 “虽然我们认识到这些技术固有的巨大好处的潜力，但我们也明白我们有责任确保人工智能的使用不会增加医疗保健不平等或通过依赖不具代表性的数据集而导致不当的患者护理。 此外，需要提高人工智能用户对人工智能如何以及为何产生响应的理解。 我们需要能够信任答案，并且需要一种方法来判断答案的准确性。 AI-FOR-U 项目旨在通过创建值得信赖的人工智能应用程序来解决这些问题，以满足服务不足和代表性不足人群中医护人员的需求。”

这项工作是人工智能/机器学习联盟促进健康公平和研究人员多样性 (AIM-AHEAD) 和 NIH 牵头的一项更大努力的一部分，旨在解决健康公平背景下值得信赖的人工智能开发问题。

该研究旨在利用 GW 在医疗保健人工智能开发方面的经验和 UMES 在健康差异研究方面的专业知识。

AI-FOR-U 项目启动之际，越来越多的研究表明，许多人工智能模型在非白人群体中表现不佳。

宾夕法尼亚大学费城分校和国家药物滥用研究所 (NIDA) 的研究小组最近 成立 使用个人社交媒体帖子中的语言来预测抑郁症严重程度的人工智能模型可能会很好地推广到美国白人，但不适用于黑人。

该研究的证据表明抑郁症与语言使用相关，并且年龄和性别等人口特征显着影响语言使用。 然而，对语言与抑郁之间的潜在关系以及种族如何影响语言的研究还很有限。

为了解决这个问题，研究人员使用人工智能评估了种族对抑郁-语言关联的影响。 分析结果显示，这些模型在白人参与者身上的表现明显优于黑人参与者，这凸显了需要对抑郁症在不同群体的自然语言表达中的作用进行更多研究。