政策制定者试图赶上人工智能在医疗保健领域的崛起

华盛顿的立法者和监管机构开始困惑如何监管医疗保健领域的人工智能——人工智能行业认为他们很可能会把事情搞砸。

“这是一个令人难以置信的令人畏惧的问题，”说 罗伯特·瓦赫特博士，加州大学旧金山分校医学系主任。 “我们存在着枪支泛滥和过度监管的风险。”

人工智能对医疗保健的影响已经很广泛。 美国食品药品监督管理局 已批准 692个人工智能产品。 算法可以帮助安排患者、确定急诊室的人员配备水平，甚至记录和总结临床就诊以节省医生的时间。 他们开始帮助放射科医生 阅读 MRI 和 X 射线。 沃切特说，他有时会非正式地查阅 GPT-4，来自公司的一个大语言模型 开放人工智能，对于复杂的情况。

人工智能影响的范围以及未来变化的潜力意味着政府已经在迎头赶上。

“政策制定者严重落后于时代” 迈克尔·杨风险投资公司 OMERS Ventures 的高级管理合伙人在一封电子邮件中表示。 杨的同行在该领域进行了大量投资。 岩石健康风险投资公司表示，金融家已向专门从事人工智能的数字健康公司投资了近 280 亿美元。

沃赫特说，监管机构正在努力解决的一个问题是，与药物不同，五年后药物的化学成分将与今天相同，人工智能会随着时间的推移而发生变化。 但治理正在形成，白宫和多个以健康为重点的机构正在制定规则以确保透明度和隐私。 国会也表现出兴趣； 参议院财政委员会上周举行了关于医疗保健领域人工智能的听证会。

随着监管和立法的增加，游说活动也随之增加。 美国全国广播公司财经频道 激增 185% 2023 年披露人工智能游说活动的组织数量。贸易组织 技术网 推出了一项耗资 2500 万美元的计划，其中包括购买电视广告，以教育观众了解人工智能的好处。

“由于我们还处于这项技术发明阶段的早期，所以很难知道如何巧妙地监管人工智能。” 鲍勃·科赫曾在奥巴马政府任职的风险投资公司 Venrock 合伙人在一封电子邮件中表示。

科赫曾与参议员讨论人工智能监管问题。 他强调了医疗保健系统在采用这些产品时将面临的一些困难。 面临医疗事故风险的医生可能会对使用他们不理解的技术做出临床决策持谨慎态度。

咨询公司凯投宏观对 1 月份人口普查局数据进行的分析发现，6.1% 的医疗保健企业计划在未来六个月内使用人工智能，大致位于接受调查的 14 个行业的中间。

与任何医疗产品一样，人工智能系统可能会给患者带来风险，有时是以一种新颖的方式。 举个例子：他们可能 弥补。

Wachter 回忆起一位同事，作为一项测试，他指定 OpenAI 的 GPT-3 向一家保险公司写一份事先授权书，以开出一种故意“古怪”的处方：一种治疗患者失眠的血液稀释剂。

但人工智能“写下了美丽的音符”，他说。 该系统如此令人信服地引用了“最新文献”，以至于沃赫特的同事短暂地怀疑她是否错过了一项新的研究。 事实证明，聊天机器人的说法是捏造的。

人工智能存在风险 放大偏差 已经存在于医疗保健系统中。 从历史上看，有色人种接受的护理比白人患者少。 例如，研究表明，骨折的黑人患者比白人患者更不可能获得止痛药。 如果人工智能根据这些数据进行训练并随后对其采取行动，这种偏见可能会根深蒂固。

人工智能研究 由大型保险公司部署 已经证实这件事已经发生了。 但这个问题更为普遍。 瓦赫特说，加州大学旧金山分校测试了一种产品来预测临床预约缺席情况。 那些被认为不太可能出现就诊的患者更有可能被重复预约。

测试表明，有色人种更有可能不露面。 沃切特说，无论这一发现是否准确，“合乎道德的反应是问为什么会这样，以及你能做些什么吗？”

抛开炒作不谈，随着时间的推移，这些风险可能会继续引起人们的关注。 人工智能专家和 FDA 官员强调需要透明的算法，并由人类（监管机构和外部研究人员）长期监控。 人工智能产品会随着新数据的融入而适应和变化。 科学家们将开发新产品。

芝加哥大学教务长表示，随着时间的推移，政策制定者将需要投资新系统来跟踪人工智能 凯瑟琳·拜克，他在参议院财政委员会听证会上作证。 “最大的进步是我们还没有想到的，”她在接受采访时说。

KFF健康新闻，以前称为凯撒健康新闻，是一个国家新闻编辑室，制作有关健康问题的深入新闻。