A 皮尤研究中心民意调查 研究发现，如果自己的医疗保健提供者依赖人工智能 (AI) 来诊断疾病并推荐治疗方法，十分之六的美国成年人会感到不舒服。 但现实是人工智能已经进入健康和保健领域，一些医生已经利用了它的力量和潜力。
雅虎新闻采访了麻省理工学院医学工程与科学研究所的助理教授 Marzyeh Ghassemi 和斯坦福大学生物医学数据科学助理教授 James Zou，以了解更多有关人工智能和医疗保健的交叉点——目前可能的情况，即将发生什么以及可能存在哪些缺点。
目前有什么可能？
以下是人工智能目前可以做什么的一些示例。
-
进行诊断和评估。 “[There are] 超过500种医疗AI算法和设备已获得美国FDA批准，可用于患者。 其中很多算法基本上都是在帮助临床医生做出更好的诊断，更好地评估患者，”Zou 说。 通过使用人工智能来帮助完成评估医学图像等任务，临床医生能够减少一些劳动密集型的体力工作。
-
做出预测。 虽然当前许多人工智能模型专注于帮助诊断患者，但 Ghassemi 表示，她还看到一些正在开发的模型可以帮助预测疾病的进展或疾病可能出现的并发症。
-
简化患者的医疗信息。 “很多医学术语和概念可能相当复杂，”邹说。 “我们完成的项目之一是使用 ChatGPT 来获取非常难以阅读的医疗同意书，然后对其进行简化，以便八年级阅读水平的人能够阅读它。 ”
未来AI能做什么？
而且可能还会有更多用途。 这是人工智能未来可能做的事情。
-
整理医疗保健数据。 邹说，一个很大的挑战是来自不同医院的数据，包括电子健康记录，不能轻易交换。 人工智能可以帮助解决这个问题。 “如果你是一名病人，去不同的医院，通常医院之间并不能很好地沟通。 这是人工智能算法（可能是语言模型）可以使这一过程变得更加容易的领域。”
-
预测不良结果。 人工智能还可以帮助识别处于危险中的患者，以便他们尽早获得所需的护理，这有助于降低美国的孕产妇发病率和死亡率“我理想的情况是，如果我们的风险评分能够准确预测潜在的贫困人口为女性带来的成果。 然后我们也许可以提醒护理团队，他们在妇女医疗保健方面做出了错误的选择，或者我们可以在孕妇最需要的时候向她们提供额外的资源，”Ghassemi 说。
-
改善治疗反应预测。 对于抑郁症等慢性疾病，在许多情况下，临床医生可能必须“有根据地猜测”哪种药物或治疗方法最适合个别患者。 加塞米表示，人工智能可以通过考虑体重或性别等限制因素来帮助临床医生做出更好的决策，这些因素可能会影响患者代谢某些药物的方式。
-
开发新药。 “整个流程在早期阶段人工智能可以用来帮助我们发现新药、新分子、新抗生素，”邹说。
人工智能在医疗保健领域的可怕一面
“我认为，危险并不在于它变成了杀手机器人并来攻击你。 危险在于，它会重复你现在已经接受的不良护理，或者加剧这种情况，”加塞米说。
“我们本质上是在训练机器学习系统按照我们的方式行事，而不是按照我们认为的方式或希望的方式去做。 在医疗保健领域，如果你天真地训练机器学习模型来做我们目前所做的事情，你得到的模型对女性和少数族裔来说效果会更差。”
例如，一台人工智能驱动的设备， 高估了深色皮肤患者的血氧水平，造成缺氧（缺氧）治疗不足。 A 2019年研究发现 用于预测一亿多人医疗保健需求的算法对黑人患者存在偏见。 “该算法依靠医疗保健支出来预测未来的健康需求。 但由于历史上获得护理的机会较少，黑人患者的支出往往较少。 因此，根据该算法，黑人患者的病情必须严重得多才能被推荐接受额外护理。”- 报道。
国家饮食失调协会在推出新的人工智能聊天机器人 Tessa 后也成为头条新闻， 建议用户计算卡路里并测量体脂 – 迫使该组织在解雇电话线员工几个月后删除聊天机器人。
“我认为问题在于，当你试图在医疗保健环境中天真地用人工智能取代人类时，你会得到非常糟糕的结果，”加塞米说。 “你应该将其视为增强工具，而不是替代工具。”
我们如何减轻人工智能对健康的潜在危害？
科技行业领导者 发表了一句话声明 五月份表示，“减轻人工智能带来的灭绝风险应该与流行病和核战争等其他社会规模风险一起成为全球优先事项。” 在医疗保健领域，Ghassemi 和 Zou 就可以采取的减少人工智能可能造成的危害的步骤提出了一些建议。
-
保持透明。 邹表示，重要的第一步是更加开放地了解哪些数据用于训练人工智能模型（例如聊天机器人）以及如何评估这些模型。
-
在让患者与算法交互之前，请仔细评估算法。 邹说，患者已经存在在网上获得错误信息的风险，但如果数十万患者来到有问题的聊天机器人等单一来源，风险就会更大。
-
让人工智能系统保持最新状态。 “你需要一个计划来使人工智能系统保持最新状态并与当前的医疗建议相关，因为医疗建议会发生变化，”Ghassemi 说。 “如果你的模型过时并开始向医生提供不正确的建议，这也可能会导致患者受到伤害。”
-
制定法规。 加塞米建议卫生与公众服务部民权办公室可以发挥作用。 “他们可以执行这条禁止医疗保健领域歧视的规定，并说，‘嘿，这也适用于算法。’”
1714100034
2023-06-22 11:00:28
