“盲目”遵循 AI 指导如何影响放射科医生的表现

如果该团队最近的发现表明过度依赖人工智能会如何影响放射科医生的表现，那么专家们就有理由担心自动化偏差。

在他们的工作中，该团队委托 27 名放射科医生在 AI 系统的帮助下为 50 张乳房 X 线照片提供乳腺成像报告和数据系统 (BI-RADS) 评估。 考试包含 AI 提供的正确和不正确的 BI-RADS 类别建议。

AI 系统的预测对每组放射科医生（缺乏经验、中等经验和非常有经验）的准确性产生了重大影响。 当 AI 系统建议相同的类别时，读者更有可能分配不正确的 BI-RADS 类别，反之亦然。

这一发现在经验较少的放射科医生中尤为值得注意，当人工智能系统提出错误建议时，他们的准确率会降至 20% 以下。 然而，即使是队列中最有经验的人——那些作为放射科医生工作了 15 年或更长时间的人——也是自动化偏差的受害者，当系统建议不正确的类别时，准确率会显着下降（从 45.5% 下降到82%）。

“我们预计不准确的 AI 预测会影响放射科医生在我们的研究中做出的决定，尤其是那些经验较少的人，”该小组指出。 “尽管如此，令人惊讶的是，即使是经验丰富的放射科医生也会受到人工智能系统判断的不利影响，尽管程度低于经验不足的同行。”

该团队建议，这些发现进一步强调了与将 AI 集成到放射学工作流程相关的保障措施的必要性。 未来，该小组打算探索减少放射科医生自动化偏见的可能措施。

可以在此处查看研究摘要。