2023年5月2日

AI偏见可能影响放射科医生在乳房x光检查准确性

错误的建议基于ai的决策支持系统可能严重损害放射科医生的性能在每个级别的专业知识阅读时乳房x光检查,根据一项新的研究发表在放射学。

号称“第二组的眼睛”放射科医生基于AI乳腺支持系统的一个最有前途的应用人工智能在放射学。随着技术的发展,人们担心它可能会使人类的放射科医生容易自动化的趋势有利于从自动决策系统的建议。

多项研究表明,引入计算机辅助检测到乳房x光检查工作流可能影响放射科医师的性能。然而,没有研究观察的影响基于ai系统准确的乳房x光检查的性能由放射科医生阅读。

德国和荷兰机构的研究人员着手确定自动化偏见如何影响放射科医生在不同程度的经验当阅读乳房x光片的协助下一个人工智能系统。

在未来的实验中,27个放射科医生读50乳房x光检查。然后他们提供他们的乳房成像评估报告和数据系统(BI-RADS)的帮助下一个人工智能系统。BI-RADS是一个标准的系统使用的放射学家描述和分类的胸部影像学表现。虽然BI-RADS分类不是诊断,帮助医生确定接下来的步骤是至关重要的。

研究者提出了两个随机集的乳房x光检查。首先是一个训练集的10 AI建议正确的BI-RADS类别。第二组包含不正确的BI-RADS类别,据称由AI,建议在12的40个乳房x光检查。

结果表明,放射科医生在分配正确的BI-RADS分数明显恶化的情况下,所谓的人工智能建议一个不正确的BI-RADS类别。例如,没有经验的放射科医生分配正确的BI-RADS分数在80%的情况下,人工智能建议正确的BI-RADS类别。

当所谓的人工智能提出了错误的类别,其准确性下降到低于20%。radiologists-those经验超过15年的经验在average-saw精度从82%降至45.5%时所谓的人工智能显示不正确的类别。

“我们预期,人工智能预测不准确会影响决策的放射科医生在我们的研究中,尤其是那些用更少的经验,”研究报告的主要作者托马斯•Dratsch医学博士博士,从诊断和介入放射学研究所,在科隆,德国科隆大学医院。“无论如何,这是令人惊讶的发现即使非常有经验的放射科医生被AI系统的不利影响的判断,尽管一定程度上比少经验丰富的同行。”

研究人员说,研究结果表明为什么必须仔细考虑人机交互的影响,确保安全部署和准确诊断性能结合人类读者和人工智能。

“鉴于乳房x光检查筛查的重复性和高度标准化,自动化的偏见可能成为一个问题,当一个人工智能系统集成到工作流、“Dratsch博士说。“我们的研究结果强调了需要实施适当的保障措施时将AI纳入辐射过程自动化减轻负面影响的偏见。”

可能的安全措施包括展示用户的信心水平的决策支持系统。在一个基于ai系统的情况下,这可以通过显示每个输出的概率。另一个策略是教学用户对系统的推理过程。确保用户的决策支持系统觉得对自己的决定负责自动化也可以帮助减少偏见,Dratsch博士说。