研究人员要求无偏见的人工智能
临床医生和外科医生越来越多地利用基于人工智能的医疗器械。这些AI设备依赖于数据驱动的算法来告知医疗保健决策，目前有助于诊断眼睛，心脏病和疾病的方式，在途中有更多的应用。
鉴于这一斯坦福大学教职员们举行了这一潮流，呼吁努力确保这项技术不会加剧现有的荒地护理差异。
在一个新的透视论文中，斯坦福教师讨论性别，性别和比赛偏见在医学以及这些偏差如何由AI设备延伸。作者提出了几种与预防AI相关的偏差的短期和长期的方法，例如在医疗资金机构和科学出版物的改变政策，以确保所收集的研究是多元化的，并将更多的社会，文化和道德意识纳入大学课程。
“白身和男性的身体长期以来一直是医学指导药物发现，治疗和护理标准的常态，因此我们不让AI设备陷入这种历史模式，”Londa Schiebinger，John L.说是重要的。“中文在“人文科学学院”历史上的后卫教授，并于5月4日发布的论文中的高级作者eBiomedicine.。
“由于我们正在为医疗保健的AI技术开发，我们希望确保这些技术对不同的人口统计和人口具有广泛的利益，”生物医学数据科学助理教授詹姆斯邹说，以及由计算机科学和电气的礼貌斯坦福的工程与学习的共同作者。
研究人员表示，偏见的问题只会变得更加重要，精密药物在未来几年中增长。基于诸如人口统计和遗传学等因素，对每位患者量身定制的个性化药物易受不公平的因素（如果AI）医疗设备无法充分考虑个人的差异。
“我们希望能够在初步设计中攻击AI生物医学社区，以防止偏见并在研究的初始设计中创造股权，而不是在事实之后需要解决事物，”Schiebinger说。
建设性 - 如果适当地构建
在里面医疗领域，AI包括一套套件，可以帮助诊断患者的疾病，改善医疗保健，提高基础研究。该技术涉及算法或指令，由软件运行。这些算法可以像额外的眼睛一样，仔细检查实验室测试和放射图像;例如，通过解析CT扫描，特别是可以表明疾病或伤害的特定形状和色密度。
然而，偏见问题可以出现，但是，在这些设备的开发和部署的各个阶段，Zou解释说。一个主要因素是，用于形成算法用作基线的模型的数据可以来自非特性患者数据集。
通过未能考虑到竞争，性别和社会经济地位，这些模型可能对某些群体的预测因子差。更糟糕的是，临床医生可能缺乏对可能产生偏斜结果的医疗器械的任何意识。
作为潜在偏见的说明性示例，Schiebinger和Zou在他们的研究中讨论了脉搏血管计。在50年前的首次获得专利，脉搏血管计可以快速而非非侵入地报告患者血液中的氧气水平。这些装置在治疗Covid-19时已经证明重要意义，其中氧水平低的患者应立即接受补充氧气以防止器官损伤和失败。
脉冲血管计通过透过患者的皮肤闪耀光，以通过氧化和脱氧红细胞注射光吸收。黑色素素，给皮肤呈现皮肤的原色素，也吸收光，但是潜在争夺患有高度色素皮肤的人。然而，与白人患者相比，这对今天的行业标准的血管计是三倍的行业标准的血管计是3倍的可能性 - 标准的血液血液血气水平的三倍。血氧摩托表另外有性偏见，倾向于比男性更频繁的女性的混杂性水平。这些血氧计偏差意味着深色皮肤的个体，尤其是女性，都存在未接受应急补充氧的风险。
“脉搏血氧仪是一种在没有各种人口数据收集的情况下开发医疗技术的有效示例，可以导致偏见的测量，从而导致较差的患者结果，”邹说。
此问题扩展到批准后的设备评估临床使用。在最近的一项研究中，发表在自然医学并引用eBiomedicine.斯坦福德的纸张，邹和同事们审查了美国食品和药物管理局批准的130名医疗AI设备。研究人员发现，仅使用先前收集的数据评估了126个装置中的126个，这意味着没有人衡量与活跃的人类临床进入的患者对患者的算法有效。此外，不到13％的批准设备表演的公开摘要报告了性别，性别或种族/种族。
邹说，需要更多多样化的数据收集和对医学环境中的AI技术的监测“是解决偏见的最低悬垂的水果之一。”
解决宏观级别的偏见
在长期内，该研究探讨了更广泛的生物医学基础设施的结构变化如何有助于克服AI不公平的挑战。
起点是资助机构，例如国家健康研究院。近年来，Schiebinger表示，据指出，据指出，据指出，NIH的申请人在其研究中将性成为生物变量将性行为作为生物变量，据指出，这一进展情况已经开始。Schiebinger预计NIH为性别和种族和种族提供了类似的政策。与此同时，她在斯坦福的小组正在临床试验期间在临床试验中作为社会文化变量，如二月的性别差异的生物学研究。
“我们希望在资金机构前面开始对课程的政策来设置研究方向，”Schiebinger说。“这些机构有一个巨大的作用，因为他们正在分发纳税人金钱，这意味着资助的研究必须使整个社会的所有人受益。”
另一个机会领域的生物医学出版物，包括期刊和会议报告。斯坦福研究所提交人认为出版物设定了在适当的情况下要求性别和性别分析以及道德考虑和社会后果的政策。
对于医学院，作者提出了加强课程，以提高对AI如何加强社会不公平的认识。斯坦福等大学已经通过嵌入科学课程的道德推理来实现这一目标。
另一个使用跨学科方法来减少偏见的例子是Schiebinger之间的持续合作，他在斯坦福教授了17年，并且是计算机科学和生物医学AI专家的性别和科学的主要国际权威。
“一起带着人文主义，技术人员是斯坦福的东西，应该做更多，”Schiebinger说。“我们很自豪能够成为努力在医学中的努力的最前沿，考虑到AI最终会影响的人类生活中的许多其他方面更重要。”
用户评论