性别不平衡数据集可能会影响AI病理学分类的性能

来自阿根廷国立大学(Universidad Nacional del Litoral-Consejo Nacional de Investigaciones Cient´ıficas)和国立大学(Universidad Nacional de Entre R´ııos)的一组研究人员发现，性别不平衡的数据集影响了基于人工智能诊断系统的病理分类性能。他们的论文发表在美国国家科学院院刊，本集团描述了测试三种开源机算法，用于分析X射线图像以检测各种医疗条件，以及他们发现的内容。

虽然它可能不是常识目前，人工智能系统正在广泛应用于各种商业应用，包括新闻和新闻的文章选择社交媒体网站，哪些电影制作，并在我们的手机-AI系统上显示的地图已成为大型企业的信任工具。但他们的使用并不总是没有争议。近年来，研究人员发现，用于批准抵押贷款和其他贷款申请的AI应用程序偏见，例如，支持白人男性。研究人员发现，是因为用于训练系统的数据集主要包括白色男性配置文件。在这种新的努力中，研究人员想知道用于帮助医生诊断患者的医生的AI系统也是如此。

这项工作包括评估三个仍处于实验阶段的开源人工智能系统。研究人员用美国国立卫生研究院(NIH)和斯坦福大学(Stanford University)数据库的胸部x光片对他们进行了训练，这两个数据库的男性资料都略多一些。为了查明该系统是否会产生有偏见的结果，研究人员以各种方式歪曲了数据。在某些情况下，他们主要使用男性档案，在其他情况下主要使用女性档案。

在看他们的结果时，研究人员发现，当数据大多是男性的时，有一个明确的偏见，加工女性概况的错误率上升。如果比率逆转，也是如此。他们还发现，过度代表一个性别或另一个没有赋予优势 - 误差率仍然相对稳定。

研究人员无法提供除了男性和女性躯干具有明显的身体差异之外的差异的原因。他们建议了这一点医学界认真看看人工智能系统是如何在现实世界的医疗应用中得到训练的。

---

---

©2020 S欧宝app网彩cience X Network