我们能相信人工智能不会进一步加剧种族健康不平等吗?
数据技术被誉为压力下医疗服务的简单解决方案,但它正在不受限制地向前发展。但记者波比·努尔(Poppy Noor)问道,这是否有加剧不平等的风险英国医学杂志今天好吗?
人工智能(AI)系统模拟人类的智慧通过学习、推理和自我纠正。这项技术是很有前途的:它可以减少病人的等待时间,改善诊断,并减轻不堪重负的nhs福利,这些福利适用于整个领域,不分种族。
但人们越来越担心,如果用于训练人工智能的数据不具有民族代表性,那么这项技术可能不适用于某些群体。
例如,用于训练检测黑色素瘤的算法的图像主要是白人皮肤的图像,如果不是全部的话。在现实中,这可能就是人工智能与训练有素的临床医生为白人工作时一样好,但不能识别皮肤上的癌变痣黑人.
更重要的是,如果公司没有义务展示这些数据,人们可能会继续认为人工智能与每个人都相关,但事实并非如此。
德克萨斯大学(University of Texas)的阿德沃尔·亚当森(Adewole Adamson)教授表示,无论如何,产品都能正常工作,这是人工智能成功的基础肤色,如果他们不这样做,将提供警告。
来自智库Reform的Eleonora Harwich警告说,偏见和歧视是很难监管的事情,并建议市场激励措施可以提供更具代表性的数据。
但也有人认为,市场激励无法克服一个事实,即数百年来对少数民族背景的人的医学研究缺失。ob欧宝直播nba
亚当森表示,如果不解决这个问题,代价将是巨大的。他警告说,人工智能可能会误诊、诊断不足,并可能加剧医疗保健差距。
因此,他说,我们需要记住,人工智能可能是一个惊人的工具,但它无法取代道德决策所需的复杂人类思维。
更多信息:我们能相信人工智能不会进一步植入偏见和偏见吗?BMJ(2020)。DOI: 10.1136 / bmj.m363,www.bmj.com/content/368/bmj.m363