在线症状检查器中的解释可以提高用户的信任度

您最近是否使用移动设备或电脑来确定您的咳嗽、鼻塞或发烧是否可能由COVID-19引起?

您使用的在线症状检查器可能建议您待在家里，如果症状恶化，请致电您的医疗提供者，或者可能告诉您您可能有资格进行COVID-19检测。但它为什么要提出这样的建议呢?你怎么知道你能不能相信它?

这些都是问题,宾州州立大学的研究人员最近信息科学和技术探索通过项目他们增强在线症状检查提供的解释系统如何生成其可能的诊断和suggestions-while也研究用户对这些建议的看法。

该研究报告的第一作者、助理研究教授蔡春华(Chun-Hua Tsai，音)表示:“人们很困惑，为什么在线症状检查器会询问某些问题，以及他们如何做出某些建议和决定。”“这些互动不是很透明，如果你只是普通感冒，这没什么，但对于COVID来说，这可能非常严重。”

Tsai解释说，目前的在线症状检查器是由机器学习算法驱动的，使用用户提供的信息来指导检查器下一步可能的诊断。然而，人工智能驱动的系统缺乏透明度和可理解的语言，如果用户不能完全理解它提供的建议，可能会导致意外的、潜在的悲剧后果。

例如，如果在线症状检查人员仅根据用户的输入建议用户进行COVID-19检测，可能会导致过度担忧或不必要地前往医疗机构。相反，如果用户从在线症状检查器得知自己可能感染了冠状病毒，就可能导致他们做出糟糕的医疗决定，比如自己服药，而不是接受检测或寻求适当的治疗。

“医学诊断互动中的解释强调了语用学的重要性，”杰出的信息科学与技术教授、该研究论文的作者之一杰克·卡罗尔(Jack Carroll)说。

该项目的另一位合作者、信息科学与技术助理教授桂新宁表示，该团队的工作有可能应用于COVID-19之外。

她说:“甚至在COVID-19之前，就有数千万人使用症状检查器对多种健康状况进行自我诊断或自我分诊。”然而，很少有人从用户的角度来关注合法性、安全性、信任和透明度等关键问题。我们的工作只是填补这一空白的开始。”

在他们的工作中，研究人员重现了用户与在线症状检查器的互动，并添加了解释，说明聊天机器人为什么会问某些问题，以及这些建议是如何产生的——例如，这些建议是否来自疾病控制和预防中心的指南。

“基于这些解释，我们的发现显示，当用户收到这些建议时，他们(对症状检查器的准确性)更有信心，”Tsai说。“透明的症状检查器可以帮助人们了解自己的情况，做出更好的医疗决定。这也可能成为应对我们今天面临的大规模公共卫生危机的一种工具。”

在他们的研究中，研究人员采访了在线症状检查的用户，以了解解释是否会改善他们的用户体验和他们对在线工具的信任。访谈结果显示，用户经常对聊天机器人提出的问题感到困惑，以及哪些症状和信息导致了诊断和建议。

“对于我列出的可能原因，(聊天机器人)没有告诉我为什么我的症状匹配。它只是从统计学的角度说明了一些问题，比如有多少人可能患有这种疾病。我认为这款应用应该显示两者之间的关系，比如解释它为什么认为这可能是一个原因，它问了哪些问题，我给出了哪些答案，让我得出了这个结论，”一名受访者表示。

然后，研究人员设计了一种包括三种类型的COVID-19在线症状检查器解释风格:基于理论，在系统向用户推广的每个问题后提供解释;基于特征，根据用户的回答提供个性化的总结;以例子为基础，突出一个相同的患者的例子，他们根据相同的答案得到了与用户相同的临床建议。

他们发现这种解释不仅能显著改善用户体验，还可以促进医疗决策，提高用户对诊断的信任度。

“解释可以使健康消费者做出明智的决定，”桂说。“如果不解释症状检查人员是如何得出结果和基础证据的，健康消费者将在理解或信任诊断结果方面面临挑战。”

她补充说，“我们的研究证明，提供适当的解释可以帮助用户更好地解释结果，并做出明智的决定。”

研究人员的发现可以为未来的在线设计提供参考症状帮助用户解决COVID-19以外的一系列医疗问题。

蔡崇信表示:“我们的发现可以推进健康推荐系统和可解释人工智能在个人健康、公平和用户信任方面的研究领域。”

---

---