病人可能不会听取知道他们名字的人工智能医生的建议

随着人工智能(AI)在健康应用中的应用越来越多，医疗服务提供者正在寻找改善患者与机器医生的体验的方法。

来自宾夕法尼亚州立大学和加州大学圣巴巴拉分校(UCSB)的研究人员发现，当机器人知道他们的名字和姓名时，人们可能不太可能听取人工智能医生的健康建议病史．另一方面，患者希望与他们的人类医生直呼其名。

研究人员补充说，当人工智能医生在对话中使用患者的名字并提及他们的病史时，研究参与者更有可能认为人工智能健康聊天机器人具有侵入性，也不太可能听从人工智能的医疗建议。然而，他们希望人类医生能把他们和其他病人区分开来，当人类医生记不住他们的信息时，他们就不太可能遵守医生的要求。

宾夕法尼亚州立大学唐纳德·贝利萨里奥传播学院詹姆斯·p·吉米罗媒体效应教授、媒体效应研究实验室联合主任s·希亚姆·桑达尔说，这些发现进一步证明，机器在充当医生时要小心谨慎。

“机器没有感觉和体验的能力，所以当他们问病人感觉如何时，对他们来说真的只是数据，”桑达尔说，他也是宾夕法尼亚州立大学计算与数据科学研究所(ICDS)的附属机构。“这可能是过去人们抗拒医疗人工智能的一个原因。”

作为医疗提供者，机器确实具有优势，UCSB通信杰出教授、Mark and Susan Bertelsen技术与社会主席约瑟夫·b·瓦尔特(Joseph B. Walther)说。他说，就像一个长期治疗病人的家庭医生一样，计算机系统可以——假设——知道病人的完整病史。作为UCSB信息技术与社会中心主任的瓦尔特说，相比之下，看一位只知道你最新实验室检测结果的新医生或专家可能是一种更常见的经历。

这让我们想到了一个问题:“谁真正更了解我们:是一台可以存储所有信息的机器，还是一个从未见过我们或从未与我们建立关系的人?在与医学专家的关系中，我们看重什么?”’”沃尔特说。“所以这项研究的问题是，谁更了解我们，我们更喜欢谁?”

该团队为两阶段的研究设计了5个聊天机器人，第一阶段共招募了295名参与者，其中223人返回第二阶段。在研究的第一部分，参与者被随机分配与人类医生、人工智能医生或人工智能辅助医生进行互动。

在研究的第二阶段，参与者被分配再次与同一名医生互动。然而，当医生在这个阶段开始对话时，他们要么直接说出参与者的名字，回忆上次互动的信息，要么再次询问患者喜欢如何被称呼，并重复有关他们病史的问题。

宾夕法尼亚州立大学大众传播学博士生、该论文的第一作者金晨说，在这两个阶段，聊天机器人都被编程提出了8个关于COVID-19症状和行为的问题，并提供诊断和建议。

金晨说:“我们选择将重点放在COVID-19上，因为这是研究期间一个突出的健康问题。”

接受人工智能医生

随着医疗服务提供者寻找具有成本效益的方式来提供更好的护理，人工智能医疗服务可能会提供一种替代方案。然而，宾夕法尼亚州立大学大众传播学博士生程晨(音译)表示，人工智能医生必须提供患者愿意接受的护理和建议。

“我们进行这项研究的原因之一是，我们在文献中读到很多关于人们如何不愿意接受人工智能作为一名医生的描述，”陈说。“他们只是对这项技术感到不舒服，他们觉得人工智能没有认识到他们作为病人的独特性。所以，我们认为，因为机器可以保留关于一个人的这么多信息，它们可以提供个性化，并解决这个唯一性问题。”

研究结果表明，这种策略可能会适得其反。桑达尔说:“当人工智能系统识别到一个人的独特性时，它就会被视为侵入性的，反映了社会对人工智能的更大担忧。”

研究人员表示，在一个令人困惑的发现中，在以人类医生为特征的实验条件下，约78%的参与者认为他们正在与人工智能医生互动。桑达尔补充说，对这一发现的初步解释是，在大流行期间，人们可能已经更加习惯在线健康平台，并可能期待更丰富的互动。

在未来，研究人员希望对真实性和机器参与来回提问的能力在与患者建立更好的关系方面可能发挥的作用进行更多的调查。

研究人员今天在虚拟会议上公布了他们的发现2021年ACM计算系统中的人为因素会议-主要的人机交互研究国际会议。

---

---