中华儿科杂志, 2023年·61卷·10期 李楠 卓琳 赵一鸣

摘要

随着人工智能技术的飞速发展，人工智能和其他数据驱动的模型正在逐步渗透到医疗健康的各个方面，特别是在临床辅助诊疗中的应用越来越广泛。通过结合大量的医疗数据、基因数据、病理图像、临床后续治疗方案，研究者们通过训练统计学模型或者人工智能模型，期望帮助医生更快速、精准地对病情进行评估，作出临床决策。然而这种进步的同时也带来新的挑战，其中之一就是“自动化偏倚”，也就是说，人们在决策时倾向于过分依赖自动化系统的建议，而忽视或贬低其他信息。在临床辅助决策中，虽然人工智能和统计学模型提供了大量的有用信息，但是如果过分依赖模型的输出结果，就可能忽视自身的专业判断和实际经验，靠人机交互可能引起的自动化偏倚情况，可能会对决策质量产生负面影响。

一、人工智能辅助决策与自动化偏倚

随着人工智能技术的飞速发展，人工智能和其他数据驱动的模型正在逐步渗透到医疗健康的各个方面，特别是在临床辅助诊疗中的应用越来越广泛。通过结合大量的医疗数据、基因数据、病理图像、临床后续治疗方案，研究者们通过训练统计学模型或者人工智能模型，期望帮助医生更快速、精准地对病情进行评估，作出临床决策。然而这种进步的同时也带来新的挑战，其中之一就是“自动化偏倚”，也就是说，人们在决策时倾向于过分依赖自动化系统的建议，而忽视或贬低其他信息。在临床辅助决策中，虽然人工智能和统计学模型提供了大量的有用信息，但是如果过分依赖模型的输出结果，就可能忽视自身的专业判断和实际经验，靠人机交互可能引起的自动化偏倚情况，可能会对决策质量产生负面影响。

二、采用交叉设计人机交互试验进行自动化偏倚的评价

为了全面评估人工智能在临床决策辅助中可能产生的自动化偏倚问题，应采用交叉设计的方式进行试验。可以将参与试验的医生随机分为两组，一组医生独立进行决策，不接受任何人工智能的辅助，而另一组医生则在人工智能的辅助下进行决策。在完成一轮决策后，进行一定的洗脱期，以避免对素材过度熟悉。之后两组医生交换，针对各自之前看到的信息进行决策。

判断结果通常会与金标准进行比较，观察在不同人工智能结果可靠性下，医生在有人工智能和无人工智能辅助下的决策是否有明显的差异。同时，也会记录下在人工智能辅助下反而表现不佳的人工智能输出区间。这样的设计能够更全面地评估人工智能辅助在临床决策过程中的实际效益，以及可能产生的自动化偏倚，为实际应用提供有效的参考。

三、临床应用中避免自动化偏倚的误导的策略

避免自动化偏倚的发生，首先需要在系统设计阶段考虑到这种偏倚的可能性，并采取预防措施。一种可能的策略就是隐藏上述评价中自动化偏倚导致错误升高的人工智能输出区间。这可以帮助使用者更加聚焦在最有信心的预测上，而不是在可能错误的结果中寻找答案。另外，针对不同身份（临床经验）的使用者，可选择性地展示在不容易导致自动化偏倚区间内的结果。

总之，人工智能和其他数据驱动的模型对于提升临床决策的效率和准确性具有巨大潜力，这对于推动健康医疗事业的发展具有重要的实际意义。

转自：“医学科研与管理空间”微信公众号

如有侵权，请联系本站删除！