这是一篇根据创作共用署名许可协议(https://creativecommons.org/licenses/by/4.0/)发布的开放获取文章,允许在任何媒介上不受限制地使用、分发和复制,前提是正确引用了首次发表在JMIR Human Factors上的原创作品。必须包括完整的书目信息,https://humanfactors.www.mybigtv.com上的原始出版物的链接,以及此版权和许可信息。
诊断和治疗的数字化和自动化有望改变医疗保健的质量,改善患者的治疗结果,但医疗人员供应不足、医疗专业人员的高工作量以及医疗病例的复杂性增加。临床决策支持系统(cdss)已被证明可以通过处理大量患者信息的能力帮助医疗专业人员完成日常工作。然而,全面采用在一定程度上受到特定技术和个人特征的干扰。随着人工智能(AI)的兴起,cdss已经成为一种具有类似人类能力的自适应技术,能够随着时间的推移学习和改变其特征。然而,研究还没有反映人类参与者和人工智能支持的cdss之间有效协作的特征和要素。
我们的研究旨在总结影响医疗专业人员和人工智能cdss之间有效合作的因素。这些因素对于医疗专业人员、管理人员和技术设计人员考虑采用、实现和开发支持ai的CDSS至关重要。
我们进行了文献综述,包括3个不同的元数据库,筛选了1000多篇文章,其中101篇文章进行全文评估。在101篇文章中,7篇(6.9%)符合我们的纳入标准,并对其进行了综合分析。
根据我们的研究目标,我们确定了似乎对医疗专业人员和ai支持的cdss合作具有重要影响的技术特征和人为因素,即培训数据质量、性能、可解释性、适应性、医疗专业知识、技术专业知识、个性、认知偏见和信任。将我们的结果与非人工智能cdss的研究结果进行比较,一些特征和因素保留了它们的重要性,而另一些特征和因素由于人类与人工智能交互的独特性而获得或失去相关性。然而,只有少数(1/ 7,14%)的研究提到了与人工智能cdss相关的理论基础和患者结果。
我们的研究全面概述了影响医疗专业人员和ai支持的cdss之间互动和协作的相关特征和因素。目前有限的理论基础阻碍了创造足够的概念和模型来解释和预测这些特征和因素之间的相互关系的可能性。为了对人类与人工智能合作进行适当的评估,应该考虑患者的结果和患者在决策过程中的作用。
从全球角度来看,许多卫生保健系统面临着全面的挑战,这些挑战影响着如何向社会提供医疗服务。在这方面,有几个因素日益使护理结构、过程和相关行为者感到紧张。例如,人口结构的变化和社会的整体老龄化引起了与年龄有关的健康问题和需求[
所谓的临床决策支持系统(CDSSs)是一种很有前途并被广泛采用的技术,可以提高流程和决策的效率,是一种能够促进医疗专业人员决策过程并为其提供信息的软件应用程序[
由于技术创新,医疗保健技术,包括cdss,越来越多地由人工智能(AI)实现[
考虑到临床医生对人工智能的态度的模糊性,上述CDSS采用的障碍,以及与人工智能和CDSS相关的担忧之间的相似性(例如,有偏见的决策,法律后果,或害怕被取代),人工智能支持的CDSS实际上可能会增加采用的感知和主观因素的相关性,以及它们与技术特征的相互作用。在AI-enabled CDSS的开发和评估过程中,很明显,临床表现和治疗质量的潜在收益是由人类- ai合作最大化的,而不是通过人类- ai竞争[
为了理解人类和人工智能之间的二元关系,有必要理解关键概念及其相互关系。尽管许多研究人员使用相互作用这个术语[
本研究的目的是总结影响医疗专业人员和人工智能cdss之间有效合作的因素。捕捉这些因素对于医疗专业人员、管理人员和技术设计人员反映人工智能cdss的采用、实施和开发至关重要[
我们进行了叙述性回顾,以总结当前关于我们特定目标的文献[
我们将PubMed、PsycInfo和Business Source Complete数据库纳入文献综述。PubMed索引了医学、卫生保健及相关学科领域的>5000种期刊。我们特别使用PubMed来收集关于ai支持cdss的临床有效性和实施的信息。PsycInfo包含行为和社会科学研究的2000篇期刊。我们搜索PsycInfo来检查人工智能支持的cdss和决策过程的心理维度。最后,我们扫描了Business Source Complete的结果,其中包含了商业科学领域的>1000种期刊,以从经济和程序的角度获得关于我们目标的见解。
我们合并了搜索词(AND条件)的两个不同部分。第一部分介绍了与我们的研究目标相关的技术
PRISMA(系统评价和元分析的首选报告项目)流程图。AI:人工智能;CDSS:临床决策支持系统。
根据我们的研究选择,我们最终综合了7项研究。从我们的角度来看,这一结果源于以下事实:许多基于人工智能的cdss研究(1)仅比较人类评分者和基于人工智能的系统的诊断准确性;(2)关注这些系统的技术特征和发展,但没有讨论它们对技术与人类参与者之间的交互或协作的影响。因此,纳入的研究中,大部分(5/ 7,71%)通过元视角思考目标,反映了特定特征或因素的相关性(
综述了我们的研究特点。
研究 | 学习类型 | 上下文 | 兴趣焦点 |
Cabitza等[ |
复习要点 | 临床护理;保健(一般);临床医师;无特定目的 | 信任 |
费明汉等[ |
复习要点 | 临床护理;皮肤病;医生;诊断 | 死亡率或发病率 |
戈莫林在al [ |
复习要点 | 临床护理;皮肤病;医生;诊断 | Explainability |
雷耶斯等人[ |
复习要点 | 临床护理;放射学;医生;诊断 | 信任;explainability |
郑与曾[ |
定量研究 | 临床护理;保健(一般);医生;诊断 | 意图 |
钱德尔等[ |
定量研究 | 临床护理;皮肤病;医生;诊断 | 性能 |
艾山等[ |
复习要点 | 临床护理;保健(一般);临床医师;无特定目的 | 信任 |
本研究涉及支持ai的CDSS的开发、实现和采用中的不同维度或步骤。这些系统的技术特征,即它们的设计所定义的技术的能力和属性[
此外,Tschandl等人[
此外,影响人类行动者与技术互动的社会(如信任)、心理(如人格特征)和认知特征(如认知偏见),即人为因素[
在纳入的研究中,人类参与者对ai支持的CDSS的信任似乎是直接影响合作质量和技术采用的另一个重要因素。例如,Cabitza等人[
技术特征和人为因素影响和塑造人工智能临床决策支持系统(cdss)和人类参与者之间的关系和协作。
参数 | 定义 | 研究 | |
|
|||
|
培训数据质量 | 用于训练支持ai的cdss的信息,以创建真实、可靠和有代表性的系统 | [ |
|
性能 | 基于人工智能的CDSS的准确性和可靠性 | [ |
|
可解释性或透明度 | 支持ai的CDSS能够确保人类参与者理解导致预测的过程和预测本身 | [ |
|
适应性输出或适应性 | 支持ai的CDSS根据子维度简单性、粒度和具体程度适合特定上下文或环境的程度 | [ |
|
|
|
|
|
医学专业知识 | 在与支持ai的CDSS协作的背景下,人类参与者的医疗经验程度 | [ |
|
技术专长 | 人类参与者在支持ai的CDSS方面的技术经验程度 | [ |
|
个性 | 影响与支持ai的CDSS交互的医疗专业人员的属性和特征 | [ |
|
认知偏见 | 改变理性决策和对ai支持CDSS的感知的认知过程 | [ |
|
信任 | 医疗专业人员对人工智能CDSS的主观印象是真实可靠的 | [ |
在纳入的7项研究中,只有1项(14%)研究提到了有效的人类与人工智能合作与主要临床结果之间的相互关系。回顾一种用于皮肤癌诊断的人工智能CDSS, Felmingham等人[
在纳入的7项研究中,只有1项(14%)研究明确提到了实践意义所基于的理论基础。郑与曾[
我们的结果表明,只有少数(7/101,6.9%)研究已经提出了影响人类参与者和ai支持的CDSS之间有效协作的个体因素的问题。虽然关于这些系统出现了独特的考虑;例如,信任的重要作用[
人-人工智能协作互惠过程的步骤和要素。
当将我们的结果与有关医疗专业人员与非ai CDSS相互作用的研究进行比较时,可以注意到高度的一致性。Khairat等[
此外,其他涉及非ai cdss的研究强调了信任在人与系统之间有效交互中的重要作用。信任是一个多维的结构。缺乏信任可能是由于对系统的数学准确性或适当性或系统在改善患者结果方面的目的持保留态度[
来自我们文献的发现以及正在进行的关于非ai患者决策辅助的研究表明,人类参与者和CDSSs之间相互作用的更强大的理论基础是重要的[
我们的研究有一些局限性。由于一些研究从非人工智能启动的CDSSs的研究或非CDSSs分配给CDSSs的结果中得出了关于人工智能启动的CDSSs和人类参与者之间合作的结论,因此关于不同技术特征和人为因素之间相互关系的推理是初步的,需要进一步调查。尽管我们的结果与目前关于人类-人工智能交互的独特性和特殊性的研究结果非常吻合,但由于我们的创新和新颖的目标以及特定的背景,我们纳入了很少(7/ 101,6.9%)的研究,其中大多数是叙述性评论。这可能是我们搜索范围相对狭窄的结果,可以通过解释信任的相关结构和先决条件来扩展。基于合适的理论基础的探索性实证研究可能会产生框架和模型,以构建人工智能支持的cdss的未来研究,因为我们的研究主要提供了相关个体特征和因素的方向。考虑环境影响(例如,组织政策或文化[
我们提取了与医疗专业人员和ai支持的cdss之间有效协作相关的技术特征和人为因素。尽管之前对非人工智能cdss的研究的大部分结果与我们的结果一致,但特定因素的权重可能会随着人工智能系统的变化而变化。基于人工智能的cdss的适应性和越来越像人类的性质强调了决策过程的时间敏感性和互惠性,最终应导致护理的改善。在这些过程中,认知偏差随时都可能发生,从而影响协作的有效性。可解释性仍然是互动的基本前提,医疗专业人员的专业知识和个性已经成为焦点。此外,人与系统之间的信任成为决策支持的一个核心方面,而这些方面之间的相互关系仍然需要研究。共享决策等概念证明了整合患者的需求和愿望是合理的,这是医疗保健的一个重要因素,但它在人类与人工智能协作中的作用尚未得到充分体现。目前,尚不清楚如何将这些概念集成到人工智能增强的决策过程中,以及在CDSS帮助下的医疗决策在多大程度上受到患者对诊断或治疗的主观意义和理解的影响。此外,由于一些研究已经通过其他参数来衡量合作的有效性,在未来的研究中应该考虑主要和次要的患者结果。
如前所述,现代保健结构正面临越来越大的压力。相关医疗专业人员人均工作量巨大,人员供应下降。由于这些机构构成了大多数需要护理和治疗的公民的初始接入点,促进更有效的决策和治疗过程的方法正成为维持综合护理的必要方法。因此,支持人工智能的CDSS代表了一种重要的面向未来的措施,使卫生保健领域的参与者能够改善资源分配,做出更及时、压力更小的决策,并应对人员、设施和专业知识的短缺。然而,cdss的潜在应用和所追求的好处需要进行调查,以阐明如何在流行的医疗保健结构中实施人工智能支持的流程,从而减轻相关的风险和挑战,例如个体患者数据的过度简化或自动启动次优或错误的治疗。
全文排除的文档。
人工智能
临床决策支持系统
系统评价和元分析的首选报告项目
没有宣布。