共享决策(SDM)是指患者和卫生保健提供者根据最新的医疗证据以及患者的偏好和价值观合作做出决策的过程[ 1］．在此过程中，卫生保健提供者向患者提供筛查或治疗方案，并提供每种方案的利弊证据。患者被邀请和支持表达他们的偏好和价值观，最终，患者和他们的医疗保健提供者合作做出最符合患者偏好和价值观的决定[ 1］．因此，最终的共同决定是基于最好的证据和对患者最重要的事情[ 2］．SDM在临床实践中的应用一直受到限制[ 3.- 5］．卫生保健提供者最常报告的原因是时间压力，由于患者特点而缺乏适用性，以及临床情况[ 6］．

Elwyn等人[ 7， 8]提出了临床实践的三步模式，包括团队谈话、选择谈话和决策谈话。在团队谈话中，当病人提出选择时，需要为他们提供支持，并强调引出他们的目标来指导决策。期权谈话包括提供更多关于这些期权的信息，并通过风险沟通进行比较。最后，在决策谈话期间，卫生保健提供者根据他们的经验和专业知识指导患者做出决定，这反映了患者知情的偏好。该模型旨在简化流程，以便医疗保健提供者能够将SDM和患者决策支持集成到他们的实践中。尽管如此，SDM在临床实践中的使用面临着可以通过使用人工智能(AI)来缓解的障碍。

人工智能，定义为“计算智能”或“制造智能机器的科学和工程”[ 9]，描述了计算机和技术模拟智能、类人行为这一快速发展的领域[ 10］．人工智能可以为卫生保健提供者和患者提供决策支持。机器学习是人工智能的一个子领域，它使计算机无需显式编程就能从数据中学习[ 11， 12］．计算机拥有大量数据集，并学会在不同环境下(包括初级卫生保健)对个人健康结果的诊断和预后作出准确预测[ 13]，识别模式和趋势，并从以往的经验中学习[ 14］．

在过去的20年里，人工智能已被应用于各个领域，例如电信[ 15]、金融服务[ 16]，以及医疗保健[ 17］．人工智能已在多个领域显示出可喜的成果，包括放射学[ 18]、眼科学[ 19]、心脏病学[ 20.]、骨科[ 21]，以及病理学[ 22］．例如，在医学成像中，AI可用于评估x射线，从而减少医疗保健提供者的工作量[ 23］．它也有可能帮助卫生保健提供者评估患者的健康风险，提高干预和治疗的效率和效果，使患者能够更好地了解自己的健康状况和自我管理病情，减少等待时间和成本，并最终改善护理质量和患者结果[ 24- 26］．

人工智能有潜力通过告知决策并允许医疗保健提供者集中精力花更多时间与患者在一起来促进SDM [ 27］．人工智能工具提供了各种各样的信息，能够分析大量数据，并发现研究人员和医疗保健提供者可能遗漏的相关性[ 28］．关于使用人工智能进行健康决策背后的生物伦理学和障碍，有一些新兴文献[ 27]，患者和医疗保健提供者对基于人工智能的决策辅助的看法[ 29以及如何将其纳入以确保医疗保健以患者为中心。然而，对于AI如何在SDM实践中应用，以及如何促进SDM的决策步骤，我们知之甚少。因此，我们的目标是通过范围审查来映射现有知识，系统地检查人工智能在SDM中使用的证据。

范围审查的目的是审查关于在SDM中使用人工智能的证据，即探索已经做了什么，以及在SDM中使用人工智能可能存在哪些未来角色。

我们的具体研究问题如下:(1)在SDM中使用AI干预的现有知识是什么?(2)如何将AI用于SDM的决策点?

Levac等人提出的范围审查方法框架[ 30.]，对界定范围检讨的原始框架作出修改[ 31]，以及乔安娜布里格斯研究所对范围审查的方法学指导[ 32]被用来指导这项研究。我们制定了以下步骤的方案:(1)确定研究问题;(2)确定相关研究;(3)采用迭代团队方法进行研究选择和数据提取;(四)以数字汇总的方式将数据制成图表;(五)整理、汇总、报告结果;(6)定期查阅结果。本协议已注册，并可在开放科学框架网站[ 33］．我们根据已发表的方案完成了本次综述。最后，我们使用PRISMA-ScR(用于范围审查的系统审查和元分析扩展的首选报告项目)检查表进行报告[ 34］．填写的PRISMA-ScR清单可在 多媒体附件1．

属性定义了搜索的资格标准 人群、干预、比较、结果、环境和研究设计组件( 35］．

由一位经验丰富的信息专家与研究团队协商，设计并进行了全面的文献检索。种子文章由团队中的专家确定，最终的搜索策略由主要作者审查。文献检索的过程是迭代的。从成立到2021年5月，我们搜索了以下六个电子数据库:MEDLINE (Ovid)、EMBASE (Ovid)、Web of Science Core Collection、CINAHL、Cochrane Library (CENTRAL)和IEEE Xplore数字图书馆。手动检索纳入研究的参考文献列表。检索到的记录使用EndNote X9.2 (Clarivate)进行管理，并导入到DistillerSR评审软件(Evidence Partners)中，以促进选择过程。每个数据库的最终搜索策略和关键术语可根据要求提供。

我们删除了重复的内容，然后使用标准化的纳入标准网格应用第1级(标题和摘要)和第2级(全文)筛选的纳入标准。对55项研究(占总引用458次的12%)进行了1级筛选的先导试验。熟悉相关文献后，我们修改了先验资格标准，以在必要时调整我们的研究选择。随后，2位审稿人(PG、MC和YH)独立对标题和摘要进行了筛选。记录排除原因，进行全文选择。任何关于纳入研究的分歧由第三审稿人(SAR)解决。

根据团队成员的反馈，起草并最终确定了数据提取表单。数据提取的要素包括研究特征(例如，发表年份、通讯作者的国家和研究环境)、人工智能干预措施的特征(例如，干预措施的目的、使用的方法/技术、数据源和表现)、最终用户参与干预措施的开发(例如，医疗保健提供者和患者)、人工智能干预措施的各个方面(例如，人工智能的可解释性和干预措施的可重复性)，人工智能是否被实施或测试，人工智能干预如何用于SDM的决策，以及结果(例如，与患者、卫生保健提供者和卫生保健系统相关)。共有2名审稿人(YH、PG和MC)独立地从每项纳入的研究中提取相关数据。所有数据均由第三审稿人(SAR)验证。

为了与所提议的范围审查的方法学指导框架保持一致，我们没有进行质量评估。范围评审中的批判性评估不被认为是强制性的[ 30.- 32］．

我们使用描述性统计数据总结了我们的发现，并进行了叙述综合，描述了人工智能干预的特征，最终用户是否参与了开发和/或其验证，人工智能干预如何支持SDM的决策点，以及如果在临床环境中实施，结果是什么。我们通过Popay等人发表的工作和工具包来了解我们的合成[ 37，标题为“在系统评论中进行叙事综合的指导。”具体而言，我们进行了专题分析，并以归纳的方式在所包括的研究中确定了3个主要主题(最终用户的参与、人工智能干预的结果和决策点的人工智能干预)。这使我们能够全面地组织和展示我们的结果。

结果将提供给团队成员以获得他们的反馈。在由第一作者(SAR)在2个国际科学会议(即第十届国际共享决策会议和北美初级保健研究小组年会)上领导的2个研讨会上，还向研究人员和医疗保健提供者提供了研究进展。

检索过程从选定的电子数据库中找到了1445条记录，其中551条记录作为重复项被排除在外。在剩余的894项研究中，我们排除了677项1级筛查，因为它们不符合纳入标准，其余217项进行了全文回顾。人工检索引文(n=227)，其中检索3篇研究并评估其合格性。在参考文献检索中未发现符合条件的研究。最终，有6篇文章符合我们的纳入标准( 图1)．在6篇文章中，有2篇提到了同一项研究[ 38， 39］．所收录文章的完整列表及其详细信息可在 多媒体附件2［ 34- 39］．

自2017年以来，每年发表的研究数量有所增加，其中大部分在北美和欧洲进行。纳入研究的分布和发表日期见 图2．

在 表1，我们强调了所包括研究的AI特征，如所使用的AI方法、数据集的特征和性能测量。

在收录的文章中，所有的文章都使用了机器学习作为人工智能的类型。只有2篇文章介绍了用于开发人工智能干预的数据集的信息[ 42， 43]， 1篇报道了其干预的绩效准确性(0.76)[ 42］．

大多数纳入的文章(n=4)没有报告用于开发人工智能干预的数据集;在这些研究中(n=2)，只有1个报告了患者数据的性别分布[ 42]，两者都提供了数据集中患者的年龄(平均或范围)信息。只有一篇文章特别提到了用于开发和测试其干预措施的数据分解[ 42]但没有报告这两个细分的数据集特征。所收录的文章中没有一篇评论了用于开发和训练AI干预的算法的泛化性或数据的代表性。虽然有2篇文章提到了可解释性和可解释性方面[ 39， 43]，没有一篇文章报道了他们如何开发可解释和/或可解释的人工智能干预措施。

可解释人工智能是一个广泛的新领域，正在人工智能领域进行研究。一般来说，我们可以在整个AI开发过程中考虑可解释性:(1) premodeling explainability, (2) 可辩解的建模，和(3) postmodeling explainability．该领域的挑战之一是所谓的可解释性与性能权衡(通常，深度学习等高性能方法的可解释性较低)。

在医疗保健领域，患者和医疗保健提供者需要可解释性和可解释性，以理解为什么人工智能干预会产生某种预测或建议，并信任这种输出[ 45］．如果没有这种理解，就会出现伦理和实际挑战，包括人工智能工具缺乏信任和透明度[ 28］．缺乏可解释性和可解释性会造成患者和医疗保健提供者之间的信息差异，阻碍风险评估，并引发道德问题，如做出错误决定时的责任归属[ 28］．此外，缺乏可解释性和可解释性与医疗保健中的知情同意问题有关[ 46］．目前尚不清楚使用人工智能的患者需要在多大程度上了解其知情同意，也不清楚卫生保健提供者在多大程度上负责对患者进行人工智能的使用教育[ 46］．然而，可解释性和可解释性对于提高系统内部运作的透明度以及促进医疗保健提供者和患者对人工智能在整个SDM过程中可能提供的结果的信任至关重要[ 45］．

弗里泽等[ 41]开发并测试了一个决策支持系统，该系统使用人工智能定制信息，帮助父母决定继续、限制或停止对新生儿的重症监护[ 41］．该决策支持系统采用了人工神经网络和基于案例的推理等机器学习方法。AI组件能够进行知识学习、处理和推导。开发的系统能够在所有参与者之间提供结构化的知识转换和交换，并促进协作决策。总的来说，临床医生发现，与用作统计基准的恒定预测器相比，模型的分类率是可以接受的，但没有提出其他性能指标。

王等[ 42]提出了一个SDM系统框架，连接2型糖尿病患者的电子健康记录(EHRs)，为他们及其医疗保健提供者提供量身定制的药物知识和选择[ 42］．使用机器学习方法，包括k-最近邻算法在内的多标签分类方法，以及使用EHR数据的随机k-标签集，根据患者当前病情提供药物推荐列表。用于开发人工智能干预的数据集包括来自2542名患者的数据。其中男性占65.62%(1668/2542)，女性占34.38%(874/2542)。入组患者平均年龄66.46岁(SD 13.81岁)。还报告了相关疾病和生命体征值。作者使用总数据集的70%来训练AI算法，剩余的30%用于测试。AI模型的准确率为0.76。

Twiggs等[ 43]开发了一种临床工具来预测晚期骨关节炎患者的全膝关节置换术结果，以帮助患者和外科医生根据患者的具体情况决定手术或非手术途径是最合适的。该小组开发了一个贝叶斯信念网络，利用美国国立卫生研究院骨关节炎计划(National Institutes of Health Osteoarthritis Initiative)的数据，识别全膝关节置换术改善有限的风险患者。共纳入330例年龄在45岁至79岁之间的全膝关节置换术患者。该团队使用了一种机器学习方法，即朴素贝叶斯网络，用于变量选择和模型生成。

贾古玛等[ 44]进行了一项随机临床试验，以评估基于人工智能的决策辅助是否会影响晚期骨关节炎患者考虑全膝关节置换术的决策质量、患者体验、功能结果和过程水平结果。他们使用基于机器学习的平台来生成个性化的结果。文中既没有描述模型的开发过程，也没有描述模型的性能;然而，他们提到人工智能干预已经在临床环境中进行了测试，并且在部署之前已经与临床团队讨论了其保真度。

Kökciyan等[ 38， 39]开发了一个决策支持系统，即“CONSULT”，与卫生保健提供者合作，帮助中风患者自我管理和坚持治疗计划。患者、护理人员和卫生保健提供者合作决定最适合患者的治疗方案。系统采用元级论证框架开发。健康传感器数据、EHR数据和临床指南作为输入，自动化决策的建议和文本解释作为输出提供。

就最终用户(即患者和医疗保健提供者)参与人工智能系统的设计、开发和/或验证而言，我们发现其中3篇文章[ 39， 41， 44]包括医疗保健提供者，以验证人工智能干预，其中一篇文章包括医疗保健提供者和患者，对其人工智能工具进行临床验证[ 43］．前3篇文章涉及临床医生验证人工智能工具向患者提供的建议和解释的正确性[ 39]，在部署前确认人工智能干预的保真度[ 44]，并纳入可用性和可接受性测试，以及干预措施的需求评估[ 41］．Twiggs等[ 43]临床验证了他们的工具为患者和医疗保健提供者。

其中一篇文章[ 38]还举办了最初的患者焦点小组，在这些小组中举行了联合设计活动。这些活动产生了一个以用户为中心的版本，即他们希望如何查看决策支持工具显示的信息。没有提供关于如何组织共同设计活动的其他资料。

总共有4篇纳入的文章测试了其干预措施的可用性和可接受性[ 38， 39， 41， 42]，其中2篇文章在针对最终用户(如患者和医疗保健提供者)的临床环境中实施了干预措施[ 43， 44］．只有最后2篇文章报道了与患者和医疗保健提供者相关的结果。这些主要是心理社会结果，包括更好的决策质量、更好的SDM、更高的满意度和更好的临床术后结果。在纳入的文章中，有3篇还报告了与医疗保健系统相关的结果[ 42- 44］．这些与一般工作流程以及干预措施如何不显著改变提供护理的流程或时间有关。它们还包括将人工智能集成到医疗保健系统中的高度可行性和便利性。

所有包含的文章都提供了与他们用于训练或测试算法的数据集的总体相关的某种程度的详细信息。只有一篇文章通过报告所涉参与者的社会人口学特征，全面介绍了人口情况[ 44］．总共有4篇文章测试了干预措施的可用性和可接受性，而2篇文章通过将干预措施应用于临床环境来观察实际结果[ 43， 44］．

弗里泽等[ 41由新生儿学家、工程师或计算机科学家、临床护士专家、社会工作者和伦理学家组成的专家小组测试了他们的人工智能的可接受性和可用性。干预的分类率被发现是可接受的临床试验工具。通过与5名新生儿临床医生的访谈进行的需求评估证实，他们的工具设计满足了其设计人群的需求。可接受性评估采用基于知情医疗决策基金会问卷的开放式问题。专家小组认为该工具清晰易用。

Kökciyan等[ 38， 39]使用他们的CONSULT系统进行了初步研究，以评估其可用性和可接受性。该系统以移动Android应用程序的形式实现，并招募了6名健康志愿者使用该系统一周。他们与系统的不同方面进行互动，并被要求定期从健康传感器和输入数据中收集测量结果。一项初步研究证明了该应用程序的可用性。

王等[ 42)使用临床数据测试了他们的人工智能干预措施。作者使用了前面提到的30%的临床数据集来测试人工智能干预。总数据集包括2542例患者的数据，其中65.6% (n=1668)为男性。由于这些EHRs仅包括住院患者，因此未考虑用药结局。就卫生保健系统的结果而言，据报道，干预措施具有很高的可行性和可维护性——如果正常功能所需的模型或知识过时了，可以在不影响医院EHR系统正常运行的情况下对干预措施进行修改。

贾古玛等[ 44]进行了一项随机临床试验，招募了129名推定患有膝骨关节炎的患者，他们都是初级全膝关节置换术的候选者。干预组共69例(n=46，女性67%)，对照组共60例(n=37，女性62%)。干预组的平均年龄为62.59岁(SD 8.85)，而对照组的平均年龄为62.62岁(SD 7.81)。作者报告了干预组和对照组的种族、教育、工作地位、社会地位和保险状况。对照组接受教育模块和常规护理，而干预组接受偏好模型和人工智能工具的输出。两组患者随后都与外科医生会面，进行决策讨论。在患者相关结果方面，干预组表现出更好的决策质量和改善的SDM、患者满意度和功能结果。总体而言，人工智能工具的使用并没有延长咨询时间。

Twiggs等[ 43]对150例患者进行了临床验证，这些患者在2组队列中向具有>30年经验的外科医生推荐。他们包括年龄≥55岁的患者，膝部疼痛，无半月板或韧带损伤史。他们收集了3个多月的数据。患者首先被要求填写一份基于膝关节骨关节炎和损伤结果评分以及人口和医疗状况数据的数字问卷。他们开发的干预措施使用这些数据来计算预测性术后评分，并将其可视化地显示在骨关节炎患者看外科医生时疼痛的百分位数上。第一组由75名(50%)患者组成，他们填写了该小组制定的问卷。在这个队列中，外科医生和患者对工具的预测输出一无所知，并照常进行咨询。第二组由75名(50%)自愿患者组成，患者和外科医生都暴露在干预的输出中。报告了患者和外科医生的结果。虽然人工智能干预输出的使用没有改变预约全膝关节置换术的患者比例，但使用该工具时，预约和未预约手术的患者报告的疼痛水平发生了变化。 Apart from the questionnaire, which only took 10 minutes to complete, there was no disruption to the normal surgeon consultation workflow.

在收录的文章中，有3篇为初级保健设计了人工智能干预措施[ 38， 39， 42]，以照顾患有慢性疾病的个人，包括糖尿病患者和中风幸存者，以及3个二级护理[ 41， 43， 44]，其中2例(67%)侧重于膝关节需要治疗的患者，1例(33%)侧重于新生儿重症监护。纳入的文章通过引入干预来预测结果，支持SDM的决策步骤[ 41， 43， 44]的临床意义及临床建议[ 38， 39， 42］．在 表2，我们提供了关于设置、决策问题的信息，以及如何在SDM中使用AI进行决策的摘要。

Wang等人的人工智能干预[ 42]通过整合电子病历数据，为患者和医疗保健提供者提供量身定制的抗高血糖药物知识和选择，支持决策点。他们的工具为SDM的每个步骤(团队对话、选项对话和决策对话)设计了特定的最终用户界面。在决策谈话期间，患者可以根据人工智能系统提供的药物建议与他们的医疗保健提供者进行更有效的对话。它是专为住院和门诊设置，并提供了一个更直观的了解患者的情况和糖尿病药物的知识。

Frize等人的人工智能干预[ 41]支持决策点，因为工具的组件相互作用，以提供预测分析、文档存储库、定制交付和自适应接口。他们的目标是在决策的各个阶段增强群体临床过程。目的是促进家长参与和与临床团队的合作。该工具使卫生保健提供者能够预测新生儿重症监护的结果，并就决定开始或停止治疗的利弊向家庭提供咨询。

Twiggs等人提出的工具[ 43]通过向最终用户(即患者和外科医生)提供与全膝关节置换术后无改善风险相关的可解释信息来支持决策点。它提供可解释的输出，允许最终用户了解替代治疗的影响。这个工具可以帮助患者和他们的外科医生决定他们是否适合进行手术。

Jayakumar等人的干预[ 44通过为患者提供基于数据输入的个性化结果报告(即，人口统计学，患者报告的结果测量和临床合并症)，支持决策点，在决策过程中与外科医生讨论。

Kökciyan等人的CONSULT系统[ 38， 39通过从患者的EHR和无线传感器输入提供基于个性化指标的患者情况的最新视图，并提供工具自动化决策的文本解释，以配合其提供的建议，支持SDM中的决策点。CONSULT提供相关的、最新的汇总数据，以及治疗方法和建议，支持患者及其医疗保健专业人员之间的决策点。

我们进行了范围审查，作为全面概述在SDM中使用AI的文献的第一步。这个概述为将来的系统回顾提供了基础。我们的研究结果使我们做出以下观察。

所收录的文章以类似的方式介绍了在SDM期间用于决策的人工智能干预。在纳入的文章中，人工智能干预被专门用于预测具有临床意义的结果和临床建议。决策步骤可以受益于人工智能干预，因为人工智能可以提供全面和个性化的治疗方案清单，以及风险和收益，从而增加与病情、治疗、副作用、风险和结果相关的知识。人工智能模型能够学习和处理与患者护理相关的所有信息，并可以生成基于证据的建议，以支持SDM [ 47］．这些模型也可用于支持风险沟通。类似于如何将预测模型集成到智能辅导系统中，预测模型可以在以适合特定患者的方式讨论与患者病情相关的风险时提供相关信息，并评估他们的理解水平并提供相应的补充信息[ 48］．

决策步骤是SDM的核心步骤，其中患者-医疗保健提供者的交互是必不可少的，应该独立于人工智能干预，不受人工智能干预的限制。患者-医疗保健提供者关系是基于为关系发展提供基础的责任。尽管承认人工智能在促进SDM方面可能有好处，但患者仍然希望他们的医疗保健提供者对治疗计划保留最终裁量权，并监督他们的护理，以及根据他们的独特情况调整人工智能干预的任何贡献[ 49］．相反，患者希望在决策中保持权力，可以质疑或拒绝人工智能的输入[ 49］．在SDM过程中，在临床环境中设计和实施人工智能干预，不会对人类和个人方面的某些决策产生负面影响，这很重要。人工智能干预措施的实施方式必须能够维护和提升患者与医疗保健提供者之间的关系，并促进共享医疗决策。

人工智能干预措施可以为卫生保健提供者腾出更多时间与患者建立联系;然而，他们可能会将医疗保健提供者置于一个类似调解人的角色，他们将负责向患者解释人工智能的输出。这可能很难实现，特别是在某些AI模型(如深度学习)中可能存在可解释性和可解释性不足的情况下。这种可解释性和可解释性的缺乏可能导致信任的缺乏，从而导致决策延迟或冲突，这是SDM旨在解决的因素[ 27］．医疗保健中的人工智能干预可影响患者与医疗保健提供者的关系[ 27]，但很少有人知道它们如何影响这种关系，以及将人工智能集成到SDM的最佳方法是什么，以利用其好处并减轻潜在风险。需要进一步研究SDM的不同步骤如何在不影响患者-医疗保健提供者关系的情况下受益于人工智能干预。

将现代人工智能干预措施纳入医疗保健的主要挑战之一是可解释性和可解释性。这指的是人工智能干预为向观众阐明其功能所提供的洞察力;也就是说, 如何算法从给定的输入生成输出[ 50- 52］．可解释性和可解释性的水平取决于所使用的人工智能方法。这是某些人工智能模型(如深度学习)的情况。

尽管人工智能的表现很有前景，但在临床实践中的实施仍然具有挑战性。对人工智能的信任是临床实践中采用人工智能的主要障碍之一[ 53］．人类无法理解为什么人工智能系统会做出特定的决定，这限制了新一代人工智能系统在初级卫生保健等关键环境中的有效性。先前的工作强调了可解释人工智能在医疗保健中的重要性，并表明缺乏可解释性( 黑盒)会影响医生和病人对人工智能的信任[ 54- 56］．

在我们的回顾中，收录的文章中有2篇[ 39， 43]简要地谈到了可解释性和可解释性，指出人工智能工具提供了文本解释来解释自动化决策[ 39]并且他们的人工智能模型的结果是可解释的[ 43］．然而，这两篇文章并没有解释他们在开发工具时所采取的步骤，以使其具有可解释性或可解释性，其他文章也没有考虑这些方面。这可能会给SDM临床实践过程中这些系统的实施带来障碍。在任何其他试图将AI集成到敏感的人类交互中的情况下，都需要解决AI的可解释性和SDM的可解释性。

此外，不同的利益相关者对人工智能工具的可解释性和可解释性的理解水平可能有所不同。例如，在该领域受过训练的人工智能专家可以比非人工智能专家更好更快地理解和解释人工智能算法背后的推理。因此，医疗保健提供者和患者关于人工智能的教育可以更好地理解算法，从而更好地理解人工智能干预的可解释性。简而言之，终端用户对人工智能干预做出的预测/决策的理解，以及人工智能工具的可解释性和可解释性的增加，可以增加终端用户 信任在给定的结果中[ 57］．

在卫生保健和可持续发展管理中实施人工智能干预时，缺乏可信度是可能出现的许多生物伦理障碍之一;因此，提高患者和医疗保健提供者的人工智能素养，以及提高人工智能系统的可解释性和可解释性，可以增加信任。此外，在医疗保健环境中，为确保对算法提供的结果的正确理解和信任所需的可解释性水平，文献中存在差异[ 58］．未来的研究需要确定如何有效地教育终端用户关于AI-SDM工具，如何有效地在这种情况下结合可解释性和可解释性，以及在这种情况下和知情同意的情况下，多少可解释性和可解释性被认为是足够的。

在收录的文章中，有3篇[ 39， 41， 44] AI系统验证阶段的医疗保健提供者参与，AI系统临床验证阶段的1包括医疗保健提供者和患者[ 43］．一篇文章[ 38]将患者和卫生保健提供者纳入共同设计活动，从而产生了开发工具的用户生成版本。然而，没有提供关于协同设计活动是如何组织的细节，最终用户也没有参与人工智能工具的后续设计和开发。

AI和SDM社区都需要进一步努力，让医疗保健提供者和患者(作为开发的AI系统的最终用户)参与AI-SDM工具的设计、开发、验证和实施。SDM是以患者为中心的核心护理;因此，在定义过程的每一步都需要考虑患者的价值观和偏好。伦理学家认为，通过不使用患者的偏好或价值观作为输入或影响输出，而是将患者的偏好或价值观作为输入或影响输出 共同的决定患者从人工智能提供的基于证据的选项中进行选择，这一过程并非真正以患者为中心[ 59］．

因此，为了确保在引入人工智能干预措施时从根本上实现SDM，必须将患者的偏好纳入设计。被称为 value-sensitive设计，这种方法在整个设计过程中融入了人的价值[ 59］．然而，如何成功地将个体患者的价值纳入算法设计，以及如何有效地将患者和医疗保健提供者纳入健康领域AI系统的开发和验证中，这仍然是一个挑战，需要进一步的研究。最近对当前方法的评估表明，大多数现有的以用户为中心的设计方法主要是为非AI系统创建的，并不能有效地解决AI系统中的独特问题[ 60］．AI-SDM工具也是如此。

在我们的综述中，我们发现纳入的研究中人工智能干预的报告不佳。报告人工智能干预的研究应使用经过验证的框架和指南来报告其结果。支持SDM的人工智能干预措施的透明和完整报告对于检测错误和潜在偏差以及评估干预措施的有用性非常重要[ 61］．此类报告框架的一个例子是个人预后或诊断多变量预测模型的透明报告(TRIPOD)，该模型由透明报告所必需的项目清单组成[ 62］．由于原始框架主要应用于基于回归的预测模型，TRIPOD-AI扩展正在开发中，专门用于基于机器学习的预测模型研究[ 63］．透明和完整的报告可以很好地理解并鼓励在未来研究中工作的可重复性，这是在临床环境中越来越多地实施AI-SDM时需要考虑的重要因素。

本综述中没有一篇文章提到遵守特定的报告框架或考虑可重复性。这导致所收录的文章在不同方面缺乏清晰度，包括训练数据集是否具有代表性，如何考虑潜在的偏差(如代表性和算法偏差)和缺失的数据，如何在临床环境中使用人工智能，以及人工智能实施的结果是什么。事实上，只有1篇文章[ 44全面报告了参与人工智能干预的参与者的社会人口特征。这样的报告应该标准化，以便更好地理解和有效地比较人工智能干预和临床实施。在未来的AI研究中，需要强调使用报告框架的重要性，以促进对AI- sdm在临床环境中的理解和可重复性的提高。

我们没有对收录的文章进行质量评估，尽管这并不常见，也不需要在范围审查中包含。然而，我们的回顾揭示了这一重要领域，并且有一些需要改进的地方。我们的纳入标准非常严格，只纳入了在SDM中使用AI干预来支持决策点的文章。因此，我们可能错过了与SDM的其他方面相关的工作。在这一领域可能需要进一步的系统审查，以确保审查的结果能够应用于政策和实践。

在这篇范围综述中，我们展示了在SDM中测试和实施的人工智能系统的程度和种类，表明该领域正在扩大，并强调知识差距仍然存在，应该在未来的研究中优先考虑。我们的研究结果表明，使用人工智能来支持SDM的现有证据尚处于起步阶段。纳入研究的数量较少表明，在测试、实施和评估人工智能对SDM的影响方面进行的研究并不多。未来的研究需要加强和标准化人工智能干预在SDM不同步骤中的使用，并评估其对特定决策、人群和环境的影响。研究界需要更多地关注和努力解决可解释性、可解释性、可重复性和以人为本的人工智能方面的问题，特别是在开发自己的干预措施时。最后，未来的研究应进一步调查哪些SDM步骤将从何种类型的人工智能中受益最多，以及如何应用人工智能干预来加强患者-医疗保健提供者关系。