在过去十年中，人工智能(AI)在医疗保健领域得到了极大的扩展。特别是，人工智能应用已被应用于从临床数据中发现信息，并协助医疗保健提供者完成广泛的临床任务，如疾病诊断、分诊或筛查、风险分析和外科手术[gydF4y2Ba 1gydF4y2Ba-gydF4y2Ba 4gydF4y2Ba]。根据埃森哲的分析，到2021年，全球健康人工智能市场预计将达到66亿美元，并有可能在未来5年内增长10倍以上[gydF4y2Ba 5gydF4y2Ba]。gydF4y2Ba

“人工智能”一词是麦卡锡在20世纪50年代创造的，指的是计算机科学的一个分支，在这个分支中，算法被开发出来，以模拟人类的认知功能，如学习、推理和解决问题。gydF4y2Ba 6gydF4y2Ba]。它是一个广泛的术语，包括但不限于机器学习(ML)、深度学习(DL)、自然语言处理(NLP)和计算机视觉(CV)。gydF4y2Ba

研究人员在医疗保健人工智能应用的开发上投入了大量的精力。自2000年以来，谷歌学术数据库中相关文章的数量呈指数级增长。然而，它们在现实临床实践中的实施并不普遍[gydF4y2Ba 1gydF4y2Ba，gydF4y2Ba 7gydF4y2Ba]。有几个原因可以解释这种研究与实践的差距。具体来说，人工智能算法可能会受到技术问题的影响，例如数据集移位、过拟合、偏差和缺乏泛化能力[gydF4y2Ba 8gydF4y2Ba]，限制了人工智能研究向临床实践的安全转化。此外，人工智能应用程序的实际实施可能具有难以置信的挑战性。需要解决的关键挑战包括数据共享和隐私问题、算法缺乏透明度、保健工作性质的变化、财务问题和苛刻的监管环境[gydF4y2Ba 1gydF4y2Ba，gydF4y2Ba 3.gydF4y2Ba，gydF4y2Ba 9gydF4y2Ba-gydF4y2Ba 13gydF4y2Ba]。然而，只有将医疗人工智能应用融入临床日常工作流程中，才能实现其巨大潜力。gydF4y2Ba

据我们所知，这篇综述是第一次系统地研究人工智能应用在现实临床环境中的作用。我们注意到，在卫生保健人工智能领域进行了许多审查。一组综述概述了人工智能技术在特定临床领域的现状，如乳腺癌诊断[gydF4y2Ba 14gydF4y2Ba]、黑色素瘤诊断[gydF4y2Ba 15gydF4y2Ba]、肺结核诊断[gydF4y2Ba 16gydF4y2Ba]、脑卒中诊断与预测[gydF4y2Ba 17gydF4y2Ba]和糖尿病管理[gydF4y2Ba 18gydF4y2Ba]。另一组评论侧重于比较临床医生的表现和人工智能的表现，以提供人工智能实施所需的证据基础[gydF4y2Ba 19gydF4y2Ba-gydF4y2Ba 21gydF4y2Ba]。相比之下，我们的工作至少在三个方面不同于以往的综述。首先，我们回顾了临床人工智能应用程序，这些应用程序提供更广泛的决策支持，因此不会将我们的范围限制在特定的临床领域。其次，我们关注的是报告了现实世界中临床人工智能应用评估的研究。因此，我们排除了那些讨论临床人工智能算法的开发和验证而没有实际实施的研究。最后，我们报告了与人工智能实施相关的广泛评估结果，如绩效比较、临床医生和患者结果以及经济影响。gydF4y2Ba

另一方面，我们注意到一些观点文章提供了医疗保健人工智能的总体前景[gydF4y2Ba 1gydF4y2Ba-gydF4y2Ba 3.gydF4y2Ba，gydF4y2Ba 7gydF4y2Ba，gydF4y2Ba 9gydF4y2Ba，gydF4y2Ba 22gydF4y2Ba]。这些文章主要提供了对医疗人工智能现状的见解，并选择了一些临床人工智能应用作为说明示例。他们可能还讨论了与人工智能的实际实施相关的挑战。然而，这些文章并没有详细讨论人工智能实施的进展。相比之下，我们的工作旨在提供关于人工智能在现实临床环境中应用评估的文献的全面地图。通过这样做，我们总结了与人工智能实施相关的好处和挑战的经验证据，并为这一重要而有前途的领域的未来研究提供了建议。gydF4y2Ba

本系统综述的目的是识别和总结已经在现实临床实践中实施的人工智能应用的现有研究。这有助于我们更好地了解在常规护理环境中实施人工智能的好处和挑战，例如增强临床决策能力，改善护理流程和患者结果，以及降低医疗成本。具体而言，我们根据(1)研究特征，(2)人工智能应用特征，(3)评估结果和关键发现综合相关研究。考虑到研究与实践之间的差距，我们还为未来的研究提供了建议，以检查和评估人工智能在临床实践中的实施。gydF4y2Ba

系统检讨是按照“系统检讨及综合分析的首选报告项目”指引进行的[gydF4y2Ba 23gydF4y2Ba]。我们在2020年6月检索了PubMed、Embase、Cochrane Central和CINAHL，以确定在临床实践中实施的人工智能应用的相关文章。我们将搜索范围限制在2010年1月至2020年5月期间发表的英文同行评议期刊文章。我们选择2010年作为起点，是因为医疗领域的人工智能研究已经开始起步。gydF4y2Ba

我们使用两组关键词来识别出版物的标题、摘要和关键词中的术语。第一组关键词是与人工智能相关的术语，包括“人工智能”、“机器学习”和“深度学习”。值得注意的是，人工智能是一个广泛的术语，也包括特定的人工智能技术，如神经网络、支持向量机、决策树和自然语言处理。然而，使用这些技术的研究极有可能在摘要或关键词中使用“人工智能”或“机器学习”[gydF4y2Ba 24gydF4y2Ba]。第二组关键字包含与临床实现相关的术语，包括“临床”、“健康”、“医疗保健”、“医疗”、“实现”、“实现”、“部署”、“部署”和“采用”。搜索策略的详细信息可在gydF4y2Ba 多媒体附录1gydF4y2Ba．gydF4y2Ba

我们使用EndNote X9 (Thomson Reuters)下载并导入了所有已识别的文章，以便进行引文管理。在去除重复后，两位研究者(JY和KYN)独立筛选了被识别文章的标题和摘要，以确定他们的资格。分歧通过作者之间的讨论来解决，直到达成共识。纳入标准如下:(1)该研究在现实临床环境中对患者或医疗保健提供者实施了人工智能应用;(2)人工智能应用通过模拟医疗保健提供者的临床决策过程(如医学图像解读和临床风险评估)提供决策支持。医疗硬件设备，如x光机、超声波机、手术机器人和康复机器人，不在我们的范围之内。gydF4y2Ba

排除标准如下:(1)研究讨论了临床AI算法的开发和验证，但没有实际实施;(2)人工智能应用提供了自动化(例如，自动胰岛素输送和监测)，而不是决策支持;(3)针对非临床任务的人工智能应用，如生物医学研究、操作任务和流行病学任务。我们还排除了会议摘要、综述、评论、模拟论文和正在进行的研究。gydF4y2Ba

在文章选择之后，我们创建了一个数据图表形式，从纳入的文章中提取以下方面的信息:(1)研究特征，(2)人工智能应用特征，(3)评估结果和关键发现(gydF4y2Ba 文本框1gydF4y2Ba）.gydF4y2Ba

我们在2020年6月的初步检索总共返回了17,945篇期刊文章(PubMed 6830篇，Embase 9124篇，CINAHL 839篇，Cochrane Central 1152篇)(gydF4y2Ba 图1gydF4y2Ba）.我们首先确定并排除了2541个重复。之后，通过筛选题目和摘要，我们排除了15322篇文章。因此，还有82篇文章有待全文综述，其中45篇纳入本综述。此外，我们通过检查纳入文章的参考文献，使用人工智能相关关键词浏览ClinicalTrial.gov，并手动搜索人工智能领域的主要计算机科学期刊和会议，确定了六篇相关文章(gydF4y2Ba 多媒体附录1gydF4y2Ba）.最终，共有51篇文章符合我们的纳入标准。gydF4y2Ba

表1gydF4y2Ba总结了作者、发表年份、研究设计、涉及的患者和卫生保健提供者以及涉及的医院[gydF4y2Ba 25gydF4y2Ba-gydF4y2Ba 75gydF4y2Ba]。如图所示gydF4y2Ba 图2gydF4y2Ba在过去十年中，纳入的研究数量呈上升趋势，最近在2019年达到峰值，这表明该领域的研究活动正在加速。gydF4y2Ba

在研究设计方面，51项研究包括20项观察性研究(17项前瞻性研究和3项回顾性研究)、13项随机对照试验(rct)、8项实验性研究、4项前后对照研究、3项调查、1项随机交叉试验、1项非随机试验和1项结构化访谈。值得注意的是，观察性研究可以根据数据收集的时间分为前瞻性和回顾性研究。在前瞻性研究中，研究人员在任何受试者患病或产生其他感兴趣的结果之前设计研究并计划数据收集程序。在回顾性研究中，研究人员收集当前和过去受试者的现有数据，即在研究人员开始研究设计和数据收集之前，受试者可能患有该疾病或出现其他感兴趣的结果。gydF4y2Ba

在51项研究中，29项(57%)明确提到了所涉及的患者，其中两项的样本量小于30人。另一方面，28项(55%)研究提供了有关所涉保健提供者的信息，其中17项研究只有10个或更少的提供者。gydF4y2Ba

此外，46项(90%)研究提到了涉及的医院或诊所(gydF4y2Ba 图3gydF4y2Ba）.其中，36项研究是在发达国家进行的，其中20项在美国进行，5项在英国进行，澳大利亚、加拿大和日本各2项，德国、以色列、西班牙和荷兰各1项，美国和韩国各1项。相反，在发展中国家进行了10项研究，其中8项在中国进行，1项在印度进行，1项在印度和肯尼亚进行。gydF4y2Ba

考虑到纳入研究类型的异质性，我们仅使用Cochrane协作偏倚风险工具(Cochrane Collaboration risk of bias)评估了13项rct的偏倚风险(gydF4y2Ba 多媒体附录2gydF4y2Ba) [gydF4y2Ba 76gydF4y2Ba]。总的来说，rct的总得分范围为0 [gydF4y2Ba 57gydF4y2Ba]至6 [gydF4y2Ba 44gydF4y2Ba，gydF4y2Ba 65gydF4y2Ba，gydF4y2Ba 69gydF4y2Ba]，平均值为3.84。具体来说，有8项研究报道了随机序列生成[gydF4y2Ba 33gydF4y2Ba，gydF4y2Ba 44gydF4y2Ba，gydF4y2Ba 62gydF4y2Ba，gydF4y2Ba 65gydF4y2Ba，gydF4y2Ba 69gydF4y2Ba，gydF4y2Ba 71gydF4y2Ba，gydF4y2Ba 72gydF4y2Ba]，三项研究明确指出，分配是隐藏的[gydF4y2Ba 62gydF4y2Ba，gydF4y2Ba 65gydF4y2Ba，gydF4y2Ba 72gydF4y2Ba]。只有两项研究是双盲的[gydF4y2Ba 66gydF4y2Ba，gydF4y2Ba 71gydF4y2Ba]。在两项研究中，参与者的盲法均未成功[gydF4y2Ba 62gydF4y2Ba，gydF4y2Ba 72gydF4y2Ba在六项研究中都不清楚[gydF4y2Ba 44gydF4y2Ba，gydF4y2Ba 46gydF4y2Ba，gydF4y2Ba 54gydF4y2Ba，gydF4y2Ba 57gydF4y2Ba，gydF4y2Ba 69gydF4y2Ba，gydF4y2Ba 70gydF4y2Ba]。7项研究结果评价的盲法不成功[gydF4y2Ba 33gydF4y2Ba，gydF4y2Ba 46gydF4y2Ba，gydF4y2Ba 62gydF4y2Ba，gydF4y2Ba 65gydF4y2Ba，gydF4y2Ba 69gydF4y2Ba，gydF4y2Ba 70gydF4y2Ba，gydF4y2Ba 74gydF4y2Ba在一项研究中还不清楚[gydF4y2Ba 57gydF4y2Ba]。三项研究没有明确说明他们是否有纳入参与者的完整数据[gydF4y2Ba 57gydF4y2Ba，gydF4y2Ba 66gydF4y2Ba，gydF4y2Ba 77gydF4y2Ba]。所有13项研究的选择性报告偏倚风险均较低。其他潜在的偏倚来源包括样本量小[gydF4y2Ba 62gydF4y2Ba，gydF4y2Ba 70gydF4y2Ba，gydF4y2Ba 72gydF4y2Ba]，短暂的学习期[gydF4y2Ba 62gydF4y2Ba]，以及缺乏关于随机对照试验和随访的详细信息[gydF4y2Ba 57gydF4y2Ba，gydF4y2Ba 66gydF4y2Ba]。gydF4y2Ba

在这51项研究中，有两项没有披露有关所使用人工智能技术的任何信息。在剩下的49项研究中，最受欢迎的ML技术是神经网络(n=22)，其次是随机森林(n=3)、贝叶斯模式匹配(n=3)、支持向量机(n=2)、决策树(n=2)和深度强化学习(n=2)。我们还发现，纳入的AI应用程序主要在以下四类临床任务中提供决策支持:疾病筛查或分诊(n=16)、疾病诊断(n=16)、风险分析(n=14)和治疗(n=7)。此外，人工智能在46项(94%)研究中的应用针对一种或多种特定疾病和病症。最常见的疾病和病症是败血症(n=6)、乳腺癌(n=5)、糖尿病视网膜病变(n=4)、息肉和腺瘤(n=4)、白内障(n=2)和中风(n=2)。人工智能应用特征的详细信息见gydF4y2Ba 多媒体附录3gydF4y2Ba．gydF4y2Ba

我们将回顾研究中的评估结果分为以下四种类型:人工智能应用的性能、临床结果、患者结果和成本效益gydF4y2Ba 表1gydF4y2Ba和gydF4y2Ba 多媒体附录4gydF4y2Ba．gydF4y2Ba

人工智能应用在增强临床医生决策、改善临床护理流程和患者治疗效果以及降低医疗成本方面具有巨大潜力。我们的综述旨在识别和总结已经在现实临床实践中实施的人工智能应用的现有研究。它产生了以下有趣的发现。gydF4y2Ba

首先，我们注意到，考虑到关于医疗保健人工智能的大量研究，纳入的研究数量少得惊人。特别是，大多数卫生保健人工智能研究都是概念验证研究，重点是人工智能算法的开发和使用回顾性临床数据集的验证。相比之下，只有少数研究在临床环境中实施和评估人工智能。然而，为了确保安全采用，人工智能应用程序应该提供可靠的科学证据，证明其相对于护理标准的有效性。因此，我们敦促卫生保健人工智能研究界与卫生保健提供者和机构密切合作，展示人工智能在现实临床环境中的潜力。gydF4y2Ba

其次，超过三分之二的纳入文章来自发达经济体，其中一半以上来自美国，这表明发达国家处于卫生保健人工智能开发和部署的前沿。这与顶级健康人工智能公司和初创企业(如谷歌健康、IBM沃森健康和巴比伦健康)主要位于美国和欧洲的事实是一致的。这一发现应该谨慎解释，因为我们排除了非英语写作的文章，尽管我们的搜索已经确定了890篇非英语出版物。我们没有纳入这些非英语文章，因为由于翻译困难和差异，很难进行公正的分析。文章在国家或经济发展状况上的分布不平衡，可能是由于低收入国家的研究人员发表率非常低。gydF4y2Ba

然而，值得注意的是，我们的文章中有8篇(16%)来自中国，这表明中国一直在广泛应用医疗人工智能并开展医疗人工智能研究。事实上，医院、科技公司和中国政府一直在推动临床人工智能的部署，目的是缓解医生短缺，缓解医疗资源不平等，降低医疗成本[gydF4y2Ba 79gydF4y2Ba-gydF4y2Ba 82gydF4y2Ba]，中国研究人员已经获得了在国际英文期刊上发表论文的能力。gydF4y2Ba

第三，未来临床人工智能评价的研究质量有待提高。我们的综述显示，只有13项(26%)研究是随机对照试验，其中大多数存在中至高偏倚风险。8项研究为实验研究，均采用交叉设计或受试者内设计，易受混杂效应影响。在样本信息方面，只有8项(16%)研究同时提供了患者和卫生保健提供者的信息，14项(28%)研究使用的样本量小于20 (gydF4y2Ba 表1gydF4y2Ba)，限制了其结果的普遍性。在评价设计方面，三分之一的研究(n=17, 33%)没有纳入对照组(gydF4y2Ba 多媒体附录4gydF4y2Ba)，限制了与当前最佳实践相比识别人工智能应用附加价值的能力。鉴于医疗保健提供者可能对不同性能和可靠性的不同人工智能系统持有不同的看法，如果研究提供对人工智能系统架构、准确性或可靠性性能以及可能的风险的透明描述，将会有所帮助。不幸的是，在我们的回顾中，21项研究没有提供有关人工智能应用程序架构的足够信息[gydF4y2Ba 25gydF4y2Ba，gydF4y2Ba 29gydF4y2Ba，gydF4y2Ba 32gydF4y2Ba，gydF4y2Ba 34gydF4y2Ba，gydF4y2Ba 37gydF4y2Ba，gydF4y2Ba 44gydF4y2Ba，gydF4y2Ba 46gydF4y2Ba，gydF4y2Ba 50gydF4y2Ba，gydF4y2Ba 52gydF4y2Ba，gydF4y2Ba 54gydF4y2Ba，gydF4y2Ba 56gydF4y2Ba-gydF4y2Ba 62gydF4y2Ba，gydF4y2Ba 65gydF4y2Ba，gydF4y2Ba 68gydF4y2Ba，gydF4y2Ba 70gydF4y2Ba，gydF4y2Ba 75gydF4y2Ba]和22项研究没有揭示人工智能的性能和可能的风险[gydF4y2Ba 26gydF4y2Ba，gydF4y2Ba 29gydF4y2Ba，gydF4y2Ba 34gydF4y2Ba，gydF4y2Ba 37gydF4y2Ba，gydF4y2Ba 39gydF4y2Ba，gydF4y2Ba 46gydF4y2Ba，gydF4y2Ba 48gydF4y2Ba-gydF4y2Ba 50gydF4y2Ba，gydF4y2Ba 52gydF4y2Ba，gydF4y2Ba 54gydF4y2Ba，gydF4y2Ba 56gydF4y2Ba-gydF4y2Ba 62gydF4y2Ba，gydF4y2Ba 64gydF4y2Ba，gydF4y2Ba 65gydF4y2Ba，gydF4y2Ba 68gydF4y2Ba，gydF4y2Ba 69gydF4y2Ba]。此外，考虑到一些自适应临床人工智能应用不断纳入最新的临床实践数据和已发表的证据，对人工智能应用进行定期监测和重新校准以确保它们按预期工作是很重要的。最后，我们发现超过一半的研究(n= 29,57%)只调查了评估结果的一个方面(gydF4y2Ba 多媒体附录4gydF4y2Ba）.我们鼓励未来的研究对临床人工智能应用的质量及其对临床医生、患者和医疗机构的影响进行更全面的评估。这将有助于在同一临床领域对替代人工智能解决方案进行比较和选择。gydF4y2Ba

第四，我们的分析表明，尽管在某些情况下，人工智能应用程序可以提供有效的决策支持。例如，人工智能在临床决策能力中的增强作用可能会受到专业水平的影响。特别是，两项研究表明，初级医生比高级医生更有可能从人工智能中受益，因为他们在遇到不确定的人工智能建议时，更倾向于重新考虑和修改他们的临床决策[gydF4y2Ba 38gydF4y2Ba，gydF4y2Ba 47gydF4y2Ba]。然而，值得注意的是，人工智能有时会产生误导。例如，我们综述中的一项研究推测，由于阅读经验有限，实习内窥镜医师可能会对人工智能筛查工具的假阳性结果感到困惑，从而忽略人工智能标记的小肠粘膜破裂病变[gydF4y2Ba 26gydF4y2Ba]。因此，对于未来的研究来说，研究在什么情况下医生可以从人工智能应用中获益更多是很重要的。然而，我们乐观地认为，当人工智能技术足够成熟和准确，成为循证的最佳实践时，它的使用将成为未来常规临床护理的一部分。gydF4y2Ba

在接受人工智能方面，我们观察到，在两项研究中，卫生保健提供者对人工智能表达了负面情绪[gydF4y2Ba 37gydF4y2Ba，gydF4y2Ba 56gydF4y2Ba]，这表明在将人工智能纳入日常工作流程中存在障碍。然而，对人工智能实施障碍的详细阐述将是冗长的，并且超出了本工作的范围，我们建议感兴趣的读者参考Kelly等人的报告[gydF4y2Ba 8gydF4y2Ba]， Ngiam和Khor [gydF4y2Ba 83gydF4y2Ba]， lysight等[gydF4y2Ba 84gydF4y2Ba]， Shaw等[gydF4y2Ba 10gydF4y2Ba]， Yu和Kohane [gydF4y2Ba 12gydF4y2Ba]查阅详情。gydF4y2Ba

第五，对于大多数纳入的关于患者结局的研究，我们发现他们没有详细检查临床过程和干预措施。然而，如果没有适当和有用的干预措施，人工智能应用可能无法改善患者的预后。例如，Bailey等人[gydF4y2Ba 28gydF4y2Ba发现仅仅告知护理人员临床恶化风险并不能改善高危患者的预后。需要有效的针对患者的干预措施。因此，未来的研究可能会设计和评估以患者为导向的干预措施，以提高人工智能应用的临床有效性。gydF4y2Ba

此外，有三项纳入的研究表明，由于医疗人工智能的便利性和高效性，患者及其家属对其非常满意[gydF4y2Ba 41gydF4y2Ba，gydF4y2Ba 44gydF4y2Ba，gydF4y2Ba 57gydF4y2Ba]。然而，情况并非总是如此。先前的研究表明，患者更倾向于接受人类提供者的初级护理，而不是人工智能，即使卫生保健提供者的护理带来更高的误诊风险[gydF4y2Ba 85gydF4y2Ba]。原因是他们认为人工智能在考虑他们的独特情况时能力较弱。此外，患者可能会贬低有临床决策支持系统辅助的医生，认为他们的能力和专业程度不如没有辅助的同行[gydF4y2Ba 86gydF4y2Ba]。应该考虑进一步研究患者对健康人工智能应用可能存在的担忧和抵制。gydF4y2Ba

最后，根据埃森哲的一项调查，超过一半的医疗机构乐观地认为，尽管实施人工智能的初始成本很高，但人工智能将降低成本并提高收入[gydF4y2Ba 87gydF4y2Ba]。然而，只有一项纳入的研究记录了人工智能实施的经济结果。这凸显了在临床实践中对人工智能应用进行更多成本效益分析的必要性。gydF4y2Ba

这篇综述有几个局限性。首先，我们只收录了同行评议的英文期刊文章。一些相关的文章是用其他语言写的，或者是在会议、研讨会和新闻报道中发表的。如前所述，这可能部分解释了审评文章的国家分布不平衡。此外，我们没有包括2010年之前发表的文章，因为人工智能在过去十年中才开始在临床领域取得进展，这在我们的搜索结果中很明显。此外，我们只回顾了高级计算机科学会议和期刊，而没有全面检查工程和计算机科学数据库。这应该不是一个问题，因为我们发现计算机科学会议和期刊主要关注新的人工智能算法的训练和验证，而没有实际部署。不过，未来的研究可以扩大搜索范围，以更深入地了解最先进的临床人工智能算法。gydF4y2Ba

另一个担忧是，一些人工智能应用可能已经在现实世界的临床实践中实施，但没有任何公开的出版物。例如，IDx-DR是第一个获得fda批准的人工智能系统，已在爱荷华大学医疗保健等20多家医疗机构实施。gydF4y2Ba 88gydF4y2Ba]。然而，我们的搜索只发现了一个相关的已发表结果[gydF4y2Ba 25gydF4y2Ba]。临床从业者应该在未来的日常实践中更加积极地报告人工智能的评估和使用结果。gydF4y2Ba

人工智能应用在改善患者治疗效果和改善护理过程方面具有巨大潜力。根据本综述中提出的文献，随着越来越多的高质量证据的产生，人们对开发人工智能工具来支持临床工作流程非常感兴趣。然而，目前还没有足够的一级证据支持常规使用卫生保健人工智能进行决策支持，这阻碍了卫生保健人工智能的发展，并对患者安全构成潜在风险。因此，我们得出结论，重要的是进行稳健的随机对照试验，将人工智能辅助护理过程和结果与当前最佳实践相比较。对医疗保健人工智能进行严格、稳健和全面的评估将有助于从理论转向临床实践。gydF4y2Ba