在医学领域释放人工智能和大数据的力量

简介

大多数关于人工智能(AI)研究、创新和应用的每日新闻和最近发表的科学论文都提到了所谓的机器学习——使用大量数据和各种方法来寻找模式、支持决策、进行预测，或者对于深度学习部分，自我识别数据中的重要特征。然而，人工智能是一个难以掌握的复杂概念，大多数人对它的真正含义知之甚少。人工智能作为一门学科成立于1956年，尽管它还很年轻，但已经有了丰富的历史[1，2］．在60多年的探索和进步中，人工智能已经成为一个涉及多学科方法的大型研究和开发领域，以应对许多挑战，从理论框架、方法和工具到实际实施、风险分析和影响措施。人工智能的定义是一个移动的目标，并随着该领域的发展而变化。自早期以来，人工智能领域已经允许开发许多支持决策支持和预测的技术，因为这些技术通常是由人类做出的。早在1958年，感知器就被期望能够“行走、说话、看、写、自我复制并意识到自己的存在”，这导致了神经网络和符号推理方法之间的巨大科学争议[3.］．人工智能研究的前景包括知识表示和工程;基于规则和符号的推理;时间推理和计划;感觉和知觉;学习;进化的、新出现的社会行为;还有移动和操纵物体的能力，这是最重要的[4——具有自主特征提取的深度机器学习。这是论文中所采取的观点，但也承认，最近有一种趋势将AI限制为后者，即自主深度机器学习。由于广阔的视野，这一领域涵盖了哲学、数学、信息科学、计算机科学、心理学、人类学、社会科学、语言学和许多其他领域。对于一些专家和有远见的人，如雷·库兹韦尔，深度机器学习将允许建立一个人工通用智能，能够自主发展，并有能力理解或学习人类可以完成的任何智力任务，甚至远远超出人类智能的极限[5]，但大多数专家都会同意，尽管量子计算最近可能取得重要进展，但仍有一些重大的缺失，而且距离实现这一目标还有很长的路要走[6］．欧盟委员会最近发布了一份白皮书，由人工智能高级别专家组成员撰写，在几页的篇幅内，对人工智能是什么、它的主要能力、适用的期望和涉及的学科进行了很好的概述[7］．

在整个人工智能领域，重要的是要强调人工智能今天已经广泛应用于医学。基于知识工程和规则系统的决策支持在计算机供应商订单输入(CPOE)中得到了广泛的应用。先进的信号处理应用于心脏起搏器或除颤器以作出决定，应用于具有人机界面的人工耳蜗，应用于心电图以提供信号分析和自动诊断等。

人工智能领域本身就很有抱负，预计将对医学做出重大贡献，从研究到以公民为中心的健康。机器学习和深度学习引领了人工智能领域最近的重大突破，如声音(语音和音乐)识别和图像(面部、放射学、病理学、皮肤病学等)识别，以及游戏领域。最近，图像识别几乎达到了一个成熟的水平，通过它可以被人工智能的非专家使用和开发[8，9］．然而，在过去的几年里，围绕人工智能的炒作已经建立了很高的期望和同样的高度恐惧。在商业市场上广泛出现的基于自主深度学习的系统仍然非常少。

人工智能的世界大致可以概括为三个连续和叠加的行为:

第一幕:人类教机器处理数据和信息。

第二幕:人类向机器传授专业知识。

第三幕:人类教会机器独自学习。

挑战

在医疗领域，人工智能领域有许多挑战需要解决。其中大多数并不专属于医药和卫生领域，但它们的加入使目标的实现难度大大增加。

贝叶斯的陷阱

一般来说，医学和健康决定因素通常具有基本的贝叶斯性质。在贝叶斯概率方法中，需要一个先验概率来评估预测的强度。

在医学上，大多数用来建立诊断的方法都属于贝叶斯方法。例如，如果一个人发烧，那么他是流感的概率是多少?如果一个人的血糖值很高，那么他患糖尿病的概率是多少?为了说明贝叶斯陷阱，让我们举一个简单的例子——怀孕测试。这是一个简单的测试;它可以是正的，也可以是负的。让我们想象一下，我们使用一个经典的测试，它有99%的敏感性和95%的特异性。如果对100人进行100次检测，5人呈阳性，问题是，知道其中有多少人是孕妇。这个问题被定义为确定一个阳性测试的阳性预测值，它给出了一个阳性测试的概率，真正标志着测试所测试的因素的存在。要回答这个问题，我们需要知道在测试人群中怀孕的先验概率。 To understand this, imagine that 100% men were tested; in this case, none of the 5 positive tests would correspond to a pregnant woman. Similarly, if all persons tested are pregnant woman, then all 5 positive tests would correspond to pregnant women. If the prior probability is around 1%, then applying the Bayesian rules returns that the probability to be pregnant when a test is reported positive is about 17%. This means that about 4 of 5 tests are false positive. At the other end, if the prior probability is around 20% (ie, a woman with several factors suggesting a potential pregnancy), the probability of a positive test to be a true positive is above 80%. Thus, less than one test out of five is a false-positive. The example shows the major consequences of the prior probability in Bayesian situations.

这些都是人工智能的后果。模型必须考虑到它们所使用的总体的先验概率。即使在文献中报告结果时，也应该更好地理解这一点，通常限于特异性和敏感性。另一个结果只有当几个集中的和近乎完美的系统在复杂的情况下一起使用时才会显现出来。例如，有许多系统，每个系统都有自己的假阳性率，最终可以得到具有所有假阳性的总和的合并系统。CPOE的决策支持系统已经很好地证明了这一点，假阳性警报率非常高，特别是在接受复杂药物治疗的患者中[10，11］．

监管迷宫

目前医学上使用的大多数诊断或治疗手段都必须通过复杂的监管框架才能获得市场批准。监管机构的决策大多基于安全性、证据和附加值。此外，卫生机构经常根据质量调整生命年和疾病负担等各个维度，通过使用残疾调整生命年等指标来进行医学经济评估[12-14］．因此，这些决定具有经济和法律后果，包括问责制。讨论了监管机构的作用，特别是围绕正在进入市场的主题，如图像识别[15］．例如，联邦药物管理局(Federal Drug Administration)已发起了一项“作为医疗设备的软件中的人工智能和机器学习”的输入呼吁[16］．这是一个重要的方面，因为监管机构的支持是建立大多数护理专业人员使用医疗工具的信任的重要资产，也是公司投资于可投放市场的强大产品的重要资产。然而，这要求我们在不阻碍创新的情况下，定义一个明确的监管框架、适当的评估流程和基准工具[17］．

教育和实践差距

医学是一门拥有众多工具和设备的科学，从听诊器到手术刀，从显微镜到扫描仪，评分，指南等等。大多数这些工具和设备都需要教育，有时还需要使用它们的护理专业人员进行非常具体的认证，更不用说良好的体验了。软件、算法和其他决策支持系统也应该如此。然而，事实并非如此。使用软件和理解像计算机化病人记录一样重要的系统的教育往往很少。当涉及到大数据和人工智能时，这方面的教育就更糟糕了，通常根本不存在。只有极少数医学院向未来的卫生专业人员教授人工智能的使用。人工智能应该成为世界上所有医学院的必修课。专家们从20年前就开始提出这个问题，但直到最近才真正受到关注。18-22］．在5-10年内，当当前的年轻学生将开始他们的临床活动时，基于数据科学的机器学习将嵌入许多活动、设备和软件中，其使用、滥用和过度使用以及对患者和问责制的后果将取决于用户如何掌握它。23］．

数据质量交叉

在谈到大数据和分析时，数据质量是一个反复讨论的话题。大数据时代的特征之一是，数据的使用目的往往与激发数据获取的目的不同。这与医学中传统的假设-演绎科学方法有显著区别，在传统的假设-演绎科学方法中，假设导致方法设计，而方法设计本身将导致具体的数据采集。在大数据时代，数据生成过程的主要目标往往完全独立于数据的可能使用。值得强调的是，长期临床队列和长期生物库面临着类似的挑战。为生物银行设计长期队列和建立元数据框架和标准操作程序是重要的挑战，因为它们必须在初始设计后数年才能实现项目使用。

这些问题导致了相应的文献处理数据质量和临床数据的二次使用问题。然而，大部分工作试图描述能够评估数据“内在”或“绝对”质量的维度[24-28］．另一种方法可能是采用“适合目的”的方法，这种方法只考虑数据的定量和描述性属性，允许进一步处理。任何数据集的“定性”属性只能与特定的次要用途结合起来进行评估。这意味着相同的数据集将适用于回答一些科学问题，而不适用于回答其他问题。数据本身没有“好”或“坏”之分;当它们被用于特定的环境时，它们是“好”或“坏”的:“适合目的”评估。这是FAIR数据倡议的主要目标之一，旨在确保“后验数据可用性(见下文)。

“数据质量差异”的一个意想不到的后果是它对修改获取过程的影响，特别是在临床环境中。人们经常听到这样的句子:“临床数据的质量不足以用于研究。”因此，向更结构化的数据采集过程转变的压力一直存在。例如，实体瘤反应评估标准(RECIST)指南旨在标准化实体瘤肿瘤试验治疗的放射学评估标准。这已经成功地用于试验。使用RECIST需要良好的经验，以避免观察者之间的可变性，这可能高达20% [29-31］．这一评估已经过调整，以反映放射反应的变化，例如，在免疫疗法中，尽管治疗反应良好，但肿瘤的大小可能会增加[32］．不幸的是，有越来越大的压力要求将RECIST和其他类似结构的分期指南的使用扩展到所有放射分期的临床试验之外，以提高使用标准临床护理进行治疗评估的能力。因此，这给放射科的操作活动带来了很大的时间压力，越来越多没有经验的人使用这些类型的分期。随着语音识别和自然语言处理等自然界面的发展，以及它们在越来越多的设备中日常使用的增加，我主张避免人为构造许多数据采集过程，并保持数据最自然的形式，利用更自然的交互，如语音和文本，并开发强大的自然语言处理工具，可以应用于在后处理步骤中产生结构化信息。这将允许在需要新的结构化资源时重新处理所有的叙述。

追求真理

人工智能领域的许多方面都需要对什么是真实的有很好的认识。知识工程构建“已知”或“相关”的图形，例如在SNOMED CT(医学系统化命名法-临床术语)或开放生物和生物医学本体铸造[33，34］．这同样适用于基于规则的技术或符号推理，它们需要能够表达规则，即以形式化的方式表达真理，但也适用于监督机器学习方法，这需要有表达真理的训练集，至少是一个概率真理。在这些方法中有很多期望，特别是在对它们进行梳理时。35，36]，但除了无监督深度机器学习之外，所有这些都需要一些真理的来源，这就导致了在生命科学中寻找真理的来源以及支持真理的证据水平的根本问题。乍一看，这似乎是一个微不足道的问题。然而，“真相”往往“迷失在文本中”，因为在大多数情况下，消息来源依赖于复杂的叙事，将其所传达的信息置于语境中。此外，“真相”也被大大稀释了。例如，Medline/PubMed每天索引超过2500篇论文[37)，对于一个专家来说，几乎不可能抓住在自己研究领域发表的所有文章。最后，从本质上讲，科学是在发展的，因此，曾经是正确的科学“真理”在今天可能不再是正确的。例如，直到最近，人们才清楚地知道有两种类型的淋巴细胞——B细胞和T细胞。然而，Rizwan等人最近的一篇论文[38]描述了一种新型淋巴细胞，它同时具有B细胞和T细胞的特征，可能在某些疾病(如糖尿病)的自身免疫中发挥作用[38］．真相的来源及其特征，如证据水平或使用背景，越来越重要。这应该对所有人开放，类似于Cochrane [39]，涵盖生命科学的所有范畴;维护;而且是机器可读的形式。

建立信任

在科学领域，信任与建立证据密切相关。信任不仅在科学界很重要，在整个科学界也很重要，可以建立采纳、政治支持和公众接受。2019年夏天，皮尤研究中心发布的一项调查显示，公众中出现了一种积极的趋势:科学为善，但也存在诚信、透明和偏见的担忧。总的来说，86%的美国人说他们至少对科学家有“相当大的”信心。40］．其中一个挑战是，科学的可靠性常常与可信赖性相混淆。41］．科学证据可能非常有力，例如免疫接种或基于网络的健康信息，但信任度可能低得多[42，43］．在建立对科学的信任方面，我们讨论了许多方面，但它们可以概括为三个概念，一个用于科学家和组织，一个用于研究对象，一个用于过程。诚信是第一也是最重要的，包括科学诚信、资金、利益冲突等。动机、结果和过程都必须具有透明度。最后，用于处理流程的方法必须是强大的和健壮的。建立证据需要考虑许多维度，如偏差、泛化性、可重复性和可解释性。在大数据和人工智能领域，一些挑战更加困难。数据采集和流动的适当控制通常比传统对照研究更困难。结果是，数据具有特定的属性，而这些属性并不总是得到很好的管理，比如选择偏差。有时，限制使用分析工具的假设没有很好地理解，例如许多统计检验的同方差。 In addition, deep machine learning is facing the challenges of precise reproducibility and explainability. The latter is currently the object of numerous works, trying to understand intermediate representation of data in neural networks that can predict and explain their behavior. Explainability and interpretability are often used interchangeably. Interpretability is the extent to which it is possible to predict how the system will behave, given a change in input or algorithmic parameters. On the other hand, explainability is the extent to which the internal mechanics of the deep learning system can be understood and thus explained. Molnar [44]在GitHub上的一本公开书中发表了一篇关于这个问题的很好的概述。然而，可解释性可能不是提高深度机器学习方法的全球信任的最佳途径，尤其是在解释本身很难解释的情况下。其他一些维度，如透明度、可重复性或不确定性资格可能更有效[45］．例如，在科学2018年，Hutson [46]报道了一项对大型会议上发表的400篇人工智能论文的调查，其中只有6%包含算法代码，30%包含测试数据，因此极大地限制了再现性的可能性[46］．

数据希望

FAIR指导原则是使数据可被人类和机器发现和处理的指导原则。它们最初由威尔金森等人发表[47］．FAIR指导原则是基于一套标准文本框1：

已经定义了几个框架来评估和评估对FAIR标准的合规性，例如FAIR成熟度工具[48，49］．因此，FAIR数据并不意味着数据属于开放数据空间[50］．访问可能会受到限制，例如在Harvard Dataverse中，这是需要强调的重要一点。由于国家法规、隐私保护、知识产权等原因，在开放数据空间中提供数据或元数据可能会受到很多限制。公平数据不提供数据;他们使数据在得到授权的情况下可用。

公平倡议至关重要。它说明了过去十年开始的数据从对象到资产的移动，并在Sabina Leonelli的文章中描述[51]最近发表于自然．

该倡议提倡使用符合标准和正式描述的丰富元数据框架。它促进使用免费和开放的资源来描述信息和协议。它允许我们构建可用于处理的共享资源框架，而无需在开放空间中实际共享数据。FAIR允许构建一个框架，该框架包含所有数据源，包括那些受授权约束的数据源，并具有明确和开放的协议。

私隐新政

在大数据时代，隐私需要特别重视。通常限制访问未识别信息的模式在保护隐私方面正变得不那么有效。不断增加的异构数据源和关于我们每个人的数据的丰富性，与数据链接技术相关联，极大地增加了重新识别的可能性，包括匿名数据[52-57］．对基因信息的挑战和潜在影响甚至更大[58-60］．没有好的技术解决方案可以协调保护隐私的挑战，并满足数据驱动科学访问大型基因组和表型数据集的日益增长的需求，并且有许多正在进行的伦理和法律讨论[61-66］．有趣的是，这不仅局限于科学领域，同样适用于患者对健康信息的需求[67］．有必要对隐私、公民、政策制定者、学生、研究界和所有利益相关者的影响和风险进行更好的全球教育。最近的范围检讨[68]表明科学界对匿名化和去身份识别的理解是不同的[68］．歧视是侵犯隐私的主要风险之一，披露隐私信息可能会产生多种后果[69-71]，包括报销和保险范围[72，73］．在naïve实证主义和非理性偏执之间找到正确的道路是很重要的。向前迈出的重要一步是提高所有利益攸关方对隐私、保护隐私的技术限制以及建立监管障碍以避免歧视的认识和教育。

结论

医学领域的人工智能和大数据尚处于起步阶段;他们长得很快。他们能否成长得很好仍然是一个悬而未决的问题，未来将会给出答案。然而，如果不积极地帮助他们，他们就不会很好地成长。有几项重要举措有助于实现这一目标，例如全球基因组学与健康联盟(GA4GH)，该组织为尊重人权制定政策和技术框架，以实现负责任的基因组数据共享[74]，或《欧盟一般资料保护规例》[75为欧盟制定了一项全新的隐私法规。这些举措正在朝着建设一个既能促进科学发展，又能在改善个人权利保护方面建立信任的格局靠拢。我邀请读者访问在网上提供的关于以下主题的JMIR开放获取集合:“大数据”、“卫生专业人员的决策支持”和“人工智能”[76-78］．