大多数关于人工智能(AI)研究、创新和应用的日常新闻和最近发表的科学论文都提到了所谓的机器学习算法——使用大量数据和各种方法来寻找模式、支持决策、做出预测，或者在深度学习部分，自我识别数据中的重要特征。然而，人工智能是一个难以理解的复杂概念，大多数人对它到底是什么知之甚少。人工智能于1956年作为一门学科成立，尽管它很年轻，但已经有了丰富的历史[ 1， 2]。在60多年的探索和进步中，人工智能已经成为一个涉及多学科方法的大型研究和发展领域，以应对许多挑战，从理论框架、方法和工具到实际实施、风险分析和影响措施。人工智能的定义是一个移动的目标，随着时间的推移随着领域的发展而变化。从早期开始，人工智能领域已经允许开发许多支持决策支持和预测的技术，因为它通常是由人类做出的。早在1958年，人们就期望感知器能够“走路、说话、看、写、自我复制，并意识到自己的存在”，这导致了神经网络和符号推理方法之间的巨大科学争议[ 3.]。人工智能研究的前景包括知识表示和工程;基于规则和符号推理;时间推理和规划;感觉和知觉;学习;进化的，新兴的，社会行为;以及移动和操纵物体的能力，最重要的是 4-具有自主特征提取的深度机器学习。这是本文的观点，然而，最近有一种趋势将人工智能限制在后者，即自主深度机器学习。作为广阔景观的结果，该领域通过哲学，数学，信息科学，计算机科学，心理学，人类学，社会科学，语言学和许多其他学科吸引了大量的人。对于一些专家和有远见的人，如Ray Kurzweil，深度机器学习将允许建立一个人工通用智能，能够自主发展，并有能力理解或学习人类可以完成的任何智力任务，甚至远远超出人类智能的极限。 5]，但大多数专家都认为，尽管最近在量子计算方面取得了潜在的重要进展，但仍有一些重大的缺失，而且距离实现这一目标还有很长的路要走[ 6]。欧盟委员会最近发表了一份由人工智能高级专家组成员撰写的白皮书，在几页纸中概述了人工智能是什么、它的主要能力、适用的期望和所涉及的学科[ 7]。

就整个人工智能领域而言，有必要强调的是，人工智能如今已经广泛应用于医学领域。基于知识工程和基于规则系统的决策支持在计算机供应商订单录入系统中得到了广泛的应用。在起搏器或除颤器中实现了先进的信号处理以做出决定，在具有人机界面的耳蜗植入物中实现了先进的信号处理，在心电图中实现了信号分析和自动诊断等。

人工智能领域本身就很有抱负，有望为医学做出重大贡献，从研究到以公民为中心的健康。机器学习和深度学习引领了人工智能领域最近的重大突破，比如声音(语音和音乐)识别、图像(面部、放射学、病理学、皮肤病学等)识别以及游戏领域。最近，图像识别几乎达到了一个成熟的水平，通过它可以被人工智能领域的非专家使用和开发[ 8， 9]。然而，在过去的几年里，围绕人工智能的炒作已经建立了很高的期望和同样高度的恐惧。在商业市场上广泛出现的基于自主深度学习的系统仍然很少。

AI的世界大致可以概括为三个顺序叠加的行为:

第一幕:人类教机器处理数据和信息。

第二幕:人类向机器传授专业知识。

第三幕:人类教机器独立学习。

当涉及到医学时，人工智能领域有许多挑战需要解决。其中大多数并非仅限于医药和卫生领域，但它们的加入使这些目标的实现难度大大增加。

人工智能领域的许多方面都需要对什么是真实有一个很好的认识。知识工程构建“已知”或“相关”的图形，例如在SNOMED CT(系统化医学术语-临床术语)或开放生物和生物医学本体铸造中制作的图形[ 33， 34]。这同样适用于基于规则的技术或符号推理，它们需要能够表达规则，即以形式化的方式表达真理，但也适用于监督机器学习方法，这需要具有表达真理的训练集，至少是概率真理。在这些方法中有很多期望，特别是在对它们进行梳理时[ 35， 36]，但除了无监督深度机器学习之外，所有这些都需要一些真相来源，这就导致了一个基本问题，即在生命科学中寻找真相来源，以及支持该真相的证据水平。乍一看，这似乎是一个微不足道的问题。然而，“真相”往往“迷失在文字中”，因为在大多数情况下，消息来源依赖于复杂的叙事，将它们所传达的信息语境化。此外，“真理”也被稀释了。例如，每天有超过2500篇论文被Medline/PubMed收录[ 37]，专家几乎不可能掌握自己研究领域发表的所有内容。最后，从本质上讲，科学是不断发展的，因此，曾经是正确的科学“真理”今天可能不再是正确的。例如，直到最近人们才知道有两种类型的淋巴细胞——B细胞和T细胞。然而，Rizwan等人最近发表的一篇论文[ 38]描述了一种具有B细胞和T细胞特征的新型淋巴细胞，它可能在某些疾病(如糖尿病)中发挥驱动自身免疫的作用[ 38]。事实的来源及其特征，如证据的水平或其使用背景，变得越来越重要。这应该对所有人开放，类似于Cochrane [ 39]，涵盖生命科学的所有领域;维护;并且是机器可读的形式。

在科学领域，信任与建立证据密切相关。信任不仅在科学界，而且在整个科学界，对于建立采纳、政治支持和公众接受都很重要。2019年夏天，皮尤研究中心(Pew Research Center)发布的一项调查显示，公众中出现了一种积极的趋势:科学是为善的，但也有对诚信、透明度和偏见的担忧。总体而言，86%的美国人表示他们至少对科学家有“相当程度”的信心[ 40]。其中一个挑战是科学的可靠性经常与可信度相混淆[ 41]。科学证据可能非常有力，例如免疫接种或基于网络的健康信息，但信任度可能低得多[ 42， 43]。在建立对科学的信任方面，人们讨论了很多方面，但它们可以概括为三个概念，一个是针对科学家和组织的，一个是针对研究对象的，一个是针对研究过程的。诚信是第一也是最重要的，包括科学诚信、资金、利益冲突等。透明度必须体现在动机、结果和过程上。最后，用于处理过程的方法必须是强大和健壮的。建立证据需要考虑许多方面，如偏见、普遍性、可重复性和可解释性。在大数据和人工智能方面，有些挑战更加困难。数据采集和流的适当控制通常比传统的对照研究更困难。结果是数据具有特定的属性，这些属性并不总是得到很好的管理，例如选择偏差。有时，限制使用分析工具的假设没有得到很好的理解，例如许多统计检验的均方差。 In addition, deep machine learning is facing the challenges of precise reproducibility and explainability. The latter is currently the object of numerous works, trying to understand intermediate representation of data in neural networks that can predict and explain their behavior. Explainability and interpretability are often used interchangeably. Interpretability is the extent to which it is possible to predict how the system will behave, given a change in input or algorithmic parameters. On the other hand, explainability is the extent to which the internal mechanics of the deep learning system can be understood and thus explained. Molnar [ 44]在GitHub上发布了一个非常好的问题概述。然而，可解释性可能不是提高全球对深度机器学习方法信任的最佳途径，尤其是在解释本身难以解释的情况下。其他一些方面，如透明度、可重复性或不确定性资格可能更有效[ 45]。例如，在 科学2018年，赫特森[ 46]报告了一项对在主要会议上发表的400篇人工智能论文的调查，其中只有6%的论文包含算法代码和30%的测试数据，因此大大限制了可重复性的可能性[ 46]。

FAIR指导原则是使人和机器都能发现和处理数据的指导原则。它们最初由Wilkinson等人发表[ 47]。公平的指导原则是基于列出的一套标准 文本框1：

已经定义了几个框架来评估和评估FAIR标准的合规性，例如FAIR成熟度工具[ 48， 49]。因此，公平数据并不意味着数据在开放数据空间[ 50]。访问可以受到限制，例如在Harvard Dataverse中，这是需要强调的重要一点。由于国家法规、隐私保护、知识产权等原因，在开放数据空间中获取数据或元数据可能会受到很多限制。FAIR数据不提供数据;他们在获得授权的条件下使数据可用。

FAIR倡议至关重要。它说明了过去十年开始的数据从对象到资产的移动，并在Sabina Leonelli的文章中进行了描述[ 51]最近发表于 自然．

该计划提倡使用符合标准和正式描述的富元数据框架。它促进对描述性信息和协议的免费和开放资源的使用。它允许我们建立一个可共享资源的框架，可以用于处理，而无需在开放空间中实际共享数据。FAIR允许构建一个框架，该框架包含所有数据源，包括那些受授权的数据源，具有明确和开放的协议。

在大数据时代，隐私需要特别关注。限制访问未识别信息的通常范例在保护隐私方面正变得越来越不有效。与数据链接技术相关联的关于我们每个人的异构数据源和数据丰富性的增加，极大地增加了重新识别的可能性，包括匿名数据[ 52- 57]。对遗传信息的挑战和潜在影响甚至更大[ 58- 60]。没有好的技术解决方案可以协调保护隐私的挑战，并满足数据驱动科学对访问大型基因组和表型数据集日益增长的需求，并且有许多正在进行的伦理和法律讨论[ 61- 66]。有趣的是，这并不局限于科学领域，同样也适用于患者对健康信息的需求。 67]。有必要对隐私、公民、政策制定者、学生、研究界和所有利益相关者的影响和风险进行更好的全球教育。最近的范围检讨[ 68]表明科学界对匿名化和去识别化的理解是不同的[ 68]。歧视是侵犯私隐的其中一项主要风险，而披露私隐资料可引致多种后果[ 69- 71]，包括报销和保险范围[ 72， 73]。重要的是找到naïve实证主义和非理性偏执之间的正确路径。重要的一步是提高所有利益相关者对隐私的认识和教育，保护隐私的技术限制，以及建立监管障碍以避免歧视。

医学领域的人工智能和大数据才刚刚起步;他们长得很快。他们能否好好成长，仍是一个悬而未决的问题，未来将给出答案。然而，如果不积极帮助他们，他们就不会很好地成长。有几项重要举措有助于实现这一目标，例如全球基因组学与健康联盟(GA4GH)，该组织制定了尊重人权的政策和技术框架，使负责任的基因组数据共享成为可能[ 74]或欧盟一般资料保护规例(GDPR) [ 75为欧盟制定了一项全新的隐私法规。这些举措正趋向于建立一种环境，使科学成为可能，同时在改善个人权利保护方面建立信任。我邀请读者访问Web上提供的JMIR开放获取集合，主题包括:“大数据”、“卫生专业人员决策支持”和“人工智能”[ 76- 78]。