《最后一英里:人工智能遇到现实

试图将信息技术与人们使用它的方式分开，就像试图将呼吸与吸入它的肺分开一样。我们与科技有着千丝万缕的联系，我们塑造科技的同时，科技也塑造了我们。人类和机器共同构成一个更大的社会技术系统，这一观点是我们理解现代世界的基础。1]。

过去对人工智能(AI)等新兴技术的社会技术教训应该不足为奇[2]。在这些古老的教训中有一条格言，即技术的应用应由手头的问题而不是技术来决定。[3.]。虽然技术创新开辟了新的解决方案类别，但只有现实世界才能告诉我们哪些问题最值得解决，哪些解决方案类别最合适。由此推论，技术驱动的解决问题的成功演示并不一定意味着它是该问题的最佳解决方案，甚至也不意味着该问题很重要。

因此，人工智能研究有两大议程[4]。第一个是技术上的，追求新的方法、架构和技术，推动机器智能的边界。第二个是应用议程，我们关注实施问题，扩展我们对如何在社会技术世界中最好地利用技术的理解。

我们对新技术的热爱所付出的风险是，我们可能看不到技术的体系。对于人工智能，许多研究都集中在展示技术在临床任务上的成功，如图像解释、诊断或治疗方案[5]。有许多令人信服的理由让我们将这种技术演示的平衡转移到实际应用中，尤其是因为仍然需要许多技术飞跃来解决具有挑战性的实际问题。

数据驱动技术(如机器学习)的发展分为三个阶段(图1）.一旦诊断等任务被选择用于算法开发，在“第一英里”中，数据将被获取，可能被标记，并进行预处理或“清理”。接下来是中间一英里，重点是开发和测试使用这些数据构建的不同算法的技术性能。只有在最后一英里，算法才会嵌入到现实世界的流程中，并测试对现实世界结果的影响。

‎ 查看此图

每一英里都有自己的挑战。“第一英里问题”包括收集和管理高质量数据的基本挑战。对于机器学习等通常依赖于大量高质量数据的技术来说，数据采集的瓶颈转化为技术应用的障碍。中间一英里是数据驱动算法开发的所有挑战的大本营，包括管理偏差、可复制性、因果推理、避免对训练数据的过度拟合，以及增强所开发的任何模型和算法的通用性。

在最后一英里，我们面对的现实是，人工智能不能自己做任何事情。它必须以某种方式连接到现实世界的流程，并且它对这些流程的影响需要是相应的。正是在这一点上，为自己而开发的技术很快就会陷入困境。例如，证明机器学习可以像人类一样，甚至比人类更好地解释甲状腺癌扫描是一回事——这是一项技术壮举。6];这是另一个有意义的壮举。在目前的情况下，甲状腺癌被过度诊断和过度治疗，我们不一定需要更好的诊断。相反，我们需要更细致、不那么激进的管理方法。7]。

因此，最后一英里的挑战是实施的挑战，对于研究人员来说，是实施科学的挑战。这些挑战存在于许多层面，包括:

• 测量人工智能性能的标准指标与它完成分配任务的程度有关。我们传统上使用诸如灵敏度、特异性和受检者工作特性曲线下面积(AUC)等性能指标。然而，在高技术性能和对临床结果的实际影响之间必须发生一长串事件。在这个信息价值链的早期阶段取得成功是必要的，但不足以保证在现实世界中产生影响[8]。因此，评估真实世界的性能需要从测量技术准确性转向评估对过程和人员的影响。像AUC这样的测量方法在临床环境中也会产生误导[9]。AUC衡量算法在整个接收机工作特性曲线上的整体性能，而理想的实际操作可能最好限制在其中的一个部分[10]。
• 概化与校准当人工智能在历史数据上进行训练时，其未来的表现取决于新数据与历史数据的匹配程度。一个常见的实现挑战是，在一个群体的数据上开发的高性能算法在用于另一个群体时性能会下降，这反映了数据集中事件的频率和性质的潜在差异。出于这个原因，人工智能可能需要针对特定的终端人群进行调整。在许多情况下，这一最终种群也将是动态的，由于季节性疾病转移等经常性事件、种群特征的变化以及疾病暴发等意外新事件而变化。这意味着人工智能可能需要定期或动态地重新校准，以反映人口的变化。我们还需要密切监测人工智能的表现，以发现其行为的变化，表明需要重新校准[11]。更具挑战性的事实是，人工智能改善结果的效率越高，其性能可能会下降得越快，因为它的成功可以改变其模型中的预测因子与结果之间的关联[12]。
• 当地的环境实现科学的一个基本原则是，嵌入技术的上下文的差异与性能的变化有关。如果我们把一个组织看作一个由人员、流程和技术组成的网络，那么支撑任何两个组织的网络显然是不同的。实施可以被看作是将一项新技术或过程融入一个预先存在的组织网络的行为，技术与网络的契合度将对组织绩效产生任何影响[13]。总的来说，对于人工智能，对于数字健康，或者对于任何新的流程或技术，都是如此。更复杂的是，组织网络本身是动态的。因此，一项技术的影响将随着时间的推移而变化，因为它“适应”组织网络的方式会发生变化，也可能是因为它自己的存在——过去的连接将消失或被新的连接所取代。

软件世界已经进行了根本性的转变，从将软件开发视为从用户需求开始并以最终用户测试结束的线性过程，转变为将用户嵌入快速迭代过程的敏捷过程，该过程自适应地使软件适合用户。实现科学必须走同样的道路，尤其是动态变化的人工智能。

人工智能的发展不应被视为从第一英里延伸到最后一英里的线性旅程。这样做的风险是最终产品不能满足现实世界的需求，就像软件一样。相反，实现应该被看作是一个敏捷的、迭代的、轻量级的过程，即获取训练数据、开发算法，并将其制作成工具和工作流。在再利用一般技术和建筑之间找到适当的平衡，以满足当地的需要是至关重要的。[14]。无论哪种方式，人工智能都不应该在远离使用它们的地方被创造出来。理想情况下，他们应该出生在他们最终生活的网络深处。