利用电子健康记录预测住院心脏骤停患者的死亡率和再入院率:一种机器学习方法

简介

背景

在美国，每年约有20.9万名患者经历院内心脏骤停(IHCA) [1］．生存到出院的比率约为14%，只有7%的IHCA患者能够重新获得独立生活或部分独立生活[2］．为了减少IHCA对个人生活或社会的严重影响，确定改善IHCA结果的措施至关重要。

之前的工作

IHCA幸存者及其神经预后的预后因素和预测工具已在先前的研究中确定[3.-8］．然而，早期预警系统预测IHCA幸存者死亡率的证据是有限的。目前已经开发了使用生理跟踪和触发系统(TTSs)的早期预警评分系统，用于识别有IHCA风险或其他严重后果(包括死亡)的患者[9-11］．大多数TTSs依赖于病房工作人员对生命体征的常规观察。虽然许多患者可以用这种方法进行监测，但支持使用TTSs的证据质量很差。具体而言，大多数TTSs敏感性低，阳性预测值低，特异性高[12，13］．除了IHCA后的高死亡率外，IHCA后的再入院有很大的成本负担，并与合并症有关。预测再入院事件为适当干预和降低卫生保健成本提供了机会，包括进一步再入院[14，15］．

我们的研究

在这里，我们首先从国家健康保险研究数据库(NHIRD)中提取IHCA队列。我们基于NHIRD的历史电子健康记录(EHRs)评估了他们的风险。为了提供足够长的临床干预窗口期，我们使用IHCA后30天的死亡率和再入院率作为我们的预测目标。与TTSs相比，EHRs由医生编写，包含一些重要的医疗信息，包括患者的诊断和管理。为了获得更好的性能，我们开发了一种新的深度学习模型，层次矢量器(HVec)，以分析患者的历史EHRs并预测死亡率和再入院率。本研究旨在证明，通过适当的数据集和学习策略，我们可以根据IHCA患者的病史声明预测其结果，并帮助临床医生设计更有效的干预方案。

方法

数据收集

本研究获国立台湾大学医学院机构评审委员会批准。从NHIRD中提取的IHCA队列包括超过9年(2002年1月1日至2010年12月31日)至少发生过一次IHCA事件的168,693例患者。台湾国民健康保险计划是台湾唯一的健康保险计划，覆盖台湾99.99%的人口[16］．NHIRD包含住院和门诊(诊所或急诊科)的所有健康记录;然而，这些记录不能具体地与每个病人联系起来。研究期间使用了《国际疾病分类第九修订版》(ICD-9)进行诊断和医疗程序。NHIRD包含医疗信息，包括性别、年龄、诊断、医疗程序、手术、用药、实验室检测、护理地点、出院状态和每次医院就诊费用。实验室检测结果和床边信息，包括生命体征、血压和体检，不包括在NHIRD中。

IHCA人群由ICD-9程序代码为99.60(心肺复苏，未另行规定)和99.63(闭式胸心按摩)的住院患者记录定义[17］．我们使用了提取、转换和加载(ETL，参见图1)将原始数据处理成一个干净的数据库，以消除缺失或无效信息的记录。清理后的数据库中的原始数据被重新分组为三个主要类别(保险公司、个人和护理人员)，以改进数据组织。此外，词汇表是基于提取的概念，在原始数据中使用。

‎ 查看此图

实验数据集

数据集中的168,693名患者被分为三个数据集:训练、验证和测试。训练数据集(数据集的70%)用于训练每个模型。其余30%的患者在验证数据集和测试数据集之间平均分配，以调整超参数(表1)，并分别评估模型性能。

为了进行比较，我们对死亡率和再入院率训练了两个单任务模型。为了不影响验证和测试数据集的分布，只对训练数据集进行人员上抽样和事件加权。F1评分和受试者工作特征下面积(AUROC)是我们的主要评价指标。

输入特性

在对数据集的回顾性回顾中，每个人都可能在9年内有多次到该医院的临床记录(住院/门诊)。每个临床记录都被设定为一个分析单位。对于每一个临床记录，信息被提取并分组为输入和目标特征(见表2而且3.)．输入特征包括以下五个主要组:

1. 病历由五种编码组成，临床病历中的所有编码都映射到40多万个临床概念。可从该组确定当前记录中患者的健康状况。
2. 人口统计包括目标患者的年龄、性别和信息。
3. 护理场所信息包括患者接受治疗的临床机构信息。
4. 记录统计数据提供了有关记录的长度(按天计算)、每种国际疾病分类(ICD)代码类别中的代码数量以及所涉及的总货币成本的信息。这可以帮助模型在记录水平上估计患者疾病的严重程度。
5. 历史信息描述了以前的住院和入院情况。在我们的模型中，它被用来估计患者的整体健康状况。

目标

研究人员设定了30天的阈值，以预测患者是否会在30天内死亡或重新入院。当患者有住院或门诊死亡记录或在IHCA后病危出院时，定义死亡率。对于再入院，预测患者是否在出院后1 - 30天内再入院。与其他死亡率研究相比，我们的研究排除了有死亡率的记录(0天死亡率记录)。这种策略的主要目的是减少这些记录中特征的“泄漏”。我们的初步结果显示，死亡率记录的特征通常包含明确表明患者死亡率的信息(如呼吸衰竭)。事实上，这些特征是预测死亡率的重要因素。然而，这类病例对我们的模型并不有利，因为这些患者病情严重，很难进行任何干预治疗。此外，这些特征与死亡率的高度相关性会导致模型依赖于它们而低估其他潜在的预测因素。为避免漏失，使模型关注其他预测因素，将死亡记录设为阴性类，既往死亡记录(30天内)设为阳性类。

在临床实践中，患者IHCA和出院后30天的结局是非常有趣的。心脏骤停后30天死亡率或再入院率(CA;ca -死亡率/ ca -再入院)是30天死亡率或再入院的子集。在本文的其余部分，all -mortality/ all -再入院将用于表示所有记录的30天死亡率或再入院。CA死亡率/CA再入院是指CA后30天的死亡率或再入院(图2)．

‎ 查看此图

全癌死亡率/全癌再入院比CA死亡率/CA再入院更常见，因为大多数人在第一次CA事件后无法存活。这意味着当我们想要预测一个CA康复患者的未来结果时，我们没有足够的阳性病例进行分析。

层次矢量器

每条记录被构造成一个707维向量，用于进一步训练。基于表1，除ICD代码特征(文本特征)外，所有特征都可以用一次性编码向量化。ICD编码特征直接从健康记录中提取。利用医学知识嵌入系统Text2Node将文本特征嵌入向量[18］．ICD代码的五个类别中的每一个类别都可以包含来自单个记录的多个ICD代码，并且所有代码被添加在一起作为给定类别的单个代码(参见图3作为一个例子)。Text2Node从大量的医学知识库中训练而来，可以有效地将文本医学概念转化为潜在空间，同时保留相似概念之间的关系。

‎ 查看此图

对于每个临床记录，通过将所有特征向量分层地连接到组向量(见图4)，得到临床记录载体。在根据日期对每个临床记录向量进行排序后，使用时间序列技术训练一个模型来预测每个记录的结果。

‎ 查看此图

模型架构

深度循环神经网络(RNNs)已被证明是预测时间序列数据的强大工具。在临床研究中，使用rnn特别是长短期记忆(LSTM)进行临床预测已被广泛研究[19-21］．受到崔的启发[19]，我们提出了一个基于LSTM网络的HVec模型(图5)．在这个框架中，记录编码器是一个完全连接的层，它为每个临床记录独立生成记录嵌入。记录嵌入是一个潜在的载体，它包含了代表当前临床记录的所有信息。这个潜在向量被用作LSTM的输入来更新人向量(即患者状态)。然后用这个人向量来预测我们的目标。

‎ 查看此图

然而，大多数先前的研究都是基于一个相对平衡的数据集。正如我们前面指出的，ca死亡率/ ca再入院率的分布是极其不平衡的。使用极度不平衡的数据集训练LSTM网络总是具有挑战性的，因为如果没有精心设计的训练策略，模型可能会有偏差(即预测所有记录的负类)。为了解决这个问题，提出了两种不同的训练策略来缓解训练步骤中的模型偏差:

1. 引入多任务学习框架，将多个相关学习任务结合起来，使梯度正则化，缓解训练过程中的数据不平衡问题。
2. 在个体水平上，CA死亡率/CA再入院记录被上抽样，在记录水平上，CA记录被赋予更高的权重。

多任务学习

提出了多任务学习框架，并在HVec输出中添加了几个辅助相关任务(图6)．在这个框架中，主要功能是死亡率和再入院率。这里，我们没有将每个主要任务输出分别划分为ALL-mortality/ all -再入院和CA-mortality/ ca -再入院，而是认为输出涵盖了两者，因为后者是前者的子集。尽管分布不同，但它们仍然可以通过提出的人员上抽样和CA记录加权(在下一节中描述)同时实现。受之前研究的启发[22]，引入三个辅助自编码器任务来帮助模型学习嵌入(图6)．还引入了两个自监督回归任务，以允许嵌入“记住”当前成本并预测未来成本。此外，考虑到我们在之前的分析中观察到IHCA与死亡率的相关性，我们实施了另一个分类任务来预测记录是否为IHCA记录。

为了监测不同任务的梯度，用辅助任务规范学习过程，采用了Du等的定理1 [23］．

定理1给定任意梯度向量场G(θ^(t)) =∇_θ(θ)(1)表示主要任务和一个任意矢量场V(θ)^(t))表示来自另一个辅助任务的梯度，更新策略使用:

θ^{(t + 1)}: =θ^(t)-α^(t)(G(θ^(t)) + v (θ^(t)) + max (0, cos(G(θ^(t)), V(θ^(t))))（2）

用适当的可以覆盖到局部最小。

根据这一定理，HVec可以对大数据集进行学习和收敛。

‎ 查看此图

人员上抽样和CA记录加权

虽然在多任务学习中可以监测来自不同任务的梯度，但对于严重不平衡的数据集(例如CA-mortality)，辅助任务可能无法正则化主要任务。当我们训练HVec模型时，一个人的所有记录都被视为单个连续记录，并一起输入模型。因此，在每批中，批大小等于该批中的人数。与所有记录的数量相比，每个人的CA记录数量相对较少。与all死亡率和all再入院率相比，ca死亡率和ca再入院率较低。

加权策略[24]从两个角度解决了这一问题:在个体层面，每批有ca死亡率/ ca再入院记录的患者都有向上抽样(见图7）;在记录水平上，赋予CA记录更高的权重，以使目标函数对CA死亡率/CA再入院记录更敏感。对有ca死亡/ ca再入院记录的患者进行抽样，可以保证在个人层面上有更多的ca死亡/ ca再入院记录[25］．

为CA记录分配更高的权重也可以通过相应修改损失函数来强调训练过程中的CA记录。考虑N-loss函数{L₁L,…_N}对应于辅助任务，损失函数可写成(3)。

在哪里(4)是一个函数，如果括号中的语句为真，则等于1，否则为0;w_pos而且w_负的分别为正类权重和负类权重。结合公式1中的梯度更新策略，HVec可以有效地从极度不平衡的数据集中学习。

‎ 查看此图

结果

概述

在过去的9年里，从NHIRD中总共提取了168,693名患者和4,622,079份临床记录，其中3,052,601份记录(牙医记录、传统医学记录或当地诊所记录)被排除，因为这些记录集中在重复的条件下，主要是给机器学习模型添加了噪声(图8)．

‎ 查看此图

清理后的数据库中有1,569,478份临床记录，包括住院和门诊记录，来自168,693名至少经历过一次IHCA事件的患者(平均每人记录数量:9.30,SD为10.90)。结果表明数据集不平衡，其中最不平衡的任务是ca死亡率，比率为0.53%。研究人群的特征总结在表4．共有173345份IHCA记录(占总临床记录的11.04%)，平均每人1.02份IHCA记录。数据集中患者年龄从0岁(新生儿)到118岁(平均年龄68.66岁，标准差18.96岁)，其中女性104691例，男性64002例。总体而言，164322例(97.4%)患者仅发生过一次CA, 4174例(2.4%)患者发生过两次CA，只有197例(0.2%)患者发生过两次以上CA。87,311例患者死亡(死亡率为51.75%)。在这87,311例患者中，82,225例患者在首次住院期间死亡(94.17%;图9)．

‎ 查看此图

实验一:单任务学习与多任务学习

本实验未采用人员上抽样和事件加权。模型性能总结在表中5而且6．

如表5，多任务学习可以在AUROC和F1评分方面改善all -死亡率和ca -死亡率的模型性能。基于单任务和多任务结果，与ALL-mortality task相比，极度不平衡的CA-mortality task在性能上有相对较高的改进。但由于比例不平衡，精度相对较低，这也影响了F1的得分。此外，ca死亡率的F1评分太低，不适合实际应用。

如表6多任务学习对再入院预测的改善没有对死亡率预测的改善那么显著。此外，在ca -再入院预测中，F1评分和精度降低。

在本实验中，与单任务学习相比，多任务学习在ALL-mortality和ALL-readmission方面表现更好。然而，多任务学习无法解决极度不平衡的数据集。

实验二:提高CA预测性能

实验1表明，由于数据集极度不平衡，基于ca死亡率和ca再入院数据，模型难以做出良好的预测。在本实验中，我们证明了通过应用人员上抽样和事件加权，我们可以进一步提高ca -死亡率和ca -再入院的表现，而不会显著影响all -死亡率和all -再入院。在我们的实验中，上采样率表示在一批中对阳性类别(ca死亡或ca再入院患者)进行了多少次上采样，上采样率为1意味着我们没有进行上采样。CA事件权重表示损失的权重w_pos在方程3中，我们总是设w_负的= 1。我们在实验中使用了不同的上采样率和事件权重。我们的结果总结在表格中7而且8，包括先前关于单任务模型性能的结果(每个表的第一行)。

总的来说，与30天死亡率任务相比，不平衡的30天死亡率任务在应用平衡技术时表现出更大的性能提升。如表7，在上抽样和事件加权后，模型对all死亡率和ca死亡率都表现出改善。对于ca死亡率，F1评分增加了36.7%(从0.049增加到0.067)。

与all -死亡率和ca -死亡率相似，应用这两种技术后，all -再入院和ca -再入院的AUROC和F1评分都有所增加。基于的结果表8，在ca再入院预测中实现了微小但一致的增加。然而，all再入院预测没有显著改善。这是因为对于一个更加平衡的数据集，上抽样和事件加权不会对学习过程产生很大影响。

综上所述，结果表明，多任务学习、上采样和事件加权可以有效地提高模型对不平衡数据集的预测性能。我们还表明，这些技术可以共同用于一个极端不平衡的数据集，以获得更好的结果。

讨论

在这项研究中，我们构建了一个大型患者数据库，其中包括超过16.8万名IHCA患者9年的电子病历，可用于未来IHCA相关研究。此外，我们开发了一个HVec模型(LSTM模型)，该模型使用多任务学习策略来预测30天的死亡率和再入院率。

结果表明，我们的模型可以成功地预测IHCA患者的未来死亡率和再入院数据。在本研究中，我们提出了个人上抽样和记录加权策略来处理极度不平衡的数据问题。应用这些技术后，在ca死亡率和ca入院预测方面取得了一些改进。

与其他使用深度学习模型预测CA后另一个IHCA事件的研究相反[26]，我们的研究重点是预测IHCA患者出院后的未来结局。据我们所知，这是第一个通过机器学习预测IHCA事件后死亡率和再入院率的研究。该模型可作为IHCA患者的监测系统。在不久的将来有高死亡率或再入院风险的患者可以在出院前进行识别和重新评估。该研究还证明了另一种模型的潜力，即在使用以前的电子病历记录(ALL-mortality/ all - remission)后预测未来的死亡率和再入院率。该模型可能有助于识别住院和门诊情况下的高风险人群。然而，与本研究中选择的患者相比，普通人群的死亡率和再入院率有所不同。利用医院电子病历和NHIRD中的患者信息，我们可以构建一个基于机器学习方法的实时警报系统，以预测IHCA幸存者的不良事件，并改善他们的预后。需要进一步的前瞻性研究来验证该系统在一般人群中的效用。

一些研究报告了预测CA患者预后的模型[8］．在对现有预测模型的系统回顾中，AUROC值中位数为0.84,IQR为0.80至0.89 [8］．Chan等人报道，对于IHCA幸存者，院内复苏后心脏骤停生存(CASPRI)评分可用于预测出院后良好的神经预后[3.］．CASPRI评分的AUROC为0.80。Nanayakkara等人使用深度学习模型预测CA幸存者的IHCA事件，AUROC为0.87 [26］．在我们的研究中，我们遇到了数据不平衡的困难。使用适当的学习策略，我们获得了类似的AUROC值(ca死亡率0.808,ca再入院率0.862)。但由于数据不平衡，本研究的查全率和查准率较低。这是我们要解决的挑战。在使用历史医疗记录预测结果时，在许多情况下，记录包含可能表明结果的信息。例如，危急诊断和抢救药物往往与死亡率有关。包含这些类型的信息可以促进训练，并提供较高的AUROC和F1;然而，模型本身的用途有限。在我们的研究中，为避免过拟合，将死亡率记录设置为负类。 In further studies, the model may be improved by adjusting the threshold to optimize the trade-off between specificity and sensitivity.

在我们的HVec框架中，我们将每个人的ehr编码为两个潜在向量级别(记录级和人级)，并确保模型同时使用无监督自编码器策略进行学习。这些潜在载体的预测结果是有希望的。这两个层面的潜在病媒可能被进一步探讨，以促进临床医生的决策和提供更好的临床干预。此外，人载体可作为生物标志物，在医疗保健环境之外评估一个人的整体健康状况。以及一些最近开发的模型，如深度病人[22]和MixEHR [27]，我们表明，使用深度神经网络从电子病历中提取信息可能解决复杂的临床研究问题。

数据分布不平衡在临床研究中很常见，特别是在与疾病相关的预测中。与常见疾病相比，许多重要疾病缺乏阳性病例，难以培养出好的模型。在之前的研究中[19]，作者试图通过使用平衡的分布式数据集来解决这个问题，并使用平衡的数据集训练深度学习模型。同样，在这项涉及ca死亡率和ca再入院率的研究中，我们证明了通过仔细设计模型学习策略(如多任务学习和上抽样)，可以用机器学习模型有效地解决临床研究中的一些常见问题。

本研究有一定的局限性。首先，IHCA队列是从NHIRD中回顾性提取的。需要进一步的研究来评估该模型作为早期预警系统的有效性，并确定该系统如何影响患者的结果。其次，由于我们的模型是基于NHIRD开发的，因此没有证明该模型对其他健康保险数据集的泛化。第三，由于研究设计的原因，没有将每位患者的生命体征和实验室数据纳入分析。电子病历和患者临床数据的结合可能会进一步提高模型的性能。第四，传统的机器学习方法存在可解释性的局限性。在本研究中，30天死亡率/再入院的具体危险因素尚不清楚。在未来的研究中，我们计划建立一个可解释的模型，并研究模型中的具体预测因素。

总之，我们的模型在预测IHCA后30天死亡率和再入院方面表现良好，可以帮助临床医生更好地监测CA患者的状态。我们的目标是为临床医生提供更多的前瞻性干预建议。然而，深度学习模型的解释能力仍然存在挑战。我们未来的工作将主要集中在使用电子病历训练的模型的解释能力。