基于电子病历学习的包埋表示提高急性心肌梗死住院患者预后预测性能:开发与验证研究gydF4y2Ba

简介gydF4y2Ba

电子病历(EMRs)包含各种不同的信息，如人口统计数据、疾病诊断、实验室检测、放射学结果、检查和程序以及药物。EMR数据不仅可以反映患者的健康状况和记录治疗轨迹，还可以帮助医生做出临床决策[gydF4y2Ba1gydF4y2Ba-gydF4y2Ba6gydF4y2Ba]和提高诊疗效率[gydF4y2Ba1gydF4y2Ba,gydF4y2Ba7gydF4y2Ba,gydF4y2Ba8gydF4y2Ba］．EMR数据二次使用的最普遍和最实际的任务之一是建立模型来预测疾病状况[gydF4y2Ba8gydF4y2Ba-gydF4y2Ba10gydF4y2Ba]和治疗结果[gydF4y2Ba11gydF4y2Ba-gydF4y2Ba17gydF4y2Ba]，使用机器学习算法。gydF4y2Ba

然而，EMR数据的高维性、稀疏性和异质性[gydF4y2Ba12gydF4y2Ba,gydF4y2Ba18gydF4y2Ba]为直接将原始数据输入基于机器学习的预测模型带来了许多障碍。一些手动和数据驱动的特征工程方法[gydF4y2Ba15gydF4y2Ba,gydF4y2Ba19gydF4y2Ba]，虽然费时费力，但用于为预测任务选择重要特征或提取有用信息。此外，预测模型的性能在很大程度上依赖于数据的表示。据报道，有效的表示方法可以使下游建模更简单、更灵活，并大大提高预测性能[gydF4y2Ba18gydF4y2Ba,gydF4y2Ba20.gydF4y2Ba］．通过将原始特征转换为紧凑向量，表示学习可以在构建预测模型时更容易自动提取有用信息[gydF4y2Ba16gydF4y2Ba,gydF4y2Ba21gydF4y2Ba,gydF4y2Ba22gydF4y2Ba］．EMR数据的一种广泛使用的表示方法是跳图算法[gydF4y2Ba23gydF4y2Ba]，这是一种分布式嵌入方法，将患者记录视为句子，将医学概念视为单词。跳过图算法中一个不可避免的问题是，与句子中的单词相反，患者记录中的医学概念没有自然顺序，这使得学习具有潜在关联的概念的有意义的表示变得困难。这个问题的一个解决方案是在一个记录中随机洗牌概念，以学习概念嵌入[gydF4y2Ba12gydF4y2Ba,gydF4y2Ba24gydF4y2Ba-gydF4y2Ba26gydF4y2Ba］．它可以在一定程度上减少医学概念的无序属性对算法的影响，但仍未考虑这些概念之间的关联。gydF4y2Ba

急性心肌梗死(AMI)是一种急性缺血性心脏病，是导致死亡的第二大原因。每6例死亡中就有1例死于缺血性心脏病，其中AMI占死亡人数的大多数[gydF4y2Ba27gydF4y2Ba,gydF4y2Ba28gydF4y2Ba］．AMI患者死亡风险预测在临床工作中起着至关重要的作用，有助于医生识别潜在的临床因素，及时预警患者不良健康状况，及早采取干预措施，减少相关医疗费用的负担。因此，研究人员[gydF4y2Ba19gydF4y2Ba,gydF4y2Ba29gydF4y2Ba-gydF4y2Ba31gydF4y2Ba]专注于建立用于AMI患者结局预测的机器学习模型，其中大多数使用特定的临床特征，如实验室检测结果(如白蛋白)、合并症(如糖尿病)和人口统计学数据(如性别)。gydF4y2Ba

在本研究中，我们的目标是从EMR数据中提取的各种结构化特征表示为定长嵌入向量，然后用于提高AMI患者死亡风险预测模型的性能。具体来说，我们将关联强度引入到skip-gram算法中，以学习特征的更多信息表示。我们还介绍了Shapley加法解释(SHAP) [gydF4y2Ba32gydF4y2Ba技术，以促进患者水平的表示，并提高预测模型的可解释性。本文概述了我们所提出的表示学习框架及其应用gydF4y2Ba图1gydF4y2Ba．gydF4y2Ba

‎gydF4y2Ba 查看此图gydF4y2Ba

方法gydF4y2Ba

基于skip - gram的患者表示gydF4y2Ba

表征在概念、特征和患者三个层次上进行分层学习。在概念层面，我们采用了改进的skip-gram算法[gydF4y2Ba23gydF4y2Ba]来表示一个概念为嵌入向量。在自然语言处理领域，skip-gram的基本思想是最大化目标词和上下文词在预定义上下文窗口中出现的概率，使出现在同一个上下文窗口中的词在嵌入空间中更接近。与句子中有自然顺序的词语不同，医疗概念在某一住院患者记录中出现了无序现象。这使得很难确定包含与目标概念相关的概念的上下文窗口，特别是当记录中的概念数量远远大于上下文窗口的大小时。因此，对于记录中的概念，我们使用其与同一记录中的候选概念的关联强度来识别相关概念。关联强度定义为以一个候选概念作为唯一前因(或结果)的关联规则的置信度(公式1)。gydF4y2Ba

置信度(C1, C2) = |C1∩C2| / |C1|gydF4y2Ba(1)gydF4y2Ba

其中C1和C2分别是关联规则C1→C2的前项和后项概念，|C1|和|C1∩C2|分别是包含C1和同时包含C1和C2的患者记录的数量。置信度越大，两个概念之间的联系就越强。将置信度最高的前N个关联规则中的前因(或结果)概念纳入目标概念的上下文窗口。我们称之为上下文概念的选择方案gydF4y2Baantecedent-basedgydF4y2Ba(或gydF4y2Baconsequent-basedgydF4y2Ba)嵌入的。gydF4y2Ba图2gydF4y2Ba提供基于结果的上下文概念选择方案的示例。gydF4y2Ba

‎gydF4y2Ba 查看此图gydF4y2Ba

此外，为了降低大量概念的高维性和稀疏性，同时尽可能保留临床信息，我们根据国际疾病分类第十版(ICD-10)代码和国际疾病分类第九版(ICD-9)代码，在临床专家的帮助下，将疾病诊断和程序概念聚合为几个有临床意义的特征组。如将1型糖尿病和2型糖尿病的疾病诊断归为糖尿病特征组。患者记录中来自同一特征组的所有概念嵌入向量的平均值被视为患者在特征级别的表示。gydF4y2Ba

患者层面的表征是特征层面表征的加权和。特征权重是在预测任务的指导下获得的，表明了患者表现中涉及的每个特征的重要性。在本研究中，我们使用SHAP值作为特征权重。SHAP框架是一种基于博弈论思想的机器学习解释技术。它用一个不同但简单的模型来近似一个训练好的预测模型，该模型可以很容易地以SHAP值的形式计算预测模型中每个特征的贡献，并执行添加性特征归因来解释特征的组合[gydF4y2Ba32gydF4y2Ba］．SHAP值为正或负表示对预测的影响为正或负。然后，一个特征的重要性被计算为所有样本中其绝对SHAP值的平均值。gydF4y2Ba

实验与评价gydF4y2Ba

数据集与数据预处理gydF4y2Ba

在这项研究中，我们使用了一个公共数据集，即免费访问的重症监护数据库重症监护III医疗信息集市(mimi -III数据集[gydF4y2Ba33gydF4y2Ba])，以及用于实验的私有数据集。gydF4y2Ba

mimi - iii数据集收集于2001年6月至2012年10月之间，涉及马萨诸塞州波士顿贝斯以色列女执事医疗中心重症监护室收治的46,520名患者。它包括患者的健康信息，如人口统计数据、生命体征、实验室检测结果、药物、程序、诊断代码和临床记录。信息丰富的MIMIC-III数据集被广泛应用于一些医疗机器学习建模和算法评估，为研究人员建立模型和评估算法提供了强有力的数据支持[gydF4y2Ba14gydF4y2Ba,gydF4y2Ba18gydF4y2Ba］．gydF4y2Ba

私人数据集来源于2014年1月至2016年12月中国北京首都医科大学宣武医院三级医院EMR系统。患者特征包括入院和出院信息、人口统计数据、疾病诊断、实验室检查、检查和程序、药物、胸部x线或彩色超声检查的放射学报告。gydF4y2Ba

我们分别从公共和私人数据集中提取了3010和1671名AMI患者的记录。通过ICD-9代码410.01至410.91或ICD-10代码I21和I22确认AMI诊断。来自公共和私人数据集的患者中，分别有254例(8.1%)和103例(6.2%)在医院死亡。gydF4y2Ba

我们保留了患者的首次住院数据来评估所提出的方法。两组数据均保留了人口统计学数据(年龄和性别)和以下ami相关特征:至少95%患者进行的ami相关实验室检查项目，从放射报告中提取的ami相关放射特征[gydF4y2Ba34gydF4y2Ba]， 7种常用处方药，以及所有记录在案的疾病诊断和程序。对于多次进行的实验室检查，只保留第一次检查的结果(通常在入院时)，这可以反映病人的健康状况和病情严重程度。gydF4y2Ba

自自然语言处理领域最初提出以来，跳过图算法被用于训练离散单词或符号的嵌入。因此，要使用跳跃式图算法对结构化数据进行嵌入表示，所有患者特征都应该是分类的，其中每个离散值都被视为一个概念。例如，男性和女性是性别的两个概念。与原始分类特征(如性别、疾病诊断、程序和药物)可能保持不变不同，年龄和实验室检测结果等连续变量必须离散成两个或多个概念。年龄离散为>60岁和≤60岁2个概念。每个实验室检测结果参照临床标准离散为2个概念(正常和异常)。总共识别出3326和1073个医学概念，并进一步在公共和私人数据集中分别聚合到104和108个特征组(gydF4y2Ba表1gydF4y2Ba)．私有数据集和公共数据集的所有特征组都列在gydF4y2Ba多媒体附件1gydF4y2Ba而且gydF4y2Ba多媒体附件2gydF4y2Ba,分别。gydF4y2Ba

表现评估gydF4y2Ba

为了评估所提出的表示的有效性和优势，我们使用了另外两种简单的参考表示方法，即带有学习的3层自编码器和不带学习的特征选择方法。gydF4y2Ba表2gydF4y2Ba描述所提议的和引用的表示方法的细节。gydF4y2Ba

首先在概念层面对所提出的表示方法进行了评估。采用聚类分析将实验室测试概念聚类为2个聚类进行定量评价。经调整的兰德指数[gydF4y2Ba35gydF4y2Ba](范围从−1到1)用于评估集群解决方案。ARI值越大，对不同真实标签(正常和异常)类别的区分能力越强。我们还应用t分布随机邻域算法将实验室测试概念的嵌入向量投影到二维空间中，以直观地观察嵌入的分布。gydF4y2Ba

提出的表示方法，然后评估在患者水平与下游预测任务使用逻辑回归模型。预测结果为AMI患者住院期间的住院死亡。用于预测的输入是来自中列出的整个特征集的患者表示gydF4y2Ba表1gydF4y2Ba．我们还从整个特征集中提取了一个无治疗特征子集，将药物和程序排除在外，试图阐明所提议的患者表征的表现与表征中涉及的特征相关，并且与治疗相关的特征在预测患者结局方面发挥着至关重要的作用，即使它们已被表示为嵌入向量。gydF4y2Ba

我们将样本按7:3的比例随机分成训练数据集和测试数据集。训练样本首先在离散化向量中表示，并用于构建一个预测模型，用于计算所有特征的SHAP值，以进一步对所有研究样本进行患者嵌入表示。将训练样本和测试样本表示为嵌入向量后，分别用于建立和验证基于逻辑回归的预测模型。受试者工作特征曲线下面积(AUROC)、精确召回曲线下面积(AUPRC)和f1评分是主要评价指标。来自混淆矩阵的其他相关性能指标包括精度、召回率和准确性。为了消除跳过图模型初始化和训练/测试数据集分割带来的性能偏差，我们进行了100次对比实验。在每一轮实验中，重复上述过程。报告了每个性能评估指标的95% CI平均值。gydF4y2Ba

在跳过图算法中，上下文窗口的大小和嵌入向量的维数是通过反复试验确定的。我们在公共数据集上进行了一组预测实验，使用窗口大小为5、10、15和20的可能组合，向量维度为50、100、200和300。实验结果(列于gydF4y2Ba多媒体gydF4y2Ba)表明，窗口大小为10，向量维数为300的跳跃图算法具有最高的表示性能。因此，上下文窗口的大小和嵌入向量的维数分别设置为10和300。我们采用负抽样机制(本研究中有20个负样本)来加速概念嵌入训练过程。其他参数如下:学习率，0.001;迭代次数，50;批大小为64。梯度计算方法为Adam。我们在Python 3.7和TensorFlow 2.0中实现了表示学习、SHAP值计算和预测建模。在患者表征的步骤中，我们使用L2正则化惩罚和“lilinear”求解器对logistic回归模型进行求解，正则化强度的倒数设为0.1。gydF4y2Ba

伦理批准gydF4y2Ba

本研究经首都医科大学宣武医院人体研究伦理委员会批准(批准文号:临床科研2020-070)。gydF4y2Ba

结果gydF4y2Ba

概念表征评价gydF4y2Ba

实验室测试概念的嵌入向量在平面空间(gydF4y2Ba图3gydF4y2Ba)．正常和异常实验室测试的概念(gydF4y2Ba图3gydF4y2Ba)当它们被基于结果的嵌入(gydF4y2Ba图3gydF4y2BaA和3D)比基于前项的嵌入(gydF4y2Ba图3gydF4y2BaB和3E)和基于随机选择的嵌入(gydF4y2Ba图3gydF4y2BaC和3F)。在实验室测试的聚类分析中，基于结果的嵌入比基于前因的嵌入(分别为0.112和0.149)和基于随机选择的嵌入(分别为0.043和0.028)获得了更高的ARIs(在公共和私有数据集上分别为0.317和0.520)。结果嵌入的聚类性能最好，表明结果嵌入可能包含更多的特征关联信息。gydF4y2Ba

‎gydF4y2Ba 查看此图gydF4y2Ba

预测性能gydF4y2Ba

表3gydF4y2Ba而且gydF4y2Ba多媒体附件4gydF4y2Ba分别列出在私有和公共数据集上使用各种表示方法的预测性能。所提出的表示方法，基于结果的嵌入表示的加权和(CON_EM_WGT)，显示出最高的预测性能，使用公共数据集的所有特征和私有数据集的全部特征集和免处理特征集的最大auroc分别为0.878,0.973和0.926。当用AUPRC和F1-score来衡量性能时，无论数据集和特征集如何，所提出的表示方法都优于所有其他方法。gydF4y2Ba

与参考表示法相比，两个数据集上大多数基于嵌入的表示法都表现出了性能改进。在包含整个特征集的公共数据集上，6种有嵌入的表示方法的平均AUROC、AUPRC和F1-score均大于4种没有嵌入的参考方法(分别为0.855 vs 0.831、0.203 vs 0.185和0.354 vs 0.328)。此外，在基于skip-gram算法的6种表示中，基于关联强度进行算法改进的表示的性能优于未进行算法改进的表示。gydF4y2Ba

当将特征表示组合成患者表示时，组装方法和涉及的特征确实很重要。基于加权和思想的表示优于基于平均思想的表示，无论是在具有整个特征集的公共数据集上(AUROC, 0.863至0.878 vs 0.834至0.850)还是在具有整个特征集的私有数据集上(0.967至0.973 vs 0.948至0.957)。另一方面，与未处理的特征集相比，在整个特征集的两个数据集上都实现了一致的优越预测性能。gydF4y2Ba多媒体gydF4y2Ba显示患者表示方法在具有和不具有治疗特征集的公共和私有数据集上的平均预测性能。gydF4y2Ba

预测模型解释gydF4y2Ba

图4gydF4y2Ba说明了预测住院死亡风险时来自私人数据集中的前20个最重要特征的全球特征归因。治疗相关特征在死亡率预测中发挥了重要作用。这些特征包括其他手术(平均绝对SHAP值:0.413)、诊断性超声(0.279)、造影剂心血管造影(0.197)等(gydF4y2Ba图4gydF4y2Ba此外，高血压(平均绝对SHAP值:0.252)和心脏病并发症(0.236)等共病以及血清葡萄糖(0.188)和血清乳酸脱氢酶(0.139)等实验室检查与住院死亡有很强的相关性(gydF4y2Ba图4gydF4y2BaB).公共数据集中特征的SHAP值如gydF4y2Ba多媒体附件6gydF4y2Ba．gydF4y2Ba

除了特征在特定预测任务中的全局重要性外，SHAP值还有助于区分特征的局部重要性，即对单个样本的重要性。gydF4y2Ba图5gydF4y2Ba说明了如何用SHAP值预测在住院期间死亡的患者和另一名未死亡的患者的死亡风险。住院期间死亡患者的大多数特征的阳性SHAP值使总SHAP值从平均值−3.739增加到最终值−0.499 (gydF4y2Ba图5gydF4y2BaA和5C)，这意味着患者的住院死亡风险高于平均水平。在这个增量过程中，性别如女性贡献了+0.21的SHAP值(gydF4y2Ba图5gydF4y2BaC)。相反，活着出院的患者的大多数特征的阴性SHAP值使总SHAP值从−3.739降低到−6.169 (gydF4y2Ba图5gydF4y2BaB和5D)，表明死亡风险较低。在此递减过程中，男性贡献的SHAP值为−0.09 (gydF4y2Ba图5gydF4y2BaD).我们从公共数据集中展示了2个患者的例子gydF4y2Ba多媒体gydF4y2Ba．gydF4y2Ba

‎gydF4y2Ba 查看此图gydF4y2Ba

‎gydF4y2Ba 查看此图gydF4y2Ba

讨论gydF4y2Ba

主要研究结果gydF4y2Ba

随着EMR数据在构建基于机器学习的预测模型中的广泛采用，最基本的研究挑战之一是学习适当的患者表示，这可能会捕获医学概念之间隐藏的语义关联[gydF4y2Ba18gydF4y2Ba］．在本研究中，我们提出了一种改进的基于skip-gram的患者表示方法，该方法融合了医学概念之间的关联强度和任务特定特征的重要性。与其他表示方法相比，所提出的患者表示方法提高了AMI患者死亡风险预测的性能。gydF4y2Ba

在之前的研究中，深度学习模型[gydF4y2Ba9gydF4y2Ba,gydF4y2Ba10gydF4y2Ba,gydF4y2Ba12gydF4y2Ba,gydF4y2Ba25gydF4y2Ba,gydF4y2Ba36gydF4y2Ba]被用于训练嵌入医学概念表征，以用于后续的患者表征。在使用skip-gram算法时，与特征相关性无关的医学概念顺序阻碍了算法学习高质量的表示。之前的工作建议对患者记录中的医疗概念进行洗牌机制，以减少乱序特征对算法的影响[gydF4y2Ba12gydF4y2Ba,gydF4y2Ba24gydF4y2Ba-gydF4y2Ba26gydF4y2Ba］．在本研究中，我们引入了两个概念之间的关联强度，将其定义为仅涉及这两个概念的关联规则的置信度。从各个方面的实验表明，这种巧妙的改进可以有效地揭示医学概念之间的潜在关联，并进一步提高下游预测任务的性能。gydF4y2Ba

除了表示算法，用于表示患者的特征也很关键。以前的许多研究集中在原始形式的医疗代码中的一些特征，如疾病诊断、程序和药物[gydF4y2Ba1gydF4y2Ba,gydF4y2Ba11gydF4y2Ba,gydF4y2Ba14gydF4y2Ba,gydF4y2Ba37gydF4y2Ba］．对于包含大量患者诊断和预后相关信息的实验室检测，我们将实验室检测的正常状态纳入特征集，而不是简单地使用实验室检测和检测共发生的数量[gydF4y2Ba12gydF4y2Ba,gydF4y2Ba38gydF4y2Ba］．我们进一步从自由文本的放射报告中提取放射学特征。诚然，更丰富的特征可能会导致具有更多信息的特征表示，即使患者表示的维度保持不变。在这项研究中，使用更多特征来代表患者的预测模型确实反映了更多关于患者的信息，并且比使用较少特征的预测模型表现出更高的性能。我们的发现与其他研究的结果相似[gydF4y2Ba39gydF4y2Ba,gydF4y2Ba40gydF4y2Ba］．gydF4y2Ba

先前的研究使用神经网络利用EMR数据训练临床结果的预测模型[gydF4y2Ba2gydF4y2Ba,gydF4y2Ba16gydF4y2Ba,gydF4y2Ba22gydF4y2Ba］．他们专注于建立在大型数据集上的端到端预测模型，其中神经网络的最后一个隐藏层被视为患者表示。虽然基于深度端到端神经网络的患者表示提高了预测精度，但不可忽视的是可解释性的缺乏。一些研究[gydF4y2Ba26gydF4y2Ba,gydF4y2Ba41gydF4y2Ba]使用词嵌入方法学习到的概念表征的平均值构建患者表征，没有充分利用不同临床特征对患者的重要性。作为一种高级解释性方法，SHAP值[gydF4y2Ba32gydF4y2Ba]在之前的一些研究中成功地用于分析和解释预测模型[gydF4y2Ba40gydF4y2Ba,gydF4y2Ba42gydF4y2Ba-gydF4y2Ba44gydF4y2Ba］．我们将SHAP值作为特征重要性引入到患者表征中，并进一步解释了使用SHAP值的预测模型。利用SHAP值不仅可以对预测任务的整体重要性进行排序和确定重要因素，还可以探索预测特定患者死亡风险的关键因素。在我们对AMI患者的预测任务中，由SHAP值确定的最重要特征确实与AMI密切相关[gydF4y2Ba45gydF4y2Ba-gydF4y2Ba47gydF4y2Ba]，如血清葡萄糖和血清肌酸激酶，这是临床实践中诊断AMI和预后的两项关键实验室检测。gydF4y2Ba

在我们的预测任务中，采用所提出的患者表征方法所代表的所有可用患者特征作为输入的模型比以往研究中相同任务的其他模型表现出更高的性能(AUROC, 0.973 vs 0.905至0.935 [gydF4y2Ba19gydF4y2Ba,gydF4y2Ba29gydF4y2Ba-gydF4y2Ba31gydF4y2Ba,gydF4y2Ba48gydF4y2Ba])。这可能是因为嵌入表示包含了从一般EMR系统中提取的大量不同特征，而许多研究人员在临床专家的协助下选择了与ami相关的特征。例如，基本的人口统计学数据和少量的实验室检查，以及AMI的Killip分级和左室射血分数等几个具体特征[gydF4y2Ba19gydF4y2Ba,gydF4y2Ba30.gydF4y2Ba]被直接添加到机器学习模型中，以预测死亡风险。此外，与主成分分析等其他简单的特征提取方法相比[gydF4y2Ba29gydF4y2Ba]和3层自编码器模型，该方法考虑了关联强度和特征重要性，具有较高的预测性能。gydF4y2Ba

限制gydF4y2Ba

这项研究有一些局限性。首先，本研究只纳入患者住院期间的首次实验室检查，而很多患者进行了两次或两次以上的实验室检查。由于时间数据，特别是多个实验室检测，可能反映患者随时间变化的动态健康状态和治疗效果，因此患者表现中缺乏实验室检测的时间特征可能会导致下游任务的性能损失。未来的研究将集中于将这种不均匀和不规则的时间数据整合到当前的患者表现中。其次，采用跳图算法进行概念嵌入训练。该算法在自然语言处理领域很受欢迎，可能在表示结构化和无序EMR数据方面能力有限。基于变压器的训练前模型Med-Bert已被训练为表示最初以ICD-10和ICD-9编码表达的疾病诊断，在心力衰竭和胰腺癌预测任务中表现出更高的性能，auroc分别为85.39%和82.23% [gydF4y2Ba49gydF4y2Ba］．因此，未来将采用更复杂的深度学习方法，以提供更丰富的患者信息。最后，我们仅对基于所提出的患者表示的预测模型进行了内部验证。高质量的外部验证将更有说服力，并将有助于持续的算法改进。此外，选择的性能比较参考方法是简单的特征选择方法和3层自编码器。需要与最先进的方法进行比较，以评估我们提出的方法的性能和潜在用途。gydF4y2Ba

结论gydF4y2Ba

在本研究中，我们利用医学概念的关联强度和患者特征的重要性来改进基于嵌入的患者表征。经过进一步的训练和微调，基于所提出的患者代表性的模型有望用于辅助AMI住院患者的预后预测。本研究为利用EMR数据开发更有效、更高效的临床预测模型提供了有意义的方向。患者代表学习作为建立临床结果预测模型的重要组成部分是可取的。gydF4y2Ba