预测肝素治疗后活化部分凝血活蛋白时间的循环神经网络模型:回顾性研究gydF4y2Ba

简介gydF4y2Ba

血栓栓塞并发症与死亡率增加有关[gydF4y2Ba1gydF4y2Ba，gydF4y2Ba2gydF4y2Ba］．深静脉血栓形成和肺栓塞的危险因素包括，例如，不活动、恶性肿瘤、高龄和有血栓栓塞史[gydF4y2Ba3.gydF4y2Ba，gydF4y2Ba4gydF4y2Ba］．药物抗凝可用来预防血栓栓塞[gydF4y2Ba5gydF4y2Ba]或治疗现有的血栓栓塞并发症，从而降低死亡率[gydF4y2Ba6gydF4y2Ba］．gydF4y2Ba

在围手术期的正常护理病房，预防性和治疗性抗凝常用低分子肝素皮下进行[gydF4y2Ba5gydF4y2Ba］．在围手术期，预防性抗凝适用于血栓栓塞中高危患者。例如，这包括大多数创伤手术、连续下肢不动的择期骨科手术，以及重大的腹部或胸部手术，特别是在出现恶性和炎症过程时[gydF4y2Ba5gydF4y2Ba］．gydF4y2Ba

在危重症中，由于与慢性疾病相关的一般危险因素和重症监护病房(ICU)相关的危险因素(包括镇静、不活动或中心静脉导管)的结合，几乎所有患者静脉血栓栓塞的风险都增加了[gydF4y2Ba7gydF4y2Ba］．在重症监护中，预防性或治疗性抗凝通常通过连续未分离肝素静脉应用，特别是在肾功能衰竭或血流动力学不稳定时[gydF4y2Ba8gydF4y2Ba］．抗凝剂的半衰期短以及用鱼精蛋白拮抗肝素的可能性是未分离肝素在这些脆弱患者中的优势[gydF4y2Ba9gydF4y2Ba］．然而，可控性差是一个问题。因此，可能会出现用药过量导致出血性或用药不足导致血栓形成并发症[gydF4y2Ba10gydF4y2Ba］．因此，治疗性未分离肝素的应用需要监测。通过测定患者血液中活化部分凝血活蛋白时间(aPTT)来给药未分离肝素[gydF4y2Ba11gydF4y2Ba］．根据以前的研究，所追求的aPTT目标大约是参考凝血时间的1.5 - 2.5倍[gydF4y2Ba11gydF4y2Ba-gydF4y2Ba13gydF4y2Ba尽管个别目标通常是明确的。在24小时内达到aPTT目标与肺栓塞患者的生存率增加有关[gydF4y2Ba6gydF4y2Ba］．然而，由于患者和疾病相关的变化，在24小时内实现aPTT目标具有挑战性。gydF4y2Ba

目前，ICU日常的数字化患者数据管理系统产生了大数据集。机器学习(ML)方法包括来自大型数据集的个人信息，可能有助于在比常规血液采样更早的阶段预测aPTT。先前应用ML预测aPTT的结果显示出很大的希望[gydF4y2Ba14gydF4y2Ba-gydF4y2Ba17gydF4y2Ba］．一些作者[gydF4y2Ba16gydF4y2Ba，gydF4y2Ba17gydF4y2Ba]考虑aPTT的数值，因此aPTT的预测是一个回归任务。我们更倾向于数值预测，因为它没有对aPTT目标范围进行假设。然而，最近关于相似大小数据集的文献认为肝素治疗后的aPTT是一个具有3个不同范围(亚治疗、治疗或超治疗)的多类预测[gydF4y2Ba14gydF4y2Ba，gydF4y2Ba15gydF4y2Ba，gydF4y2Ba18gydF4y2Ba］．gydF4y2Ba

在以往的模型比较研究中[gydF4y2Ba15gydF4y2Ba，gydF4y2Ba16gydF4y2Ba，gydF4y2Ba18gydF4y2Ba]，已经证明人工神经网络在aPTT预测任务中表现出最高的性能。gydF4y2Ba

最近，一项关于ML方法预测肝素给药后aPTT的系统综述强调，在ML辅助肝素给药投入临床实践之前，仍需要多项创新[gydF4y2Ba19gydF4y2Ba］．gydF4y2Ba

我们比较了患者队列中的多个ML模型，据我们所知，我们是第一个应用循环神经网络模型的人，该模型将变量的动态以时间序列的形式考虑在内。在研究开始时，我们明确了纳入标准，导致5926例不同的住院病例。在这个队列中，我们在aPTT预测任务上训练和评估了多个ML模型。为了将循环神经网络模型与先前发表的模型进行比较[gydF4y2Ba14gydF4y2Ba，gydF4y2Ba15gydF4y2Ba，gydF4y2Ba18gydF4y2Ba]，我们随后将我们的模型用于分类设置。gydF4y2Ba

本分析的目的是评估ML模型是否能够提前很好(12小时)准确预测后续的aPTT测量。在未来，数据驱动的方法可以帮助临床医生调整肝素剂量，以改善24小时后aPTT在目标范围内的时间。gydF4y2Ba

方法gydF4y2Ba

数据选择标准gydF4y2Ba

外科和重症监护患者的数据库系统Charité - Universitätsmedizin Berlin (Charité)于2012年首次采用，并随着时间的推移推广到所有icu。由于我们提取的数据是在2021年11月，所以我们考虑了2012年至2021年10月31日的时间段。我们选择了满足以下纳入标准的患者和入院患者:治疗开始时至少18岁，接受了至少1000iu的肝素，接受了部分肝素连续输注，静脉治疗开始后12小时和36小时前至少有一次aPTT测量，并记录了体重和身高(在合理范围内:身高在25厘米至250厘米之间，体重在3公斤至300公斤之间)。gydF4y2Ba

伦理批准gydF4y2Ba

本研究已获得Charité伦理委员会的伦理批准(投票#EA4/241/21)。gydF4y2Ba

特征选择和预测目标gydF4y2Ba

我们提取患者特征(年龄、性别、身高、体重)、实验室值(aPTT、胆红素、c反应蛋白、肌酐、速效值、血小板计数)、患者是否接受透析或某种形式的体外膜氧合作用(ECMO)治疗，并常规收集评分(治疗干预评分系统10 [TISS-10]、简化急性生理评分[SAPS-II]、顺序器官衰竭评估[SOFA]、急性生理学和慢性健康评估II [APACHE II])来自医院信息系统。此外，我们提取了每种肝素给药的开始和结束时间、浓度和给药速率。肝素可以丸剂或连续输注。所有数据均限于治疗前7天至治疗开始后36小时。gydF4y2Ba

我们的目标是预测持续肝素治疗开始24小时后的aPTT。然而，并非所有患者在肝素治疗24小时后都有实验室测量。因此，肝素治疗开始后12 - 36小时之间的任何aPTT测量都可以作为预测目标。如果在12小时到36小时之间记录了多个值，我们选择了连续治疗开始后最接近24小时的值。因此，只有在连续肝素治疗开始前或12小时内采集的值可作为模型的特征(包括该时间段内的任何aPTT测量)。住院时间左对齐，连续静脉注射肝素的开始对应于时间零。gydF4y2Ba

丢失数据的处理gydF4y2Ba

我们在研究中使用的数据是在常规护理期间收集的，在所有住院患者中质量并不统一。在使用回顾性数据进行ML时，一个典型的问题是观察缺失[gydF4y2Ba20.gydF4y2Ba-gydF4y2Ba22gydF4y2Ba］．对于循环神经网络来说，这个问题更加严重，因为它期望每2小时为每个特征输入一次。gydF4y2Ba

性别、年龄、身高和体重的静态值没有缺失值，并且每个时间戳都复制了这些值。如果给定时间戳内没有记录其他值，则单热编码变量(包括ECMO治疗、透析、肝素注射和连续肝素注射)设为0。其他特征(如实验室测量值和评分)按以下两步流程填写:(1)如果在连续肝素治疗前7天内记录了先前的值，则向前填写这些值;(2)任何仍然缺失的值都被整个训练人群的平均值所取代。gydF4y2Ba

只有使用上述两步过程才会丢弃有关给定时间戳内来自患者的测量信息。因为已经证明缺失的模式可以提供信息[gydF4y2Ba23gydF4y2Ba]，我们为2步过程中填充的每个变量包含了一个“指示器”变量，如果值是在给定时间戳测量的，则为1，如果值是估算的，则为0。gydF4y2Ba

加上指标变量，每个模型有35个不同的输入变量。gydF4y2Ba

因此，递归神经网络可以看到之间的时间序列gydF4y2BatgydF4y2Ba= -168(连续肝素注射前7天)到gydF4y2BatgydF4y2Ba= 12。但总的来说，患者的时间序列并不相同。gydF4y2Ba

模型和变量编码gydF4y2Ba

输入数据由数值变量和分类变量组成。分类变量(性别、ECMO治疗、透析治疗、连续肝素给药、肝素丸剂给药)单热编码。类别变量的每个选项都会产生一个输入维度，该维度可以是1或0。单热编码变量没有进一步缩放，直接用作输入特征。gydF4y2Ba

其他数值变量在输入模型之前都是标准化的。Mean和SD仅在训练数据集上估计。gydF4y2Ba

我们比较了6个对每个特征取单个值的模型和1个对整个特征时间序列取单个值的模型。在治疗过程中，一些特征(年龄、性别、身高和体重)是不变的，而其他特征则经常变化。每个特征取单个值的模型接收到12小时截止前的最后观测值。循环神经网络接收每个特征的时间序列，重新采样至2小时间隔。如果在2小时内进行了多次测量，则将这些值替换为这2小时窗口内的平均值。每个时间戳都重复静态变量。预测目标(单个aPTT测量)在模型训练期间进行对数转换。日志转换将在结果一节中讨论。所有模型参数均在均方误差损失函数上进行优化。此外，我们评估了每个模型的平均绝对误差和解释方差。gydF4y2Ba

6种回归模型分别为线性回归、弹性网络、广义线性模型、支持向量机回归(SVR)、k -最近邻回归(KNN)和回归树。我们使用5倍交叉验证的网格搜索优化超参数。交叉验证时，将训练数据和验证数据相结合。超参数网格显示在gydF4y2Ba表1gydF4y2Ba．gydF4y2Ba

模型、交叉验证和网格搜索例程来自scikit-learn包[gydF4y2Ba24gydF4y2Ba]并用Python (Python软件基金会)实现。gydF4y2Ba

循环神经网络模型gydF4y2Ba

该模型包括一个门控循环单元(GRU)，它可以处理任意长度的时间序列，以及一个使用GRU输出作为输入的全连接网络。由于我们只对预测单个值感兴趣，所以只有GRU的最后一个输出被输入到3层全连接模型中。在GRU的输出和第一个全连接层之间不使用激活函数。2个全连接层的输出具有整流的线性单元激活函数[gydF4y2Ba25gydF4y2Ba]，最后一层没有激活函数。概述示意图见gydF4y2Ba图1gydF4y2Ba．gydF4y2Ba

‎gydF4y2Ba 查看此图gydF4y2Ba

对于上述模型，在MSE上对递归神经网络进行优化。对于使用循环神经网络的实验，在训练集上优化权重，并在验证集上比较实验之间的结果。我们使用了带有L2惩罚的Adam优化器[gydF4y2Ba26gydF4y2Ba］．对于每个实验，我们选择验证集上误差最小的权重，这可能发生在达到最大epoch数之前。gydF4y2Ba

与“静态”模型相比，该模型的训练成本要高得多。因此，我们没有进行系统的超参数优化，而是使用不同的超参数进行了几次实验，并精心挑选了最佳的超参数集，这些超参数集在结果部分中显示。GRU子模型的超参数为隐藏大小(n= 1,2,3，…)、双向连接(True, False)和层数(n= 1,2,3，…)。gydF4y2Ba

三层全连接子模型以每层神经元数量为3个超参数。与训练相关的超参数是学习率、L2惩罚和最大epoch数。gydF4y2Ba

由于患者在住院期间的不同时间接受连续肝素治疗，因此每个特征的输入数量不同。因此，对于训练，我们被限制为1个批次，但在权重更新之前积累多个批次。为了防止过拟合，我们在模型的全连接部分的权重上使用了L2惩罚，并在验证集上性能最高的epoch上选择权重。gydF4y2Ba

所有模型和训练脚本可在github [gydF4y2Ba27gydF4y2Ba］．gydF4y2Ba

分类模型gydF4y2Ba

为了将aPTT预测作为分类任务，我们使用了Ghassemi等人首先引入的3个范围[gydF4y2Ba14gydF4y2Ba]表示aPTT测量值低于60秒为亚治疗性，60 - 100秒为治疗性，超过100秒为超治疗性。我们将我们的GRU模型与Ghassemi等人的逻辑回归模型进行了比较[gydF4y2Ba14gydF4y2Ba]和Su等人的前馈神经网络模型[gydF4y2Ba15gydF4y2Ba]和李等[gydF4y2Ba18gydF4y2Ba］．所有参数均取自各自模型的参考文献。对于Su等的前馈网络[gydF4y2Ba15gydF4y2Ba]和李等[gydF4y2Ba18gydF4y2Ba]，我们使用交叉熵[gydF4y2Ba28gydF4y2Ba]作为提前停止的损失函数，因为在参考文献中没有提到损失函数。gydF4y2Ba

3个分类模型在训练分割上重新训练，并以与“静态”回归模型相同的方式接收每个特征在12小时截止之前的最后一个值。GRU没有在分类任务上进行再训练，但数值预测在事后被归类到3个范围。对模型的宏观平均精密度、宏观平均召回率、宏观平均F进行了评价gydF4y2Ba_1gydF4y2Ba-分数和准确度[gydF4y2Ba29gydF4y2Ba］．gydF4y2Ba

结果gydF4y2Ba

病人群gydF4y2Ba

连续应用筛选标准(在方法部分指定)到整个患者队列的流程图显示在gydF4y2Ba图2gydF4y2Ba．根据选择标准，从5742名独特的患者中筛选出5926名入院患者。考虑到不到4%的入院发生在先前入院的患者中，我们认为住院是独立事件。患者的基本特征和缺失值记录在gydF4y2Ba表2gydF4y2Ba．gydF4y2Ba

在进行模型训练或均值和标准差的参数估计之前，录取样本被分为训练样本(n=3800)、验证样本(n=945)和测试样本(n=1181)。我们确保同一病人的不同入院情况都在同一组。gydF4y2Ba

‎gydF4y2Ba 查看此图gydF4y2Ba

aPTT值的分布gydF4y2Ba

治疗前后aPTT的直方图如图所示gydF4y2Ba图3gydF4y2Ba．在我们的队列中，肝素治疗前后的aPTT分布均为窄峰值，并呈重尾。超过100秒的值很少出现。在240秒处可见小峰值，实验室报告的一些值为>240秒，映射到240秒。gydF4y2Ba

‎gydF4y2Ba 查看此图gydF4y2Ba

肝素治疗对整个队列的影响可以通过分布的变化清楚地看到。均值差为8.64 s (95% CI 7.72-9.56;gydF4y2BaPgydF4y2Ba<措施)。aPTT分布的前4个矩gydF4y2BatgydF4y2Ba=0和atgydF4y2BatgydF4y2Ba=24gydF4y2Ba表3gydF4y2Ba．与治疗前相比，连续肝素给药后平均aPTT值较高。偏度和峰度(处理后较小)定量地表明aPTT分布不对称，具有重尾。这一事实使得aPTT的预测具有挑战性。为了使我们的模型更容易学习任务，我们对目标变量进行了对数变换，以减少倾斜和峰度。实际上，这使得原始分布中的“罕见”事件更容易预测。gydF4y2Ba

我们在Charité队列中观察到的分布与其他作者记录的aPTT值形成对比。苏等[gydF4y2Ba15gydF4y2Ba]和Ghassemi等人[gydF4y2Ba14gydF4y2Ba他们基于重症监护医疗信息市场(MIMIC) II/III和eICU数据库进行建模研究。eICU数据库中aPTT的分布情况[gydF4y2Ba15gydF4y2Ba比MIMIC队列更重尾，但比我们的队列更轻尾。中所报道的3种治疗类型用阴影区域表示gydF4y2Ba图3gydF4y2Bab.但是，我们没有将我们的队列归为这些类别，而是将治疗后的aPTT预测作为回归问题。gydF4y2Ba

模型的比较gydF4y2Ba

在本节中，比较7种不同模型对aPTT预测的结果(见gydF4y2Ba表4gydF4y2Ba)。模型1-6只接收到12小时截止前每个输入特征的最后测量值。我们使用网格搜索和5倍交叉验证优化了每个模型的超参数。报告的结果是基于5次折叠中未包含的测试数据。方法一节中有对所使用网格的完整描述。模型1-6的最佳参数记录在gydF4y2Ba多媒体附件1gydF4y2Ba．gydF4y2Ba

模型7(循环神经网络)为每个输入特征消耗整个时间序列，重新采样到2小时时间戳。我们还对1小时时间步长和4小时时间步长进行了重新采样，并发现性能相似(参见gydF4y2Ba多媒体附件1gydF4y2Ba数值结果)。gydF4y2Ba

这是比较中最复杂的模型，并吸收了从持续治疗前7天到持续治疗后12小时的数据。模型7没有进行系统的超参数优化;因此，与其他模型相比，我们低估了递归神经网络的性能。gydF4y2Ba

然而，循环神经网络模型在解释方差和MSE指标上获得了最高分。它在平均绝对误差(对异常值的惩罚小于MSE)方面排名第二，仅次于SVR模型。SVR模型在解释方差和MSE方面仅次于循环神经网络模型。gydF4y2Ba

ci是通过取1000个与测试集大小相同的随机样本，并进行替换来获得的。鉴于该分布有少量的较大离群值，这对感兴趣的数量有显著影响，因此ci范围很广。gydF4y2Ba

循环神经网络模型对aPTT的预测gydF4y2Ba

在本节中，我们将展示递归神经网络模型的结果，并将预测结果与测试集上的测量值进行比较。对该模型进行了多次实验，优选参数如图所示gydF4y2Ba表5gydF4y2Ba．gydF4y2Ba

预测和测量结果显示在gydF4y2Ba图4gydF4y2Ba．单独测试数据中的aPTT值的分布与整个数据集上的aPTT值的分布相似(参见gydF4y2Ba图3gydF4y2Ba而且gydF4y2Ba图4gydF4y2Ba右面板)。循环神经网络模型的预测直方图具有类似的形状(参见gydF4y2Ba图4gydF4y2Ba顶部面板和gydF4y2Ba图4gydF4y2Ba右面板)。gydF4y2Ba

预测和测量之间的直接比较可以在中心看到gydF4y2Ba图4gydF4y2Ba．该模型能较好地预测大部分aPTT值。尽管一些异常值被准确预测，但也有一些高于150秒的异常值，其预测低于75秒。同样，一些预测的异常值并不会表现为实际的异常值。gydF4y2Ba

‎gydF4y2Ba 查看此图gydF4y2Ba

与分类模型比较gydF4y2Ba

在前面的章节中，我们已经看到循环神经网络在回归任务中表现出最高的性能。然而，显然并非所有的预测都是准确的。为了了解是否需要在模型或数据质量方面进行改进，我们将问题重新表述为分类任务，以便能够将训练过的模型的性能与最近发布的3个分类模型进行比较[gydF4y2Ba14gydF4y2Ba，gydF4y2Ba15gydF4y2Ba，gydF4y2Ba18gydF4y2Ba］．这3个模型中的每一个都在我们的数据集上进行了训练(详细信息见方法部分)。gydF4y2Ba

我们的循环神经网络在回忆和FgydF4y2Ba_1gydF4y2Ba分数。最简单的模型(Ghassemi等人的逻辑回归[gydF4y2Ba14gydF4y2Ba])的精度最高，Li等人的前馈神经网络[gydF4y2Ba18gydF4y2Ba)的准确率最高(见gydF4y2Ba表6gydF4y2Ba结果)。没有一个模型在所有4个指标上都优于其他模型，可以根据哪个指标被认为最相关来选择合适的模型。gydF4y2Ba

事实上，最好发表的模型显示了可比较的性能，这表明显著的改善需要对患者进行更密切的监测，额外的测试和提高数据质量。gydF4y2Ba

讨论gydF4y2Ba

主要研究结果gydF4y2Ba

在这项研究中，我们分析并预测了连续应用24小时后5742例患者和5926例住院患者的肝素治疗效果。与治疗开始时相比，观察到aPTT测量有统计学意义上的变化。大多数患者的aPTT测量值在35 ~ 75 s内;然而，一些患者显示出更高的aPTT值，导致长尾分布的预测问题具有挑战性。我们证明了ML模型可以帮助提前12小时预测aPTT值。此外，我们已经证明了使用变量的时间序列可以提高预测性能。gydF4y2Ba

一些潜在的疾病虽然很少发生，但已知会导致更高的aPTT值。这些医学状况包括狼疮抗凝剂或内在途径(因子IX或X缺乏)或外在途径(因子VII缺乏)的不足[gydF4y2Ba30.gydF4y2Ba，gydF4y2Ba31gydF4y2Ba］．这些情况不会进行常规检查，只有在进行高级实验室检测时才会被诊断出来。gydF4y2Ba

既定指南旨在将aPTT延长1.5至2.5倍[gydF4y2Ba11gydF4y2Ba-gydF4y2Ba13gydF4y2Ba］．由于患者在使用肝素前的aPTT值不同，根据指南的目标值也不同。此外，医疗专业人员可能会定义个别抗凝目标，不匹配1.5 - 2.5倍基线值的延长。因此，我们认为aPTT预测是一个回归问题，如Kong等[gydF4y2Ba16gydF4y2Ba]和史密斯等人[gydF4y2Ba17gydF4y2Ba已经做了。在抽血和分析前几个小时预测aPTT的模型可以作为调整肝素剂量以更早满足患者aPTT目标的有价值的帮助。gydF4y2Ba

原则上，aPTT可以连续预测。然而，为了比较基于单个时间点的测量结果做出单一预测的模型和消耗整个时间序列的模型，我们固定了2个时间点(连续治疗开始后12小时和24小时)。模型可以使用12小时内可用的数据，并在连续治疗开始后24小时内进行预测。12小时后的截止时间是任意的，可以合理地在不同的时间进行。第二个时间点的动机是观察到在24小时内达到aPTT目标与有利的结果相关[gydF4y2Ba6gydF4y2Ba］．循环神经网络表现出最佳的预测性能，并对其预测结果进行了详细分析。虽然大多数样本预测良好，但一个未解决的问题是，少数病例表现出非常高的aPTT，并且没有被模型捕获。如前所述，已知潜在的医疗条件会导致明显较长的aPTT。我们假设，为了显著改善预测，要么测试导致长aPTT的条件，要么更频繁地测量aPTT并结合剂量调整。gydF4y2Ba

最近关于肝素治疗后aPTT预测的文献考虑了3个不同的范围[gydF4y2Ba14gydF4y2Ba，gydF4y2Ba15gydF4y2Ba，gydF4y2Ba18gydF4y2Ba］．为了将我们的模型与文献中的模型进行比较，我们将我们的预测分为亚治疗性、治疗性和超治疗性，如Ghassemi等人所介绍的[gydF4y2Ba14gydF4y2Ba］．我们观察到我们的模型显示了更高的召回和FgydF4y2Ba_1gydF4y2Ba-得分比其他模型高。可以说，与参考文献相比，我们选择的设置是最困难的，因为我们提前12到36小时预测了单个aPTT值。其他人则在4至6小时内做出预测[gydF4y2Ba15gydF4y2Ba]或4至8小时[gydF4y2Ba14gydF4y2Ba]或在4至24小时内进行平均aPTT测量[gydF4y2Ba18gydF4y2Ba］．gydF4y2Ba

限制gydF4y2Ba

其他抗凝血剂，如华法林或阿加曲班，未被考虑。我们预计只有一小部分患者(如果有的话)同时接受肝素和抗凝剂治疗，因此决定不考虑这一因素，这在类似研究中很常见[gydF4y2Ba19gydF4y2Ba］．gydF4y2Ba

众所周知，实验室条件会影响aPTT测量的范围[gydF4y2Ba32gydF4y2Ba］．aPTT测量均由同一实验室报告。因此，如果不进行参数微调，该模型可能不适用于其他中心和实验室。gydF4y2Ba

可能对模型性能产生负面影响的建模决策是对时间序列进行2小时间隔的重新采样。这种重新采样可能会遗漏一些变量的显著变化。此外，通过多种imputation方法，可以改进forward imputation和mean imputation对缺失数据的处理。gydF4y2Ba

结论gydF4y2Ba

肝素抗凝治疗由aPTT实验室检测是一种广泛应用于icu的程序。众所周知，由于患者间的高变异性，肝素给药具有挑战性。在未来，ML可能有助于提出个性化的剂量建议。我们证明了基于时间序列的模型表现最好。gydF4y2Ba