在儿童电子病历中挖掘严重药物过敏反应病例:方法开发与应用gydF4y2Ba

简介gydF4y2Ba

药物超敏反应(DHRs)是一种类似过敏的药物不良反应。dhr影响7%以上的人口，是药物上市后停药的一个重要原因[gydF4y2Ba1gydF4y2Ba］．严重的DHRs，如过敏性休克、药物过敏性超敏综合征、Stevens-Johnson综合征和大疱性表皮松解症，在世界范围内已被观察到，每年的发病率为每百万人0.05 - 3人。由于死亡率在5%至30%之间，儿科人群(包括儿童、婴儿甚至新生儿)中的严重dhr占已报告病例的10%至20% [gydF4y2Ba2gydF4y2Ba，gydF4y2Ba3.gydF4y2Ba］．gydF4y2Ba

目前，医院中严重dhr的报告仅通过由主管临床医生操作的自发报告系统(SRSs)进行。既往研究表明，srs中只有10% ~ 30%的严重药物不良反应被报告[gydF4y2Ba4gydF4y2Ba］．即使遗漏的病例得到了妥善处理，只是没有登录到SRS系统，一份更彻底的报告将有助于改进药物指南。最近，常规收集的医疗数据，如电子健康记录(EHRs)，越来越多地用于补充SRS并实现主动药物警戒。电子病历系统包含详细的数据，包括入院、出院、诊断、用药和实验室测试的时间戳。然而，严重DHR依赖于症状和体征进行检测，而这些症状和体征通常位于电子病历的自由文本区域，需要使用自然语言处理来提取信息。gydF4y2Ba

研究最充分的医学语言处理应用之一是表型(例如，自动评估表型特征，如吸烟状况)[gydF4y2Ba5gydF4y2Ba］．患者严重dhr的自动识别也可以作为一项表型任务进行探索。在没有结构数据可用的情况下，临床记录的表型可以被制定为文档分类任务，这在自然语言处理领域已经得到了很好的研究。gydF4y2Ba

近期工作[gydF4y2Ba6gydF4y2Ba-gydF4y2Ba8gydF4y2Ba的研究报告称，临床文档太长，语境化语言模型无法处理。我们课题组整合了一家医院的医疗数据，并在前期建立了垂直数据仓库。不同于以往只处理出院总结的工作[gydF4y2Ba5gydF4y2Ba-gydF4y2Ba7gydF4y2Ba]，此DHR任务处理由与1个住院病人就诊相关的所有临床记录组成的文件。出院总结的平均字数通常为数百字。然而，在这个DHR数据集中，平均单词长度高达几千个汉字，有些文档包含数万个汉字。因此，选择最佳的长文档分类策略对于实现我们的目标至关重要。gydF4y2Ba

方法gydF4y2Ba

管道设计gydF4y2Ba

这项工作将DHR案例的自动识别作为一个长文档分类问题来处理。出于培训目的，领域专家准备了一个包含文档级标记的语料库。gydF4y2Ba

图1gydF4y2Ba演示了提议的系统管道。首先，对4种针对公开吸烟任务的长文件分类策略进行了比较和评价。其次，应用DHR任务的最佳策略。在我们的DHR任务中，比较和评估了预先训练的中医文本嵌入模型。在DHR数据集上执行网格搜索来优化机器学习分类器以获得最佳的文档分类性能。最后，在一个辅助医疗电子病历中应用了最佳的9年数据管道。gydF4y2Ba

‎gydF4y2Ba 查看此图gydF4y2Ba

伦理批准gydF4y2Ba

该研究由中国北京儿童医院机构伦理委员会审查并批准(2019-k-5)，并放弃知情同意。gydF4y2Ba

数据集和指标gydF4y2Ba

吸烟的任务gydF4y2Ba

吸烟挑战[gydF4y2Ba5gydF4y2Ba自动从病人的出院总结中确定他们的吸烟状况。502份出院总结呈现5种状态:既往吸烟者、当前吸烟者、吸烟者、非吸烟者和未知吸烟者。按照之前的工作，班级吸烟者被忽略了。gydF4y2Ba表1gydF4y2Ba展示了训练和测试数据的分布。gydF4y2Ba

严峻DHR任务gydF4y2Ba

数据源gydF4y2Ba

北京儿童医院的信息系统允许对患者的病史和医生的记录进行数字记录，并通过网络立即提供给所有患者部门。前期在整合医疗数据的基础上，构建了垂直数据仓库。包含2012年1月1日至2020年12月31日315608例患者的431,972例住院记录，包括详细的诊断信息、用药信息、实验室检测、病程数据等。其中，住院记录代表一个住院过程。如果一个病人多次住院，同一个病人就会有多个住院记录。gydF4y2Ba

语料库建设gydF4y2Ba

呈现严重DHRs的阳性病例来自两个组:国家药品监督管理局报告系统记录的31例阳性病例和通过图表审查发现的183例阳性病例。重复数据删除后，收集阳性病例200例。每个阳性病例被分为4个子类别中的1个子类别。在北京儿童医院EHR系统中随机抽取400例阴性病例。这些病例被标记为阴性(NEG)，并由医生手工检查，以确保他们没有出现严重的dhr。gydF4y2Ba

重度DHR的4个亚型的定义见gydF4y2Ba多媒体附件1gydF4y2Ba详见2016年中国国家药品监督管理总局药品审评中心发布的《药品不良反应医学术语使用指南》[gydF4y2Ba9gydF4y2Ba］．gydF4y2Ba

训练和测试数据集gydF4y2Ba

这5类文档被随机抽样到训练和测试数据集中。训练和测试数据分布如图所示gydF4y2Ba表2gydF4y2Ba．正负比接近于吸烟任务中对应的比例。gydF4y2Ba

评价指标gydF4y2Ba

根据之前的研究，使用微观平均F1分数来评估不同模型的性能[gydF4y2Ba6gydF4y2Ba］．这个指标用于多类分类问题，测量精度和召回率之间的平衡，并给予每个类别相同的权重。gydF4y2Ba

长文档分类策略gydF4y2Ba

评估和比较了四种策略:文档截断[gydF4y2Ba10gydF4y2Ba]，层次表示法[gydF4y2Ba6gydF4y2Ba，gydF4y2Ba11gydF4y2Ba]，更有效的自我关注[gydF4y2Ba12gydF4y2Ba]，以及关键句的选择[gydF4y2Ba7gydF4y2Ba，gydF4y2Ba8gydF4y2Ba，gydF4y2Ba13gydF4y2Ba，gydF4y2Ba14gydF4y2Ba］．长文献分类的最佳策略是基于公开的2016年国家NLP临床挑战吸烟任务结果[gydF4y2Ba5gydF4y2Ba］．本课题的研究结果可以与其他相关工作进行比较。gydF4y2Ba

文档截断gydF4y2Ba

应用具有长度限制的转换器模型的最直接方法是截断输入并选择第一个令牌块。这些模型通常要求长度限制为512字。gydF4y2Ba

更有效的自我关注gydF4y2Ba

自注意模型，如变压器的双向编码器表示(BERT)，需要相对于输入序列长度的二次计算时间和空间。Longformer模型使用稀疏自注意而不是完全自注意来处理较长的文档(最多4096个令牌)。gydF4y2Ba

层次结构表示gydF4y2Ba

在层次结构方法中，首先构建句子表示，然后将其聚合为文档级表示。在之前关于临床记录的表型任务的工作中，文档表示是由每个句子的BERT块之上的采样层构建的[gydF4y2Ba6gydF4y2Ba］．gydF4y2Ba

重点句子选择gydF4y2Ba

对于文档分类任务来说，几个关键的句子就足够了。在之前的工作中，研究了无监督方法生成关键句，但效果并不总是很好[gydF4y2Ba13gydF4y2Ba，gydF4y2Ba15gydF4y2Ba］．在这项工作中，研究了从特定任务指南中提取的关键字。选取含有关键词的句子作为重点句。gydF4y2Ba

在吸烟任务中，我们将之前工作中的字母和字母作为关键字列表:香烟，烟雾，吸烟，吸烟者，吸烟，吸烟，烟草[gydF4y2Ba16gydF4y2Ba］．gydF4y2Ba

对于DHR任务，对2组关键字进行了评估和比较。词频-逆文档频率(TF-IDF)算法作为一种无监督方法，计算了顶部特征词。那些包含数字、外文字母和特殊字符的单词被从这2000个单词中删除。共有163个得分高于0的特征词被添加到关键字列表中。gydF4y2Ba

临床记录中参考相应指南的部分与鉴别分类最相关。DHR数据集中的每个积极类别在相应的指南中都有很好的定义[gydF4y2Ba17gydF4y2Ba-gydF4y2Ba20.gydF4y2Ba］．医学术语是从指南中精心挑选的。区分医学术语与一般文本不需要领域知识。这些关键字显示在gydF4y2Ba文本框1gydF4y2Ba中文及gydF4y2Ba文本框2gydF4y2Ba在英语。gydF4y2Ba

数据集与选定的文本gydF4y2Ba

通过甲骨文测试来评估关键句选择策略是否会影响成绩。这个oracle测试的执行如下:(1)对于每个包含任何关键字的文档，分配它的gold标签;(2)对于所有不包含关键字的文档，分配UNKNOWN标签(用于吸烟任务)或NEG标签(用于DHR任务)。gydF4y2Ba

如gydF4y2Ba表3gydF4y2Ba，关键句子的选择降低了吸烟任务两组数据的最大字数和平均字数。对于训练集和测试集，oracle micro-F1均为1.0，这意味着关键句选择策略不影响整体性能。gydF4y2Ba

DHR任务评估了两个关键字列表:TF-IDF关键字和指南关键字。如gydF4y2Ba表4gydF4y2Ba，关键句选择降低了DHR任务训练数据集和测试数据集的最大字数和平均字数。oracle测试表明，对于TF-IDF关键字，oracle micro-F1得分接近1.0。使用指导关键字，该策略在整个管道中引入的误差约为2% - 3%。gydF4y2Ba

变形金刚gydF4y2Ba

在这项工作中，通过上下文化语言模型评估了域内和开放域预训练的嵌入。为了实现，SBERT库[gydF4y2Ba10gydF4y2Ba]用预先训练好的开放域或领域特定的语言模型计算文档嵌入。对这些预训练的模型没有进行微调。gydF4y2Ba

这项工作评估了开放域模型bert-base uncase [gydF4y2Ba21gydF4y2Ba]和领域特定模型ClinicalBERT和DischargeBERT [gydF4y2Ba20.gydF4y2Ba]查阅英文临床记录。gydF4y2Ba

该工作评估了开放域模型bert-base-chinese [gydF4y2Ba21gydF4y2Ba]和领域特定模型Medbert-kd-chinese [gydF4y2Ba22gydF4y2Ba]查阅中医临床记录。gydF4y2Ba

机器学习分类器gydF4y2Ba

机器学习分类器堆叠在深度学习变压器之上。每个机器学习分类器在训练数据集上进行10倍交叉验证。自动网格检索框架[gydF4y2Ba10gydF4y2Ba]搜索最优超参数。这项工作评估线性模型与随机梯度下降(SGD)学习和libsvm支持向量分类(SVC)。gydF4y2Ba

结果gydF4y2Ba

吸烟任务:长文档分类策略gydF4y2Ba

文档截断gydF4y2Ba

图书馆SBERT使用预先训练的模型BERT、ClinicalBERT和DischargeBERT实现了这一策略。如gydF4y2Ba表5gydF4y2Ba在美国，这些模型表现不佳。当长文件直接输入变压器时，只保留了前512个字的部分。gydF4y2Ba

更有效的自我关注gydF4y2Ba

Longformer模型使用稀疏自注意而不是完全自注意来处理较长的文档(最多4096个令牌)。然而，如图所示gydF4y2Ba表5gydF4y2Ba，它的表现并没有超过BERT基线。gydF4y2Ba

重点句子选择gydF4y2Ba

这项工作使用了Pedersen的字母和字母[gydF4y2Ba16gydF4y2Ba来选择重点句子。如gydF4y2Ba表5gydF4y2Ba，每个模型在所选文本上表现更好。领域特定的预训练语言模型ClinicalBERT(91.09%)和DischargeBERT(93.07%)优于开放领域模型bert-base-uncase(90.01%)。gydF4y2Ba

层次结构表示gydF4y2Ba

在层次结构方法中，首先构建句子表示，然后将其聚合为文档级表示。为了公平的比较，我们评估并报告了之前工作的结果[gydF4y2Ba6gydF4y2Ba]和我们自己的评估脚本。如gydF4y2Ba表6gydF4y2Ba,gydF4y2BafgydF4y2Ba_{的意思是gydF4y2Ba}[的建筑gydF4y2Ba6gydF4y2Ba](94.2%)达到最先进的表现。gydF4y2Ba

如gydF4y2Ba表6gydF4y2Ba，我们的方法(94.1%)与性能最好的方法取得了相当的性能。其他早期工作吸烟任务(F1范围从77.0%到90.0%)没有达到相同的性能水平。gydF4y2Ba

关键句选择策略和层次表示策略取得了相当的性能。此外，还比较了它们的效率和内存需求。总结于gydF4y2Ba表7gydF4y2Ba，在拟议的管道中，GPU不需要用于训练机器学习分类器。层次表示模型需要一个特斯拉M40 GPU (Nvidia Corp)训练1天。我们的方法比推理的层次表示模型快9倍。采用文档截断和关键句选择相结合的策略，变压器模型对每个文档只处理1个块，因此没有减少关键句选择的推理时间。gydF4y2Ba

严峻DHR任务:堆叠变压器和分类器gydF4y2Ba

吸烟任务表明，选择关键句子可以改善长度限制下的自我注意变形器。在DHR任务中，使用各种转换器和分类器对该策略进行了评估。如Methods中所述，对2种关键词进行评估和比较。作为一种无监督方法，top TF-IDF [gydF4y2Ba8gydF4y2Ba]特征词用于关键句的选择。考虑到临床记录符合指南，关键词从DHR指南中抽取。gydF4y2Ba

如gydF4y2Ba表8gydF4y2Ba，导向性关键字总是提高性能，无论堆叠变压器和分类器。TF-IDF关键字只对SVC分类器有帮助。gydF4y2Ba

九年电子病历的应用gydF4y2Ba

最后，将最优配置应用于北京儿童医院电子病历9年的数据。共收到1155例警报。经2名临床医师和2名儿科药师按重度DHRs标准进行复查，共发现儿童重度DHRs 357例(gydF4y2Ba表9gydF4y2Ba过敏性休克(n=39)、药物超敏反应综合征(n=178)、Stevens-Johnson综合征(n=86)、大疱性表皮松解症(n=54)。在356例严重DHRs中，只有36例之前报告给SRS。约89.89%的病例漏报，导致药物监管机构和临床医生重视不足。这表明我们的方法可以积极识别严重的dhr，为儿童药物警戒提供额外的证据。gydF4y2Ba

病例分析表明，许多可疑药物可能导致严重的儿科DHRs。疑似导致过敏性休克的药物主要有pegaspargase注射液、l -天冬酰胺酶、头孢哌酮舒巴坦等。苯巴比妥、尼美舒利、头孢菌素类抗生素是导致药物性超敏反应综合征和Stevens-Johnson综合征的主要疑似药物。此外，拉莫三嗪、赖氨酸乙酰水杨酸、美罗培南与大疱性表皮松解症的发生密切相关。gydF4y2Ba

讨论gydF4y2Ba

主要研究结果gydF4y2Ba

结果表明，临床文献太长，无法进行文献分类基线。在长文档分类的4种策略中，层次表示和关键句选择在吸烟任务中表现最好。此外，关键句的选择比层次表示模型的推理速度快9倍。从特定任务指南中提取的关键字比无监督方法表现得更好。特定于领域的语言模型总是比一般的嵌入表现得更好。gydF4y2Ba

共有1155例病例被提醒，其中临床医生和药剂师确定了357例儿童严重DHRs。这些病例中只有36例被SRS报告。提示SRS检出率低至10.08%。自动检查临床记录和报告潜在严重DHR病例的管道可以帮助减少漏诊的阳性DHR病例数量，同时降低人工成本。gydF4y2Ba

病例分析还发现了更多与儿科严重DHRs相关的疑似药物。该分析有助于促进上市后药物风险评估，有利于合理用药和改进用药指南。gydF4y2Ba

与之前工作的比较gydF4y2Ba

我们的方法在吸烟任务中与表现最好的方法取得了相当的性能(94.1% vs 94.2%)。在DHR任务中，我们的方法发现了357例阳性病例，其中约90%被SRS遗漏。gydF4y2Ba

最近的研究表明，临床文件太长，语境化语言模型无法处理[gydF4y2Ba6gydF4y2Ba-gydF4y2Ba8gydF4y2Ba］．不同于以往只处理出院总结的工作[gydF4y2Ba5gydF4y2Ba-gydF4y2Ba7gydF4y2Ba]，此DHR任务处理由与1个住院病人就诊相关的所有临床记录组成的文件。出院总结的平均字数通常为数百字。然而，在DHR数据集中，平均单词长度高达几千个汉字，有些文档包含数万个汉字。gydF4y2Ba

这项工作评估和比较了4种策略:文档截断[gydF4y2Ba10gydF4y2Ba]，层次表示法[gydF4y2Ba6gydF4y2Ba，gydF4y2Ba11gydF4y2Ba]，更有效的自我关注[gydF4y2Ba12gydF4y2Ba]，以及关键句的选择[gydF4y2Ba7gydF4y2Ba，gydF4y2Ba8gydF4y2Ba，gydF4y2Ba13gydF4y2Ba，gydF4y2Ba14gydF4y2Ba］．这些作品都没有考虑到指南的使用。gydF4y2Ba

限制gydF4y2Ba

该方法需要注释约200例阳性病例进行监督训练。当应用于医院数据库中的大型电子病历存档时，仍然需要某些预处理步骤，以防止格式糟糕的文档出现故障。这种预处理步骤可能因医院系统而异。gydF4y2Ba

结论gydF4y2Ba

严重dhr的自动识别可以作为文档分类问题来处理。临床记录长文献分类的最佳策略是在任务特定的指导下选择关键句。DHR病例的报告不能仅仅依靠负责的临床医生。在同一时期的数据中，SRS系统报告了36例，而自动流程发现了357例。病例分析还发现了更多与儿科严重DHRs相关的疑似药物。gydF4y2Ba