发表在10卷第11名(2022): 11月

本文的预印本(早期版本)可在https://preprints.www.mybigtv.com/preprint/38483,首次出版
在肿瘤环境中管理关键患者报告的结果测量:系统开发和回顾性研究

在肿瘤环境中管理关键患者报告的结果测量:系统开发和回顾性研究

在肿瘤环境中管理关键患者报告的结果测量:系统开发和回顾性研究

原始论文

1美国新泽西州霍博肯史蒂文斯理工学院系统与企业学院

2纪念斯隆凯特琳癌症中心,美国纽约,数字产品和信息学部门

通讯作者:

Onur Asan博士

系统与企业学院

史蒂文斯理工学院

城堡露台

霍博肯,新泽西州,07030

美国

电话:1 201 216 5514

电子邮件:oasan@stevens.edu


背景:基于收集患者报告结果(PRO)数据的远程监测程序正在肿瘤学实践中越来越多地被采用。虽然PRO是患者数据的重要来源,但文献中没有详细讨论关键PRO数据的管理。

摘要目的:这项史无前例的研究旨在设计、描述和评估一个闭环警报和通信系统,重点是管理癌症护理中的pro相关警报。

方法:我们通过增量构建新功能,使用敏捷软件开发方法设计并开发了一个新的解决方案。我们使用参与式设计和个人、任务和技术框架之间的匹配来评估这些新功能。

结果:利用警示特征共实施8份问卷,警示率为7.82%(36,838/470,841),13.28%(10,965/82,544)的患者触发了至少一次警示。来自191个护理团队的501名工作人员审查了警报。在标准工作时间内,所有警报的响应时间中位数为1小时(标准差185小时)。最严重(红色)警报的记录时间为56.83%(2592/4561),而未标记警报的记录时间为27.68%(1298/4689),这表明临床医生与警报阈值一致。

结论:基于PRO的警报和通信系统在合理的时间内审查有临床意义的PRO数据有一些初步的好处。我们已经讨论了关键的系统设计考虑因素,工作流集成,以及减轻对护理团队负担的潜在影响。基于pro的警报和通信系统的引入为护理团队提供了一个可靠的机制,可以快速检查和响应患者的症状。该系统在许多不同的肿瘤学设置中标准化,展示了系统的灵活性。今后的研究应侧重于通过定性方法对系统可用性进行形式化评估。

JMIR Med Inform 2022;10(11):e38483

doi: 10.2196/38483

关键字



背景

作为常规临床护理的一部分,患者报告的结果(PROs)越来越多地被收集,以捕捉患者自我报告的症状、功能和生活质量。他们支持促进临床-患者沟通,相互理解患者偏好,并实现对治疗决策产生影响的共同决策的目标[1-7].PRO数据收集对于肿瘤患者群体,尤其是临床试验患者尤为重要,因为迫切需要跟踪与癌症治疗相关的症状性不良事件,这对患者的临床结果和生活质量有重大影响[58-14].此外,专业人员还依赖于管理医疗保健使用[4811].只有患者准确及时地完成调查,PRO数据才有价值。有限的调查完成率降低了从极少填写的数据中得出临床结论的能力[15].研究表明,通过对患者进行教育或外展,临床医生参与管理PRO项目的过程,对患者参与有直接的积极影响[16-18].提供者在审查数据过程中不参与可能会抑制患者完成其PRO评估的积极性[19].因此,对于临床医生来说,以精简和及时的方式跟进患者报告的任何重要结果是至关重要的。

与许多其他临床应用一样,人们有兴趣在临床工作流程中集成PROs;然而,证据显示成功有限[1420.-24].病人产生的健康数据的来源,如PROs,对于护理实践的标准来说是相对较新的,并且并不总是有一个标准的机制,让临床医生用不同的实施策略适当地处理PROs [9].与此同时,如果存在工作流程障碍妨碍沟通,如审查过多的PRO反应,将患者的所有反应通知临床医生并不总是能及时与患者进行随访[25-27].

警报的概念在医疗保健中并不新鲜,长期以来一直应用于药物-药物相互作用的临床决策支持系统[2829]、不良事件监测[20.30.31]、化验结果异常[2532-36],以及许多其他[37].PRO警报的思想不同于前面提到的标准临床警报,因为它涉及患者和护理团队成员之间的异步中断和非中断通信,以及系统内护理团队成员之间的协调。一些研究提到了在PROs的背景下使用基于警报的功能;然而,他们都没有讨论与患者的沟通方面,分析对工作量的影响,并描述了这种警报系统的详细设计[8938-40].

鉴于远程监测方案越来越受欢迎,包括在2019冠状病毒病大流行期间使用PRO数据,已经有几项关于项目评估的热情研究,预计在2019冠状病毒病大流行后的年份,远程监测方案的采用将增加[41-44].远程监控程序本身就很新颖;因此,作为本研究的一部分,考虑工作管理系统的设计方面以及时处理关键结果是很重要的。此外,了解从临床访问异步运行此类计划的影响是至关重要的,以分配适当的资源来响应标准工作人员工作时间以外的患者特定需求,这对计划监测和管理具有影响。

目标

迄今为止,在肿瘤学标准护理实践中,人们普遍对使用PROs进行远程症状管理感兴趣,但对严重患者症状反应的管理以及临床工作人员参与患者反应的审查以适当地解决这些反应的情况知之甚少。鉴于在标准肿瘤实践中越来越多地采用PRO,我们认为有必要设计一个强大的PRO警报管理和通信系统,该系统可以随着临床患者数量的增加和患者对异步通信的需求而扩展。考虑到潜在的诊所中断,量化这样一个新系统对诊所工作量的影响是很重要的。在本研究中,我们设计并实现了与电子健康记录(EHR)分离的警报和通信系统,但与关键结果紧密集成。不知道这样一个系统需要什么特点,也不知道工作人员采用和参与这样一个系统是否会成功。本文中提出的发现为任何考虑实现处理所报告的关键PROs的机制的组织提供了架构设计的见解和详细的特性列表。

在本文中,我们介绍了基于pro的报警和通信系统设计的结果,总结了关键的定量结果,并反思了更广泛地采用该技术的影响。据我们所知,这是第一篇关于设计、实现和使用闭环警报管理和通信系统的论文,专门用于管理癌症护理中的PRO数据。


伦理批准

该回顾性队列研究由纪念斯隆·凯特琳癌症中心(MSK)机构审查委员会批准(批准号19-090),于2016年9月至2021年1月期间进行。

设置

这项研究是在纽约市及其附近的一个高容量的国家综合癌症网络中进行的,涵盖所有护理场所,包括门诊诊所、住院服务、门诊手术中心、住院手术和紧急护理。通过由跨学科临床、行政和技术团队组成的单独管理的PRO项目,PRO数据收集和警报系统作为多个癌症患者队列的护理标准实施。值得注意的是,几乎所有来MSK就诊的患者都接受了新型COVID-19筛查问卷和COVID-19症状问卷。参加这些项目的患者将具有与那些更倾向于接受癌症治疗的患者相似的特征。所有报告的数值结果都是针对整个研究期间,即2016年9月至2021年1月。患者的中位年龄为61岁,在本研究的所有患者队列中,总体器械依从性为36.89%(447,562/1,213,271)。

系统概述

从2016年9月至2017年8月,我们启动了一项试点,在我们的PRO应用Engage中逐步添加警报功能,并推出了恢复跟踪器,这是一项基于PRO不良事件通用术语标准的电子术后症状调查[45在门诊手术后的10天内。调查由患者在家通过患者门户账户(通过网页浏览器或我们的移动应用程序)完成。Engage虽然不是本研究的重点,但却是本研究中讨论的警报通知和通信系统的基础骨干。我们在Engage中总共推出了86种PRO调查工具,包括摄入表等标准护理表、筛查问卷、短期症状评估、长期随访问卷和研究性问卷。Engage是作为一款独立应用开发的;它与MyMSK (MSK患者门户网站内部开发)、患者-临床医生安全消息系统和EHR系统紧密集成[746].Engage被描述为图1由4个关键子系统组成(调查配置和部署、警报通知系统、患者和临床医生用户界面以及安全消息系统)。Engage与上游数据库进一步集成,以支持队列识别和调度。它还与现有临床医生和支持人员工作流程中的下游临床信息和文件系统集成,以支持临床图表和升级工作流程。除了技术方面,该系统还包括一个治理委员会,即eForms委员会,负责监督关键的设计和程序决策。本研究的重点是演示警报通知系统的设计、开发和实现及其与上游(即调查库、目标队列和复杂调度)和下游系统(即EHR)的集成背后的过程。Engage(我们的PRO系统)的设计超出了本研究的范围。

图1。本土的名为Engage的患者报告结果(PRO)系统概述。EHR:电子健康记录。
查看此图

系统治理

为了推动警报通知系统的决策和正式治理,我们利用了电子表格委员会(eForms committee),该委员会每月召开一次会议。该委员会成立于2016年我们的PRO计划启动时,旨在监督PRO仪器的开发,评估患者负担,讨论对临床医生工作流程的影响,审查监管和法律影响,并批准临床用户组要求的功能的重大更改。它是一个多学科委员会,由卫生信息专家、应用程序开发团队成员、患者参与专家、临床医生、研究人员、生物统计学家、卫生信息管理人员和医院管理人员组成。除“电子表格委员会”外,各调查工具亦成立了专责小组,更经常开会讨论“参与”系统的管理及推行事宜,并就系统设计建议提供意见。专家工作组还开会决定设定初始警报标准,并根据需要调整阈值。

警报通知系统设计步骤

我们试图设计和实现一个健壮而敏捷的基于pro的危急结果警报系统,当肿瘤护理环境中实时发生有临床意义的患者反应时,该系统可以通知患者和整个护理团队。设计的目标之一是提供在患者和护理团队之间就异常结果进行安全的非结构化沟通的能力,并在相同的工作流程中解决问题。本研究的第二个目标是描述警报量、响应时间和分类模式,以了解对所有癌症患者广泛实施PROs系统的规模和可行性的影响。除了系统设计和实现之外,我们还基于可伸缩敏捷框架创建了围绕系统增强和内容修订的反馈和治理结构。反馈是通过与所有项目涉众(包括最终用户、项目经理、临床医生和系统开发人员)的一系列定期会议收集的。

由于缺乏与危急值相关的PRO管理的现有方法(例如,手术事件后几天报告的非常严重的症状),我们通过回顾文献,参考了基于异常实验室或放射发现的危急结果沟通模型,以确定我们基于PRO的警报通知系统的初始理想系统组件和特征。我们对PubMed中现有的临床决策支持干预进行了文献综述,以确定实现临床警报生成和管理所必需的关键系统组件。样本搜索词包括“严重警报管理”、“临床警报通知”、“严重结果通知”和“异常结果管理”。我们确定了警报通知系统中启用的5个关键功能:警报规则配置、警报消息传递、确认、分类和用于EHR文档的警报导出。在试点期间启用警报组件后,其他7个基于pro的项目也采用了这些组件,详见多媒体附件1

总体而言,8份问卷配置了警报功能,针对更急性的症状评估,在目标队列中,最近的临床事件作为触发因素。在这些情况下,MSK的最佳实践期望是在临床事件发生后2个工作日内回电,并辅以自动症状评估。这些队列中的患者被定义为最近接受过手术、放射治疗、化疗或COVID-19诊断的患者。

图2显示护理团队成员遵循的警报管理工作流。警报被定义为由于患者提交的调查而发送给护理团队成员的通知。患者可以在调查中报告多个警报事件,这些事件被设计为重复几天(例如,在10天的调查中连续10个事件;每次调查都可能导致警报)。此外,我们实现了面向患者的警报通知,即当患者的反应通过屏幕上的弹出窗口触发有关症状时,会通知患者。该通知建议,如果患者担心症状恶化,请致电医生办公室。与此同时,这触发了一条警报消息被发送到他们的医生的收件箱。在查看消息后,护理团队成员可以选择直接打电话给患者,以跟踪任何有关症状或回复消息。然后,他们还可以选择将消息标记为更高级的护理团队成员的升级指示器。与接受肿瘤治疗的患者的标准护士电话包括有关治疗后随访的问题(例如,症状评估和可能令人担忧或需要详细说明的PRO反应的澄清)。 Nursing teams also handled triage of any patient concerns as they arose during phone call conversations, including providing patient education materials, facilitating referrals for prescription refills, and referring patients to urgent care facilities or specialty treatment referrals. The decision to call the patient was based on the guidance established by each clinic and the clinical judgment of the care team members. Finally, users have the option to send the message to the EHR to further document it in a clinical note by clicking the “ClinDoc” button.

图2。用于警报消息管理的端到端流程。EHR:电子健康记录。
查看此图

应用个体、任务和技术框架之间的匹配

在2016年9月至2017年8月的试点期间,我们参加了由一线工作人员(包括医生、护士和高级从业人员)组成的每两周一次的PRO工作组会议;办公室工作人员;和行政人员就护理团队成员审查关键的PRO结果和与患者沟通所需的系统功能征求意见。我们将这些特征映射到个人、任务和技术(FITT)框架中。我们选择FITT框架是因为它考虑了成功的系统采用的社会技术方面,使我们能够理解用户、技术和任务的属性,从而导致成功的采用。它还允许我们考虑所有3种属性类型的交互,以设想一个更全面的解决方案。我们在整个实施期间继续使用该框架,以阐明有关工具、任务和执行任务的人员的其他重要特性,这些特性对于专门为PROs确定的关键结果通知框架的每个组件都很重要[47].此外,我们还讨论了症状警报管理和临床决策过程的工作流方面。通过这些会议,我们阐明了设计以pro为中心的警报管理系统的关键人员和任务属性。我们向由信息学家、系统开发人员和产品经理组成的双周信息学工作组展示了这个模型,在那里我们讨论了这些功能的任务和工具相关属性。在每个反馈会议之后,我们将针对前一节中确定的关键系统功能的特性、成功标准和干预措施记录到FITT框架中,并将它们绘制成与工具、任务和人员相关的桶。

数据收集与分析

系统使用数据通过查询底层报告数据库收集以下变量(定义在文本框1),以获取2016年9月至2021年1月之间的数据:患者采用、患者参与、警报量、警报率、警报类型、消息状态、分类和升级标志、响应时间以及临床医生参与。使用DBeaver软件(DBeaver Corporation)查询数据。描述性统计和数据可视化使用Tableau软件(Tableau software, Inc)开发。

用于分析的变量的描述。

变量名称和定义

  • 病人采用
    • 完成患者报告结果问卷的患者总数和完成问卷的数量
  • 病人接触
    • 完成问卷调查的患者占每个患者分配的问卷总数的百分比
  • 报警量和速率
    • 每个符合警报条件的问卷触发警报的总数和速率
  • 警报类型
    • 警报消息的严重级别(红色[严重]、红色-黄色[严重和中等]、黄色[中等]),包括未标记的消息(显示为警报)
  • 消息状态
    • 警报消息在安全消息传递系统中的最终状态(已读、已回复、已完成和已记录)。
  • 消息重分配标志
    • 指示消息是否已重新分配给其他人的指示器
  • 消息升级标志
    • 指示一条信息是否已标记为另一个护理团队成员(注册护士或医生)进行审查的指标
  • 响应时间
    • 从创建警报消息到护理团队成员最后一次更新警报消息之间的时间(单位:小时)
  • 临床医生参与
    • 通过独特的护理团队收件箱来衡量分配警报消息的护理团队的总数,包括在护理团队收件箱中查看、回复或处理警报消息的护理团队成员的总数
文本框1。用于分析的变量的描述。

概述

研究结果解释了我们的系统是如何设计的,FITT框架内确定的功能,我们的系统如何创建和调度警报,警报的管理和交付,以及警报管理和护理团队成员采用的描述性统计数据。

警报通知系统组件及功能

用于识别和通信关键PRO响应的主要系统框架组件,我们根据FITT框架进行了评估,随后在我们的患者门户和安全消息传递系统中的生产PRO工具中实现图3文本框2

图3在较高的级别上描述警报系统的概述。从源系统Engage开始,其中构建了问卷,配置了警报,并捕获和存储了患者的调查响应。一旦患者提交了一份调查问卷,听者就会检查这些回答是否超过了预先设定的阈值。然后,当检测到指定警报消息时间的触发事件时,将识别目标收件人(这是在基于覆盖率的患者队列定义阶段预先捕获的),并将消息路由到适当的通信通道。在我们的例子中,它被路由到一个安全的消息传递系统,但是我们配置了全通道通信策略。该消息被发送到一个邮箱,并由护理团队成员审查,他们可以选择将其升级给其他护理团队成员,或将对话记录在下游的EHR临床记录中。

图3。患者报告的结果警报系统功能和流程流。电子健康记录:电子健康记录;MD:医学博士;注册护士。
查看此图
警报通知系统的关键组件及其描述。

关键组件及描述

  • 告警源和阈值
    • 建立基于单个响应值或响应值组合的评分算法,以根据特定患者提交的信息标记要发送的通知。一次提交可以包含多个问题回答(例如,严重疼痛和严重疲劳)。响应以部分形式呈现,并进行颜色编码,首先用红色显示最严重的警报,然后用黄色显示不严重的响应,以便护理团队可以对患者的响应进行分类和优先级排序。
  • 触发
    • 定义一种技术方法来安排当患者报告某个值时发送的通知。警报消息存储为JSON对象,并且对重要警报进行实时通知。
  • 目标
    • 定义目标系统,在该系统中,消息将被整个患者护理团队看到,并根据他们的具体临床角色、与患者的护理关系、覆盖范围和可用性确定谁将接收和管理消息。
  • 通信方式
    • 根据临床医生的角色或他们的工具偏好确定特定的警报通信偏好。护理团队成员选择的沟通工具往往根据他们的临床角色而有所不同。该应用程序容纳了多种通信模式,并能够尊重每个用户的首选通信方式。
  • 确认和升级
    • 确定确认周期中的离散步骤,包括将信息升级到高级临床角色以进行更关键的随访。创建按钮来管理确认和升级流程中的每个离散步骤。
  • 文档
    • 在源系统中记录警报的最新状态,包括升级,或在医疗记录中记录与患者的随访。
文本框2。警报通知系统的关键组件及其描述。

FITT框架结果:按人员、任务和工具划分的警报特性

在我们参加了每两周一次的PRO工作组之后,我们将期望的功能和用户需求绘制成一个经过修改的FITT框架,该框架由文献综述中确定的每个主要组件分层,总结于文本框2.这导致了项目管理流程和系统需求的全面列表,并告知我们的用户验收测试场景在开发和后续的应用程序推出。结果总结在表1

表1。根据警报系统的工具、任务和人员特性总结功能。
组件 工具的特性 任务功能 人的特性
告警源认证 护理团队跟踪系统到位
•识别生成和接收通知的系统
•单点登录所有应用程序
•用于响应警报的应用程序之间的导航
•用户帐户验证和管理
•对所有系统进行护理团队识别和认证
•患者可访问调查提交工具,以提交和审查患者警报
•培训用户在系统之间访问和导航
创建警报 •定义警报的可定制点(频率、模式、方法和目标[人])
•允许规则引擎定义阈值设置规则和优化
•捆绑警报创建
•建立触发点
•确定警报的严重级别
•分析数据并调整触发器的阈值
•根据警报级别(紧急、半紧急或非紧急)定义工作流
•用于创建、审查和调优警报触发器和阈值的治理
•对警报创建有耐心的知识
沟通 •建立可互操作的通信模式(EHR)一个、患者门户、SMS文本消息、应用程序、电子邮件和电信(寻呼机、Vocera、电话和电子传真))
•管理警报通信模式的首选项
•冗余管理
•基于相似警报的警报捆绑和排序
制定严重性语言的定义
•护理团队的可用性和覆盖范围
•根据事件类型或服务或患者程序建立通知首选项(首选工具登录警报)
•护理团队和患者之间的数字沟通
提醒和升级 •如果还没有审查严重警报,设置提醒时间表的方法到位
•未审查的警报自动升级
•提醒规则
•升级规则
•Autoescalation
•到期日期升级
•遗漏警报处理
•针对部门的确认管理和后续行动培训
•监控升级模式
确认和管理 •识别接收确认的系统
•重新路由消息
有适当的方法来处理警报创建和通信中的错误
•能够确认一束警报
•Autoacknowledgment
•定义反映确认的动作(时间、动作和角色)
•根据严重程度划分优先级
•自愿转发警报
•处理沟通中的错误
•对护理团队成员进行确认管理和后续行动培训
•确认率的监控
文档 •能够记录警告总结和解决发现
•能够复制和粘贴警报消息内容到临床笔记
•定义文档级别,以关闭警报循环
•功能导入警报到EHR模板
•定义文档审阅人员
•为护理团队成员定义的工作流程,具体到每个服务和调查

一个EHR:电子健康记录。

警报创建和调度

在警报规则由PRO工作组建立后,由每个服务采用的最新临床实践标准指南组成,系统管理员负责实施这些标准。警报创建是使用警报源系统中的配置工具完成的,允许系统管理员根据患者对单个问题或问题组合的响应配置复杂的规则。护理团队还要求能够针对特定的临床情况指定不同的警报规则(例如根据特定的外科手术、诊断或治疗方案触发警报),并根据临床事件和患者完成问卷时间之间的时间跨度进行更改(例如对手术后一天报告的疼痛不发出警报,而在第3天开始发出警报)图4,系统管理员在其中配置警报消息的主题和通知消息的正文,包括使用可视颜色指示器和其他基于HTML和级联样式表的消息正文文本格式化选项指定严重级别的能力。临床医生在花了几个月的时间回应非标签信息后,要求使用颜色标签功能来强调严重程度。向消息主题添加表示严重级别的颜色标签,使护理团队成员能够适当地对这些通知进行分类。还可以将临床上下文集成到警报通知正文中。一旦在问卷级别上配置了警报规则,下一个功能就是设置阈值和方向性(大于、等于或小于),定义为警报触发时必须跨越的级别。接下来,我们开发了一个触发机制,这是一种基于业务规则配置和同步发送通知的计划的技术方法。

图4。调查库app的截图,特别是报警阈值配置界面。
查看此图

警报交付和管理工作流

一旦警报消息准备好交付给目标(定义为在分配调查时负责护理患者的初级临床医生),护理团队的其他成员就可以订阅初级临床医生的安全收件箱,以代表整个护理团队查看和响应患者消息。警报消息的屏幕截图显示在图5.这个收件箱内置在我们的患者门户中,工作人员可以安全地与患者进行双向通信。收件箱的主要用户是支持诊所的护理和行政办公室人员。在收件箱中,如果有其他人负责该患者,用户可以将消息重新分配给不同的提供者。在打开消息后,工作人员可以通过将消息标记为已完成来确认消息,直接回复患者,或将消息升级到临床医生办公室的工作人员,通常是护士。除了数字化工作流程之外,医护人员还可以通过电话跟进患者,并将信息标记为完整。一旦对警报消息采取了操作,用户可以选择将消息线程发送到EHR,以便将其导入到注释中。最后一个导入步骤关闭警报管理生命周期的循环。

图5演示警报配置的输出,这是在护理团队的收件箱中显示的消息。消息主题指示警报的严重级别,正文包含红色或黄色症状指示器,显示触发警报的症状。消息体还包括一些关于患者的上下文信息以及他们的联系信息(如果可用的话),以便护理团队成员可以在消息紧急时直接联系。消息控件在顶部可用,支持重新分配给不同的护理团队成员、直接回复患者、将消息转发到电子邮件、按角色将消息标记为不同的人、将消息标记为完整、将消息发送到EHR (ClinDoc),以及最后打印消息的功能。

图5。面向患者和面向临床医生的警报消息的截图。MSK:纪念斯隆·凯特琳。
查看此图

数量收养

通过配置警报功能的8份问卷,7.82%(36,838/470,841)的患者每完成一次症状评估就发出警报,13.28%(10,965/82,544)的患者接受了至少一次调查,至少发出了一次警报。这意味着92.28%(434,003/470,841)的患者调查没有触发警报;因此,他们的反应不需要由护理团队审查。这些警报由191个不同的护理团队管理,该团队由501名工作人员组成。每个护理团队都配置了自己的邮箱,该邮箱设置在医生诊所、服务或诊所位置级别。工作人员订阅护理团队邮箱,并有权查看患者消息、对其进行分类并回复患者。每个邮箱平均由5名工作人员管理,护理小组的人数从最少1人到最多75人不等。每个护理团队收件箱的警报中位数为35 (95% CI 0-145)。

警报管理模式

在信息分类和升级方面,4.4%(1631/36,838)的警报被重新分配给其他护理团队,16.7%(6156/36,838)的警报被标记为另一个护理团队成员查看。收到重新分配的信息的护理团队成员通常位于不同的校区,更接近患者最近的治疗地点,而不是最初触发调查的事件地点。在信息管理方面,护理团队成员回复了24.6%(9057/36,838)的信息,并将40.9%(15,069/36,838)的信息标记为已完成(标记为已阅读)而不回复,34.5%(12,712/36,838)的信息通过如下流程进一步记录在EHR内的临床记录中图2.在数量上,61.6%(22,692/36,838)的警报为黄色,13.3%(4896/36,838)的警报为红黄色,12.4%(4561/36,838)的警报为红色,12.7%(4689/36,838)的警报未标注颜色无标号警报

当将警报状态与警报级别进行比较时,我们看到随着警报级别的增加,护理团队文档活动也增加了,这为警报阈值的有效性提供了基于护理团队的验证信号。记录的警报级别最低的是未标记警报,占所有未标记警报的27.68%(1298/4689),而记录的警报级别最高的是红色警报,其中56.83%(2592/4516)记录在电子病历中。

我们通过三个不同的时间窗口分析了响应警报的周转时间表2:(1)办公时间内(星期一至星期五上午8时至下午6时),(2)办公时间外(工作日下午6时至次日上午8时,星期日至星期一及星期五至星期六除外),及(3)周末(星期五下午6时至星期一上午8时)。营业时间内的响应时间中位数为1小时,响应时间因警报严重程度而异;红色警报的响应时间不到一小时,未标记警报的响应时间中值为2小时。在营业时间以外收到的警报需要更长的时间来审查,响应时间中位数为6小时,表明响应时间随着严重程度的增加而减少,这表明护理团队成员使用颜色标签作为有效的分类机制,更快地响应最关键的警报。

表2。按消息状态和警报到达窗口总结警报类型。

未标记警报(N=4689) 黄色警报(N=22,692) 红黄警报(N=4896) 红色警报(N=4561) 总(N = 36838)
消息状态,n (%)

完成 3026 (64.5) 9718 (42.8) 1630 (33.3) 695 (15.2) 15069 (40.9)

回答说 365 (7.8) 6040 (26.6) 1378 (28.1) 1274 (27.9) 9057 (24.6)

记录 1298 (27.7) 6934 (30.6) 1888 (38.6) 2592 (56.8) 12712 (34.5)
时间窗口,n (%)

营业时间内 2685 (57.3) 12159 (53.6) 2597 (53) 2534 (55.6) 19975 (54.22)

非营业时间 757 (16.1) 3795 (16.7) 836 (17) 745 (16.3) 6160 (16.72)

在周末 1247 (26.6) 6738 (29.7) 1436 (29.3) 1282 (28.1) 10703 (29.1)
时间窗口,中值响应时间,以小时为单位

营业时间内 2 1 1 0.5 1

非营业时间 9 6 7 2 6

在周末 40 23 2 21 22

主要研究结果

本研究是首批报告癌症护理中PRO关键结果管理和沟通系统的设计、实施和运行结果的研究之一。虽然许多研究报告了PRO系统的发展,但没有一个研究深入关注结果的管理。我们的研究结果表明,应该有一种机制来及时处理患者报告的重要结果,以便患者可以与护理团队讨论他们的症状。为此,我们加强了现有的安全消息传递系统,以促进患者与其护理团队之间的异步通信。考虑到护理团队的规模和组成可能因轮班不断变化而变化,我们的研究结果显示,护理团队的中位数为5人;其他人也报道了类似的发现[4849].重要的是开发一个解决方案,让整个护理团队可以看到之前与患者的互动,从而无缝地恢复另一个护理团队成员中断的对话。标记功能对于通知高级团队成员需要注意的消息非常有用。尽管使用频率较低,但将患者重新分配到不同的护理团队的能力允许团队之间顺利交接。

设置有临床意义的警报阈值

在患者队列中建立具有临床意义的阈值是至关重要的,它为治疗发作后任何一天的“正常”症状设定了基线定义。警报阈值是一个很有争议的话题,在每台仪器的投产后都被反复讨论了很多次。决策是在每个项目工作组中做出的,团队讨论了开启警报的影响以及对工作负载的预期影响。这些决定是基于处理针对警报的治疗事件后症状报告的经验。临床护理团队由精通通过电话收集患者症状数据的护士组成;因此,他们知道在手术等事件发生后的某一天会听到哪些症状,并根据临床判断做出决定。随着时间的推移,卫生保健系统了解患者的结果,能够调整阈值是很重要的。工作人员通过汇总仪表板审查警报率,使团队成员能够反映工作人员的警报工作量负担,并确定缓解策略。通过检查仪表板,管理层注意到手术后第二天报告的疼痛等症状的警戒率很高,这被确定为正常的临床事件。因此,警报规则被调整为在手术后2至3天内不对特定问题发出警报。 Setting thresholds such as “red” and “yellow,” which indicate severe and moderate symptoms, respectively, created visual indicators for the care team members within the subject as well as the body of the message. Notably, we saw a substantial difference in response times for the alerts that were marked as “red,” suggesting that the alert color label was effectively used as a triage mechanism. With this approach, by focusing on the alerts that are marked as “red,” we can reduce clinician burnout by minimizing the cognitive load associated with reading patient messages.

PRO管治的重要性

与其他有关PRO管治重要性的研究相似[50],这项研究还表明治理委员会(eForms委员会,35个人)在设计和实现PROs方面起到了重要作用。该委员会每月召开一次会议,讨论总体系统设计的最佳实践和新功能发布的影响,并决定在不同患者队列中建立具有临床意义的警报阈值。临床医生、护士、患者教育专家和行政人员作为协作的思想领袖,通过对设置的警报阈值进行严格评估,始终努力将患者负担和工作人员的警报疲劳降到最低。以临床为重点的PRO工作组(40人)每两周定期举行一次会议,以确定工作人员的工作流程和职责,为系统设计提供反馈,将警报与现有的消息工作流程相结合,为患者开发教育材料,为工作人员创建培训材料,并通过实时仪表板反映汇总数据。围绕护理团队成员的角色和责任建立了策略,以确保及时响应消息。毫无疑问,护理和办公室工作人员在评估反应、分类和直接回应患者方面发挥了重要作用,与护士主导的患者参与项目的类似发现产生了共鸣[1751-54].除了一个项目有专门的工作人员在周末检查患者信息外,患者被告知邮箱在正常工作时间之外无人值守,并鼓励他们在出现紧急症状时致电医生。

PRO集成到临床工作流程中

将pro集成到临床工作流程中一直是一个挑战,而让临床医生对数据进行审查并采取行动则是另一个挑战。建立一个警报系统,通过警报通知临床医生只有临床有意义的患者反应,这是朝着更好的方向迈出的一步,只有当临床专家认为警报具有临床意义时,临床医生才需要审查警报。考虑到部分由信息过载引起的临床医生倦怠的新问题,通过使用该警报系统,护理团队审查了7.82%(36,838/470,841)的患者反应,消除了审查超过92.28%(434,003/470,841)的反应的需要,同时保持有价值的PRO数据的收集,以研究患者对治疗反应的长期结果。有一个无缝的机制在同一工作流程中与患者沟通是朝着正确方向迈出的又一步,并且与文献中的发现一致[27].它不仅向患者发出信号,表明他们正在受到持续的照顾,鼓励他们继续完成评估,而且还可以用于早期解决症状,防止任何不必要的急诊室就诊。

未来研究机会

虽然PRO数据可以成为共享决策和弥合中间就诊护理差距的宝贵工具,但只有在患者完成评估后才能获得数据。在COVID-19大流行期间采用远程监测方案[55-57暴露了完全依赖数字干预的项目所造成的数字鸿沟。对技术不熟悉或主要语言与调查工具语言不同的患者可能不太可能完成症状评估。当我们扩展基于pro的远程症状监测项目时,我们必须考虑研究全数字化干预的社会技术方面。在适当设置有意义的警报阈值方面,对未来的研究机会有几个影响。在MSK,围绕设置有临床意义的阈值的讨论随着时间的推移而演变,最终由负责响应警报的护理人员和负责患者结果的医生之间达成协议决定。此外,分析患者特征(如人口统计学、疾病阶段或疾病类型)对警报反应模式和与护理团队成员沟通的影响将是有趣的。随着我们积累更强大的PRO数据集并监测临床医生的分诊,我们有机会建立机器学习模型,根据患者对特定PRO的反应、反应模式和疾病分期和进展等临床背景,预测患者何时需要干预。此外,可以开发基于人工智能的自动化聊天机器人,以促进与患者的对话,减轻护理人员的负担。进一步研究护士在EHRs中的后续活动,如转诊、药物订购或与其他护理团队成员的沟通,可以为聊天机器人对患者的响应提供改进。

限制

本研究有一定的局限性。首先,我们报告了来自一个机构的调查结果,这可能无法在所有设置中推广。此外,由于我们有一个内部开发的患者参与系统,我们可以灵活地设计和实施最适合护理团队工作流程的警报管理系统,这可能是其他医疗机构负担不起的灵活性。此外,选择为其PRO程序实现警报功能的护理团队高度参与了系统开发生命周期,并在整个过程中提供了充分的反馈,这可能不适用于资源有限的机构。大多数功能的系统设计特性是通过与试点工作组的讨论得知的,并且本质上是定性的,我们没有执行正式的定量评估。

结论

通过开发关键症状警报和通信系统,我们设计了一个系统,支持基于PRO数据的关键结果实时传递给适当的护理团队成员,包括患者和临床工作人员以非结构化、基于文本的安全通信格式就警报进行通信的能力。我们能够标准化患者生成的警报消息的处理,使临床工作流程中具有临床意义的PRO数据以标准格式呈现,并监控临床工作人员的响应时间。这使我们能够为患者的护理团队成员设定一个适当的响应时间框架,或为每个患者及其所经历的手术提供特定的替代沟通指导。

致谢

作者要感谢eForms委员会和Josie Robertson手术中心患者报告结果工作组的成员,感谢他们在整个产品开发生命周期(从初始阶段到现在)中始终如一的反馈。作者还想感谢纪念斯隆凯特林的护理、信息学和技术团队的努力,他们为Engage平台和警报通知系统的开发、实施和支持做出了贡献。

利益冲突

没有宣布。

多媒体附件1

本研究中使用警示功能的问卷摘要。

DOCX文件,14kb

  1. 韦利科娃·G,布斯·L,史密斯·AB,布朗·PM,林奇·P,布朗·JM,等。在常规肿瘤学实践中测量生活质量可以改善沟通和患者健康:一项随机对照试验。中华临床医学杂志2004年3月15日;22(4):714-724。[CrossRef] [Medline
  2. Basch E, Mody GN, Dueck AC.电子患者报告结果作为数字治疗改善癌症结果。JCO Oncol Pract 2020年9月16日(9):541-542。[CrossRef] [Medline
  3. Chung AE, Basch EM.通过患者报告的结果,将患者的声音纳入电子健康记录,称为“系统审查”。中国医学信息学会2015年7月;22(4):914-916 [免费全文] [CrossRef] [Medline
  4. 李文杰,李志强,李志强,李志强,等。整合患者报告结果(PROs)在“现实世界”肿瘤学实践中的个性化症状管理:对医疗保健利用影响的基于人群的队列比较研究癌症2020年10月;28(10):4933-4942。[CrossRef] [Medline
  5. 柯文,苏丹,张凯,等。重大妇科癌症手术后患者在家电子报告预后:一项测量症状和健康相关生活质量的前瞻性研究妇科肿瘤2016年11月;143(2):362-366 [免费全文] [CrossRef] [Medline
  6. Yang LY, Manhas DS, Howard AF, Olson RA。肿瘤学中患者报告的结果使用:对患者-临床医生沟通影响的系统回顾癌症2018年1月26日(1):41-60。[CrossRef] [Medline
  7. 史卓娜,柯恒,艾利森,王瑞杰,等。在头颈部肿瘤学实践中整合电子患者报告结果作为护理标准的案例研究:障碍和机会。巨蟹座2021年2月1日;127(3):359-371 [免费全文] [CrossRef] [Medline
  8. Richards HS, Blazeby JM, Portal A, Harding R, Reed T, Lander T,等。手术后患者出院后的实时电子症状监测系统:癌症相关手术的试点研究。BMC Cancer 2020 Jun 10;20(1):543 [免费全文] [CrossRef] [Medline
  9. Warrington L, Absolom K, Conner M, Kellar I, Clayton B, Ayres M,等。患者报告和管理癌症治疗副作用的电子系统:系统回顾。J Med Internet Res 2019年1月24日;21(1):e10875 [免费全文] [CrossRef] [Medline
  10. Bennett AV, Jensen RE, Basch E.肿瘤临床实践中的电子患者报告结果系统。中华癌症杂志,2012;26 (5):337-347 [J]免费全文] [CrossRef] [Medline
  11. 张志刚,张志刚,张志刚,等。在常规癌症护理中,用于患者报告症状的电子监测的数字系统的临床效用和用户感知:来自protect试验的发现。JCO临床癌症通告2020年10月;4:947-957 [免费全文] [CrossRef] [Medline
  12. 张晓东,张晓明,张晓明,张晓明,等。癌症患者自我报告化疗毒性在线平台的评估。中国医学信息杂志2007;14(3):264-268 [免费全文] [CrossRef] [Medline
  13. Basch E, Abernethy AP。支持临床实践决策与实时患者报告的结果。中华临床医学杂志2011年3月10日;29(8):954-956。[CrossRef] [Medline
  14. Anatchkova M, Donelson SM, Skalicky AM, McHorney CA, Jagun D, Whiteley J.探索在癌症治疗中实施患者报告的结果测量:同行评审文献中需要更多真实世界的证据结果。J患者代表结果2018年12月27日;2(1):64 [免费全文] [CrossRef] [Medline
  15. 陈建平,陈建平,陈建平,等。提醒邮件和逾期通知是否改善了患者报告结果测量的患者完成和机构数据提交?合格寿命决议2021年1月30日(1):81-89 [免费全文] [CrossRef] [Medline
  16. Stover AM, Basch EM.在常规癌症治疗中使用患者报告的结局指标作为质量指标。巨蟹座2016年3月1日;122(3):355-357 [免费全文] [CrossRef] [Medline
  17. 张志刚,张志刚,张志刚,等。利用利益相关者参与来克服在癌症护理提供中实施患者报告结果(PROs)的障碍:来自3项前瞻性研究的方法。Med Care 2019年5月;57 Suppl 5 Suppl 1:S92-S99。[CrossRef] [Medline
  18. Holt JM, Cusatis R, Winn A, Asan O, Spanbauer C, Williams JS,等。就诊前上下文数据收集对医患沟通和患者激活的影响:一项随机试验。J Gen实习生医学2021年11月36日(11):3321-3329。[CrossRef] [Medline
  19. Hsiao CJ, Dymek C, Kim B, Russell B.在实践中推进患者报告结果的使用:理解健康信息技术的挑战、机遇和潜力。Qual Life Res 2019年6月;28(6):1575-1583。[CrossRef] [Medline
  20. 霍奇P, Warrington L, Bamforth LC, Keding A, Ziegler LE, Absolom K,等。开发癌症治疗期间患者自我报告和不良事件管理的综合电子平台。Ann Oncol 2017 9月01日;28(9):2305-2311 [免费全文] [CrossRef] [Medline
  21. 电子患者报告结果:整合到患者护理和临床研究的时机已经成熟。Am Soc Clin Oncol教育书2016年5月19日(36):e89-e96 [免费全文] [CrossRef
  22. 刘志强,李志强,李志强,等。在临床实践中患者产生的上下文数据对沟通的影响:患者和临床医生观点的定性评估。患者教育计数2020年4月;103(4):734-740。[CrossRef] [Medline
  23. Austin E, LeRouge C, Hartzler AL, Chung AE, Segal C, Lavallee DC。促进临床护理中使用电子患者报告结果的机遇和挑战:来自AMIA研讨会会议的报告。JAMIA公开赛2019年12月;2(4):407-410 [免费全文] [CrossRef] [Medline
  24. Pitzen C, Larson J.患者报告的结果测量和整合到电子健康记录中。J Oncol practical 2016 10月;12(10):867-872。[CrossRef] [Medline
  25. Dalal AK, Pesterev BM, Eibensteiner K, Newmark LP, Samal L, Rothschild JM。将确认与行动联系起来:在电子健康记录中关闭非紧急、具有临床意义的检测结果的循环。美国医学信息学会2015年7月;22(4):905-908 [免费全文] [CrossRef] [Medline
  26. Ancker JS, Edwards A, Nosal S, Hauser D, Mauer E, Kaushal R,与HITEC调查员。临床决策支持系统中工作量、工作复杂性和重复警报对警报疲劳的影响。BMC Med Inform Decis Mak 2017 Apr 10;17(1):36 [免费全文] [CrossRef] [Medline
  27. 叶杰。电子健康记录集成患者生成的健康数据对临床医生倦怠的影响。美国医学通报协会2021年4月23日;28(5):1051-1056 [免费全文] [CrossRef] [Medline
  28. Edrees H, Amato MG, Wong A, Seger DL, Bates DW。高优先级药物-药物相互作用临床决策支持在新实施的商业计算机化供应商订单输入系统中:优先级药物适当性和不良药物事件。J Am Med Inform association 2020年6月01日;27(6):893-900 [免费全文] [CrossRef] [Medline
  29. Wright A, McEvoy DS, Aaron S, McCoy AB, Amato MG, Kim H,等。电子健康记录中药物-药物相互作用警报的结构化重写原因。J Am Med Inform association 2019年10月01日;26(10):934-942 [免费全文] [CrossRef] [Medline
  30. Absolom K, Holch P, Warrington L, Samy F, Hulme C, Hewison J, eRAPID系统治疗工作组。不良事件电子患者自我报告:患者信息和建议(eRAPID):系统性癌症治疗的随机对照试验。BMC Cancer 2017 May 08;17(1):318 [免费全文] [CrossRef] [Medline
  31. Bates DW, Teich JM, Lee J, Seger D, Kuperman GJ, Ma'Luf N,等。电脑化医嘱录入对预防用药差错的影响。中国医学杂志1999;6(4):313-321 [免费全文] [CrossRef] [Medline
  32. Al-Mutairi A, Meyer AN, Chang P, Singh H.缺乏及时随访异常影像学结果和放射科医生的建议。中国放射学杂志2015年4月;12(4):385-389。[CrossRef] [Medline
  33. Singh H, Thomas EJ, Sittig DF, Wilson L, Espadas D, Khan MM,等。电子病历中实验室检测结果异常的通知:是否存在任何安全问题?Am J Med 2010年3月;123(3):238-244 [免费全文] [CrossRef] [Medline
  34. Singh H, Wilson L, Reis B, Sawhney MK, Espadas D, Sittig DF。改进电子健康档案异常检测结果报警管理的十种策略。J Patient Saf 2010 Jun;6(2):121-123 [免费全文] [CrossRef] [Medline
  35. Singh H, Thomas EJ, Mani S, Sittig D, Arora H, Espadas D,等。门诊情况下异常诊断影像检查结果的及时随访:电子病历正在发挥其潜力吗?2009年9月28日;169(17):1578-1586 [免费全文] [CrossRef] [Medline
  36. Lacson R, O'Connor SD, Andriole KP, Prevedello LM, Khorasani R.自动化关键测试结果通知系统:架构、设计和提供者满意度评估。AJR Am J伦琴诺2014 11月;203(5):W491-W496 [免费全文] [CrossRef] [Medline
  37. Middleton B, Sittig DF, Wright a .临床决策支持:25年回顾和25年愿景。Yearb Med Inform 2016 Aug 02;增刊1:S103-S116 [免费全文] [CrossRef] [Medline
  38. Hassett MJ, Hazard H, Osarogiagbon RU, Wong SL, Bian JJ, Dizon DS, eSyM项目经理。eSyM的设计:一个基于epro的症状管理工具,完全集成在电子健康记录(Epic)中,以促进患者/临床医生的参与、可持续性和临床影响。中国临床肿瘤学杂志2020年5月25日;38(15刊):e14120。[CrossRef
  39. Basch E, Deal AM, Dueck AC, Scher HI, Kris MG, Hudis C,等。一项评估常规癌症治疗期间患者报告的症状监测结果的试验的总生存结果。中国医学杂志2017 july 11;318(2):197-198 [免费全文] [CrossRef] [Medline
  40. Avery KN, Richards HS, Portal A, Reed T, Harding R, Carter R,等。开发癌症相关手术患者出院后的实时电子症状监测系统。BMC Cancer 2019 5月17日;19(1):463 [免费全文] [CrossRef] [Medline
  41. Annis T, Pleasants S, Hultman G, Lindemann E, Thompson JA, Billecke S,等。快速实施COVID-19远程患者监测计划。美国医学通报协会2020年8月01日;27(8):1326-1330 [免费全文] [CrossRef] [Medline
  42. 泰勒的电脑。在RA的虚拟和门诊管理中采用pro。Nat Rev Rheumatol 2020 Sep;16(9):477-478 [免费全文] [CrossRef] [Medline
  43. 艾耶布西OL,卡尔弗特MJ。患者报告的结果:COVID-19管理的核心。柳叶刀2020年8月22日;396(10250):531 [免费全文] [CrossRef] [Medline
  44. Marandino L, Necchi A, Aglietta M, Di Maio M. COVID-19紧急情况和加快在癌症临床实践中采用电子患者报告结果的必要性。JCO Oncol Pract 2020年6月;16(6):295-298 [免费全文] [CrossRef] [Medline
  45. Basch E, Reeve BB, Mitchell SA, cluser SB, Minasian LM, Dueck AC,等。开发了国家癌症研究所的不良事件通用术语标准(PRO-CTCAE)的患者报告结果版本。中华肿瘤学杂志2014 9月;21 (9):dju244 [免费全文] [CrossRef] [Medline
  46. Polubriaginof FC, Parekh PK, Akella NR, Stetson PD。肿瘤学中采用电子患者报告结果工具的模式。中国临床肿瘤学杂志2020年5月25日;38(15刊):e19127。[CrossRef
  47. Ammenwerth E, Iller C, Mahler C. it采用与任务、技术和个人的交互:一个合适的框架和案例研究。BMC Med Inform Decis Mak 2006年1月09日;6:3 [免费全文] [CrossRef] [Medline
  48. Steitz BD, Unertl KM, Levy MA。描述临床护理团队成员之间的沟通模式,以提供乳腺癌治疗。美国医学通报协会2020年2月01日;27(2):236-243 [免费全文] [CrossRef] [Medline
  49. Steitz BD, Unertl KM, Levy MA。在乳腺癌护理团队中管理异步临床信息的电子健康记录工作分析app clinin Inform 2021年8月;12(4):877-887 [免费全文] [CrossRef] [Medline
  50. Stetson PD, McCleary NJ, Osterman T, Ramchandran K, Tevaarwerk A, Wong T,等。在肿瘤学中采用患者生成的健康数据:来自NCCN EHR肿瘤顾问组的报告。J Natl Compr Canc Netw(即将到来)2022年1月18日-6日。[CrossRef] [Medline
  51. Simon BA, Assel MJ, Tin AL, Desai P, Stabile C, Baron RH,等。电子患者症状报告与警报和潜在可避免的癌症手术后紧急护理访问之间的关联。JAMA外科杂志2021 Aug 01;156(8):740-746 [免费全文] [CrossRef] [Medline
  52. Nembhard IM, Buta E, Lee YS, Anderson D, Zlateva I, Cleary PD。一项准实验评估了六个月的护理协调计划对患者护理经验和社区卫生中心临床医生团队的影响。BMC Health Serv Res 2020 3月24日;20(1):137 [免费全文] [CrossRef] [Medline
  53. 李志刚,李志刚,李志刚,李志刚,等。在整个癌症过程中表达患者的价值观:一种新颖的护士主导干预。J疼痛症状管理2019 july;58(1):72-9。e2 (免费全文] [CrossRef] [Medline
  54. Desai AV, Klimek VM, Chow K, Epstein AS, Bernal C, Anderson K,等。1-2-3项目:在门诊环境中为所有癌症患者规范化和系统化姑息治疗的质量改进倡议。J Oncol Pract 2018年12月;14(12):e775-e785 [免费全文] [CrossRef] [Medline
  55. Sirintrapun SJ, Lopez AM。癌症护理中的远程医疗。Am Soc Clin Oncol教育书2018年5月23日;38:540-545 [免费全文] [CrossRef] [Medline
  56. Ramsetty A, Adams C.数字鸿沟在COVID-19时代的影响。美国医学通报协会2020年7月01日;27(7):1147-1148 [免费全文] [CrossRef] [Medline
  57. 王永明,王永明,李立夫。数字鸿沟:COVID-19的远程医疗扩张如何加剧差距。J Am Acad Dermatol 2020年11月;83(5):e345-e346 [免费全文] [CrossRef] [Medline


电子健康档案:电子健康记录
FITT:个体、任务和技术之间的匹配
MSK的:纪念斯隆·凯特琳
正方观点:patient-reported结果


C·洛维斯编辑;提交04.04.22;同行评审:M Zaidi, F Sparano, FM Calisto, M Marie;对作者18.05.22的评论;修订本收到27.06.22;接受25.09.22;发表03.11.22

版权

©Olga Strachna, Onur Asan, Peter D Stetson。最初发表在JMIR医学信息学(https://medinform.www.mybigtv.com), 03.11.2022。

这是一篇开放获取的文章,根据创作共用署名许可协议(https://creativecommons.org/licenses/by/4.0/)的条款发布,允许在任何媒介上不受限制地使用、分发和复制,前提是正确引用了首次发表在JMIR医学信息学上的原创作品。必须包括完整的书目信息,https://medinform.www.mybigtv.com/上的原始出版物的链接,以及此版权和许可信息。


Baidu
map