原始论文gydF4y2Ba
摘要gydF4y2Ba
背景:gydF4y2Ba持续性认知障碍在单极和双相障碍中普遍存在,并与生活质量下降和社会心理功能障碍有关。精神病学认知障碍筛查(SCIP)测试是一种有效的评估情感障碍认知的纸笔工具。然而,在这一患者群体中,没有数字认知筛查工具可以对认知障碍进行简短而准确的评估。gydF4y2Ba
摘要目的:gydF4y2Ba本文介绍了基于SCIP认知任务设计的基于互联网的认知评估工具(ICAT)的设计过程和可行性研究。本可行性研究的目的是在健康个体中执行以下任务:(1)评估ICAT的可用性;(2)调查ICAT作为患者自行管理的认知评估工具的可行性;(3)检查自动语音识别(ASR)用于评估言语回忆的性能。gydF4y2Ba
方法:gydF4y2BaICAT是在以用户为中心的设计过程中开发的。ICAT的认知测量包括即时和延迟回忆、工作记忆和精神运动速度。分别对两组健康个体(N=21和N=19)进行可用性和可行性研究。ICAT考试有英语和丹麦语两种语文。参与者被要求在完成ICAT测试后填写研究后系统可用性问卷(PSSUQ)。ICAT的言语回忆采用ASR进行评价,评价标准为单词错误率(WER)。采用0.05显著水平的Pearson双尾相关分析来研究SCIP与ICAT评分之间的相关性。gydF4y2Ba
结果:gydF4y2Ba两项研究中PSSUQ的总体心理测量因子得分均在4分以上(满分5分)。可行性研究分析显示,SCIP总分与ICAT总分之间存在中度至强相关性(r=0.63;gydF4y2BaPgydF4y2Ba= .009)。即时言语回忆的SCIP和ICAT子测试之间也存在中等到强的相关性(r=0.67;gydF4y2BaPgydF4y2Ba=.002)和精神运动速度(r=0.71;gydF4y2BaPgydF4y2Ba=措施)。然而,工作记忆、执行功能和延迟回忆的子测试之间的关联在统计上并不显著。英语和丹麦语对应的WER分别为17.8%和6.3%。gydF4y2Ba
结论:gydF4y2BaICAT是第一个使用基于web的技术和ASR在SCIP基础上改进的数字筛查仪器。ASR在言语记忆评估中有较好的准确性。ICAT和SCIP评分之间的适度相关性表明,ICAT是评估认知的有效工具,尽管这需要在更大的研究中得到更大的统计能力的证实。综上所述,ICAT似乎是一种有效的基于网络的认知评估工具,经过一些小的修改和进一步的验证,可以用于临床环境中筛查认知障碍。gydF4y2Ba
doi: 10.2196/13898gydF4y2Ba
关键字gydF4y2Ba
介绍gydF4y2Ba
背景gydF4y2Ba
认知障碍在单极障碍(UD)和双相障碍(BD)患者中普遍存在,甚至在缓解期,并且对生活质量和社会心理功能产生负面影响。然而,在这些情感障碍的临床治疗中很少评估认知功能,因为认知测试需要时间,这往往超出了有限的卫生保健资源。gydF4y2Ba
到目前为止,还没有一种由患者管理的工具,可以使用黄金标准、基于表现的认知任务,为情感性障碍患者提供简短而准确的客观认知障碍筛查。国际双相情感障碍协会(ISBD)针对认知任务小组最近建议在这些患者的临床管理中使用客观的、基于表现的认知测试对认知进行系统评估[gydF4y2Ba
]。然而,对情感障碍中认知障碍的敏感性的有效测试只存在于纸笔或计算机格式,必须由卫生保健专业人员管理。其中一种情感障碍测试是精神病学认知障碍筛查(SCIP)。SCIP是一个短(<15分钟)的纸笔测试,由训练有素的卫生保健专业人员进行,包括5个子测试:(1)列表学习(LL),(2)辅音重复(CR),(3)语言流畅性(VF),(4)延迟列表学习(DLL)和(5)视觉运动跟踪(VMT)测试。这些测试分别评估言语回忆、工作记忆、VF、延迟回忆和精神运动速度[gydF4y2Ba ]。基于最近的验证性研究,ISBD靶向认知工作组推荐SCIP用于双相障碍患者的认知筛查[gydF4y2Ba ,gydF4y2Ba ]。特别是,研究指出SCIP检测双相障碍患者认知功能障碍的有效性和可靠性[gydF4y2Ba ]及UD [gydF4y2Ba ]。gydF4y2Ba然而,即使是在临床环境中对认知障碍进行这种简短的筛查,也可能需要太多的时间和对卫生保健专业人员的培训,无法对所有患者都适用。这突出表明需要一种患者管理的数字工具,通过客观认知测试(如情感障碍的SCIP)提供简短而有效的认知评估。gydF4y2Ba
先前的研究gydF4y2Ba
我们的研究主要涉及数字认知测试电池,部分涉及自动语音识别(ASR)在精神病学中的应用。以下两节将概述相关工作。gydF4y2Ba
数字认知测试电池gydF4y2Ba
在本节中,介绍了为认知评估开发的经过验证的数字工具。因此,认知训练工具被排除在外。gydF4y2Ba
CANTAB Mobile [gydF4y2Ba
是一种经过验证的由患者自行管理的筛查痴呆症的工具。这款应用程序通过配对学习测试来检测50至90岁患者的记忆障碍。中枢神经系统生命体征(CNSVS)是一种计算机化的神经认知测试系统,用于评估包括UD在内的精神障碍患者的认知障碍。CNSVS有7项测试,包括语言和视觉记忆、手指敲击、符号数字编码、Stroop测试、转移注意力测试和连续性能测试[gydF4y2Ba ]。根据Gualtieri和Johnson的研究结果,CNSVS适用于正常受试者的认知评估和筛选。另一组测试是Cogstate,旨在筛查阿尔茨海默病患者,但已用于评估其他神经精神疾病。妊娠状态的最新临床研究[j]gydF4y2Ba 目的是在精神运动速度、警觉性、视觉记忆、工作记忆、言语记忆、学习和执行功能方面,与健康对照者比较UD患者的认知障碍。认知状态测量显示,在注意力、言语记忆和学习方面存在障碍,而在精神运动速度、视觉注意和工作记忆方面,UD患者与对照组没有差异。这与文献中关于这些区域的中度损伤形成对比,这可能是由于认知状态的天花板效应。thinc是一种最新的认知评估工具,专门为UD患者设计,用于测量注意力、工作记忆和执行功能。该应用程序是第一个基于网络的、由患者自行管理的认知筛查工具,因此代表了在临床治疗中对认知进行更普遍评估的重要一步。THINC-it使用游戏化的认知任务来吸引患者参加测试。例如,gydF4y2Ba小径gydF4y2Ba游戏改编自造径测试b部分。根据最新研究[gydF4y2Ba ],对100名健康对照进行了时间稳定性和可靠性以及THINC-it的有效性测试。总体而言,本研究具有较高的稳定性和信度,效度中等。gydF4y2Ba自动语音识别在认知评估中的应用gydF4y2Ba
最近,ASR被用于检查精神障碍患者的语言障碍。语义VF作为轻度认知障碍(MCI)的决定因素,在最近的研究中已经通过ASR自动化[gydF4y2Ba
-gydF4y2Ba ]。Troger等[gydF4y2Ba 应用ASR通过基于电话的方法来检查痴呆症中的语义VF,显示了自动分析在痴呆症筛查中的可行性。Toth等人在他们最近的研究[gydF4y2Ba 源于匈牙利人的ASR的非语言声学特征,如停顿的持续时间。他们的研究结果显示,健康个体和轻度认知障碍患者在延迟回忆的声学特征方面存在显著差异。gydF4y2Ba文学上的空白gydF4y2Ba
THINC-it的局限性是双重的。首先,在THINC-it评估的认知领域中,只有精神运动速度与标准化测试显示出适度的相关性。其次,THINC-it不检查言语记忆,尽管这种认知测量是UD和BD患者长期心理功能结果的预测指标[gydF4y2Ba
]。CANTAB Mobile和CNSVS也不评估言语记忆。缺乏言语记忆评估的部分原因可能是不确定如何通过数字工具来测量它。此外,CANTAB和CNSVS建议用于情感性障碍的测试尚未专门用于筛查UD和BD患者的认知损伤,因此可能对这些组的损伤没有最佳的敏感性。gydF4y2Ba基于互联网的认知评估工具gydF4y2Ba
我们开发了基于互联网的认知评估工具(ICAT),它可以由患者自己在家管理。具体来说,ICAT是一种基于网络的认知测试,在5个短任务中测试即时和延迟的言语回忆、工作记忆、执行功能和精神运动速度。语音识别技术已经足够先进,可以用于各种应用。此外,ASR需要最少的技术和资源进行远程检查。因此,在2个ICAT子测试中使用ASR来评估即时和延迟口头回忆。gydF4y2Ba
本研究的目的gydF4y2Ba
本文的目的有三个:首先,将ICAT作为基于SCIP中包含的认知测试设计的基于网络的认知测试组;第二,提出两项研究,评估ICAT的两个方面:(1)其可用性;(2)通过SCIP和ICAT子测试与总分之间的相关性分析来评估其可行性;第三,评估ASR对即时和延迟口头回忆的准确性。gydF4y2Ba
方法gydF4y2Ba
设计方法gydF4y2Ba
ICAT用户界面(UI)是在一个以用户为中心的设计过程中设计的,涉及计算机科学家、卫生信息学家、精神病学家和心理学家。总体而言,设计过程耗时5个月,分4个连续阶段进行,如下所述。gydF4y2Ba
阶段1:头脑风暴设计会议gydF4y2Ba
ICAT系统作为患者管理系统的基本组成部分在3次每周会议上进行了头脑风暴。此外,还研究了计算机化SCIP子测试的技术机会和局限性。gydF4y2Ba
阶段2:人物角色和用户界面设计gydF4y2Ba
为了确定设计需求和系统功能,根据提供患者实际生活经验的精神病学家和心理学家的输入,准备了2个角色。根据角色创建流程图,确定不同组件(如首页、说明、认知评估任务)的导航,并绘制每个页面的UI线框图。gydF4y2Ba
阶段3:模型gydF4y2Ba
线框图以幻灯片的形式呈现,并由ICAT团队成员在用户体验(UX)原型会议上进行了深入的讨论。在这些会议期间,ICAT的每个方面都进行了(重新)设计,包括每个页面的布局和图形设计,说明,语音识别的使用,对用户的反馈,输入方式(即键盘和鼠标)的使用,以及知情同意页面。在设计过程中,为了在浏览器中管理基于web的技术,对原始SCIP任务进行了重大修改,特别是考虑到支持基于pc的键盘和鼠标设置。在这一阶段,ICAT的主页包含欢迎页面和演讲者测试(见gydF4y2Ba
)。gydF4y2Ba阶段4:原型制作gydF4y2Ba
ICAT的低保真模型逐渐转变为使用Web技术在浏览器中进行图形呈现的功能原型,但没有存储或持久化。在涉及PH、KWM、LVK和JEB的UX原型会议期间,这个原型用于初始评估。在阶段3中创建的幻灯片在低保真模型中扩展到4页(参见gydF4y2Ba
);第一页是决定如何通知患者参加测试,第四页是同意书。最后的原型用于在Web平台上部署ICAT应用程序。gydF4y2Ba系统描述gydF4y2Ba
ICAT包括以下三个整体部分,依次呈现给用户:(1)主页,包括介绍、一般说明和知情同意书;(2)技术设置(演讲者和麦克风测试)和(3)认知评估任务。ICAT支持英语和丹麦语,因此用户可以选择他们喜欢的(母语)语言,然后再进行一般说明。为了便于阅读,冗长的说明被分成多页。同意书中的使用条款阐明了研究的目的、收集的数据以及如何处理用户的数据。所有这些都符合欧洲数据保护法(通用数据保护条例,GDPR)。由于ICAT广泛使用ASR,第二部分(技术设置)确保麦克风和扬声器正确配置。看到gydF4y2Ba
,分别查看ICAT网页的最终设计和技术设置。ICAT考试的第三部分包含一组5个短任务,每个短任务包括考试介绍和特定任务说明。这5个任务是以下任务的修改版本:gydF4y2Ba- SCIP噢gydF4y2Ba
- SCIP CRgydF4y2Ba
- 韦氏成人智力量表字母数字排序量表gydF4y2Ba
- SCIP DLLgydF4y2Ba
- SCIP车辆行驶里程gydF4y2Ba
所有的ICAT子测试都改编自SCIP,除了第三个子测试被修改版本的WAIS LNS所取代。每个ICAT任务的详细描述可在gydF4y2Ba
.ICAT WAIS LNS子测试和VMT子测试预先为用户提供了一个实践集。实践集改编自相应的临床管理测试。ICAT的5个任务总共需要20 - 30分钟才能完成。gydF4y2Ba任务功能gydF4y2Ba | 任务1:列表学习gydF4y2Ba一个gydF4y2Ba | 任务2:辅音重复gydF4y2BabgydF4y2Ba | 任务3:韦氏成人智力量表字母数字排序gydF4y2BacgydF4y2Ba | 任务4:延迟列表学习gydF4y2BadgydF4y2Ba | 任务5:视觉运动跟踪gydF4y2BaegydF4y2Ba |
测量gydF4y2Ba | 言语记忆(即时回忆)gydF4y2Ba | 工作记忆gydF4y2Ba | 工作记忆gydF4y2Ba | 延迟言语记忆(延迟回忆)gydF4y2Ba | 精神运动速度gydF4y2Ba |
评分标准gydF4y2Ba | 三次试验中正确回忆的单词总数gydF4y2Ba | 正确回忆的字母总数gydF4y2Ba | 正确排序序列的总数gydF4y2Ba | 正确回忆单词的总数gydF4y2Ba | 正确匹配字母的总数gydF4y2Ba |
分数范围gydF4y2Ba | 0 30gydF4y2Ba | 0-24gydF4y2Ba | 0-21gydF4y2Ba | 清廉gydF4y2Ba | 0 30gydF4y2Ba |
实践测试gydF4y2Ba | 没有gydF4y2Ba | 没有gydF4y2Ba | 是的gydF4y2Ba | 没有gydF4y2Ba | 是的gydF4y2Ba |
一个gydF4y2Ba一个包含10个单词的音频文件被播放给病人。然后,病人尽可能多地回忆单词,并大声说出来。这个任务再重复2次(总共3次试验),使用相同的单词列表。gydF4y2Ba
bgydF4y2Ba首先,通过音频文件播放一系列字母。然后,患者需要在一定时间内将一组数字按降序排序(此任务仅用于延迟响应)。时间一到,病人就会回想起之前给他或她读过的信,然后打出来。gydF4y2Ba
cgydF4y2Ba屏幕上依次显示一组字母数字序列。每个序列通过音频文件播放给患者。接下来,患者将序列中的数字和字母分类并输入。gydF4y2Ba
dgydF4y2Ba在这个任务中,患者应该回忆在第一个列表学习任务中播放的相同单词,并大声说出它们。在此任务中不为患者播放音频。gydF4y2Ba
egydF4y2Ba向患者展示一张包含6个字母及其对应代码(圆圈和星号的组合)的表格。在30秒内,患者依次输入30个随机代码中的对应字母。gydF4y2Ba
精神病学任务中认知障碍筛查的改进要素gydF4y2Ba
列表学习和延迟列表学习任务:利用语音识别gydF4y2Ba
在ICAT LL和DLL子测试的初始设计期间,用户被要求键入回忆的单词。然而,由于3个原因,打字并不是一种合适的输入技术。首先,打字影响人的视觉短期记忆,这可能有助于用户练习单词。因此,练习可以显著提高用户在第二和第三次测试中的分数。第二,打字技巧取决于人的年龄和以前的打字经验。第三,拼写错误的单词可能会在自动计算分数时造成问题。为了澄清后者,SCIP管理员大声朗读单词,并根据他或她从患者那里听到的内容进行评分。因此,给拼写错误的单词打分是不明确的。ASR记录的编辑选项允许用户在回忆阶段后检查和修改它。然而,这种方法会将单词显示给用户,这将显著提高他们的语言分数,因为(1)所有LL子测试的试验使用相同的一组单词,(2)它不符合SCIP管理手册。 By considering these major issues, the alternative to typing was to utilize ASR.
显示ICAT LL子测试的UI,包括在回忆阶段从麦克风设备接收到的用户声波。gydF4y2Ba 当用户停止说话时,显示基于实时ASR计算的召回单词数。ICAT DLL任务具有与LL任务相似的接口和功能,只是不为用户播放音频文件。gydF4y2Ba辅音重复任务:使用拖放排序数字gydF4y2Ba
在SCIP CR任务期间,测试管理员要求患者从一段时间内的特定数字开始倒数。我们用ICAT CR子测试中的排序模块取代了这种面对面的倒计时,用户应该将每个数字拖拽到正确的位置。用户屏幕上显示的数字应按降序排列。gydF4y2Ba
显示了一个示例拖放任务,其中用户应该在特定时间限制内对从67(最高)到63(最低)的数字序列进行排序。每个序列包括5个数字,如果用户正确排序,下一组数字就会自动出现在屏幕上。gydF4y2Ba韦氏成人智力量表字母-数字排序任务:取代语言流畅性gydF4y2Ba
用于评估VF的SCIP子测试要求患者尽可能多地生成以特定字母开头的单词,例如,gydF4y2BaFgydF4y2Ba30秒后。ICAT的第三个子测试使用WAIS LNS,因为在该技术中无法充分实现SCIP VF任务。因此,测量执行功能的WAIS LNS取代了VF。gydF4y2Ba
显示了在ICAT WAIS LNS子测试的实践测试中对刺激的错误反应的示例。gydF4y2Ba视觉运动跟踪任务:改变莫尔斯电码gydF4y2Ba
测试时给患者写一张6个字母及其对应码的表格,要求患者在30秒内将30个字母对应的莫尔斯电码写在一张纸上。由于输入速度慢,尤其是老年人,我们决定让用户在ICAT VMT任务中输入每个代码的匹配字母。SCIP VMT任务的莫尔斯电码从点和划修改为圆圈和星号符号的不同组合,因为对那些已经熟悉莫尔斯电码的参与者有学习效果。此任务的早期设计可在我们之前的出版物[gydF4y2Ba
]。根据这个任务之前的设计,在测试过程中会向用户显示一个倒计时钟,但后来为了防止分心,它被删除了。gydF4y2Ba 显示了ICAT VMT任务的当前设计。gydF4y2Ba技术规格和设备gydF4y2Ba
ICAT的低保真模型是在Balsamiq桌面应用程序中创建的[gydF4y2Ba
]。ICAT的前端是使用Facebook公司开发的React(15.4.0版本)构建的。哥本哈根卫生技术中心cachet研究平台(CARP),该平台实施了开放式移动卫生(mHealth)数据存储单元[gydF4y2Ba ]作为数据后端,并根据开放式移动健康规范设计了icat专用的认知功能JavaScript对象符号(JSON)模式。b谷歌的ASR服务[gydF4y2Ba ]在LL和DLL子测试中使用,它们需要谷歌Chrome来运行应用程序。CARP和ICAT系统部署在丹麦技术大学的安全服务器上。为了进行评估和可行性研究,ICAT测试使用MacBook Pro (Retina 15英寸)笔记本电脑和外接鼠标进行,供那些不习惯使用MacBook触摸板的人使用。在SPSS中进行Pearson相关分析。gydF4y2Ba可用性及可行性研究gydF4y2Ba
丹麦首都地区当地精神卫生服务伦理委员会决定,不需要他们批准这项研究,因为它不涉及生物医学产品的测试,也不涉及任何侵入性程序。总共进行了2个研究:第一个研究是可用性测试,我们称之为study 1,第二个研究是可行性研究,在本文剩下的部分中我们称之为study 2。两项研究的参与者在数据收集前都签署了知情同意书。知情同意符合保护用户个人资料的GDPR规定。在接下来的章节中,我们将分别详细介绍研究的参与者和程序。gydF4y2Ba
参与者gydF4y2Ba
所有的参与者都是健康的个体。研究1包括来自丹麦技术大学校园和哥本哈根市的健康学生和个人。纳入标准为英语或丹麦语能力,排除标准为听力障碍,因为一些ICAT任务使用音频文件。研究2包括从首都地区医院血库招募的健康参与者。gydF4y2Ba
过程gydF4y2Ba
在进行这两项研究之前,收集了受试者的年龄和性别。研究1于2018年6月至8月进行。研究负责人(PH)首先询问参与者的母语。然后,PH向参与者介绍了ICAT系统,并简要说明了研究的目的。大声思考的方法[gydF4y2Ba
]在测试中使用。除登录问题外,参与者在测试期间不应获得任何帮助。研究2于2018年8月至9月进行。每位参与者首先执行丹麦版SCIP (SCIP- d),由情感障碍组(AEJ, KO)的研究助理管理,然后完成ICAT测试。gydF4y2Ba两项研究均采用研究后系统可用性问卷(PSSUQ)评估ICAT用户界面的可用性[gydF4y2Ba
]。完成ICAT测试后,将PSSUQ问卷通过谷歌Form发送至被试邮箱,研究领导对被试进行简短的随访访谈。在面试过程中,参与者被要求提及任何一般或特定任务的问题或建议。参与者还可以在PSSUQ表单的末尾键入进一步的评论。在ICAT测试和后续访谈中记录用户的声音。在ICAT LL和DLL子测试期间,手工生成的参与者口头反应的转录本是从他们的记录文件中获得的。gydF4y2Ba指标gydF4y2Ba
可用性因素gydF4y2Ba
PSSUQ包括19个项目,每个项目都以李克特式的5分量表进行评分,从1(非常不同意)到5(非常同意)。PSSUQ的心理测量因素是(1)整体可用性,(2)系统可用性,(3)信息质量,(4)界面质量。gydF4y2Ba
字错误率gydF4y2Ba
先前的研究使用单词错误率(WER)作为ASR的绩效衡量标准[gydF4y2Ba
,gydF4y2Ba ,gydF4y2Ba ]。若N为单词总数,D为删除次数,S为替换次数,I为插入次数,则,WER = (S+D+I)/N。在ICAT LL和DLL子测试期间,通过比较ASR转录本与手动生成的英语和丹麦语应答转录本来计算WER。gydF4y2Ba相关分析gydF4y2Ba
研究2受试者的SCIP和ICAT亚分及总分均以0.05的显著性水平进行Pearson双尾相关分析。gydF4y2Ba
数据排除gydF4y2Ba
研究2中有3名受试者丢失了WAIS LNS子测试的ICAT数据。因此,对16名参与者进行了相关分析。gydF4y2Ba
结果gydF4y2Ba
用户数据gydF4y2Ba
研究1纳入N=21例受试者,其中女性9例,男性12例,平均年龄31岁(SD 12)。在说丹麦语的参与者中,有7人以丹麦语为母语,2人是说丹麦语至少10年的哥本哈根公民。至于其他参与者,1人以英语为母语,11人说其他语言。研究2纳入N=19例受试者,其中女性13例,男性6例,平均年龄36岁(SD 15)。这项研究的所有参与者都以丹麦语为母语。gydF4y2Ba
基于互联网的认知评估工具测试分数gydF4y2Ba
两项研究的参与者在任务1-5中获得的分数见gydF4y2Ba
-gydF4y2Ba .gydF4y2Ba可用性和可行性结果gydF4y2Ba
在两项研究的受试者总数中(N=40), 37名受试者提交了PSSUQ。PSSUQ结果的心理测量因素(gydF4y2Ba
)分别报告,因为这些研究的目的和程序不同。此外,PSSUQ结果是为丹麦语和英语测试参与者计算的。根据从后续访谈中收集的报告和通过PSSUQ表格收到的补充意见,一些参与者报告了一些问题,并就ICAT考试的说明和功能提出了一些建议。研究1共有2名被试提到ICAT LL任务中指令过多。研究1的一名参与者表示ICAT CR任务中的排序模块比较复杂,不方便使用,研究1的两名参与者提到该模块存在问题。总共有2名研究2的参与者提到ICAT CR任务远比SCIP CR任务容易。研究1的一名参与者建议用实例代替ICAT WAIS LNS任务指令中的部分文本信息。我们没有收到关于ICAT DLL任务的任何评论,可能是因为它的功能类似于ICAT LL任务。对于ICAT VMT任务,研究1的参与者提到该任务的时间限制太短。研究1中共有2名参与者提到ICAT CR、WAIS LNS和VMT的练习集有助于理解测试。gydF4y2BaSCIP-D与ICAT分值与总分的相关分析结果见gydF4y2Ba
.gydF4y2Ba对icatll和DLL任务的ASR进行了分析gydF4y2Ba
.可以看到,两种语言的插入(I)率都为0。每个英语和丹麦语单词的召回次数与识别准确率的关系表示在gydF4y2Ba 和gydF4y2Ba ,分别。总的来说,从研究1的12名说英语的参与者那里收集了332个单词,从28名说丹麦语的参与者那里收集了887个单词(研究1中的9个,研究2中的19个)。注意,重复多次的单词被包括在gydF4y2Ba 和gydF4y2Ba .在英语单词中,gydF4y2Ba机gydF4y2Ba,gydF4y2Ba牛奶gydF4y2Ba,gydF4y2Ba咖啡gydF4y2Ba是最容易被记忆和最容易被误解的单词,而gydF4y2Ba床上gydF4y2Ba和gydF4y2Ba帽子gydF4y2Ba被严重误解,是记忆最少的术语。这个词gydF4y2Ba花园gydF4y2Ba是被召回次数最多的单词(45次),但其准确率(77.78%)不如前面提到的单词高。对于丹麦语单词表,gydF4y2Bamæ路gydF4y2Ba和gydF4y2Basø祈使语gydF4y2Ba正确识别每个收到的响应,而gydF4y2Ba生gydF4y2Ba和gydF4y2BabrevgydF4y2Ba经常被误解。gydF4y2Ba因素gydF4y2Ba | 研究1 (N=21);gydF4y2Ba 意思是(SD)gydF4y2Ba |
研究2 (N=16);gydF4y2Ba 意思是(SD)gydF4y2Ba |
丹麦检验(N=25);gydF4y2Ba 意思是(SD)gydF4y2Ba |
英语测试(N=12);gydF4y2Ba 意思是(SD)gydF4y2Ba |
总分gydF4y2Ba | 4.12 (0.46)gydF4y2Ba | 4.36 (0.42)gydF4y2Ba | 4.25 (0.45)gydF4y2Ba | 4.19 (0.45)gydF4y2Ba |
系统使用gydF4y2Ba | 4.23 (0.53)gydF4y2Ba | 4.52 (0.41)gydF4y2Ba | 4.39 (0.48)gydF4y2Ba | 4.35 (0.45)gydF4y2Ba |
信息质量gydF4y2Ba | 3.86 (0.55)gydF4y2Ba | 4.24 (0.58)gydF4y2Ba | 4.11 (0.55)gydF4y2Ba | 3.84 (0.64)gydF4y2Ba |
界面质量gydF4y2Ba | 4.28 (0.62)gydF4y2Ba | 4.25 (0.49)gydF4y2Ba | 4.16 (0.57)gydF4y2Ba | 4.50 (0.45)gydF4y2Ba |
认知领域gydF4y2Ba | 筛查精神病学认知障碍-丹麦版任务gydF4y2Ba | 基于互联网的认知评估工具任务gydF4y2Ba | 皮尔森相关系数(r)gydF4y2Ba | PgydF4y2Ba价值gydF4y2Ba |
语言学习(SCIP-2gydF4y2Ba一个gydF4y2Ba)—使用ASRgydF4y2BabgydF4y2Ba成绩单gydF4y2Ba | 视频彩票终端gydF4y2BacgydF4y2Ba-我gydF4y2Ba | 噢gydF4y2BadgydF4y2Ba | 0.56gydF4y2Ba | .013gydF4y2Ba |
语言学习(SCIP-3)gydF4y2BaegydF4y2Ba) -使用ASR转录本gydF4y2Ba | VLT-IgydF4y2Ba | 噢gydF4y2Ba | 0.67gydF4y2Ba | .002gydF4y2Ba |
语言学习(SCIP-3) -使用手工抄本gydF4y2Ba | VLT-IgydF4y2Ba | 噢gydF4y2Ba | 0.66gydF4y2Ba | .002gydF4y2Ba |
工作记忆(SCIP-2)gydF4y2Ba | 京东商城gydF4y2BafgydF4y2Ba | CRgydF4y2BaggydF4y2Ba | −0.12gydF4y2Ba | 点gydF4y2Ba |
工作记忆(SCIP-3)gydF4y2Ba | 京东商城gydF4y2Ba | CRgydF4y2Ba | 0.11gydF4y2Ba | 主板市场gydF4y2Ba |
执行功能(SCIP-3)gydF4y2Ba | 语言流畅性测验gydF4y2Ba | 韦氏成人智力字母数字排序gydF4y2Ba | 0.29gydF4y2Ba | 低位gydF4y2Ba |
延迟召回(SCIP-3) -使用ASR转录本gydF4y2Ba | VLT-DgydF4y2BahgydF4y2Ba | DLLgydF4y2Ba我gydF4y2Ba | 0.34gydF4y2Ba | 酒精含量gydF4y2Ba |
延迟召回(SCIP-3) -使用手动记录gydF4y2Ba | VLT-DgydF4y2Ba | DLLgydF4y2Ba | 0.58gydF4y2Ba | .009gydF4y2Ba |
精神运动速度(SCIP-3)gydF4y2Ba | 车辆行驶里程gydF4y2BajgydF4y2Ba | 车辆行驶里程gydF4y2Ba | 0.71gydF4y2Ba | 措施gydF4y2Ba |
总分gydF4y2Ba | 总计gydF4y2Ba | 总计gydF4y2Ba | 0.63gydF4y2Ba | .009gydF4y2Ba |
一个gydF4y2BaSCIP-2:精神病学认知障碍筛查-第2版。gydF4y2Ba
bgydF4y2BaASR:自动语音识别。gydF4y2Ba
cgydF4y2BaVLT-I: verbal learning test-immediate。gydF4y2Ba
dgydF4y2Ba今天李华学了两个常用语。gydF4y2Ba
egydF4y2BaSCIP-3:精神病学认知障碍筛查-第3版。gydF4y2Ba
fgydF4y2Ba工作记忆测试。gydF4y2Ba
ggydF4y2Ba辅音重复。gydF4y2Ba
hgydF4y2BaVLT-D:语言学习延迟。gydF4y2Ba
我gydF4y2Ba延迟列表学习。gydF4y2Ba
jgydF4y2BaVMT:视觉运动跟踪。gydF4y2Ba
语言gydF4y2Ba | 任务1的参与者,ngydF4y2Ba | 任务4的参与者,ngydF4y2Ba | 平均字错误率gydF4y2Ba | 替换错误率,%gydF4y2Ba | 删除错误率,%gydF4y2Ba |
英语gydF4y2Ba | 12gydF4y2Ba | 11gydF4y2Ba一个gydF4y2Ba | 17.77gydF4y2Ba | 77.97gydF4y2Ba | 22.03gydF4y2Ba |
丹麦gydF4y2Ba | 28gydF4y2Ba | 27gydF4y2BabgydF4y2Ba | 6.31gydF4y2Ba | 92.98gydF4y2Ba | 7.02gydF4y2Ba |
一个gydF4y2Ba1名说英语的被试不小心在基于网络的认知评估工具延迟列表学习任务中点击了停止按钮,然后重复了记忆的单词。gydF4y2Ba
bgydF4y2Ba1丹麦被试在基于网络的认知评估工具延迟列表学习任务中不能记住任何单词。gydF4y2Ba
讨论gydF4y2Ba
主要研究结果gydF4y2Ba
ICAT是第一个基于网络的情感障碍认知筛查工具,基于SCIP作为黄金标准工具而设计,它使用ASR来评估即时和延迟口头回忆。主要发现是ICAT易于使用,在测量关键认知功能方面具有良好的可行性结果,并且具有可接受的并发效度。具体而言,ICAT和SCIP-3总分与中至强程度相关(r=0.63;gydF4y2BaPgydF4y2Ba= 0.009),子检验即LL和VMT与中度相关(r=0.67;gydF4y2BaPgydF4y2Ba=.002)和强(r=0.71;gydF4y2BaPgydF4y2Ba=.001)度。ICAT系统的可用性评估显示,在系统有用性、界面质量和总体使用方面得分高于4分。与丹麦参与者(4.11)相比,英语参与者对信息质量的评价较低(3.84),这可能表明ICAT考试的英语说明应该修订。根据丹麦语和英语回答计算的ASR的不显著错误率(分别为6.3%和17.8%)表明ASR的前景良好,特别是对于将成为ICAT主要用户的丹麦语患者。根据最近对健康受试者的THINC-it效度研究得出的结果[gydF4y2Ba
],两种认知游戏“轨迹”(执行功能,r=0.74)和“破码者”(注意、工作记忆和执行功能,r=0.63)分别表现出强到中等的收敛效度,而“符号检查”(工作记忆,r=0.19)和“侦察”(注意,r=0.44)表现出低效度。在我们的研究中,精神运动速度的ICAT子测试也显示出中等的并发效度,言语记忆的子测试也是如此。然而,利用工作记忆和执行技能的子测试与最初的SCIP任务不相关,这可能是因为这些测试的次优设计或样本量小。ICAT可能是THINC-it的替代品,THINC-it是最近专门为UD患者开发的认知筛查工具。SCIP总分与ICAT总分之间的分析显示中至强相关(r=0.63),而THINC-it复合的中效度(r=0.42)。较高的并发效度和通过ASR自动实时评价言语记忆是ICAT的优势。gydF4y2BaSCIP任务2与ICAT任务2之间缺乏统计学意义可能是因为(1)研究2中的2名参与者提到ICAT CR子测试比基于纸张的SCIP CR更容易,(2)两项研究的参与者在ICAT CR子测试中得分都很高(gydF4y2Ba
),这可能表明该任务存在天花板效应。这些系数不显著可能表明被试在ICAT排序模块中的认知负荷低于SCIP CR子测试中的倒计时任务。因此,在对健康个体和情感性障碍患者进行更大规模的验证性研究之前,ICAT还需要进行额外的修改。gydF4y2Ba在DLL任务中缺乏统计显著性是出乎意料的,因为ICAT LL和DLL子测试的ASR组件是相同的。在对记录的数据进行后期分析时,我们发现识别能力差主要源于两个因素:(1)受试者回忆单词的速度非常快,并且一个接一个地说出单词,每个单词之间没有或很少停顿;(2)受试者说话非常安静,远离麦克风。因此,ICAT和SCIP DLL任务之间缺乏统计上显著的相关性可能是因为参与者重复回忆单词的各种方式。先前的研究表明,语音识别对非母语人士表现不佳[gydF4y2Ba
],这可能证明了研究1(11名非英语母语者)参与者的英语反应中较高的WER。如果我们能招募更多说英语的参与者,尤其是母语人士,那么对英语受试者的ASR分析将会更加有力。准确率最低的单词(gydF4y2Ba床上gydF4y2Ba和gydF4y2Ba帽子gydF4y2Ba从英语列表和gydF4y2Ba生gydF4y2Ba和gydF4y2BabrevgydF4y2Ba(来自丹麦语清单)应替换为SCIP手册中提供的其他词语。较低的删除错误率表明,ASR在ICAT LL和DLL子测试中获得了大部分的口头反应。gydF4y2Ba数字化验证的纸笔测试需要在原型设计、迭代设计、实现和评估方面付出努力。ICAT是第一个基于SCIP设计的基于网络的应用程序,是一个黄金标准的认知测试电池。此外,据我们所知,现有的数字认知评估工具都没有提供对言语记忆的实时评估。综上所述,ICAT是一种新的认知评估数字工具。本研究报告的ICAT的可行性表明了临床外评估的前景。我们研究的最终目标是介绍ICAT作为远程管理和评估情感障碍患者的简短认知评估工具。gydF4y2Ba
对未来发展的影响gydF4y2Ba
根据我们的观察,ICAT CR子测试中的排序模块对大多数参与者来说很难使用。除了这个问题,分析没有显示SCIP和ICAT CR子测试之间的显著相关性。因此,ICAT中的排序模块应该重新设计,以更好地类似于SCIP CR任务,例如,使用语音接口,因为改变接口的类型可能是不显著相关系数的主要原因。gydF4y2Ba
为了减轻语音识别问题,ICAT应该包含详细的说明和教程,教导和培训用户如何大声、清晰地说话,并靠近麦克风。此外,语音识别应该能够检测用户何时过快或过轻地重复单词,然后指示他们放慢速度或说得更清楚。目标是使ICAT能够由患者管理,因此,应该非常强调向用户提供不言自明的说明和教程。gydF4y2Ba
限制gydF4y2Ba
这是ICAT的可行性研究,参与者人数有限。尽管取得了令人鼓舞的结果,但这项研究仍有一些局限性。首先,由于以英语为母语的参与者很少,因此对英语参与者的ASR评估是有限的。我们没有评估研究1参与者的英语水平,以检验ASR识别错误是否因为他们的英语水平。其次,大声思考的方法并不实用,特别是在ICAT LL和DLL子测试中,用户重复他们回忆的单词。由于认知测试需要脑力劳动,因此参与者在测试过程中很难用语言表达自己的想法。因此,在整个测试过程中识别参与者与系统交互的隐式或客观方法将更加实用。第三,根据Pearson相关分析,执行功能和工作记忆的系数不显著可能是由于研究2的样本量适中。第四,SCIP VF任务和ICAT WAIS LNS任务不能直接转化为执行功能的完全相同的方面。人们发现,VF表现与流畅的推理和执行功能的变化有关[gydF4y2Ba
],而WAIS LNS更具体地测量工作记忆[gydF4y2Ba ]。值得一提的是,目前谷歌的ASR可以将任意单词转换为最接近的有意义单词。因此,在ICAT中用WAIS LNS任务代替VF任务的理由是使用ASR技术可能会造成误解。最后,这项初步研究只包括健康的对照参与者。ICAT旨在用于情绪障碍患者的认知筛查。因此,基于本报告的初步发现,我们的小组正在对情绪障碍患者的ICAT进行略微修订的验证。gydF4y2Ba结论gydF4y2Ba
ICAT是一种由患者自行管理的基于网络的工具,用于筛查情感性障碍患者的认知障碍。结果表明,ICAT是建立基于SCIP的数字化改进认知评估工具的良好开端。来自PSSUQ分数的心理测量因素的高值表明ICAT是一个可用和有用的工具。在即时回忆和延迟回忆中使用实时ASR,英语和丹麦语回答的应答率分别为17.8%和6.3%。基于这项研究的结果和见解,现在有必要对ICAT进行未来的优化和进一步验证。gydF4y2Ba
致谢gydF4y2Ba
PH是一个早期阶段的研究人员的技术使心理健康(团队)的年轻人。团队已获得欧盟地平线2020研究和创新计划的资助,Marie Sklodowska-Curie资助协议号722561。这项研究由丹麦CACHET资助。金杜感谢灵北基金会和魏曼基金会对她薪水的贡献。作者希望感谢所有的研究参与者。gydF4y2Ba
利益冲突gydF4y2Ba
金杜报告称,在过去3年里,金杜收到了灵北、艾尔建和杨森的咨询费。在过去的三年里,LVK一直是灵北集团的顾问。其余作者报告无利益冲突。gydF4y2Ba
gydF4y2Ba参考文献gydF4y2Ba
- 张建军,张建军,张建军,等。双相情感障碍。Nat Rev Dis primer 2018年12月8日;4:18008。[gydF4y2BaCrossRefgydF4y2Ba] [gydF4y2BaMedlinegydF4y2Ba]gydF4y2Ba
- Tourjman SV, Juster RP, Purdon S, Stip E, Kouassi E, Potvin S.精神病学认知障碍筛查(SCIP)与重度抑郁症疾病严重程度和认知主诉的关系。国际精神病学杂志2019;23(1):49-56。[gydF4y2BaCrossRefgydF4y2Ba] [gydF4y2BaMedlinegydF4y2Ba]gydF4y2Ba
- Miskowiak KW, Burdick KE, Martinez-Aran A, Bonnin CM, Bowie CR, Carvalho AF,等。国际双相情感障碍学会针对认知工作组提出的双相情感障碍认知试验的方法学建议。躁郁症2017 Dec;19(8):614-626 [j]gydF4y2Ba免费全文gydF4y2Ba] [gydF4y2BaCrossRefgydF4y2Ba] [gydF4y2BaMedlinegydF4y2Ba]gydF4y2Ba
- Miskowiak KW, Burdick KE, Martinez-Aran A, Bonnin CM, Bowie CR, Carvalho AF,等。评估和解决双相情感障碍中的认知障碍:国际双相情感障碍协会针对临床医生的认知任务小组建议。躁郁症2018;20(3):184-194。[gydF4y2BaCrossRefgydF4y2Ba] [gydF4y2BaMedlinegydF4y2Ba]gydF4y2Ba
- 李建平,李建平,李建平,等。双相情感障碍中认知功能障碍的优化筛查:客观和主观工具的验证和评估。[J]情感障碍2015年11月15日;187:10-19。[gydF4y2BaCrossRefgydF4y2Ba] [gydF4y2BaMedlinegydF4y2Ba]gydF4y2Ba
- Ott CV, Bjertrup AJ, Jensen JH, Ullum H, Sjælland R, Purdon SE,等。单极抑郁症的认知功能障碍筛查:客观和主观工具的验证和评价。[J]情感障碍2016;1;19:607-615。[gydF4y2BaCrossRefgydF4y2Ba] [gydF4y2BaMedlinegydF4y2Ba]gydF4y2Ba
- 剑桥大学认知。剑桥大学的移动。及时发现记忆障碍URL:gydF4y2Bahttp://www.cambridgecognition.com/products/digital-healthcare-technology/cantab-mobile/gydF4y2Ba[gydF4y2BaWebCite缓存gydF4y2Ba]gydF4y2Ba
- Gualtieri CT, Johnson LG。计算机神经认知测试电池,中枢神经系统生命体征的信度和效度。中华临床神经病学杂志2006;21(7):623-643 [j]gydF4y2Ba免费全文gydF4y2Ba] [gydF4y2BaCrossRefgydF4y2Ba] [gydF4y2BaMedlinegydF4y2Ba]gydF4y2Ba
- Davis MT, DellaGioia N, Matuskey D, Harel B, Maruff P, Pietrzak RH,等。使用认知状态测量关于重度抑郁症认知功能障碍模式和程度的初步证据。[J]情感障碍2017年12月15日;218:82-85 [J]gydF4y2Ba免费全文gydF4y2Ba] [gydF4y2BaCrossRefgydF4y2Ba] [gydF4y2BaMedlinegydF4y2Ba]gydF4y2Ba
- Harrison JE, Barry H, Baune BT, Best MW, Bowie CR, Cha DS等。抑郁症认知障碍THINC-it筛查工具的稳定性、可靠性和有效性:健康志愿者的心理测量学探索国际精神病学杂志,2018;27(3):e1736 [J]gydF4y2Ba免费全文gydF4y2Ba] [gydF4y2BaCrossRefgydF4y2Ba] [gydF4y2BaMedlinegydF4y2Ba]gydF4y2Ba
- 杨建军,李建军,李建军,等。基于语音自动识别的语义语言流畅性测试。演讲稿2015年12月1日;75:14-26 [gydF4y2Ba免费全文gydF4y2Ba] [gydF4y2BaCrossRefgydF4y2Ba] [gydF4y2BaMedlinegydF4y2Ba]gydF4y2Ba
- König A, Linz N, Tröger J, Wolters M, Alexandersson J, Robert P.语义语言流畅性任务的全自动分析。老年精神疾病,2018;45(3):198-209。[gydF4y2BaCrossRefgydF4y2Ba] [gydF4y2BaMedlinegydF4y2Ba]gydF4y2Ba
- 李建军,李建军,李建军,等。基于语音识别的自发语音轻度认知障碍自动检测解决方案。中华老年痴呆症杂志,2018;15(2):130-138 [j]gydF4y2Ba免费全文gydF4y2Ba] [gydF4y2BaCrossRefgydF4y2Ba] [gydF4y2BaMedlinegydF4y2Ba]gydF4y2Ba
- Tröger J,林志强,König A,李建军,李建军。基于电话的痴呆筛查:语义语言流畅性自动评估。参见:第十二届EAI医疗普及计算技术国际会议论文集。2018发表于:PervasiveHealth'18;2018年5月21日至24日;纽约,美国,第59-66页。[gydF4y2BaCrossRefgydF4y2Ba]gydF4y2Ba
- Bonnín CM, Martínez-Arán A, Torrent C, Pacchiarotti I, Rosa AR, Franco C,等。双相心境患者功能结局的临床和神经认知预测因素:一项长期随访研究。情感障碍[J]; 2010; 21(1-2):156-160。[gydF4y2BaCrossRefgydF4y2Ba] [gydF4y2BaMedlinegydF4y2Ba]gydF4y2Ba
- Hafiz P, Miskowiak KW, Kessing LV, Bardram JE。情感性障碍中认知损害评估的网络应用程序设计与实现。参见:2018年国际数字健康会议论文集。2018年发表于:DH'18;2018年4月23日至26日;里昂,法国,154-155页。[gydF4y2BaCrossRefgydF4y2Ba]gydF4y2Ba
- Balsamiq。: Balsamiq Studios, LLCgydF4y2Bahttps://balsamiq.com/gydF4y2Ba[gydF4y2BaWebCite缓存gydF4y2Ba]gydF4y2Ba
- 李建平,李建平。医疗保健服务。开放式移动医疗架构:医疗保健创新的引擎。Science 2010年11月5日;330(6005):759-760。[gydF4y2BaCrossRefgydF4y2Ba] [gydF4y2BaMedlinegydF4y2Ba]gydF4y2Ba
- 云的语音。URL:gydF4y2Bahttps://cloud.google.com/speech-to-text/gydF4y2Ba[访问日期:2018-10-04][gydF4y2BaWebCite缓存gydF4y2Ba]gydF4y2Ba
- Jaspers MW, Steen T, van den Bos C, Geenen M.大声思考方法:用户界面设计指南。中华医学杂志,2004;11(11):781-795。[gydF4y2BaCrossRefgydF4y2Ba] [gydF4y2BaMedlinegydF4y2Ba]gydF4y2Ba
- IBM计算机可用性满意度问卷:心理测量评估和使用说明。[J] .计算机学报,1995;7(1):57-78 [J]gydF4y2Ba免费全文gydF4y2Ba] [gydF4y2BaCrossRefgydF4y2Ba]gydF4y2Ba
- 王志强,王志强。基于非母语语音的语音模型自适应技术比较。收录于:国际声学、语音和信号处理会议论文集。2003;2003年4月6-10日;中国香港。[gydF4y2BaCrossRefgydF4y2Ba]gydF4y2Ba
- 李建军,李建军,李建军,等。语言流畅性与执行功能的关系:一种探索性因素分析方法。中华临床神经病学杂志2016;31(6):656。[gydF4y2BaCrossRefgydF4y2Ba]gydF4y2Ba
- Crowe科幻。字母数字排序任务测量的不仅仅是数字跨度吗?评价2000;7(2):113-117。[gydF4y2BaCrossRefgydF4y2Ba] [gydF4y2BaMedlinegydF4y2Ba]gydF4y2Ba
gydF4y2Ba
缩写gydF4y2Ba
ASR:gydF4y2Ba自动语音识别gydF4y2Ba |
双相障碍:gydF4y2Ba双相情感障碍gydF4y2Ba |
声望:gydF4y2Ba哥本哈根卫生技术中心gydF4y2Ba |
鲤鱼:gydF4y2Ba纪念印研究平台gydF4y2Ba |
CNSVS:gydF4y2Ba中枢神经系统生命体征gydF4y2Ba |
克雷格:gydF4y2Ba辅音重复gydF4y2Ba |
DLL:gydF4y2Ba延迟列表学习gydF4y2Ba |
GDPR:gydF4y2Ba一般资料保护规例gydF4y2Ba |
ICAT:gydF4y2Ba基于互联网的认知评估工具gydF4y2Ba |
ISBD:gydF4y2Ba国际躁郁症协会gydF4y2Ba |
噢,gydF4y2Ba列表中学习gydF4y2Ba |
MCI:gydF4y2Ba轻度认知障碍gydF4y2Ba |
健康:gydF4y2Ba移动健康gydF4y2Ba |
PSSUQ:gydF4y2Ba研究后系统可用性问卷gydF4y2Ba |
SCIP:gydF4y2Ba精神病学认知障碍筛查gydF4y2Ba |
团队:gydF4y2Ba科技促进心理健康gydF4y2Ba |
丑小鸭:gydF4y2Ba单极障碍gydF4y2Ba |
界面:gydF4y2Ba用户界面gydF4y2Ba |
用户体验:gydF4y2Ba用户体验gydF4y2Ba |
VF:gydF4y2Ba语言流畅gydF4y2Ba |
车辆行驶里程:gydF4y2Bavisuomotor跟踪gydF4y2Ba |
极冰原LNS:gydF4y2Ba韦氏成人智力量表字母数字排序gydF4y2Ba |
回答:gydF4y2Ba字错误率gydF4y2Ba |
G·艾森巴赫编辑;提交04.03.19;L Germine, O Ajilore, J Zulueta的同行评审;对作者06.04.19的评论;修订版本收到30.05.19;接受29.06.19;发表26.07.19gydF4y2Ba
版权gydF4y2Ba©Pegah Hafiz, Kamilla Woznica Miskowiak, Lars Vedel Kessing, Andreas Elleby Jespersen, Kia Obenhausen, Lorant Gulyas, Katarzyna Zukowska, Jakob Eyvind Bardram。原发表于JMIR Formative Research (http://formative.www.mybigtv.com), 26.07.2019。gydF4y2Ba
这是一篇在知识共享署名许可(https://creativecommons.org/licenses/by/4.0/)条款下发布的开放获取文章,该许可允许在任何媒体上不受限制地使用、分发和复制,前提是原始作品首次发表在JMIR Formative Research上,并适当引用。必须包括完整的书目信息,到http://formative.www.mybigtv.com上原始出版物的链接,以及版权和许可信息。gydF4y2Ba