JFR JMIR表格 形成性研究 2561 - 326 x 卡塔尔世界杯8强波胆分析 加拿大多伦多 v6i11e40765 36374539 10.2196/40765 原始论文 原始论文 远程研究中的招聘和保留:从一个大型的、分散的现实世界研究中学习 蒂芙尼 Mavragani 孤挺花 Riekert 克里斯汀 埃德尔 弥尔顿 索菲娅Xueying 据三菱重工 1 https://orcid.org/0000-0001-6588-8192 Halabi 拉姆兹 博士学位 1 https://orcid.org/0000-0002-3784-9556 Selvarajan Rahavi 大麻 1 https://orcid.org/0000-0003-2410-0287 Woerner 莫莉 英航 2 https://orcid.org/0000-0002-1359-5643 Fillipo Isabell格里菲斯 英航 2 https://orcid.org/0000-0002-6879-3268 巴纳吉 Sreya 博士学位 3. https://orcid.org/0000-0003-2658-9020 莫瑟 布列塔尼 垃圾 2 https://orcid.org/0000-0003-0670-3412 耆那教徒的 菲利普 医学博士 3. https://orcid.org/0000-0002-1683-8241 Arean 帕特丽夏 博士学位 2 https://orcid.org/0000-0001-5971-6319 普拉塔普 阿布 博士学位 1
克雷姆比尔神经信息学中心、成瘾和心理健康中心 学院街250号,12楼 多伦多,安大略省,M5T 1R8 加拿大 1 416 535 8501 Abhishek.Pratap@camh.ca
4 5 6 7 https://orcid.org/0000-0002-5289-6932
克雷姆比尔神经信息学中心、成瘾和心理健康中心 在多伦多 加拿大 精神科 华盛顿大学 西雅图,华盛顿州 美国 哈佛医学院马萨诸塞州总医院精神科抑郁症临床与研究项目 波士顿 美国 多伦多大学精神学系 在多伦多 加拿大 向量人工智能研究所 在多伦多 加拿大 伦敦国王学院 伦敦 联合王国 华盛顿大学生物医学信息与医学教育系 西雅图,华盛顿州 美国 通讯作者:Abhishek Pratap Abhishek.Pratap@camh.ca 11 2022 14 11 2022 6 11 e40765 5 7 2022 2 8 2022 2 9 2022 5 10 2022 ©Sophia Xueying Li, Ramzi Halabi, Rahavi Selvarajan, Molly Woerner, Isabell Griffith filippo, Sreya Banerjee, Brittany Mosser, Felipe Jain, Patricia Areán, Abhishek Pratap。最初发表于JMIR Formative Research (https://formative.www.mybigtv.com), 2022年11月14日。 2022

这是一篇在知识共享署名许可(https://creativecommons.org/licenses/by/4.0/)条款下发布的开放获取文章,该许可允许在任何媒体上不受限制地使用、分发和复制,前提是原始作品首次发表在JMIR Formative Research上,并适当引用。必须包括完整的书目信息,到https://formative.www.mybigtv.com上原始出版物的链接,以及版权和许可信息。

背景

智能手机越来越多地用于健康研究。它们为参与者和研究人员之间提供了持续的联系,以监测大量人口的长期健康轨迹,而成本只是传统研究的一小部分。然而,尽管在远程研究中使用智能手机具有潜力,但迫切需要制定有效的战略,以具有代表性和公平的方式接触、招募和留住目标人群。

客观的

我们的目的是调查在远程研究中使用不同的招聘和激励分配方法对队列特征和长期保留的影响。还评估了影响主动和被动数据收集的现实因素。

方法

我们使用一项大型远程观察研究的数据对参与者招募和保留进行了二次数据分析,旨在了解与感冒、流感和创伤性脑损伤对日常功能的影响相关的现实因素。我们在2020年3月15日至2022年1月4日分两个阶段进行招聘。在美国招募了超过10,000名智能手机用户,提供为期12周的每日调查和基于智能手机的被动感知数据。利用多元统计,我们调查了不同的招聘和激励分配方法对队列特征的潜在影响。生存分析用于评估社会人口学特征对两个招募阶段参与者留存率的影响。使用逻辑回归评估被动数据共享模式与队列人口统计学特征之间的关联。

结果

我们分析了从1万名参与者那里收集的33万多天的参与数据。我们的主要发现如下:首先,使用社交媒体和新闻媒体上的数字广告招募的参与者的总体特征与使用众包平台(多产和亚马逊机械土耳其; P<措施)。其次,参与者在研究中的留存率在研究阶段、招募来源、社会经济和人口因素( P<措施)。第三,被动数据收集的显著差异与设备类型(Android vs iOS)和参与者的社会人口学特征有关。与非西班牙裔白人受试者相比,黑人或非裔美国人受试者共享被动传感器数据流的可能性显著降低(优势比0.44-0.49,95% CI 0.35-0.61; P<措施)。第四,如果调查在入组后立即进行,参与者更有可能坚持基线调查。第五,技术故障可能会严重影响远程环境中真实数据的收集,从而严重影响可靠证据的生成。

结论

我们的研究结果强调了几个因素,如招聘平台、激励分配频率、基线调查的时间、设备异质性和数据收集基础设施中的技术故障,这些因素可能会影响远程长期数据收集。将这些实证研究结果结合在一起,有助于为监测现实世界数据收集过程中的异常情况以及以具有代表性和公平的方式招募和留住目标人群提供最佳实践。

参与招聘 参与者保留 分散的研究 主动和被动数据收集 保留 依从性 合规 订婚 智能手机 移动健康 移动健康 传感器数据 临床研究 数据共享 招聘 移动电话
介绍 背景

智能手机为研究人员提供了一种前所未有的随时随地的媒介,使他们能够参与并评估现实世界中大量人群的健康行为[ 1 2]。截至2020年,美国智能手机拥有率已超过80% [ 3.]。日常大规模、高频率地使用这类设备,加上机载多模式传感能力日益增强,为开展大规模健康研究提供了一种有效方法[ 4 5]。自2011年第一次完全远程分散试验以来,采用数字健康工具开发和部署数字增强试验的情况一直在稳步上升[ 6- 8]。最近的研究表明,使用智能手机进行远程监控可以评估现实世界的行为[ 9 10],用于治疗慢性疼痛[ 11]、癌症护理[ 12],糖尿病[ 13]、帕金森症状严重程度[ 14]和心血管健康[ 15]以及提供远程干预[ 16]。COVID-19大流行进一步加速了这一增长,仅在2021年就实现了220多项数字增强试验[ 17 18]。

使用智能手机进行卫生研究还可以通过减少对传统研究设施或数据收集中介机构的依赖来帮助实现操作效率,因为这需要研究参与者和研究团队之间的亲自接触[ 6 19 20.]。研究人员可以与参与者进行异步和同步交流,并通过主动和被动收集个性化的真实世界数据来评估他们的健康状况[ 4 21 22]。主动数据被定义为通过努力参与(例如,完成一项调查)产生的数据。相比之下,被动数据是在没有参与者直接输入的情况下收集的(例如,通过机载传感器估计的每日步数)[ 23]。这种可扩展的远程观测模型[ 6 20.可以帮助调查人员了解有健康问题的人的日常生活经历[ 4个性化现实世界行为与健康结果之间的关系[ 22]。

远程参与者招募和保留的挑战

然而,尽管下放了保健研究的希望,但与征聘和保留目标人口的代表性和包容性有关的一些挑战已经浮出水面[ 21 24 25],导致稀疏、不平衡和不具代表性的真实世界数据收集[ 21]。通常,分散的研究从各种基于网络的资源中招募,如社交媒体(Facebook) [ 26]和Reddit [ 27]),众包平台(多产[ 28];亚马逊土耳其机器人MTurk [ 29];Centiment [ 30.];和CloudResearch [ 31]),以及与患者登记处或倡导团体合作[ 32 33]。尽管这些招聘渠道已经显示出远程接触和招募大量人口的潜力[ 34- 36],长期、统一地留住远程参与者一直是一项挑战。最近的研究结果显示,留存率从1%到50%不等[ 24],而金钱激励能够显著提高长期留存率[ 10]。采用大规模的公开招募方法,包括使用财政奖励,招募游戏玩家或恶意行为者的风险增加[ 37]。

由于大型研究使用多种基于网络的资源来远程接触和招募参与者,因此有必要评估此类策略对已登记队列的特征及其在研究中的保留率的影响。此外,还需要进一步的研究来了解研究参与动机的差异(例如,支付的时间和频率)以及Android和iOS操作系统之间的差异[ 38影响分散研究的长期数据收集。

目标

为了调查在现实环境中通过智能手机收集健康数据的一些挑战,我们在一项大型分散研究中检查了10,000多名参与者的招募、保留和被动数据共享模式。具体而言,我们评估了以下三个关键问题:(1)结合不同的招聘和激励分配方法是否会导致具有不同特征的异质队列?(2)远程研究的参与者保留率和数据收集的均匀性是否会受到队列异质性的影响?(3)在现实环境中,哪些因素会影响被动数据收集?

方法 伦理批准

本研究由华盛顿大学机构审查委员会(STUDY00004997)和国防部人类研究保护办公室批准和监督;该研究于2020年2月11日获得批准。

研究概述

“战士分析使用智能手机促进健康”(WASH)研究的参与者是居住在美国的志愿者,他们同意参与一项为期12周的基于智能手机的研究。该研究的主要目标是了解有助于早期预测感冒、流感和创伤性脑损伤对日常功能影响的现实因素。符合条件的参与者为年龄≥19岁的个人、英语使用者、美国居民、iPhone或Android智能手机的所有者和主要上网用户。潜在的参与者在同意之前需要完成资格筛选,不符合纳入标准的参与者不允许完成后续程序。

招聘

参与者招募于2020年3月15日开始,滚动招生至2022年1月4日。研究人员分两个阶段招募参与者,采用不同的招聘和激励分配方法( 图1)。参与者完成基线调查和12周的随访调查后可获得高达90美元的奖金。最终的参与奖励是根据完成调查的数量来确定的。在同意过程中,参与者没有被告知财务崩溃;但是,关于他们何时将获得赔偿以及他们将获得多少赔偿的其他细节是应要求提供的。

(A)第一阶段和第二阶段不同的研究招募和参与激励分配方式示意图。在第一阶段招募的参与者在研究的第一天开始每周(12次)支付报酬。任何在2020年10月3日之前参加的人(在招聘暂停日期附近招募的人)仍然会收到每周的报酬。在第二阶段招募的参与者从研究的第一天开始,每3周(共4次)支付一次报酬。(B)研究观察期间(84天)通过学习app收集的基于智能手机的主动和被动数据详细情况。*表示加速计和陀螺仪在2020年8月28日强制共享。

参与激励 第一阶段(2020年3月15日至2020年7月11日)

参与者主要是通过在社交媒体平台上投放广告来招募的,这些广告将潜在的参与者引导到一个研究招募网站。当地新闻媒体的新闻稿也成为招聘的来源[ 39 40]。在这一阶段招募的参与者每周根据参与者完成所有日常调查的天数支付报酬。在整个12周内,每天收到的金额增加(例如,第2至4周约为4美元,第5至8周约为6美元,第9至11周约为7美元,第1周和第12周收到的金额更大,因为在第1周完成基线调查和在第12周完成退出调查的人获得了更高的奖励)。然而,2020年6月的研究入学人数大幅增加,似乎与计划招募不一致,导致研究小组于2020年7月11日暂停入学。在此期间对参与者活动的分析表明,一些恶意行为者参与了研究。关于评估恶意行为者的更多细节,可以在Bracken等人的研究中找到[ 37]。

第二阶段(2020年8月30日至2022年2月9日数据冻结日期)

在实施了额外的策略来阻止欺诈性的加入研究之后,招募于2020年8月30日恢复,例如禁止在研究应用程序中自动填写调查问卷,改变招聘来源,改变奖励支付频率[ 37]。参与者于2021年1月4日至12月28日,以及2021年5月15日至12月21日从多产和MTurk两个基于网络的招聘平台招募。高产是一个基于网络的研究平台,包括若干保障数据质量的保障措施[ 41- 44];最小化玩家或恶意行为者;并且已经被证明是可靠的,高效的,并且对于行为研究的远程数据收集是负担得起的[ 45]。与多产类似,MTurk是另一个基于网络的众包平台,经常用于健康研究,招募研究参与者完成数据处理、问题解决和调查等任务[ 46]。在第二阶段,参与者每3周获得一次奖励,第一次参与奖励将持续5周。实现支付计划中的更改是为了有足够的时间执行旨在识别恶意参与者的过程。

积极调查

评估分为1个较长的基线调查和简短的每日评估。基线调查评估了参与者的健康史、情绪、身体活动和手机使用情况,在获得第一阶段研究的同意后24小时进行。然而,在第2阶段,在征得同意后立即进行基线健康调查。在这两个阶段,参与者在12周内每天进行两次与健康相关的调查。调查询问了参与者的情绪、身体活动和手机使用情况。

基于传感器的数据采集

通过研究应用程序主动和被动地从参与者那里收集基于传感器的数据。参与者完成了绩效结果测量[ 47例如站立和行走测试以及分享录音。参与者还被要求允许学习应用程序从他们的智能手机上收集被动数据。被动数据包括但不限于设备移动和方向;实际位置和相对位置;设备的状态(例如,正在使用或已连接到数据网络);以及当地环境信息,如环境光线、温度和湿度。参与者可以选择不分享被动数据并继续研究。然而,所有在2020年8月28日或之后(第二阶段开始之前)参加研究的参与者都被要求允许研究应用程序被动地从他们的智能手机上收集加速度计和陀螺仪传感器数据。

数据访问 概述

从参与者那里收集的所有数据都是不确定的。通过该应用程序收集的数据在手机上进行了加密,并存储在安全的服务器上,与任何可识别的信息分开。原始数据,如图像、接近度、声音和参与者的实际位置数据,与所有其他传感器数据分开存储,不与研究团队共享。在本研究中,从研究启动日期(2020年3月15日)到数据冻结日期(2022年2月9日)之间的入组参与者的数据用于分析。

数据清理

在分析之前,根据Bracken等人在研究中定义的标记恶意行为者的规则,对6788个可疑恶意行为者的数据进行了删除[ 37]。在2020年3月15日研究启动日期之前收集的测试数据被删除。如果一项调查提交了不止一次,我们使用最近的提交来评估参与者在研究中的依从性。如果参与者回答的值超出有效值的预期范围,则将其标记为无效数据。

数据协调

为了调查参与者在研究中的留存率,我们将研究应用程序收集的数据分为两大类:(1)调查数据,表示参与者通过研究应用共享的任何主动调查数据;(2)传感器数据,表示研究应用在没有参与者主动输入的情况下收集的被动连续传感器数据,以及在性能结果评估期间收集的主动传感器数据(例如,从加速度计和陀螺仪收集的行走测试数据)。

统计分析 概述

从数据集中排除6788名恶意行为者(6788/17,556,38.66%)后,使用10,768名参与者的数据进行统计分析。分类变量的招募和队列特征的描述性分析基于频率和百分比。为减少分析中的数据稀疏性,将包含<5%队列的分类基线变量水平省略或与包含<5%队列的其他水平合并。我们使用第25和75百分位(IQR)的中位数来总结非正态分布的连续变量。采用双变量分析方法比较队列特征的差异。用卡方检验检验分类变量间的差异有统计学意义;当表细胞计数<5时采用Fisher精确检验,Mann-Whitney精确检验 U对连续变量采用检验。我们使用逻辑回归模型来评估被动数据共享模式与参与者的社会人口特征和技术变量之间是否存在统计学上显著的关联。这些因素包括种族、民族、年龄、性别、教育程度、收入水平、设备类型和招募阶段。具体来说,我们比较了参与者在Android和iOS设备之间共享至少25%(2/8)、50%(4/8)或75%(6/8)的8种常见被动数据流的3种数据共享模式。95% ci和 P使用Wald计算值 Z分布近似。

我们调整 P值通过使用错误发现率校正来校正跨不同传感器类型的多个比较。使用R(4.1.1版)进行分析。在对错误发现率进行校正时,假设有统计学显著性 P值< 0.05。

保留分析

为了检查研究中的总体保留情况,我们使用了单变量Kaplan-Meier生存曲线[ 48],使用非参数log-rank检验对其进行统计学显著性差异检验[ 49]。参与者在研究中的最后一天由他们数据共享的最后一天决定。为了评估主动和被动数据共享之间保留的差异,我们还分别计算了主动和被动数据流的学习保留。考虑到参与者可能在研究期结束后(84天)继续使用研究应用程序,我们使用了Kaplan-Meier估计器的右审查数据。

为了评估包括社会人口统计在内的多个感兴趣变量对研究中参与者保留的联合影响,我们最初使用了多变量Cox比例风险(CoxPH)模型[ 50]。然而,使用Schoenfeld个体检验检验的CoxPH模型的关键假设之一(协变量的影响不应随时间变化)不满足[ 51]。 多媒体附录1给出了检验统计数据,表明CoxPH模型假设不被满足。由于潜在保留率数据不支持CoxPH模型假设,我们使用了非参数log-rank检验[ 52]来评估每个阶段中单个变量对留存率的统计显著影响。我们交叉比较了两个研究阶段中每个感兴趣变量水平的中位数留存率。

结果 招聘

截至数据冻结日期(2022年2月9日),该研究招募了10768名参与者。大多数参与者(6494/10,768,60.3%)在第一阶段招募,其余参与者(4274/10,768,39.69%)在第二阶段招募(见方法部分)。相当大比例的参与者,尤其是在第一阶段,没有完成基线调查(第1阶段:3135/6494,48.27%,第2阶段:918/4274,21.47%)。 图2比较研究的招募率与基线调查提交率随时间的变化。基线调查的完成次数通常与研究期间招募的参与者数量一致。第一阶段的招聘高峰在2020年4月中旬和5月中旬,第二阶段的招聘高峰在2021年1月中旬和3月初。然而,在第一阶段,即2020年5月至7月期间,完成的基线调查数量明显低于招募的参与者数量,这解释了第一阶段中大量缺失基线数据的原因。我们进一步评估了缺少基线调查对参与者参与研究的影响(见留存分析部分)。关于基线调查中缺失和无效数据条目的其他统计数据总结于 多媒体附录2

在研究期间招募的参与者数量(黑色)和完成的基线调查数量(红色)之间的7天移动平均线的比较。灰色阴影区域为2020年7月11日至2020年8月29日的研究招募暂停阶段。

群体特征

完成基线社会人口调查的参与者以女性居多(3817/6574,58.06%)。中位年龄为30 (IQR 24-40)岁,其中19 - 29岁的参与者比例较大(2949/6267,47.05%)。非西班牙裔白人人口最多(3938/6677,58.97%),其次是亚洲人(931/6677,13.94%)和西班牙裔或拉丁裔(783/6677,11.72%)。大多数参与者是iOS用户(5883/ 105883,55.58%)。 表1总结整个队列的社会人口学特征。

在第二阶段招募的人群中,年轻人的比例更高(19至29岁;1685/3194, 52.75%),老年人(≥60岁;94/3194, 2.94%)较第一阶段招募的人数( P<措施; 表1)。在第二阶段招募了更高比例的黑人或非裔美国人参与者(第一阶段:267/3342,7.98%;第2期:456/3339,13.65%; P<措施)。值得注意的是,第二阶段招募的年收入水平(≤49,999美元)较低的参与者比例(1942/3308,58.71%)高于第一阶段(1062/2483,42.77%; P<措施)。在招聘阶段,Android和iOS用户的比例也有所不同。iOS用户( P< 0.001)的患者在第一阶段(3958/5883,67.27%)多于在第二阶段(1925/5883,32.72%)。 多媒体附录3进一步比较了Android和iOS用户在两个招聘阶段的社会人口特征。

整个研究队列的特征(N=10,768)以及在第一阶段(N= 6494)和第二阶段(N= 4274)招募的参与者的比较。

整体人群 在第一阶段招募的参与者 在第二阶段招募的参与者 检验统计量卡方( df P价值(第一阶段vs第二阶段)
年龄(年),n (%) 6267 (58.21) 3073 (47.32) 3194 (74.73) 235.29 (4) <措施
19-29 2949 (47.05) 1264 (41.14) 1685 (52.8) - - - - - -一个 - - - - - -
- 39 1637 (26.12) 739 (24) 898 (28.11) - - - - - - - - - - - -
40至49 804 (12.82) 459 (14.9) 345 (10.8) - - - - - - - - - - - -
50-59 490 (7.81) 318 (10.3) 172 (5.4) - - - - - - - - - - - -
≥60 387 (6.37) 293 (9.51) 94 (2.96) - - - - - - - - - - - -
丢失和无效数据b 4501 3421 1080 - - - - - - - - - - - -
性别,n (%) 6574 (61.13) 3304 (50.92) 3270 (76.54) 15.25 (1) <措施
3817 (58.11) 1997 (60.41) 1820 (55.73) - - - - - - - - - - - -
男性 2757 (41.9) 1307 (39.64) 1450 (44.37) - - - - - - - - - - - -
丢失和无效数据b 4194 3190 1004 - - - - - - - - - - - -
种族,n (%) 6681 (62.03) 3342 (51.57) 3339 (78.15) 101.02 (4) <措施
非西班牙裔白人 3938 (58.95) 1953 (58.44) 1985 (59.41) - - - - - - - - - - - -
亚洲 931 (13.93) 487 (14.67) 444 (13.32) - - - - - - - - - - - -
西班牙裔,拉丁裔或西班牙裔 783 (11.72) 424 (12.75) 359 (10.81) - - - - - - - - - - - -
黑人或非裔美国人 723 (10.82) 267 (8.02) 456 (13.77) - - - - - - - - - - - -
其他 306 (4.61) 211 (6.32) 95 (2.85) - - - - - - - - - - - -
丢失和无效数据b 4087 3152 935 - - - - - - - - - - - -
婚姻状况,n (%) 6681 (62.03) 3341 (51.42) 3341 (78.21) 134.02 (3) <措施
3312 (49.65) 1439 (43.14) 1873 (56.13) - - - - - - - - - - - -
已婚的已婚或同居的 2821 (42.22) 1549 (46.47) 1273 (38.12) - - - - - - - - - - - -
离婚了 410 (6.11) 275 (8.28) 135 (4.03) - - - - - - - - - - - -
其他 138 (2.16) 78 (2.39) 60 (1.81) - - - - - - - - - - - -
丢失和无效数据b 4087 3153 933 - - - - - - - - - - - -
收入水平(美元),n (%) 5793 (53.85) 2483 (38.24) 3310 (77.47) 245.48 (4) <措施
< 25000 1736 (30.05) 599 (24.11) 1137 (34.42) - - - - - - - - - - - -
25000到49999 1268 (21.91) 463 (18.64) 805 (24.33) - - - - - - - - - - - -
50,000到74,999 886 (15.37) 349 (14.15) 537 (16.21) - - - - - - - - - - - -
75000到99999 710 (12.33) 343 (13.85) 367 (11.14) - - - - - - - - - - - -
≥100000 1193 (20.62) 729 (29.41) 464 (14.05) - - - - - - - - - - - -
丢失和无效数据b 4975 4011 964 - - - - - - - - - - - -
教育程度,n (%) 6677 (62.04) 3340 (51.43) 3337 (78.11) 35.34 (2) <措施
高中或以下学历 868 (13.09) 448 (13.41) 420 (12.65) - - - - - - - - - - - -
大学 3881 (58.16) 1827 (54.71) 2054 (61.62) - - - - - - - - - - - -
研究生院 1928 (28.91) 1065 (31.94) 863 (25.93) - - - - - - - - - - - -
丢失和无效数据b 4091 3154 937 - - - - - - - - - - - -

一个不可用。

b该比例基于完成基线调查的参与者人数,缺失和无效的数据在 多媒体附录2

被动数据共享

研究应用程序被动收集的数据模式数量在Android(31种数据模式)和iOS(14种数据模式)操作系统中有所不同。Android和iOS设备上可用的被动数据模式数量的差异是由于两种操作系统上可用的机载传感器和数据收集限制[ 38]。在31个Android被动数据流中,18个(58%)被至少50%的Android用户共享( 表2)。相比之下,86%(12/14)的不同被动数据流被至少50%使用iOS设备的参与者共享。 多媒体附录4总结了Android和iOS设备上每个传感器分层的数据共享比例。没有一个使用iOS设备的参与者分享来自相机或气压计的被动数据。同样,使用Android设备的参与者不共享来自一些被动数据流的任何数据,包括温度、摄像头和湿度( 多媒体附录4)。这种被动数据共享的差异也可能与某些设备中特定传感器的异质性和不可用性有关。值得注意的是,研究的第二阶段要求参与者被动地共享加速度计和陀螺仪数据。然而,在第二阶段招募的队列中,有一小部分(但值得注意的比例)没有共享加速度计(503/4089,12.31%)和陀螺仪(856/4089,20.89%)数据。

此外,在Android和iOS设备之间共有的8个被动数据流中,参与者的被动数据共享与社会人口统计学特征和设备类型有关。总共测试了3种数据共享模式,参与者共享至少2(25%),4(50%)或6(75%)的8个被动数据流。在所有3种数据共享模式中,黑人或非裔美国人参与者被发现在统计学上显著低于非西班牙裔白人参与者共享被动传感器数据的可能性(优势比[or] 0.44-0.49, 95% CI 0.35-0.61; P<措施)。此外,分享≥75%(6/8)被动数据流的参与者更有可能是iOS设备用户(OR 1.98, 95% CI 1.71-2.28; P<.001),年收入超过25,000美元(OR 1.27-1.55, 95% CI 1.06-1.93; P<措施)。 多媒体附录5提供参与者社会人口特征与被动数据共享之间关系的进一步细节。

在“战士分析使用智能手机促进健康”研究中,比较个体社会人口变量对参与者(以天为单位)的中位数留存率(95% CI)的影响。

第一阶段 第二阶段
保留率中位数(95% CI) P价值 保留率中位数(95% CI) P价值
数据流 37 (37-37) <措施 51(调查) <措施
被动 37 (37-37) 44 (43-46)
活跃的 36 (36-36) 47 (44-49)
基线数据缺失 <措施 <措施
是的 36 (36 - 37) 59 (57 - 62)
没有 37 (37-38) 19日(24)
年龄(年) . 01 <措施
19-29 36 (34-37) 59 (55 - 63)
- 39 36 (34-37) 59 (53 - 64)
40至49 37 (36-38) 60 (50 - 66)
50-59 37 (37-38) 69年(61 - 79)
≥60 38 (37-38) 83 (78 - n / A一个
种族或民族 <措施 50
亚洲 39 (38-49) 60 (54 - 69)
黑人或非裔美国人 6(十) 68年(63 - 72)
西班牙裔,拉丁裔或西班牙裔 20 (14-25) 58 (50 - 65)
非西班牙裔白人 37 (37-38) 57 (54 - 61)
其他 5 (3 - 17) 55 (35 - 67)
收入水平(美元) <措施 56
< 25000 37 (36-38) 61 (56 - 65)
25000到49999 34 (31-36) 60 (55 - 66)
50,000到74,999 36 (33-37) 62 (56 - 68)
75000到99999 24 (19-30) 55 (49 - 64)
> 100000 24 (19-30) 55 (50 - 61)
教育程度 <措施 措施
高中或以下学历 5(十) 50 (46-56)
大学 38 (37-38) 60 (57 - 64)
研究生院 36第35 - 37 () 62 (57 - 67)
设备类型 <措施 <措施
安卓 22 (17- 27) 59.5 (56 - 63)
iOS 37 (37-37) 49(46 - 52点)

一个N/A:不可用。

参与者保留

在84天的研究观察期内,整个队列的中位滞留时间为38天。在主动(中位37天)和被动(中位38天)数据流( 多媒体附录6)。参与者保留率的敏感性分析也显示主动和被动数据流的中位生存期没有显著差异( 多媒体附录7)。因此,所有后续的留存分析都是通过结合主动和被动数据流进行的。

在第一阶段和第二阶段招募的人员中,保留率存在显著差异。在第二阶段招募的参与者的中位数保留时间(+14天)明显高于第一阶段招募的参与者(第一阶段:中位数37天;第二阶段:中位51天; P<措施; 图3A和3B)。年龄较大的参与者(≥60岁),在这两个阶段招募,相对于年轻的队列,他们在研究中持续的时间最长(第一阶段和第二阶段的中位保留时间分别为38天和83天)。 图3E和3F)。

值得注意的是,某些特征,包括社会经济因素,明显影响了在第一阶段和第二阶段招募的参与者的保留率( 表2)。在第二阶段入组后立即完成基线调查的参与者被保留的时间明显更长(基线调查的中位数:在第二阶段是59天,而不是19天; 图3然而,在第一阶段从社交媒体平台招募的参与者中没有观察到同样的趋势。同样,在第一阶段,非西班牙裔白人人群在研究中停留的时间(中位数为37天)明显长于西班牙裔或拉丁裔人群(中位数为20天; 图3G)。在非西班牙裔白人和西班牙裔、拉丁裔或西班牙裔人群中,2期未观察到有意义的差异( 图3H)教育水平主要影响第一阶段的保留率。在第一阶段,报告高中或更低教育水平的参与者比其他参与者(中位数≥36天)保留时间最短(中位数为5天)。在第二阶段从众包平台招募的人群中,没有看到教育水平造成的如此大的留存率差异( 图3I-3K)。参与者自我报告的收入也被发现仅在第一阶段与留存率显著相关。收入低于49999美元的参与者留存时间长于收入为10万美元的参与者(第一阶段:49999美元vs 10万美元的留存时间中位数分别为34天和24天; P<措施; 图3I和3J)。我们还注意到,在第一阶段中,Android和iOS用户的留存率中位数存在显著差异(iOS为37天,Android为22天; P<措施)。 表2 多媒体附录8提供关于生存分析的其他结果和细节。

使用Kaplan-Meier生存曲线研究两个招聘阶段的留存模式。(A)-(B)按主动(紫色)、被动(橙色)和总体(即主动或被动)分层的队列保留;(蓝色)数据流。(C)-(D)完成基线调查后的保留差异;(E)-(F)年龄组,(G)-(H)种族或民族,(I)-(J)收入水平,(K)-(L)教育水平。阴影区域显示了基于生存模型拟合的95% ci。

讨论 主要研究结果

我们分析了来自1万多名参与者的33万多天的敬业度数据,结果表明,结合不同的招聘和激励分配方法可以产生异质队列。据我们所知,这是第一个实证评估参与者使用自带设备(BYOD)方法分享从iOS和Android设备收集的多模式被动数据的现实差异的研究之一。

总的来说,有5个关键的教训。首先,使用不同的媒体招募参与者,例如,在社交媒体和基于网络的报纸或众包平台上的数字广告,可能会导致具有不同特征的异质子队列。其次,参与者的参与度可能会因招聘来源(如社交媒体与众包平台)和激励分配方法的不同而有很大差异。第三,被动数据收集可能会受到Android和iOS设备的技术变化以及人群的社会人口统计数据的影响。第四,如果参与者在同意或登记后立即进行管理,他们完成基线健康调查的可能性更大。第五,在研究层面监测真实世界数据收集的模式可以揭示技术故障,有助于指导上下文数据过滤和队列选择,从而产生更可靠的证据。我们现在将我们的主要研究结果置于背景中,为招募、保留和监测远程数据收集趋势的战略提供信息,以帮助以具有代表性和公平的方式收集真实世界的健康数据。

整合招聘平台可能会产生异质的现实群体

从基于网络的社交媒体和报纸广告(第一阶段)与众包平台(第二阶段)招募的参与者的人口统计学和社会经济特征之间存在显著差异。这表明,结合多个基于网络的招聘来源可能产生异质队列,导致数据收集不统一。未来的远程研究应评估结合通过不同招募媒体招募的参与者获得的真实世界数据的潜在影响。此外,在第一阶段,基于网络的基于广告的公开招生方法虽然成功地迅速招募了一大群人,但也导致了很大比例的不良行为者加入研究以获得金钱奖励[ 37]。另一方面,众包平台(MTurk和多产)招募参与者的速度较慢,但其留存率明显高于第一阶段使用社交媒体广告招募的参与者。事实上,正如我们在之前的一篇论文中指出的那样,新闻媒体和社交媒体的招聘更有可能吸引恶意行为者[ 37以及,正如我们在这里展示的,较少投入的研究参与者。然而,尽管付费众包平台在有效接触和招募参与者方面有好处,但研究人员应仔细考虑可能影响研究结果的其他因素[ 53- 57在从这些平台招募参与者时。这些因素包括:(1)继续参与远程研究的主要动机,这可能与完成任务的金钱激励有关;(2)被招募的人群可能不能代表一般人群[ 58]或目标健康状况。被招募参与者的特征也可能因招聘平台而大不相同。(3)非天真招募的人可能是研究的常规参与者,这可能会影响对实际潜在效果的评估;(4)评估众包工作者对特定任务或研究的适应性[ 59- 61]。

激励分配的变化会对招聘和保留产生影响

通过增加参与者获得报酬的间隔时间,我们观察到在第二阶段加入研究的恶意行为者数量显著减少。此外,在保持奖励总额不变的情况下,每周获得较少报酬的参与者(第一阶段)在研究中的持续时间明显短于每三周获得较多报酬的参与者(第二阶段)。尽管第二阶段较高的留存率不能完全归因于奖励分配的变化(因为缺乏随机化),但它表明了一个潜在的有趣的行为经济学模型[ 62,通过偶发但更重要的奖励来解决参与者的感知负担。与学习负担相关的激励价值也因社会经济特征而异。在这两个阶段,低收入群体的参与者比高收入群体的参与者投入的时间更长,可能是受到激励的驱使,这一发现在其他研究中得到了证实。 63]。过去的研究表明,奖励可以是留住这些参与者的有效方法,因为小的奖励可以构成一种处理金钱障碍的方法[ 64]。然而,研究人员应该以非强制性的方式使用这种基于激励的参与策略[ 65 66这样潜在的研究参与者就不会受到不适当的影响而加入并分享他们在研究中的数据。

评估真实世界数据收集中的模式可以揭示潜在的技术问题

对日常研究水平数据的评估揭示了几种模式,表明数据收集中存在短暂的技术故障,如果不加以解决,可能会影响下游证据的生成。首先,在第一阶段观察到基线调查完成率的相对入组率显著下降( 图2)。这可能表明数据收集系统出现了技术故障,或者大量不良行为者试图加入研究以获得金钱奖励(如果适用)。其次,在研究招募阶段,主动和被动数据收集模式存在显著差异。例如,我们在研究的第二阶段确定了两个时间段,尽管参与者完成了主动任务,但研究应用程序没有收集被动数据( 多媒体附录9)。这可能是被动数据收集中的技术故障,可能严重影响在此期间活跃的参与者的被动数据密度。了解数据丢失的背景和时期可以指导队列和数据选择,以进行可靠和公正的下游分析。第三,在第二阶段招募的一小部分参与者没有共享2个强制性被动数据流,加速计(503/4089,12.3%)和陀螺仪(856/4089,20.9%),但继续在研究中保持活跃( 表2)。参与者共享的数据模式的近实时比较可以帮助研究团队根据批准的研究方案对不符合所需纳入标准的参与者进行分类。第四,按技术变量(如设备类型)分层的留存率分析揭示了潜在的特质模式。我们观察到在第一阶段招募的参与者的保留率有显著的趋势( 多媒体附录8 图3G)使用iOS设备的参与者的留存率在第37天左右急剧下降,而使用Android设备的参与者的留存率则逐渐下降。对于这种仅在研究第一阶段出现的显著而特殊的记忆模式,可能有几个合理的原因。与第二阶段相比,第一阶段iOS和Android群组的社会人口学特征存在显著差异( 多媒体附录3)。此外,iOS应用程序可能在第6周左右(35-42天)出现bug,这可能会影响第一阶段的参与者体验和数据共享。综上所述,这些发现表明,在研究进行过程中,迫切需要优先考虑在现实环境中对数据收集的实时监测。这还提供了及时干预的机会,以了解、记录和修复根本原因,防止低质量的数据收集。

在BYOD研究中,被动数据收集可能会有很大的不同

从参与者自己的设备收集的被动数据显示,Android和iOS设备上可用的机载传感器差异很大。即使对于Android和iOS设备上可用的常见被动数据流,与参与者的社会人口统计学特征和设备类型相关的多个被动数据流的共享也可能存在实质性差异。例如,在这项研究中,黑人或非裔美国人明显不太可能共享多模态被动传感器数据( 多媒体附录5)。在大型BYOD研究中,研究人员应该预料到无源传感器数据流的高度异质性,并考虑设备异质性对数据收集、分析和证据生成的影响[ 38 67- 70]。

参与者社会人口学特征对留任的影响

年龄较大的参与者(≥60岁)被保留在研究中最长的时间。这一发现与之前的一项大型交叉研究相一致[ 63]。然而,社会人口统计学特征对参与者留存率的影响在使用社交媒体广告(第一阶段)和众包平台(第二阶段)招募的队列之间存在很大差异。单个类别(例如,非西班牙裔白人与西班牙裔或拉丁裔)的中位数留存率的相对差异显著更高,这与先前的研究一致[ 63]比第二阶段招募的队列( 表2)。这表明在社会人口特征如何影响基于招聘来源的参与者保留方面存在显著差异。我们的研究结果提供了证据,表明从网络众包平台招募的人群比一般人群在研究中表现出更多的同质性,这种行为可能是由潜在动机和金钱激励驱动的。

此外,美国的人口构成正变得越来越多民族和多元化,预计到2060年将没有占多数的种族或族裔群体[ 71]。纳入队列的社会人口学特征以及不均匀的参与者流失表明,大型观察性研究可能无法统一地从多样化和具有代表性的人群中纳入和收集健康结果。未来的研究应强调纳入不同的人群,例如“我们所有人”队列[ 72],并在整个研究期间保持不同的样本,以确保他们的学习适用于不同的人群。此外,在招募多元化群体方面的一些挑战已被确定为与参与者的感知、信任以及注册并与研究人员、政府和学术机构分享他们的数据的意愿有关[ 46 71]。

基准调查的实施时间可能会影响完成率

审计业务数据显示,进行基线调查的时间可能与调查完成率有关。两期基线调查缺失率差异显著(一期:3135/6494,48.27%;二期:918/4274,22.47%; 图3C和3D)。这表明,如果参与者在同意或注册后立即进行管理(第二阶段),他们更有可能完成基线评估。这可能是由于注册研究时的参与度高于随后的时间点,此时注意力可能被其他活动所吸引。这一发现与之前的一些研究一致,在这些研究中,如果在参与者最容易接受的时候提供提示,参与者更有可能在24小时内使用移动健康应用程序[ 73]。此外,Bidargaddi等[ 73研究表明,参与程度还受到其他环境的影响,比如一天中的时间和一周中的哪一天。这些结果可以帮助我们理解管理评估时间的重要性及其对研究数据质量的影响。

限制与未来方向

对来自WASH研究的参与者招募和保留数据的分析应在一定局限性的背景下进行解释。首先,在美国宣布COVID-19大流行之前开始了大规模、完全远程的数据收集,众所周知,这改变了我们的行为以及与技术和设备的互动[ 74]。实际上,Inverso等人[ 75在2019冠状病毒病大流行期间,由于在封锁期间对技术的依赖增加,人们的参与度更高。在世界卫生组织于2020年3月11日宣布COVID-19大流行后不久,WASH研究于2020年3月15日开始招募。因此,我们没有大流行前后的数据来解释大流行对参与者使用技术和设备的潜在影响。其次,WASH研究的最初目的是使用研究应用程序来检测感冒和流感症状。因此,参与者在不同的招聘平台、激励分配频率和基线调查时间(在研究的第一阶段和第二阶段之间变化)中不是随机的。因此,我们的研究结果与1个因素对参与者招募和保留的影响没有因果关系或联系。例如,该分析比较了从网络众包平台(第二阶段)招募的参与者与通过社交媒体和当地广告招募的参与者(第一阶段公开招募)的总体人口特征。我们无法探究阶段内的招聘差异;也就是说,从社交媒体招聘的人与从当地新闻媒体广告招聘的人之间的差异。这主要是因为研究数据中可用的信息有限,不允许对这些差异进行调查。 Further research studies using a randomized design are needed to investigate the impact of individual changes in recruitment and retention strategies and their effectiveness for use in decentralized research. Third, we could not control for the participants’ previous experience in crowdsourcing platforms and research tasks, which can be a confounder [ 41]视乎评估的性质而定。未来的研究应评估参与者之前是否参与过类似或其他研究,以评估对主要结果的差异影响。第四,在第一阶段,通过新闻稿招募参与者主要集中在大西雅图地区,这可能不能代表美国的人口。此外,由于基线地理定位数据缺失的比例很高,我们无法确定队列的地理空间代表性。未来的研究应优先收集高级地理位置数据,如州、城市或邮政编码,以帮助评估研究队列的地理空间代表性。第五,我们无法解释研究结果中所有潜在的研究内部差异;例如,第1阶段第36天参与者参与度急剧下降以及第2阶段传感器数据收集或管理的波动可能导致的技术故障( 多媒体附录9)。这些技术问题可能会影响参与者保持参与的意愿,并增加在技术故障时积极参与研究的参与者的感知负担。第六,尽管我们过滤掉了不良行为者,但有些人仍然可以通过创建多个帐户或使用多个设备成功注册。我们建议未来的数字健康研究专门报告和比较不同的时间招聘和激励策略对注册队列的特征和参与指标以及欺诈注册的影响,以便将来复制并建立一套成功的参与者招聘和保留方法的指导方针。

Schoenfeld检验的检验统计量用于评估Cox比例风险模型假设。

缺少数据分析。

使用智能手机促进健康的战士分析(WASH)研究参与者的社会人口特征,按设备拥有量(iOS和Android)分层。

在两个研究阶段中,按设备类型(Android和iOS)共享传感器数据的参与者比例。*强制共享的传感器类型。**在Android设备上共享数据需要权限。

logistic回归模型的比值比和95% ci显示了参与者的社会人口学特征与被动数据共享之间的关联。3个独立的模型使用Android和iOS设备之间常见的8个被动数据流中的2(25%)、4(50%)和6(75%)来比较被动数据共享模式的结果如下所示。* P< .051。** P<措施。* * * P<。。

使用智能手机促进健康的作战人员分析(WASH)研究中的总体参与者留存率。

通过延长观察窗(84天)2周对参与者保留度的敏感性分析。

额外的生存曲线。

学习App数据收集模式。

缩写 BYOD

自带设备

CoxPH

考克斯比例危险

MTurk

亚马逊土耳其机器人

优势比

战士分析使用智能手机的健康

本研究的数据由SC1712603资助 战士分析使用智能手机促进健康(主要研究者:Bracken).本材料基于美国空军和国防高级研究计划局根据FA8750-18-C-0056合同支持的工作,题为“基于集成在手机应用程序(HIPPOCRATIC App)上的复杂推理和分析技术的健康和伤害预测和预防”。所表达的观点、意见和调查结果是作者的观点、意见和调查结果,不应被解释为代表国防部或美国政府的官方观点或政策。

作者感谢所有研究参与者在研究中的时间,并为研究目的分享他们的数据。作者还要感谢Calvin Herd帮助下载了研究参与数据,感谢Aditi Surendra校对了手稿并帮助设计了研究数据收集插图。

FJ得到了美国国家老龄研究所(K76AG064390)的资助,并获得了马萨诸塞州总医院Benson-Henry身心医学研究所的酬金和马萨诸塞州总医院临床试验网络研究所的工资支持,该研究所接受了美国国立卫生研究院和制药公司的资助。SXL, RS, RH和AP部分由成瘾和心理健康发现基金中心和加拿大Krembil基金会资助。

数据可用性

本研究中使用的个人层面的业务数据将在通讯作者提出合理要求后提供。用于数据加载和分析的完整代码可通过开源GitHub代码存储库获得[ 28]。

在这篇论文被接受发表时,Biogen雇佣了AP。然而,所有的分析、论文写作和首次提交都是在AP加入Biogen之前完成的。

J Lim Y 仙谷由人 年代 X 小玉 K 探索2000年至2020年移动医疗研究国际趋势的转变:文献计量分析 移动医疗Uhealth 2021 09 08 9 9 e31097 10.2196/31097 34494968 v9i9e31097 PMC8459219 卢恩 先生 Lubensky 亨特 C Flentje 一个 Capriotti 先生 Sooksaman C 哈尼特 T 柯里 D 尼尔 C Obedin-Maliver J 一个数字健康研究平台,用于全国性纵向队列研究(PRIDE研究)中性和性别少数群体成年人的社区参与、招募和保留 美国医学信息协会 2019 08 01 26 8 - 9 737 48 10.1093 /地点/ ocz082 31162545 5509461 PMC6696499 2021年选定国家的智能手机普及率 Statista 2022 2022-03-21 https://www.statista.com/statistics/539395/smartphone-penetration-worldwide-by-country/ 德这 W 帕特尔 CJ Manrai 正义与发展党 Rodriguez-Chavez 红外 沙阿 NR 在一个分散的世界中授权临床研究 NPJ数字医学 2021 07 01 4 1 102 10.1038 / s41746 - 021 - 00473 - w 34211085 10.1038 / s41746 - 021 - 00473 - w PMC8249659 Badawy R Hameed F l 克拉斯 K Saria 年代 Cedarbaum JM 斯蒂芬森 D 内维尔 J Maetzler W Espay AJ Bloem BR Simuni T 卡琳 博士 促进在临床研究中使用数字卫生技术的元数据概念 数字Biomark 2019 10 7 3. 3. 116 32 10.1159 / 000502951 32175520 dib - 0003 - 0116 PMC7046173 Van Norman 遗传算法 分散临床试验:医疗产品发展的未来?∗ 基础翻译科学 2021 04 6 4 384 7 10.1016 / j.jacbts.2021.01.011 33997523 s2452 - 302 (21) 00053 - x PMC8093545 Roehr B 辉瑞启动虚拟临床试验 BMJ 2011 06 14 342 d3722 10.1136 / bmj.d3722 21672995 辉瑞公司开展首个“虚拟”临床试验,允许患者不分地域参与 辉瑞 2011 6 7 2022-04-19 https://www.pfizer.com/news/press-release/press-release-detail/pfizer_conducts_first_virtual_clinical_trial_allowing_patients_to_participate_regardless_of_geography 普拉塔普 一个 阿特金斯 直流 Renn BN 塔纳纳河 乔丹 穆尼 SD Anguera 晶澳 Arean 巴勒斯坦权力机构 被动式手机传感器预测日常情绪的准确性 抑制焦虑 2019 01 36 1 72 81 10.1002 / da.22822 30129691 PMC8491547 尼克尔斯 年代 爱德华兹 医学博士 普尔 科幻小说 冬天 D Gronsbell J Rozenkrants B 米勒 DP 法立科 麦克莱恩 一个 彼得森 B Y 一个 Rust-Smith D 黑雁 一个 坎贝尔 一个 C 沃尔特 C Arean 巴勒斯坦权力机构 H 迈尔斯 LJ 标志着 WJ 大型 莱托 Schlosser 康拉德 AJ 卡利夫 RM 面向现实世界抑郁症数字测量的移动平台:以用户为中心的设计、数据质量、行为和临床建模 JMIR健康 2021 08 10 8 8 e27589 10.2196/27589 34383685 v8i8e27589 PMC8386379 莱托 Cerrada CJ 张索 谢勒 K C Tran 莱托 Juusola 莱托 CN DiSCover项目:评估慢性疼痛结果和行为数据的分散数字研究的协议和基线特征 medRxiv 2021 7 18 10.1101 / 2021.07.14.21260523 Sundquist 年代 Batist G Brodeur-Robb K 戴克 K Eigl BJ DK 里摩日 J 龙斯达夫 H Pankovich J Sadura 一个 沙利文 P 丹西 craft——加拿大分散临床试验参与的拟议框架 咕咕叫杂志 2021 09 30. 28 5 3857 65 10.3390 / curroncol28050329 34677247 curroncol28050329 PMC8534531 拉比 D Randine P Arsand E Antypas K Bradway Gabarron E 糖尿病自我管理应用程序和数字干预的方法和评价标准:系统评价 J Med Internet Res 2020 07 06 22 7 e18480 10.2196/18480 32628125 v22i7e18480 PMC7381260 Omberg l Chaibub否决权 E Perumal TM 普拉塔普 一个 Tediarjo 一个 亚当斯 J Bloem BR 机器人 BM Elson 高盛 SM 凯伦 先生 Kieburtz K 克莱因 一个 施耐德 R 运动型多功能车 C Tarolli C 坦纳 厘米 悲哀的 广告 Wilbanks J 多西 Mangravite LM 远程智能手机监测帕金森病和个体对治疗的反应 生物科技Nat》 2022 04 40 4 480 7 10.1038 / s41587 - 021 - 00974 - 9 34373643 10.1038 / s41587 - 021 - 00974 - 9 梅菲尔德 JJ Chatterjee NA Noseworthy 巴勒斯坦权力机构 普尔 阿克曼 乔丹 斯图尔特 J 基辛格 PJ 德怀尔 J Hosek 年代 Oyedele T Paasche-Orlow Paolino K 弗里德曼 巴勒斯坦权力机构 水域 C 莫雷诺 J Leingang H 海勒 KB 莫里森 SA Krows 毫升 巴拿巴 房车 Baeten J 约翰斯顿 C COVID-19早期治疗小组 bloom 基于“增大化现实”技术 实施一项具有心脏监测的完全远程随机临床试验 普通医疗(长) 2021 12 20. 1 62 10.1038 / s43856 - 021 - 00052 - w 35604806 52 PMC9053200 Badawy SM Radovic 一个 2019冠状病毒病大流行期间远程儿科卫生保健服务的数字化方法:现有证据和进一步研究的呼吁 JMIR儿科家长 2020 06 25 3. 1 e20049 10.2196/20049 32540841 v3i1e20049 PMC7318926 法拉 J 维西 J Kallenbach l Caplea G 在护理点进行研究 Veradigm®Allscripts医疗保健 2021 2022-03-21 https://veradigm.com/img/resource-conducting-research-at-point-of-care-whitepaper.pdf 希尔曼 一个 卡斯塔涅达 R 谁和什么处于临床试验分散化浪潮的顶峰? 临床试验舞台 2022 2 3. 2022-04-19 https://www.clinicaltrialsarena.com/analysis/dct-adoption-tracker-who-and-what-is-at-the-crest-of-the-trial-decentralisation-wave/ 一转眼 Tenaerts P 普林德维尔 SA 雷诺兹 人力资源 迪桑 DS Cooper-Arnold K Turakhia 普莱彻 乔丹 普雷斯顿 吉隆坡 Krumholz 马林 BM Mandl KD Klasnja P 春天 B Iturriaga E 坎波 R Desvigne-Nickens P 罗森博格 Y Steinhubl 卡利夫 RM 数字化临床试验 NPJ数字医学 2020 7 31 3. 101 10.1038 / s41746 - 020 - 0302 - y 32821856 302 PMC7395804 Khozin 年代 Coravos 一个 现实世界证据时代的分散试验和临床调查的包容性 临床药学 2019 07 106 1 25 7 10.1002 / cpt.1441 31013350 Ferrar J 格里菲思 GJ Skirrow C Cashdollar N Taptiklis N 多布森 J 克里族 F Cormack 巴奈特 JH 穆纳佛 先生 开发用于远程临床研究的数字工具:如何评估现场环境中主动评估的有效性和实用性 J Med Internet Res 2021 06 18 23 6 e26004 10.2196/26004 34142972 v23i6e26004 PMC8277353 Hilderbrand 一个 Zangrilli 史汀生 分散临床试验案例研究:比传统方法在更短的时间和更低的成本内招募和完成无地点临床研究的五阶段过程 我是健康专家 2021 12 9 6 213 7 10.11648 / j.ajhr.20210906.11 Torous J 西藏野驴 MV Lorme J Onnela 摩根大通 精神病学新研究的新工具:一个可扩展和可定制的平台,以授权数据驱动的智能手机研究 JMIR健康 2016 05 05 3. 2 e16天 10.2196 / mental.5165 27150677 v3i2e16 PMC4873624 Goodday SM 卡琳 E Alfarano 一个 布鲁克斯 一个 查普曼 C Desille R Rangwala 年代 卡琳 博士 Emami H 森林 NF 一个 Foschini l Wildman Cormack F Taptiklis N 普拉塔普 一个 Ghassemi 戈登伯格 一个 Nagaraj 年代 沃尔什 E 压力和康复参与者 朋友 年代 轻触式数字医疗远程研究的替代方案:一线COVID-19医护人员的压力和康复研究 JMIR表格 2021 12 10 5 12 e32165 10.2196/32165 34726607 v5i12e32165 PMC8668021 Meyerowitz-Katz G 拉维 年代 Arnolda l X Maberly G Astell-Burt T 基于应用程序的慢性病干预的损耗率和辍学率:系统回顾和荟萃分析 J Med Internet Res 2020 09 29 22 9 e20283 10.2196/20283 32990635 v22i9e20283 PMC7556375 卡普 JM 彼得斯 C 奥利弗 DP 利用Facebook广告研究招聘:巨大的潜力,巨大的挑战 J癌症教育 2013 03 28 1 134 7 10.1007 / s13187 - 012 - 0443 - z 23292877 Shatz 快速,免费,有针对性:Reddit作为在线招募参与者的来源 社会科学与计算机 2016 05 19 35 4 537 49 10.1177 / 0894439316650163 多产的 2022-10-27 https://www.prolific.co/ 亚马逊土耳其机器人 2022-10-27 https://www.mturk.com/ Centiment 2022-10-27 https://www.centiment.co/ CloudResearch 主要研究解决方案 2022-10-27 https://www.cloudresearch.com/ PatientsLikeMe公司 2022-06-22 https://www.patientslikeme.com/ 迈克尔·j·福克斯帕金森研究基金会 2022-06-22 https://www.michaeljfox.org/homepage 迈尔斯 TL 奥古斯汀 英孚 Baloga E Daeschler 大炮 P Rowbotham H Chanoff E 23andMe研究团队 Jensen-Roberts 年代 索托 J 霍洛威学院 RG 马拉 C 坦纳 厘米 多西 施耐德 RB 帕金森病远程分散研究的招募 J帕金森病 2022 12 1 371 80 10.3233 /詹妮弗- 212935 34744053 JPD212935 PMC8842745 Anguera 晶澳 约旦 JT 卡斯塔涅达 D Gazzaley 一个 Arean 巴勒斯坦权力机构 开展一项针对抑郁症的完全可移动随机临床试验:获取、参与和费用 BMJ创新 2016 01 2 1 14 21 10.1136 / bmjinnov - 2015 - 000098 27019745 bmjinnov - 2015 - 000098 PMC4789688 太阳 年代 Folarin AA 野生动物 Y 拉希德 Z 康德 P 斯图尔特 C 康明斯 N 玛奇阿姆 F Dalla科斯塔 G Simblett 年代 Leocani l 拉默斯先生 F Sørensen PS Buron Zabalza 一个 格雷罗州佩雷斯 人工智能 Penninx BW Siddi 年代 哈罗德 JM Myin-Germeys Rintala 一个 ·怀克 T 纳拉 弗吉尼亚州 Comi G Hotopf 多布森 RJ RADAR-CNS财团 使用智能手机和可穿戴设备监测COVID-19期间的行为变化 J Med Internet Res 2020 09 25 22 9 e19992 10.2196/19992 32877352 v22i9e19992 PMC7527031 欧洲蕨 汉堡王 沃尔克特 J Potoczny-Jones 莫瑟 英航 Griffith-Fillipo 红外 Arean 巴勒斯坦权力机构 检测和修复涉及远程数据收集的研究中的恶意行为者 第15届生物医学工程系统与技术国际联合会议论文集 2022 BIOSTEC的22 2022年2月9日至11日 虚拟 377 83 10.5220 / 0010805500003123 Y 费雷拉 D 佐佐木 W 当Okoshi T Nakazawa J 戴伊 正义与发展党 Sezaki K 使用iOS进行不显眼的数据收集:现实世界的评估 2020年ACM普适与泛在计算国际联合会议论文集和2020年ACM可穿戴计算机国际研讨会论文集 2020 9 UbiComp-ISWC 20 2020年9月12日至17日 虚拟 261 6 10.1145/3410530.3414369 博伊尔 一个 华盛顿大学医学院正在寻找2.5万名志愿者来尝试预测流感爆发的智能手机应用程序 GeekWire 2020 4 7 2022-06-10 https://www.geekwire.com/2020/uw-medicine-seeks-25000-volunteers-try-outbreak-predicting-smartphone-app/ 华盛顿大学医学院正在招募预测下一次疫情的应用程序 华盛顿大学医学院 2020 4 7 2022-06-10 https://newsroom.uw.edu/news/uw-medicine-recruiting-app-predict-next-outbreak Palan 年代 Schitter C 多产的。一个c—a subject pool for online experiments J行为经验金融 2018 03 17 22 7 10.1016 / j.jbef.2017.12.004 同行 E Brandimarte l Samat 年代 阿奎斯蒂 一个 超越土耳其人:众包行为研究的替代平台 [J]心理实验 2017 05 70 153 63 10.1016 / j.jesp.2017.01.006 为什么参与者会被禁止 多产的 2022-06-30 https://www.prolific.co/blog/why-participants-get-banned 布拉德利 P 众包平台上的机器人和数据质量 多产的 2018 8 10 2022-07-01 https://www.prolific.co/blog/bots-and-data-quality-on-crowdsourcing-platforms Lettmann H 拉姆斯登 J 多产的参与者池-现在和未来 多产的 2018 9 18 2022-06-10 https://www.prolific.co/blog/prolifics-participant-pool-its-present-and-its-future 普拉塔普 一个 奥尔雷德 R 达菲 J 里维拉 D 海关 Renn BN Arean 巴勒斯坦权力机构 生物医学研究中研究参与者参与和共享数字数据意愿的当代观点 JAMA网络公开赛 2019 11 01 2 11 e1915717 10.1001 / jamanetworkopen.2019.15717 31747031 2755666 PMC6902809 Coravos 一个 利·戈德萨克 JC 卡琳 博士 Nebeker C Perakslis E 齐默尔曼 N Erb 数字医学:计量入门 数字Biomark 2019 5 9 3. 2 31 71 10.1159 / 000500413 32095767 dib - 0003 - 0031 PMC7015383 丰富的 JT 尼利 Paniello 钢筋混凝土 Voelker CC Nussenbaum B 电子战 理解Kaplan-Meier曲线的实用指南 耳鼻咽喉头颈外科 2010 09 143 3. 331 6 10.1016 / j.otohns.2010.05.007 20723767 s0194 - 5998 (10) 00710 - 2 PMC3932959 Hazra 一个 Gogtay N 生物统计学系列模块9:生存分析 印度J皮肤 2017 62 3. 251 7 10.4103 / ijd.IJD_201_17 28584366 ijd - 62 - 251 PMC5448258 库马尔 D Klefsjo B 比例风险模型综述 可靠工程系统安全 1994 1 44 2 177 88 10.1016 / 0951 - 8320 (94) 90010 - 8 赫斯 基米-雷克南 评估Cox回归中违反比例风险假设的图解方法 地中海统计 1995 08 15 14 15 1707 23 10.1002 / sim.4780141510 7481205 平淡无奇 JM 奥特曼 DG 洛格兰克测试 BMJ 2004 05 01 328 7447 1073 10.1136 / bmj.328.7447.1073 15117797 328/7447/1073 PMC403858 彭宁顿 CR 琼斯 AJ Tzavella l 钱伯斯 CD 按钮 KS 超越在线参与者众包:大团队成瘾科学的好处和机遇 精神药物 2022 08 30. 4 444 51 10.1037 / pha0000541 35025584 2022-20690-001 哈雷 R BM 利曼 R 人工智能 Z 生物医学中的众包:挑战与机遇 短暂Bioinform 2016 01 17 1 23 32 10.1093 /龙头/ bbv021 25888696 bbv021 PMC4719068 Gleibs IH 所有的“研究领域”都是平等的吗?重新思考使用众包市场数据的实践 行为Res方法 2017 08 49 4 1333 42 10.3758 / s13428 - 016 - 0789 - y 27515317 10.3758 / s13428 - 016 - 0789 - y PMC5541108 洛薇特 Bajaba 年代 洛薇特 酝酿 乔丹 来自众包调查的数据质量:对亚马逊土耳其机器人大师的看法的混合方法调查 : Psychol 2018 67 2 339 66 10.1111 / apps.12124 浆果 C Kees J 伯顿 年代 广告研究中数据质量的驱动因素:MTurk和专业面板样本的差异 J广告 2022 06 27 51 4 515 29 10.1080 / 00913367.2022.2079026 沃尔特斯 K 克里斯塔基斯 莱特 博士 机械土耳其工人的样本是否代表了美国的健康状况和健康行为? 《公共科学图书馆•综合》 2018 6 7 13 6 e0198835 10.1371 / journal.pone.0198835 29879207 玉米饼- d - 17 - 42755 PMC5991724 安德森 CA 艾伦 JJ 普兰特 C Quigley-McBride 一个 洛薇特 一个 Rokkum 社会心理学和人格心理学的土耳其化 精神病专家 2019 06 45 6 842 50 10.1177 / 0146167218798821 30317918 埃德加 J 墨菲 J 基廷 比较传统方法和众包方法对调查问题的预测 圣人开放 2016 10 01 6 4 215824401667177 10.1177 / 2158244016671770 Tahaei Vaniea K 招募具有编程技能的参与者:四个众包平台和一个计算机科学学生邮件列表的比较 2022年中国计算机学会计算系统中人因会议论文集 2022 4 气的22 2022年4月29日至5月5日 新奥尔良,洛杉矶,美国 1 15 10.1145/3491102.3501957 kamerica E 行为经济学和激励心理学 年度经济报告 2012 09 01 4 1 427 52 10.1146 / annurev -经济- 080511 - 110909 普拉塔普 一个 否决权 电子商务 斯奈德 P Stepnowsky C Elhadad N 格兰特 D Mohebbi MH 穆尼 年代 运动型多功能车 C Wilbanks J Mangravite l Heagerty PJ Arean P Omberg l 远程数字健康研究的保留指标:对10万名参与者的交叉研究评估 NPJ数字医学 2020 2 17 3. 21 10.1038 / s41746 - 020 - 0224 - 8 32128451 224 PMC7026051 Galarraga O Sosa-Rubi SG 在低收入和中等收入国家改善艾滋病毒预防和治疗的有条件经济激励措施 柳叶刀艾滋病毒 2019 10 6 10 e705 14 10.1016 / s2352 - 3018 (19) 30233 - 4 31578955 s2352 - 3018 (19) 30233 - 4 PMC7725432 歌手 E Bossarte RM 参与调查的激励措施何时是“强制性的”? 我是预防医学吗 2006 11 31 5 411 8 10.1016 / j.amepre.2006.07.013 17046413 s0749 - 3797 (06) 00268 - 6 Ambuehl 年代 Ockenfels 一个 激励不知情的人的道德。一项小研究 SSRN J 2016 12 22 1 5 10.2139 / ssrn.2888554 Y 费雷拉 D 特征 Y 佐佐木 W 当Okoshi T Nakazawa J 戴伊 正义与发展党 Sezaki K IOS的群体感应不会有任何坏处!: iOS平台的AWARE框架和可持续学习指南 第八届分布式、环境和普遍相互作用国际会议论文集 2020 HCII 20 2020年7月19日至24日 丹麦哥本哈根 223 43 10.1007 / 978 - 3 - 030 - 50344 - 4 - _17 罗素 C 麦卡锡 Cappelleri JC 年代 为临床试验选择移动传感器技术:统计学考虑、发展和学习 他们的创新规律科学 2021 01 55 1 38 47 10.1007 / s43441 - 020 - 00188 - 2 32557010 10.1007 / s43441 - 020 - 00188 - 2 Demanuele C 洛克 C K 吉奥吉夫 P Sezgin E 纪勤 C KH Izmailova E 麦卡锡 进行自带“设备”(BYOD)临床研究的注意事项 数字Biomark 2022 7 4 6 2 47 60 10.1159 / 000525080 35949223 dib - 0006 - 0047 PMC9294934 PJ J E Shandhi 毫米 Dinh Y 帕蒂尔 一个 马丁 l 辛格 G 弯曲 B 金斯伯格 G Smuck 森林 C R 邓恩 J 自带设备研究设计导致的人口失衡 移动医疗Uhealth 2022 04 08 10 4 e29510 10.2196/29510 34913871 v10i4e29510 PMC9034431 扬西 正义与发展党 奥尔特加 一个 Kumanyika SK 有效招募和保留少数民族研究参与者 公共卫生年度报告 2006 27 1 28 10.1146 / annurev.publhealth.27.021405.102113 16533107 我们所有的研究项目调查员 丹尼 JC 拉特 莱托 戈尔茨坦 DB Philippakis 一个 Smoller表示 JW 詹金斯 G Dishman E "我们所有人"研究项目 [英]医学 2019 08 15 381 7 668 76 10.1056 / NEJMsr1809937 31412182 PMC8291101 Bidargaddi N Almirall D 墨菲 年代 Nahum-Shani Kovalcik Pituch T Maaieh H 说明 V 提示还是不提示?一个随时间变化的推送通知的微随机试验,以增加与移动健康应用程序的近距离接触 移动医疗Uhealth 2018 11 29 6 11 e10123 10.2196/10123 30497999 v6i11e10123 PMC6293241 Vargo D l Benwell B Z 2019冠状病毒病大流行期间数字技术的使用:快速回顾 人类行为与新兴科技 2021 1 3. 1 13 24 10.1002 / hbe2.242 Inverso H Abadula F 明天 T LeStourgeon l Parmar 一个 史翠珊 R 党卫军 大流行期间的转向:应对COVID-19将多地点随机对照试验过渡到远程方案的经验教训 翻译行为医学 2021 12 14 11 12 2187 93 10.1093 / tbm / ibab103 34427687 6356996 PMC8499798
Baidu
map