原始论文
摘要
背景:研究网络系统在帮助生物医学科学家识别具有建立跨学科团队所需专业知识的合作者方面前景广阔。尽管迄今为止的工作主要集中在收集和聚合信息上,但很少关注最终用户使用这些集合来识别合作者的工具的设计。为了有效,合作者搜索工具必须为研究人员提供与他们的协作需求相关的信息的便捷访问。
摘要目的:目的是研究用户对研究网络系统合作者搜索工具的需求和偏好,并设计和评估一个功能原型。
方法:在半结构化的访谈中,研究人员向18名参与者展示了探索可能的界面设计的纸上原型,目的是引出合作者搜索需求。对访谈数据进行编码和分析,以确定反复出现的主题和相关软件需求。利用纸面原型的分析结果和元素,利用D3 JavaScript库和VIVO数据设计了基于web的原型。初步可用性研究要求20名参与者使用该工具,并通过半结构化访谈和完成系统可用性量表(SUS)提供反馈。
结果:最初的访谈确定了对合作者搜索工具的几个新需求的共识,包括按时间顺序显示出版和研究资助信息,对连接关键字搜索的需求,以及跟踪候选合作者的工具。参与者的反应是积极的(SUS评分:平均76.4%,SD 13.9)。确定了改进界面设计的机会。
结论:交互式的、基于时间轴的显示支持比较研究人员在资助和发表方面的生产力,有可能有效地支持寻找合作者。为了更好地理解合作者搜索工具对研究人员工作流程的影响,可能需要进一步的细化和纵向研究。
doi: 10.2196 / jmir.3444
关键字
简介
建立合作研究团队是生物医学科学家面临的重大挑战。跨学科研究团队提供广泛的专业知识[
, ],共享工作负载[ , ,以及加大对突破的倡导力度[ ],通常会导致更频繁的引用[ ].然而,确定合适的合作者通常很困难,特别是对于缺乏广泛个人网络的初级研究人员[ ].研究网络系统(RNSs)可以模拟研究人员的活动、专业知识和协作,以促进合作者的搜索[ - ],特别是通过联邦搜索工具,提供跨机构搜索功能的初步演示[ ].新兴的RNS使用报告提供了从已部署RNS的使用日志中提取的搜索和导航模式的初步证据[ , ],但在如何设计搜索工具以支持协作者搜索过程方面却相对缺乏见解。这项研究的目标是进行迭代设计和定性调查过程,以更好地理解科学家的需求和工作流程,以及软件工具如何最好地支持他们。这些努力导致了功能原型协作者搜索工具的开发,并在初步可用性研究中进行了评估。确定合作者是一个耗时的过程,而且不能很好地扩展[
].寻求合作者的研究人员通常希望通过现有的联系人找到新的合作者,这些人可以就潜在合作者是否适合他们的同事提供有用的反馈[ ].尽管这种方法对于有良好个人联系的资深科学家可能是有效的,但初级研究人员往往缺乏与潜在合作者的个人联系。 ].地理上的分离也是评估潜在合作者的一个潜在问题,特别是考虑到经验证明物理上的接近对研究小组的重要性[ , ].为团队和转化科学确定合适的合作者是RNSs出现的关键动机之一。作为科学家的社交网络,RNSs以可导航的格式组织研究人员的兴趣、出版物、资金和合作者,旨在宣传研究活动并支持发现所需的专业知识。各种商业和学术RNS提供了一系列功能,例如Digital Vita能够从RNS数据填充美国国立卫生研究院(NIH)的生物草图[
].学术rns一般分别部署于个别研究机构[ ],并配备本地化导航和搜索工具。目前,其中最突出的是VIVO系统[ ,它提供了一个详细的语义元数据模型来描述研究人员。其他值得注意的工具包括哈佛档案[ ]和商业工具,如SciVal [ ]及ResearchGate [ ].对将搜索限制在单一机构的局限性的担忧导致了更广泛的搜索工具的发展。Direct2Experts使用标准应用程序编程接口约定提供联合多机构搜索接口[
].尽管Direct2Experts返回的结果计数允许跨机构进行比较,但结果以每个机构提供的原生形式呈现。缺乏通用格式限制了比较和对比的机会。VIVO平台使用语义资源描述框架(RDF)标记和链接的开放数据提供了跨机构搜索的可能性,但目前的接口还没有很好地支持这一功能。VIVO探照灯浏览器插件[ ]演示了一种可能的方法,通过支持通过常用的Web资源(如PubMed条目)链接到多个机构的单个VIVO配置文件,从而提高RNS数据的效用[ , ].来自机构RNSs的初步报告对使用模式和用户目标提供了一些见解。一项对哥伦比亚大学RNS 5个月日志数据的分析发现,不同用户阶层的使用模式存在差异,教师比管理员执行更多的关键字搜索[
].加州大学旧金山分校(University of California, San Francisco)的一项类似的基于日志的分析发现,搜索引擎是近75%的首次访问的来源,回访用户的数量随着时间的推移而增加,与首次用户相比,回访用户访问的页面/访问数量更高[ ].相对来说,很少有人关注信息工具如何能够最好地支持寻找合作者的过程。情境设计等技巧[
]和基于场景的设计[ 依赖于任务建模和工作观察的模型可能被用于开发研究人员目标、需求和工作流程的模型,但合作者搜索的性质使这些问题复杂化。作为一种偶尔的临时任务,通常缺乏软件工具的集中支持,合作者搜索的使用不太适合直接观察。对于RNS使用来说,这个问题尤其严重。鉴于RNS系统的不完全外显率[ ]以及已部署RNS系统的机构明显缺乏“临界数量”的参与[ ],研究人员继续使用这些工具可能在一定程度上受到限制。对用户需求的初步调查确定了信息需求和工作流程中一些反复出现的主题。施莱耶等[
]进行了回顾性访谈,旨在确定研究人员对合作搜索工具的需求,确定主题,如个人风格的兼容性,丰富的沟通需求,包括出版物之外的细节,高质量的数据,以及个人网络对识别合作者的重要性。巴夫纳尼等[ ]对研究人员对协作识别和资源发现工具的需求进行了定性研究,确定了对联邦信息的需求,管理大量信息的设施,以及“人性化计算”工具,这些工具将支持用户控制的工具,而不是可能使用不透明过程来识别建议资源的算法方法。这些建议与Boland等人的观察相一致[ ]不同类别的RNS用户可能有不同的目标和工作流程。这项研究的目标是超越这些对广泛的用户需求类别的描述,探索具体的功能和设计,并使用这些调查来进一步了解用户的目标和偏好。具体来说,纸质原型被用来征求研究人员关于他们对交互式协作搜索工具偏好的看法的意见。对这些原型的反应进行定性分析,以确定重复出现的需求。这些需求促使我们设计了一个功能原型协作搜索工具,该工具的开发是为了对交互式协作搜索工具的可行性和可用性进行初步评估。这些调查的结果提供了工具设计的初步验证,同时确定了在后续重新设计中可能需要解决的问题。
方法
总结
这项研究结合了原型设计、定性调查和软件开发。纸张原型的最初设计是基于早期研究的发现[
].与潜在用户进行半结构式访谈[ )提供了定性反馈,包括对纸上原型的反应。这些响应被分析以确定特定的需求,这些需求被用来驱动功能原型的设计和实现。该原型通过与潜在用户的第二组定性访谈进行评估( ).纸上原型和需求分析
概述
第一个查询的目标是探索协作搜索工具的用户需求。试点研究提出了一个难题:潜在用户可能不熟悉合作者搜索工具的概念,因为RNSs的采用率相对较低。为了有效地引出参与者的输入,我们开发了2个纸质原型,说明了合作者搜索工具的假设接口。我们在这里使用术语“纸张”非正式地指代低保真度、无功能的原型。使用多个原型提供了考虑涵盖相关信息的各种角度的设计的自由,并为参与者提供了一系列可能引发更详细反馈的选项[
].原型1:个人联系人搜索
研究人员经常通过现有的联系人寻找新的合作者[
].第一个原型探索了使用来自外部来源(如电子邮件联系人列表)的先前联系人来开始协作者搜索的可能性( ).然后,这些联系人将与RNS中找到的出版物和作者信息相匹配。使用此工具首先导入电子邮件联系人。然后用户使用关键字搜索来探索感兴趣的主题。这些关键字搜索利用RNS出版物和授权数据,识别拥有相关出版物的可能合作者。屏幕上以行形式列出潜在匹配。关于每个候选人的信息是按照时间顺序沿着水平时间轴排列的。出版物用颜色代码标记,以指示导入联系人列表上的个人,地理位置接近(距离用户10英里以内),和/或标记为进一步跟踪的兴趣。复选框筛选器选择可用于根据任何颜色编码的类别筛选项目。
对于未在用户联系人列表中找到的候选人,合作作者信息可用于识别当前可能与他们合作撰写论文的联系人(
).原型2:合作者属性搜索
资历在寻找合作者中扮演着重要的角色:资历较浅的研究人员通常会寻找资历较浅的合作者,这可能是因为资历较深的研究人员通常会拒绝合作请求[
, ].第二个原型使用两步方法来支持在确定候选人时使用资历。这个工具的使用从识别RNS中的潜在合作者开始,可能是通过浏览参与者列表。该个人的数据用于制定后续搜索的“概况”,将研究人员历史的不同方面(例如,发表论文的总数,资助资金)量化为将用于后续与其他候选人进行比较的措施。然后,用户可以根据与第一个原型中使用的相似的研究关键字在系统中搜索感兴趣的主题。然后为主题搜索返回的每个候选人计算相似的概要文件,并与所选的概要文件进行比较。与所选配置文件最相似的候选人将显示在屏幕上。因此,初级研究人员的初始选择可能会使后续结果偏向其他初级研究人员(
).搜索结果显示在一个表格中,其中包含研究人员的姓名、机构、出版物总数、匹配搜索词的出版物数量、活跃发表的年数(代表资历)、研究经费总额的估计(基于资助信息),以及总结其主要研究兴趣的关键词。交互式双拇指滑块提供了设置表中属性的上界和下界的能力(
),并在滑块上以直方图显示给定值在当前活动的候选档案中的分布[ ].这个原型也不同于第一个原型(
)所提供的信息和该信息的表示方式。第一个原型以图形形式提供面向时间的反馈以及基于联系人的信息和地理提示,第二个原型提供表格聚合数据。合作者属性搜索原型还提供了从属关系信息和个人属性搜索设计中没有的其他匹配关键字。本文总结了这两个原型的主要特性 .这些原型被用来从潜在用户那里获得反馈,包括对合作者搜索工具的一般偏好和对特定设计功能的具体反应。参与者会议包括对原型的结构化访谈和非结构化讨论。结构化的访谈包括人口统计、社交网络应用的使用和寻找合作者的工作流程(访谈问题在问卷中给出)
).参与者被要求回答他们认为适用于他们工作的所有问题。面试官然后描述并向参与者展示每个原型,使用几个屏幕来模拟每个系统的可能用途。参与者被要求确定原型中他们认为特别有用的功能,注意那些似乎不那么有价值的功能,并描述他们可能希望看到添加的新功能。最后,他们被要求提供整体印象,考虑到两个原型。每个参与者都看到了两个原型,但原型的呈现顺序在参与者之间有所不同。会议使用WebEx网络会议工具在线进行[
],用以向参加者展示原型屏幕,并记录会议的截图和音频。描述性统计被用来描述参与者的背景、教育和合作者搜索行为。使用开放编码方法分析和编码会议的音频和屏幕捕捉录音[ , ].具体来说,1位作者(CB)使用描述性代码审查音频记录,对参与者的评论进行分类,包括对原型的反应、关于协作发现实践的陈述、协作发现软件的偏好/需求等。最初的代码是根据交互的内容选择的,并最终根据出现的模式进行分类。在此过程中确定的高级主题形成了对功能原型的需求进行分类的基础。第二作者(HH)审查了所有的代码和分类。这项研究被匹兹堡大学机构审查委员会列为豁免,研究#PRO12060527。功能 | 原型1:个人联系人搜索 | 原型2:合作者属性搜索 |
搜索机制 | 关键字搜索和导入联系人链接 | 浏览/搜索初始配置文件,关键字搜索识别具有相似配置文件的研究人员 |
显示 | 时间轴与颜色编码的字形出版物 | 表格网格,汇总显示出版物、资助资金、机构和其他关键字 |
控制 | 没有一个 | 用于为出版物、基金和其他值选择相似值的交互式控件 |
功能原型开发
尽管纸质原型可以为工作流和界面设计提供有用的形成反馈,但静态表示可能无法传达交互工具的动态本质。实现了一个功能原型,以提供一个工具的工作示例,该工具旨在满足从最初的定性查询中获得的需求。Virtuoso开源版三重商店[
]用于存储rdf格式的VIVO [ 佛罗里达大学和威尔康奈尔医学院的数据。通过SPARQL协议和RDF查询语言(SPARQL)从三重存储器中检索数据[ )查询。基于网络的原型是使用D3库[ 它使用可伸缩的矢量图形和JavaScript来创建交互式数据可视化。为原型开发的JavaScript代码针对Virtuoso三重存储发出SPARQL查询,将结果传递给D3库进行可视化。系统架构说明在 .功能原型评估
功能原型的评估包括要求参与者使用该工具执行协作者搜索任务。每个参与者会议都以一系列与阶段1类似的问题开始
对于所有问题)。然后参与者完成2个合作者搜索任务,一个使用原型,另一个使用他们选择的在线搜索引擎和存储库,如PubMed。因为替代的在线工具没有提供直接的可比较的体验,它们只是用来与原型工具进行对比,我们在这里不讨论这些交互。其中一项任务要求参与者找到熟悉阿尔茨海默病的合作者,另一项任务要求他们找到帕金森病的特定研究人员。这些选择是相当广泛的,以避免依赖于用户的专业知识,并尽量减少与参与者熟悉的研究领域相关的偏见风险。任务和工具的顺序在参与者之间是不同的。在完成任务后,参与者接受了关于原型印象的采访。使用系统可用性量表(SUS)评估参与者对工具的回应[
, ].附加的李克特量表问题要求参与者在李克特量表上对原型的关键特征做出回应(1- 5,5为最佳)。访谈通过WebEx进行,人口统计和搜索行为数据在研究的早期阶段进行了分析。结果
纸上原型和需求分析
概述
研究参与者代表了11家美国研究机构和1所欧洲大学。参与者包括主要研究人员(pi)和研究主持人(RFs)——机构研究办公室的成员和其他协助研究人员组成项目团队的人员。这两类受访者大多拥有博士学位(
).参与者的分类 | 纸上原型参与者(N=18) | 功能原型参与者(N=20) | 总(N = 38) | ||
研究角色与程度 | |||||
主要调查人员 | |||||
BS /女士 | 5 | 3. | 8 | ||
博士学位 | 6 | 9 | 15 | ||
PharmD | 0 | 0 | 0 | ||
医学博士 | 1 | 1 | 2 | ||
MD /博士 | 0 | 2 | 2 | ||
总计 | 12 | 15 | 27 | ||
研究主持人 | |||||
BS /女士 | 3. | 3. | 6 | ||
博士学位 | 3. | 0 | 3. | ||
PharmD | 0 | 1 | 1 | ||
医学博士 | 0 | 1 | 1 | ||
MD /博士 | 0 | 0 | 0 | ||
总计 | 6 | 5 | 11 | ||
性别 | |||||
男性 | 5 | 11 | 16 | ||
女 | 13 | 9 | 22 |
对有关合作行为的结构化访谈问题的回答表明,参与者是积极的研究人员,具有一系列识别合作者的策略。大多数受访者(12/18,66.7%在纸质原型会议;19/20, 95%在功能原型会议)完全回答了所有问题。受访者在过去12个月内平均参与了5.4个(SD 6.3)研究项目,与平均31.9个(SD 29.4)独立合作者进行了互动。参与者都是积极的合作者,在之前的12个月内,平均收到5.2次(标准偏差5.3)合作邀请,而在同一期间,平均与他人接触6.7次(标准偏差13.9)(
).最常被引用的寻找合作者的方法是使用现有的社交网络,72%(13/18)的受访者选择了这种方法。使用软件工具的参与者报告使用了NIH资源、自制系统、各种商业社交网络工具和搜索引擎(
).对纸张原型的响应编码导致了几个紧急主题的识别,这些主题被用于派生需求。具体来说,我们确定了3个关键主题:衡量研究效率,跟踪被确定为潜在合作者的候选人,以及进行复杂的搜索。还确定了针对这些主题的具体要求(
).问题 | 原型,平均值(SD) | 总体而言,平均值(SD) | ||
纸(n = 18) | 功能(n = 20) | (n = 38) | ||
2.在过去的12个月里,你参与了多少个资助的研究项目? | ||||
主要调查人员 | 3.2 (1.8) | 4.9 (3.8) | 4.2 (3.2) | |
研究主持人 | 10.3 (13.9) | 7.8 (9.1) | 8.9 (10.8) | |
整体 | 5.1 (7.4) | 5.6 (5.5) | 5.4 (6.3) | |
3.在每个项目中,你直接接触的合作者的平均数量是多少? | ||||
主要调查人员 | 18.5 (21.9) | 13.2 (15.9) | 15.6 (18.5) | |
研究主持人 | 5.5 (0.7) | 20.4 (33.4) | 16.1 (28.3) | |
整体 | 16.5 (20.6) | 15.1 (21.0) | 15.7 (20.5) | |
4.在过去的12个月里,你接触过的独立合作者的总数是多少? | ||||
主要调查人员 | 27.1 (26.8) | 29.0 (19.9) | 28.3 (22.2) | |
研究主持人 | 15.0 (7.1) | 56.2 (51.8) | 44.4 (46.9) | |
整体 | 24.9 (24.6) | 35.8 (31.7) | 31.9 (29.4) | |
5.在过去的12个月里,你有多少次被邀请正式合作? | ||||
主要调查人员 | 5.9 (3.6) | 5.2 (2.9) | 5.5 (3.1) | |
研究主持人 | 1.0 (1.4) | 5.6 (3.7) | 4.3 (3.8) | |
整体 | 5.1 (3.8) | 5.3 (3.0) | 5.2 (3.3) | |
6.在过去的12个月里,你有多少次就潜在的合作联系过别人? | ||||
主要调查人员 | 5.1 (3.0) | 3.1 (2.5) | 3.9 (2.8) | |
研究主持人 | 11.0 (12.7) | 19.0 (34.1) | 16.7 (28.6) | |
整体 | 6.1 (5.2) | 7.1 (17.3) | 6.7 (13.9) |
一个问题1的结果报告
.问题 | 原型,n (%) | 总的来说,n (%) | ||
纸(n = 18) | 功能(n = 20) | n = 38 | ||
7.你通常如何找到合作者? | ||||
现有的网络 | 13 (72) | 16 (75) | 29日(76) | |
国家卫生研究院资源 | 5 (28) | 4 (20) | 9 (24) | |
科研网络系统 | 3 (17) | 1 (5) | 4 (11) | |
8.你是否使用特定的工具来寻找合作者(例如,PubMed, NIH Reporter, Web of Science)? | ||||
国家卫生研究院资源 | 4 (22) | 6 (30) | 10 (26) | |
国产系统 | 4 (22) | 2 (10) | 6 (16) | |
科学网 | 3 (17) | 1 (5) | 4 (11) | |
SciVal | 2 (11) | 2 (10) | 4 (11) | |
2 (11) | 0 (0) | 2 (5) | ||
谷歌 | 3 (17) | 0 (0) | 3 (8) | |
科学社区 | 1 (6) | 1 (5) | 2 (5) | |
9.你是否出于专业目的使用通用网络应用程序(如FaceBook, LinkedIn,谷歌+)? | ||||
5 (28) | 7 (35) | 12 (32) | ||
脸谱网 | 4 (22) | 0 (0) | 4 (11) | |
谷歌+ | 1 (6) | 2 (10) | 3 (8) | |
推特 | 1 (6) | 2 (10) | 3 (8) | |
Friendfeed | 0 (0) | 1 (5) | 1 (3) | |
10.你是否使用科学的协作工具(例如:, VIVO, CAP,洛基,ResearchGate)? | ||||
SciVal | 4 (22) | 5 (25) | 9 (24) | |
vivo | 1 (6) | 2 (10) | 3 (8) | |
数字生活 | 0 (0) | 1 (5) | 1 (3) | |
利奥 | 1 (0) | 0 (0) | 1 (3) |
一个用户可以为每个问题选择所有合适的值。
主题和所需信息 | 相关的要求 | |
测量的影响 | ||
哪些候选人是富有成效的研究人员? | 1.赠款和出版物的时间顺序显示 | |
谁是这个领域的领导者? | 1.赠款和出版物的时间顺序显示 | |
哪位候选人的影响力最大? | 2.强有力的影响措施 | |
跟踪候选人 | ||
哪些人正在考虑之中? | 3.追踪有希望的候选人的工具 | |
还可以收集到关于每个候选人的哪些额外信息? | 3.追踪有希望的候选人的工具 | |
进行复杂的搜索 | ||
哪些候选人在多个领域工作? | 4.多关键字搜索 |
要求1:按时间顺序显示拨款和出版物的数据
第一个原型包括一个页面,该页面在水平时间轴上显示出版物(
).与会者发现,这一筛选在寻找合作者时很有帮助,有助于根据候选人就感兴趣的主题发表文章的频率和及时性对其进行比较,并有助于确定特定子领域的主要领导者。同时提交出版物和赠款是对原型设计的一种可能改进。需求2:稳健的影响措施
虽然与会者有兴趣了解研究影响的量化措施,但对具体措施没有达成一致意见。引文计数,h-index [
],并对期刊影响因子进行了讨论,但对于更青睐哪一种没有达成共识。需求3:为有希望的候选人添加书签的工具
这两个原型都允许用户维护潜在合作者的列表。参加者对这项功能很感兴趣。除了列表之外,与会者建议允许用户用自由文本注释候选人,评论选择每个人的原因或其他与合作者搜索任务相关的提醒。
需求四:多关键字搜索
参与者认为两个原型中所呈现的单一关键字太过局限。他们提出了一些想法,包括添加滑块来调整搜索中关键字的“权重”,显示主/次关键字,以及在搜索中添加其他关键字。
嘉宾对部分建议的功能反应不佳。联系人名单被认为不是特别有用。一些受访者质疑在搜索工具中查看现有联系人的实用性,因为他们已经知道自己的联系人是谁;因此,在工具中列出它们是没有帮助的。参与者对参与者和潜在合作者之间的物理距离持矛盾态度。一些参与者说这是有用的信息,而另一些人说这是不必要的信息。比较两组用户的反应(pi vs rf)并没有显示出两组用户对原型或协作搜索工具需求的反应有任何系统性差异。
功能原型开发
交互式原型实现了从分析纸质原型数据中确定的大部分需求(
).要求2(稳健的影响措施)在原型中没有实现,因为参与者无法就基于文献计量措施对作者进行排名的单一方法达成一致。原型是基于候选人发表和资助历史的时间轴视图。主视图在y轴上显示潜在候选人的姓名和机构,在x轴上以水平线显示每位候选人的资助和出版物。该原型为拨款数据和发表数据采用了不同的视觉效果。成对的绿色三角形排列在时间轴上,代表拨款的开始和结束日期。矩形作为柱状图,总结了候选人一年来的出版物。关键字筛选器和“书签”列表可在屏幕的右侧(
).若要寻找协作候选对象,用户可在左上角的搜索框中输入关键字(
).自动补全功能将用户输入与VIVO数据中发现的出版物中的所有医学主题标题(MeSH)主题列表进行匹配。当选择一个搜索词时,原型检索所有发表过与该词相关文章的候选词。候选人按行显示,每行显示个人资助和年度出版物计数的时间轴(自2000年以来)。出版物以柱状表示,提供每年按关键字分类并按颜色编码的出版物计数的直方图。每个柱形的高度对应于候选人在给定年份中与相关关键字相对应的出版物的百分比。例如,给定一个用户搜索“神经元”,一个候选人在给定的一年里有10个出版物中的6个与该术语匹配,那么该年的条将占据最大可能高度的60%。因为将MeSH关键字映射到授权主题并不简单[
],则每名候选人的所有文章,即使与搜寻字词不符,也会显示出来。赠款在时间轴上显示为括号中的绿色箭头,指示每个赠款的开始和结束。这种设计被选择为比其他方案更简洁的设计,这些方案在整个拨款期限内都能画出线条。搜索词的选择还会在屏幕右侧的一组复选框中生成一组其他关键字的显示。附加的关键字表示在初始关键字搜索期间检索到的出版物中所有术语的超集。关键字按字母顺序排列,最多可添加4个其他关键字。单击其他关键字的复选框将创建与这些关键字相对应的新发布栏,从而提供了在多个领域可视化研究活动的机会,从而满足需求4(多关键字搜索)。
原型包含几个交互特性。将鼠标悬停在候选人的名字上,列出他们的前8个发表主题和研究概述(如果可以从VIVO数据集中获得)。将鼠标悬停在出版物栏上,会显示给定颜色编码关键字的出版物标题和摘要(例如,2012年10篇论文中的8篇)。要与拨款信息交互,用户可以在拨款的开始日期和结束日期之间移动鼠标。当这种情况发生时,将显示连接拨款开始和结束的绿线。该线上方的方框显示资助的标题以及候选人在资助中的角色(例如,首席研究员,共同研究员)。x轴上的日期和绿线允许用户轻松查看拨款的持续时间。
用户可以将有希望的候选人放在书签列表中。要将候选人添加到书签列表中,用户单击候选人的姓名,并可选择地输入说明,说明为什么选择候选人。书签列表显示在原型的右下角。原型的源代码可在GitHub源代码存储库[
].要求 | 原型功能(年代) |
1.赠款和出版物的时间顺序显示 | 用作研究历史时间轴的x轴 |
出版物显示为矩形 | |
补助金显示为三角形 | |
2.强有力的影响措施 | 没有实现 |
3.追踪有希望的候选人的工具 | 候选人的名字可以添加到与时间线一起显示的书签列表中 |
用户可以记录关于候选人的笔记 | |
4.多关键字搜索 | 用户搜索1关键字 |
复选框允许用户添加最多4个额外的关键字 |
功能原型评估
共招募了来自12个美国机构的20名参与者来评估功能原型(
).与研究的第一阶段类似,招募人员包括从事生物医学研究的人员。参与者与早期调查的参与者在参与资助项目和合作伙伴搜索模式( 而且 ).参与者使用SUS评估原型[
) ( ).SUS采用10个李克特型问题。整个测试设置在0-100的范围内(其中100代表最好的分数)。所有参与者的SUS平均得分为76.4 (SD 13.9)。pi的平均值为77.5 (SD 14.0), rf的平均值为73.0 (SD 14.3)。根据班戈的说法[ ],从可用性的角度来看,得分大于70表示系统还可以。虽然样本量小(RFs n=5)无法进行统计学比较,但两个参与者组的结果似乎具有可比性。对个别问题的回答的检查显示了一个混合的画面:尽管受访者普遍认为系统是可学习的,但对其他问题的回答表明了对诸如复杂性、预期使用频率、不一致性以及使用系统时需要支持等主题的潜在担忧( ).附加的李克特量表问题评定了原型的功能。在1到5的范围内,5表示最有用的特征,所有特征(除1外)得分均大于4 (
).SUS问题 | pi, mean (SD) (n=15) | RFs,均值(SD) (n=5) | 总的来说,平均值(SD) (n=20) |
我想我会经常使用这个系统 | 2.9 (1.5) | 3.6 (0.55) | 3.1 (1.4) |
我发现这个系统复杂得没有必要 | 4.3 (1.0) | 4.4 (0.89) | 4.4 (0.99) |
我认为这个系统很容易使用 | 4.3 (0.60) | 4.3 (0.84) | 4.3 (0.66) |
我想我需要技术人员的支持才能使用这个系统 | 4.7 (0.60) | 4.0 (1.1) | 4.6 (0.83) |
我发现这个系统的各个功能集成得很好 | 3.5 (0.76) | 3.4 (0.81) | 3.5 (0.76) |
我认为这个系统有太多的不一致 | 4.3 (0.87) | 4.0 (1.0) | 4.3 (0.86) |
我想大多数人会很快学会使用这个系统 | 4.2 (0.66) | 4.2 (0.45) | 4.2 (0.62) |
我发现这个系统使用起来很麻烦 | 4.1 (1.1) | 4.0 (1.2) | 4.2 (1.0) |
我很有信心使用这个系统 | 3.9 (1.1) | 3.6 (0.55) | 3.9 (0.99) |
在我开始使用这个系统之前,我需要学习很多东西 | 4.3 (1.1) | 3.8 (1.6) | 4.2 (1.1) |
系统功能 | pi, mean (SD) (n=15) | RFs,均值(SD) (n=5) | 总的来说,平均值(SD) (n=20) |
整体时间轴格式 | 4.7 (0.59) | 4.4 (0.89) | 4.65 (0.67) |
发布栏的高度 | 2.8 (0.94) | 3.2 (0.83) | 2.90 (0.91) |
文档数据可用悬停 | 4.4 (0.91) | 4.2 (0.45) | 4.35 (0.81) |
授权标题和角色可在悬停 | 4.8 (0.41) | 4.0 (0.0) | 4.60 (0.50) |
授权开始和结束日期显示在时间轴上 | 4.7 (0.62) | 3.0 (0.0) | 4.25 (0.91) |
能够添加/删除合作者列表 | 3.9 (1.1) | 4.4 (0.89) | 4.05 (1.1) |
能够添加关于候选人的说明 | 3.9 (1.2) | 4.4 (0.89) | 4.05 (1.1) |
能够添加/删除额外的关键字 | 4.3 (0.88) | 3.8 (0.83) | 4.2 (0.88) |
一个5分制(1=无用,5=有用)。
总体而言,参与者对工作原型的反应是积极的。在单个时间轴中,发表和拨款信息的组合在所有原型特征中得分最高(平均4.65,标准差0.67)。参与者认为,该界面提供了对候选人研究兴趣和过去历史的深入了解。时间轴格式允许用户查看研究人员的发表历史,包括与搜索关键字相关的发表的最近时间和频率。这些出版物允许用户将候选人归类为多学科研究人员或单一研究领域的研究人员。与SUS评分一样,两组的反应大致相似。
在评估期间对应用程序提出了若干改进建议。多个参与者要求链接到PubMed和NIH Reporter记录,这些记录与合作者简介中发现的项目相对应。一位评估者认为,关于候选人的学术培训(如医学博士或博士)的信息对于组建协作团队很重要。另一位评估人员观察到,论文和资助没有充分描述候选人为合作带来的价值,特别是包括独特的专业知识或关键资源的获取(如动物模型、计算技术)。增加研究资源信息[
- 有人建议作为这个问题的潜在解决办法。来自参与者的坊间反馈表明,对合作者搜索工具的兴趣可能会因研究人员的工作环境而有所不同。两名参与者——一名来自大学数量较少的国家,另一名来自美国一所小型医学院(不到200名教师)——评论说,他们所在机构缺乏资源,限制了当地合作的机会,这可能会激发人们对RNS工具更大的兴趣。
讨论
主要研究结果
交互式可视化可以帮助研究人员使用RNSs来识别合作者。对研究人员的采访使用纸质原型来激发对合作者搜索工具所需功能的讨论。一个功能原型提供了许多这些功能,包括按时间顺序显示、书签工具和多关键字搜索,受到了用户的好评。还需要进一步的开发和评估来衡量RNS合作者搜索工具的效用。
构建可用的合作者搜索工具
在日益跨学科的生物医学研究领域,确定合适的合作者是一项重要任务。尽管RNSs在聚合和表示描述研究人员及其潜在贡献的数据方面表现出了巨大的希望,但这些工具的成功需要的不仅仅是基础设施。如果RNSs要在促进合作方面发挥建设性作用,他们需要改进现有的方法,即利用现有的学院联系来寻找可能提供所需专业知识的“朋友的朋友”。要做到这一点,他们需要提供容易获得高质量数据的途径;实际上,他们必须提供其他方式无法提供的附加价值[
].此外,它们必须支持不同用户群体的潜在不同目标[ ].虽然以前的工作已经调查了合作者的搜索习惯和偏好,但相对较少关注交互工具如何满足这些需求。调查潜在的功能,以及如何实现这些功能,以满足早期研究中确定的需求,包括个人联系人列表的重要性[
]及地理位置[ ],以及其他隐含的,如果没有明确讨论,如资助和出版物的时间历史。与试图模拟研究者相似性的计算方法相比[ , ],本研究中考虑的设计依赖于术语匹配和视觉显示,因此以丢失潜在相似性为潜在代价,支持清晰和简单。这种权衡的进一步比较可能是未来研究的一个有趣领域。定性调查的参与者对一些在以前的工作中被认为可能很重要的特征没有热情的回应[
, ].在回应基于个人社会网络的原型时,参与者对使用他们的个人联系作为种子点或使用地理距离作为选择合作者的标准都不是特别感兴趣。然而,在这两种情况下,参与者可能都忽略了重点。在个人社交网络的例子中,参与者“他们已经认识这些人”的反应可能掩盖了这样一个事实,即现有的同事是他们接触不认识的人的重要“门户”。在地理距离的情况下,参与者可能没有意识到近距离对合作生产率的潜在影响,也没有意识到发现相邻但未知的合作者的可能性。不管病因是什么,这些发现表明了寻找合作者的一系列偏好和风格的可能性。更充分实现的工具可能为用户提供一系列起点、视图和过滤选项。对原型的积极响应表明,该设计为协作者搜索提供了有用的功能。参与者发现,以时间轴为基础的出版物和资助显示对各种任务都很有用,包括确定领域的核心人物、评估研究人员的活动水平和寻找多学科合作者。发布活动的时间轴显示也在其他RNSs中进行了探索,最著名的是Profiles[
]和SciVal [ ].研究第一阶段的参与者对影响措施在协作搜索过程中的作用的评论不一致。虽然这些指标通常被认为是潜在的用途,但对于哪些具体措施可能最有用却没有达成一致意见。这种缺乏共识的情况可能反映了人们正在对不同措施的相对优点进行讨论[
, ].潜在的设计解决方案可能包括显示多个影响度量,以及根据单个度量或可能的加权汇总度量进行过滤和排序的工具。SUS的结果既提供了关于功能原型可用性的初步反馈,也表明了可能需要进一步工作的领域。平均SUS得分为76.4 (SD 13.9),这在一定程度上验证了该工具的可用性,在易学性和使用系统的信心方面的得分尤其令人鼓舞。其他问题暗示了关于不必要的复杂性、对技术支持的潜在需求、不一致性以及对培训的需求的潜在关注。
在涉及使用频率的问题上(“我认为我想频繁地使用这个系统”)得分相对较低,这与早期的观察相一致,即大多数研究人员不使用在线工具来寻找合作者(参见
),并观察到寻找合作者可能不会被视为一项离散或频繁的任务。为了更好地理解这些初步的可用性结果,还需要进一步的研究,包括对指标(如学习性)的经验比较。附加的李克特问题评估了对特定设计元素的满意度,得到了总体上令人鼓舞的结果。最低的分数是系统内文档的表示(“发布栏的高度”),为2.90分。在工作原型的设计阶段,考虑了几种表示文档的方法。最初的设计建议是使用绝对比例,使每个栏的高度与每个给定年份匹配该关键字的候选人的出版物数量成比例。这种方法最初被拒绝,因为它使包含低但非零计数的关键字或条的候选对象的呈现复杂化。此外,绝对计数可能会使对初级研究人员的偏见持续存在,他们在任何一年都不太可能有许多与单一主题相匹配的出版物。
相反,我们使用了一种相对缩放的方法,将每个柱状图的高度标准化为该个人在给定年份关于给定主题的出版物的百分比。这种设计也带来了自己的挑战,因为在给定主题上,比例相似但产出差异巨大的研究人员可能会被相同地表示出来。具有适当用户控件的替代表示可能会让用户选择首选的视觉表示,可能需要进一步的比较用户测试来更好地理解这些不同布局的可用性含义。
关于初始设计元素的问题也提供了在纸上原型的定性调查中确定的需求的初步验证(
).对时间轴(需求1)、潜在合作者列表(需求3)和多关键字搜索(需求4)的积极响应表明,这些特性可能在产品质量的合作者搜索工具中发挥重要作用。然而,当前的需求和主题列表并不是确定的。进一步探索用户需求,涉及更广泛的信息提供者,可能是必要的,以捕捉偏好和工作风格的可能变化,以进行协作识别。这些调查确定了几个额外的建议功能,重点是展示关于潜在合作的更丰富的信息。增加学位、影响因素和研究资源[
- 可能会为潜在合作者的突出地位提供额外的视角。探索这些比较措施的相对效用可能是未来工作的一个有趣的焦点。参与者招募确定了对研究合作者搜索工具具有潜在不同需求和目标的用户亚群。因为招聘涉及便利样本[
基于对研究网络感兴趣的科学家的电子邮件邀请和随后的滚雪球抽样,参与者绝不具有代表性。这个方便样本完全有可能在结果中引入偏差。然而,我们确实发现了两个有着不同目标和观点的不同群体。虽然样本的性质限制了可能做出的概括,但pi似乎比rf更依赖个人网络(
).因为调解人通常代表其他人工作,可能在不熟悉的领域,他们可能从交互工具中受益更多。其他潜在的特征,例如与不同领域的主题相关的概念图,可能为研究促进者提供额外的好处。参与者还表示,上下文差异可能会使交互工具对某些类型的pi更有用。缺乏本地合作机会的机构的研究人员和初级研究人员,以前被描述为在潜在合作者的个人网络方面相对贫困[
],可能是那些从研究社交网络协作识别工具中受益最多的人。合作者搜索不是用户参与的离散任务,这与搜索引擎可能将许多用户引入RNS页面的观察结果一致[
].为了取得成功,合作搜索工具必须在这种成熟的动态中工作,找到方法吸引通过搜索引擎到达的用户,并提供超越简单排名列表的价值。功能原型提供了一个可能朝着这个方向发展的初始设计探索,但是需要额外的工作来将这一愿景完全集成到功能RNSs的上下文中。为了更全面地理解协作搜索工具的使用,还需要进一步的工作。参与者的小而不具代表性的样本限制了这些初步结果的广度、深度和普遍性。具体来说,这项研究并没有解决合作搜索实践和偏好在广泛的生物医学研究合作中可能存在差异这一非常现实的可能性。研究人员背景的差异(基础研究人员与临床研究人员)、合作数量、合作规模、当地资助环境和激励机制以及研究的跨学科程度只是可能影响研究人员如何识别潜在合作者的几个因素,因此,交互工具如何最好地支持这种实践。
限制
这个项目的小样本量限制了结果的泛化性。38个参与者的方便样本可能不能代表更大的研究群体。研究结果的普遍性也可能受到参与者群体多样性的限制,参与者中拥有医学学位的研究人员数量相对较少。合作者搜索行为的描述依赖于基于回忆的测量和被调查者对他们合作的性质和程度的定义。功能原型中使用的数据(2个VIVO数据集)的局限性可能影响了用户对该工具的反应。
结论
RNSs的格局在不断发展,越来越多的系统部署在各个机构,为研究人员提供了新的科学合作机会。RNSs有潜力在促进跨学科科学方面发挥重要作用。然而,如果没有高度可用和有用的最终用户应用程序,这些好处就无法实现。成功的协作支持工具必须提供足够的价值来说服研究人员改变已建立的习惯,包括传统的网络和网络搜索。有效地将以前手工和社交复杂的识别协作者的任务转换为计算机搜索系统,需要分析用户需求以及工具如何改变/影响他们的工作流程。
这项定性研究使用了与研究人员的半结构化访谈来评估对协作搜索工具的纸质原型的反应。该调查确定了2个不同的用户组(rf和pi),以及3个主题来分类协作搜索软件需求:衡量影响、跟踪候选人和执行复杂的搜索。四个具体要求——按时间顺序显示研究成果、稳健的影响措施、跟踪有希望的候选人的工具和多个关键字搜索——被考虑纳入功能原型,参与者在第二轮定性调查中对其进行了审查。对SUS的响应提供了设计的初步成型验证。
虽然还需要进一步研究来了解这些子组之间的异同,但这些区别说明了了解用户需求和提供满足这些需求的功能的重要性。
致谢
CDB开发了论文原型,进行了参与者访谈,编码并解释了回答,开发了功能系统,并起草了手稿。HH讨论了设计,审查了数据编码,审查了定性数据的分析,并修改了手稿。TKS和MJB对纸质原型和功能工具的设计做出了贡献。所有作者都对该手稿进行了审阅和贡献。我们感谢本次研究的所有参与者所付出的时间和见解。我们特别要感谢Holly Falk-Krzesinski,她在我们的招聘工作中发挥了重要作用。本文的发表部分得益于礼来捐赠公司内科科学家计划和匹兹堡大学临床和转化科学研究所,美国国立卫生研究院资助#5 UL1 TR000005-08和#UL1 RR024153-06。
利益冲突
没有宣布。
参考文献
- 吴奇提,琼斯BF, Uzzi B.团队在知识生产中的主导地位日益增强。科学通报2007 5月18日;36 (527):1036-1039 [免费全文] [CrossRef] [Medline]
- 迪西斯ML,斯莱特里JT。我们必须走的道路:多学科团队科学。科学翻译2010年3月10日;2(22):22cm9。[CrossRef] [Medline]
- 对科学合作(及其研究)的反思:过去、现在和未来。科学计量学2001;52(3):365 - 377。[CrossRef]
- Katz J, Martin B.什么是研究合作?研究政策,1997;26(1):1-18。[CrossRef]
- 斯帕克H,施莱耶T,巴特勒BS。好的合作伙伴很难找到:在健康科学中寻找和选择合作者。在:IEEE第四届国际科学会议。:在健康科学领域寻找和选择合作者。eScience '08 IEEE第四届国际会议;2008年发表于:IEEE第四届电子科学国际会议;2008;印第安纳波利斯,第462-467页。[CrossRef]
- Schleyer T, Butler BS, Song M, Spallek H.概念化和推进研究网络系统。ACM Trans Comput Hum Interact 2012 march 1;19(1):2:1-2:26 [免费全文] [CrossRef] [Medline]
- 西北大学。2010 NU RN工具比较URL:http://www.vivoweb.org/files/NU%20RN%20Tool%20Comparison.pdf[访问时间:2014-03-12][WebCite缓存]
- vivoVIVO |连接-共享-发现。2014.URL:http://www.vivoweb.org/[访问时间:2014-03-12][WebCite缓存]
- Schleyer T, Spallek H, Butler B, Subramanian S, Weiss D, Poythress M,等。面向科学家的Facebook:优化科学合作建立方式的要求和服务。中国医学杂志,2008;10(3):e24 [免费全文] [CrossRef] [Medline]
- Weber G, Barnett W, Conlon M, Eichmann D, Kibbe W, Falk-Krzesinski H, Direct2Experts Collaboration。Direct2Experts:一个示范研究网络平台之间互操作性的试点国家网络。美国医学信息学会2011年12月18日增刊1:i157-i160 [免费全文] [CrossRef] [Medline]
- 刘志强,刘志强,陈志强,等。研究网络系统的使用和意义。中国医学杂志,2014;16(2):e46 [免费全文] [CrossRef] [Medline]
- 王志强,王志强,王志强,等。基于网络系统的网络使用模式分析。临床翻译2012 Aug;5(4):340-347 [免费全文] [CrossRef] [Medline]
- 郭志刚,李志刚。科研合作中接触与沟通模式的研究。见:1988年ACM计算机支持合作工作会议记录。1988年出席:美国计算机协会计算机支持合作工作会议;1988年9月26日至28日;波特兰,OR第1-12页。[CrossRef]
- 奥尔森·G,奥尔森·j。Human-Comp。交互2000年9月1日;15(2):139-178。[CrossRef]
- 简介研究网络软件。研究合作的专业网络和专业知识挖掘网址:http://profiles.catalyst.harvard.edu/[访问时间:2014-03-20][WebCite缓存]
- 爱思唯尔。Elsevier Research Intelligence网址:http://www.elsevier.com/online-tools/research-intelligence[访问时间:2014-03-20][WebCite缓存]
- ResearchGate网站。URL:http://www.researchgate.net/[访问时间:2014-03-20][WebCite缓存]
- Agle R. VIVO探照灯。2014。URL:about.vivosearchlight.org[访问时间:2014-03-12][WebCite缓存]
- Gollapalli SD, Mitra P, Giles C.在学术环境中类似的研究人员搜索。发表于:第十二届ACM/IEEE-CS数字图书馆联合会议论文集。20122012年6月10-14日;华盛顿特区,第167-170页。[CrossRef]
- 陈海辉,郭磊,张晓霞,贾尔斯。CollabSeer:一种协作发现的搜索引擎。见:第11届国际ACM/IEEE数字图书馆联合会议论文集。2011年发表于:第11届ACM/IEEE数字图书馆联合会议;2011年6月13-17日;渥太华,第231-240页。[CrossRef]
- Beyer H, Holtzblatt K.情境设计:定义以客户为中心的系统。旧金山,加州:摩根考夫曼出版社;1998.
- 罗森MB,卡罗尔JJ。可用性工程:基于场景的人机交互开发。旧金山,加州:学术出版社;2002.
- Gewin V.协作:社交网络寻求临界质量。自然科学,2010年12月16日;[CrossRef]
- 巴夫纳尼,陈文华,郑凯,王晓明,王晓明。翻译科学家资源发现与协作工具需求的定性研究。中国医学杂志,2012;14(3):e75 [免费全文] [CrossRef] [Medline]
- 柯尔宾JM,施特劳斯AL.《定性研究基础:发展扎根理论的技术和程序》。加州洛杉矶:Sage出版公司;2008.
- Dow SP, Glassco A, Kass J, Schwarz M, Schwartz DL, Klemmer SR.并行原型可以带来更好的设计结果,更多的发散性和更高的自我效能。ACM Trans compute - hum interaction 2010 Dec 01;17(4):1-24。[CrossRef]
- Spence R, Tweedie L.属性资源管理器:通过探索的信息综合。与计算机交互1998 Dec 01;11(2):137-146。[CrossRef]
- 思科。WebEx会议,在线会议,桌面共享,视频会议http://www.webex.com/[访问时间:2014-03-12][WebCite缓存]
- 拉扎尔·D,冯东,Hochheiser D,拉扎尔·J,冯杰,Hochheiser H.人机交互的研究方法。西苏塞克斯:John Wiley & Sons;2010.
- Openlink软件。Virtuoso开源Wiki网址:http://www.openlinksw.com/wiki/main[访问时间:2014-03-12][WebCite缓存]
- W3C。SPARQL 1.1概述http://www.w3.org/TR/sparql11-overview/[访问时间:2014-03-12][WebCite缓存]
- 杨晓明,杨晓明,杨晓明。数据驱动文档。IEEE Trans Vis Comput Graph 2011 Dec;17(12):2301-2309。[CrossRef] [Medline]
- Brooke J. susa一个快速而粗略的可用性量表。入:Jordan PW, Thomas B, Weerdmeester BA, McClelland AL,编辑。工业可用性评估。伦敦:泰勒和弗朗西斯;1996:189 - 194。
- 刘志强,张志强。系统可用性量表的实证评估。国际人机交互杂志2008年7月30日;24(6):574-594。[CrossRef]
- 量化个人科研成果的指数。Proc Natl Acad Sci U S A 2005 11月15日;102(46):16569-16572 [免费全文] [CrossRef] [Medline]
- 刘勇,李丽丽,李鹏。使用基于本体的注释来描述疾病研究。J Am Med Inform association 2012年6月;19(e1):e177-e186 [免费全文] [CrossRef] [Medline]
- GitHub。RNS-Searcher URL:https://github.com/pittdbmivis/rns-searcher[已访问2014-10-09][WebCite缓存]
- Tenenbaum JD, Whetzel PL, Anderson K, Borromeo CD, Dinov ID, Gabriel D,等。生物医学资源本体论(BRO)使临床和转化研究中的资源发现成为可能。J Biomed Inform 2011 Feb;44(1):137-145 [免费全文] [CrossRef] [Medline]
- Vasilevsky N, Johnson T, Corday K, Torniai C, Brush M, Segerdell E,等。研究资源:策划新的eagle-i发现系统。数据库(牛津)2012;2012:bar067 [免费全文] [CrossRef] [Medline]
- Torniai C, Brush M, Vasilevsky N, Segerdell E, Wilson M, Johnson T.开发生物医学资源注释和检索的应用本体:挑战和经验教训。2011年发表于:ICBO:生物医学本体国际会议;2011年7月28日至30日;布法罗,纽约。
- 作者影响因子:追踪个体科学影响的动态。科学通报2014;4:4880 [免费全文] [CrossRef] [Medline]
- 彭纳·欧,潘·RK,彼得森·AM,卡斯基·K,福尔图纳托·S.关于科学未来影响的可预测性。科学通报2013;3:3052 [免费全文] [CrossRef] [Medline]
- Goodman L. Snowball抽样。数学统计年鉴1961;32(1):148-170。
缩写
网:医学学科标题 |
国家卫生研究院:美国国立卫生研究院 |
PI:首席研究员 |
RDF:资源定义框架 |
射频:研究主持人 |
RNS:科研网络系统 |
SPARQL:SPARQL协议和RDF查询语言 |
SUS:系统可用性量表 |
G·艾森巴赫(G Eysenbach)编辑;提交02.04.14;M Kahlon, G Weber, L Johnson, Q Li, M Dogan同行评审;对作者17.07.14的评论;订正版本收到13.08.14;接受30.08.14;发表04.11.14
版权©Charles D Borromeo, Titus K Schleyer, Michael J Becich, Harry Hochheiser。最初发表于《医疗互联网研究杂志》(//www.mybigtv.com), 2014年11月4日。
这是一篇开放获取的文章,根据创作共用署名许可(http://creativecommons.org/licenses/by/2.0/)的条款发布,允许在任何媒介上无限制地使用、分发和复制,前提是正确引用最初发表在《医学互联网研究杂志》上的原创作品。必须包括完整的书目信息,//www.mybigtv.com/上的原始出版物的链接,以及此版权和许可信息。