JMH
JMIR Ment Health
JMIR心理健康
2368 - 7959
卡塔尔世界杯8强波胆分析
加拿大多伦多
v9i11e41014
36318266
10.2196/41014
的观点
的观点
使用语言分析技术诊断和预测精神疾病的伦理意义
Torous
约翰
约瑟夫
阿曼达
Uludag
Kadir也
尼斯
亚历山大·安德雷德
BPhil,医学博士,博士
1
精神病学研究所
圣保罗大学
R. Dr. Ovidio Pires de Campos 785, 4 andar sala 4N60
圣保罗,05403010
巴西
55 11996201213
alexandre.loch@usp.br
2
https://orcid.org/0000-0002-0006-8107
Lopes-Rocha
安娜卡洛琳
二元同步通信
1
https://orcid.org/0000-0001-7879-6940
Ara
安德森
博士学位
3.
https://orcid.org/0000-0002-1041-2768
Gondim
若昂Medrado
二元同步通信
4
https://orcid.org/0000-0001-7225-1165
这套
吉尔勒莫一个
硕士,博士
5
https://orcid.org/0000-0003-1013-8348
科克兰
谢丽尔玛丽
医学博士
6
https://orcid.org/0000-0002-8902-4353
莫塔
纳塔莉亚Bezerra
医学博士
7
8
https://orcid.org/0000-0003-2802-2001
Argolo
费利佩·C
医学博士
1
https://orcid.org/0000-0001-5686-8712
1
精神病学研究所
圣保罗大学
圣保罗
巴西
2
国立神经衰弱生物研究所
国家环境保护委员会Científico e Tecnológico
巴西利亚
巴西
3.
Departamento de Estatística
Universidade Federal do Paraná
库里提巴
巴西
4
研究所Computação
巴伊亚联邦大学
萨尔瓦多
巴西
5
IBM Thomas J. Watson研究中心
约克敦高地,纽约
美国
6
西奈山的伊坎医学院
纽约州纽约
美国
7
Psiquiatria研究所
里约热内卢联邦大学
里约热内卢里约热内卢
巴西
8
Motrix实验室研究部
Motrix
里约热内卢里约热内卢
巴西
通讯作者:Alexandre Andrade Loch
alexandre.loch@usp.br
11
2022
1
11
2022
9
11
e41014
13
7
2022
19
8
2022
9
9
2022
4
10
2022
©Alexandre Andrade Loch, Ana Caroline lope - rocha, Anderson Ara, João Medrado Gondim, Guillermo A Cecchi, Cheryl Mary Corcoran, Natália Bezerra Mota, Felipe C Argolo。最初发表于JMIR心理健康(https://mental.www.mybigtv.com), 01.11.2022。
2022
这是一篇开放获取的文章,根据创作共用署名许可协议(https://creativecommons.org/licenses/by/4.0/)的条款发布,允许在任何媒介上不受限制地使用、分发和复制,前提是正确引用了首次发表在JMIR精神健康杂志上的原创作品。必须包括完整的书目信息,https://mental.www.mybigtv.com/上的原始出版物的链接,以及此版权和许可信息。
人工智能技术最近的发展已经到了这样一个阶段:机器学习算法可以根据某人发布在社交媒体上的照片和文字来推断精神状态。更重要的是,这些算法能够以合理的准确度预测未来的精神疾病。他们可能代表了精神卫生保健在预防和早期诊断方面的重要进步,并帮助专业人员对患者进行随访和预后。然而,在使用这类技术时,有一些重要问题需要非常谨慎,即与精神障碍有关的隐私和耻辱。在这篇论文中,我们讨论了使用这些技术来诊断和预测未来精神疾病的生物伦理学影响,考虑到当前快速发展的分析人类语言的技术和社交媒体提供的个人信息的在线可用性。我们还建议今后采取的方向,以尽量减少滥用这些重要技术。
危险精神状态
精神病
临床高危
数字表现型
机器学习
人工智能
自然语言处理
简介
2018年,足球评论员、前利物浦后卫马克·劳伦森被他的一名观众注意到了面部癌症的缺陷[
1 ].全科医生艾伦·布伦南给英国BBC发了电子邮件,并在电视上看到劳伦森并发现了可疑的皮肤病变后通知了他。劳伦森成功地治疗了皮肤癌,后来他把医生带到电视节目中采访并感谢他。2020年,记者维多利亚·普莱斯在直播时,一名观众注意到她脖子上有个肿块[
2 ].这名女子立即给记者发邮件,提醒普莱斯应该检查一下甲状腺——观众说她过去也有颈部隆起,后来被查出是癌症。在与肿瘤学家进行检查和预约后,Price确认肿块为甲状腺癌,并接受了有效的治疗[
2 ].这是许多例子中的两个,在这些例子中,一个人的未诊断疾病的迹象可能会被第三方发现,他们抓住机会提醒这个人。这种态度往往能挽救生命,因为它们最终会得到诊断和有效的治疗。然而,如果精神疾病也能以某种方式变得可感知呢?
在这篇文章中,我们讨论了精神疾病的内在隐私保护,以及当前的技术,特别是人工智能(AI)如何让我们“看到”精神疾病,并有可能绕过这种保护。所谓“看”,我们指的是通过数字方式观看。然后讨论污名化问题,因为它是使“看到”精神疾病的能力与“看到”其他疾病的能力产生不同后果的主要问题。与前两个项目相关的生物伦理问题和此类技术的使用进行了讨论。然后我们讨论人工智能模型的可解释性,这是一个可能威胁生物伦理原则的问题。最后,我们讨论了在临床和研究环境之外使用这些技术的相关问题。
精神疾病的隐私保护
我们通常认为精神疾病具有内在的隐私保护,因为我们需要有人谈论他们的想法和感受,以做出精神状态评估。然而,许多精神疾病对受过训练的心理健康专业人员甚至外行的人来说都是很明显的。外表和行为是精神状态检查的首要项目,这是精神健康专业人员的路线图,相当于全科医生的体检[
3. ].在检查过程中,还会仔细评估某人说话的内容和形式,因为言语是我们了解患者思想和感受的主要途径。这些都是我们广义上所说的交际的内容:第一种是非言语交际(或非言语语言),另一种是言语交际。
4 ].因此,一个人的行为方式和说话方式,即使不是在精神病学访谈中,有时也可以提供足够的数据来推测精神障碍的可能性。例如,这与黄疸、体重减轻或其他疾病中的全身肿块类似。然而,诊断的确认取决于所示体征之外的进一步检查。这种确认,以及诊断的公开,取决于病人是否同意接受实验室检查、影像学检查和体格检查,并在面谈中进一步询问他们的精神状态,以透露他们的感受和经历。然而,这种“隐私保护”可能会被技术和人工智能建模的快速进展所克服。
首先,社交媒体的广泛使用使得空前数量的私人数据得以公开。这并不是一个新问题,因为它已经在不同领域的电影和出版物中得到了解决[
5 ,
6 ),最近由于针对大型信息技术公司的隐私诉讼而成为公众辩论的焦点[
7 ].虽然这种个人大数据用于盈利目的的情况已经公开,但其用于心理健康的用途在很大程度上仍然未知。人们在社交媒体上分享图片、视频和文字,展示他们的行为、言语和想法。这些正是心理健康专家用来诊断的工具。显然,社交媒体上显示的问题并不是心理健康咨询所调查的问题,但当用户频繁地在网上发布他们的亲密感受、分享他们的情绪等时,这些问题往往是重叠的。除此之外,人工智能技术已经发展到一个非凡的水平,他们用于个人语言和非语言分析的机器学习(ML)算法也有了同样的发展[
8 ,
9 ].2020年发表的一项研究使用上传到Facebook上的语言和图像来识别与精神疾病相关的迹象[
10 ].ML算法从223名患有精神分裂症或情绪障碍的参与者和健康志愿者中获取了3404959条Facebook消息和142390张照片。第一次精神病住院之前的所有数据都被上传,以最大限度地减少药物治疗、住院和复发以及接受正式精神病诊断对社交媒体活动的潜在影响。该算法能够在首次发病住院前一年仅使用Facebook活动来区分诊断,曲线下面积(auc)在0.72-0.77之间变化。
关于严重精神障碍的这种“可见性”,在更多的临床/研究环境中,视频诊断框架也得到了测试,并取得了令人鼓舞的结果。例如,研究人员发现精神分裂症的神经运动前体可以追溯到童年。
11 ].因此,对儿童吃午餐的简短录像带片段的分析表明,观察到的运动异常能够区分那些后来患上精神分裂症的儿童和那些没有患上精神分裂症的儿童[
12 ].最近,从视频和音频记录中提取的口头语言特征被证明是精神疾病的重要早期迹象[
13 -
17 ].这些特征包括语篇连贯性、句法复杂性、言语内容贫乏、隐喻性语言和语言结构连通性[
13 -
17 ].贝迪等[
13 ],例如,表明话语连贯性与亚临床精神病症状显著相关。尽管他们的模型来自精神病高危精神状态(arms)的一小部分样本,但他们的模型可以100%准确地预测从危险状态到精神分裂症的进展。斯宾塞等人也发现高危人群的言语连通性较低[
17 ],他们在分析中使用了语音图表,这是另一种评估句法复杂性和语音内容贫乏的技术。这些特征通常被称为自然语言处理,在更大的样本中,被用于获得高达0.88的auc,以预测哪些高危个体将在未来发展为精神障碍。对于首发精神病患者,auc最高可达0.92,用于预测谁将提前6个月被诊断为精神分裂症[
16 ].音频功能,如暂停[
18 ]和非语言行为,如手势[
19 ]和整体运动[
20. ]也被认为是健康和arms的区别。除了严重的精神障碍外[
21 ],人工智能框架也已被开发用于检测和分类其他精神疾病,正如许多出版物和挑战所示,从音频、视频和文本信息中建立准确的抑郁症估计[
22 ,
23 ].
因此,“看到”精神障碍的可能性本身就是一项创新技术。它可以增加获得精神卫生保健的机会,并允许预防、早期诊断和治疗,就像本文开头所述的疾病一样。它还可以帮助临床医生在日常实践中诊断、随访和预测他们的病人。这将极大地改善精神疾病患者的预后和生活质量。然而,有一个问题将精神障碍与其他疾病区分开来,这使得“看”它们的想法不那么可取。这个问题就是耻辱。
精神疾病的污名化
精神疾病会带来很大的社会耻辱,而大多数身体疾病不会。
24 ].对精神障碍患者的偏见和歧视由来已久,早在精神病学诞生之前就存在了[
25 ,
26 ].不幸的是,尽管精神病学在过去几十年里取得了巨大的进步,但耻辱仍然以多种形式存在[
27 ].它的原因有很多,但当精神障碍产生行为变化时,它们往往被公众判断为患者的道德行为。如果一个人把精神疾病看作是一种严格意义上的生物疾病,例如,由于遗传原因,对精神疾病的恐惧和不安全感就会产生,就好像这个人无法控制自己的行为一样。
28 ].如果精神疾病被认为是唯一的社会心理问题,那么患者就应该为他们的抑郁症状、焦虑等等负责。严重精神障碍人群的情况更糟。精神分裂症患者的幻觉和妄想象征着患有这种疾病的人与公众的共同经验不匹配,产生恐惧,感知危险,以及保持社交距离的愿望[
29 -
31 ].
因此,污名化是精神障碍患者的主要治疗障碍,阻碍了预防措施,严重恶化了结果。这种障碍出现在治疗开始之前(心理健康知识普及程度低、刻板印象认可、诊断延迟和拒绝诊断),并在治疗之后继续存在(自我污名化、治疗依从性低、诊断披露)[
32 ].污名还会污染精神疾病患者周围的人,包括家庭成员、朋友和卫生专业人员。正如过去人们对艾滋病和麻风病等其他疾病的偏见一样,人们常常把精神疾病当作传染性疾病来对待。
33 ].这加剧了歧视和社会隔离,因为即使是亲密的人也倾向于远离那些被诊断出患有这种疾病的人——这被称为礼貌耻辱[
34 ,
35 ].由于这种多方面的耻辱负担,揭示某人可能患有抑郁症,或某人未来可能有患精神分裂症的风险,与指出某人因怀疑患有甲状腺癌或皮肤癌而应该去看医生是不同的[
36 ].
让耻辱问题更糟糕的是,还有假阳性的问题[
37 ].关于精神病学中研究最多的预防范式之一的准确性,即精神病的ARMS概念(或精神病的临床高风险),一直存在争议[
38 ].研究人员正试图提高ARMS标准的准确性,因为研究表明,大多数符合标准的人(76%)根本没有发展成精神障碍[
39 ].换句话说,仅使用ARMS标准就会产生大量的假阳性。正如在一些研究中所看到的那样,使用语言对ARMS个体进行分类,可以潜在地预测高达80%-90%的病例,尽管样本很小。这种准确率与子宫颈抹片检查宫颈癌的准确率相似,假阳性率约为20% [
40 ].然而,虽然子宫颈抹片检查通常被用作一种重要的预防性公共卫生战略,但人们关注的是如何改善这种错误的
负 比(
41 ,通过语言分析“看到”严重的精神障碍仍然是一个问题。尽管语言框架可以大大减少假阳性的数量,但与病情相关的巨大耻辱和这一阶段干预的不确定性仍然阻碍了预防策略的实施。因此,必须权衡预防病例的数量与因被误诊为有危险而受到伤害的个人数量[
42 ].
生命伦理问题
考虑到精神障碍现在可能对分析交流的人工智能算法“可见”,而且这些障碍与耻辱有关,人们必须考虑生物伦理学的影响。生命伦理学的四个主要原则是(1)有益,(2)无害,(3)自主,(4)公正[
43 ].
行善是指导医生为病人的利益而行动的原则。它还意味着在诊所中除了通常的医患关系之外的其他一些行动,例如拯救处于危险中的人,消除会造成伤害的条件,以及帮助残疾人。善行是一个积极的概念,在某种意义上,一个人必须积极主动,提出行动和干预。另一方面,不伤害是指医生有义务不伤害他们的病人,不使他们的健康恶化,不使他们丧失行动能力,不造成痛苦,不剥夺他人的生命之物。在实践中,这意味着权衡所有干预和治疗的收益和负担,并考虑不采取行动[
43 ].自治主张,每个人都有权力做出理性的决定和道德的选择,每个人都应该被允许行使自己的自决能力。自治原则衍生出其他三个重要原则[
43 ]:
知情同意:患者必须接受充分的披露,并理解这种披露,才能自愿同意医疗程序或研究。
实话实说:医患关系中的一个重要组成部分,因为自主的患者有权利知道自己的诊断,但也有选择放弃这种披露。
保密性:医生有义务在未经患者同意的情况下,不得将患者提供的任何保密信息泄露给另一方。
公正是第四条伦理原则。它包括公平、公正和适当地对待人的需要。这一原则可包括微观环境,如在紧急服务中对个人进行适当治疗,以及涉及卫生保健政策的宏观环境。
话虽如此,为心理健康目的使用语言检测算法可能会带来一些生物伦理困境,使用此类工具仍然必须谨慎。医疗建议和诊断在一个人的疾病轨迹中的作用是相关的,精神疾病的早期发现可以使卫生保健从业者进行干预并避免负面结果。另一方面,标签的归属也会增加自我污名化的几率[
42 ].社会污名对精神障碍患者来说是一个巨大的负担,尤其与精神病诊断(即标签)有关[
29 ],从而产生较差的结果和其他负面后果[
44 ].考虑到之前提到的ARMS情况的高假阳性率,这一点尤其重要[
39 ].也就是说,这些人(错误地)被归类为ARMS,但他们永远不会发展成精神障碍。不加区别地使用ARMS范式对个体进行诊断,而没有适当地揭开这种信息的神秘面纱,也没有消除精神疾病的污名化,这将对无害原则构成威胁[
42 ].此外,这也可能是家长式的,损害自治。
为了了解精神病的生物学途径并开发新的治疗方法,研究工作正致力于增强ARMS概念的预测能力[
45 ].这是通过研究生物标记或使用ML算法来完成的。从这个意义上说,人工智能用于自然语言处理已经产生了令人鼓舞的结果,其诊断准确性与医学中使用的其他分类器相似或更好[
14 ,
15 ].然而,如果病耻感没有得到全面的解决,无论假阳性的情况有多少,它们仍然会成为非有害的问题。此外,使用这种算法来解释语言数据也会对非恶意性和自主性构成威胁,更具体地说,是关于缺乏对这种算法给出的某些信息的理解,我们将在下面描述。
算法的可解释性和有效性
一些ML模型无法解释的问题最近引起了越来越多的兴趣[
46 ].关于这种算法对高风险决策的影响,人们正在进行讨论。这种模型被称为黑盒模型,因为它们对输入变量的操作是不完全可见的。众所周知,它们会从微妙的元数据中学习,这可能会带来隐藏偏见的风险(例如,Clever Hans问题)[
47 ].
举例来说,2018年,一项研究旨在研究深度学习模型在胸部x光片中检测肺炎的跨位点的泛化性[
48 ].起初,该模型在区分高危患者和非高危患者方面表现非常好。然而,经过外部验证后,性能急剧下降。人工智能模型并没有从图像中学习临床相关信息。相反,它正在学习并基于与特定x光机相关的硬件元数据进行决策。这台机器被用于重症监护室(ICU),主要用于对高危人群进行成像[
49 ].也就是说,该算法将把高风险分类归因于来自ICU x光片的大多数图像,而不是使用x光片本身的临床数据来做出决定。一些学者已经讨论了可解释性,这是人工智能在医疗保健中使用的一个主要问题[
50 ].
对于一些计算问题,很难将有意义的参数与单个变量联系起来。例如,在计算机视觉检查的图像中,如果没有上下文,每个像素都是没有意义的,而全部像素集合包含局部(例如,组成一个微笑的像素)和全局(例如,从阴影方向推断出的光源)特征。复杂模型根据每个应用程序使用几种启发式方法来捕获抽象概念。图像中的对象和时间序列中的季节性等概念被编码并分布在模型中的不同结构中。因此,像“焦虑随着压力的增加而增加”这样的简单描述几乎是不可能的,这与熟悉的回归方法所发生的情况相反。由于多重条件依赖关系排除了对结果的直接陈述,因此需要额外的分析和实验步骤来解释复杂的模型[
51 ].
简而言之,仅仅提高预测能力和避免误报是不够的,还要了解黑盒算法的现实世界基础[
49 ].机器语句和人类语句都与给定的基本真理一致[
50 ].以上面的例子为例,我们相应地有两个语句。首先,某些给定x光片的特定特征与肺炎的高风险相关(机器声明)。其次,我们应该优先考虑那些x光片的患者,因为根据ML模型(人类陈述),他们患肺炎的几率更高。这两种说法同样适用于决策。然而,人类模型通常以因果关系为基础,作为理解潜在机制和干预的目标。虽然这种相关性被认为是决策的基础,但它被视为中间步骤。例如,
为什么 这些特定的患者患肺炎的风险更高吗?我们应该研究它们的特征,以了解肺炎的高风险,并开发一种特定的抗生素。另一方面,ML算法通常基于概率模型,仅为进一步建立因果关系提供了粗略的基础。在打开黑匣子时,这组特定的x光片和肺炎之间的关系是由于位于ICU服务中的一台x光机,它处理的肺炎病例比其他机器多得多。也就是说,ML模型提供了重要的决策工具,即优先考虑这些个体。然而,除了简单的联系之外,还应该进行进一步的调查,打开黑箱,解决生理病理解释和因果关系。
保健方面的决定意味着责任,包括法律和财务影响。因此,每一项决定都必须有可解释的证据进行逻辑推理[
49 ].人工智能模型可能对科学家有深刻的见解,但它们也应该足够清晰和可解释,以支持最终用户的决策[
52 ].否则,这可能会对病人的自主性构成威胁。因此,传统算法必须以可解释的方式处理信息源,例如急性冠状动脉综合征的GRACE评分和icu中器官衰竭的顺序器官衰竭评估评分[
53 ,
54 ].他们将坏结果的高概率映射到严重的迹象(例如,生物标记的异常值)。基于不透明(“黑箱”)算法的临床支持决策系统必须为从业者提供一个清晰的基本原理。除了携带隐藏的偏见,不透明算法的使用导致了防御性的医疗实践。当没有提出基本理据时[
55 ,医生倾向于同意机器,以避免责任。另一方面,可解释的输出将帮助医生用更少的被忽视的发现和误导的预测来治疗他们的病人。
当模型参数众多,计算过程超越了基本函数和算子时,可以选择后期分析技术(局部可解释的模型未知解释,Shapley可加性解释,多语言无监督和有监督嵌入等)[
51 ].特别是对于语言数据,研究人员应该像对待传统指标一样对待基于计算机的评估结果。例如,有代表性的数据作为每个提出的行为标记的规范曲线的基础是至关重要的。它是如何随着时代发展的;它是如何根据性别或种族而变化的;社会因素如社会经济地位、教育水平、社区或城市暴力的影响是什么?在得出某些行为标志与病理因素之间关系的结论之前,我们首先需要绘制和理解跨文化、语言和国家的规范性差异[
56 ,
57 ].例如,精神病患者的语言结构连通性会随着消极症状的严重程度而减弱[
16 ]也会在典型的发育过程中增加,与教育水平密切相关。在解释这一发展轨迹方面,正规教育的年限比年龄更重要,以至于文盲成年人讲述他们的故事的结构模式与学龄前儿童相似[
58 ].
在深入了解潜在的病理标志物和病理混杂因素后,我们仍然需要讨论潜在的公共政策,以保护个人权利,不被评估,甚至未经同意被判断。
法例及资料私隐
奥托·哈恩1939年因发现核裂变并使核反应堆产生巨大能量而获得诺贝尔奖[
59 ].然而,他是一个有争议的历史人物,因为他的发现也允许制造第二次世界大战的原子弹。Arthur W Galston研究了2,3,5-三碘苯甲酸对大豆生长和开花的影响。后来,军方将其开发成橙剂,并在越南战争中作为化学武器使用。这使高尔斯顿成为一名生物伦理学家,并就科学滥用问题发表演讲。
60 ].同样,互联网、智能手机、社交媒体和搜索机制彻底改变了我们与知识的关系,以及人类与他人的关系。然而,不道德地滥用大数据来控制个人对信息的接触,刺激消费,并为了盈利目的而占用某人的时间,是这种发明扭曲的代理。
61 ].不管是科学的还是非科学的发现,都有不计其数的发现被其发明者以外的第三方滥用。很容易理解,通过语言来处理心理状态的技术是如何遵循同样的方式的。
例如,对言论自由的自动分析可以根据某人所说或所写的内容建立思维障碍指数[
13 ].此外,这些指标可以预测未来严重的精神疾病,如精神分裂症。也就是说,输入分析的数据可以从书籍、成绩单或其他公众可用的数据集(例如,社交媒体或个人博客)的书面文本中提取。考虑到人们的书面数据在互联网上的在线可用性,这增加了恶意使用的可能性。另一个可能利用现有信息来推断个人精神状态的例子是开头提到的Facebook研究。该算法可以以72%-77%的确定性预测未来严重的精神障碍。所有这些工作都重要地推进了科学,并为临床医生和政策制定者提供了有用工具的视角。此外,这些发现是在严格遵循伦理委员会给出的伦理标准的环境下开发的,并受到科学界的监督。然而,问题不在于这些规定的设置,而在于这项发明超越了科学家。
同样,伦理委员会审查和规范科学研究和卫生专业人员的做法;除了这些设置之外,法律的存在是为了监督和惩罚不规范使用大数据[
62 ].因此,现在人们对数字隐私的担忧越来越多,尤其是在几年前针对大型科技公司的诉讼提高了人们的意识之后。这些大型科技公司声称对人们的生活和个人信息拥有过多的权力。这导致了立法的增加,以规范个人信息的访问和使用,特别是那些在在线社交网络上公开的信息。然而,总是存在法律空白的风险,因为尖端发明暂时领先于保护它们不被滥用的立法。这在今天尤其明显,因为新的ML算法和技术出现的频率越来越高。在个人信息隐私保护立法没有涵盖这一差距的国家,这可能会助长对精神障碍患者的歧视。例如,允许在工作面试、学术面试等中滥用这些技术,基于对精神障碍的先入为主的想法将人从选择过程中解雇。
结论
综上所述,人工智能衍生的新技术有可能通过某人的行为和话语“看到”精神障碍。这些技术本身将极大地有助于疾病的早期检测和预后。然而,与精神障碍相关的历史和持久的耻辱妨碍了这些工具的使用。消除与精神障碍有关的偏见和歧视应成为未来的方向,以使污名化不会成为使用这些创新技术的障碍。此外,为了遵守非伤害原则,避免污名化,这些技术在预测某人未来患精神疾病的可能性时,也需要有较低的假阳性率。还有一个进一步的风险是,这些ML算法会变成黑盒模型。这种隐藏的偏见问题可能会潜在地损害患者的自主性和知情性。因此,有必要清楚地描述算法,使用事后解释方法,并进行偏差检查程序。此外,由于耻辱感以及个人口头和非口头语言的个人信息在网上的高可用性,从算法中获得的信息有被滥用的风险,例如因个人的精神健康状况而歧视个人。从这个意义上说,应该提高在现实环境中规范这些技术使用的意识。 There is a challenge for legislators to catch-up with the ever-renovating new technologies and algorithms designed to decipher human behavior to prevent these inventions from being misused.
缩写
人工智能
人工智能
武器
危险精神状态
AUC
曲线下面积
加护病房
重症监护室
毫升
机器学习
NBM就职于教育科技初创公司Motrix,并一直担任勃林格殷格翰(Boehringer Ingelheim)的顾问。其他作者没有利益冲突需要声明。
[
]1
劳伦森
米
《足球焦点》的观众是如何提醒我癌症恐慌的
英国广播公司
2018
09
07
2022-05-25
https://www.bbc.com/sport/football/45451518
[
]2
Elassar
一个
一位电视记者在观众注意到她脖子上有一个可疑的肿块后发现她患有癌症
美国有线电视新闻网
2020
2022-05-25
https://edition.cnn.com/2020/07/24/us/florida-reporter-cancer-viewer-lump-trnd/index.html
[
]3.
诺里斯
D
克拉克
女士
皮普
年代
精神状况检查
我是内科医生
2016
10
15
94
8
635
641
27929229
d12705
[
]4
Bavelas
简森-巴顿
Chovil
N
Manusov
V
帕特森
毫升
非语言和口头交流:在面对面对话中,手势和面部表情是语言使用的一部分
SAGE非语言沟通手册
2006
加州千橡市
SAGE出版公司
97
115
[
]5
科恩
搞笑
梅洛
毫米
大数据,大科技,保护病人隐私
《美国医学会杂志》
2019
09
24
322
12
1141
1142
10.1001 / jama.2019.11365
31397838
2748399
[
]6
豪斯
卡
沃斯
工作组
GDPR:谷歌和Facebook的终结,还是数据隐私的新范式?
里士满J法律技术公司
2018
1
25
[
]7
罗伯茨
JJ
大型科技公司与大型隐私诉讼案
《财富》杂志
2019
2022-05-25
https://fortune.com/2019/02/23/big-tech-vs-big-privacy-lawsuits/
[
]8
Shatte
上
哈钦森
DM
爱尔兰人
SJ
心理健康中的机器学习:方法和应用的范围审查
Psychol地中海
2019
07
49
9
1426
1448
10.1017 / S0033291719000151
30744717
S0033291719000151
[
]9
拉
BG
Borwein
年代
DeSouza
DD
辛普森
W
Rheault
l
玫瑰
J
即兴演讲的声学和语言特征及其与焦虑的关系:验证研究
JMIR Ment Health
2022
07
08
9
7
e36828
10.2196/36828
35802401
v9i7e36828
PMC9308078
[
]10
伯恩鲍姆
毫升
Norel
R
货车计
一个
阿里
房颤
Arenare
E
Eyigoz
E
Agurto
C
杰
N
凯恩
JM
这套
遗传算法
利用上传到Facebook上的语言和图像识别与精神疾病相关的信号
NPJ Schizophr
2020
12
03
6
1
38
10.1038 / s41537 - 020 - 00125 - 0
33273468
10.1038 / s41537 - 020 - 00125 - 0
PMC7713057
[
]11
沃克
英孚
精神分裂症的神经发育前体
精神分裂症的神经心理学
1994
伦敦
泰勒和弗朗西斯集团
119
129
[
]12
Schiffman
J
沃克
E
埃克斯特龙
米
Schulsinger
F
索伦森
H
Mednick
年代
儿童录像精神分裂症的社会和神经运动前体:一项前瞻性调查
精神病学杂志
2004
11
161
11
2021
7
10.1176 / appi.ajp.161.11.2021
15514402
161/11/2021
[
]13
贝蒂
G
Carrillo
F
这套
遗传算法
Slezak
DF
西格曼
米
莫塔
注
里贝罗
年代
Javitt
直流
Copelli
米
科克兰
厘米
自动分析言论自由预测高危青年精神病发作
NPJ Schizophr
2015
1
15030
10.1038 / npjschz.2015.30
27336038
PMC4849456
[
]14
科克兰
厘米
这套
遗传算法
使用语言处理和语音分析来识别精神病和其他疾病
神经科学神经影像学
2020
08
5
8
770
779
10.1016 / j.bpsc.2020.06.004
32771179
s2451 - 9022 (20) 30154 - 3
PMC7430500
[
]15
科克兰
厘米
米塔尔
弗吉尼亚州
Bearden
CE
E Gur
R
Hitczenko
K
比尔格拉米将
Z
萨维奇
一个
这套
遗传算法
沃尔夫
P
语言作为精神病的生物标志物:一种自然语言处理方法
Schizophr Res
2020
12
226
158
166
10.1016 / j.schres.2020.04.032
32499162
s0920 - 9964 (20) 30247 - 4
PMC7704556
[
]16
莫塔
注
Copelli
米
里贝罗
年代
以随机言语结构测量的思维障碍可将阴性症状和精神分裂症提前6个月诊断
NPJ Schizophr
2017
3.
18
10.1038 / s41537 - 017 - 0019 - 3
28560264
19
PMC5441540
[
]17
斯宾塞
TJ
汤普森
B
奥利弗
D
Diederen
K
Demjaha
一个
温斯坦
年代
摩根
SE
一天
F
Valmaggia
l
Rutigliano
G
De Micheli
一个
莫塔
注
Fusar-Poli
P
McGuire
P
较低的言语连通性与临床高危人群的精神病发病率有关
Schizophr Res
2021
02
228
493
501
10.1016 / j.schres.2020.09.002
32951966
s0920 - 9964 (20) 30458 - 8
[
]18
Stanislawski
呃
比尔格拉米将
ZR
Sarac
C
Garg
年代
Heisig
年代
这套
遗传算法
Agurto
C
科克兰
厘米
临床精神病高危青年的阴性症状和言语停顿
NPJ Schizophr
2021
01
22
7
1
3.
10.1038 / s41537 - 020 - 00132 - 1
33483485
10.1038 / s41537 - 020 - 00132 - 1
PMC7822906
[
]19
奥斯本
KJ
伯纳德
晶澳
古普塔
T
迪安
DJ
米尔曼
Z
巴尔加斯
T
Ristanovic
我
Schiffman
J
米塔尔
弗吉尼亚州
青少年精神病高危人群的打击乐手势和姿势控制
Schizophr Res
2017
07
185
197
199
10.1016 / j.schres.2016.11.028
27914727
s0920 - 9964 (16) 30521 - 7
PMC5449260
[
]20.
Lopes-Rocha
交流
科克兰
厘米
安德雷德
JC
Peroni
l
哈达德
纳米
Hortencio
l
Serpa
MH
范德比尔特
太
Gattaz
WF
尼斯
AA
在medication-naïve有精神病风险心理状态的个体的言语任务中的运动能量分析
精神分裂症(Heidelb)
2022
09
16
8
1
73
10.1038 / s41537 - 022 - 00283 - 3
36114187
10.1038 / s41537 - 022 - 00283 - 3
PMC9481869
[
]21
哈维
D
Lobban
F
Rayson
P
华纳
一个
琼斯
年代
自然语言处理方法与双相情感障碍:范围综述
JMIR Ment Health
2022
04
22
9
4
e35928
10.2196/35928
35451984
v9i4e35928
PMC9077496
[
]22
杨
l
沙利
H
夏
X
裴
E
Oveneke
MC
姜
D
基于音视频和文本信息的混合洼地分类与估计
第七届视听情感挑战研讨会论文集
2017
10
用“17
10月23日
加州山景城
45
51
10.1145/3133944.3133950
[
]23
他
l
郭
C
女子
P
苏
R
Pandey
H
见鬼
W
DepNet:一个自动化工业智能系统,使用深度学习进行基于视频的凹陷分析
Int J智能系统
2021
10
06
37
7
3815
3835
10.1002 / int.22704
[
]24
科瓦尔斯基
R
Peipert
一个
身体和心理残疾所带来的公众和自我的耻辱
耻辱的健康
2019
05
4
2
136
142
10.1037 / sah0000123
[
]25
更短的
E
精神病学史:从疯人院时代到百忧解时代
1997
牛津大学,英国
John Wiley & Sons
[
]26
福柯
米
霍华德
R
疯狂与文明:理性时代的精神错乱史
1988
纽约
古董
[
]27
狐狸
AB
恩萧
弗吉尼亚州
餐馆
电子商务
沃格特
D
概念化和测量精神疾病病耻感:精神疾病病耻感框架和措施的批判性审查
耻辱的健康
2018
11
3.
4
348
376
10.1037 / sah0000104
30505939
PMC6261312
[
]28
Larkings
JS
棕色(的)
点
生物遗传因果信念能减少精神疾病患者和精神卫生专业人员对精神疾病的耻辱感吗?系统回顾
国际保健护士
2018
06
27
3.
928
941
10.1111 / inm.12390
28942615
[
]29
尼斯
AA
Hengartner
国会议员
Guarniero
神奇动物
劳森
FL
王
Y
Gattaz
WF
Rossler
W
信息越多,对精神分裂症的负面污名化程度越高:巴西普通人群和精神病学家的比较
精神病学Res
2013
02
28
205
3.
185
91
10.1016 / j.psychres.2012.11.023
23266022
s0165 - 1781 (12) 00779 - 2
[
]30.
如果
卡
权力
KS
布赖恩特
C
唐宁
D
威尔第
MB
Elacqua
公里
Reuman
陆军研究实验室
肯尼迪
l
夏皮罗
迪
西
毫升
黄
D
发嘎吱嘎吱声
调频
Grivel
毫米
Blasco
D
Herrera
SN
科克兰
厘米
塞德曼
LJ
链接
BG
麦克法兰
或者说是
杨
韩
与被告知有精神病风险相关的情绪和耻辱相关的经历
Schizophr Res
2021
12
238
44
51
10.1016 / j.schres.2021.09.017
34598105
s0920 - 9964 (21) 00377 - 7
PMC8633064
[
]31
拉森
新兴市场
Herrera
年代
比尔格拉米将
ZR
Shaik
RB
发嘎吱嘎吱声
F
Sarac
C
沈
J
杨
韩
科克兰
厘米
临床精神病高风险个体中与自我污名相关的羞耻感和面部恐惧识别:一份简短的报告
Schizophr Res
2019
06
208
483
485
10.1016 / j.schres.2019.01.027
30700396
s0920 - 9964 (19) 30019 - 2
PMC6544472
[
]32
Setti
VPC
尼斯
AA
Modelli
一个
德阿尔梅达罗卡
CC
Hungerbuehler
我
范德比尔特
太
Gattaz
WF
Rossler
W
揭露精神分裂症的诊断:“骄傲地出来”干预的试点研究
美国精神病学学会
2019
05
65
3.
244
251
10.1177 / 0020764019840057
30915887
[
]33
范德桑登
那么使用RLM
Bos
一个
Stutterheim
年代
普赖尔
J
角
G
精神疾病患者家庭成员之间的污名化经历
Rehabil Psychol
2013
02
58
1
73
80
10.1037 / a0031752
23438002
2013-06066-008
[
]34
Angermeyer
MC
Schulze
B
迪特里希
年代
礼貌污名——精神分裂症患者亲属的焦点小组研究
精神病学流行病学
2003
10
38
10
593
602
10.1007 / s00127 - 003 - 0680 - x
14564387
[
]35
黄
C
戴维森
l
很多
D
链接
B
Gerson
R
Malaspina
D
McGlashan
T
科克兰
C
精神病早期个体家庭中的病耻感:家庭病耻感与早期精神病
早期干预精神病学
2009
05
3.
2
108
15
10.1111 / j.1751-7893.2009.00116.x
19777087
PMC2748954
[
]36
杨
韩
如果
卡
链接
BG
科克兰
厘米
布赖恩特
C
夏皮罗
迪
唐宁
D
Girgis
RR
Brucato
G
黄
D
发嘎吱嘎吱声
调频
威尔第
米
麦克法兰
或者说是
塞德曼
LJ
“精神病风险”识别的影响:检验年轻人如何看待自己的预测因素
Schizophr Res
2019
06
208
300
307
10.1016 / j.schres.2019.01.037
30792136
s0920 - 9964 (19) 30040 - 4
PMC7079577
[
]37
科克兰
C
Malaspina
D
Hercher
l
精神分裂症脆弱性的前驱期干预:处于“危险”的风险
Schizophr Res
2005
03
01
73
2 - 3
173
84
10.1016 / j.schres.2004.05.021
15653260
s0920 - 9964 (04) 00218 - x
PMC2987621
[
]38
Koutsouleris
N
沃辛顿
米
德怀尔
DB
Kambeitz-Ilankovic
l
Sanfelici
R
Fusar-Poli
P
罗森
米
Ruhrmann
年代
Anticevic
一个
亚丁顿
J
珀金斯
做
Bearden
CE
Cornblatt
英航
Cadenhead
KS
Mathalon
DH
McGlashan
T
塞德曼
l
Tsuang
米
沃克
英孚
森林
西南
Falkai
P
唁电
R
Bertolino
一个
Kambeitz
J
Schultze-Lutter
F
Meisenzahl
E
Salokangas
RKR
Hietala
J
Brambilla
P
Upthegrove
R
Borgwardt
年代
木
年代
电流的
再保险
McGuire
P
大炮
道明
精神病预测的可推广和跨诊断工具:多位点PRONIA队列中NAPLS-2风险计算器的独立验证和改进
生物精神病学杂志
2021
11
01
90
9
632
642
10.1016 / j.biopsych.2021.06.023
34482951
s0006 - 3223 (21) 01433 - 5
PMC8500930
[
]39
西蒙
AE
Velthorst
E
尼曼
DH
Linszen
D
Umbricht
D
de Haan
l
精神病和非转化的超高危险状态:一项系统综述
Schizophr Res
2011
10
132
1
8
17
10.1016 / j.schres.2011.07.002
21784618
s0920 - 9964 (11) 00370 - 7
[
]40
示
J
Norup
J
妹妹
G
Bjerregaard
B
模式分类的pap -涂片基准数据
2005
01
01
NiSIS 2005:自然启发的智能信息系统,欧盟协调行动
2005
Albufeira、葡萄牙
1
9
[
]41
威廉
W
制品
一个
Basaza-Ejiri
啊
Obungoloch
J
子宫颈抹片分析工具(PAT)用于从子宫颈抹片图像检测子宫颈癌
生物医学工程在线
2019
02
12
18
1
16
10.1186 / s12938 - 019 - 0634 - 5
30755214
10.1186 / s12938 - 019 - 0634 - 5
PMC6373062
[
]42
Colizzi
米
最近
米
Lasalvia
一个
我们是否应该关注精神病风险人群的污名化和歧视?系统回顾
Psychol地中海
2020
04
50
5
705
726
10.1017 / S0033291720000148
32063250
S0033291720000148
[
]43
Varkey
B
临床伦理学原则及其在实践中的应用
Princ医院
2021
30.
1
17
28
10.1159 / 000509119
32498071
000509119
PMC7923912
[
]44
莱特
一个
Jorm
房颤
麦金农
AJ
对年轻人精神障碍和污名化的标签
社会科学与医学
2011
08
73
4
498
506
10.1016 / j.socscimed.2011.06.015
21794967
s0277 - 9536 (11) 00371 - 6
[
]45
Montemagni
C
贝利诺
年代
Bracale
N
Bozzatello
P
罗卡
P
预测临床高风险患者精神病的模型:一项系统综述
前精神病学
2020
11
223
10.3389 / fpsyt.2020.00223
32265763
PMC7105709
[
]46
Wongvibulsin
年代
吴
KC
Zeger
SL
通过临床医生定制的黑盒算法可视化显示改进机器学习方法的临床翻译:开发和验证
JMIR Med Inform
2020
06
09
8
6
e15791
10.2196/15791
32515746
v8i6e15791
PMC7312245
[
]47
Lapuschkin
年代
Waldchen
年代
粘结剂
一个
Montavon
G
Samek
W
穆勒
基米-雷克南
揭露聪明汉斯预测器,评估机器真正学习的东西
Nat Commun
2019
03
11
10
1
1096
10.1038 / s41467 - 019 - 08987 - 4
30858366
10.1038 / s41467 - 019 - 08987 - 4
PMC6411769
[
]48
泽赫
小
Badgeley
妈
刘
米
科斯塔
AB
Titano
JJ
Oermann
埃克
在胸片中检测肺炎的深度学习模型的可变泛化性能:一项横断面研究
科学硕士
2018
11
15
11
e1002683
10.1371 / journal.pmed.1002683
30399157
pmedicine - d - 18 - 01277
PMC6219764
[
]49
阿曼
J
Blasimme
一个
Vayena
E
弗雷
D
玛
6
Precise4Q财团
医疗保健领域人工智能的可解释性:多学科视角
BMC Med通知Decis Mak
2020
11
30.
20.
1
310
10.1186 / s12911 - 020 - 01332 - 6
33256715
10.1186 / s12911 - 020 - 01332 - 6
PMC7706019
[
]50
Holzinger
一个
语言
G
德克
H
Zatloukal
K
穆勒
H
人工智能在医学中的因果性和可解释性
威利光盘Rev Data Min Knowl discoverv
2019
9
4
e1312
10.1002 / widm.1312
32089788
WIDM1312
PMC7017860
[
]51
阿卜杜拉
TAA
Zahid
二甲基砜
阿里
W
医疗保健中的可解释机器学习综述:分类、应用、挑战和未来方向
对称
2021
12
17
13
12
2439
10.3390 / sym13122439
[
]52
Arbelaez骨
l
斯达克
G
洛伦西尼
G
沃格特
我
肖
DM
Elger
废话
重新关注医学的解释性
数字健康
2022
8
20552076221074488
10.1177 / 20552076221074488
35173981
10.1177 _20552076221074488
PMC8841907
[
]53
Lambden
年代
Laterre
PF
莱维
毫米
弗朗索瓦
B
SOFA评分——临床试验中准确评估的发展、应用和挑战
暴击治疗
2019
11
27
23
1
374
10.1186 / s13054 - 019 - 2663 - 7
31775846
10.1186 / s13054 - 019 - 2663 - 7
PMC6880479
[
]54
唐
电子战
黄
C
Herbison
P
全球急性冠脉事件注册(GRACE)出院风险评分准确预测急性冠脉综合征后的长期死亡率
Am Heart J
2007
01
153
1
29
35
10.1016 / j.ahj.2006.10.004
17174633
s0002 - 8703 (06) 00896 - 9
[
]55
格罗特
T
焦点
P
论医疗保健中算法决策的伦理学
医学伦理学
2020
03
46
3.
205
211
10.1136 / medethics - 2019 - 105586
31748206
medethics - 2019 - 105586
PMC7042960
[
]56
Hitczenko
K
考恩
人力资源
保护
米
米塔尔
弗吉尼亚州
精神病理学计算方法中的种族和民族偏见
Schizophr牛
2022
03
01
48
2
285
288
10.1093 / schbul / sbab131
34729605
6420107
PMC8886581
[
]57
莫塔
注
Pimenta
J
Tavares
米
Palmeira
l
尼斯
AA
Hedin-Pereira
C
迪亚斯
电子商务
巴西的一项自下而上的战略,旨在解决一大片领土内多样化人口的心理健康问题——这是使用数字心理健康的灵感
精神病学Res
2022
05
311
114477
10.1016 / j.psychres.2022.114477
35245744
s0165 - 1781 (22) 00091 - 9
[
]58
莫塔
注
西格曼
米
这套
G
Copelli
米
里贝罗
年代
精神病患者言语结构的成熟是抗拒正规教育的
NPJ Schizophr
2018
12
07
4
1
25
10.1038 / s41537 - 018 - 0067 - 3
30531913
10.1038 / s41537 - 018 - 0067 - 3
PMC6286358
[
]59
沃克
米
奥托·哈恩:责任和压抑
物理教谕
2006
5
8
2
116
163
10.1007 / s00016 - 006 - 0277 - 3
[
]60
Zierler
D
《生态灭绝剂的发明:橙剂、越南和改变我们对环境看法的科学家
2011
佐治亚州雅典
佐治亚大学出版社
[
]61
香农
H
布什
K
维伦纽夫
PJ
Hellemans
公斤
Guimond
年代
青少年和年轻人有问题的社交媒体使用:系统回顾和元分析
JMIR Ment Health
2022
04
14
9
4
e33450
10.2196/33450
35436240
v9i4e33450
PMC9052033
[
]62
尼古拉斯
J
Onie
年代
拉森
我
心理健康社交媒体研究中的伦理和隐私
高级精神病学代表
2020
11
23
22
12
84
10.1007 / s11920 - 020 - 01205 - 9
33225404
10.1007 / s11920 - 020 - 01205 - 9