你的机器人治疗师现在就能看到你:具身人工智能在精神病学、心理学和心理疗法中的伦理意义

简介

嵌入式人工智能(AI)的研究与精神卫生服务中的治疗应用(即精神病学、心理学和心理疗法)的临床相关性越来越大。创新包括“虚拟心理治疗师”[1到痴呆症护理和自闭症障碍的社交机器人[2和治疗性功能障碍的机器人[3.］．越来越多的人工智能虚拟和机器人代理不仅可用于相对较低层次的心理健康支持，如安慰或社交，而且还可执行高水平的治疗干预，这些干预过去只由心理治疗师等训练有素、技术熟练的卫生专业人员提供[4］．重要的是，这种“虚拟”或“机器人治疗师”包括一种人工智能算法，它可以独立于任何人类专家的指导，通过虚拟实体存在(如面部图标)或物理实体存在(如机器人界面)对客户或患者做出反应。因此，这些新兴的应用与许多基于网络的治疗不同，后者通常涉及人类治疗师，尽管远程(远程医疗)，或患者本人，独立使用手册、问卷或其他自助材料。5］．

在精神卫生保健方面的嵌入式人工智能应用有望提高护理质量和控制支出[6］．此外，它们还有望为需要精神卫生服务的服务不足人群提供服务，并改善弱势群体的生活机会。然而，人工智能心理健康目前的快速发展与卫生专业人员和患者成功地将这些工具应用到临床环境之间存在着长期的差距。此外，已证明干预措施的设计往往没有任何明确的伦理考虑[7］．此外，尽管研究经常检查单一应用的有效性或伦理使用，但很少考虑更广泛地将人工智能整合到精神卫生领域的影响。在这篇论文中，我们认为虚拟和物理实体的人工智能代理及其应用在心理健康保健中具有巨大的潜力。然而，它们的社会和伦理影响需要进一步研究，以确定围绕信任、隐私和自主权的相关关注，以及预测未来可能出现的关注。确定具体化人工智能的更广泛的伦理和社会影响，对于协商创新精神卫生保健的最佳研究和医疗实践至关重要。最后，我们指出了未来研究的领域，并确定了需要伦理谨慎的要点。

概述:现有的嵌入式智能应用程序

尽管人工智能支持的虚拟和机器人治疗长期以来被应用于多个医疗领域[8-10]，通过使用嵌入代理来整合人工智能在精神卫生保健中仍处于早期阶段;可以说，它是心理治疗实践的最新加入，支持一系列情感、认知和社会过程[11］．在接下来的内容中，我们概述了一系列的应用，目的是描述贯穿心理健康领域的一些具体化的人工智能创新。为了在一个广泛和不断发展的领域保持专注，我们选择从我们的分析应用程序中排除那些不打算与患者交互的，或没有虚拟存在或机器人接口的应用程序;这包括人工智能支持的扫描和诊断工具。我们也排除了可能有虚拟或机器人界面但不使用人工智能的应用程序，如远程医疗治疗(有关该主题的进一步学术研究，请参阅[12-19])。

虚拟实体化人工智能代理

人工智能支持的虚拟身体精神治疗设备目前发展迅速。例如，Tess等治疗应用程序和Sara、Wysa和Woebot等其他“聊天机器人”(通过短信服务、WhatsApp或互联网平台运行)正在被探索用于解决抑郁和焦虑。这些应用程序具有交互式屏幕呈现。Woebot和其他项目像虚拟的心理治疗师一样与患者打交道，目的是帮助患者认识自己的情绪和思维模式，并培养适应能力或减少焦虑的技巧等技能。例如，通过自然语言处理，苔丝被编程标记出表明情绪痛苦的表达。机器人通常被视为一种数字工具，用于帮助世界各地缺乏精神卫生服务、服务不足的人群。机器人可以向用户解释他们所经历的临床术语——如认知扭曲——或提供识别和处理困难情况的具体建议[20.］．最初的研究发现，使用Woebot比使用电子书资源的人更能减轻抑郁症状[21]，另一项研究发现，Tess有助于减少使用者的抑郁和焦虑[20.］．

类似的方法包括使用化身，如阿凡达项目，以解决精神病患者的持续性幻听[22］．这些技术通常包括在电脑屏幕或平板电脑上通过智能算法与患者交互的计算机生成的面部图像。阿凡达也被用于精神分裂症的治疗，例如，提高药物依从性[23］．与阿凡达项目类似，精神分裂症的虚拟现实辅助治疗通常鼓励患者通过使用人工智能化身与他们听到的声音接触。初步研究发现，这种疗法可以帮助开发治疗靶点[24也适用于特别困难的精神分裂症病例[25］．另一项研究发现，对难治性精神分裂症患者进行治疗后，其幻听、视觉幻觉、抑郁症状和整体生活质量均有所改善[26］．“阿凡达教练”也被用作沉浸式虚拟现实情境的一部分，用于治疗恐高症。27]或作为“虚拟病人”，为医学生提供栩栩如生的面谈练习[28］．最后，虚拟形象也被用于风险预防教育，如Kognito项目，该项目使用虚拟形象帮助大学生和教师识别其他有自杀风险的人。29］．

人工智能机器人治疗

除了这些虚拟体现的治疗应用，临床医生和科学家正在探索将人工智能和机器人交叉领域的创新转化为临床。例如，像帕罗(Paro)这样的智能动物机器人，一只毛茸茸的竖琴海豹，正越来越多地被用于帮助痴呆症患者。帕罗和毛茸茸的大e熊都是“伴侣机器人”的一员，它们让个人成为家庭保健助手，通过动态的“对话”对讲话和动作做出反应，或寻求通过陪伴和互动来帮助老年人、孤僻患者或抑郁症患者。有几项研究考察了这种机器人在减轻压力、孤独感和焦虑、改善情绪和社会联系方面的作用[30.，31］．到目前为止，成果是有希望的[32，33］．

人工智能机器人还为患有自闭症谱系障碍(ASDs)的儿童提供了不同形式的接触机会[34］．研究发现，自闭症儿童对机器人反应积极，即使是在与他人互动困难的情况下[35］．Kaspar机器人已显示出在当前教育和治疗干预中集成的潜力[36，并正在研究其提高儿童社交技能的潜力[37］．类似地，RoboTherapy是一个社交辅助机器人的例子，旨在帮助自闭症儿童发展社交技能，机器人Nao旨在提高面部识别和适当的凝视反应。这种机器人互动的目的是学习适当的社交技能(例如，模仿、轮流、保持参与和同理心)，希望孩子们可以将从机器人同伴那里学到的技能应用到与人类同伴的关系中。初步研究是有希望的;自闭症患者在与机器人伙伴相处时比人类治疗师表现得更好，对机器人有社会行为反应，在治疗过程中提高了自发语言能力[38］．然而，该设备仍在开发中，尚未广泛用于治疗。

人工智能机器人也被应用于其他各种心理健康领域，包括情绪和焦虑障碍、有破坏性行为的儿童，以及可能没有明确诊断但可以从心理健康方面的帮助中受益的患者[39］．也许，最具争议的是，人工智能机器人已经进入了人类性行为领域。公司现在提供像Roxxxy这样的成人性爱机器人，它能说话，能了解人类伴侣的喜好，能识别触摸，还能提供一种亲密的陪伴。尽管性爱机器人在医学上的应用范围仍有争议，其中包括满足残疾人和老年人的性需求，或作为治疗诸如勃起功能障碍、早泄和性焦虑等问题的一部分[40］．此外，一些研究人员询问，性爱机器人是否有助于减少强奸和性侵犯等性犯罪，或用于治疗恋童癖等性偏执狂[3.，41］．

方法

基于专题文献分析和医学伦理学的既定原则，在精神病学、心理学和心理疗法领域对目前体现的AI应用的伦理和社会方面进行了分析。为了能够进行全面评价，分析的结构围绕以下三个步骤:评估潜在利益;分析主要的伦理问题和关注;关于干预措施的具体伦理和社会问题的讨论。

结果

伦理和社会影响及关注

上述设备和应用尚未整合到广泛的临床应用中。然而，考虑到这些应用的研究和发展轨迹的速度，我们有理由期待治疗聊天机器人、虚拟形象、社会辅助设备和性机器人将很快转化为更广泛的临床应用。在某些情况下，初步的伦理评估已经可用[42，43];然而，这些研究大多集中在单个应用上。总的来说，对于我们正在讨论的大多数应用，尚未进行大规模的严格研究或仍处于试点阶段[44-47］．即使在基于网络的非人工智能应用中，常规护理中患者接受度和治疗结果的证据仍然有限且好坏参半[48，49];到目前为止，在精神健康领域，关于嵌入式AI应用的患者接受度和或有治疗结果的研究很少。与任何医学创新一样，只有在证据得到改进之后，才能充分评估应用的效果、影响和临床用途[50，51］．

为了使负责任和响应式的创新和临床转化进入精神卫生领域，有必要进一步和更深入地分析实体化人工智能的伦理和社会影响，以标记关注领域。早期识别伦理问题可以帮助研究人员、设计师和开发人员在设计和建造下一代人工智能代理和心理健康机器人时考虑这些问题。在以下部分中，我们从伦理角度分析了实体化人工智能在心理健康方面的益处、挑战和风险。我们从讨论潜在的好处开始，然后转向风险和挑战，然后是临床应用的当前关注和长期影响。

预期的收益

所有上述的智能应用都有望为精神健康领域带来重大益处，满足慈善伦理原则的许多方面[52］．从临床角度来看，使用嵌入的人工智能应用程序有可能为仍有大量卫生需求未得到满足的地方开辟新的干预途径。人工智能干预可能特别适合于早期发现心理健康问题，用于触及退伍军人等高危群体，或用于那些担心与心理治疗相关的社会耻辱的人[53］．在某些情况下，患者可能会积极和有效地回应对方的事实不人类治疗师[54-56］．在一项研究中，当受试者出院时，绝大多数人更喜欢虚拟代理，而不是人类代理，因为虚拟代理可以自我指挥信息的传递速度——这对低文化水平的患者尤其重要[57］．因此，在心理健康服务中，非人类虚拟或机器人应用程序可能更适合一些患者，减少询问特定信息或服务时的尴尬，或承认不遵守治疗计划时的羞耻感。精神卫生领域的嵌入式人工智能还可以帮助增强特定患者群体的能力(例如那些不太熟悉医疗系统的患者)，从而帮助提高患者与医疗系统之间的信任和开放性。人工智能应用的另一个重要优势是，许多应用是低门槛和自我管理的，这样，没有急性疾病的人可以选择服务，而无需经过耗时的筛选和进入医疗保健系统的过程。

可以说，人工智能应用的最大好处是结构性的，即有可能接触到难以通过传统供应途径治疗的人群。例如，通过聊天机器人或化身提供一些精神卫生服务，通过低门槛、方便的治疗干预，可能对生活在资源匮乏环境中的人口特别有益。对于那些生活在偏远或农村地区或现场精神卫生服务缺乏的环境中的人，智能应用程序可以增加地理上的可及性，并在缺乏精神卫生服务的地方提供一些最低限度的精神卫生保健服务。对于生活在高收入国家但没有保险或保险不包括治疗费用的个人来说，情况可能也是如此。此外，很可能有一些人，由于各种原因，对更传统的临床服务没有反应，他们可能更喜欢在家中或在路上进行的低门槛干预。对于所有这些患者，人工智能应用可以补充现有服务，或构成未来追求更标准临床干预的切入点。

总之，嵌入式人工智能干预可能提供全新的治疗模式，这些模式可能比传统模式更成功，因为它们针对的是难以触及的人群，或因为患者对它们的反应更好。这种情况是否存在，在哪些情况下是这样，需要进一步的调查。然而，鉴于广义而言，自闭症谱系障碍和性功能障碍等疾病的发病率正在上升，患有这些疾病和许多其他精神卫生疾病的患者群体的卫生需求仍未得到满足[58-62]，在这些领域增加嵌入式AI的探索是有前途的。

最后，拥有一个虚拟或机器人治疗师也有明显的好处，它总是可以接近的，有无尽的时间和耐心，永远不会忘记病人说过的话，而且不会判断。63，64]，从而有可能提供一种高度可靠、特别适合特定患者群体的服务。如果将支持人工智能的应用程序集成到可扩展的服务提供中，则可为轻度抑郁症和其他非急性疾病提供支持[65]，从而帮助卫生专业人员将更多的时间用于治疗最严重的病例。鉴于精神卫生方面的疾病负担总体上日益加重，在资源有限的背景下，这些都是值得考虑的重要利益。然而，很可能并不是所有的精神卫生保健专业人员都热情地接受嵌入式人工智能，有些人甚至可能因为伦理或临床方面的考虑而对其使用产生严重的疑虑。到目前为止，还没有对特定心理健康领域内或跨领域接受人工智能的情况进行实质性审查，这标志着一个需要进一步研究的领域。

首要的伦理问题

伤害预防和数据伦理问题

为了满足公认的无伤害的伦理原则，在心理健康方面需要对嵌入的AI应用进行更有力的研究，以防止在治疗过程中以及在机器人可能发生故障或以不可预测的方式操作的情况下造成伤害。例如，在采访使用人工智能机器人技术的受访者时，Cresswell等人讨论了一个例子，一个女人和机器人被困在电梯里，另一个女人被机器人碾过。6］．聊天机器人和虚拟化身也可能停止工作或发生故障。因此，需要讨论的是，嵌入的人工智能设备(可能包括虚拟代理和免费提供的精神健康应用程序)是否需要像其他医疗设备一样，在批准临床使用之前进行严格的风险评估和监管。

与医疗环境中使用的其他设备类似，在精神卫生保健中使用任何人工智能应用程序都需要仔细考虑沟通个人健康信息的设备的数据安全、产生的数据的使用方式，以及黑客攻击和未经授权监控的可能性[66，67］．对于智能虚拟代理和辅助机器人收集的数据的保密性、信息隐私、安全管理以及用于监测习惯、移动和其他交互的问题，需要明确的标准[68，69］．随着数据收集量的不断扩大，对隐私的担忧可能会被放大;例如，我们预计集成视频数据的应用程序将需要有特定的隐私保护，以用于敏感信息的通信，或与除同意的患者以外的个人有关的信息。

缺乏发展、临床整合和培训的指导

由于具身人工智能是心理学和精神病学研究和治疗领域中最新和变化最快的领域之一，现有的法律和伦理框架往往不能与这些变化密切协调。而不是提供监管指导，存在的风险是，只有在损害已经发生时，应用和伦理框架之间的“差距”才会得到解决[6］．同样，许多新兴医疗技术都是如此;然而，鉴于在传统卫生技术评估和医疗监督系统不完全适用的环境中，例如通过免费提供的治疗聊天机器人，将嵌入式人工智能快速转化为实践，这是一个重要的问题。尽管预测伴随未来发展而出现的伦理和法律问题是困难的，但有必要积极反思实体化精神健康人工智能的“监管适合度”。建立指导方针的倡议正在出现，包括在线合作生成的文件“计算工件的道德责任:规则”，或最近的“一个良好人工智能社会的道德框架:机会、风险、原则和建议”[70］．然而，到目前为止，还没有专门针对精神保健服务领域的指导意见;指出需要制定进一步的建议，以更好地指导这方面的进展。

除了缺乏针对设计、使用和监管问题制定这些干预措施的指导外，到目前为止，也没有关于医疗专业人员如何有效参与和培训，以便在临床增加使用嵌入式人工智能的框架;也就是说，尽管有越来越多的学术和流行文献介绍如何将嵌入的人工智能整合到精神卫生的临床实践中，但仍缺乏专业机构在精神卫生服务中最佳使用人工智能方面的高级别指导[15，71-73］．此外，也没有关于如何培训和培养年轻医生进入心理健康领域的建议，而在这个领域，患者将越来越多地使用这类工具。因此，需要进一步的道德准则，以专门帮助将监督已经或可能参与人工智能服务的患者的精神卫生专业人员。

可能滥用以减少服务提供

在合乎伦理的情况下整合人工智能还应考虑公正提供精神卫生保健的问题[52］．有人担心，将人工智能纳入精神卫生可能成为取代现有服务的理由，导致可用的卫生资源或主要由人工智能驱动的服务减少，从而可能加剧现有的卫生不平等。许多支持者坚持认为，尽管聊天机器人采用了基于证据的心理治疗方法，但它并不打算完全取代治疗师。在某些情况下，人们正在探索包括面对面和虚拟治疗形式的“混合”护理形式[74]，这可能也适用于智能应用程序。混合护理模式潜在地提供了利用人工智能应用和亲自临床监督的优势的机会。然而，在精神卫生保健中实施人工智能应用是否合适，部分取决于该领域其他资源的可用性。如前所述，在精神卫生服务有限的情况下，人工智能应用可以提供所需的资源，这肯定比完全没有服务好。然而，在这一点上，人工智能精神卫生服务不是高资源卫生保健系统中可用的那种强大的、多层次的精神卫生保健的替代品或替身。因此，从伦理的角度来看，适当考虑每个情况下的精神卫生资源现状非常相关[75］．否则，精神卫生领域的人工智能工具可能被用作借口，减少在资源匮乏的环境中由训练有素的精神卫生专业人员提供高质量、多层次的护理。

讨论

应用中的具体挑战

风险评估、转诊和监督

考虑到在精神卫生实践中应用嵌入式人工智能工具，需要牢记一系列具体挑战:如果患者表示他们对自己或他人构成威胁，精神卫生专业人员有道德责任通知其他服务提供者以及第三方或当局。这将如何在人工智能干预中发挥作用，特别是在没有合格卫生专业人员监督人工智能代理和患者之间的互动的情况下，仍有待确定。目前尚不清楚患者家中的辅助机器人，或免费提供的虚拟代理和聊天机器人，何时以及如何有效地将高危人群与适当的服务连接起来，包括住院和其他保护措施。在上述利用人工智能精神健康应用向农村、交通不便或无保险人口提供服务的情况下，这一场景尤其相关。在这些情况下，提供一些服务可以说是聊胜于无。然而，如果一个治疗机器人通过语音模式检测到一个人有较高的自残风险，而该地区却没有适当的转诊服务，该怎么办呢?

与客户建立治疗关系的人工智能应用程序可能也需要受到约束心理健康专业人员的类似伦理准则的约束。然而，到目前为止，人工智能的注意义务或报告伤害的实践守则应该如何操作还完全不清楚。一个显而易见的建议是，总是要求有资格的心理健康临床医生进行监督——当人类治疗师评估患者自我伤害的表现时，她也会在解释风险水平时考虑到相关信息。机器人治疗师是否以及在何种程度上能够做到这一点尚不清楚。然而，许多人工智能应用是在现有的精神卫生环境之外可用的;此外，计算机化方法识别和预测精神疾病的能力也在不断提高[12，13，以及他们的治疗互动和沟通技能。因此，是否应该始终对卫生领域的人工智能进行监督，以及如何成功地实施这一要求，仍然是一个有待进一步辩论的主题。

尊重和保护患者自主权

对在精神卫生实践中应用实体化人工智能的另一个关注集中在赋予和尊重患者自主权[52］．这些新技术需要进行评估，以确保患者完全理解应用程序或化身的工作方式，以确保患者不会误解或错误地将智能系统视为人类驱动的应用程序。例如，如果病人认为聊天机器人的“另一端”有一位医生在与她交流或查看她的信息，那就有问题了。此外，在医疗系统以外的应用程序获得许可引发了棘手的问题。例如，老年人或智障人士可能无法理解机器人是什么，或当机器人安装在家中监视病人的活动时，机器人会做什么，有侵犯隐私的风险[42，操纵，甚至在不满足知情同意条件的情况下胁迫。这些问题使得同意与机器人进行监视、交互和数据收集成为挑战性的问题。可以将被视为帮助和监测的干预措施与那些有操纵和胁迫风险的干预措施区别开来;然而，这些界限在理论和实践中往往是模糊的[76］．需要解决的问题是，人工智能应用程序应该如何评估患者是否完全理解在表示同意时提供的信息，以及在个人无法提供同意的情况下如何进行，例如儿童、痴呆患者、智力残疾患者或精神分裂症急性期患者。

与促进在精神保健中自主使用人工智能有关的另一个特别令人关注的领域是弱势群体的参与。研究表明，当机器人要求人们做某事时，人们比人类更顺从。9］．尽管在帮助自闭症患者或那些需要做出艰难行为改变的患者时，这可能会带来更好的结果，但人们仍然担心，人们可能会被操纵或强迫去做他们不应该做的事情，或者他们没有充分考虑过的事情，要么是因为设备的新奇性，要么是因为缺乏同伴来讨论替代方案。一些研究区分了将机器人看护者拟人化时的“暂停怀疑”和欺骗本身［42，77]，但这是一个需要在实践中进一步研究的问题。

非人类的治疗呢?

总的来说，问题仍然是，是否有治疗相遇的某些方面是无法通过人工智能实现的。有些治疗效果可能难以预料，或者与特定个体与他或她的治疗师的关系高度相关。一项研究发现，具体化的会话代理很难在实时对话中评估用户的情绪状态，而在基于web的治疗抑郁和焦虑的心理健康干预中，缺少人类治疗师对用户遵守程序产生了负面影响[78］．在失眠的治疗中，一些患者表示，他们怀念有一个人类治疗师[79］．同样，由于机器人和人工智能系统模糊了之前假设的现实和虚构之间的界限，这可能会对患者产生复杂的影响。与治疗关系类似，也存在情感、思想和感觉转移到机器人的风险。特别是，考虑到许多目标人群由于他们的疾病、年龄或在卫生保健设施中的生活状况而容易受到伤害，还有一个额外的担忧是，病人在与机器人接触时会容易受到伤害，因为他们希望得到陪伴或感到被照顾[80］．然而，与治疗师不同的是，在这种移情的另一边没有人。机器人治疗师是否能够充分处理这种移情还有待观察。在实践中可能会出现进一步的担忧;因此，具体化的人工智能辅助治疗也需要仔细评估与标准治疗方式的意料之外的差异。

算法中的伦理问题

有必要指出的是，人工智能心理健康干预与算法一起工作，而算法伴随着伦理问题。已有证据表明，现有的人类偏见可以被构建到算法中，从而加剧现有形式的社会不平等[81］．这引发了人们的担忧，即支持人工智能的心理健康设备也可能包含有可能以意想不到的方式排除或伤害的偏见，如数据驱动的性别歧视或种族歧视或设备的竞争目标或端点产生的偏见[82，83］．继其他要求提高透明度的呼声之后[84，用于心理健康目的的人工智能应用程序中的算法也可能同样受到审查。这可能需要投入额外的时间，向患者(及其家属)解释什么是算法，以及它如何与所提供的治疗相联系。85］．然而，如何最好地做到这一点，特别是对精神能力受损的患者，需要进一步考虑。

对长期影响的担忧

除了这些更紧迫的问题外，在精神卫生服务中实施嵌入式人工智能还提出了一些更广泛的问题，这些问题涉及对患者、精神卫生界和更广泛的社会的长期影响。例如，有人指出，长期使用人工智能干预可能会导致一些患者或患者群体过度依赖这些应用程序。Cresswell等人的一项研究指出，旨在缓解孤独或提供情感安慰的机器人有可能导致患者对其产生依赖。6］．更广泛地说，其他人提出了关于机器人如何有助于改变围绕护理的社会价值观的问题，或在护理日益“外包”给机器人助手的情况下。智能机器人对人际关系的影响，包括人与机器人和人与人的关系，是一个需要进一步探索的领域，以及对个体患者的身份、代理和自我意识的潜在影响。具体来说，对这些应用的有效性的研究不仅需要包括自闭症儿童的社交技能是否通过与机器人合作而得到提高，还需要包括他们将这些技能应用于与他人关系的能力。类似地，如果一个性机器人被提供给一个有性欲倒错的人治疗，它对目标行为的影响也需要评估。存在的风险是，如果机器人干预不能转化为改善人与人之间的互动，它们就只是改善人类与机器之间关系的一种方式，或者更糟的是，它只是进一步限制人与人之间关系的一个出口。类似地，与具身智能设备的接触也可能对个人产生重要影响，如个人认同感或代理感。

人工智能设备融入我们的日常生活和医疗护理，无疑正在改变社会的期望和沟通实践。与人工智能设备交流与与另一个人交流有本质区别。坊间调查结果显示，一些用户与Siri或Alexa等辅助设备说话的方式，往往比与人说话更生硬或粗鲁。86］．重要的是，不同的用户对这些设备的看法也不同:儿童对这些设备的理解往往与成人不同，有时他们会将人类的特征归因于设备，或认为设备内部有一个真实的个体[87］．从这个例子推断，很明显，个人在生活中与AI应用程序交互的方式可能会对沟通和社交产生影响。随着越来越多的患者有机会与人工智能应用程序互动，将其作为精神卫生保健的一部分，这将如何发展，需要进一步的实证调查，以便及早发现问题趋势，并为未来的发展作出纠正。

一些人工智能应用领域存在物化的相关问题，如性爱机器人。“性爱机器人”的使用已经引起了很大的争议，学者们反对性功能障碍取决于一系列身体、心理和社会文化因素，这些因素之间有着深刻的相互关系。机器人不是解决与性功能障碍相关的孤立问题，而是可能加剧这种问题，或有助于简化对性暴力的理解[88］．有人警告说，性爱机器人的使用——也有童真的模型，或带有“冰冷法拉”等个性的程序来抵制性挑逗——反而可能增加性犯罪的发生，使围绕男性凝视的社会不平等现象正常化。89，并导致不必要的性行为。此外，用于性功能障碍的类人机器人的创造引发了人们的担忧，即它可能会加强甚至使人类，特别是妇女和儿童的物化合法化[3.，88］．由于人工智能在许多治疗应用中的使用尚未在随机对照试验(rct)中得到验证，因此存在特定应用可能使性暴力等问题恶化的风险。更广泛地说，具体化的AI应用必然涉及对疾病相对狭窄的理解。例如，性爱机器人可能有助于解决一些医疗问题，但不能解决从对精神健康疾病的生物-心理-社会理解中必须考虑到的其他疾病决定因素。因此，人工智能的广泛使用可能加剧心理健康方面的还原论趋势。

关于实体化人工智能的想法受到文化和历史的影响。是否在治疗中提供动机性访谈[64，作为精神障碍的具体会话代理[47]，或与智障人士合作[90，关于实体化人工智能的讨论常常转向对人类控制技术的局限性的担忧。这些工具在科幻小说或电影中唤起了终结者的形象或其他对非人类的描述，它们可能会带来负面或可怕的联想，从而使医疗实践中的信任问题得到新的认识[6］．然而，接触机器人设备，或生活在与机器人有积极或关怀联系的地方，会影响在不同环境中采用人工智能设备[91］．将实体化人工智能融入医疗保健实践的举措需要充分适应对技术在社会生活中作用的现有文化理解，并努力确保患者与提供者或患者与医疗保健系统之间的信任不受侵蚀。

最后，用于心理健康的人工智能代理提出了关于什么是人类的基本问题[6］．科学和技术研究学术的主要贡献之一是表明人类不仅对物体有作用，而且我们与物体的关系也改变、转变并限制了人类活动。92］．与嵌入的AI代理的互动，就像与其他个体或治疗师的互动一样，会改变行为和对世界的理解。虽然社会关系的特征是互惠，但与智能设备的关系既不是相互的，也不是对称的。特别是，一些人提出了这样的担忧，即与人工代理进行更多的互动可能会导致一些人与周围的人接触更少，或与智能机器人发展出某种形式的亲密关系。93]，引起了人们对儿童或智障人士使用机器人的特别关注。如前所述，人们会对物体产生依恋，也会对AIBO等更简单的机器人系统产生依恋。因此，随着越来越智能和自主设备的开发，人类与它们的关系可能会变得更加复杂[94］．

结论

鉴于已证明的好处和潜力，如扩大服务范围到服务不足的人群或加强精神卫生专业人员提供的现有服务，嵌入式人工智能已成为整个精神卫生领域令人兴奋和有前途的方法。目前，在精神病学、心理学和心理疗法中关于具身AI的研究质量各不相同，显然需要对当前和未来应用的益处和潜在危害进行更有力的研究，包括随机对照试验(rct)。

这仍然是一个新兴领域，在这一点上，任何关于伦理影响的分析都只能是初步的。但是，根据本文件提出的考虑，有必要作出一些结论和建议:

1. 有必要制定明确的指导方针，说明嵌入的人工智能应用是否(以及哪些)应接受标准卫生技术评估并需要监管部门批准。这应包括一套更广泛的规定，规定在卫生保健专业人员监督之外使用人工智能服务。
2. 精神卫生专业协会应制定关于在精神卫生服务中最佳使用人工智能的准则，并就如何培训和培养年轻医生在精神卫生中广泛使用嵌入式人工智能，包括混合护理模式提出建议。
3. 精神卫生领域的人工智能工具应被视为精神卫生服务中的一项额外资源。它们不应被用作减少由训练有素的精神卫生专业人员提供高质量护理的借口，需要评估它们对现有精神卫生保健服务的提供和使用的影响。
4. 为了履行照顾和报告伤害的职责，理想的人工智能应该继续处于受过训练的精神卫生专业人员的监督下。应要求在精神卫生保健环境之外提供的任何应用程序，如应用程序和机器人，展示可靠的风险评估途径和转介到适当的服务。
5. 嵌入式AI应该透明地使用。需要制定关于如何以尊重患者自主权的方式实现应用程序的指导，例如，何时以及如何要求同意，以及如何最好地处理脆弱性、操纵、胁迫和隐私问题。
6. 在心理健康领域的人工智能算法需要仔细检查，例如，是否存在偏见。理想情况下，卫生专业人员应该接受培训，向患者传达他们可能正在使用或考虑使用的不同应用程序中使用的算法的作用，而且这些算法应该公开供公众讨论和制定。
7. 随着具身人工智能使用的增加，应该进行研究，调查对治疗关系、其他人与人关系的直接和间接影响，以及对个人自我意识、代理和身份的影响。需要监测从健康简化论到日益物化的长期影响，以及对我们理解做人的意义的影响。