先进脑机接口的伦理和负责任的开发和应用

简介

侵入性技术使机器能够直接与大脑区域连接，这是几十年来研究和开发的主题。1957年人工耳蜗的发明是脑机接口发展的一个关键点[1]，从那时起，一系列越来越复杂的脑机接口技术出现了，从深度脑刺激技术[2]到高密度微电极阵列，例如犹他阵列[3.］．随着人们对神经技术日益浓厚的兴趣，部分反映在大规模的研究计划中，如美国的大脑计划和欧洲的人脑计划，脑机接口技术继续吸引着相当多的关注。然而，埃隆·马斯克及其同事最近发表的技术进展[4]表明脑机接口技术的分水岭正在到来，它不仅有可能彻底改变神经疾病的治疗，而且有可能将脑机接口从牢牢扎根于独家治疗设备领域转变为变革性的和广泛可用的性能增强技术。

随着这项技术的不断成熟，如果这项技术要改善生活，而不造成意想不到的和潜在的严重伤害，就需要解决与其道德和负责任的开发和使用有关的问题。在过去的几年里，伦理学家、研究人员和其他人对这些问题进行了广泛的探索。5-9]，包括更好地理解对健康、行为和个性/认同感的潜在风险的性质和可接受性，以及谁从技术中受益，以及使用技术是否给用户带来不公平的优势等问题。它们还引发了与隐私、用户自主权相关的担忧——尤其是在用户对植入脑机接口及其产生的数据控制有限的情况下——以及数据和设备安全的挑战。另一方面，脑机接口的潜在好处——无论是用于治疗还是增强用途——引发了重要的伦理问题，即发展放缓或停止在多大程度上可能不利于该技术的未来受益者。最近，英国皇家学会从新兴脑机接口技术的全面角度解决了这些和类似的问题，得出的结论是“神经接口技术将继续提出深刻的伦理、政治、社会和商业问题，应尽快解决这些问题，以创建机制来批准、调节或控制技术的发展，以及管理它们可能对社会产生的影响”[10］．

在这种新兴的情况下，先进的脑机接口开发人员迫切需要指导，如果他们要确保技术的价值得到充分实现，如何适当地进行，而不逾越道德底线。然而，目前很少有框架能够明确地帮助研究人员、企业和其他人开发符合道德、负责任和成功的脑机接口技术。一个正在出现的框架可能有助于揭示围绕道德和负责任发展的前进道路，即“风险创新”[11］．这是我们正在开发和测试的框架，旨在支持围绕负责任和道德创新的务实决策，在企业挑战可能的界限时，通常会面临严格的限制。在这里，我们探索了风险创新方法的适用性，以指导先进脑机接口的道德和负责任的开发[12］．

道德和负责任地开发新技术的挑战

具有潜在变革性的技术开发人员在努力平衡价值创造和经济成功与道德和社会责任发展之间的关系时，面临着日益复杂的挑战。尽管他们经常设想自己的技术将被用于改善生活或环境，但他们往往是在极度不确定的条件下运作的，资源有限，对自己的技术将如何影响他人或如何被他人看待的理解有限。结果便是开发者为了获得成功而需要经历的复杂且不断变化的“风险环境”，并且这一环境受到非常规，模糊且通常是面向人与社会的障碍的严重影响。要跨越这一领域，需要发展和应用对利益相关者价值和价值观的复杂理解，并承诺在适当的情况下保护和支持这些价值观。这是一个介于好想法和成功开发之间的隐喻景观。它充满了潜在的陷阱，而且往往包括那些试图穿越它的人的直接专业知识之外的障碍。随着技术创新与社会之间的耦合越来越紧密，这种格局的变化比过去更快。13］．

尽管这种不断变化的格局如何影响创新的量化证据仍然难以捉摸，但我们很难忽视Facebook、谷歌和亚马逊等科技公司目前面临的挑战，因为它们未能规划和计划潜在的盲目性风险，包括往往源于社会期望和规范的风险。这是一个更广泛趋势的一部分，与隐私、正义和自主等问题相关的担忧，对科技公司为了成功而需要应对的挑战产生了越来越大的影响。至少其中一些挑战来自于专注于股东而没有意识到自己的价值是多么的迅速利益相关者价值(包括对客户、受影响的社区和公众的价值)可以让它们关闭。近年来，开发转基因产品的公司痛苦地认识到这是一个趋势。14］．更广泛地说，这些趋势表明，技术创新与社会之间的动态关系越来越复杂，这在许多情况下增加了风险格局的不可预测性。

在某种程度上，由于这种风险格局的复杂性不断变化，人们越来越认识到，围绕技术创新的长期价值创造取决于道德和社会责任的发展，以及预测和采取早期行动以避免潜在问题的能力[15］．这可以从预期治理等方法中看出[16]和敏捷治理[17，旨在为企业、监管机构和其他人提供见解、工具和技能，以预测和应对潜在的挑战。它也深深植根于对负责任创新的思考中[18)，该组织致力于为开发者和其他人提供一个框架，在这个框架内，商业成功与社会责任紧密相连。

这些方法都与先进的脑机接口的发展直接相关。先进的脑机接口代表着技术进步，虽然这些技术进步可能会以积极的方式带来变革，但如果没有对如何在道德上和负责任地开发它们的广泛而复杂的理解，这些技术进步可能会面临非技术障碍。然而，许多正在探索的方法很难转化为具体行动，尤其是在高速技术领域，因为它处于重新定义可能性的前沿。

创新风险

为了应对更广泛的挑战，我们正在制定务实的方法，在“风险创新”的框架内进行负责任和成功的创新。这是一种创新方法，认识到新技术的成功和负责任的发展不能基于对待未来风险的方式与对待过去风险的方式相同，并假设现有的风险评估和管理方法将继续适用。相反，它鼓励以创新的方式思考和应对风险，这揭示了成功和对社会负责任的技术创新的新途径。11］．

风险创新的核心概念是将风险视为对价值的威胁，同时将风险比喻为需要跨越的风景，这介于新想法和将其转化为成功的产品之间。在这里，“价值”是由围绕新技术或产品的环境以及可能受到其影响的利益相关者和社区来定义的。通过这种方式，价值可能具有健康、福祉、环境影响、安全和经济增长等传统属性。然而，它也可能具有同样重要但往往不那么有形——而且经常被忽视——的属性，如尊严、身份、正义、隐私和自主权。

这种风险框架使创新者和其他人能够考虑“对谁或对什么风险?”而不仅仅是针对眼前的事业。在一个紧密耦合的世界中，对投资者、客户和社区有价值的东西的威胁会变成对企业或技术的威胁。例如，一项技术如果威胁到关键社区的隐私(或被认为是这样)，就有可能引发反弹，进而威胁到对该技术的信任及其最终采用。同样，威胁到对劳动力重要的东西的公司决策——例如，在没有透明度或协商的情况下开发军事应用程序——有可能威胁到公司留住熟练员工的能力。19］．

在我们的工作中，我们正在开发工具和方法，利用风险创新背后的思想，使创新者更好地理解和驾驭他们面临的风险环境。我们的方法旨在培养一种风险创新的心态。它的基础是帮助创新者首先识别对他们的组织、投资者、消费者和社区有价值的关键领域，然后识别和解决“孤儿风险”[20.有可能威胁到这些有价值的领域。这些风险容易被忽视和忽视，如果不加以规划和处理，就有可能给发展带来盲目性影响。

在这种方法中，我们关注18种特定的孤儿风险，它们跨越三个领域，涵盖社会和道德因素、组织和系统以及新兴技术的意外后果(文本框1)．这并不是孤僻风险的详尽清单，除了一两个例外，它不包括那些已经建立了风险评估和管理工具和方法的更传统的风险。例如，网络安全没有明确列出，尽管列出了不太明显的基于网络的风险维度，如隐私和代理丧失。相反，这些孤儿风险是通过评估创业风险景观来确定的，这对于提高人们对经常被忽视和难以量化的风险的认识很重要。它们还旨在激发创新方法，以识别和应对清单上没有出现的类似风险。

通过从有价值的领域开始，然后考虑相关的孤儿风险，这种方法为创新者提供了对潜在陷阱的独特见解，以及可能采取的绕过它们的步骤。这是一种旨在支持成功发展的方法，同时，避免对社区之间价值的威胁，从而有能力阻碍进步。在这样做的过程中，它积极地鼓励有道德的、负责任的和成功的开发。重要的是，我们的方法明确旨在帮助创新者和其他人避免忽视不熟悉的风险或在被大量投机风险淹没时因分析而瘫痪的危险。

将风险创新方法应用于先进的脑机接口

我们正在开发的风险创新框架特别适用于马斯克等人概述的先进脑机接口技术[4］．尽管目前的技术进步并没有明确地解决这些发展及其成功应用之间的途径，但风险创新方法可以深入了解可能出现的价值潜在威胁(或发展瓶颈)，以及可能采取的早期行动来应对这些威胁。重要的是，它为技术功能、商业成功以及道德和社会责任创新之间的双赢局面开辟了道路。

基于所描述的技术，我们将在下面探讨如何使用风险创新来提供一个出发点，以思考围绕技术的道德和社会责任发展的潜在挑战和机遇。这种应用必然受到技术开发和使用假设的限制。然而，它仍然为技术的发展提供了新的见解，并使与道德、负责任和成功创新相关的问题能够以可能揭示有用的前进路径的方式联系起来。

正如马斯克等人[4他们所描述的用于治疗的先进脑机接口系统具有明显的价值。这项技术有可能为解决一系列神经系统疾病提供新的方法，从帕金森病和癫痫到使人衰弱的偏头痛。它还可以极大地改善用户与假肢的连接和控制方式，包括那些取代减弱的感觉功能的假肢。

人们还希望这项技术能用于提高健康用户的表现。虽然这一点在论文中没有明确阐述，但埃隆·马斯克和Neuralink已经明确表示，通过高速无线脑机接口，使用技术来增强用户能力的可能性[21］．在这里，应用程序可以以游戏、认知增强或感官丰富为目标。

这些潜在的能力转化为企业、投资者、客户和社区所列出的假设的(而不是排他的)价值领域文本框2．这些只是指示性的，但说明了不同群体之间价值领域的潜在差异。例如，投资者可能会对其他人如何看待开发商的可信度作为长期投资回报的代表感兴趣。客户可能会重视脑机接口免受干扰的安全程度，并确保他们作为用户对自己的行为和大脑功能保持自主权。另一方面，可能受到这项技术影响的社区很可能会高度重视那些脑机接口变得“另类”并对社会规范和期望构成威胁的人。

比较的价值领域文本框2而孤儿险则列于文本框1这样，就有可能将相关风险映射到关键的价值领域。这种做法必然是主观的。然而，如果要保护和培育关键的价值领域，它开始为潜在的挑战提供新的见解，值得进一步探索。

图1提供了一个关于脑机接口的隐喻性“风险景观”的例子，正如马斯克等人所描述的那样[4］．该方法旨在提供值得进一步关注的领域的快照，并阐明否则可能仍然被掩盖的潜在风险集群。它不具有包容性或全面性，也不包括许多已有风险评估和缓解框架的传统风险，例如网络安全。相反，它为规划孤儿风险提供了一个起点，这些风险有可能直接或间接影响发展，并可能引发围绕道德和社会责任创新的重大问题。

在这里，应该强调的是，这种绘制工作是定性的，旨在集中和限制对潜在的盲目风险的看法，同时鼓励围绕潜在的成功障碍进行创新思考。该方法旨在迭代并开辟新的可能性，而不是规定性的。

在此上下文中，中给出的映射图1可以有多种解释。首先，它提供了值得企业注意的孤儿风险的见解。在先进的脑机接口的情况下，投资者、用户和其他人如何看待这项技术的潜在工作和影响，以及可能为发展创造机会或潜在障碍的社会趋势，都是非常重要的——例如，如果公众反对基于脑机接口的增强。也许，这并不奇怪，对于侵入性神经读写技术来说，新的健康影响被标记出来，就像根本不可预测的“黑天鹅”事件一样。在这种情况下，映射表明应该高度关注企业和技术敏捷性，以绕过意想不到的障碍。

‎ 查看此图

从地图上看，在“组织和系统”下识别的孤儿风险密度更高，这表明成功的先进脑机接口技术的一些最大的潜在威胁存在于企业和管理其运作方式的正式组织内部。这些问题包括组织价值观和文化与技术开发和使用方式的一致程度，可能对发展路径产生巨大影响的不断演变的法规，以及指导和限制技术性能和使用的国家和国际标准。

第二，风险格局图1提供对关键群体价值的潜在威胁的洞察，这些威胁反过来可能导致成功的障碍。在这里，突出显示了不直接影响企业，但可能影响其成功的孤儿风险。这些问题包括围绕技术如何开发和使用的伦理问题，它如何可能导致社会不公正，以及它是否会引起隐私问题。这种对孤儿风险的更广泛的看法也指出了一些可能的问题，比如企业被认为有多值得信任，以及“坏角色”给技术带来负面声誉的危险，可能会毒害市场。

景观的第三种方式图1可以通过识别聚集和聚集的风险，以增加真正突发性影响的机会。某些风险占主导地位，包括与道德、健康、治理和监管相关的风险。如果没有计划，这些可能会相互叠加，为价值创造创造创造出不可逾越的障碍。与每次只针对一种风险进行计划不同，对这些集群的分析和理解有可能为保护涉众价值的最佳资源集中提供见解。在这里，分析表明，确保成功、负责任和合乎道德的先进脑机接口的一些更实质性的近期挑战与组织系统和运营有关。其中包括制定和应用指导原则以及对道德和负责任行为的期望等内部流程。然而，它们也延伸到专业机构、监管机构和实践社区，形成更广泛的生态系统，在其中构思、开发和使用先进的脑机接口。在这里,图1还强调了多次发生的孤儿风险，如道德、观念、健康和环境影响以及声誉和信任。这些(以及类似的风险集群)提供了对哪些地方最可能需要特别关注以支持成功和负责任的开发的见解。

总结

将风险创新方法应用于马斯克等人描述的脑机接口技术[4不可否认，这是主观的，尤其是他们的论文主要关注的是技术进步，而不是未来如何将其完全应用到产品和服务中。然而，它的应用为探索技术的道德和社会责任发展提供了一个独特的框架，其方式受到务实考虑的限制，既不受短视的乐观主义的误导，也不受过度投机的悲观主义的阻碍。这里采取的方法有意地集中于确定创新成功的途径，因此可以被视为有利于企业。然而，通过将风险的理解扩大到可能受到企业和技术影响的关键群体，它提供了一个画布，在此基础上，成功的创新可能与道德和社会责任创新相一致。我们甚至可以说，它提供了一个概念框架和方法，使创新者能够有意识地对道德和社会问题做出回应，从而创造和增长价值。

以马斯克等人所描述的脑机接口技术为例[4]，这种方法表明，在技术的当前状态和它的成功开发和使用之间存在着拥挤的风险景观，其中许多风险围绕着公司如何解决潜在的严重道德和社会问题。这些风险包括:科技有可能拉大富人和穷人(以及特权阶层和边缘群体)之间的差距;挑战有关使用增强技术的社会规范;围绕数据隐私、用户安全和自主权提出了复杂的问题，特别是在制造商保留植入脑机接口的所有权或其操作和维护依赖于订阅服务的情况下。他们还强调，开发者和其他人需要认真考虑如何与他们所依赖的社区建立信任，以及可能破坏信任的行为。

通过绘制他们所面临的孤儿风险图景——并随着图景的变化而频繁迭代——围绕先进的脑机接口开始出现的技术发展没有理由不会导致强大的治疗干预，甚至变革性的增强能力，这些在经济上是成功的，道德上的，和社会责任上的。然而，只有当开发人员能够超越技术性能和传统风险，培养对他们所面临的风险景观的复杂理解，以及他们为了成功地驾驭它而需要采取的方法时，这才会发生。

我们所描述的风险创新方法为这种情况提供了新颖的见解，并且是一种有用的工具，可以在仍有时间采取纠正措施的情况下揭示潜在的盲目风险。在先进的脑机接口的情况下，它有助于规划挑战和机会，否则可能很容易错过，但有能力破坏进展。然而，这仅仅是开发能够在不造成实质性伤害的情况下让生活变得更好的产品之旅的开始。在这方面，成功取决于创新者和其他人是否愿意认真对待有道德和负责任的创新，并利用将良好意愿转化为积极成果所必需的跨学科和跨学科专业知识。在这里，我们希望这是一条先进的脑机接口技术将遵循的途径。