伦理即服务之可能性*——以护理机器人的伦理设计为例

于 雪 金琪雨

1 什么是伦理即服务

1.1 伦理即服务概念的提出

近年来,随着智能算法与智能系统的广泛应用，越来越多的技术伦理问题暴露出来。舆论关注度的上升与相关政策和伦理标准的出台，促进了技术伦理审查与规范活动的开展，但同时也凸显了技术伦理需求与技术发展需求之间的不协调：一方面，部分中小科技企业缺乏专业性的科技伦理知识，不具有组织与展开自我伦理审查活动的能力；另一方面，各类抽象伦理原则难以有效指导实际的技术研发活动，研发者难以通过有效的技术手段实现道德的诉求。面对上述问题，伦理即服务(ethics as a service,EaaS)的概念应运而生。这一概念当前主要在两种意义上被使用：其一指由谷歌等技术公司所提供的技术伦理审查服务，即由科技公司作为服务提供者，通过课程培训、伦理建议、技术审查等一系列手段发现并解决客户算法软件中潜在道德风险的服务形式；其二是Morley等[1]所提出并倡导的Eaas框架，要求抛弃传统的一次性道德审查模式，在抽象的道德原则与具体的实践措施间达成妥协，基于平台即服务(platform as a service,PaaS)框架构建服务化的伦理转译工具，最终实现有效的、全流程的AI伦理嵌入。本文所依托与探讨的EaaS概念主要基于后者，即意在探讨一种新型的伦理设计活动构架，而非具体的商业活动。

1.2 EaaS的云服务框架

“EaaS”这一表述来源于三种常见的云服务模式，即基础设施即服务(infrastructure as a service,IaaS)、PaaS与软件即服务(software as a service,SaaS)。其中IaaS指将服务器、算力和流量等基础网络资源作为服务提供给使用者，由提供者进行硬件设施维护的模式；PaaS指通过网络将开发框架、工具包与部署环境作为服务提供给使用者，由提供者进行基础工具研发与架构维护稳定的模式；SaaS则指通过网络将具体应用及其功能提供给使用者，由提供者进行软件功能、安全等方面维护工作的模式[2]。三种模式间的层层递进同时也意味着使用者的自主性逐步降低，并将风险与成本转移到提供者一方。

基于对上述三种云服务的各自特征，Morley等[1]将Eaas所类比的云服务框架基础定位在PaaS层面。其所给出的论证在于：IaaS反映了一个过于灵活的伦理治理模式，人工智能设计者需要自行对抽象的道德准则给予依据具体情境的理解与定义，并选择与之相对应的伦理转化工具，从而给设计者带来了过大的权限与压力，也使得外部利益相关者的立场与责任不能得到良好的体现。与之相对应，SaaS反映了一个过于严格的伦理治理模式，由伦理学家、政策制定者等第三方完全承担制定伦理标准与流程的责任，而人工智能治理者的责任被简单确定为根据上述流程行事。在具体实践中，流程制定者往往并不能囊括所有具体利益相关者的意见，而人工智能设计者同样经由这一流程免责，在实际的应用活动中，容易造成无人负责的尴尬局面。相比之下，Morley等[1]认为PaaS是一个较为适当的治理模式，在此基础上的EaaS框架可以包括一个独立的多学科伦理委员会、一个合作开发的伦理守则以及人工智能从业者等多个部分，并通过各部分间的良好协作与责任分配实现技术伦理的有效治理。

1.3 EaaS的内涵特征

基于PaaS的EaaS框架的根本特征在于其平衡性：它旨在达成严格与灵活的伦理标准之间的平衡(按照信息伦理学的表达方式，就是将伦理标准维持在适当的抽象层次[3])，以及过于分散与过于集中的伦理责任之间的平衡。而平衡性进一步要求EaaS框架抛弃以往片面侧重事前预测和一次性伦理审查的行为模式。Morley等[1]指出，由于伦理准则的地域差异性与时间变化性等原因，任何伦理设计都不能被视为一旦运作就只产生期望性结果的静态产品，而应被视为人类和非人类行为者的集合体，并受到各类非确定性因素的影响。智能系统的伦理实践应被视为一个反思性的发展过程，其目的也是帮助参与者了解他们在特定环境下的主观性与偏见[4]。在这一理解方式引导下展开的EaaS活动，必然具有动态性与未完成性。作为互联网服务框架的伦理应用，Eaas同样具有开放性，其框架并不完全确定伦理设计参与者的数量或参与方式，而是包容多样的利益相关者以不同层级或参与度的组织方式被纳入到伦理设计的决策环节之中。

1.4 EaaS与护理机器人伦理设计

Morley等[1]所提出的EaaS框架首先着眼于人工智能领域，本文认为这一框架在护理机器人的伦理设计领域同样具有其重要性和可行性。一方面，护理机器人的应用场景多为开放性场景，需要与人类在社会交往中相互协作，这是一种非确定性系统的表现形式，其中涉及的伦理问题应当以服务工具的方式嵌入护理机器人的全生命周期，这正是EaaS的核心作用。另一方面，在当前的医疗服务采购中，各种护理机器人的应用更多采用了一种“SaaS+”模式，即在面向使用者SaaS平台的基础上，派出专人维护后台系统以解决使用中各类意外问题或需要。这一模式提供了基于SaaS等云服务框架的信息收集、分析与反馈服务，但缺陷在于将伦理治理置于服务之外，通过第三方的形式来制定护理机器人的伦理标准，这很有可能导致因为未能囊括所有利益相关者的考量而造成无人负责的局面。因此，将EaaS框架用于护理机器人的伦理设计中，可以将护理机器人的伦理诉求视为一个全生命周期，可以通过设置独立的伦理委员会、合作开发的伦理守则以及具体的伦理服务措施而克服上述缺陷。

2 护理机器人伦理设计中的现存不足

2.1 伦理服务者的定位模糊

当前护理机器人伦理设计的不足首先在于对设备所服务的伦理对象认知不明确。一方面，护理机器人的伦理影响范围并不仅局限于被护理者本身，而社会影响应当在何种程度上被纳入护理机器人的伦理考量范围也值得商榷，因为这种考量范围难以通过事前预测的方式得到有效地划定。例如，护理机器人女性化特征所带来的歧视忧虑与老年使用者对女性化护理机器人实际偏好之间的矛盾[5]，这无疑要求对护理机器人伦理性质的进一步认识。另一方面，护理机器人的直接护理对象往往是老人、儿童、残疾人等易在经济、社会关系等方面依赖他人的群体，首先参与到市场活动中的护理机器人也因此一定程度上存在迎合付费者伦理倾向的客观需要。近年来，家用摄像头、防走丢手环等智能设备所引起的伦理争议就是对经济与社会关系影响的深刻揭示。相比之下，护理机器人因其技术属性与维护需求所产生的伦理关系更为复杂，更需要对主体间关系进行有效辨析与针对性处理。

2.2 伦理设计的简单化问题

伦理服务对象的错位也进一步揭示了当前护理机器人伦理设计活动的简单化问题：伦理设计往往容易被简化为外观设计，例如，在外形设计上等同于拟人、拟动物；在运动方式上等同于缓慢而非柔和；在表达方式上等同于字大、声音大、女性化等。简单化所暴露出的问题不外乎伦理设计投入的不足与伦理转译工具的缺乏，如上文所提到的，护理机器人不仅直接为护理者提供服务，更是护理者与其他护理人或社会个体之间的联结者，这种关系作为技术“居间调解”作用的典型发挥应当受到进一步的重视，而过分的拟人化等伦理设计方式，反而可能抑制护理机器人的联结作用，使护理机器人作为突兀的个体形成与其他护理者之间的割裂与反差，不利于整体护理环境的维持。

伦理设计活动的简单化还体现为偏重事前预测与一次性伦理检验的设计思路。虽然以维贝克[6]及其道德物化思想为代表的伦理设计理论也强调道德设计是“具有实验性质的活动，不是控制人类行为的高度控制性的事情”，但其所倡导的伦理设计方法论很难被视为是对这种不断发展的实验性活动的鼓励：面对护理机器人投产后在实际使用中所表现出的伦理问题，事前周密的伦理设计与想象活动仍旧被视为设计者得以逃避责任的挡箭牌，而使用者则被要求贯彻设计中过于理想化的伦理情境。而对于相对隐蔽的使用风险与伦理问题，重新贯彻伦理流程的压力也会给研发者带来惰性，从而不利于护理机器人道德的持续更新与发展。

2.3 伦理设计的智能化误区

此外，另一个对护理机器人伦理设计的误区在于对护理机器人集成度、智能化等指标的盲信：使用者是否需要一个“护理机器人”来统一性地解决多个护理需求，这一基础性问题本身是甚少引起反思的。对于部分被护理者而言，让护理机器人维持其传统的工具特征同样是一种符合伦理的设计。传统技术设计理论的预测与分析活动着重构建理想化的道德环境并给出相应的解决方案，其最终结果往往是高度集成的“专业机器人”。无论这种护理机器人通过何种方式增加其活动可读性，对于具体被护理者而言终归难以与其所熟悉的传统模式相匹敌，尤其对于面向个人和家庭等复杂情境的智能机器人，事前设计所能够考虑和顾及的因素无疑是有限的。与显见的护理与养老困境相对应的，是护理成本的持续高昂，智能化护理如不能降低护理成本或提供更有效的护理条件，就反而陷入了伦理设计智能化的误区。

2.4 伦理场景的标准化困境

《“十四五”机器人产业发展规划》指出，2020年，我国服务机器人在教育娱乐，医疗康复等领域实现规模化应用[7]。值得注意的是，实用化的护理机器人首先进入的是医院、养老院等标准化、流程化较强的应用场景，其部分原因是伦理转译的困难性在面对家庭等复杂场景时将会被进一步放大。如果不能破解家庭伦理情境的复杂性问题，势必会对护理机器人的长远发展与社会融入造成困难。现有场景中的标准化伦理情境同样应当受到进一步的考量和定期的评估，以确保此类相对稳定的伦理情境具有标准化的可复制性，同时也应当注重被护理者的多样性及自身的特殊性诉求对于场景标准化的挑战。

3 EaaS对护理机器人伦理设计的可能改良

3.1 构建多方协调的伦理准则

针对伦理服务者定位模糊的问题，可以建构基于EaaS框架的多学科伦理委员会，广泛吸收护理者、被护理者、伦理学家、社会学家、机器人工程师等多方面的利益相关者，对同一类别的护理机器人伦理设计提供合作构建的伦理守则。该伦理委员会需要直接参与到护理机器人伦理设计的流程制定当中，并根据护理机器人的实际应用情境协商定义各条抽象伦理准则的具体含义并提供一系列有效的伦理转化工具。该伦理委员会应当制定与此相对应的中止机制并有能力介入违反相关原则后的纠错流程。

在EaaS的框架下，这一过程所实际产出的伦理准则具有积极的、发展的可能性，其成果不能以绝对伦理的或非伦理的二元思维加以衡量，但能够根据与准则制定前的伦理状态或准则迭代中伦理变化的比较来探讨其相对的伦理意义，即准则应当是越来越合伦理的而非确定合伦理的，这再次体现了信息伦理学对EaaS框架的基础性影响。须注意的是，除非符合知情同意的豁免要求[8]，伦理准则发展的动态属性不能以实际使用者的知情同意为代价，伦理设计者与工程研发人员有义务在这一过程中保持使用者对整体发展情况的感知。

3.2 实现多抽象层次的伦理设计审查

针对伦理设计的简单化问题，应当基于EaaS框架与信息伦理学，在多个抽象层次上展开对护理机器人伦理特征的识别与评估工作，从而保证伦理设计与转化程序具有合伦理性。包括但不限于：护理机器人伦理设计思路的合伦理性、护理机器人智能系统结构的合伦理性、护理机器人实现代码的合伦理性、护理机器人自身实践行为的合伦理性与护理机器人社会关系的合伦理性等。具体而言，多层次的伦理监控活动要求护理机器人的伦理设计不能仅停留于实践层面的可用性，还必须保证算法层面的可解释性，应尽量控制人工智能与深度学习算法等具有黑箱性质的技术因素，从而消减护理机器人伦理活动的潜在非确定性。只有当护理机器人的伦理设计内容在多个层次上展现出合伦理性时，此种设计才应当被视为是可行的，反之则要审查其伦理特征在实践流程中的缺失。通过循环式的层次审查与优化活动，伦理委员会得以保持其自身及护理机器人伦理活动处于一个动态的长效发展过程当中，改良以往一次性伦理审查中的局限性，同时提升伦理设计活动的有效性与可用性。

3.3 构建模块化的伦理情境

针对伦理设计的智能化误区，应当视具体情况摒弃单体式、集成化的解决方案，采用分布式的微服务，发挥其高可用性与可伸缩性特点[9]，由相对平行且独立的小型团队分别解决各种具体应用的需求。但在服务化的业务流程中，具体需求往往是伦理无涉的，业务整体的伦理特征也不能等同于用户在实际使用活动中所接触到的伦理情况。针对此类具有去伦理化风险的解决方式，EaaS框架可以依托信息伦理学的基本观念，从信息域的构建与权限管理入手模块化地构建具体伦理情境，从而保证各类智能设备的伦理统筹性。就其成果而言，具体护理机器的伦理特征应与EaaS的框架特征相对一致，即可以通过多个模块化护理设备的协作实现伦理情境的构建与设备伦理内涵的升级，从非伦理化的单一护理仪器整合为具有显见伦理特征的护理环境。

3.4 开展自发性的伦理定制服务

针对伦理场景的标准化困境，EaaS框架提供了一个更为开放、更为包容、更易使用的伦理设计平台，有能力通过伦理工具的开发与下放实现广泛参与的伦理体系的构建。有特殊伦理需求的用户群体，能够自行组合成为伦理参与者群体，依托于行业内伦理委员会所公开的简明伦理工具包与以往伦理设计经验，具有针对性地自我解决或外包相关伦理设计需求，形成具有活力的开源伦理设计社区，按需定制特种伦理场景下的护理机器人。通过有条件地扩大伦理设计活动参与群体，实现伦理活动与要求的细分。充分发挥互联网背景下的共享精神[10]，实现伦理设计活动的开放化，最大程度地发挥EaaS框架所具有的内在活力。

4 结语

EaaS为伦理设计领域提供了一个更为开放和动态的合作平台架构，从而有望以更高效和更具有针对性的方式解决当前护理机器人伦理设计活动中的诸多不足。然而，以EaaS框架来实现护理机器人的伦理设计还存在着一定的局限性，例如，伦理转译的工具和方法大多不具有强检验性、既存的转译工具和方法注重分析判断而非规范确定从而欠缺实效性、伦理转译工具只被开发者用于完成一次性测试等[11]。

将EaaS框架用以实现护理机器人的伦理设计是一种合理的尝试，相对于当前实践中严格地使用条例和与之相对应的宽泛免责条款，EaaS能够更好地平衡各方责任，并且能够在加强对伦理不足或伦理错误的辨识能力的同时，也能够明确区分可确认的错误与应承担的责任，这可以为实际的伦理准则赋予面向社会的可探讨性与可辩护性提供解决思路。因此，EaaS框架有可能成为一个切实可行的伦理活动方式，为护理机器人的伦理设计提供有效的支撑策略。