人机一体的伦理问题探讨

尚凤森

【摘要】随着神经生物学和认知科学的迅速发展，人与机器之间呈现不断结合乃至融合的态势。如何更好地发展科学技术，使科技的发展始终保持将人作为目的的使命，迫使当下必须直面人机一体所带来的伦理困境，以及对于人机一体的演化所引发的权利保护问题。

【关键词】人机一体 主体 权利

【中图分类号】TP391.9 【文献标识码】A

【DOI】10.16619/j.cnki.rmltxsqy.2018.06.014

人机的界限

工具的使用与制造使人类脱离动物界而飞速发展，工业文明以来，人类的工具发明几乎呈直线上升之势，尤其是后工业文明的迫近，人类的科技进步更是呈爆炸式增长。人类可以利用机器实现对于自身损害的修复，也可以使用大量机器使自身能力得以延展。但在自己的一生中，恐怕没有人會想将自己变成机器。而某种程度上，这类事情正在悄然发生，在身体外部以及内部机器的存在已经成为事实，各类假肢、人造髋关节、人造皮肤、心脏起搏器等。特别是耳蜗植入术植入的耳蜗，虽然无法做到像人类耳蜗那样敏感，但已经能使得那些深度耳聋的人听到一定范围内的声音。视网膜植入需要建立更多的神经元连接，目前还不能让盲人“重见天日”。但此类技术的基本原理已被掌握，随着神经科学以及电子技术的进步，这类装置服务于人只是时间问题。通过植入电子探针以探测大脑运动皮层的活动，并利用信号来控制轮椅、机器人或者电脑鼠标，已经迈出了关键一步，为残疾人、老人带来无尽福祉。可以假设，人类身体其他部分的替换可以使用金属或塑料，也可以使用生物技术特别培育的生物组织来代替。

在某种程度上，外部组织似乎或正作为肢体、器官的替代，或增强人的认知能力，从而逐渐构成人身体的一部分。但外部组织在何种程度上可以构成人身体的一部分，换言之，人身体的哪些部分究竟是可以替代的，成为人机界限问题的核心。科技的进步使得人类可以对未来充满美好的想象，但也使我们陷入深深的困惑。探讨机器人能否拥有人脑般的意识，对于目前人工智能的发展，可以说为时尚早，但有朝一日人类也许能拥有机器人的身体，思维实验“缸中之脑”可能变为现实。人从生物基础的身体转向以某种材料为基础的身体正在发生改变，那么机器替代的界限在哪里？

对于机器的使用一般可分为两类：一类是与身体固定连接，脱离后直接使身体相应部位无法实现其功能；另一类是单纯作为人身体相应部位功能的增强或延伸，不与身体连接，可随时替换而不影响身体相应部位的功能（如望远镜、汽车、计算机等）。显然，在第二类中，人们是断然不会将机器视为身体的构成部分的，它们仅仅被视为构成人身体外部的认知环境。在第一类中，对于机器在人体上的用途又可以分为替换或辅助身体相应器官发挥其应有功能的（如假肢、人造髋关节、人造皮肤、心脏起搏器等）和极大增强人类认知能力的（如未来可能出现的记忆芯片、脑内通信网络等）。

人的身体或器官被机器代替后，人的能力较之肉身大大增强，主要（但不限于）表现在以下几个方面。（1）脑的记忆。通过植入电子记忆芯片，人的信息存储能力将几何倍数般提升，海量的知识与信息可以载入其中，记忆的容量大大扩展，大量的知识无须痛苦背诵即可尽收眼底，这在教育方面无不令人欣喜若狂。由于有了电子记忆芯片的连接，人们睡梦中的信息也可以实现下载，那么分享自己的梦境也会成为现实。（2）交流方式。大脑神经元连接植入式移动电话，可以在任何时间与任何人联系，想到谁，就可以与其通话。人的通信能力随着网络的永久连接，也逐步得到强化。各类大型会议也无需行程安排、舟车劳顿。（3）体能。机械手臂或下肢，乃至机械皮肤，可以极大增强人的体能，举重若轻，甚至飞檐走壁也不再是武林高手的专利。从粗略列举的三个方面可以看出，人对于科技进步的狂喜跃然纸上。因此，麻省理工学院计算机科学教授和人工智能实验室主任布鲁克斯说：“我们与机器人之间的界限将会消失。”[1]人体被替代后，机器不再是消极被动的存在，而是会带来一系列的改变，使人与机器的界限更加模糊。

我们憧憬科技带来美好未来的同时，也遭受到如影随形的负面效应与伦理困惑的拷问。回顾发生在19世纪具有里程碑意义的菲尼亚斯·盖奇（Phineas P. Gage）受伤前与治愈后人格改变的例子，它昭示了：人脑中可能存在专门负责推理的系统，脑损伤可能会造成已习得的社会习俗和道德规则的丧失。[2]我们或许乐于接受无限制地增强或扩展我们的脑和身体，但如果出现人格的改变，即使是很小的概率，我们也万万不能接受。尽管在许多影视作品中出现过身体严重受损而通过更换“身体”获得不一样的人生，但在现实中人是否真的能欣然走进转换器？显然盖奇脑损伤的事例使我们认识到，盖奇变了，这一事实是我们不能接受的。可与之参照，机器植入体内的界限在于，不能使“我”发生实质性改变，即不能损伤脑并使推理系统发生改变。这一点似乎可以作为机器在何种程度上成为“我”的伦理标准。

若人类的神经元可以植入某个“机器人”的体内，比如某个病入膏肓的人死前捐献自己的脑给“机器人”，使其具有捐献者的某些记忆或情感特征，从而家人可以与其“永远”生活在一起，这俨然也是“我”在机器中存活的“缸中之脑”的现代版本。一些未来学家甚至声称，人类必定会获得不死之身。这在伦理上同样存在巨大问题，未来我们面对不断出现的机器面孔时，人类社会交互是否会发生结构上的变动，人类诉诸情感的方式是否也会随之改变？社会道德与习俗是否也会极大变化。人机一体之后，智能机器人的伦理问题也势必纷至沓来。

人机一体之后的权利

近代社会以权利为中心的制度体系保障了人类智慧文明的稳步增长，使得人类在一定社会制度之下尽可能享受自身权益带来的幸福。人机之间的界限模糊，使得权利保护出现了变动，权利保护不再是封闭的制度体系，法律与道德的界限又一次遭遇挑战。人类文明的演化与发展，推动了某些权益的制度保障，隐私权就是一个典型的例子。隐私权的出现是由于私人空间与公共空间出现了冲突，制度需要明确哪些方面需要进入公共领域可以被群体共享、哪些属于私权领域，是否共享应当完全取决于个人意愿。即使这样，多年来对隐私权的保护始终争议连绵，其根源在于，隐私权本身的精神权利属性加大了保护难度，造成个体间权利保护界限的模糊。人机界限的模糊，也带来巨大的权利保护难度。制度文明如何面对这一挑战？人格权法、知识产权法、侵权行为法等法律体系面临重构。

第一，权利保护观念极大滞后于信息技术的发展，人格权法与知识产权法面临调整。首先，信息交流愈发方便快捷，隐私保护难度加大。尤其电子芯片技术的运用，使人们的交流几乎可以在起心动念间就实现，嘴巴不动话语就到达，闭目养神时对话方可“看”到抚掌大笑抑或顿足捶胸之态，谈话可以极大限度地实现“私密化”，甚至也可以记载并分享梦境。但信息的隐私保护也随之增大了。比如，人们为了保护信息的安全，设计各种安全密码，但密码本身也是受保护的安全信息，其受保护的安全等级更高。密码的存放变得更加困难，身份信息早已不知在多少个浏览器被默认下载，各种密码信息在不同服务器上使用而被记载，还有多少信息是属于真正的“私人空间”呢？其次，人的智慧成果在近代被予以财产法保护，似乎知识可以成为创造者赖以谋生或引以为傲的生活手段。但技术发展使得这一切很快走向了反面，技术使得分享更容易、生产成本更低下。以音乐作品为例，20世纪80年代风起云涌的从磁带销售获利的音乐公司还未来得及享受专利销售的欣喜，CD技术使得在盗版成本极大降低的同时音乐品质几乎不发生变化，各大音乐公司因此迅速衰落；网络传播下载更是给传统音乐制造业带来毁灭性打击。技术的发展使得还未对原有技术进行所谓的专利保护，它就瓦解了。技术更新与信息传播速度呈几何倍增长，固有的权利保护观念远远滞后。

第二，机器作为人身体的一部分，其一旦被损害是认定为财产损害还是人身伤害？人机界限的模糊使得在某些情况下遭受损害的评价变得复杂。目前，对于人所佩戴的眼镜的损害可以毫不犹豫地判断为财产损害，而对于人工视网膜，恐怕就不能下一个财产损害的断言了。对于故意毁损他人心脏起搏器的行为，恐怕都需要刑事法律予以判断。大陆法系国家《物权法》中对“物”的定义一般为，受人力支配的特定之物[3]，始终将物视为主体——人所支配的对象。人机一体的结果显然突破了固有法律概念的理解和解释，物的分类将出现革命性扩张，而以原有概念为支撑的物权法原则，乃至整个法律体系将会面临系统性革新。

第三，机器部分对他人造成损害，如何承担责任？所属物造成他人损害并由此所带来的侵权责任显然由物的所有人或监管人承担，这是通常意义上的法律判断。造成这一判断的基础在于，物存在所有者，物是所有者意志贯彻之物。人机界限的模糊显然挑战了这一基本判断，即“谁”是拥有者。因为拥有者具有自由意志，可以判断自己行为的后果，也应当为行为后果承担责任。科技进步的趋势下，这样的判断还能再循规蹈矩吗？“缸中之脑”是外部机器的所有者吗？拥有人类神经元的机器人是所有者吗？它能否承担相应的法律责任？

第四，拥有人类神经元的机器人被损毁，法律上如何评价？拥有人类神经元的机器人显然具备了人类的某些人格特征，人类神经元存在的意义显然在于延续某个人的“整体信息”，使其能够以机器人的形式继续“活着”，继续和亲人一起生活。附在机器人上的神经元系死者生前捐献，神经元由于离开人体，如同捐献的器官、血液、骨髓等，应为法律上的物。但神经元恰恰又不同于器官、血液、骨髓等物，因为它储存了所谓的信息，是人的连续的“自我感”的物质基础，进而可以说，它恰恰是给人以“我”是所有者的感觉的生物机制。将神经元简单归为《物权法》上的“物”，显然会带来解释机制上的自相矛盾，民法上的主体何以确立？

总的来说，近代以来的法律体系建立在人是权利主体且具有“自由意志”的基础上，但人机界限变得越来越模糊，使得“人”的概念面临挑战，而以此为基础的法律体系也就面临重构[4]，甚至以“自律”为核心的人类的道德体系也面临动荡，后现代视域下，道德法则将去向何方？

人机问题中作为工具的技术发展一直备受关注，但对人机技术与人类社会、人类本质的思考具有更深远的影响。人类在技术中的角色受到社会价值观念的影响，在这样的影响下人机之间如何和谐交互成为技术发展的伦理方向。从使用工具那一天起，工具之于人类的意义就始终伴随着技术的发展。如何让技术更好地服务于人类，把人始终作为行动的目的，将人作为具有内在价值和尊严的独立主体，始终是技术发展的根本目的。“我们依靠技术所达到的目的，无论在量上还是在质上，没有必要一致。然而需要坚持的是，无论用不用技术，人们都应该在最大程度上保证生活的进一步延展。”[5]当人机之间的界限变得模糊，甚至附着人类神经元的机器人在人类社会更容易获得信任时，对发展技术的根本目的的回答似乎变得不那么肯定，原因在于后工业时代的技术发展直接引发了对“人”的根本概念的挑战。所以，发展技术的根本目的开始走向了哲学伦理学领域，如何厘清基本理论的预设，如何架构各个社会科学学科间的基础框架，人类的道德与法律在固有的社会关系可能被打破之后如何重塑体系，“天赋人权”观念下的自然性权利是否还有其历史必然性，如何探寻人机一体伦理问题研究的新的伦理图式，并在此基础上对其伦理问题研究的核心原则如何进行阐释等问题都需要进行思考。

注釋

[1]Brooks， R.A， Robot：The Future of Flesh and Machines， London， Penguin， 2002， p236.

[2][美]安东尼奥·R.达马西奥：《笛卡尔的错误》，毛彩凤译，北京：教育科学出版社，2007年，第9～15页。

[3]史尚宽：《物权法论》，北京：中国政法大学出版社，2000年，第35页。

[4]Hedden， T.， ketay， S.， Aron，A.， Markus，H.R.， &Gabrieli;， J， "Cultural influences on neural subtrates of attentional control"， Psychological Science， 2008， 19（1）， pp.12-17.

[5]Johnstone， Justine，"Technology as empowerment： A capability approach to computer ethics"， Ethics and Information Technology， 2007， 9（1）， pp.73-87.

责 编/杨昀赟