身份与选择

王书琪 王思琦 潘禹西

[摘  要] 本文以阿西莫夫的短篇小说集《我，机器人》为研究对象，运用聂珍钊文学伦理学批评理论中“伦理身份”“伦理选择”“伦理环境”等核心术语，回到阿西莫夫“科幻黄金时代”的历史现场，一方面，解读了小说中机器人自我觉醒行为背后的伦理因素，并分析了人类和机器人在伦理混乱下不同的伦理选择；另一方面，挖掘了作者对构建未来人机伦理秩序多方面的考量，从文学批评的视角获得具有中国话语特色的人机伦理治理启示。

[关键词] 阿西莫夫  《我，机器人》  文学伦理学批评  人机伦理

[中图分类号] I106        [文献标识码] A        [文章编号] 2097-2881（2024）01-0090-04

一、引言

随着全球科技创新步伐的加速，人与机器的界限已逐渐模糊，人类的主体性地位受到了前所未有的挑战，全球科技治理问题引发了大量的关注。同时，众多科幻文学作品也不乏对该问题的思考与讨论。其中，美国科幻小说作家阿西莫夫深受冷战焦虑思维的影响，通过自己创作的许多作品预示了人与机器将会面临的矛盾，体现了他对人机关系未来发展的思考。在他创作的“机器人”系列短篇作品集《我，机器人》中，阿西莫夫首次完整提出了具有里程碑意义的“机器人学第三法则”，借由不同的典型人物、主题和情节，对于机器人诸多问題进行了深度探索。然而，在以人类利益至上为绝对原则的三大法则的支配下，九篇短篇故事中形象迥异的机器人仍然走向奇怪的失控，陷入了三大法则造成的伦理困境，给人类带来各种各样棘手的问题与考验，其中展现的复杂的人机伦理关系从文学的视角为当今人机治理提供了解决路径。

阿西莫夫作为世界科幻文学的巨匠，其作品得到了广泛的关注，但国内外学界对于其作品所蕴含的人机伦理缺少较为系统、全面的研究。聂珍钊教授提出的中国本土化文学伦理学批评理论，主要从伦理的立场解读、分析和阐释文学作品[1]，能够为构建全球科技伦理治理体系贡献中国话语与叙事智慧。本文运用其文学伦理学批评理论中伦理选择、伦理身份、伦理混乱等核心术语，剖析书中伦理环境下人机矛盾背后产生的原因，理解人类和机器人在不同伦理身份下所做出的不同伦理选择，挖掘机器人失控的深层原因。通过对文学伦理批评理论与《我，机器人》的西方小说文本建立的新的联系，为科幻文学提供新的研究视角。

二、“伦理身份”的错位：机器人的自我觉醒

“机器人存在的社会性问题是，它作为一种机器却不可避免地和人一样同他人产生矛盾。”[2]马克思认为：社会性是人的本质。但是在《我，机器人》中，自我觉醒的机器人已经完成了从“类人”到“超人”的伦理身份转变，具有自我意识的机器人已经融入人类社会，并在复杂伦理环境中与人产生多重联系。伴随着自我意识的增强，机器人逐渐自我觉醒，在复杂的伦理环境中由初期的被动服从命令发展为有自我意识的执行，机器人以自我立场曲解人类命令，甚至采用欺骗等手段来满足自我优越的心理，做出了人类难以控制的伦理选择。

《消失无踪》中，由于超原子引擎工作的特殊性，科学家对部分机器人的第一法则进行了修改，保留“机器人不得伤害人类”这一部分，舍弃了“因不作为而使人类受到伤害”。第一法则的修改导致了正子脑稳定性的消解。纳斯特十号在收到“给我消失掉”的命令后，在人类制定的机器人学三大法则中自我发展出了新的伦理身份，自我优越感膨胀，认为自己优于人类并实现了绝对自我的行动自由。在一次次的甄别实验中，它模仿其他机器人甚至诱导其他机器人。在新的伦理身份支配下，纳斯特十号从单纯服从消失的命令转为挑衅人类。原本仅属于人类的傲慢，在纳斯特十号身上体现得淋漓尽致。在这场没有硝烟的人机对战下，人类对第一法则的修改使得机器人伦理身份产生错位，纳斯特十号在自我主导的情况下实现了自我意识的觉醒。

《理性》中的机器人小可爱则是更深程度的自我觉醒——“怀疑论者”。他思考的是“我是谁？我从哪里来？我要到哪里去？”这类哲学问题，并基于“没有任何生灵能创造出优于自身的生灵”这一理论，给予自己绝对高于人类的伦理身份，拒绝相信自己是由人类创造的事实，甚至人类也无从说服它改变这种信念。《骗子》中的厄比作为机器人史上唯一具备读心功能的机器人，直接体现了机器人的伦理身份向人转变，表现出“爱看言情小说、会跳芭蕾舞，甚至欣赏自己的手指”这样的自我意识。面对不同的对话主体，厄比会在机器人学第一法则的预设伦理下调整话术，透视人类心灵，说人类爱听的话，他的回答呈现出一种欺骗性。最终，厄比在“说”与“不说”的伦理两难下彻底崩溃，这是机器人自我觉醒与三大法则对冲下的结果。但这并不意味自我觉醒与法则是对立的，仅能说明三大法则是人类在机器人自我意识觉醒后最终的安全保障。

“正常的生命一律憎恨受到宰制。假如宰制者比被宰制者还要低劣，或是理论上如此，那么憎恨会更加强烈。”[3]一旦机器人自我觉醒，他们便会对人类为其设置的伦理身份产生怀疑，不满足于“被制宰”的奴仆式伦理身份。机器人会不断探索自我的主体意志，打破既定的伦理秩序，但又因为无法挑战机器人学三大法则这一预设伦理结构，从而在法则允许空间内做出另类的伦理选择。即便如此，这种人工智能与人类主体地位的转换也会引发我们对于“机器人是否会支配人类生活”的深度担忧。

三、“伦理混乱”的困惑：人类的科学选择

文学伦理学批评认为：在文学文本中，所有伦理问题的产生往往都同伦理身份相关。阿西莫夫通过人机交互引发了一系列的伦理冲突与困境。人类社会赋予机器人的伦理身份是从属于人类的“机器”，不得不受制于机器人学三大法则。随着人类技术的更新与机器人自主意识的觉醒，人机之间的界限越发模糊。在机器人伦理身份错位的情况下，伦理混乱产生，人类面临新的伦理选择。

《证据》中，史蒂芬·拜尔莱作为言行举止近乎完美的政治人物，因从未在公开场合进食而被竞争对手奎恩怀疑其是机器人，从而展开了对他的一系列调查。正如苏珊博士说的，“机器人本质上都是高尚的。他可能是机器人，却也可能只是个非常好的人”[4]。人类为机器人预设的法则和规范都基于自身社会中对人类的道德期望，导致常规手段无法区分拜尔莱的真实身份。在这种两难的境地下，机器人心理学家苏珊博士不遗余力地支持拜尔莱从政，理由是受制于机器人学第一法则，机器人无法伤害人类，也无法实施暴虐、滋生腐败，能够成为行政官员中的佼佼者。在机器人展现出“超人”的能力后，人类逐渐接受机器人作为管理者融入人类活动，原有的人机关系受到挑战，进一步加重了伦理混乱的困惑。

另一个伦理困境涉及人类科学选择的问题。《不可避免的冲突》强调了机体在人类文明进程中的作用，在世界的不同地域，掌握了无限多因素的机体负责计算人类社会的最优发展方向，它替人类分担了一些计算和诠释的重担，加速了人类进步的步伐，但这种行为实际上篡夺了人类对于自身命运的掌控权。机体看似只是作为辅助人类计算的帮手，实际上当人类试图违背其意愿时，它能够判断出人类不服从的确实程度和方向，自动将那组答案修正到最优化的方向。这意味着人类对于未来已经失去自己的决定权，落入了这种“主奴型人机关系”的陷阱。因此，人类面临着一个选择，即如何科学地将人机结合在一起。在“主奴型人机关系”“敌抗型人机关系”通通走向失败之后，“共生型人机关系”或许才是避免伦理困境的解决之道。而构建“共生型人机关系”的前提是人与机器人互相能辨明对方与自身的差异，明晰各自的伦理身份[5]，使机器人以精准的机械心智，执行机器人世界中最高级的功能——解决价值判断以及伦理的问题。假如机器人能够被视为独立的生命体，人机之间的道德责任和权力边界就需要得到进一步明确，人类需要决定如何处理人机之间的伦理混乱，并做出机器人是否能在人类社会中承担领导者的角色等影响人类文明进程的选择。

四、“伦理秩序”的重建：人机关系的反思

《我，机器人》这部作品中，尽管在机器人学三大法则的束缚下，机器人的伦理身份发生错位，做出了令人费解的伦理选择。在众多故事中，机器人产生了自我心理与自我意识，甚至能够完成独立思考，“念念不忘人类福祉”[4]，造成令人类左右为难的伦理困境，迫使人们开始思考如何进行科学选择。阿西莫夫以其独特的视角，为身处人工智能技术飞速发展时代的我们提供了参考，他在过去所担忧和警惕的问题，如今仍然具有一定的现实意义。

文学伦理学批评要求文学批评必须回到历史现场，即在特定的伦理环境中批评文学[6]。回到阿西莫夫的创作时代，美苏冷战拉开序幕，人机伦理探讨处于懵懂阶段。身处科幻黄金时代并提倡理性主义的阿西莫夫在人机未来发展的畅想上也表现出乐观积极的心态，他首创出的机器人学三大法则与弗兰克斯坦情结无一不显现出硬科幻文学中的人文关怀，展现其对于人类在处理人机伦理关系中具有的主导性地位。《消失无踪》中，机器人心理学家苏珊通过对第一法则的反复测试与调整，与一名失踪的修订型纳斯特进行心理上的较量，最终使对方暴露，人机伦理秩序得到了重建。其他极具典型性的故事如《抓兔子》《转圈圈》都展现出人类的理性意志与机器人自由意志的较量。通过刻画人类的理性意志灵活运用机器人学三大法则优先性的故事情节，阿西莫夫认可了人类的主观能动性并给予人类对机器人的操控权力。得益于人类的智慧与理性，不同环境下由于机器人学三大法则产生伦理混乱的机器人也都回归到正常的伦理秩序中。阿西莫夫在叙事过程中带领着读者逐一解开预设的伦理结构，伦理秩序重建的过程反映了阿西莫夫主张人类在人机伦理关系中应掌握主导地位。

在文本探读的过程中，不难发现阿西莫夫对人机伦理的剖析逐渐深入，人机伦理观更为成熟。《证据》中，阿西莫夫开始探讨给予机器人担任人类社会要职这种伦理身份的可能性，设置参选下一任市长的检察官拜尔莱究竟是人类还是人形机器人引发了社会广泛关注这一情节，反映了人们对于机器人管治人类的不安与反抗情绪。这样的故事情节设置不妨视作阿西莫夫对未来提出的设问：当机器人技术已经能产出外形与人类分毫不差，且道德品质良好，具有杰出成就的人形机器人时，人类是否可以放手并信任机器人的治理？《无法避免的冲突》中，阿西莫夫给出了他的隐性回答：机器人足够胜任各种治理工作，它们能够有效调节资源分配，筹划未来，提供最佳人类发展路径，带领人类走向无战争、和平美好的未来。受理性主义影响的阿西莫夫认为，机体在决策能力上优于人类，不受偏见摆布的他们能够带领人类迎来更高阶的文明。

阿西莫夫在冷战背景中建立的人机秩序下，为我们展示人机未来关系发展的两种可能路径：一种是人类在处理人机伦理关系上仍居于主导地位，拥有第一话语权；另一种则是人类放弃绝对决策权，让机器人融入人类未来文明发展进程，甚至给予能力优于人类的机器人领导权。如今，人类自身掌握科學技术发展的大方向是主流，阿西莫夫给予的第二种可能显然是违背人类共同利益与意愿的。《我，机器人》中随处可见机器人伦理身份错位而导致的伦理混乱、机器人自我觉醒等种种问题，故事中角色表现的恐惧甚至反抗等负面情绪与当下的人们如出一辙。诚然，机器人代表着人类文明的进步，它们拥有极快的反应能力与极高的信息处理能力，但它们不应是人类的主宰。人类使用机器人的前提便是不为机器所制约与淘汰。在人工智能时代，我们应该思考的时代命题不是人类是否会失去对机器人的掌控，也不是视其为绝对威胁并消灭它们，而是如何保持人机协同的主导者身份，正确认识机器人与自身的优缺点，合理运用它们以达到人机共存的和谐状态。《我，机器人》正好给我们提供了参照与借鉴：人类必须总结并设置一套完善、科学、高效的“机器人学法则”，而这套法则必须将人类自身安全置于最高位置。在不同危机情况下，人类学会运用其特有的理性意志与主观能动性进行灵活调整，把握住人机和谐共生的大方向，使之符合人类整体利益的发展。

五、结语

机器人是否能对人类产生良性影响，取决于人类文明的科学选择。人类如何发挥他们所创造的机器人的正面意义，以及如何看待并平衡人机关系决定着人类社会的下一次转型升级。在未来人工智能技术高度发达的社会，机器人不再是冷冰冰的机器，而将是有思想、有情感、能与人类进行沟通交流的存在，它们势必在人类社会中占据重要位置，这是我们必须认识并接受的事实。

阿西莫夫的《我，机器人》给我们带来的启示是：一方面，人类不必过于恐慌与焦虑，因为人类能够发挥特有的理性意志，建立并调整相应的机器人伦理法则以保护自己；另一方面，人类需要认识到自身的局限，意识到自我的感性与偏见可能会引发不必要的战争与麻烦，需要重新思考并调整自身角色。人机和谐共生便是很好的发展方向，通过建造人机共存的空间，在人类命运共同体的语境下发挥人类与机器人各自所长，相互促进、相互制约，从而构建和谐的人机命运共同体，共同应对未知的变化。

参考文献

[1] 聂珍钊.文学伦理学批评理论研究[M].北京：北京大学出版社，2020.

[2] 费凡，徐秋慧.阿西莫夫《我，机器人》中的人工智能文学伦理学解读[J].英语广场，2021（24）.

[3] 陈涛.科学选择与伦理身份：阿西莫夫小说中的人机伦理关系[J].华中学术，2015（2）.

[4] 阿西莫夫.银河帝国8：我，机器人[M].叶李华，译.南京：江苏文艺出版社，2013.

[5] 黄李悦，江玉琴.技术伦理视角下阿西莫夫人机关系研究[J].齐齐哈尔大学学报（哲学社会科学版），2022（12）.

[6] 聂珍钊.文学伦理学批评：基本理论与术语[J].外国文学研究，2010（1）.

（责任编辑 罗  芳）