文学中AI形象关于“善”的伦理认知

龚林

摘要：人工智能作为科学语义场中的概念指涉，在文学创造的过程中涵盖简单的感性与智性维度，而美学价值层面的人工智能形象是一个重要的概念。通过分析科学怪物这一原型与AI亚当形象的行为逻辑，分析“善”的概念界定与伦理实践。文化场域中时常将狭义的善和道德的善混淆，而从玛丽·雪莱的弗兰肯斯坦形象到伊恩·麦克尤恩的亚当形象，是关于文学中的人造人的形象“善”的伦理实践再认知。对身份认同的具身性反思，就性格与爱情的塑造伦理，通过分析二者形象的内部实质性勾连，对AI形象的嬗变作梳理，得出个体与群体的终极奥义，即欲望与理性纠缠的悲剧意义。

关键词：伦理认知;价值无涉;AI形象;理想实践

中图分类号：I106文献标识码：A文章编号：2095-6916（2022）01-0111-05

玛丽·雪莱是英国著名小说家[1]，因其1818年创作的《弗兰肯斯坦》被誉为科幻小说之母。《弗兰肯斯坦》是西方世界公认的第一部科幻小说，小说叙写一个无名氏科学怪物自出生之日起便遭到了不公正的待遇，因而奋起反抗主人、反抗社会的故事。小说揭露了统治阶级欺压人民的罪恶，歌颂被压迫者的反叛精神，伟大的传统融入英国的文学血脉。作为人造人的延续，诺奖呼声高涨的英国当代作家伊恩·麦克尤恩[1]，最新出版的《我这样的机器》中塑造的AI形象亚当，都让人不得不将目光回溯到人造人的滥觞——弗兰肯斯坦形象。从理性层面来说，具备所有人类美好品德的亚当似乎是一个完美的形象，他已经从弗兰肯斯坦式的初级认知进阶到关于具身性、直至内心世界的自我反思与伦理剖析的高级维度。

一、科学怪物与AI亚当的行为：“善”概念的界定与区分

“善”在一般意义上的概念内涵，是指符合社会公序良俗下的善举与善行，这比传统动力之知与能力之知的善的概念范畴更大，无论是否具有善心的善行，只要是能够导致良好的结果或者趋势，都归于善的范围[2]。科学怪物弗兰肯斯坦从创造之初，对善的认知是基础的、不具有道德审判的理解。首先，他对于什么是“善”的定义是模糊的。因为他从见到自己主人的第一刻起，就感受到主人的厌恶与恐惧。他没有收到外界环境对自己的正向评价，所到之处都是憎恶与厌弃的鄙夷目光，从而他的价值观的基调就是对自我的否定与排斥①。到了麦克尤恩笔下的亚当，他所处的社会环境与之前截然不同，即便有孩童发现亚当的瞳孔有异样，也会出于礼貌地将视野转向别处，正是因为亚当所处的社会给在懵懂时期的他最大的善意，作为一个被预设好属性的人工智能，他才可以同样以接受到的善念，去反馈给身边的人类。所以从善的缘起层面上去理解，后续的结果是意料之外和情理之中的。

如果说对善的初认识仅是在二人的心里种下关于“善”的种子，那么后天的学习，便是将“善”的理念付诸实践的过程。弗兰肯斯坦在被创造者抛弃后，躲避人群来到小村庄里，他的“善”因为遇到瞎眼老人和一对子女，而开始变得具体，他有了良好的参照物——老人与子女之间和谐的相处模式，经过后天的模仿与学习，他不仅开始用子女和老人的互爱互助的融洽交往方式悄悄帮助他们，还通过学习人类的语言，看人类的书籍，从中汲取养料。在这一时期的学习与进步的过程中，原本一个很抽象的“善”的理念，变得越来越具体，越来越具有实际的行为意义，而了解了何为人类社会中的善恶是非的怪物，开始渴盼能够通过自己的行为，得到老人和他子女的认可，从而收获他们的友情，这是作家玛丽对人性之中关于“善”的层面的反思，一个人造人究竟有没有心去理解作为人类才懂得的善念，而又有多大的可能性会去践行从善？

这样的反思与追问，在麦克尤恩的亚当身上，同样也具有着延续性。看似作为人工智能的亚当俨然通过各种科学的参数，能够从程序的偏差中，找到“善”所存在的区间值，这样精准计算的行为举止，似乎就不再具有人类模式的不善的苗头。可是，当符合一切程式的标准化亚当，又是如何通过学习，开始产生违抗主人命令的念头，在男主人试图掐断电源之际，顺利地扭断他的手腕的呢？要知道，在艾萨克·阿西莫夫的机器人三大定律的出发点，就是确保机器人会友善待人，那按照通常逻辑看来，亚当的行为是不是就违反了善的原则？

首先，要先厘清善的概念不是恒久不变的，换言之，善会根据所处时代的历史语境变换，衍生出新的理解视点。在玛丽·雪莱的时代，科学怪物的出现打破了既有社会稳定的价值体系，一个本不应该产生的人造人的介入，让旧有的以瞎眼老人一家为代表的社会关系（这种关系还是原始闭塞的农业社会的生产模式）受到前所未有的冲击与挑战。即便怪物的出发点是充满着善念的初心，但他的到来给平静安稳的家庭带来了巨大的恐惧，这种善念在行动上便显现出违背社会主流价值判断的恶果，此时科学怪物的一系列行为便不能称之为善。而处于新时代的亚当伤害主人的肉体，照常理来说不是善行，但是他的出发点是维持自身机能的运行，即从个体本位出发思考问题，这就引申出另一种善的分类，主客体二分的思维模式。

其次，善的分类要看从主体的视角看待还是从客体的角度思考。如果从人工智能亚当的立场来看，他作为一个具备人类思维的人工智能，想要保留电源待机获得知情权的想法无可厚非是为善，但从男主人的立场上分析，机器人为了获取待机权伤害主人的行径危害到男主人的生命健康权为不善。同理可得，科学怪物的视角看待他想要在瞎眼老人子女不在的时候获得渴望的亲情是善的，但是从他子女的立场来看，一个外表丑陋的怪物的到访显然是危害到了老人的生命安全为不善（即使他没有做出伤害的行为，但按照常理是有理由相信处于危险的预判）。善与不善的分界点不是道德审判的制高点，而是主客体的对立与转换之间的立场不同，做出的结果判断也不尽相同。按照这样的逻辑，依旧是公说公有理，婆说婆有理，如何界定善？这就引出善的另一种判断依据，在伦理学理论范畴中，善即“在被动个体自我意识出于自愿或不拒绝的情况下，主动方对被动个体实施精神、语言、行为的任何一项的介入，皆为善”。

最后，善在伦理认知的层面，是如此这般界定：行为的接收方，只要有自愿的意向，或者是至少没有拒绝，在这种前提下，行为的实施者对接收方所做出的語言层面、行为层面的行为介入（帮助或是妨害，好像并没有界定是怎样的行为，是善举还是恶意的），这样的行为，都可以称为善。从这一维度去分析，科学怪物与亚当似乎都是不善的，因为他们作为行为的实施者，对瞎眼老人一家也好，对亚当的主人也好，这些行为的接收方很明显都是拒绝的意向，而这些行为的介入，无论是出于善举还是恶意，都在理论层面上违背了善的概念，故而得出不为善或者非善的结论。

二、身份认同：性格与爱情的塑造伦理

如果仅仅是对科学怪物与AI亚当行为的善与不善做一个判断，那就失去了本文的意义所在。本文关键在于分析两个对人类做出不善行为的形象，是如何揭露出人工智能对人类反身性思考下的善的，即遮蔽在人造人形象背后的“善”的伦理认知是如何一步一步显现出来的。

英国的西蒙·布莱克尔认为“在一个社会里，法律在多大程度上允许实施、体验、思考不道德的内容，这是该社会的道德标尺之一”[3]。而道德与伦理还有所不同，伦理学是哲学的一个分支，主要是对于道德问题的哲学反省，其研究对象是道德。关于具体的伦理与道德的概念的区分，超出了论述的范畴，本文篇幅有限，故此不详加区分。本文的关键论喻是限定在伦理认知层面的“善”的内涵，而回到文学文本本身，关于二者形象背后的逻辑论证，还亟待进一步分析。

首先，关于赋予人造人更类人性的爱与人生伴侣的选择问题，以及引发的复仇与背后的“善”的揭示问题。科学怪人是世界上绝无仅有的存在，他想让弗兰肯斯坦再创造一个女性怪物与他作伴，可以消除寂寞。他的讲述是：“记住，我是你创造出的生命，原因是你的亚当。”这里的“亚当”是援引自基督教原典圣经里创世纪中的亚当的故事，人类弗兰肯斯坦有着造物主的身份特性，类似于上帝的职责，但是这个“上帝”在内核上与上帝都具有冷漠的属性，对于人间的事情，上帝是不闻不问的，而在怪物的叙述中“我倒更像是你的堕落天使了”，怪物将自己的处境与亚当被驱逐出伊甸园关联起来，“你不乐见我幸福，想让我滚蛋，”而后又再次强调“我并没有办错事，随处所见都是幸福，只有自己被关在门外，幸福不起来。我满怀善意，也很驯服，可厄运却把我变成了魔鬼”[4]等言辞都向读者展现了一个犹如困兽一般的怪物，在面对造物主的玩弄，跟人类一般的绝望与困惑，理解了科学怪物为什么最终会在一次又一次地遭受到弗兰肯斯坦的毁约与欺骗后，似乎就可以解释他愤怒地向人类复仇的原因。

其次，是名为亚当向圣经的致敬与特殊指涉作用。在麦克尤恩的笔下，不光有亚当还有夏娃，同作为AI机器人，他具备了小说家的仁慈，给孤寂的科学怪物找了个伴。但是这样的亚当却并没有照着设定好的意图，同夏娃共结连理，而是爱上了种属不同于自己的人类——女主人米兰达。在爱情还没有到来的先前，是通过男主人公查理的视角，去做一个“瞎眼的窥探者”用“意识之眼”或者“内心之眼”在一旁观看、偷听到了亚当与米兰达的交欢过程[5]。但是查理内心是十分矛盾的，一方面作为传统人类男性来说，被人戴绿帽子充满着羞辱与愤怒，但是另一方面他认为自己有“开现代之先河”，因为作为“时代的弄潮儿”，他很享受“率先上演这出大戏”，从而对这一现象是默许的态度，“没有行动”“一切都是自找的”。让人惊骇又让人兴奋的点在于他是“第一个被人造生命戴绿帽子的人”，这个视角从伦理认知维度的“善”的层面，具有可以剖析的意义。

亚当在查理看来“什么感觉也没有，只不过是模仿人类纵情享受的模样罢了”，但是作为事件的另一个始作俑者米兰达却发出“极乐时刻的尖叫声”，作为一个人工智能来说，他不可能因为身体的接触，就对人类产生某种情绪的依恋，类似于人类社会的产生具身性的关联，可是在麦克尤恩的笔下，亚当颠覆前人对人造人的沉疴条框，他不再是简单的“电车难题”中软件事先给出的优先指令那样非此即彼，而这样的“能在成千上万、数不胜数的道德困境中自我学习的”“道德上优于我”的“好人”，却犯下了“残酷而可怕的错误”。从逻辑上讲，他是查理购买的价值不菲的财产，但是亚当的“伦理坐标”究竟应该如何建立？亚当的程序在伊始，就是查理与米兰达一人设置了一半的属性，就像两个人共同创设了亚当的性格，而米兰达从这个层面上就是一手设置出无论时间的长短，在理论层面上必然会爱上自己的人造人，这在选择爱情的自主性与臣服主人的程序设置具有无法调和的矛盾。

这就引发出人类社会欲望与理智的纠缠的反身性思辨，亚当作为一个赋值一半查理对社会的感知力与价值判断，必然会走向成年男性的性伴侣的选择端。但是，同样拥有米兰达的文化基因，他的潜在属性就具备着被人类女性爱上的可能性。但是，这一形象的复杂对立，并不是人工智能所独有的特性，而是几乎所有人类身上共通性的症候。即从弗兰肯斯坦就开始探索的问题，“善”的伦理认知从而引发人类社会终极悖论：人是受限的存在，欲望与理性有着无法调和的矛盾。

三、个体与群体的终极：欲望与理性纠缠的悲剧意义

亚当与科学怪物在欲望这一维度上有着截然不同的态度。科学怪物的欲望体现在他渴望得到世人的承认与喜爱，至少是不那么厌恶与憎恨，他渴望融入群体的社会，实现自我价值被他人认可与肯定。所以他认为只要他努力学习了人类社会的规则理论，懂得人情世故，便会得到主流观念的接受，他更是向造出他的维克多请求再创造一个属于他的女怪物，这样就能够与人类社会的一夫一妻相对照，在这一层面，他的价值判定与价值取向，仍然停留在向他灌输这一想法的人类模式，并没有得到突飞猛进的迭代进展。

可是，在对欲望的把控与克制层面，亚当似乎更具有人的思维，这可以从三个层面去分析：首先，亚当对情欲远没有人类男性的纵欲过度与寡淡禁欲的两个极端，而是恰如其分地按照规律去进行。其中，固然有一部分的人类选择，但更多的体现出智能选择地朝着最优解的方向不断修正。其次，亚当对待米兰达的爱情，没有道德绑架米兰达，也没有向人类男性的霸道总裁模式发展，而是发乎情、止乎礼的没有逾矩，他通过文学创作写作诗歌的方式来记录自己爱的心情，在生活的细节上给与米兰达以关怀和体贴。最后，亚当对查理给的投资任务，尽管他的数据库可以知晓一切金融市场的走势，但他依然坚持每次只赚比够花的多一点点，因为在他的理解，这恰到好处的钱，可以让人的幸福感最高，过多的钱和过少的钱都不利于人类的心理健康。以上三点可以说明亚当在欲望的控制与规训的方面，具备很多人类无法可比的优越性。

但也正是这样高度自觉的，能够管控住内心欲望的亚当，最终会走向湮灭的缘由。科学怪物的毁灭，恰恰是他不具备了解欲望的秘密，他在嗜血成性、殺人无数过后，是个体永恒的虚无的自我放逐。但是，亚当的自我了断，恰恰是他俨然窥探得欲望与理性的纠缠背后所掩盖的真相。人类社会的进步，就是在个体与群体之间的博弈动态之际，找到了欲望与理性的平衡点。可是亚当作为一个人造的人工智能人，他无法在自己爱的女人米兰达与欺骗所有人，为的是给自己死去的朋友报仇的米兰达之间做一个选择。换言之，就是在道德正义与法律正义之间做出选择。

从“善”的伦理认知维度，亚当的设定需要保证法律的公正有效，即符合社会上通行条例的顺畅运行，这是理性层面的需求。但是，从个人的欲望维度，亚当对米兰达的爱，还不具备自私自利的含义，亚当的爱更类似康德理念中的超越一切的“至善”，这种爱脱离占有欲，在欲望与理性之间开辟出第三条路径，姑且称之为“大爱”。亚当希望米兰达能够自首，这是他对她爱的表现，这样的爱不再是希望得到反馈的私欲的满足，更多的是希望米兰达可以实现自身思想的解脱与自在。这样的爱是超验的存在，不再是正常经验世界可以揣度或者理解的。但是，在人人都不是亚当的时代，这样的爱容许存在吗？

很显然，亚当的出现已经挑战了人类最后的尊严，这尊严远远不是亚当给查理戴绿帽子这般简单。亚当所要颠覆的，是人类社会处于窘境之中的病入膏肓却不自知。很多人就像查理，就像米兰达，就像弗兰肯斯坦，就像许许多多的人工智能视角下的“正常”人类。他们拥有着“万物的灵长”一般无可比拟的优越感，却被自己的欲望所吞噬。他们很难去分辨究竟什么是“善”的伦理认知，他们甚至不如自己创造出来的人工智能、人造人更能体会究竟什么是人。科学怪物与AI形象的意义，或许不在于科幻的超现实属性，而更像一面镜子，映射出人类社会的问题：人作为狂妄自大的物种的卑劣与蝇营狗苟。

柏拉图在《理想国》的卷十中提出了“心灵的政制”这一概念，精神和情感中的欲望必须由理性去支配，若是反之，由欲望去支配理性，就是心灵的僭政，那么整个国家就会走向湮灭。人工智能或许在这个意义上，比人类更有心，而这个心不再是“机器之心”，而是一种人类不具有的“理性之心”，人类的灵活变通在特定的情境与场合中具备强有力的作用，但也恰恰是因为这种善变的不稳定性，导致很多似是而非、模棱两可的灰色地带，比较明显的例子，就是米兰达这样钻司法程序的漏洞，利用社会对一个女孩不会以自己的清白开玩笑，欺骗法官，冤枉他人。但这么做的背后，是真的有一个好友因为受到了屈辱的对待，含冤羞愤自杀的真实。这样的报复行为，在法律上是不道德的违法行径，但是在可以理解的程度上，并不意味著要原谅。

综合上述，在科学怪物的时代，恰恰是玛丽·雪莱所处的时代，一个“18世纪个人主义、自由主义、人道主义、理性主义极度膨胀，这带来了个性的张扬及人的创造性能力前所未有的发展，也带来了很多弊端”。无可否认的是欲望在人类破除蒙昧、走向文明的进程中曾发挥的巨大作用，但是随着这种征服和改造自然的力量日益强大，逐渐形成了一种人类中心至上的“主体的神话”。可以说无论是维克托最终的悲剧命运，还是他对沃尔顿苦口婆心的劝导，都包含着玛丽·雪莱本人对前一个世纪欲望占主导狂热思潮的不满和反思。而伊恩·麦克尤恩的亚当的到来，却是一个反科学反理性的时代，亚当形象的出现，也意味着作者对人类命运的担忧，当欲望与理性走向第三条道路，即由纠缠博弈到背道而驰的渐行渐远，人类还有多大的程度具备反思自我的能力？

四、结语

人类与世界的关系不能被简化成认知关系，这意味着认知关系既不是最重要的，也不是唯一的。亚里士多德提出了知识的三分法：理论知识，实践知识，制作知识。近代以来科学不是纯粹的，当代的科学知识已经和技术捆绑在一起，科学的发展以技术的手段为前提，技术是内在于科学的，改造着科学。近代以来自然科学巨大的影响力，成为人们改造和认知世界有效的手段，似乎认为认知是第一位的，实践的展开也要以认知作为保障，科学或者知识的第一性，这是可以被辩护的，在一定意义上有道理。所以，知识第一性，科学第一性，就会导致的一种极端是为了技术的发展可以牺牲其他东西，另一种极端是既然科学理性的东西是世界的本来面目，就要以这种方式贯彻到各事各物，任何都可以计算，只不过是换一种算法而已。情感和道德不可以计算，只是衡量的仪器还没拿出来，随着生物技术以及人工智能的发展，情感的模拟可以得到实现，不听话的男友，听话的人工智能，生物技术改造，可被替代性越来越多，面对这样的境遇，我们应该从科学怪人到亚当AI的形象中汲取什么？或许并不是那么完备的“善”的伦理认知是将人类区别于其他物种的独特性。这意味着传统的以科学为图景的范式，不能去概括知识的全貌，不能被命题的自然科学表达，就算是以知识为中心，也没有取消人的独特性，还有一部分通过其他东西表达，不可以被还原，就算是坚持知识是第一性的，也可以为人找到一个位置。这关涉道德伦理情感的一个方面，这样一个东西不局限于人类的行为，原来的知识第一性的要求被瓦解了，我们可以从行动继续导出，其他的行为不可以被还原成知识。当然可以说，如果人的很多情感的东西可以被模拟，当人本身可以被改造的时候，作为生物学上的人的概念，会变得不清楚。人类在技术时代面对怎样的困境，我们能做的，某种程度上和技术共生，不仅仅是在机械领域。在谈人性的时候，在谈“善”的伦理认知时，我们在谈什么呢？

注释：

①Levine George，U.C.Knoepflmacher.The Endurance of Frankenstein：Essays on Mary Shelley's Novel.Berkeley：University of California Press，1979，53.Mary Wollstonecraft Shelley.Frankenstein（Kindle 位置 4216-4217）.Oxford University Press.

参考文献：

[1]卡斯坦.牛津英国文学百科全书[M].上海：上海外语教育出版社，2009.

[2]王寅.认知语言学的翻译观[J].中国翻译，2005（5）.

[3]西蒙·布莱克尔.牛津通识读本：我们时代的伦理学[M].梁曼莉，译.北京：译林出版社，2009：73.

[4]玛丽·雪莱.弗兰肯斯坦[M].刘新明，译.上海：上海译文出版社，2014：19.

[5]伊恩·麦克尤恩.我这样的机器[M].周小进，译.上海：上海译文出版社，2020：89.

[6]马克斯·韦伯.社会科学方法论[M].韩水法，莫茜，译.北京：商务印书馆，2013.

[7]康德.纯粹理性批判[M].邓晓芒，译.杨祖陶，校.北京：人民出版社，2017.

[8]程炼.伦理学导论[M].北京：北京大学出版社，2008.

[9]黄家光.良知：能力之知还是动力之知？——对郁振华与黄勇之争的一个评论[J].华东师范大学学报，2018（5）.

[10]HEIDEGGER MARTIN.Phenomenological Interpretation of Kant's Critique of Pure Reason[M].EMAD PARVIS，MALY KENNETH，trans.Bloomington：Indiana University Press，1997.

[11]陈刚.西方精神史：时代精神的历史演进及其与社会实践的互动[M].南京：江苏人民出版社，2000.