机器伦理视域下《克拉拉与太阳》中的人工智能解读

黄彤彤

[摘  要] 人工智能技术（AI）于1956年诞生，自那以后人类对其进行的研究与探讨就从未停止过。随着时代的进步，人工智能也越来越频繁地被应用于人们的日常生活中，与之伴随而来的是关于机器人伦理的思考与争论，并逐渐形成了机器伦理学理论。石黑一雄是一位擅长描绘高科技时代下人类与机器人共存的科幻小说作家，2021年3月，石黑一雄的新作《克拉拉与太阳》出版，小说中勾勒出了未来高科技发达的情况下，机器人与人类共处的社会。其中主人公之一克拉拉，即AF（智能陪伴机器人）代表。本文将从机器伦理学理论出发，从机器人在社会中引发的道德伦理问题及对人工智能伦理问题的思考两个角度来分析《克拉拉与太阳》中与人工智能相关的要素。

[关键词] 人工智能  石黑一雄  《克拉拉与太阳》

[中图分类号] I106.4[文献标识码] A[文章编号] 2097-2881（2024）03-0048-04

一、人工智能应用中引发的道德伦理问题

人工智能作为引领未来的战略性技术之一，在现代社会也渐渐成为竞争焦点。同时，对人工智能应用过程中带来的伦理问题的研究也受到了大众关注，当下已经有许多成熟的人工智能技术运用于人类的生产生活中，其中，人工智能赋能人形机器人通过具身智能技术的研发与优化从人类的构想与科幻小说中走入现实生活。2021年3月，石黑一雄的新作《克拉拉与太阳》首次出版，不久就得到了世界范围内读者的关注。这次的作品中包含了大量高科技因素，比如人工智能、基因提升等，小说情节以人工智能机器人为中心来展开。石黑一雄曾说：“由于人工智能的兴起，世界可能正处于一个类似于工业革命的新时代的边缘，我认为这有惊人的好处。”[1]那么，呼应人工智能技术的飞速进步，人工智能技术是否可以继续大力传播并广泛应用，是否会威胁到人类的主体地位，是否可以在符合人类伦理道德的情况下与人类共存并造福于人类社会等问题越来越受到人们的重视，这本书的出现引起了一些读者的深思。

石黑一雄在访谈中提及，他原本想要创作一部儿童故事，但由于女儿的反对，最终，石黑一雄决定以机器人为第一视角贯穿整个故事。这个视角的独特之处就在于机器人不会在叙事过程中添加多余的解释与遮掩，但同样也无法准确地识别出人类表层行为下的真实意图。即使是从克拉拉的视角出发，也可以在小说开头就感受到机器人与人类相处中存在的问题。无论是B2代还是已经过时的B1代，抑或是店铺里新展示的B3代，无论是否具有情感，具有多么高端的技能，都只能作为一件商品在橱窗中被展示，甚至像货物一样被搁置在仓库。另外，克拉拉在橱窗中观察人类生活时也发现了一些奇怪的现象，比如孩子要求AF不可以与其并行，必须保持一定的距离在后面跟着，这些现象都直白地展示了即使在人工智能技术高度成熟的社会中，即使机器人被赋予了独立思考及自主意识的能力，但其社会地位与人类还是有根本区别。

克拉拉作为陪伴机器人，被乔西与其母亲克丽西买回家后，开始适应橱窗与店铺外的新环境，这时在克拉拉的认知里，将乔西与它的关系定位为好朋友，是乔西家庭的一分子。然而不久后克拉拉参加了乔西的社交派对，这是孩子们之间的一个小型社交活动，克拉拉观察到乔西在派对上表现得与平时不同，并感到惊讶。受邀而来的孩子中，高个子男孩丹尼与小不点看到克拉拉后来了兴趣，丹尼未经允许就抓住克拉拉的手肘，使克拉拉无法运动，小不点还提出将克拉拉抛过半空，试一下克拉拉的性能。虽然这个提议最终被否决，但从此次派对中孩子们对AF的态度上看，AF并没有成为他们真正意义上的朋友，而是像汽车、玩偶一样的玩具，只不过在玩具的意义上，机器人的智能性使他们与雇主间多了一层类友人化的情感。虽然此时乔西对克拉拉还有新鲜感，但仍然说出“现在我开始觉得我确实应该要了”，表明自己也应该换一个B3而不是克拉拉这种B2，体现出在乔西心中，克拉拉一类的AF只是一个可以随时更替的物品。最终，克拉拉被丢在了废弃的堆场也呼应了这一点。

在《克拉拉与太阳》这本科幻小说中，石黑一雄描绘出的是一个人类与机器人共存，机器人服从人类意愿行动的理想化世界。克拉拉作为强人工智能，是为陪伴孩子成长而设计的B2代机器人。在此之前的B1代机器人已经被全线淘汰掉了，在乔西央求母亲为她购买一个AF时，市面上流通的只有B2代与B3代AF供她选择。科技产品更新换代的速度在我们现实生活中已经达到了比较快的频率，可以推测出在石黑一雄构造的这个科技高度发达的社会，科技产品比如AF一类的智能机器人，更迭速度也会很快。随着B2代、B3代出现，B1代已经淡出了人类的生活，那么相同的，随着技术不断精进，新版本B2代、B3代是否也会成为旧版本而退出市场呢？这一点在小说的第一个小高潮，也就是乔西的母亲为乔西组织了一场同龄人（同阶层人）的聚会中可以看到原因：孩子们本身就有喜新厌旧的特点，加上社会影响，即使孩子对自己的AF有了感情，但同龄人的嘲笑与不认同或多或少地也会使这个孩子考虑换掉身边这个旧版本的AF，一个新版本的AF不仅意味着自己多了一个功能更强、更便捷的陪伴机器人，更意味着在自己的朋友圈子里，这个孩子又更新了自己的地位。小说前期乔西为了面子伤害克拉拉的权益，母亲克丽西为了自己的利益与丈夫离婚并且与博士策划制造一个伪克隆版的“乔西”，甚至连保姆都为了自己在这个家中的地位不被撼动而对克拉拉这个非人之物展现出明显的排斥。人性的自私在不同年龄段、不同的身份上展露无遗。

不可否认的是，无论哪一代，这些机器人都能按自动编码器深化学习迅速实现各类功能，不仅可以进行极其复杂的同步运算，还可以通过简单的信息输入操作在短時间内使本体得到巨大的数据量突破。这种能力是人类所不具有的，由古至今，人类在不断地进步，在各种领域取得了令人惊叹的成果，包括人工智能领域。人工智能所拥有的一切智慧都是人类创造并赋予它们的，人类发明创造的科技产物超过了人类本身的智慧与能力，这个客观事实既令人自豪，又令人心生忧惧。既然人工智能如此强大便捷，那么，是否可以研发出一种技术，这种技术可以将人类的基因也精进到这种水平，使人类成为更加强大、更加优越的种族。在《克拉拉与太阳》中，随着科技生产力的提升，人类的技术不断突破科技与基因的壁垒，中产阶级等阶层人士联合科学家对下一代孩子进行大规模的基因提升。对知识与科学的无限探索使得许多像博士一类的人物忘记了人类种族作为自然人所具有的天性与特征，他们被高科技所迷住，倾尽毕生所学来研究基因提升技术，他们不断实验，借助于人工智能科技的力量，改变孩童大脑发育节奏与方向，最终成功地研发出了基因提升技术，在婴儿刚出生时就接受改造手术，使其获得更高的记忆力、理解力、逻辑分析力等人类大脑的基本能力。但是这种背离自然人发展、违背伦理道德的行为也会给接受基因改造的婴儿带来身体上的负担。

桑德尔认为基因增强使人类“对我们自身命运的责任激增，以及对我们孩子的责任激增，可能会降低我们和比我们不幸的人的团结意识”。基因增强的人和非基因增强的人将会难以团结，人类的团结意识将会因基因增强技术而降低[2]。例如，派对中克拉拉目睹了丹尼与米西等人对里克的嘲讽与区别对待，结合门厅处大人们的交谈得知，他们作为这些成年人的孩子，都在年幼甚至出生时就接受了前文所提及的基因提升，获得了记忆力与逻辑理解力上的优势。然而这项技术并非万无一失，高科技往往伴随着高风险。乔西的姐姐萨尔便是因为基因提升产生的排异反应失去了生命，导致了克丽西与保罗二人的婚姻矛盾。即便如此，克丽西仍坚持让她的第二个女儿，也就是乔西，接受了这项改造。石黑一雄借AF克拉拉的视角也阐述了乔西的身体状况，时好时坏，甚至在小说进行到尾声时，大家都默认乔西也会和她的姐姐萨尔一样，在床上半梦半醒地度过最后的时光，最后离大家而去。而里克，作为这部小说中唯一一个没有接受基因提升技术并持强烈反对意见的孩子，体现的是少部分自然人的意愿以及客观经济条件无法支持高昂的医药费等因素。

基因编辑技术本来可以被用来预防及治疗疾病，特别是遗传性疾病，促进人类健康，具有快速、简便、价格低廉的优点，是一项促进民众福祉的技术。然而在小说中，基因编辑技术因服从于资本增值原则而价格极其昂贵，而且在安全性没有得到保障的情况下被用于非医学目的的“提升”，成了不折不扣的帮助资本家牟利及实现阶级垄断的手段。基因编辑技术的收益并没有为所有人所享有，而是变成了精英阶层的专属品，因为他们才有经济实力支付高额的手术费和术后漫长生病阶段的看护费[3]。此外，接受基因提升技术后的婴儿极有可能出现排斥反应等其他不良反应，这项技术为他们带来了智力上的提升，但也给他们的躯体健康埋下了隐患。基因提升本身就需要巨大的财力支持，后期的风险排查以及药物治疗、康复治疗也不是一个经济能力低下的家庭可以承担得起的。里克作为自然人，也展现出了过人的聪慧与强健的体魄，但里克的母亲海伦目前仍然对他的儿子心存愧疚。

此外，伴随着人工智能的高功能与便捷性，日日夜夜，寸步不离的陪伴容易使被陪伴对象对AF产生情感，尤其是在《克拉拉与太阳》中，AF的定位就是陪伴以及照顾孩子，而孩童时期的情感在人类整个生命阶段中是比较容易对陪伴者或陪伴物产生依赖情感的时期。从小说中乔西一家对克拉拉的态度上，便可窥见一斑，整体上是从心理上的提防，在磨合过程中逐渐转为接纳与依赖，这也是大多数购买AF的家庭对AF的态度。但人工智能真的可以被人类完全真诚放心地接纳吗？克丽西起初对克拉拉的态度平平，甚至可以说是冷漠，因为高科技带来的副作用让她失去了她的大女儿萨尔，而她的二女儿似乎也要因为相同的原因离她而去，这对克丽西来说无疑是致命的打击。她对人工智能持有非常矛盾的态度，一方面，她接受并迎合科技与数据的高速发展与高度智能化；另一方面，人工智能数据算法也剥夺了她作为一个母亲的幸福，使她的生活处于忧患之中。在乔西病情严重到卧床不起时，克丽西与里克就对给乔西做基因提升这件事情的正确性展开了争论，克丽西认为虽然基因提升会给孩子带来身体上的负担以及健康风险，但也会给乔西带来更大的机遇与发展空间。父母之爱子，则为之计深远。克丽西作为母亲，不希望乔西因为没有进行基因提升而落后于其他孩子，她希望这项提升可以给乔西增添底气，甚至在失败后选择继续用科技延续乔西的生命，制造出一个伪克隆体“乔西”，体现了《克拉拉与太阳》中的母爱受科技影响后的偏离。

这也是克丽西当初选择克拉拉的另一个原因，继萨尔病逝之后，乔西的身体也因为基因提升技术而出现了问题。克丽西为了逃避再次经受丧女之痛，与丈夫保罗商议后选择求助于博士卡帕迪尔先生，继续用人工智能技术复制一个“乔西”陪伴在他身边，而当下的克隆技术还不够支撑“乔西”像真正的乔西一样陪伴在克丽西身边，这个“乔西”需要一个像克拉拉这样善于观察模仿的技术内核才可以在真正运行时完美地扮演乔西。石黑一雄通过克拉拉的视角描述出来的克丽西已经向读者展现出了她作为母亲和妻子强势专断的一面，因此克拉拉被乔西带回家这件事情，也未必简单的出于对女儿的关爱，更多可能是出于克丽西复制计划的需要。可是通过不完善的基因克隆技术复制出来的产品，结合AF的模仿功能，可以替代人类乔西吗？通过科技实现外形上的克隆，数据算法精密地推理得出的相似的表情与行为，可以取代自然人吗？这个争议从始至终都横亘在克丽西与保罗之间。这是自然人类与科技化人类思想的冲突，也是当下人类研究方向上的伦理矛盾点。

二、对人工智能伦理问题的思考

1996年克隆羊多莉诞生，宣告着生物科技在人类文明上迈出了具有里程碑意义的一步，证明人类已经初步掌握了克隆生物体的技术。但克隆技术也在社会上引起了恐慌，最终科学界和整个社会达成共识，在伦理和道德原则的指导下，应该禁止克隆人类。可是在科幻小说中，克隆人作为高科技的代表频频出现，2005年出版的石黑一雄的《别让我走》围绕着一群克隆人的生活经历和他们作为人体器官捐献者的故事展开。克隆人虽然是人类通过科技手段创造出来的，但也具有独立的思想，将科技凌驾于生命之上，是对伦理道德和自然生命的漠视。正如对克隆人类的禁令一般，在现实社会中对人工智能机器人的研发也遭到了各界人士的抵制。

在《克拉拉与太阳》中，克拉拉、罗莎、雷克斯等一类AF属于陪伴型机器人。这是与人类日常生活关系密切的智能机器人类型之一，它常常要与人类直接面对面接触，担任保姆、玩伴等角色，因此人與机器会有很多机会互动。在这个过程中人类可能会对机器人产生依赖等人类情绪，尤其是在石黑一雄创作的这个世界中，机器人似乎也具有了独立思考的能力，甚至在一些情节中展现了情感道德的倾向。比如克拉拉未出售前，B3对克拉拉说的话与对未来的推断；克拉拉在看到库廷斯机器时的自主意识定义与行为；得到母亲克丽西的拥抱时，叙述中提到奇妙的感觉；在追赶太阳时，对里克提供帮助产生的感激与依赖心理；在乔西对它的态度发生转变时，克拉拉产生的相应的微妙变化等。这些事件表明克拉拉等AF已经初步具有自主推理与思考能力。石黑一雄在创作时依然遵循了化学家、科幻大师阿西莫夫在他的短篇集《我，机器人》中成型的经典机器人三定律——机器人不得伤害人类，或者不得置人类于危难中；机器人必须服从人类的命令，除非与第一定律冲突；机器人可以在不与第一、第二定律冲突的情况下维护自身存在。对于这一科技，马斯克曾表示，“人工智能比管理不善的飞机设计或维护、糟糕的汽车生产更危险”。“它有可能破坏文明。”他还举例称，一个拥有超级智能的人工智能可以非常擅长写作，并有可能操纵公众舆论。

制造和使用工具是人区别于其他动物的重要标志。随着科技发展，人对机器的依赖程度进一步增强，人与机器的关系已经走出最初的人完全操控利用机器的“和谐”阶段而不断走向紧张，曾经的一切以人为中心、为指归的人类中心主义遭遇了前所未有的巨大冲击。人类与超强机器人的关系，不外乎三种类型：第一，人即主人，是统治者，主导者；第二，机器人取代人类，形成自主意识，不受人类的控制，成为人类的主人，此层关系与第一层关系形成鲜明的对立面，也是当下人类对人工智能未來发展主要的担忧；第三，共生性的伙伴关系，这也是社会各界广泛支持的一种关系，是未来科技社会人与AI和谐共生的理想状态。所有关系从一开始形成，便有了存在的意义，如何引导AI未来向合理的，与人类互惠互利的方向发展，是现如今研究人员以及文学科幻小说中一直在探讨的问题。一个文明和谐的高科技后现代化社会，既要反对人类中心主义，又要坚持以人为本的理念，为人类服务，促进人类社会的良性进步，这才是机器人发展的终极目的。

尽管克拉拉在外貌行为或内心情感上逐渐“类人化”，它仍遇到了“非人”的伦理困境。在人类眼中，克拉拉难逃“物”的标签。克拉拉等人工智能机器人作为大数据的产物，被人类设定为完全利他主义、服务于人类的思维模式，也具有独立思考的能力，在人类社会中发挥了重要的作用，可最后却难逃被丢弃的命运。《克拉拉与太阳》最后的结尾是颇具悲剧意味的，克拉拉似乎并没有意识到自己只是一个工具，还沉浸在自己因虔诚祈祷太阳而让奇迹出现的美好想象中，而回应它的最终只有经理那随着吊车远去的脚步声。这也更加印证了第一种类型，即人是主人——也体现了人类的利己主义与多变性。这种模式在科幻小说中已经出现过很多次，对于人类来说无疑是理想状态，但对于拥有自主意识的机器人来说，这却是不公平的，于伦理上也是有失道德的做法。在未来的人工智能研发过程中，人形机器人市场是具有很大潜力的新兴市场，其应用范围非常广泛，未来发展前景广阔，但如何兼顾伦理上的合道德性以及AI的自主性是一个值得我们不断去思考求证的问题。

参考文献

[1] 赵松，陈萱.专访石黑一雄：爱是抵抗死亡的武器，机器人的爱却是个悲剧[EB/OL].（2021-03-21）[2023-07-17].https：//baijiahao.baidu.com/s？id=1695720535775312164&wfr=spider&for=p.

[2] 桑德尔.反对完美[M].黄慧慧，译.北京：中信出版社，2013．

[3] 马欢乐.“提升”之殇——生命伦理学视域下的《克拉拉与太阳》研究[J].中国医学伦理学，2023（4）.

（特约编辑 范  聪）