论《克拉拉与太阳》中人工智能的电子文本与伦理意识

【摘要】 人工智能是当今科幻文学的热门题材之一。使用文学伦理学批评中的脑文本、电子文本、伦理选择等相关理论对2017年诺贝尔文学奖得主石黑一雄（Kazuo Ishiguro，1954—）于2021年发表的新作《克拉拉与太阳》（Klara and the Sun）进行解读，可以发现，小说的主人公人工智能克拉拉是使用电子文本进行思考和行动的，这使她的行为与思维和使用脑文本进行思考的自然人有了根本的区别：人工智能克拉拉无法形成与人类相提并论的伦理意识，不具备做出恰当的善恶分辨的能力。通过克拉拉形象的刻画，石黑一雄表达了对人工智能领域和人机关系的未来畅想和构思。

【关键词】 石黑一雄；《克拉拉与太阳》；脑文本；电子文本；伦理选择；人机伦理

【中图分类号】I206      【文献标识码】A      【文章编号】2096-8264（2023）02-0022-04

【DOI】10.20024/j.cnki.CN42-1911/I.2023.02.007

在2017年获得诺贝尔文学奖之后，日裔英国小说家石黑一雄（Kazuo Ishiguro，1954—）于2021年3月发表了自己的第八部长篇小说《克拉拉与太阳》（Klara and the Sun）。该小说是石黑一雄继2002年创作《别让我走》后，第二次涉足科幻题材，且涉及到人工智能这一科技领域的热门话题。

小说《克拉拉与太阳》的艺术魅力，很大程度上来源于，它是由人工智能“AF”（Artificial Friend）克拉拉作为讲述者的。随着讲述者克拉拉的娓娓道来，小说展开了一幅人类与机器人共生共存的未来世界图卷。在小说剧情的层层深入和逐步推进中，一系列人类与机器人之间的关系问题也被和盘托出：人类和机器人有何异同？人工智能能够替代人类吗？如何处理好与机器人的关系？

要正确理解这些人工智能相关的命题，首先就要对自然人和机器人的差异问题做出解答。随着科技的迅猛发展，机器人技术逐步完善。从体型、外貌、举止，乃至思维、性格等诸多方面，机器人越来越“像”真人了，越来越能够以假乱真地效仿和伪装成自然人了。那么，自然人与机器人，其最根本的差异性到底何在？文学伦理学批评的脑文本、电子文本理论，为我们认识人工智能提供了一个有效思路和理论依据。

一、 存储与读取：电子文本的优越性

文学伦理学批评认为，文本可以分为三个类型：“1.以人的大脑为介质保存记忆的脑文本。2.以物质材料为载体保存文字或符号的物质文本。3.以计算机存储设备为介质保存符号或文字的电子文本。” ①其中，脑文本是最基本、最原始的文本形态，后二者是在脑文本产生之后才出现的，是由脑文本转化而成的。

人通过脑文本来指导思维和行动，相应的，机器人通过电子文本来运行和工作。无论是计算机、电子设备，还是人工智能、机器人，都是使用数字信号来调用电子文本而工作的。小说《克拉拉与太阳》以机器人克拉拉的视角进行叙述、展开故事，一方面，克拉拉在小说中对不同事物的别具一格的新鲜认识，和不同于常人的行为举止，通过电子文本理论，都可以得到清晰且符合逻辑的解释；另一方面，从她的思维和行动中，我们也可以获知电子文本在运转上的种种特征，从而更深刻地了解人工智能的工作方式。

电子文本是“以数字形式存储的文本形式。具体而言，电子文本指以计算机盘片、固态硬盘、磁盘和光盘等化学磁性物理材料为载体的电子文档，它依赖计算机系统存取并可在通信网络上传输。电子文本是科学的产物。” ②通过计算机指令，一切具有意义的信号和符号，都可以转为数字代码，存储于电子设备中。这一类数字形式的文本，就是电子文本。

从历时的角度来看，电子文本是“科学的产物”，是三大文本形式中最晚出现的；从共时的角度来看，电子文本在储存介质和存储读取方式上，与脑文本和物质文本存在着截然不同的巨大差别，具有显著的优越性。

从载体上来说，电子文本以电子设备作为存储的载体，拥有最为稳固可靠的储存介质。在三种文本形式中，脑文本以人的大脑作为载体，物质文本以物质书写材料——如陶器、甲骨、竹简、纸张等——作为载体，而电子文本以电子设备作为载体。储存电子文本的电子设备，是最牢固可靠的文本储存介质：电子设备受到物理损伤的可能性最小，这使得电子文本具有了最牢固可靠的存储介质。

《克拉拉与太阳》的结尾，克拉拉被遗弃在堆场，四肢已经无法动弹，孤独地等待着终结的到来，但她此时仍然对毕生的种种经历记忆犹新。即使已经丧失行动功能，克拉拉的经历依然牢固地存储在她的机体内，随时都能清晰地进行回忆，电子文本在存储上的稳固性可见一斑。

从存储和读取的方式來说，电子文本以计算机指令作为存取方式，最为高效。相较于脑文本和物质文本，电子文本通过计算机指令进行存储和读取，藉由简单的计算机指令的输入与输出，字符、图像、动画、音频、视频等形式的电子文本得以自由地被存储或调出，无需消耗大量物质材料的同时，对于较大容量的文本也能够轻松从容地处理，高效且灵活。

《克拉拉与太阳》中，在与乔西朝夕相处了一阵子后，通过观察与学习，克拉拉已经能够惟妙惟肖地模仿乔西的言谈和动作。在母亲的命令下，克拉拉可以娴熟地化身乔西，以乔西的口吻和神态与母亲展开对话。乔西在日常生活中的一举一动、一颦一笑，是一个较大、较复杂的文本内容，而这一切都被克拉拉所捕获、学习并掌握；伴随着母亲的一声令下，克拉拉便能瞬间读取乔西的行为习惯，以假乱真地化身乔西，与母亲交谈——这都受益于电子文本高效灵活的存取方式。

二、受制于人类：电子文本的使用限制

虽然在储存介质和存取方式上具有着得天独厚的优越性，但是在实际使用中，电子文本也往往受到各种各样的限制。小说《克拉拉与太阳》的主人公克拉拉在思维和行为上，和人类存在着显著的不同。在阅读小说的过程中，作为读者的我们，时时刻刻都能从克拉拉的叙述中感受到，这是一个人工智能——而不是普通人类——在讲话、在行动。通过电子文本的相关理论，我们可以对这些问题做出解释。克拉拉随时随地流露出来的人工智能特质，是电子文本在实际使用时受到的限制所产生的。具体来说，大致有三点：

第一、电子文本受制于创造者——也就是自然人——的意志和意愿。

在组建一台电子设备时，创造者往往会按照自己的意愿，设置一个终极目标，让所创造的电子设备去完成和实现。为了让它具备实现这个目标的条件，创造者会根据需要，搭建这台电子设备的物质外壳、编写相应的电子程序、输入相应的计算机指令。由这一过程创造而成的电子设备，在运用电子文本进行工作和运转的时候，能且只能将这一创造者设置好的终极目标奉为圭臬。创造者没有做出具体设置的内容，电子设备将很难进行处理。

在两次试图跨越农田、前往麦克贝恩先生的谷仓时，克拉拉遇到了困难：她无法独自穿越农田，被困在杂草中无法移动。克拉拉能够完成照料孩童这样复杂的工作，却无法穿越一块杂草丛生的农田，究其原因在于，她的创造者认为，克拉拉这样的“机器人朋友”的任务在于照料孩童，而照料孩童并不需要具备很强的运动能力。因此，虽然她在服务儿童方面可谓样样精通，但是在运动机能上，她只被赋予了最基础的移动功能，而并不具备跨越农田这样进阶的移动程序。

在实际使用时，电子文本高度受制于创造者在创造时的意愿，其程序和功能往往是为了创造者设置的根本目的而服务的。在创造者没有进行设置、作出指令的陌生情形中，电子文本往往显得无所适从。

第二、电子文本的容量极度依赖通过计算机指令进行的接受与学习。

电子设备通过计算机指令来进行电子文本的存储与读取，一台电子设备中，储存有多少电子文本，取决于之前通过计算机指令输入了多少内容。如果没有大量计算机指令的输入，电子文本的储备就会显得匮乏，这可能会影响电子设备的正常运行。

小说中，克拉拉对许多事物的概念和认知存在着常识性的错误。对于没有经过学习程序学习的内容，克拉拉总会产生一些常识性的认知错误，让读者啼笑皆非。“库廷斯机器”（Cootings Machine）是小说里出现的一种建筑施工机器，对于克拉拉来说，“库廷斯机器”是完全陌生的，她对“库廷斯机器”的学习过程也是长期的、不完备的，因此她产生了一系列的错误认知。对于未经学习的陌生信息，电子文本在处理时往往会发生容量不足的问题，从而影响正常工作。

第三、电子文本的工作取决于机体的完整性，一旦机体损坏，就无法正常运转。

电子文本的运行依赖于电子设备机体的正常运转，当面对短路、氧化、程序错误或是其他故障时，电子元器件将会被损坏，电子设备将牵一发而动全身地失去机能，从而引发电子文本的停摆甚至遗失。

《克拉拉与太阳》中，为了摧毁“库廷斯机器”，克拉拉在自己的耳朵下方切开一个切口，将储存在头部之内的“P-E-G9溶液”取出，倒入了“库廷斯机器”中。缺少了“P-E-G9溶液”的克拉拉，在认知能力上出现了严重的故障，开始出现幻觉，身边的人在她眼中变成了“椎体和柱体”，甚至连朝夕相处的乔西也变得难以辨认。机体受到损伤的克拉拉，已经无法自由地存取信息和知识，电子文本的正常运转已经难以维系。

克拉拉所表现出的与自然人高度差异化的思维和言行，均是她使用电子文本来运作的结果和产物。电子文本在给她存取信息的稳定性、效率性和灵活性上带来了优势的同时，也带来了严重的限制：她被迫服从于创造者意愿、在接受信息上难以触及深度与广度、机体受到损伤就难以维持运作。

三、思维的区隔：人工智能亟待完善的伦理意识

脑文本与电子文本的差异，直接导致人类与人工智能在思维上有着性质上的区分。

在思维层面，人类与机器人最显著的差异在于，二者在分辨善恶的能力上有着明显的高低之分。使用脑文本的人类能够形成健全的伦理意识，可以对善恶做出合理的分辨与判断，而使用电子文本的机器人只能对善恶做出简单的程序运算，往往无法明辨是非。

在思维层面，机器人似乎也拥有自己的意识，能够进行思考、做出判断。但是，从根源上来说，人类和机器人在思维过程中所采用的文本材料不同，这使得二者的思维方式的根本性质是完全不同的：使用脑文本进行思考的人类，才拥有真正意义上的“思维”的能力；而机器人使用电子文本来思考的过程，充其量只能算是在通过既定的计算机程序，进行数学运算。而作为结果，人类和机器人在形成伦理意识和分辨善恶之别的能力上，有着明显的高低之分。

根本性质的不同，使得人类与机器人的思维方式有着大量的差异，但其中最为显著的差异在于，人类拥有伦理意识，能够通过思考和判断，辨别善恶是非，而机器人在面对善恶之辨时往往显得無所适从。

文学伦理学批评认为，“人的伦理意识开始产生，善恶的观念逐渐形成，这都是脑文本发生作用的结果。” ③拥有脑文本，是拥有伦理意识、形成善恶观念的前提条件。通过接受伦理教诲，人类将拥有教诲作用的有关善恶、道德、伦理的文本材料转化为脑文本，储存在大脑中，从而拥有伦理意识，形成伦理观念和善恶观念。在这一过程中，脑文本是伦理教诲得以实现的必要条件：只有通过接受学习，才能形成相应的道德意识和伦理意识的脑文本，从而获得道德判断和善恶分辨的能力。然而，整个伦理教诲的过程，使用电子文本是无法实现的：电子文本不具有接受伦理教诲的能力。即使我们通过输入计算机指令的方式，教给机器人一些判断是非黑白的准则，它们所能做的也只是根据这些准则，来进行一些基础的计算机运算。这些运算和判断，对付一些简单的场景时，尚可勉强奏效；但在面对一些复杂的、多维度的、多层次的伦理场景和善恶判断时，依托电子文本储存的计算机程序，是完全无法胜任这项工作的。

《克拉拉与太阳》的主人公机器人克拉拉的伦理判断和善恶评价能力是不完善的。由于不具有生物性脑文本，因此她无法形成完善的伦理意识，无法拥有健全的道德意识和伦理观念，只能凭借已经设计好的计算机程序，对事物的正确与否，做出简单的数学运算。在这种数学运算下，她无法对事物做出综合性的评价，所得到的结论是非黑即白、非善即恶的。

小说中，在克拉拉的眼中，存在着“极善”和“极恶”两种极端：她心目中的“极善”是太阳。克拉拉的正常运作非常依赖吸收阳光，克拉拉把它称之为“太阳的滋养”。在她心目中，一旦“太阳的滋养”出现，奇迹就会发生，好事就会降临。与“太阳”相对的的另一个极端是代表着“极恶”的“库廷斯机器”。她认为，一切坏事都由它诱发，其中，它最严重的“罪行”在于：“库廷斯机器”排放了污染，遮蔽了太阳，使得太阳无法降下“滋养”。她单方面地认为，要想让代表着“极善”的太阳答应她的请求，向乔西降下“特殊的恩惠”，从而让乔西恢复健康，就必须摧毁代表着“极恶”的“库廷斯机器”。正如小说作者石黑一雄在接受访谈时所说的：“太阳真的有这样的力量吗？在故事里我并没有很清楚地交代，或许克拉拉是这样相信的，但我自己不觉得太阳能够拯救乔西，或者说能解决一切问题。”

同样的，拥有完善的善恶观念的读者们，对于太阳和施工机器的孰是孰非有着更全面、更中肯的评价：太阳并不是全知全能的，并不能使濒死之物起死回生，也不能治愈一切疾病；太阳被遮蔽也有可能是受到天气影响，并不能完全归咎于施工机器造成的污染排放。读者们会意识到，克拉拉的观点是一厢情愿的、经不起推敲的、荒诞可笑的。

从克拉拉的这种走向高度极端化的善恶评判方式中，我们可以看出，使用电子文本的人工智能在面对善恶是非时，由于缺乏足够完善的伦理意识，因此，它们很难做出中肯的、全面的、综合性的评判。不具有脑文本的机器人，也就失去了正确评判善恶的权利与资格。在伦理意识的完善程度和善恶分辨能力上，使用电子文本进行思考的人工智能显然无法与人类相媲美。

四、结语

1950年，人工智能之父艾伦·图灵（Alan Turing）发表了论文《计算机器与智能》（Computing Machinery and Intelligence），提出了机器人能否思考的问题。自提出以來，图灵测试就一直是计算机领域和人工智能领域的热门话题之一。然而，在提出了70余年之后，来自世界各地的设计者所创造的、令他们引以为傲的无数人工智能却都败给了图灵测试，人工智能还有很长的路要走。

文字是抽象的，文学作品无法直接介入物质世界。但通过艺术想象，文学可以探讨当下和未来的无限可能，从而对现实社会产生隽永深远的影响。随着人工智能和克隆人等人造人技术的逐步完善和成熟，人造人再也不仅仅是停留在艺术想象中的存在。

在当今的科技水平下，虽然使用电子文本的人工智能并不能形成与人类相媲美的伦理意识，但在《克拉拉与太阳》中，通过克拉拉、雷克斯、罗莎等形象的描写和刻画，石黑一雄表达了对正在迅猛发展但又存在诸多技术和伦理上的问题的人工智能领域的关注，提出了对人工智能未来发展的展望和期待。目前，对机器人进行伦理调试、使其具备成为道德主体的资格，已经成为了机器人技术的一大热点，并且已收获不小成就。或许在不久的将来，人工智能将能够真正地融入人类社会。

注释：

①聂珍钊：《文学伦理学批评：口头文学与脑文本》，《外国文学研究》2013年第6期，第9页。

②聂珍钊：《文学伦理学批评导论》，北京大学出版社2014年版，第250页。

③聂珍钊：《脑文本和脑概念的形成机制与文学伦理学批评》，《外国文学研究》2017年第5期，第33页。

参考文献：

[1]（英）石黑一雄.克拉拉与太阳[M].宋佥译.上海：上海译文出版社，2021.

[2]Kazuo Ishiguro： Klara and the Sun[M].London： Faber and Faber，2021.

[3]聂珍钊.文学伦理学批评导论[M].北京：北京大学出版社，2014.

[4]聂珍钊.文学伦理学批评：基本理论与术语[J].外国文学研究，2010，32（01）：12-22.

[5]聂珍钊.文学伦理学批评：口头文学与脑文本[J].外国文学研究，2013，35（06）：8-15.

[6]聂珍钊.脑文本和脑概念的形成机制与文学伦理学批评[J].外国文学研究，2017，39（05）：26-34.

[7]聂珍钊.论脑文本与语言生成[J].华中师范大学学报（人文社会科学版），2019，58（06）.

[8]尚必武.机器能否替代人类？——《克拉拉与太阳》中的机器人叙事与伦理选择[J].外国文学研究，2022，

（01）.

作者简介：

文思远，湖北武汉人，华中师范大学文学院硕士研究生，主要从事英美文学研究、文学伦理学批评研究。