《克拉拉与太阳》中的人工智能与道德伦理

诺贝尔奖得主石黑一雄的小说《克拉拉与太阳》迫使人们正视自己对新兴技术未来的焦虑，并直面关于尊严、存在和人性的深层次问题。小说还通过复杂的角色和推测的未来让我们从不同视角来体验新的生活和新的世界。虽然小说的世界貌似离我们自己的世界很遥远，我们倾向于对小说中角色的道德伦理错误做出判断，但后来我们才意识到，其实这些道德伦理错误也存在于我们的世界。

诺贝尔奖得主石黑一雄的小说《克拉拉与太阳》生动描述了由利益驱使的科技公司开发的新兴技术正在重塑我们的私生活，并引导我们反思这些技术在我们的社会环境中所扮演的角色。小说的背景设定在不远的未来，表面上，当代读者读起来似乎熟悉，小说的背景世界却充满了令人不安的差异。在很多方面，石黑一雄设定的未来世界只是突出了资本主义环境的特征，可以被视为资本主义环境的自然发展。克拉拉被称作“AF”（Artificial Friend），是富裕家庭购买来陪伴孩子的高级机器人。克拉拉的小主人是个小女孩，她住在一所乡间别墅里，过着相对孤独的生活：在她的“长方形”（类似iPad的屏幕）上“上学”，只通过罕见的会议与同龄人进行社交。通过这样的未来世界情境设定，石黑一雄讽刺的是，虽然人类拥有比以往任何时候都更先进的商品和服务，同时却感到了日益增加的孤立和绝望。

《克拉拉与太阳》以一种清淡的笔触和从容的节奏展开，作者选取了极具洞察力和模仿能力的机器人克拉拉以第一视角来描述她所经历的世界。这部小说的叙事方式与石黑一雄的其他叙事没有什么不同。《克拉拉与太阳》低调的叙事基调与读者从机器人克拉拉视角边缘获得的令人不安的细节形成了对比。“当读者翻页的时候，这些细节变得更加令人不安，小说的张力也越来越大，这使它成为一部你无法停止阅读的悬疑惊悚片”。好的文学提供了与世界更具体验性的接触，使我们能够富有想象力地进入遥远的他人生活，并催生“参与”情感。《克拉拉与太阳》在这方面表现出色，它通过复杂的角色和推测的未来让我们可以从不同的视角来体验新的生活和新的世界。石黑一雄还为我们展现了更深层次的寓意：虽然小说的世界貌似离我们自己的世界很遥远，使我们倾向于对小说中角色的道德伦理错误做出判断，但后来我们才意识到，其实这些道德伦理错误也存在于我们的世界。

人工智能

石黑一雄选取克拉拉作为第一人称叙事写法特别高明。克拉拉是一台机器，她的语调平淡而机械，她的视觉系统与我们的截然不同。人类的某些方面似乎超出了她的掌控范围。她无法理解人类对孤独的恐惧，无法认识到死亡和悲伤会以何种方式消耗我们的生命，也难以理解某些常见的人类非理性模式。但克拉拉不仅仅是一台机器，通过“眼睛”看世界，她有着复杂的心理活动和丰富的主观经验。在小说的各个方面，她都表现出了同理心、同情心、幸福感和渴望，有时甚至比我们人类自己看到的还要多。我们发现，克拉拉在敬畏、祈祷、希望和牺牲的共同作用下，会产生共鸣的情绪反应。我们目睹她经历了精神崩溃，并努力理解强加给她的要求。石黑一雄熟练利用机器之间的这种双重性，虽然有时似乎太人性化，我们难以理解克拉拉的心理过程和能力，但最终让我们认识到这些过程与我们自己的感知、思考和行动有多么相似。

像ChatGPT这样超级人工智能的认知能力以数据收集和模式识别为特征，克拉拉的认知能力是由她与环境互动并受到环境挑战时收集的感官、知觉和物理数据形成的。与许多标准的文学比喻相反，从一开始，克拉拉就不是一个以满足人类需求为唯一目标的迟钝仆人，也不是一个愿意操纵和杀害人类以达到她目的的机器。事实上，石黑一雄对克拉拉的设定超越了人们对机器人的刻板印象。当克拉拉说出自己的想法时，我们不得不承认她有理性、理解力和自知之明。她的第一人称叙事视角让我们毫无疑问地认为克拉拉是聪明的。这部小说迫使我们思考我们与智能机器的生活伦理问题，如“我们如何与它们建立联系？”“从生产它们中获利的公司有什么责任？”“它们有什么样的自主权和尊严？”“它们的生活是否充满意义（如果有的话，是什么类型的）？”

小说中克拉拉的几个重要选择情节进一步动摇了我们对人工智能的标准看法。克拉拉被描绘成一个高度清醒的女孩，同时拥有一种孩子般的天真。尽管她表达得很敏感，但对于她是否经历过真正的同理心，还是有一些模糊之处。这部小说的一些评论家不太愿意把克拉拉描述为“她”或“它”。当我们读到这篇文章时，我们可能会忍不住问克拉拉是否被编程为模仿人类的感觉，通过她的行为却意识到这一事实根本无关紧要。我们屈尊俯就地忍受了她对太阳的天真崇拜，只是发现她在做一些我们错过的重要事情。当人类看不到的时候，克拉拉似乎看得很清楚。但我们人类心知肚明，克拉拉所谓的“太阳能滋养并治愈小主人”的基本逻辑是讲不通的。

这部小说深刻表明，道德推理是一个具体的过程，由思想所在的特定媒介和发展的特定环境共同塑造。我们看到，克拉拉的世界观是她如何被编程、训练和教育的结果。例如，由于她所服务的世界是高度等级化的，社会地位是她注意到的关于人的第一个特征。因为她受到了太阳的“滋养”，所以这个天体就成为了她崇敬的主要对象。我们人类不禁会发出疑问：我们会不会犯克拉拉同样的错误呢？我们的道德价值观难道不是由我们有缺陷的社会环境或自然选择的反复无常所塑造的吗？像克拉拉这样有着丰富内涵的智能实体使我们联想到创造、营销和售卖这些实体公司的道德责任问题。即使克拉拉是一个善意的机器人，主要目的是提供帮助，但为什么她没有被编程来质疑她所服务的不公平社会秩序、她所处环境中有缺陷的偏见呢？这些其实是人工智能的资本市场力量所决定的。石黑一雄故意设定小说角色对一些最令人不安的道德问题视而不见，从而引发我们人类对人工智能大环境下自身道德伦理问题的深思。

道德伦理

作为一部未来主义科幻小说，《克拉拉与太阳》让我们面临着当前资本主义体系中正在发展的新兴技术所带来的许多焦虑。特别是，这部小说让我们反思了商业伦理学家应该思考的问题，比如与追求利润的公司开发的高度智能机器共存的承诺和危险，追求人类进步和超人类主义作为参与劳动力的一种手段，以及生活在技术失业已经掏空了劳动力环境中的中产阶级的生存现状。

石黑一雄精心构建了克拉拉的世界，使其看起来像我们的世界。克拉拉的世界充斥着财富和机会的不平等，这种不平等其实正是我们当前资本主义环境的特征。正如Lombardo所言，这部小说强调了“无情的技术逻辑”，将童年、教育、家庭、工作，甚至个人的自我意识转变为一种可以购买、出售和优化的产品。这部小说是对“我们这个物种是否能够忍受它创造的一切”和“儿童为现代进步所付出的代价”的沉思。

石黑一雄用低调、浑厚的散文详细描述了克拉拉的世界，使许多令人震惊的细节看起来平凡而正常。克拉拉似乎对她观察到的任何事情都没有做出道德判断，一些最令人不安的特征从未在她的叙事中占据中心位置；相反，读者通过附带的对话和评论将背景拼凑在一起。此外，读者没有面对一个完整的科幻世界，而只是目睹了一个家庭平凡而亲密的日常生活。这部小说不是关于英雄人物试图改造反乌托邦世界的故事，而是关于普通人尽最大努力以他们能够忍受的方式生活的故事。在这个过程中，它突显了我们的个人世界正在被人类所无法控制的不协调的企业决策网络重塑。石黑一雄将我们置于一个被动接受的世界，他让道德问题凸显得更加具有压迫感。当像我们这样的普通人“无助地陷入悲剧安排”时，他们必须面对这些问题。

石黑一雄似乎精心描绘了这个未来世界，一些人却质疑其合理性。无人驾驶汽车明显缺席，尽管有机器人，人们居然仍在使用真空吸尘器，雇人来清洁窗户，雇女佣来做家务。同样令人困惑的是，为什么克拉拉这样一个昂贵而强大的机器人，没有被编程、训练或教授关于她的世界的某些基本事实。例如，她对双向行驶的汽车不会在双面高速公路上相撞这一事实感到困惑，她忽略了谷仓是什么，以及它的用途，她不了解她崇拜的太阳的局限，她不清楚医学常识等。

然而，这些差异在小说中起着重要的叙事作用。石黑一雄作品的成功恰恰在于它能够熟练地将我们与克拉拉的世界拉开距离，并将我们带回到那里，就好像那是我们自己的世界一样。克拉拉对汽车的思考让我们觉得这种平凡的活动是陌生的，这促使我们以类似的方式看待我们的许多其他日常活动。克拉拉对我们复杂情绪的简单描述使我们能够从一个富有洞察力的新颖视角来看待它们。女佣的存在帮助我们直面和解决不平等和阶级歧视问题，这些问题在克拉拉的社会中和在我们的社会中一样普遍存在。事实上，有趣的是，克拉拉本人“既是无人性服务器的化身，也是对其的反驳”。

石黑一雄似乎将克拉拉当作完美的造物来呈现，他一方面借克拉拉的视角极为温柔地批判人性深处的纠结、自私和软弱；另一方面，他并没有像其他刻画人工智能的小说那样为读者呈现一幅可悲可怖的近未来社会，这使得整部小说更像一则带着小说家美好愿望的童话。克拉拉完美地完成了任务，帮助乔西活了下来。虽然最终难免被投弃在堆场的命运（消费社会“用完即弃”的逻辑），但她看起来不仅没有丝毫怨言，反而感恩与乔西一家度过的时光。这段结尾读来不免让人心生悲凉，我们还是会感慨，即便像乔西父母那样的好人，仍然有自私自利的一面。《克拉拉与太阳》虽说是科幻小说，但科幻显然并非它的核心。与其说石黑一雄创作了一部科幻小说，不如说他借用了科幻小说的形态，让我们通过一个有同情心的机器人的眼睛来体验世界，《克拉拉与太阳》迫使读者面对关于人类和机器的重要认识论、本体论和伦理问题。石黑一雄为读者提供了一个丰富的空间来反思目前普遍存在的对未来资本主义社会的许多焦虑，反思我们现在的世界观和价值观。正如一些商业伦理学家和普通读者对克拉拉的世界有了新的见解：克拉拉的世界听起来一点也不像科幻小说。

作者简介：

蒋华，1983年出生，硕士，副教授，研究方向：英美文学。本文为2022年江苏省高校高质量公共课教学改革研究项目：“新文科”背景下大学英语听说能力提升的多模态范式研究，项目号：2022JDKT119。作者单位：东南大学成贤学院。