后人类时代人工智能的探讨与反思

[摘  要] 科学技术一度被人类视为是天赐之物，然而进入后人类时代，随着科技的高速发展，人类文明并没有出现想象中美好的乌托邦社会，人类与技术、资本之间反而出现了问题。《克拉拉与太阳》是诺贝尔奖得主石黑一雄的第八部长篇小说，基于对科技时代前瞻性的观察和思考，他在小说中再现了人类和技术的耦合。本文从机器人克拉拉的视角出发，展现了人工智能和基因编辑技术带来的伦理挑战与哲学反思，以及资产阶级意识形态下“人-机-人”的异化关系。

[关键词] 《克拉拉与太阳》  人工智能  伦理挑战  哲学反思

[中图分类号] I106        [文献标识码] A        [文章编号] 2097-2881（2023）27-0048-05

比尔·盖茨曾经在2015年指出具备“超级智能”性能的机器在未来总有一天会威胁到人类，但在谈论到《克拉拉与太阳》这本书时他又说：“这本书让我思考拥有超级智能机器人的生活可能会是什么样子，以及以后人们会将这些类型的机器视为技术或其他东西。”“科技”从来就不是科幻小说的真正主题，石黑一雄在接受采访时就说过：“无论小说本身是否有关科技，我们需要明白的是，我们现在需要担心的应该是社会急速发展带来的巨大变化。”石黑一雄通过《克拉拉与太阳》这个“软科幻”小说描绘了人性，展现了未来科技时代的“反乌托邦”主题，从而警示人们关注“技术异化”、关注科技与伦理的冲突问题，以未来审视当下。“机器人能否代替人类？”“自然人和类人类能否共存？”这类问题自从未来式科幻小说产生起就出现了，而当下的科幻小说走得更远。本文的目的在于揭示和反思在当下和未来高科技迅速发展带来的深刻伦理问题，以及人类在人机共存世界如何自处等问题。

一、AI与IA：人机世界的交互

在《克拉拉与太阳》中，作者石黑一雄从第一视角出发，记述了AF克拉拉作为陪伴型机器人最后在废弃的堆场中回忆自己“一生”的故事，其中作者着重描写了克拉拉陪伴经过了“基因编辑”的小女孩乔西成长的过程。克拉拉善良、无私、真诚，像太阳那样奉献自己温暖别人，具有全然的利他性。小说的背景设定在人工智能的新时代——书中社会有两样东西是远超现在社会的：一是人工智能机器人（AI），二是基因编辑技术（IA）。后人类时代是不同新兴的科技融汇时代，小说把目光聚焦于自然人与超人类、 类人机器之间复杂的身份难题，通过对技术本质的批判性审视，对比主人公不断演变的思维过程以及技术理性背景下人类情感与道德决策，鼓励读者思考人性。在人工智能、信息网络化、生命科技三大新生科技高速发展下，由于基因工程、克隆技术和虚拟实体的出现，“人 ”的传统定义受到了巨大挑战，导致了后人类互动生活方式的发展变化。小说描绘了科技发展之下，在农村和城市中人类与机器人相处的种种景观，表明技术已然渗透进了人类生活的方方面面。城市里，高楼鳞次栉比，一眼望不到顶，遮住了天空和阳光，路面灰扑扑的；路旁的库廷斯机器高效地运作着，散发出滚滚白烟，像交响乐中刺耳的噪音。烦人的库廷斯机器和令人恐惧的“基因牛”，无时无刻不在提醒着人们科技进步带来的“毁灭”。“这时，污染变得更严重了，哪怕从杂志桌那一侧，我也看不到天空的缝隙了，而窗玻璃本身——玻璃工人们如此骄傲地替经理将它擦亮——也满是污点”[1]，“污染”遮天蔽日。乡村里，在乔西母亲带克拉拉去瀑布的路上，田野上的“基因牛”也在暗示着科技对于乡村生活的入侵。

当前，信息网络大数据的出现带来了新的前景和挑战。2016 年，谷歌人工智能程序 （Alpha Go）战胜韩国职业九段棋手李世石，是人工智能领域的重大突破。这场比赛是人工智能与人类智能之间的对决，并且宣告了人工智能元年的到来。“看，那边！你看到了吗，克拉拉？那个男孩好爱他的AF呀！噢，瞧瞧他俩一起哈哈大笑的模样！”[1]书中的AF是专为陪伴儿童而设计的智能机器人，它们具有极强的观察力、学习能力和共情能力，通过观察人类的反应来采取相应的行动，理解和陪伴人类，从而消除被陪伴人的孤独感。而克拉拉对于世界的理想化认识和对于人类的无私行为展现了人工智能时代下的机器人发展的一种可能性，同时，也体现了作者对于技术和生命伦理的忧思。

科技是社會先进生产力的代表。而自从工业革命之后，科学技术开始被资本挟持、控制，沦为资本的“玩物”，成为资本划分社会阶级的工具。在小说中，人类生活在一个科技高度发达的后人类时代。主人公乔西和她的好朋友里克便是这个时代的两个代表性产物。乔西与里克对未来有着共同的愿望，虽然这个愿景还不清晰，但是他们确定两人的未来肯定是紧密联系在一起的。但是，乔西是人类自身的智能增强——基因编辑提升的孩子，而里克只是普普通通的平凡人——即使具有天分和进入高等学府的能力，却还是连大学都上不了的普通人，二人在生命结构上就已经不一样了。因此，两人之间产生了对未来的分歧。科学技术受制于资本逻辑下的意识形态，在这个智能时代，自然人被解体，人机交互基因提升成为划分孩子们命运的工具。

家庭富裕的孩子接受了基因提升，他们不需要自己亲身进入线下和老师面对面的实体课堂，而是通过“矩形本”实现像里克这种下阶层贫困人民无法触碰的特殊教育，从而进入上流社会，完成阶级上升。而里克虽然才华横溢，有足够进入高等教育的能力，但由于基因没有得到强化，被上层阶级拒之门外，导致他最终沦落到社会的最底层。虽然小说中作者并没有详细描写基因编辑的具体过程，但是人类基因优化这一项目下的生命价值伦理问题和科技发展是息息相关的。自此，AI与IA的出现，意味着人机交互的后人类时代到来。

二、 人工智能时代的哲学反思：IA、AI与资本奴役

《克拉拉与太阳》不算是一部硬科幻小说，但它是一部典型的软科幻小说，人机“相互依赖”“相互渗透”“相互嵌入”。作者在小说中利用科技元素并不是为了科幻而科幻，其根本目的是由科幻来揭示未来科学技术可能引发的资产阶级利用科技完成“资本——机器——人类”的顺序奴役问题以及社会道德伦理危机，作者立足于未来的社会，为我们当下科技的发展敲响警钟。

科幻小说与机器人的系统结合创作，最早可以追溯到美国科幻作家艾萨克·阿西莫夫提出的著名的“机器人三大法则”。“三大法则”的具体内容是：“一、机器人不得伤害人类，或因不作为而使人类受到伤害。二、除非违背第一法则，机器人必须服从人类的命令。三、在不违背第一及第二法则的情况下，机器人必须保护自己。”[2]在他创作的“机器人系列”小说中，一改以前科幻文学中恐怖、邪恶、令人害怕的负面机器人形象的描写方法，塑造了许多与以往不一样的友好机器人形象，比如人类的忠仆、朋友等。

简单来说，机器人必须绝对服从人类的命令，人类在它的程序中必须是第一位，即人类优先原则。在危险的时刻，机器人不能以伤害人类为代价而保全自己。机器人学三大定律出现后，科幻小说界正式开启了机器人小说时代。机器人三大定律对后世科幻小说影响极大，可以说它是科幻作品的基石，大多数作家都受到了这个定律的影响。之后，在不断的实践中，阿西莫夫发现三大定律存在一定的漏洞，自然语言或是会产生歧义的语言无法具有约束力，对于个体人类的保护不够。于是他对原三大定律修改，增加了“第零定律”：“机器人不得伤害人类，或目睹人类将遭受危险而袖手不管。”以此保护个体的人类，最终保护整体的人类。后来，机器人定律又增加了一条，规定机器人不能参与创造另一个机器人，除非后者的行为符合机器人法则。

人工智能作为当代科技文明的标志之一，正在迅速渗透到人类的生产、日常生活、行为和认知过程中。新兴科技的出现，使得原始的社会中人与物的关系问题转变为人和“人造物”的关系问题。现实世界有物理法则，那么人工世界抑或智能世界必定也存在着一套世界法则：人工智能的三条定律。

第一定律被称为阿什比定律，该定律由《大脑的设计》一书的作者、控制论科学家W.罗斯阿什比提出，他认为任何有效的控制系统都必须和它所控制的系统一样复杂。第二定律由冯诺依曼提出，他指出，一个复杂系统的定义特征是它构成了自身最简单的行为描述。生物体最基本、最全面的模型就是生物体本身。任何通过形式化描述来简化系统行为的努力，都只会增加复杂性而非简单性。第三条定律指出，任何足够简单易懂的系统都不会复杂到能够实现智能化的行为，而任何足够复杂到实现智能化行为的系统都会复杂到难以理解。[3]

阿西莫夫的机器人三定律，主要是为了规范人和机器人的相处原则，而人工智能三定律的重点是机器人的智能决策和行动。这些法则旨在调节机器人与人类之间的动态关系。而某些人秉持“人机分离”的诡谲逻辑使得资本逻辑下的“人奴役人”转向了错误的另一头“机器奴役人”。人类已经认识到人工智能对人类命运的潜在影响，因此应优先考虑人类的安全和坚定人类的主导地位。虚拟世界及其与现实世界关系的规则可确保两者之间的明确沟通，同时也能起到一定的保障作用。罗萨认为加速社会的提升逻辑和增长逻辑会带来新的异化，他援引了耶吉对异化的定义：“异化是一种缺乏关系的关系，是一种我们与世界的扭曲的关系。”[4]值得庆幸的是，一小部分人已经开始意识觉醒，开始思考未来“极少数精英利用智能技术与生物技术的结合控制大多数人”[5]的情况，他们害怕资本下的“技术异化”，担忧“一旦人工智能和基因技术创造了绝对强者，绝对强者就很可能利用绝对优势的技術去实现文明的重新野蛮化，比如说消灭‘无用的人，而放弃高成本而复杂的伦理、法律和政治”[6]，甚至在高技术水平的文明中，资本和权力合谋，导致其比低技术文明更有湮灭人类的能力，“更危险的是，今天其所发展出来的强大操控能力正试图超越并碾压人类的政治能力”[7]。

如今，在人工智能、信息网格和生命科技时代，人机交互关系已从“相互依存”到“相互渗透”再到“相互嵌入”。智能时代的快速发展推动了这一演变，嵌入式技术日益成熟。这导致了一种“新人类”的存在——“半机械人”，它存在于人类和机器之间，既不完全是人类，也不完全是机器。从20 世纪开始，科幻文学作品中开始出现了“赛博格”形象。赛博格即机械化有机体，是以无机物所构成的机械体，作为人类或其他动物等有机物身体的一部分，思考动作由有机体操作，而无机体能够增强有机体各方面的能力。赛博格这种人与电子机械融合形象的出现，代表了人类开始借助科技力量来获得超越生物体智力和体力的极限。小说中所谓的“基因提升”（IA），指的就是现代生物技术即基因编辑优化技术，它和赛博格相比，显然更加突破传统伦理。

人机互替与基因提升同样都是利用科技，都提出了挑战人的概念的存在论问题，但是“赛博格”最多是在外部补全或延伸人类的某些器官（大脑除外），或者增强脆弱人体的某些功能，不至于涉及一些伦理道德问题。人是什么？人是拥有大脑自主思考能力的、有情感有欲望有价值倾向的政治动物，那么机器人便永远不可能变成人。在小说中，通过克拉拉的回忆，读者可以了解到克拉拉陪伴的小女孩乔西身患重病，乔西的姐姐因基因提升出现意外而死亡，母亲再不能承受失去乔西的痛苦，所以她希望克拉拉能够学习女儿的一举一动、每一个细节，希望克拉拉能够在乔西死后为自己造一个女儿还活着的“梦”。“不仅仅是肤浅的学习，还能深层的、完整的学习，直到第一个乔西和第二个乔西之间再无任何差别”[1]。母亲甚至希望卡帕尔迪教授能够利用科技“再造”一个乔西。令读者深思的是：克拉拉能否真正地替代乔西？和原主一模一样的“机器乔西”是真正的乔西吗？至此，面对人类社会的伦理秩序，小说展现了基因提升科技和伦理的冲突。

有了“自主反思能力”的机器能否代替人类？在资本、权力和机器高度结合的情况下，人类是“服务”于机器还是资本？随着人工智能和生命技术的飞速发展，这些问题都是未来我们需要面对的。

三、人机伦理反思：人机共存的可能性

人工智能发展至今，人类仍在操作和掌握机器人。人类与自己控制的机器建立了从属关系，导致人类掌握着决定机器人命运的权力。近年来，随着许多科幻作品的传播，如《流浪地球》《三体》掀起的科幻热，越来越多的人关注到这种类型文学，人们开始担忧，随着科技的进步与人工智能的发展，机器人是否会变成能够取代人类的“新人”。

《克拉拉与太阳》中的机器人克拉拉善良、真诚，善于观察和模仿他人，具备独立的思考能力，同时也在自我思考后遵守了自己做出的行动指令——为了让乔西恢复健康，摧毁库廷斯并向太阳寻求帮助。这些行为都是克拉拉主动思考与反馈的结果，其自主系统可以模仿或者取代人类的认知功能。石黑一雄希望人们“感觉到他们看见的并非一个陌生的世界，而是每个人所经历的故事”[8]。关怀人性，是石黑一雄作品的主旨。在读者看来，克拉拉已经有了自我意识，把它置于后人类社会中，它似乎将要脱离人类的掌控。其实，当一个由无机体组成的机器人可以思考的时候，人类与机器的从属关系也就消失了。同时，当技术发展到一定阶段，置身于未来的社会，科技与社会都上了一个新台阶，外部算法比人类更了解人类自身，出现的可能是人类与机器人的共生关系，甚至会出现人类隶属于机器人的社会图景。当然，在机器人主宰人类的假想未来，最理想的情况是人类与机器人共存。这种共存必然会导致“超人类”甚至“智神”等新物种的出现。这里的“超人类”是指人的身体和机器的大脑相结合的“赛博格”。人类的第一次认知革命是人类自身DNA发生进化，自我发展，创造了世界生物体这一切存在的概念，成为地球的主人。而当未来算法与生物技术给人类世界带来第二次认知革命时，外部算法拥有大数据的支撑，比人类更了解人类，通过人工智能与智能增强，智人物种进化为“超人类”或“智神”。无论是“智人”还是“智神”，都是人工智能与智能增强生物技术混合的结果。这也是当下我们需要思考的问题。

人工智能说到底是通过计算、大数据等手段从外部模仿人类的行为，而生物技术则是在人的内部改造人，从生物体的有机组织来改造人，甚至创造人。基因提升使人类在出生时就打上了阶级分级标签，在跳过后天劳动等多重个人因素影响的情况下提前实现了社会分层。作者在小说中写了一个赌徒式的设定：基因提升不能保证每个人最后的能力都真的跨级式提高，甚至都不能确保每个孩子的生命安全，它是家长围绕孩子未来的一场投资，是对于未来孩子乃至一个家庭能否从底层挤进上层社会的赌注。

进入后人类社会，人类与技术的耦合似乎并未带来想象中的美好乌托邦，反而让社会走向了另一极端—— 一个悖论式的未来。在科技面前本就弱小的人类，在与技术结合之后更加孱弱，甚至使人类的存在价值消失。科技的发展真的能给人类带来希望吗？真的能使人类更加强大吗？小说中，在科学选择的新时代，人类陷入两难境地，人工智能和基因编辑技术带来的诸多问题反映了工具理性和技术崇拜的弊端。科学技术的首要目标是增进人类福祉，然而，现代科学技术的发展却对人类的重要性和地位带来了前所未有的考验。作家从机器人的视角出发，审视人类中心主义带来的恶果，理性的自负和社会的不断加速使世界面临失控的风险，科学技术冲击了传统的道德伦理，进而造成社会阶级的分层。通过这部小说，作者石黑一雄一方面向读者揭示技术理性的有限性，警惕技术拜物教和人类中心论，另一方面也指出了在资本逻辑驱动下我们应站在历史唯物主义的立场下来看待人机关系。该作品反映了石黑一雄对技术和人类存在的哲学思考。

在高科技智能时代，工厂流水线上生产出来的家庭陪伴机器人AF正在一步步瓦解人类社会传统的道德观念。人机共存的后人类社会存在着诸多问题，这些问题最后其实都指向了人类中心主义。面对未来的人工智能时代，人类必须开始思考如何与机器共处，如何跳出資本社会“人-机-人”式的奴役陷阱。只有消除人类中心主义的观念，未来的人机共存社会才有可能和谐。

四、结语

技术把人们带往自由和解放的道路的同时，也引发了新的矛盾和困境。最近的AI绘图技术和Chat GPT ①更是增加了人们对于人工智能的担忧——我们离危险又强大的人工智能不远了。其实，人们对于未来人机之间关系的各种担忧，症结在于人而不是机器。未来给人类生存造成威胁的不是高速发展的技术本身，而是人类对待和使用科技的方式。时代在发展，这些问题是不可避免的，如果我们想建立一个人类与机器人和谐共存的社会，对技术化的人类生存方式必须有新的认识，还要消除人类中心主义的伦理观。

面对高科技带来的便捷与美好生活，我们必须对新兴技术进行批评性反思。在避免自身复原力和抵抗力受到侵蚀的同时，也有必要警惕智能技术对人类自主性和内在性的潜在破坏。只有这样才能在未来人机共存的社会中保持自我意识的独立，维持社会的和谐稳定。

注释

① Chat GPT是一种由 AI 技术驱动的自然语言处理工具，可让你与聊天机器人进行类似人类的对话等。语言模型可以回答问题，协助人完成诸如撰写电子邮件、论文和代码等任务。

参考文献

[1] 石黑一雄.克拉拉与太阳[M].宋佥，译.上海：上海译文出版社，2021.

[2] 阿西莫夫.阿西莫夫：机器人短篇全集[M].叶李华，译.南京：江苏文艺出版社，2014.

[3] 布罗克曼. AI的25种可能[M].王佳音，译.杭州：浙江人民出版社， 2019.

[4] Rahel Jaeggi，Alienation[M].New York： Columbia University Press，2014.

[5] 赫拉利.未来简史[M].林俊宏，译.北京：中信出版社，2017.

[6] 赵汀阳.人工智能提出了什么哲学问题[J].文化纵横，2020（1）.

[7] 赵汀阳.人工智能“革命”的“近忧”和“远虑”——一种伦理学和存在论的分析[J].哲学动态，2018（4）.

[8] Cynthia F. Wong＆ Grace Crummett A Conversation about Life and Art with Kazuo Ishiguro [A]. In Ed，Brian W.Shaffer＆Cynthia F. Wong. Conversations With Kazuo Ishiguro[C]. Jackson： University Press of Mississippi，2008.

（责任编辑 罗  芳）

作者简介：刘怡，闽南师范大学文学院，研究方向为科幻文学。