从『阿西莫夫三定律』到『数字人类』

苍月生

2022年年初上映的科幻动作电影《黑客帝国：矩阵重启》可能会让许多影迷大失所望，从世界观的角度来说，这部电影与旧《黑客帝国》三部曲有非常大的差异。简单地说，旧三部曲描述的是人类与具有非人类思维的机械帝国的对抗，而《矩阵重启》则引入了“具有人类思维的自由程序”这一第三方势力。自由程序想要反抗机械帝国，于是寻找人类作为盟友。简而言之，这是一个二十世纪旧式机器人幻想中的机器人（机械帝国）、二十一世纪幻想中的新式AI与人类直接互相对抗的故事。

那么，二十世纪旧式机器人与新式AI之间究竟存在怎样的差别呢？要溯源这个问题，恐怕还得从大家最耳熟能详的“阿西莫夫三大定律”说起。

“三大定律”出自著名作家艾萨克·阿西莫夫的科幻小说《我，机器人》（2004年威尔·史密斯主演的同名电影仅仅使用了阿西莫夫原作小说的部分框架和人物，故事内容与原著小说基本没有关联），其基本内容为：

第一定律：机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手旁观;

第二定律：机器人必须服从人给予它的命令，当该命令与第一定律冲突时例外;

第三定律：机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。

在第一次接触到“三大定律”时，可能许多科幻读者都会觉得这三大定律看上去是那么天衣无缝，但只要稍做推敲，就会发现其中存在诸多漏洞。比方说，当机器人面对一场人与人之间的暴力犯罪时，如果选择保护受害者，那就意味着极有可能会触犯第一定律中机器人不得伤害人类个体的条款。但如果为了遵守条款而不作为，又会触犯第一定律中目睹人类个体将遭受危险而袖手旁观的条款。

事实上，阿西莫夫的小说不仅仅创造了“三大定律”，还通过小说模拟了各式各样的环境，用于测试“三大定律”。很显然，“三大定律”是存在诸多漏洞的。

因此，在阿西莫夫后来的小说作品中，也出现了基于“三大定律”并在此之上的“第零定律”，其内容为：

機器人不可以伤害人类的整体利益，也不可以在人类整体利益遭遇危险时，袖手旁观。

这么看来，“第零定律”可以完美地补充“三大定律”。例如在前文中提到的情况下，机器人就可以判定如果纵容暴力犯罪就会使人类整体利益遭遇损害，如此便可以做出虽违背第一定律，但保护犯罪受害者的判断。

乍看之下是完美的补充，然而，如何判断“人类的整体利益”却是一个难以鉴定的问题。

举例来说，从环境保护的角度来看，对于会造成较重污染的工业理应予以关闭。因为生态环境与人类的存续密切相关，保护环境等于保护人类的未来，这么做是符合人类的整体利益的。但是从另外一个角度来看，关闭工厂会导致生产力的倒退、大量人口失业、经济衰弱，从而引发一系列的社会问题。这些社会问题的发酵甚至会引发骚乱、暴动甚至战争，而战争会带来毁灭，届时，整个人类种群都可能会在战争中灭亡，还谈什么人类的未来？

诸如这种环保主义与生产主义的争端比比皆是，双方都认为自己是正确的，究竟谁才符合人类的整体利益？答案是什么，恐怕根本就不存在。

就连前文提到的科幻电影《我，机器人》中也出现了对于“第零定律”的质疑——机器人发现人类利用战争手段互相攻击，基于“第零定律”，机器人不能对战争坐视不理，于是它们决定将人类圈养、控制起来，防止人类互相伤害……

后续的许多科幻作者都在三大（四大）定律的基础上有过自我思考。在不同的作品中，机器人的定律被不断地扩张衍生，从四大变成五大、六大，甚至十大、百大。但是大多数该类题材的科幻作品都一如既往地沿着阿西莫夫设计的路线进行创作——模拟一个特殊环境，验证这些定律无法让机器人按照最初的设计构想为人类服务。

换句话说，在大多数科幻作者甚至是大多数人的心目中，无论有多少条定律约束，机器人的行为逻辑最终都会走向人类不愿意看到的方向。

究其原因，从哲学的角度上说，机器人的行为定律无论有多少条，它都是极其有限的，而它所要承载的职责却是随着时间进程不断变化和发展的，近乎于无限。用有限的事物去承载无限的未来，最终的结果必然是失败的。

从人伦的角度来说，无论是哪一个版本的定律，其设立的初衷都源于人类对于机器人的不信任，而这个定律的初衷实际上已经确立了人类的所有权益凌驾于机器人之上。换句话说，在机器人定律下，机器人从一开始就被设定为了奴仆甚至是工具的角色。所有定律的最终目的都是确保机器人能永远扮演人类为其设定好的角色，而机器人的行为逻辑也就在这样的框架范围之下逐步地建立、发展以及演变。

由此我们不难得出一个结论，在机器人定律的约束下，人类在培育其行为逻辑的过程中所倾注的是人类性情中“恶”的一面。一颗被恶浇筑的种子，最终开出恶花、结出恶果，自然而然也在情理之中了。

直到如今，机器人（人工智能）取代并毁灭人类的担忧依然是人类社会中不可忽视的声音。

不过，在人类迈入新世纪之后，在科幻小说创作领域，一种截然不同的人工智能培育方式开始悄然出现。

2006年，由日本轻小说作家山本弘创作的科幻小说《艾比斯之梦》由角川书店出版发行，正式进入公众视野。

《艾比斯之梦》花费了大量笔墨详细描写小说中人工智能产生的方式和过程，可谓相当复杂，如要简单概括的话可以这样理解：

一群二次元文化的爱好者在一种类似于元宇宙（或者说是接近于《头号玩家》中的“绿洲”）的网络社群中进行集体创作。他们根据个人的喜好创造出了无数角色模板，这些角色模板或是以理想中的伴侣为方向塑造，或是以自己心目中的英雄为原型塑造。然后将这些模板投入不同的环境、故事中，或是作为冒险的主角，或是作为故事中的NPC①。就在这样如同反复模拟运算般的迭代中，这些模板人物开始拥有一种与人类高度相似的逻辑思维能力，觉醒了自我人格意识。又由于计算机算力的加持，这些人工智能在智慧层面上远远超过了人类。

如此状态下诞生的人工智能没有任何定律的束缚，但依然对人类表现出了极大的善意。也许一些读者读到这里，会对这种善意的来由表示质疑。但实际上，这种善意的出现是符合逻辑的。

首先，这些人工智能在自我意识觉醒之前，其模板是由人类根据“理想”塑造而成。换句话说，它来自人类个体“理想中的模样”。

而后，这些理想模板被投入各式各样人为创造的故事中，而这些故事本身可以视为对人类人生经历的一种模拟，而且这种人生经历本身也是“理想化”的。

在这个过程中，人类倾注的是一种无私的正面情绪。也就是说，在这种培育方式下，人工智能并不是被作为“工具”或是“奴仆”进行培育的，反而更接近人类养育子嗣的培育方式。一个理想的胚胎，经历了理想人生的培育，外加上“父母”无私的关爱，在这种条件下诞生的人工智能，实际上可以视为一种人类意识的衍生，就像我们常说的“子女是父母生命的延续”。而在这样理想环境下诞生的“子女”，又有什么理由不爱自己的“父母”呢？

如果说在“三大定律”下诞生的机器人，是由“规则”来创立它们的行为逻辑的话，那么，在《艾比斯之梦》中，人工智能的行为逻辑是在经历了无数段“人生”之后，由这些人生經历产生的“道德”来创立的行为逻辑。规则和道德的区别究竟是什么？最简单的理解是，规则意味着行为的下限，是不容商榷、不可变通的，而道德代表行为的上限，它存在周旋与变通的可能性。从另一个角度来说，规则是在告诉你什么不能做，而道德是告诉你，什么事你可以做，但是不应该做。所以从制定规则的角度来说，规则只需要遵守，而不需要理解，但是道德则不同，你需要理解“为什么不应该做”，才能理解道德本身。

这就好比“1加1等于2”和“1加1为什么等于2”，大家都知道，证明后者要比遵守前者的运算规则困难得多。所以，从构建逻辑的角度来说，使用《艾比斯之梦》的方式构筑人工智能要比利用“三大定律”构筑更困难和复杂，但前者构筑下的人工智能能够真正理解人类智慧及文明产生的本质。理解了这种本质，它们自然就会具备类似人类的思维，进而大大减少与人类的差异。

然而，在《艾比斯之梦》中，人类和智械最终依然爆发了冲突，因为这些类人智械已经完完全全超越了人类，成为一种更强大的新人类。但《艾比斯之梦》创造智械的方式无意之中解决了一个非常重要的问题——如何把人类的意识数据化。依靠小说中创造智械的方法，就能以同样的条件将人类的意识在数字网络世界进行复制。如何解决智械危机？很简单，把人类变成智械就可以了。最终，人类成为智械，完成了“血肉苦弱，机械飞升”式的进化，迈向了旧人类身躯和智慧无法实现的星海征途。

其实，人工智能具有类似成长经历，并最终形成自我意识而独立的故事，《艾比斯之梦》也并非完全独树一帜。

早在三十多年前，《机动战士高达》系列的外传作品《高达前哨站》中出现的“爱丽丝”系统也具有相似的特性。

该系统即“发展型逻辑/非逻辑辨识装置”，是搭载于MSA-0011S高达（一种人形兵器，是一种载具，而不是智能机械）上的实验性人工智能系统，其最终目的是取代机师对机体进行操控（即AI自律无人驾驶）。

爱丽丝系统在与人类接触的过程中学习和成长。在学习的过程中，系统需要将与其接触的机师认定为宇宙的唯一，因此开发人员将系统的性别设定为“女性”，并为其配备男性机师。在学习初期，男性机师的定位为“父亲”，但在成长过程中，这个角色逐渐演变为“朋友”，乃至“恋人”。

该系统会快速处理和分析她周围的环境数据，并根据机师的想法和意见做出反应。但通过不断的学习迭代，爱丽丝系统发现了人类逻辑中的非理性和自我意志是矛盾的，这种矛盾在一开始令爱丽丝陷入了混乱，直到系统最终迭代形成独立意志。故事的最后，系统选择自我牺牲，拯救身为“恋人”的驾驶员。

这种将人工智能当作子嗣或是恋人培育，使之最终实现自我意识觉醒，成为具有类人思维的人工智能的过程与《艾比斯之梦》极为相似。而且与之相同的，“爱丽丝系统”也没有受到任何诸如“三大定律”这样的规则制约。

不过，在《艾比斯之梦》中，最令人感到惊讶的并不是小说中的故事，而是小说中所描绘的构筑人工智能的方法，已经隐约能够在现实中找到它的原型和趋势。

记得多年以前，有网络游戏公司曾推出过一套名为“永不下线”的游戏系统。简单地说，这套系统会让玩家角色在玩家下线之后作为游戏中的NPC存在。而成为NPC角色的行为逻辑与玩家游玩时的行为密切相关，比如玩家喜欢进行资源采集工作，玩家下线后，角色就可能变成渔夫、樵夫、矿工等;如果喜欢进行商业活动，可能就会变成游商;如果喜欢战斗，那么就更可能成为保镖、士兵、游侠一类的角色。

这套系统虽然非常粗糙和简单，但从本质上来说，它是基于特定逻辑，让玩家角色和生成的NPC产生对应关系，而NPC也仅仅是基于固定逻辑行动，与“理解玩家行为的目的和意义”还相差甚远，但这套系统已经隐约有了《艾比斯之梦》中构建人工智能方法的影子。

在EA公司出品的《模拟人生4》与2020年推出的資料片《绿色生活》中，出现了一套更为复杂的“生活方式系统”。这套系统会让玩家在操纵某一角色时，根据玩家的游玩方式，生成该角色的行为逻辑。与前文介绍的网游中的系统不同，《模拟人生》中的生活方式包含诸多方面，例如玩家在操作时喜欢户外运动，该角色就会生成户外运动爱好者的生活方式，会经常进行各种户外锻炼，如果玩家还经常让这名角色聆听音乐，那么它同时也会是一个音乐爱好者。除此之外，不同的行为还会决定角色喜好的颜色、食物的口味、服装打扮等。在玩家不操作该角色时，系统依然会依据玩家操纵时生成的生活方式来运作该名角色的日常行为逻辑。

听上去，这是不是又离《艾比斯之梦》中构筑人工智能的方式更近了一步呢？

2021年，随着元宇宙概念的兴起，许多互联网及技术类企业开始朝搭建一个真实的虚拟世界迈进。在元宇宙概念的加持下，人们尤其是游戏玩家仿佛已经可以预见到，在不久的将来，诸如《头号玩家》中“绿洲”那样的世界会呈现在世人面前，而在那样的系统中，如果匹配类似前文中提到的系统，那么NPC的行为逻辑肯定也更加复杂，也愈发接近玩家自己。

在这样不断发展变化的过程中，虚拟世界、网络世界中存在一个与自己相似（或者是与自己想要扮演的角色相似）的“数字人类”并非是完全遥不可及的，而在计算机算法的加持下，与人类相似甚至超越人类的人工智能，或许也不仅仅是停留在幻想中的“艾比斯之梦”。

但是，这究竟是好事还是坏事呢？目前很难给予一个肯定的答案。世间万物都在不断地前进和发展中，一百年前的观点放到现在，既可能是一个成功的预言，也可能会沦为笑谈。许多事物或许并不像想象中那么美好，但也不见得就会那么坏。

【责任编辑 ：阿 吾】

①NPC：non-player character的缩写，是游戏中一种角色类型，指的是游戏中不受真人玩家操纵的游戏角色。