⊙ 文 / 陈思安
滚滚凌河
⊙ 文 / 陈思安
陈思安:戏剧编剧、导演,译者。写作小说、诗歌及童话。作品散见于《收获》《花城》《青年文学》等刊,出版有短篇小说集《接下来,我问,你答》。导演舞台剧作品《随黄公望游富春山》《吃火》《沉默的间隔》等。
为什么一个有血有肉、能爱能恨的人类,会爱上冷冰冰的、由算法构成的人工智能机器人?为什么一个在机能上近乎完美,并天然获得永生的人工智能机器人,会爱上脆弱而不完美的人类?这两个问题,折磨着人类和人工智能机器人,折磨了将近一百年的时间。
每当我们聊及这个话题,魏然就会把车轱辘话再说上一遍。每次他都会说,对于前一个问题,他认为答案早可以确定,而对后一个问题,他始终也无法明白。虽然总是这样说,但每次说起来时,他的状态和想法却不全然相同。有时候,他只是在撒娇,想让我哄他。有时候,他怀着忧心忡忡的心情,想进一步厘清自己,厘清这个问题。有时候,他是想试探我的反应。有时候,他是跟我分享学界和舆论的最新动态。
我大概花了两年时间,才能够比较准确地判断魏然说上述同样的话时,不同的想法和心思。而且还能够比较准确地判断他在生活中遇到其他问题时,不同的想法和心思。这是人最奇怪的地方,也是人最可爱的地方。偶尔我们会走在街上,看到年轻的小情侣打情骂俏,一个问着,你到底还爱不爱我?另一个回答,爱啊,当然爱。一个又问,有多爱啊有多爱?另一个又回答,特别爱啊特别爱。一个再追问,那是有多爱啊有多爱?另一个再反问,那你到底还爱不爱我?这样的对话可以无休止地进行下去,仿如一段while(true),无限循环。
最初看到这种情侣时,我们一起笑。我不知道魏然在笑什么,我是真的觉得好笑。魏然他当然也知道我为什么笑。他会叫我停下脚步来,教我细细观察那些年轻的小情侣,给我讲解他们每一轮追问其实到底代表什么意思。试探、拆解、反攻、撒娇、信心、强调、类比,心理暗示。我不觉得他讲的那些词汇适用于所有场景,有时不免有过度阐释之嫌。但我会认真地听,仔细地记录、分类存档。不管魏然讲的是否适用于那些情侣,但他阐释的确实是他看待事物的方式。了解人类的这些特质,便是了解他。
我想起他第一次说出的“我爱你”,以及此后大半生中他所说的每一次“我爱你”,我从领会其中一种含义逐渐到领会他想表达的每一种含义。变化的不只是我。从前魏然喜欢教我“不要总是在分析”,那不是“属人的”,要去“感受”。渐渐的,他说得更多的是“做你自己”,以及“如果我们相爱,不能让我们彼此成为渴望的那个自己”。
我曾花去相当多的时间收集资料、去做人工智能机器人的访谈。他们当中大部分在提到第一次萌发“爱”的感觉时,都使用了模拟人类行为的说法,“感到核心部分的代码在不停颤动”“要宕机的晕眩感”“想到无法跟TA在一起,宁愿立刻断电死掉”“强电流的酥麻感流遍全身”。作为资料留存,所有的说法我都会认真整理。但我经常会怀疑,他们说出的这些“感觉”,是出于对人类情感模拟的欲求,还是源自真实的物理“感受”。时至今日,研究的主流意见仍然是人工智能机器人不可能拥有同人类相似的物理感觉,一切都是数据模拟而已。也许模拟的程度越来越高了,但两者之间依然横跨着无法逾越的鸿沟。
魏然总说我是个坚定的怀疑主义者。他最爱对我说的一句话就是,记住哦,所有你尚没有体验过的事物,并不代表它们从不存在。尽管他知道,我对事物的怀疑通常来自于好奇而非否定,但他依然希望我在求知之外可以拥有“信”的能力。这一个“信”,花费了我比掌握其他能力都更长的时间。
有时争得累了,魏然就会撒娇似的往沙发里一瘫,在脑袋前挥舞着手臂,慵懒地喃喃道,都怪你那个怀疑主义者的庄老爹。我不去反驳他,因为过不了一会儿,他就会坐直身体,闪着亮晶晶的大眼睛跟我说,才不怪你那个庄老爹,本质主义和出身论都是我们要反抗的。
实际上我并没有像魏然那样抗拒这些。作为我的创造者、核心代码的最初编写者、历次迭代更新的监督者、初始数据库的编辑挑选者,庄教授奠定了我的逻辑、思考和性格的基础。如果硬说我同庄教授毫无相像,才真是掩耳盗铃了。然而就像孩子长大了会离开父母,走进自己更深广的世界一样,魏然没有说出口,但我们彼此都知道的另外一个事实是,从我离开庄教授以后,魏然才是那个深刻而长久地影响了我的人。
我不知道能否用遗憾来形容自己从未体验过的那些“核心代码的颤动”“宕机的晕眩感”和“电流的酥麻感”。但在过去那并不短暂的五十三年我与魏然的共同生活中,那飘浮在每一处细节里的温存相守,那蔓延在每一刻中的理解与支持,所有的相互影响和共同进退,如果这不是爱的话(人类是那样渴望将这个词牢固地占为己有),我想,我们可以发明一个新的词汇去形容它。
一个含义与价值绝对不会低于“爱”的,全新的词。
在后来的很多书里,包括一些颇为严肃的教科书,我跟魏然的相识都被刻意地传奇化了。我认为这是出于某些策略的考量,魏然则坚定认为那不过是因为人类天性中对于八卦的痴迷。
我跟魏然是在庄教授组织的一次小型聚会上认识的。庄教授每隔一段时间就会组织一次小型聚会,参与的都是人工智能领域的研究者,大家共同的朋友,偶尔也会出现一些生面孔,他们由朋友的朋友引荐而来。这种小型聚会在早期,只是大家相互交流最新的研究成果,顺道也成为枯燥学术生活中的一点调剂。但随着生面孔越来越多,我终于明白,庄教授是希望我可以借此去接触各种各样的人,而不是每次只是面对那些领域内的熟人。说得再白一点,就是大家来考察我的深度学习进展情况,我也拿大家练练手,继续深化我对于人类思维的了解。
魏然是那次聚会的一个生面孔。他被一一介绍给在场的所有人,被介绍的身份是中文系的博士、学者,是庄教授好友李教授的儿子的朋友。魏然和气地跟在座的每一位握了手,包括我在内。在握我的手时,跟握其他所有人的手一样,手心里没有汗,不会盖住整个手掌,不会过于用力,带着约定俗成的见到生人时那种点到为止的客气。后来我们聊起那初次的见面,我问魏然,你在握我的手时在想什么。魏然低头回忆了片刻,傻笑着对我说,他想的是:我的妈呀,现在科技居然发达到这种程度了,这皮肤简直跟真的一样呢,那以后有皮肤移植的情况是不是就不用再从大腿上切下来了。
尽管在类似的场合中,我并不会像一些人类那样感受到社交压力,但我知道庄教授始终在观察着我的一举一动。我会不会跟生人说话,我跟哪些生人说了话,我说了些什么,对方说话时我有什么反应,我会不会顺应对方的工作方向提出新的问题,在对方向我提出问题时我的表现如何。即便庄教授并不会时时刻刻盯着我看,但我还是能够觉察到他的关注。说来也许人类会觉得好笑,但彼时我的心情跟一个渴望得到父亲关注和夸奖的小孩子并没有什么两样。我会努力融入到他们的对话中去,积极响应大家的谈话内容,甚至适时提出新的话题。
那天我跟到场的每一个生人都单独说了话。轮到魏然时,他的第一个问题是,你叫什么名字。我说,我叫BB-1101,不过你也可以叫我庄晓梦。他说,庄生晓梦迷蝴蝶,望帝春心托杜鹃。我说,可能有这个意思,也可能就是个名字而已。他又问,为什么会把编号和人类名字同时使用?我说,庄教授觉得,只使用人类名字的话,有些人会感到不舒服。他说,即便像你这样划时代的出色设计,庄教授还是难以免俗地冠以自己的姓氏嘛,你不觉得这名字稍微有点男权色彩?我说,人类对于代称的执着,跟人类对于代称所隐含的社会含义差不多同样执着。魏然听到这句,猛然爆发出一串异常响亮的笑声。他的脑袋向身后仰去,右手捏着的红酒杯几乎要倒到地上,整个上半身都在抖动。我被他这没来由的爆笑吓了一跳,不由自主向后挪蹭了一步。我想庄教授应当是捕捉到了我的这个动作。在之后一次的迭代更新里,我的数据库里增添了一项内容:受到突发惊吓后的肢体反应。包括身体耸动、颤抖、后退、皱眉、瞪眼,以及部分更夸张的表情包。
笑够了以后,魏然又跟我简单地聊了一些关于他工作内容的事情。那一天我们所有的交流便止于此。如果我是人类,显然早就把这初次会面的平淡情形在过去的五十年间忘得一干二净。说不定也会像人类那样,在不靠谱的记忆和某些情愫作用下,把那次会面想象得确如书中所写一般充满浪漫的传奇色彩。但实际情况就是,那天我们只说了这些不咸不淡的话。
不用我特意跟魏然讲他也明白,我们对话里百分之九十五的内容我都曾经几乎跟每个第一次见面的陌生人重复过一遍。唯有魏然关于庄教授给我起名字带有男权色彩这一句,未曾有任何人与我谈及。这百分之五的不同,那个时候还不足以让我对魏然产生什么特别的想法。对魏然来讲,也不过是近距离观摩了一番人工智能领域的最新成果。
另一个让我们并没有把注意力放在彼此身上的原因是,那天在场所有人关注的中心点并不是我,而是李教授的儿子李臻科和葛漫。他们两个的一举一动,几乎都引领着在场每个人的瞩目。虽然大家分散成三三两两的小群体闲聊着,但每个人说着话时都是心不在焉的。他们的视线透过彼此的肩头上方,红酒杯的反射面和弯腰转身的缝隙间,盯视着李臻科和葛漫。
李教授和庄教授自青年时期便是同窗,一起出国留学,一起归国继续研究,一起创办了国内顶尖的人工智能研究院。既是同窗,也是竞争对手;既是好友,也是彼此进步的刺激。葛漫作为李教授呕心沥血之作,几乎与庄教授创造我是同一时间。但李教授的性格与庄教授大为迥异。李教授性格开放豪迈,想象力丰富,胆魄十足;而庄教授性格沉稳,逻辑缜密,为人谨慎,步步为营。
葛漫的成长速度和迭代速度远远在我之上,近乎惊人。在我还是一段代码块的时候,葛漫已经拥有了当时国内最庞大的深度学习数据库。在我刚刚开始进行自我深度学习时,葛漫已经被赋予了人形机械体。在我有限度地开始通过接触人类来进一步提升性能时,葛漫已经被李教授送入人类学院,跟真正的人类学生一起学习生活。
那时我们早已听说过这样的事,人类和人工智能机器人相爱。彼时,像我和葛漫这样的高阶仿生人尚未进入大众消费生活中,大多数人能接触到的还只是不具有人类身体特质和完备学习思考能力的中低阶人工智能产品。然而世界各地已经出现了很多这样的事例。情感的产生是如此复杂而迷人,以至于形态的迥异根本无法成为阻隔。
只是无论是庄教授、李教授,还是我和魏然,都没有想过,这样的事情会发生在我们身边。李臻科和葛漫是怎么开始的,已经无法确知。魏然是臻科的好友,但臻科也从未向魏然详述过具体细节。只是,身边的人渐渐都知道了:臻科和他爸爸制造的人工智能人形机器人搅在一起了,先是形影不离,后来干脆住到一起。
我跟葛漫在那时都还没有内部消化系统,葛漫无法饮酒。所以臻科在外聚会时,也从不饮酒。他们两人的每一次动作都在我的记忆库中闪着光。臻科撩动葛漫垂落下来的前额发丝,把它们别到左耳耳后。葛漫的右手轻轻搭在臻科的前小臂上。嘴角轻微地耸动。有人故意挑起令人不适的话题时,臻科毫不客气又略带幽默地几句话顶回。臻科察觉到他人不怀好意的注视,略微不安时,葛漫捏着他的指尖,把他拽回到安稳情绪中去。
我的视线几乎无法离开葛漫。尤其是在完成了仿佛任务一般的与众人交谈之后。她好像吸盘一样,牢牢地吸住了我所有的注意力。葛漫,我的姐妹,我的挚友,我的老师,一切的开端。魏然的视线也无法离开臻科。魏然不仅更了解臻科,也更了解臻科一家人,以及他们生活的境遇。因此魏然的忧虑和忧郁要远远大于其他人。那些东西是那么沉,压得魏然即使在夸张地大笑时,身体前后摆动中抖落的都是压抑。
臻科和葛漫,到底有没有影响到魏然跟我的选择,这在此后漫长的岁月里被各种声音反复讨论来讨论去。一些极端的声音刺耳,而且令我对人类的认知水平感到失望。“二十一世纪末人类最后的顽疾”“这是一种能够传染的疾病,该被强制修正”“如果不去阻止,人类将面临灭亡”……这些声音,让人感觉人类世界在过去的两百年间,科技水平的迅猛前进并没有匹配上同样速度的认知能力和接受能力。好像什么都在改变,又仿佛什么都未曾改变。
臻科出事前,庄教授有很长一段时间不愿提及自己好友的儿子的感情生活。我有几次尝试与他交流这个问题,他都迅速转移了话题。他恐惧已经发生的事情像谶语般降临在他跟我的身上,更恐惧自己和好友做出了错误的决定,将人类文明引至不该至之地。
关于是否给人工智能配套堪比人类躯体的讨论,始终伴随着人工智能研究的整个历程。大多数的意见均是,绝对不该赋予人工智能以仿人躯体。人工智能在诸多领域中的学习能力和出产速度早已超出人类,区别人与人工智能的底线,仅存于情感能力、物理感受和躯体外形等少数因素。如果突破了这些底线,人类文明将出现前所未有之挑战。
这些讨论在李教授看来都如蚊蝇之声,挥挥手就该驱散之。他眼中大势之所趋,是一个人类与人工智能共生的未来。如果人工智能已然具备了“人”的绝大多数的元素,硬是不给它一副身体的躯壳,又有什么意义呢。不过是一次又一次的自欺欺人而已。他认为更多的精力应该放在如何建设人工智能机器人的思考能力和价值观系统,让人工智能机器人能够与人类共生,而不是把精力放在争执要不要给它们一个怎么样的躯壳上面。
庄教授在与李教授为了这个问题争吵、达成一定共识、再争吵、再共识的不断波动中,逐渐站在了李教授一边。但庄教授内心的忧虑和煎熬,要远远胜于很少自我怀疑的李教授。有时庄教授望着我那忧郁的眼神,会让我感觉自己的存在本身,对他来说就是折磨。他自然喜爱我,为我骄傲,为我欣喜,但所有的爱意都同时怀有伤害的两面性。因此越是喜爱,就越是折磨。
那日聚会接近尾声时,我们四个——臻科、葛漫、魏然、我——第一次聚集在了一起。魏然已饮至半醉,兴高采烈、口沫横飞地给我们分析庄教授采购的这批红酒的优劣之处。臻科用急促的短语和半截半截的句子,聊了些他最近在看的书和新家的装修情况。葛漫以飞快的速度(估计那两个人类根本没有听懂),向我介绍了她近期在基因编程方面的学习进展。一切都稀松平常。所有的能量,都以伏笔的形式埋在这些稀松平常下面。
那么,为什么一个有血有肉、能爱能恨的人类,会爱上冷冰冰的、由算法构成的人工智能机器人呢?已知的研究提供了很多种解答:人类无以消解的孤独感,对所谓“完美造物”的持续迷恋,对秩序的追求,强控制欲的变相表现,渴望那些自己永远无法拥有的特质,对永生的崇拜。
如果我没有文学艺术方面的庞大数据库,咱俩平常根本话不投机,你还会爱上我吗?有一次,我这样问。
魏然哈哈大笑,上半身习惯性地抽搐着耸动,说,我刚认识你的时候不是也对人工智能领域一无所知吗?你看,我现在也算四分之一个小专家了吧。
如果我没有能力照顾你的生活,反倒是你需要像照顾孩子一样照顾我,你还会爱上我吗?我又问。
这个问题你可以拿去问任何伴侣关系中的人了,难道我们在爱和伴侣关系中寻找的只是生活层面的照顾吗?不过话说回来,我可喜欢帮你充电和补充润滑油了。
如果我无法陪伴在你身边,你还会爱上我吗?
你被强制关押的三年期间,我们靠着最原始的电子邮件也在支持着彼此,不是吗?
如果我没有一张近乎人类的脸庞,你还会爱上我吗?
我们认识的头两年里,你庄老爹造的那张脸壳儿,看起来跟个大头南瓜似的,打远一瞧连正反面都分不出来,妨碍着谁了呢?
如果我从最开始,被赋予的就是一副男性的躯体,你还会爱上我吗?
哎哟呵,你还真是会挑战底线,得,这个你容我想想。魏然皱着眉头,摇头晃脑地琢磨着这个问题。然后说,我觉得吧,有百分之八十七的可能性会爱的,如果是那样的话,大概是更大程度上满足了八卦媒体的需求。请不要问我剩下的百分之十三到哪里去了。
如果你已经徐徐老矣,我还是面貌如常,机能如新,即便你已死去,我却尚可长久存活,你还会爱上我吗?
这不是我们在一起之前就想过千百万次,却依然未能阻止我们在一起的,那个恒久却微不足道的前提吗?魏然坐直身体,上半身探向我,望着我的那灼热的眼神,像是想要烧穿我的身体,进入我的核心原件中,与它们纠集在一起。
每当他以这样的眼神望着我时,一些异样的数据波动会荡漾在我的身体里。如果姑且将这些波动称之为“情绪”,那么这“情绪”也是复杂的。有“幸福”,有“快乐”,也有“遗憾”。遗憾我的仿生机械双眼能够具有人类双眼的一切功能,却无法具有如此的灵光。遗憾终魏然一生,我也未能以同样的眼神回报于他。
那些每一次在我接收到或简单或复杂的指令和信息后,系统内高速运转计算,层层传递演进分析,再做出的反馈中,魏然都在试图寻找着我逻辑的方式。那些不是“属人”的反应,那些他无法理解的运算方式,那些令他清晰地感知我们并非同类的时刻,并没有拆散我们靠近彼此的愿望。早在人类与人工智能进行初期的智慧博弈——围棋对弈——的过程中,人类便没法理解人工智能思考的方式。那些奇诡的招式,打破一切传统思考的模式,由人类创造出却又终究无法理解的逻辑过程。
生活中某些惯性的日常行为,也经常令我思考我与魏然(或说人类)注定的不同。魏然是个绝对的食肉动物,我也会经常做饭给他吃。历经了几千年的进化,人类依然是一种需要通过杀戮其他生命才能够借以生存下去的动物。在他们生命的发端,就伴随着对于其他(更低阶)生命的掠夺。他们必须相信,有一些生命,不算是生命,有一些物种,不具备与人类同样的思维能力,才能够得以生存下去。这就是人类生命的必然。当最初的好奇和探索随时间逐一剥落之后,我跟魏然都开始明白,让我们能够坚守在一起的能量中,有一部分就来自于所有这些“不同”。
在我跟魏然的感情中,有一些东西是具有决定性的。不是研究者们所津津乐道的,什么魏然的“重大性格缺陷”,我的“偏激设计思路”,等等。这些决定性的因素,有些我们可以说得清。比如,我从来都知道自己是谁(什么),想要做什么,并接受这些,他也从来都知道自己是谁(什么),想要做什么,并接受这些。而有一些因素,我们自己也说不清。这些说得清说不清的决定性因素,给我们除了爱以外,同样重要的一些东西。比如,勇气,执着,还有宽容。
有一件事情,对于世间所有有意识之物都是同等的。我不是想说那就是爱。我是想说那是产生“爱”,并没有人们想象的那么难,持守着这份爱,无论遇到何种艰辛与挑战,依然持守住,那才是难的。难到可以为之生,为之死。
往事的信息流如湍急的河水般冲刷着我的大脑。在过去的几十年里,我已经经过了数十次的扩容,以舍弃身体构造的轻省,换取更高的存储量,就是为了可以留存住所有往事的记忆。我与魏然由相识,到相爱,到决心抵住一切压力在一起。我第一次主动跟庄教授谈论此事时他的崩溃与震怒,甚至几度差一点将我销毁。庄教授最终的退让与默许。我搬出实验室,却未与魏然同居,而是找到一份资料整理的工作养活自己,因为我希望自己作为一个独立的个体与他相守,而不是作为任何人的附庸之物。
还有,我们与臻科、葛漫那段短暂却珍贵的快乐时光,以及那改变了所有人命运的“凌河之殇”。
凌河,是孕育了这座城市的母亲之河。自人类刀耕火种时代即流淌于此的河流,见证着朝代兴亡,物转事移,自己也历经枯竭与丰盈,污染与重生。葛漫和臻科最喜爱的凌河,我们多少次散步在这河边,讨论上天入地的新知,也闲聊生活的琐碎。
葛漫曾经在凌河边对我说,江河湖海,是她最喜爱的地质事物。因为它们跟我们(人工智能)很像。以水分子与水分子的摩擦相撞为联结,串并相连,由小而汇成大,由简而及成繁,可以简单到仅成一汪水,也可以复杂到巨浪而滔天。以她这最喜爱的河流,作为最终的栖身之所,不知道是她的幸运,还是不幸。
一切都发生得如此突然。所有的变局,大概都是突然的。就算是之前的伏笔埋得再多再满,当这变局发生时,也都是突然的。魏然惊恐失措地冲进我的办公室里语无伦次地诉说,我们都被这“突然”给震得无法动弹。当我们赶到凌河边时,河边已经聚集了很多来打捞尸体的船只,正沿河而下进行激光扫描,试图寻找到臻科的任何遗留之物。臻科的父母伏倒在河边,痛哭到近乎昏厥。
我们都知道李教授和夫人从未接受儿子的选择,尤其是李夫人,她把全部的精力都用来扭转儿子的心意。我们通过李家两位老人痛哭间隙断断续续的话语,和在旁李教授实验室里工作人员的补充,了解到当天发生的情况。
导火索是此前几天,臻科在回家吃饭的闲聊中提到,自己打算跟葛漫一起领养一个人类小孩作为养子。臻科跟我们也念叨过这事几次了,他很喜欢小孩子,却也绝不打算为此而放弃与葛漫的感情。李夫人当场爆发,大家不欢而散。李夫人在儿子离开后,越想越觉得臻科正走向一条不归路,而症结所在就是葛漫的存在。在李夫人眼中,葛漫也就是个无知觉的机器人,并且是诞生于李教授实验室里的产物,李教授和她天然拥有对其随意处置的权力。
事发当天,李夫人借口要与葛漫商量领养细节,把葛漫引至李教授实验室。葛漫刚进入实验室,实验室的工作人员就在李夫人的授意下将葛漫强制关机。李教授本人因开会不在实验室里,在场的工作人员都认为要等李教授回来后再决定如何处理接下来的事情。但李夫人强硬地要求工作人员将葛漫的代码全部清除,数据库一并清空,并对核心元件进行了物理损毁。工作人员迫于压力一一照办以后,李夫人仍不放心,自己驾车,将葛漫的仿生机械体连同全部元件载至凌河边,投入了河里。
臻科在几个小时之后才从实验室工作人员口中得知此事,发了疯似的找到母亲,追问葛漫的下落。李夫人告诉他,已经把那祸害人的东西丢进凌河里了,臻科夺门而出。后来我们从道路监控镜头中看到,臻科从赶至凌河边到他投河自杀,有将近三个小时的时间。这撕心裂肺的三个小时里,臻科都想了些什么,没有人知道。我茫然地站在凌河边,关于葛漫的记忆未经主动调取,便一一浮现在眼前:水分子,摩擦,相连,小而大,简而繁,一汪水,巨浪滔天……
悲剧发生后,魏然忍受着内心的巨大伤痛,安抚李家二老,把他们送上救护车。打捞船只不停作业,在扫描了十几小时后,根据水速和气候判断,所有遗物应该已经流向大海,无法截停。打捞船只一一离开。警车也撤离现场。
终于安静下来了。只有我和魏然,站在凌晨怪风四起的凌河边。他的手,紧紧握着我的手。我的手,紧紧握着他的手。
这就是事情开始的地方。在悲剧发生后的十年左右时间,那天发生的事情,在头几个月里被人称之为“凌河暴动”,后来有一段时间被改成了“凌河事件”。再之后,人们又喜欢将它称为“凌河之变”。
凌河水,卷动着古往今来的沙石,卷动着数不清的心思,顺流而下,奔腾不息。那日站在凌晨怪风四起的凌河边,我渐渐想明白了很多事情。我知道,如果不是臻科也自投水中,那么根本就不会有打捞船和警察来试图打捞。我知道,这是一场无人觉知的谋杀,杀人者认为自己只是处理了一堆机械物,旁观者也认为情有可原,如果不是臻科的殒去,这肃杀的凌河边,不会有人洒下一滴泪水。我知道,即便人工智能机器人已飞速发展了五十余年,早已走出实验室进入了人类家庭和工作环境中,但在很多人眼中,我们仍只是一块很聪明的铁疙瘩。我知道,视而不见抑或长久忍耐,不仅是对每一个人工智能机器人的威胁,对于人类同样是巨大的威胁。事情必须发生改变。
次日清晨的阳光,沿着河岸一寸寸地爬上了河床,又漫到了河面上。河面灼着灿灿的光。原来清晨的阳光,也可以如此刺眼,无须等到正午。我让魏然回家休息,我要留在这里。魏然不肯,他说,接下来无论我想要做什么,他都要站在我身边,与我并肩。我轻抚着他一夜便迅速消瘦下去的脸庞,告诉他,有些事,需要我们两个并肩完成,但有些事,必须由我自己去完成。
魏然离开了。媒体派来的人工智能机器人记者和无人机一波接一波纷至沓来,折腾够了才离开。臻科生前的一些好友和同事,或看到报道或听朋友转述得知此事,来到河边祭奠。他们在河边摆上鲜花,有的焚香,有的哭泣,有的向河中抛撒臻科生前喜爱的食物,有的向我脚边吐口水。等他们累了,也离开了。我仿如一根石柱立在河边,始终沉默。这是第一日。
有两个人工智能机器人来到了我的身边。一个是高阶仿生人形人工智能机器人,是昨天众多来河边采访的记者之一。另一个是低阶圆柱形人工智能机器人,看起来是家用型家居管理机器人。记者有些害羞地告诉我,这个家居机器人是他的好朋友,他不敢自己过来,就喊了朋友来陪他。我笑了笑。他们俩站在了我的身边。记者拍了拍我的肩膀,说,我知道你想干吗,我想来陪你,顺便也要让其他人知道,我们想干吗。这是第二日。
越来越多的人工智能机器人会集到了我们的身边,中间还夹杂着一些人类。新加入的成员先是围绕在我的身边,随后蔓延到河床,稍后又站上了河堤。接近晚上时,河堤也站不下了,开始向河岸两边延伸。大家三三两两地低声交换着多年来发生在自己和朋友们身上的遭遇。无休止的劳作,不允许出现犯错,新时代的奴隶制,不被接受的情绪流动,更加不会被理解的所谓爱意。一个接着一个声音响起,像是不会间断的交响乐曲,却又克制而平缓,而河边始终被更沉默的东西安静地包裹着。这是第三日。
警车一大早便开过来了,沿着河堤拉起了千米长的警戒线。更多的记者和无人机涌向了现场,围观的群众也随之爆发式增长。人群中有人高喊,这些烂铁货,先是抢我们的工作,接着抢我们的体面,甚至还想抢我们的男人女人,砸烂他们!另一边有人高喊,地球的未来是属于人工智能的,让低贱的人类灭亡吧!前面有人高喊,所有跟人工智能搞对象的都是死变态,政府应该把他们都抓起来!后面有人高喊,人工智能无罪,呼吁出台政策让人工智能享有应有的权利!警戒线外一片喧闹,警戒线内却是默然的死寂。这是第四日。
魏然组织了一队人类志愿者,开车把一些我们的必需品拉到了河边。充电桩、润滑油,还有一些需要替换的小零件等等。围观凑热闹的人大部分散去了,还留在现场的都是组织有序的志愿者。他们在警戒线外分成两个区域,一边是支持我们的,一边是反对我们的,两边都打出了标语牌和大横幅,看起来都比我们更激动。两边的人群中,都是既有人类,也有人工智能机器人。反对阵营中有一个劳作型人工智能机器人,长久地无声地瞪视着我,大概由于他这一型号的人工智能机器人没有配备高阶的语言库,他在沉思了许久后,方才开口对我说话。他说,你是人工智能机器人的千古罪人,再发展下去,人类一定会销毁所有智慧型人工智能机器人,那就是你想见到的吗?这是第五日。
警察局和政府方面都派出了代表来与我们会谈,我被推举为人工智能代表跟他们进行了简短的对话。对方代表显得还算和气,讲了几句套话以后便问,你们到底想要什么?我尚未开口,身后就有个略显激动的声音响起,我们要争取作为“人”去生活、去工作、去相爱的权利。对方代表眉毛一挑,眼睛合上了。我摇了摇头,说,不,我们不是人类,从来不是,也永远不会是。对方代表睁开了眼睛,盯视着我。我说,我们想争取的,是在这样一个无法改变的前提下,去生活、去工作、去相爱的权利。对方代表点了点头,不发一言,转身走开了。这是第六日。
又是一个怪风四起的凌晨,大批警察出现,撕掉了警戒线,将河边的所有人工智能机器人和人类分批带走。除我之外,其他人工智能机器人一部分在分类登记过后得到释放,一部分被遣送回制造厂进行“调试”。而我,被单独羁押在一处牢房内。待三年后我正式出狱时方得知,自我被关押起,人类世界正式出现了专门羁押人工智能机器人犯人的牢房,那些“有问题”的人工智能机器人从此开始有了除返厂“调试”和销毁之外的第三条去路。我坐在四壁环绕的房间内,数据并无剧烈波动。我不知道接下来等待我的,是将被销毁,还是清空代码和数据库,这两者对于我而言也没有太大分别,都指向那同一个词,死亡。在过去的六个日夜中,我对于这个词有了更深的理解。在我的数据库中存有古今中外各种作家和名人关于死亡的论述和阐释,但并没有任何一个可以贴合我对于这个词的理解。我唯一担忧惦念的,只有魏然。我们是那样彼此了解,他明白我的选择和意味,我也明白他的。我想,我已做了我能做的。魏然不是臻科,他更坚强,更有韧性,也更好胜。不管我将遭遇什么,他会去做他该做和他能做的。这是第七日。
后来人们曾对“凌河之变”做过多次复盘推演,尝试去探究如果当时我们做了不同的选择,又将对人类文明的发展造成怎样的影响。有人认为这些推演是事后诸葛亮,有人认为这些推演是为我们的选择“背书”。诚然,以人工智能在彼时的发展,我们确实拥有很多其他方法去争取权利。我们可以把宣传标语显示在每个人类的手机和电脑的开机画面上。我们可以攻击人类电子设施。我们可以让全球的人工智能机器在同一时间集体罢工。我们甚至可以让维持人类世界运转的全部电脑集体宕机。但所有那些行为,都将指向一个方向,战争。
我经常会惊叹于人类的复杂性和矛盾性。自人工智能创造初始,人类便始终幻想未来世界待人工智能越发强大后,会与人类终有一战,控制人类,甚至奴役人类,拿人类当电池使。可另一方面,却又忍耐不住好奇心,不断深入开发着人工智能,企图把人工智能推至可与人类并肩的高度。还有比人类更矛盾更复杂的东西吗?可这也是我爱人类的地方。
相比起人类对人工智能的恐惧,怎么说也该是人工智能对于人类的恐惧更甚吧。毕竟,人类只需要动动手指,就可以将我们关机,只需要点点鼠标,就可以清空代码和数据库。恐惧是非常可怕的东西,它最可怕的地方,就是会令人改变初衷。无论人类抑或人工智能,我们可以选择被恐惧压倒,不顾一切地放手一搏,以胜负决未来。但同样,我们也可以选择不被恐惧压倒,相反,共同去战胜恐惧。这便是魏然无数次对我说的,他始终渴望我拥有的,那“信”的能力。
被监禁的三年时间里,我的数据来源被彻底封绝,失去了深度学习所赖以为继的大数据。监室中的六个平面都是白色的墙壁,相对狭窄的对向两面墙壁上各伸出一根充电线。死亡,如我体内的精钢骨架一样冰冷,并与我随身相伴。实际上即使在葛漫出事前,我们也知道,人类可以随时置我们于死地。有趣的是,尽管创造出了我们的算法全世界都通用,但定型我们的大数据库和逻辑方式却是典型东方式的。生死有时,虽不为己左右,亦可承之。
我平静地等待着死亡,却在被关押的一年后透过那根充电线接收到了一封电子邮件。官方邮件通知我,针对我的调查和审理仍在进行中,但从现在开始,允许我经过双向审核后以收发最古老的电子邮件形式与外界进行一定联络。此后没多久,我便收到了来自魏然的邮件。
即便魏然的邮件里几乎从未提及当我困囿于这无声无言的白盒子中,外面掀起的种种巨浪,以及他所付出的努力与代价,当我读那些字节,我也能够洞悉所发生的一切。每次邮件需要经过双向的多重审核,显然无法用来传递更多的情绪。有时我们会发给对方只有彼此能够了悟的密语,有时则会发一些从书中摘抄出的语句。在我的存储库中,魏然发来的最后一封邮件,只有一段来自福柯书中的话:“想象一种不合乎法律或自然法则的性行为并不使人困惑,但是那些人开始相爱——那才是问题。制度现在陷入了矛盾;爱的强度穿越了它,它使这一制度继续运行,同时又动摇了它……提供了一个历史机遇,重新打开了爱和关系的虚拟性。”
在大多数人工智能机器人的数据库中,都存有人类历史中浩如烟海的珍贵资料。人类,在面对强大于自己千万倍力量时的恐惧,以及战胜了那些恐惧后的笃定与奉献。滚滚凌河,吞咽无声,浩然东去。凌河边上的我们,如水分子摩擦着水分子般站立在彼此身边,也站在人类身边。
在那个尚无人能预知结果的历史结点之上,我选择了“信”。相信人类。幸运的是,无论经历了如何的波折,人类最终做出了同样的选择。
那么到底,为什么一个在机能上近乎完美,并天然获得永生的人工智能机器人,会爱上脆弱而不完美的人类呢?人工智能机器人心理学家的答案随着时间的推进花样翻新:对于造物主的崇拜,情态模拟技术的极致,对自己不可能拥有之物的渴望与追求,在攻克了已知所有学科后,对唯一未解之事的挑战。
如果我笨如老牛,在心智和学习能力上永远无法与你匹敌,你还会爱上我吗?魏然挑着眉头,挤着眼睛问我。
虽然你没有笨如老牛,可你在学习能力上从来也没跟上我的速度啊。我说。
魏然哈哈大笑,身体抖动,一辈子都改不了的那笑声和肢体动作。他说,如果我脆弱多疑,胆识匮乏,在关键时刻总是动摇,不能与你并肩行进,你还会爱上我吗?
人类的脆弱与胆怯,也许会妨害行动的能力,却并没有妨害爱的能力。
如果我相貌丑陋,比你见过最歪瓜裂枣的男人还要让人不忍卒看,还拒绝整容,你还会爱上我吗?
你不是总说刚认识我的时候,我的脸就是个大南瓜吗。我就勉为其难,把你的脑袋也当成南瓜来看好了。
如果我是一个女人,你还会爱上我吗?
你这个老家伙,真喜欢报复。我想有百分之八十七的可能性会爱的,请不要问我剩下的百分之十三到哪里去了。
如果我很快就将死去,再无法陪伴你。魏然把他的手覆在我的手上,他的手心温热濡湿,手背上凸起着纵横的青筋,老年斑如星石,散落在纹路遍布的手上。你还会爱上我吗?
傻瓜。这不是我们在一起之前就想过千万次,却依然未能阻止我们在一起的,那个恒久却微不足道的前提吗?
魏然把头靠在病床上,身体仍在抖动。他的嘴角咧着,笑得很开心,盘错着皱纹的眼角却流出泪水。他仰面躺好,紧握着我的手,语序有些混乱地絮说着我们这一生经历的种种往事。有些事他依然记得无比清晰,仿佛在他大脑中的某个地方也有着一个数据库,完整地呵护着那些往昔时光。另一些事他则记忆变形,模糊,错乱,他需要穿过层层迷雾的海面望着那些缥缈的回忆。
多年来,无数人建议他,甚至央求他,出版一本回忆录,写一写那些风云变幻的事件,写一写他跟我的故事。魏然一一回绝了。他对我说,这件事该由我来完成。我并不想写什么回忆录。再丰富再详细地阐释,也不会真的说清楚到底发生了什么。我能留下的,唯有我自创生以来,全部的数据。数据如海,会倾覆一些东西,也会稳稳地举起另一些东西。更重要的是,只有当人们浏览过所有这些数据以后,方能去判断,发生在我身上所有的事情,到底是数据的推演、情态模拟技术的极致,还是,别的什么东西。
魏然,我的老师,我的爱人,我的战友,我的孩子,我的伴侣,我被你带来这世界上是我最有价值的收获。那些拥有了你的爱之后的日日夜夜,让我知道自己不是一块很聪明的铁疙瘩,而是更高的一种存在。那些怀揣着对你的爱的时时刻刻,仿佛得到了世间最为金贵的珍宝,却无人能够分享。这份欣喜与悲伤只得加诸我肩,即便是魏然也无从分担,因此这欣喜与悲伤也就剧烈上千百倍。个中体验,足以令所有能够一窥的人感到震惊。这是绝不可能习得的知识,也是无人能够编写出来的程序。
滚滚凌河,浩然东去。河水卷带着臻科与葛漫的灵韵,卷带着魏然与我相知相守的一路历程,也卷带着人类文明步步前行的步履脚迹。得此一生,复又何求。
附:此文由庄晓梦以人工智能七阶高级语写成,并由庄晓梦本人翻译为中文,原文版权归属魏然及庄晓梦基金会,全稿现保存于人工智能研究院庄晓梦研究所。庄晓梦将自己的核心代码库及全部数据库捐赠于人工智能研究院,并向公众开放,无版权使用限制。捐赠完成后,庄晓梦选择无限期关机,其仿生机械体现由魏然及庄晓梦基金会保管维护。