似界

王凯

1

我们遇见的第一天，医生告诉我说：现在的人工智能，最重要的不是智能，而是人工。

当时我尚未涉足这一行，对他说的话似懂非懂。于是他带我去看公司的最高一层，这里是识图A.I.的训练场，被分割成一个个的隔音小房间，里面坐着来自附近城中村的女工们。她们或年老或年少，有些人握着鼠标的手尚且笨拙。

一幅幅图片在屏幕上闪过，她们点击这些图片，对着麦克风大声读出这些图片里物件的名字。这些声音被收集起来，汇总到数据中心，变成一片小小的碎片，并会在下一个流程中化作支撑A.I.声音识别的一块砖瓦。

“你有兴趣吗？当然，不是做声音识别，是做别的。”

我点点头。

接下来的数年里，我也坐进了类似的小房间，我的工作不是识图，而是识别文字。我阅读各种各样的文字，从小说到纪实文学，从药品说明书到微博，从商业成功学到宗教，我阅读它们，我咀嚼它们，然后我总结自己阅读时的情感，把这些情感归拢成数据喂给公司的另一个A.I.系统。

那不是简单的“喜欢”或者“不喜欢”。我分析自己的每一份感受，把它们切成一小片一小片，再加以命名，放入分类系统，对照数据表，最终把它们上传到数据库里。

我还会阅读那些A.I.写出来的文字，我看着它们从狗屁不通到初具文采，渐渐与人类创作出来的事物难分伯仲。

我也会对比人工智能识别文字的结果，大部分时候，它们的识别越来越准确，但是有些时候，它们会出错，会出很大很大的错。错到令人觉得自己一整年都干了白工。

//有一些歌是蓝色的，另一些歌是红色的，每当音乐响起，我就听见色彩，我的耳朵五彩缤纷，我的双眼尖叫不已。//

我拿着这段话去找医生。告诉他我们训练的A.I.完全无法理解它。

和它一样会发生识别错误的文字还有几百段。按照医生的要求，我把它们积攒下来，收集成一个小小的文档。里面什么都有。其中有些颇有趣味。

//芳香烃，通常指分子中含有苯环结构的碳氢化合物。是闭链类的一种。具有苯环基本结构，历史上早期发现的这类化合物多有芳香味道，所以称//

//芳香烃，通常指分子中含有苯环结构的碳氢化合物。是闭链类的一种。具有苯环基本结构，历史上早期发现的这类化合物多有芳香味道，所以称这些烃类物质为芳香烃。//

这一组就是个典型例子：前面那句话只说了一半，而A.I.会把它错误判断为“在描述一棵树”。

我实在不知道它是怎么判断的。

但如果我把这句话完整输入，A.I.就会正确地判断为“在描述一种化学物质”。

我也不知道它是怎么做到的。

医生让我和其他人收集每一个无法识别的句子、每一串能够愚弄人工智能的文本。再把它们喂给另一个人工智能。

这个名叫“似界”的A.I.吞下这一切，不仅是文本，还有图片和声音。其中包括了被识别成鸟的桥梁蓝图、被认定为数学公式的诗、被判断成细菌的人脸和被认定为消防警报的歌。

然后它开始生成。

我问过医生，“似界”这个名字的意思。

他说：“大千世界，似是而非。”

2

在文字识别组工作数年后，医生把我调进了“似界”的项目组。

不同的项目组，同样的工作内容。

“似界”会根据我们喂给它的那些“错误”，生成大量的文本、图片和声音。而我的工作就是去识别这些东西。将那些对人类有意义的事物和在人类眼里不可理解的事物分开来。

我问过医生这是在做什么。但他说，就算解释了，我也不会懂。

在我看来，“似界”仿佛是在搞艺术。

我对人工智能一窍不通。我只懂艺术，而且我上一份工作就是搞艺术。写卖不出去的小说和没人看的诗。最后穷出了心理疾病，跑到互联网上去找免费的心理治疗。然后我遇到了医生。

“你需要的不是一次治疗。”他说，“你需要一份工作。而我恰好可以提供一份工作。”

这就是为什么我叫他医生。

尽管他这辈子大概都没穿过白大褂。

其实医生比我更像是个艺术家，他搞出来的“似界”虽然只是个人工智能算法，但它吐出的很多东西都挺有艺术感的。比如下面这段话：

//歌在被歌唱的地方静默了，又在被静默的地方响起//

或者——

//巴拉巴拉爱上了拉吧拉吧//

我为医生收集这些内容，直到有一天，一群穿着黑色T恤衫的人出现在公司里。他们表情严肃认真，而医生也难得地露出了严肃的表情。

“——我们要看演示。”个子最高、肩膀最宽的那个人说。

医生带他们去楼顶。那里摆放着几十台无人机。他叫上了所有“似界”项目组的人，包括我。我们好奇而不解地坐在楼顶的塑料椅子上，那些椅子平时是用来做拓展游戏的。

“阿镜，你把这个穿上。”

医生指着我说。

我从他手里接过那件衣服，是一件套頭迷彩服罩衫，但又不完全是迷彩服，因为在迷彩服的胸前印着一只非常傻气的哈士奇。

我不太高兴地看了他一眼，还是把罩衫套上了。

因为医生也穿了一件，只不过他胸前没有印花，只是纯粹的迷彩。

然后他让几个男同事去抬了八盆一人高的盆栽过来，自己拉起罩衫的迷彩兜帽，站在盆栽后面，像一棵会笑出白牙的树。

“好了。”他说。

一个穿黑T恤衫的人拿出遥控器，无人机成群结队地起飞。掠过楼顶，再飞回来，最终全部悬停在医生的头顶，红色的激光点落在他的脸上和胸口，他笑着用手遮挡。

“换人，换人。”

他把我叫过去，让我拉起兜帽，也站在那里。

无人机散开，重新组成编队，扫过楼顶。它们扫过我的头顶，一次，又一次。我很确定它们腹部的小小摄像头曾经指向我的位置。但它们完全没有做出反应。

“阿镜。你从盆栽后面出来。把兜帽摘了。”

我按照医生说的做了。

那天很热。我还记得阳光落在我的脸上。那些聪明的小飞机从我的头顶飞过，甚至绕着我的脸转。它们绕到我背后，发现我，气势汹汹地向我飞过来。

但是等它们绕到我身前时，仿佛被某种事物所迷惑，又飞走了。

“行了。”个子最高的那个男人摆摆手，“签保密协议吧。你们所有人。“

他想了想，又补充道：“就在这儿，当场签。”

3

我们那天真的就在现场、在天台上、在凹凸不平带着小圆点的塑料凳子上，签下了我们这辈子第一份保密协议。我当时又困惑又紧张，甚至划破了纸。

这份协议至今仍然有效。因此我不能告诉你，我的读者，我不能告诉你医生的名字，我不能告诉你我的名字，我不能告诉你“似界”的项目编号或者我所在的公司的名字。我所说的一切技术都已经是公开的和为人所知的。我至今仍然无法谈论那些不为人知的部分。尽管其中有一些已经和医生一起长眠深海。

很多年前，我和医生争吵的时候，他嘲笑了我对诗歌的偏执。而我对他说，人生而残缺，而艺术可以提供完整的幻觉。

如果有可能，我想要告诉他。我错了。

有些失去永远无法用艺术填补。

4

医生把公司开在一个二线城市的三环外，在那里，他买下的破厂房和周围的城中村违章建筑风格无比一致。那些年里，我白天在那里工作，中午在食堂争抢免费水果里的小番茄，晚上回到单人宿舍，揉我的猫，收拾房间、洗个澡、然后一身疲惫地落入梦乡。

那时候我从来没想到，這份工作会把我带上无人战场。

当然，我其实没有真正到过N区。

无人战场名副其实，那里在开战后就已经空无一人。当地居民根据他们的信仰和信念，收拾行装逃往不同的方向。如今那片土地上只有无人机、自走机器人和自行战车，它们开出厂房，驶下运输机，穿过临时机场那尘土飞扬的跑道，进入无人战场，开始冲撞彼此、轰炸彼此。

我只在分析室里见过N区。那个长条形房间灯光昏暗，墙壁上并排挂着两幅投影屏，左边是人工智能分析终端生成的N区图像，右边是无人机拍摄视频里的N区风景。

它们迥然不同。

拥有“似界”这样的A.I.的人，不只是我们，还有敌人。双方都在用尽一切办法愚弄对方自主作战机器人的眼睛。

因此，在人工智能的分析图像里，整个N区显现出难以置信的光怪陆离，就像是具象化的卡尔维诺小说，或者动态的达利油画。

我至今保留着一段N区的人工智能全景视频。在那段视频里，天空湛蓝、阳光明亮，棉花般的云朵中间倒挂着一座索桥，正呼啸着向镜头的方向冲过来。

这甚至不是整段视频里最怪异的部分。

在被集束炸弹破坏得坑坑洼洼的地面上，奔跑着各种莫可名状的事物。我能从中间分辨出一只蓝色的袋鼠、两条直径比人还粗的绳索、一只珐琅鼻烟壶和六架不同颜色的天文望远镜。

在视频里，它们看起来模糊不清、破碎跳动，彼此冲撞厮打，仿佛一群不真实的野兽。

而医生的大脸则投射在这些莫可名状的事物彼方，比两层楼还高，如同一尊架空而来的弥勒佛般开口大笑。

如果比对直接拍摄的视频，就可以看出，这些互相厮打的异物都是刷有“愚弄迷彩”的自走机器人;天空中呼啸而来的是一架大型无人机;而被错误识别为医生面孔的，则是高达二十六米的移动智能堡垒。

对方也使用了“似界”的技术。把愚弄自动战争机器的迷彩刷在每一台机器上，让战场指挥A.I.产生严重的错觉，迫使我们不得不倒退回用人手操控战争机器的时代。而且他们甚至还有余裕来掌控这些错觉的细节。

当时，我们认为那是对方对我们的示威。

第二天晚上，噩耗从海上传来，我们才知道，那是对方相信自己已经胜利的宣言。

我们最终还是夺回了N区。

但没有人能把医生带回来给我们。

给我。

5

他们叫我过去的时候，已经是医生的飞机坠入深海的第九天。这一次我签下了差不多一指厚的保密协议，才得已见到那个幸存下来的飞行员。

她看起来疲惫、惊恐、双眼红肿，而且充满不安。他们给她安排的房间宽敞而舒适，但这并不能改变她正在被监控的事实。我看了他们对她每一次问询的记录。但我决定还是面对面地和她谈一谈。

当我走进去的时候，她甚至都没有抬头，只是大声地喊：“出去！我都说过了！我不想再说一遍！”

我在她对面坐下。

“我叫他医生。”我说，“他叫我镜子。”

这句话让她抬起头来，困惑地看着我。我对她说了医生的名字，我看到她脸上的表情由不满变成悲哀和内疚。

“我真的什么都没有注意到。”她说，“雷达和目视都一切正常。”

我摇摇头。

“我相信雷达一切正常。”我说，“在现代战争里，要骗过雷达的办法很多。”

她又转为警惕，“那你的意思是，我没有看到那个迎面撞上我飞机的东西？”

“我觉得你看到了。“我说，“只不过那个东西太怪异，怪异到你都不相信它会在那里，怪异到你觉得它应该是个幻觉。而你是个飞行员，你的训练要求你理智冷静，要求你忽略那个看到不可思议的东西的瞬间。”

她看着我，嘴唇微张，欲言又止。

我拿出手机，给她看那段视频。给她看厮打在一起的望远镜和袋鼠，以及空中飞掠并开火的悬索桥。

她的眼睛睁大了。

“很多年前，”我说，“有一群科学家……”

这个故事是医生讲给我听的。我向他抱怨说我对他的工作一无所知。他就笑着摸我的头，说，要给我讲一个一无所知的人也能懂的、关于人工智能和他的工作的故事。

我记住了他说的每一个字。并在很多年后，讲给那个飞行员，也讲给你听。

6

很多年前，有一群科学家。他们想要创造出和人一样聪明，能够作出判断和选择的机器。但他们选择了不同的方法去做。

有些科学家，他们用做钟表的方法去做，只要“齒轮”转到了合适的位置，就能给出时间。而钟表不需要理解时间本身。

另一些科学家，他们选择用更困难的方法，去仿造人类的神经系统。仿造你和我的大脑，来做这种机器。他们希望机器能够真正地去“理解”和“认知”。

这就是我们今天最常见的人工智能——至少是人工智能的一种。

起初，他们很成功。

但是后来，这些科学家发现，他们做出来的人工智能是有缺陷的。虽然这些机器可以识别百分之九十九的图片、声音、文字，但是总有那么百分之一的东西，它们会认错。把狗认成摩托、把花看成跳舞的女人，或者把歌声判断成警报。

科学家们收集了这些会让人工智能出错的事物。开始研究。在这里，他们又一次选择了不同的路。

有些人认为，这种错误是最终可以消除的。因此他们一直致力于纠正这些错误。

但另一些科学家认为，这种错误根植于人工智能的基本结构——而这个基本结构同时也是人类神经系统的基本结构。他们认为这种错误无法消除，但可以总结出其中的规律。

我做的事情就是后一种。

“似界”的算法让它能够发现和生成这些带来错误认知的事物。它已经超越了色彩、图像和意义，给认知本身披上了伪装。

而在自主武器系统遍布全球、无人战争多点开花的今天，每一张错误认知图片，每一块愚弄迷彩，都有可能从无人机轰炸下拯救一条生命;每一条错误认知文本都有可能绕过无孔不入的网络监视、传递至关重要的密码;每一组错误认知声音都有可能扰乱对方的信息系统。

我不知道是战争找到了我。还是我找到了战争。

但是让我再重复一次。

“似界”创造的每一个错误认知，其错误都根植于人工智能算法的基本结构，而这个结构脱胎于人类的神经系统。

我正在走向更远的地方。去找寻更深处的错误认知。

我要寻找的是那些人类也无法避免的错误认知。

我要创造的是一个真正似是而非的世界。

如果能拨开这些错觉的迷雾，或许我们就能看见世界背后的真实。如果能掌握这种错误认知的力量，我们或许就能获得更强大的武器。

而且我必须要快。

我们有敌人，而且敌人和我们一样聪明。

7

“……我看见一个月亮。”她说，“我看见一颗月亮向我飞来，我甚至能看清楚它上面的环形山。那是在白天，天空那么明亮，而那个月亮离我那么近，仿佛伸手就能摸到，它又那么小，直径比我的飞机的翼展还窄。像一块完美的圆形石头。我想我一定是太累了，出现了幻觉。然后那颗月亮就撞在了飞机上。我以为是我的错——”

我拿出一张图片。给她看。

“你看到了什么？”

她的声音微弱下去，“……月亮。”

我拿出一张经过特殊设计的杂色滤光片，它可以扰乱固有的视觉模式，重置被欺骗的神经信号。我把它叠在图片上，再给她看。

“你现在看到了什么？”

“这是……这不可能……”

我叹口气。

在那张照片上，一架涂满了愚弄迷彩的无人机正掠过天空。

8

“我要叫你镜子。”医生曾经这样说，“因为你比我更远离真实，又比我更接近真实。”

我是个色盲。很微弱的那种。我分不清蓝色和绿色。这让我可以免疫大概百分之三十的、针对人类设计的错误认知迷彩。

和我一起工作的人里，有些是红绿色盲，但更多的是非常稀有的全色盲。他们几乎可以免疫绝大多数的错误认知迷彩。

根据我们的视觉模式，一批批单色和转色滤光片被制造出来，保护那些被困扰的战士和被愚弄的人工智能。让他们能够穿过硝烟，穿过战场，去寻找真相。

但世界正在一天接一天地失去真实。在前线，我甚至看到过刷满愚弄迷彩、伪装成山脉的一整栋大楼。人们这么做并不是为了赢得战争，而是那些充满恐惧的居民想要让自己从世界上消失。

最近，我听说已经有针对色盲者的错误认知迷彩被开发出来。人们将欺骗人工智能的方法转而用到欺骗人眼上，开发出了能够超越滤光设备的通用认知扰乱图形。

这让我感到了紧迫。

很多科学家一起接手了医生留下来的研究工作。他们和我一样忧心忡忡。

医生说的话依旧回荡在我们耳边。

必须要快，他说。

我们有敌人，而且敌人和我们一样聪明。

【责任编辑：阿 吾】