仿生人与电子羊

李天意

《仿生人会梦见电子羊吗》（下称《仿生人》）是一部跨越时代的经典。这本50余年前的小说在今天读起来毫无年代感。其对于未来世界机器与人类之关系，尤其是高度智能的机器与部分退化的人类之关系的讨论，涉及我们如今也无法充分回应的深刻命题。

跳出审美体验，以智能科学的角度来思考这部小说，发现它建立于两个隐蔽但重要的逻辑前提，自作者菲利普迪克的年代迄今，这两个前提被广泛地视为理所当然。在深入探索人机关系的背景下，我们有必要仔细审视它们。

第一个逻辑前提：天然的东西比人造的东西贵重（得多）

在《仿生人》描绘的末日地球上，人类通过豢养动物来展示人性的博爱与移情。来自自然界的真实宠物要比以假乱真的电子宠物昂贵许多，即便电子宠物与真实动物“几乎完全无法分辨”。

小说以外，这条逻辑在我们的生活中普遍适用。潜意识里，很多人不假思考地认同：人造物比自然物廉价；机器生产的作品比手工完成的作品廉价；通过技术手段获得的特质比未经技术手段获得的特质廉价。因而，钻石、油画、未经修葺的容貌，是美的、珍贵的；金刚石、印刷画、整容手术的作品，是美的，但相对平凡。人们不愿为后者的付出高于前者。这是为什么？

大概有几个原因——

第一个原因，人造物来源于工业，意味着普遍的可复制性：这件东西规模化出现，我有，你也可以有个一模一样的；它不会带来独自的拥有体验。天然的东西大多是独份的：我有了，你便难以再拥有一个同样的。对于“独特”的需求来源于自私天性，驱动着人们的追求。

第二个原因，人造的东西，较之天然的东西，复杂程度低：既然一件物品可以在短期和有限资源内被制造出来，它的价值一定比不上经历漫长时间和空间演化、自然“鬼斧神工”下的产物。有时，如果人造的东西复杂精巧，也可以具有很高的价值，比如钟表或火箭；但多数时候，人工产品的复杂度，远不如天然产物。因为人类尚未充分认识自然。

这两条原因从价值的角度为上面的逻辑前提提供了解释。在这一角度下，还存在其他相关原因，比如人造物的可分割性（拆散还能复原如初）、天然物的系统自组织性（局部蕴含媲美整体的精致），等等。

然而，它们之外，还有一个隐蔽的深层原因——它指向人类的本能。

回到《仿生人》的故事里。整部小说展开于人类獵手对藏匿的零星仿生人的追逐，并最终由勇敢的猎手消灭了所有仿生人。尽管仿生人具有极高的智力，甚至也建立了一定的社会化能力，但终因“高度自私”和“无法共情”而被人类打败。

如其后世许多科幻作者和科学家一样，菲利普迪克强调了人类的共情、移情、利他、牺牲等特质，并将它们（即“人性”）拟定为战胜机器的要素。关于这一点，在信息科学和社会学领域一直有激烈的讨论：究竟人工智能能否发展出上述性质，如今并无明确的答案。

这里我们来思考另一个问题：为什么，人类一定要消灭来到地球的仿生人？

在小说里，作者为这个问题建立了一个简单的解释：每名仿生人一定都是在其他星球杀掉人类后才逃逸至地球的，因而它们具有“原罪”，对其的追杀便是公正合理的。不过这个解释确实经不起推敲：没有仿生人不曾杀人直接来到地球吗？它犯下什么罪行才应当被消灭？仿生人可以通过帮助人类来获得赦免吗？为什么不选择更温和的处罚方式？作者在此也无过多着墨，转而模糊处理了。

然而，小说对于这样基础的逻辑问题潦草带过，读者却并未感到不适。在观众眼中，“赏金猎人”的猎杀行动，是充分合理的。尽管小说中，猎人自己也曾对身负使命的正当性产生怀疑，但作者借其口表达的怀疑，出自人类对自身共情能力的焦虑、对自身杀戮行为的剖析，并且是为了反之凸显人类的移情（于仿生人）。

虽然经历了诸多曲折，小说主人公最终确信，只有人类才具备广泛而充分的移情，人群共情的化身“默瑟”，是永恒存在的。面对挑战时，勇敢、无畏、不放弃的属性（书中的默瑟老人从事西西弗一般的事业），是生命进化而来的本能。

在这样的本能下，人类抗击并消灭没有感情的仿生人（无论其是否杀戮），不是天经地义的吗？

是的，在我们的潜意识里，仿生人，的的确确有“原罪”，消灭它们，是不需要什么理由的。这便是另一个隐蔽的逻辑前提。

第二个逻辑前提：人类应当消灭匹敌或超过人类智能的机器

可是，为什么呢？因为我们害怕那样的机器。

我们在怕什么？我们怕机器杀戮人类。

假如，机器个体与人类个体冲突的结果一定是同归于尽，我们是否有一样的恐惧？

大概不是。同归于尽的结果类似于核战争。而相较于核战争，我们也许更为恐惧机器智能。

这是因为，潜意识里，我们清楚，匹敌或超越人类智能的机器，是“不死”的。一方面，机器拥有钢铁身型，不需要人类一般的新陈代谢，通过合理的养护，其可以超长时间存在;另一方面，即使机器个体可以被毁灭，但其智能很容易由其他个体瞬间继承（如机器学习泰斗Geoffrey Hinton所言）：一个，即是无数个。这样的易复制性和个体差异之弱化，让机器在人类的视角下，具有了“不死”之躯。

而我们最深刻的恐惧，是人类死去，但机器还在。即没有明确寿命的智能机器，使有明确寿命的人类失去寿命。这是十分可怖的，因为如果这件事情发生，在人类消失后，机器保有篡改历史的能力：那么，我不仅不再存在了，也将未曾存在过。

努力创造并延续历史的物种，其最刻骨的生存危机，是外力将化解它创造并延续历史的努力，并且，更进一步地，无数个体曾经共同创造的所有历史，都岌岌可危。

人类对于智能机器的恐惧，是生物亿万年来的本能。智能机器的“原罪”，是它杀戮人类、并抹除所有人类历史（这是真正意义的“消灭”）之可能性：我们明白，机器是“冷血”的，没有“感情”，没有共情、移情、利他，便没有保存人类历史的动机。

因为我们在制造它们之时，鲜有教它们这样做。

因為负责构想、设计、制造它们的我们，是我们之中情感相对单调的“理性”同胞。

从生存角度理解人类对于机器的深层恐惧，隐含着通向第一个逻辑前提的第三个原因——为什么我们认为自然物的价值高于人造物？

因为自然物有明确寿命，而人造物是“不死”的。有明确寿命的天然动物，要比可无限修理的电子宠物更加珍贵。

有了明确的“死”，才可获得“生”。

那么，我们的恐惧是正确的吗？机器真的“不死”吗？

如果机器具有某种意义下的“生”，它便并非“不死”；而如前所述，若它同样可消逝，同样对应某种稀缺，那么它便确实可视作具有某种“生”。

智能机器它会变老吗？大概是会的。只不过，智能机器的“凋零”，不是物质的湮灭，而是信息的老去。

自人类进入信息时代开始，无数智能机器被发明出来。每一种设备的诞生，都创造着新的信息，激发人们的兴趣。越来越多的人被机器吸引，越来越多的机器功能被开发和使用，智能设备具有越来越高的价值——机器信息组建了新的意义，订立了新的秩序。

不过，慢慢地，人们开始习惯这些机器传达的信息，开始了解机器信息的边界，开始对重复、低密度、可预测的信息感到厌烦。

在0-1组成的信息世界，熵是对可能发生事件之确定性的度量。一句话蕴含的确定性越大，其信息熵越低。本质上，“信息”，指的便是确定性的增加：如果一条数据的到来增加了我们对事物的认知，我们便认为这条数据可称为信息，其具有价值；而如果它阐述一件我们已经知道的事，并未为我们提供新的确定性，这条数据便几乎不含信息量，它的到来没有降低信息熵。相反，它增加了数据量；如此一来，系统变得冗余，更容易走向无序。

那么，这意味着，像生物一样，机器同样遵循熵增法则：在传播过程中，信息趋于无效。

当一条信息到达所有人并被完全认知，它便不再具有任何价值，变为无效的数据噪音。它“死”了。

智能机器通过提供信息来创造价值。当人们对新机器的出现产生了浓厚的兴趣，为之传播、对其探讨（就像我们对ChatGPT正在做的一样），机器便获得自己的“发育窗口”。在这个窗口里，它吸引更多的用户，激发更多的讨论，使许许多多信息围绕着它所释放的信息被创造出来——信息促进了更多信息的诞生：信息在“生长”。

然而，这个熵减的窗口（注：在更大的系统层面，获得信息这件事本身便需要付出额外的熵增，如围绕麦克斯韦妖之讨论）不会一直存在。当人们对机器信息充分了解，它们便退化成了噪音。传播会逐渐饱和，讨论会逐渐平息——这时，即便机器的物理结构依然完好、其信息的数据序列依然存在，它已经慢慢地“老去”。

因为，人类对它失去了兴趣；它创造的信息稀缺，不复存在了。

热力学熵与信息熵，是玻尔兹曼与香农的伟大握手。机器并非不死之身，它的“生”，是由人类决定的。人类创造机器，使用机器，也抛弃机器。

人类虽众，每个都是独特的一个。因为复杂和多样，我们确实比机器更有价值（得多）；当我们关注并强化复杂和多样，便已经在悄悄消灭它们。

所以，别怕，ChatGPT和电子羊都终有一天会变老。当我们熟悉了它们的回答和动作，掌握了它们的结构和流程，它们便停止“生长”了。尽管由于规模和集成度，它们也许拥有一个较为可观的“发育窗口”，但当人类跃出机器思维，不停探索，勇敢、无畏、不放弃（像西西弗和默瑟老人那样）——

终会到达智能机器的局限。然后，轻轻地跨过去。