论高阶道德规范的可能性——以人机关系为例

胡紫薇

（海南大学，海南海口 570228）

0 引言

“道德”一词在时代精神中永不缺席。哲学家们总是忙于证明完满“道德”的存在，就像证明上帝存在一样。为什么每一次的努力都可以说是以失败告终？一切试图证明道德存在的努力都是绝对道德主义的体现。“道德”形而上学式的证明都是一种极端主义，每一次的证明失败都会导致浩劫，正如虚无主义入侵世界一样。每个时代的哲学家都会提出各自的“德目表”，用有效性的道德规范去证明无限性的“道德”存在是行不通的。

作为“道德”工具的道德规范在每个时代都有不同的形式，不同的文明系统有不同的道德规范，但都具有共同的普遍性的“道德”内容，道德的普遍性认同是要通过自己文明的路走出来的。简而言之，在道德判断上可以是相对主义，但是要有统一的“道德”概念。对“道德”的理解要超越一般性的道德规范，超越现代性的定义，超越善恶二分的观念。善与恶不只是道德判断，还是工具化利益化的道德。我们不应该局限在道德假象中，恶只是一种工具，善才是目的。如果善作为工具会走向虚伪化，恶作为目的会变成彻底的恶。

1 技术革命与道德革命

21 世纪，以电子和信息革命为核心的“第五次”科技革命正在以物联网、自动化和智能化等形式不断深入， 1956 年科学家麦卡锡（John McCarthy）首次提出的人工智能（AI）迎来第三次发展热潮，人类开启了智能时代。人工智能与人类的未来成为各个阶层都热衷谈论的话题，由此展开的想象与预设不胜枚举，这将是一次“革命”。

“革命”是如何发生的？西方文明的源头古希腊赋予了西方人自我意识与个人理性崛起的可能性。启蒙运动后，这种可能性变成了现实，现代社会充斥着现代技术的假象。现代科学也许可以用数学逻辑掌控事物，但也可能是一场悲剧。这种个体意识的觉醒造成人与自然的对立，所形成的科技决定论思维幻想着对未来做出绝对性的预判，在整个过程中人从主体异化成了主体的工具，幻象之下的真实是技术“淹没”人。从现实生活到虚拟世界，人主体性的衰弱和丧失，人类群体的焦虑与恐慌已经甚嚣尘上。不禁有人问：人成为社会的机器，人自身的高贵性即人的价值该从何处寻？最初技术的进步是由于人的需要即欲望，但是随着技术地位的确立，甚至技术的过快发展会导致“技术鸿沟”，进而造成“人现实与精神的鸿沟”。现实世界中造成人与人之间的疏离与隔阂，人的现实价值被技术带来的“虚拟”抽空，人的精神世界虚无，充斥着各种的物质追求，而失去了某些真正需要关心的东西。当技术的发展没有相适应的道德水平来平衡，只会出现剧烈的社会冲突，甚至严重的社会倒退现象。

这是一场什么样的革命？第一，人的主体性发生改变，新的主体还未得到广泛认知。主体界限的模糊是一个漏洞一样存在，直到人工智能真正的到来才可以澄清界限。最开始，人是从属于神的，向往天国。慢慢的，人类低下了头颅注视着尘世，转向人自身的追寻，用人的理性为自然立法，为人类立法。现在，作为主体的人却被机器无声的统治着，技术成为可以改变人、改变自然、改变世界的力量。第二，社会伦理关系的变革。我们迎来的一个新时代，不再局限于人与自然的关系、人与人的关系，人与机器的关系也将成为一种主流。伦理的起点是人与人之间的关系。比如信任关系、两性关系，而人工智能必然会导致此类关系遭到破坏。在现实生活中，真正的信任少之又少，是高于伊甸园那种不知善为善、恶为恶的状态。与机器的频繁交互会使人产生信任错觉，在同人交往时会假定一种信任关系。但大部分的信任本质上是一种假象，是人基于安全状态而进行的模仿，是一种不对等的脆弱关系，一旦平衡被打破，可能会出现群体性的信任恐慌。可以预见主体性的转移所带来的的危机就像暴风雨前的宁静，值得警醒与深思。第三，技术“裂变”加剧道德体系的碎片化。新的社会关系产生，短时间内将聚集改变整个世界的能量，如此剧烈的质变超过以前所有的时代，范围之广、影响之大、变革之深是现有经验无法企及的。是会超出人类的界限还是扩展现有的“存在”都未可知。新技术革命的发展如果没有相适应的社会道德水准与之兼容并蓄，结果只能是技术在坏人手中作恶，出现好人受难的现象。未来世界里，真正的人机关系将不同于以前和现在存在过的道德规范，应服从于一种更高的道德规范，从已有的古典文本是不可能建立一种有效的新伦理架构。

2 人工智能时代的人机关系

对比传统人与动物、机器的关系，相似点在于动物和机器都是没有自我意识的，和人类处在力量悬殊的地位。但未来的人工智能，同时具有人和物的两种属性。一方面没有自我意识，还是人的创造物；另一方面，又具有一部分人的属性和能力，尤其在算法上比我们更快、更强，甚至可能全面地超过人类。人们关于人工智能的恐惧，主要是源于超人工智能即强人工智能的自主意识。人工智能危险之处不是能力，而是自我意识。一旦人工智能拥有对自身系统的反思能力，就有可能通过祂的能力——万能语言对所有程序加以重新理解、重新构造和重新定义，这非常危险。如果人工智能拥有了拟人化的情感、欲望和价值观，势必更加危险，因为人的欲望和价值观正是一切冲突的根源。这种恐惧可以在各式各样的文献作品和影视作品中得到深刻的诠释。麦克尤恩在其新作《像我这样的机器》中，以人工智能为噱头，极尽人物叙述之能事，生动刻绘了机器人介入人类生活所引发的冲突与矛盾。文章认为，人是自然选择和伦理选择的产物，机器人是科学选择的产物。主人公亚当只有存储相关信息和指令的电子文本，不具有人类特有的生物性脑文本，缺乏区别善恶观念的伦理意识。因此亚当所代表的人工智能在处理伦理问题是困难的。可以说以亚当为代表的机器人与以查理和米兰达为代表的人类之间的矛盾隐喻了科学选择和伦理选择的冲突，而亚当的毁灭则揭示了机器人之于人类道德生活介入的失败。现实世界又该何去何从。

首先，人与机器的关系不应该被看成一种简单的对立冲突或者奴役与被奴役的关系。基于融合与协同，人与计算机可以实现了一种共生关系。利克里德（J.C.R.Licklider）在他的论文《人机共生》中提出：“人机共生是在人类与电子计算机之间合作交互所期待的发展。它将涉及人类与计算机伙伴之间的亲密耦合。人类忧虑机器可能取而代之，但是人类自身中总有一些是机器不可能模拟的。也许人工智能可以替代人做一些危险或者体力工作，也许可以运用技术对意识进行数字化，但是依然有不可替代的意识。正如弗洛里迪在《第四次革命》中所言：经过哥白尼革命，人类被挪出了宇宙的中心位置；在达尔文发表了《论自然选择下的物种起源》之后，人类又从生物王国的中心位置被驱逐出来；通过弗洛伊德的精神分析著作，人类发现自己连自我的思想内容都无法完全掌控；在图灵机诞生之后，图灵又将人类再次从逻辑推理、信息处理和智能行为的王国中的独特位置驱逐出来。人类总是在寻找存在的意义，而我们未来要做的是正确对待机器，既不要盲目崇拜计算机，更无需盲目恐惧、排斥人工智能。人机关系必然会走向共融共生的道路，与之对应必然存在着一种与之相适应的道德规范。近年来科幻美剧对近未来世界中的人工智能及其衍生的无限可能性展开了大胆而合理的想象。值得思考的是，未来人工智能时代的道德规范，主体也许是“理性存在物”，相应的标准可能会具体区分，作为道德潜意识的旧世界伦理习俗可能也会面目全非。

3 结语

人工智能始终无法真正的取代人的存在。在真实人性中，道德输出的功利作用、道德自律的理性作用、超越生命的道德作用都是人类在数字化时代对抗技术诱惑的精神武器，即道德有无限的复原性。面对智能时代，要从人工智能的有限性和技术理性的缺陷出发，做到目的论与非目的论的结合，面对伦理挑战，为未来建立一个具有包容性与复原性的道德体系，是人类的使命与责任。