“物理-逻辑性”与“生物-文化性”之间：人工智能技术的文化边界

陈 鹏

一、极限技术：技术本身成为绝对主体

数学家用奇点(Singularity)来表示趋近无限的数值变化，比如任何一个自然数除以一个越来越接近于零的数，其结果将“激增”(比如指数式增长)而趋近于无限大。在天体物理学中，如果一个大质量恒星经历超新星爆炸会最终变成体积接近于零、密度无穷大的点，这就是“奇点”，即黑洞。这个奇点是一个体积无限小、密度无限大、引力无限大、时空曲率无限高、热量无限高的“点”，一切已知物理定律均在这个点失效。因此，奇点概念可以理解成趋近无限或无限制的一种极致变化或极致状态，它标志着终极变化的极限点或临界点。

一些学者提出了人工智能技术发展的奇点理论。人工智能专家库兹韦尔(Ray Kurzweil)认为：超级人工智能技术正以加速的方式发展，到未来某一个时候会以指数的方式爆炸式地增长，技术变革的速度将不再受限于人类智能的增长速度，这时人工智能将大大超越人类智能，机器人也将成为人类“进化的继承者”和“思想的继承者”。这种人工智能将超越并接管人类智能，使更高级的智能在宇宙产生，并将这种智能由地球推广至整个宇宙。①[美]库兹韦尔：《奇点临近》，李庆诚等译，机械工业出版社2011年版，第11-15页。“奇点”不仅是指机器智能全面超越人类智能的那一刻，更是一种智能开始高速无限制增长的那一刻。英国数学家谷德(L.J.Good)用“智能爆炸”来描述这一过程：

一个超级智能机器可以设计比它更好的机器，然后就会诱发产生“智能爆炸”，届时人类的智能将会被远远落下，第一个超级智能机器，将是人类需要做出的最后一个发明。②[英]卡鲁姆·蔡斯(Calum Chance)：《人工智能革命》，张尧然译，机械工业出版社2018年版，第115页。

这确实是技术发展的奇点状态或无限制状态。这个无限制可以从两方面来理解：一是它自身的发展摆脱了人类的限制；二是自身的发展是获得了自身优化的机制，它成为一切技术的技术。

技术是人类用来完成某种实践、实现某种目的的工具或手段，一个“技术-产品”具有自身的结构和功能，但它终究是由人设计、制造并加以运用的，技术的属人性是技术的本质之一。对于人类来说，虽然技术的异化总在以某种方式某种程度存在着，但是，无论如何，技术本身没有主体性，技术“是什么”“做什么”完全由人类来决定。可是，当超级人工智能技术出现以后，此种技术超越了自身的工具性，其自身具备了某种系统的智能的主体性。对于人类来说，这可能是技术发展的终极异化。

在这个意义上，此种技术不再是一种简单的技术，而是智能主体自身，这样的技术真正成为一种“极限技术”或“临界技术”。从技术上说，它成为一切技术的技术，即它能设计、制造出任何技术；从主体上说，它具有了自我认知、自我优化、自我设计的主体性机制。以前是“人类智能-制造-技术”，现在是“超级技术-制造-技术”，技术本身超越人类智能而成为智能主体。

如果把视野再放宽一些，此种“主体再造”的极限技术可以包括三种类型：生物技术(生物过程的干预技术，如克隆人、基因编辑、遗传工程等)、人工智能技术(高级智能计算机技术)和人机合成技术(生物技术与计算机技术的某种结合)。人机合成技术可能有更大的空间，诸如生物定制、意识永生、记忆编辑、超级大脑、各种意义上的赛博人等等。这三类技术都威胁到自然人类的生命文化进程，都触及人类文化的终极边界。本文主要聚焦超级人工智能技术所触及的文化边界问题，它的问题实质是人造智能机器成为绝对主体，从而可能引发对生物性“生命-文化”的彻底消解，而超级生物技术所引发的则是生物性自然演化的常态秩序被打乱。无论如何，这样一类技术所涉及的边界问题已不再是一般的法律边界、伦理边界、应用边界问题，而是已涉及自然人类如何可持续生存的终极问题。此类极限技术的出现逼使我们必须重新思考技术的本质、人性的本质以及技术的文化边界问题。

二、人工智能的根本风险：“物理-逻辑性”对“生物-文化性”的消解

本文所讨论的不是一般意义上的通用人工智能，也不是从技术上讨论人工智能技术奇点的可能性问题，而是分析其奇点状态所可能引致的文化风险。本文有两个方面的设定：一是在人工智能技术方面有一个比较强的设定，就是超级人工智能最终能成为无所不能的自我设计、自我制造的绝对技术主体或智能主体；另一个就是文化方面的价值设定，即人类生物-文化进程的唯一性。我们将文化分为“物理-逻辑”智能与“生物-文化”生命两个方向，前一个方向是物理的、逻辑的、智能的，后一个方向是以自然人类生命有机性为基础的整体文化历程；前一个方向在后一个方向的过程中孕育、发展出来，最后可能形成超越的独立系统，反过来支配后者，而后者有其无可替代的独特性、唯一性。

根据超级人工智能的强度，其文化风险可以分为三个层次。第一层：人性的弱化。我们所理解的人性，不是要素化的本质主义立场，而是以自然生命为基础的社会文化历史总体，这是一个整体主义和历史主义的人性立场。此所谓人性的弱化在实质上是人性的单向智能化，人性的发展因此失去了整体性应有的内在均衡，比如技术化对自然进程、理性化对艺术直觉、逻辑化对感性生命的弱化。第二层：自然人类被替代、被主宰。这是超级智能支配、控制了自然人类，温和一点说是人工智能全面超越了人类智能，人类由此失去了最关键的主体性话语权。第三层：自然人类被消灭或被终结。这是“物理-逻辑性”替代了“生物-文化性”，其结果是自然人类的文化进程被“机-电智能”所替代，基于生物有机性的文明被毁灭。

有学者提出这个进程标志着“技术统治时代”的来临，这是从自然人类文明到“类人文明”的时代过渡或反转，“类人”根本上就是“技术人”。因为今天的人类已经算不上严格意义上的“自然人类”了。比如，由技术工业制造出来的化工产品和药物所导致的环境激素，已经在整体上改变了包括人类在内的地球动物的体液环境和体液构成，就此而言，碳基生命的根基已经被动摇。①孙周兴：《技术统治与类人文明》，《开放时代》2018年第6期。超级人工智能不是改变了人性，而是发展出了另一类主体，这一类主体由于没有多少生物-文化的“弱点”、“缺陷”，而又同时具有非凡的强度，面对这样的超级主体，自然人类文明变得不堪一击。

超级人工智能的文化风险可以被总体描述为“物理-逻辑性”对“生物-文化性”的削弱、支配甚至消灭，或者理解为非生物智能对自然人类生命文化的超越。当人工智能战胜人类智能，人工意识取代人类意识，就会造就一个后生物学的世界。“物理-逻辑性”对“生物-文化性”的支配和超越至少包括三个要点：一是自然人类文明(生命、文化、历史)的整体性及其生物脆弱性。人类文化主体不仅是智能主体，也是一个生命文化主体，它是以身体作为基质或基础载体的每个人的文化活动的总和。自然人类文化系统一方面是历史的、社会的，一方面也是生物性或具身性的。然而，这个生物性、有机性的身体既是神奇的，也是脆弱的，它无法对抗物理性的稳定和持久。二是人工智能的“物理-逻辑性”。我们之所以称人工智能技术具有一种“物理-逻辑”的文化类型，是要强调其物理性与智能性的结合，或者说是“算法(软件、逻辑性)-机器(硬件、物理性)”的结合。其物理性是其机电性，它的基质或“身体”是非生物性的机器；其智能性是指它的逻辑系统或算法系统，在某种意义上电脑智能就等同于算法，几乎任何活动机制都可以被表达成某种算法。这个超级人工智能一方面是一种特别的机器，一方面它是绝对的、无所不能的智能主体，这个智能主体不再是生物性的。三是超级“物理-逻辑”智能对于人类生命文化形态无与伦比的智能优势和强度优势。

库兹韦尔在书中反复强调此种非生物智能对人类智能的优势：这是一种特殊的机器智能，它可以瞬间处理数亿单位的海量信息，是人脑处理速度的300万倍。机器之间可以高速传递和无限复制信息，可以共享人机文明的所有信息。计算机可以综合生物智能和非生物智能，最终可以实现自我设计、自我制造。大脑由基因支配，有容量的限制，而计算机智能可以自我架构，不断突破容量的限制。人类的情感能力也可以被未来的机器智能所理解并掌握。总之，未来生物智能已不占优势。②库兹韦尔：《奇点临近》，李庆诚等译，机械工业出版社2011年版，第12-14页。

在《人工智能的未来》一书中，库兹韦尔这样描写遗传算法和数码大脑：

遗传算法的关键是：人类并不直接将解决方案编程，而是让其在模拟竞争和改善的重复过程中自行找到解决方案。生物进化力量虽强大但是过程却太过缓慢，所以为提高其智能，我们要大大加快其进化速度。计算机能在几个小时或者几天之内完成数代的进化，但有时我们会故意让其花费数周时间完成模拟百千代的进化，但是我们只需要重复这种过程一次。一旦这种模拟进化开始，我们就可以用这种高度进化、高度完善的机制快速解决实际问题。在这一过程中我们采用两种智能方法：利用遗传算法模拟生物进化，得出最优机制；利用隐马尔可夫层级模型模拟人类学习过程中起重要作用的大脑皮质结构。③库兹韦尔：《人工智能的未来》，盛杨燕译，浙江人民出版社2016年版，第144页。

人工智能的思维方式和运行机制是还原论、物理主义、逻辑主义(形式化)和功能主义的。对此过程可以简要概括如下：把活动(任何意义上的)还原(或表征)为功能，再把功能还原为逻辑机制或算法；再通过机器(微电子技术使之成为可能)来实现这一算法机制。这里蕴含了一系列的还原(化约)过程，结果是实现对任何活动的数字化(亦是机器化)模拟，因此，人工智能实质上就是“功能-算法”模型。库兹韦尔如此描述大脑模拟：

无论是蓝脑计划，还是莫哈的新皮质模拟计划，这些仿生大脑计划的最终目的都可归结为一点——完善和确定一个功能模型。与人脑水平相当的人工智能主要采用本书中讨论的模型——功能算法模型。但是精细到分子程度的模拟可以帮助我们完善此模型。20世纪八九十年代的语音识别技术发展过程中，只要能够了解听觉神经及早期听觉皮质负责的实际信号传递，我们就能精简算法。——只要拥有真实大脑的详细数据，我们就能模拟出生物学意义上的大脑。①库兹韦尔：《人工智能的未来》，盛杨燕译，浙江人民出版社2016年版，第125页，第238页。

这个智能系统是独立的、自成主体的，它可以模拟直至优化人类的所有智能，而且可以做到全面的、彻底的信息互联(甚至万物互联)。这个技术在本质上是纯粹智能的，它不仅可以模拟、优化、集成人类的智能，而且可以将人类的非智能活动加以模式化处理而整合成其智能的一部分，诸如无理由改变目标、随机判断、日常语言生成、情感反应、审美反应等也可以通过算法来表现。

这个物理-算法系统是单向智能化、逻辑化的，是表征主义、功能主义的，它对于自然人类文明的所有活动都可以运用算法来还原、表征甚至优化。如同“中文房子”，它或许无法真正“理解”语言，但是它可以熟练地、高效地运用语言。超级人工智能不仅具有智能-功能优势，而且避免了人类身体的各种限制(如衰老、疾病、对环境的苛刻要求等)，也能避免人类情感上的各种脆弱性(如惰性、倦怠、犹豫、勾心斗角等)。如库兹韦尔所说，生物基质是美妙的，但我们正在创造一个更强大且更持久的非生物的系统基质。②库兹韦尔：《人工智能的未来》，盛杨燕译，浙江人民出版社2016年版，第125页，第238页。

三、整体主体：“生物-文化”系统的内在均衡

这个非生物性替代生物性的风险随着人工智能技术的不断发展而加剧。到奇点降临，自然人类只能期盼这个超级人工智能是“友善的”而非“邪恶的”，静等人工智能的道德素质来决定人类的命运。为避免如此结局，无论如何我们需要对人工智能技术的发展加以一定程度的管控。为了确保自然人类文明的可持续发展，就必须维持人类文明即“生物-文化”过程的内在均衡，这个内在均衡是智能与非智能、机器与生命、理性与非理性、还原主义与整体主义等等的整合，在其进程中，人类生物文明的安全性将是一个重要的主导原则。

人类文明不是单向的智能文明(技术化、工具化、机器化、模式化、形式化、功能化等)，在这个线索主导下的文化只能是器化、物化的文明。人类文明是在整体自然环境中，基于自然生命机体的社会、文化总体历史进程，它是自然的生物文化、生命文化、智能文化的过程总体或创造整体。提出“物理-逻辑”与“生物-文化”的两分，并不是要将两者完全对立起来，而实际上前者始终是后者的一个重要部分，而且在大部分情况下一直是主导性的、最有力量的一个部分。人类作为文化主体的一个主要内涵也正是按照某种目的、理想通过表征、还原、符号化、逻辑化来改造这个世界。只是在这个文化进程中，技术化、智能化、信息化的发展越来越变得无可阻挡，以至于其他意义上的变化显得无足轻重。

马尔库塞早就指出现代社会人性异化的根源在于科学技术和“文化工业”，在这个文化工业进程中，人成了机器，机器倒成了主人。技术追求、技术意识和技术管理深入到人们的思维和习惯当中，技术合理性成为人们的生活信条、政治统治的合法逻辑，人们陷入技术崇拜。在技术时代下，人自身被物化、机器化、技术化。马尔库塞呼吁情感革命和感性解放，主张以新的感性世界反对现代文明所带来的压迫、奴役，提出以艺术激发幻想和美好记忆，创造出直观而非逻辑的、感性而非理性的审美形式，构建一个由“享乐原则”而非“现实原则”主导的新感性世界。③杨彩、胡军华：《马尔库塞技术异化理论探析》，《理论界》2019年第6期。

马尔库塞所展示的是感性文化对智能文化的批判或抗衡，但是人类文化整体不能以单一的“艺术-感性”原则来主导，就像不能以单一的技术智能原则来主导一样。而且这种人文立场的辩护仍然可能是表征主义、功能主义、还原主义的，它是以审美、道德、信仰、情感等要素来对治机械、形式、逻辑、算法等特征。这并非没有意义，但是对于超级人工智能来说，这些所谓人文特征仍然可以在功能表现上加以表征、模拟，而且“水平”会相当高。比如计算机可以写诗、作画，可以表现得比许多人更有信念、更坚定等等。对人类生命文化的彻底辩护必须以实体主义、整体主义为基础。

在此，福山的生物保守主义立场值得关注。针对新兴生物技术(如克隆人、人体干细胞研究、基因工程、神经药理学等)对人类生物的危害，福山提出应采取严格的规约措施。在这些极端生物技术的支配下，原本神秘的、由自然规律设定和支配的人性，将变成可以人为设定、改变和支配的对象，人性的独特性将不复存在。由此，福山提出人性应是人类作为一个物种典型的行为和特征的总和。①[美]弗朗西斯·福山：《我们的后人类未来——生物技术革命的后果》，黄立志译，广西师范大学出版社2016年版，第131页。福山所强调的是人性行为的独特性、综合性和整体性，他认为假使人类具有独特性的“X因子”，这个X

因子不能够被还原为自主选择、理性、语言、社交能力、感觉、情感、意识，或任何被提出当作人的尊严之基石的其他特质。那么什么是这个“X因子”呢?

福山没有明确说出这个“X因子”是什么，实际上他也无需指定这个X因子，他想用X因子来承载人性的独特性，只是这个“X因子”的提法仍然会陷入某种还原主义。福山本想批判还原主义，他不承认人性的独特性能被还原成任何具体的某种因素、要素或某种特质。沿着这个线索，我们可以说，人性的独特性就在于人性本身，就在于人类行为的整体性或总体性，即整个人性行为的综合。人性的典型性不是人性典型特征的综合，而是整个“生物-文化”行为的综合。所以，这个“X因子”不是某种要素，也不是某些要素的结合，而是人类行为的整体。

实际上，还原主义是不可缺乏的，没有还原主义就没有绝大部分的科学、创造和主体，但是彻底的物理还原主义立场会对生物文明带来致命威胁。因此，我们在智能主体、技术主体不断发展的同时，必须维持生物主体、文化主体与之的均衡，而更进一层，就需要建立维持两种文化、两种主体之间均衡的那个更完整的主体，我们称之为“整体主体”。比如，以人文思维来批判科学思维是一个方面，更重要的是我们需要一种整体思维来整合、均衡科学与人文两种文化。这个整体主体是理性的，因为它要对整体性不断作出自我理解、自我判断；这个整体主体也注定具有某种保守性，因为这个整体性是维持均衡、克制单极化的结果，整体主体的使命即在于防止任何文化X因子的单极化挺进；同时，这个整体主体又要是创造的、发展的，因为它要适应整个文明进程。从运作机制来说，这个人类文化整体主体的实效性将取决于人类命运共同体的不断强化。

这个文化的整体性是生物性与非生物性的均衡，而且生物性(基于身体性的有机性、生命性)要处于某种主导地位。为什么要保护且适度突出生物性尤其是高级生物性，或者至少以生物性为基体呢?一个可以提出的理由是：生物性是神奇、脆弱而且是唯一的。当以生物性的人类身体为基体的文明被摧毁，我们无法确保在茫茫宇宙中还能再产生此种生物性及其文明，我们无法确定此种“生物-文化性”是宇宙历程中必然产生的环节。在另一个意义上，保护生物性，实质上是保持这个整体的有机的生命创化历程，至少从目前来看，自然人类文化的所有价值和内容都离不开实质性身体(基体、基质)，离开这个身体、这个具身性，所有的文化创造将没有内容，也没有意义。

人类已经进入一个技术爆炸的时代，信息技术、纳米技术、微电子技术、互联网技术、人工智能技术、生物技术等都在迅猛发展，而且这些技术正在进行前所未有的整合，如果我们没有把握在自然人类文化内在均衡的前提下控制技术的突进甚至接近奇点，那么就必须在人类共同体的框架下采取实际措施来管控技术的单极化推进，尤其是极限类技术的迅猛发展。