增强智能的双重含义及其影响

杨庆峰

（上海人工智能实验室，上海 200232）

在对人工智能伦理基础问题的整体思考中，笔者曾经指出透明性与关联性是支撑人工智能伦理的两个基础概念。［1］这一观点仅仅是出于智能体考虑的结果，并没有从人机关系出发进行考量。一般情况下，诸多学者关注的是机器智能能否超越或取代人类智能这样的问题。但是这种讨论要么是认为强人工智能导致的结果必然是机器智能超越人类智能，［2］如库茨维尔就从进化论的角度论证了奇点的出现；要么是强调自主进化的智能体已经出现，如李飞飞认为智能体按照动物进化规律发展进化。［3］从两者关系角度看，人文学者所担忧、想象的东西逐渐被科学的研究所证实。人文学者陷于悖论之中：一方面通过现象阐述人工智能、元宇宙所具有的意义；另一方面，却担忧上述技术带来的挑战与危机，“如何能够在不取代我们理性自主性的情况下让人工智能增强公众决策的质量”？［4］科学界也面临类似的悖论：一方面认为通用人工智能实现的可能性微乎其微；另一方面，认为未来的互联网、NFT 等技术会给人类带来一个美好未来。这些理解都将人与智能机器的关系简单化。本文试图从增强智能的范畴来澄清两者的关系，并为未来人工智能的伦理提供新的阐释。

一、智能决策与增强智能

科学界已经对增强智能有过较多的讨论。电气和电子工程师协会对这一概念做出的解读认为，增强智能主要是增强而不是替代：“设计增强智能是用来增强而不是替代。术语‘智能强化’（intelligence amplification）可以追溯到1956年W.R.艾什比的著作《控制论导论》。这个术语本身相比今天的人工智能少了一些威胁的含义，因为人工智能暗含着取代人类智能。增强智能是AI 机器学习的分支，主要用来增强人类智能而不是独立运转或者取代人类智能。”［5］2019 年出版的《数字现实白皮书》明确分析了共生自主系统（Symbiotic Autonomous Systems，SAS）：“在SAS语境中最关心的事情是它们拥有的不同程度的自主性。它们能够进化（例如学习和适应）并与环境交互，并且彼此间实现进化以及和人类之间进行交互。”［6］1隐含在这一论述之中的技术哲学观点是延伸论与融合论：前者指工具是身体的延伸，计算机是心灵的延伸工具；后者指人类与人工物之间的无缝融合。这里的论述非常明确地说明了设计增强智能的目的是增强人类的决策和行动，而不是取代后者。在此基础上也就引出了人工智能与增强智能的区分。在一般的定义中，人工智能是指像人一样思维和行动的智能体。两者的区别是通过自定义这样的关键概念实现的。正如前述《数字现实白皮书》所言，它们拥有不同程度的自主性。目前国内科学界也注意到这一关键概念。中国工程院院士郑南宁指出，“混合增强智能”是人工智能的发展趋向。［7］笔者曾经指出，在经济领域中，人工智能与人的关系应该用一个新的概念来界定，这就是增强智能。［8］在朱迪斯·赫尔维茨（Judith Hurwitz）等人看来，所谓增强智能是指“一种使用人工智能执行良好定义的任务，例如作为决策活动的一部分。但是对于人工智能而言，人类与机器一道合作。人类需要评估自动任务的结果、在非日常环境中的决策以及由于商业需求的改变而导致数据必须被改变的决定”。［9］可以看出，这里的增强智能实际上着眼于将自动机器应用于人类决策中。

在经济领域主要是从产业语境中讨论智能化的问题。在企业招聘过程中，简历的筛选可以交给智能机器来处理。此时一个尖锐的问题就出现了：人员的录用能否最终都交给智能机器决定？这种由智能机器做出的决定具有明显的缺陷，因为人工智能的数据偏见和算法偏见是无法绕开的陷阱。这种决策必然会受到偏见的误导而失去人才。还有一个就是信任问题，在何种程度上人们能够采信智能机器的决策结果呢？人对于智能机器的信任本身就是一个颇有争议的问题。因此，至少这两点使我们难以将最终的决策权交给智能机器。此外，Gartner 的一份研究报告指出，随着人工智能技术的发展，增强智能（结合了人类和人工智能的能力）将为人类生活带来颠覆性革命。这份报告也指出增强智能在商业应用中有着极大的前景和未来：“增强智能专注于人工智能的辅助作用，强AI的目的是弥补自然人类的能力不足，同时又将人类智慧应用于AI，使商业智能变得更加完善，实现人类与机器的优势互补，发挥最大价值。”［10］

除经济领域之外，增强智能在教育和医疗等领域亦呈现出其特有的能量。吴朝晖院士在2019 年国际人工智能与教育大会上提出了三个判断：以人工智能为标志的增强智能时代正在加快到来，更加呼唤面向21世纪的通识教育；人工智能科技正推动教育1.0转向学习2.0，不断构建教与学互动的新空间；人工智能的赋能应用将成为基础教育、高等教育、社会教育联动的关键，加快达成终身教育共识。［11］事实上，从20 世纪80 年代至今，计算机、互联网、VR、人工智能等技术的出现对教育领域产生了极大冲击。直至当下的元宇宙，这种冲击愈演愈烈。在教育领域产生的问题是线上教育能否取代线下教育以及虚拟教育与现实教育有何关系？在10 多年前，这些问题的答案是异常明显的，即线上教育、虚拟课堂无法取代面对面教育，于是就形成了一种技术辅助人类的教育观念，即便是面对某些特定的技术训练，这种观念丝毫没有动摇。在这个过程中，人类的主体地位尽管有些改变，但是最终还是占据主导地位。然而近三年来，这种牢固的观念开始发生松动。人们忽然发现线上教育也成为一种有效模式，这很大程度上冲击着传统的教育观念。

在医疗领域，随着深度学习算法的成熟，医疗人工智能开始迅速发展起来。2021年5月，哈佛医学院Faisal Mahmood 团队开发了一种人工智能系统，该系统使用常规组织学切片就能准确查找转移性肿瘤的起因，同时能对原发灶不明癌症进行鉴别诊断。［12］Google公司可以用人工智能来诊断癌症。由于医学是一个专业性极强的领域，对医疗人工智能的可靠性有着非常高的要求，而目前在人工智能医疗领域会存在一定的误诊。比如《新英格兰医学杂志》2019年12月刊发的一篇文章指出，缺乏金标准（gold standard）将导致机器学习带来癌症的过度诊断。［13］

至此，通过分析科学、经济、教育和医学等领域内的情况已经明确:在上述领域中存在着增强智能现象，而我们需要做的事情是将各个经验领域中的增强智能现象进行哲学分析，并且将增强智能作为一个新的范畴提出来，对其规范性意义加以挖掘。这种规范性意义可以指导不同领域的人工智能的应用和治理，尤其是能够对人与人工智能关系进行有效处理。更为重要的是，这一范畴应该被看作是人工智能伦理的一个基础范畴。大多数人工智能的伦理原则更多关注传统伦理中的自主性、信任、隐私、偏见等，然而，这些范畴却不是以人与人工智能的关系为基础进行讨论，而是站在以人类中心的立场的。我们所要采用的新范畴完全是建立在人类与人工智能的关系基础上的一个范畴，这一范畴能够很好地引导我们处理好两者的关系。但是就当前该范畴本身来看，只是一种经验现象，还需要对其进行哲学化、道德化概括。这个过程类似于矿石的提炼过程。而这个提炼过程包括两方面：其一，提纯过程，哲学化就是提纯过程，去掉这个概念范畴中的经验杂质，而保留其结构性的精髓；其二，锻造过程，道德化所起到的作用就是锻造，把这个概念改造为道德范畴，使其具有规范性意义。只有经过这样的改造，将之纳入人工智能伦理与治理的范围中才具有切实的可能性。

二、增强智能范畴的哲学化

增强智能的哲学化目的是去掉这一范畴中的经验杂质，赋予增强智能一般的意义地位。

首先，从智能哲学角度区分智能增强与增强智能。智能增强属于人类增强的范畴，即通过某种技术手段实现人类的智能提升。如果采取笛卡尔的二元论划分，人类是由身体与精神两种实体构成的，那么人类增强可以划分为身体增强与精神增强，而智能增强可以被划入精神增强范畴之中。这个划分也成为当前人工智能研究的一个哲学基础。然而，笛卡尔式二分中有一个缺陷，即记忆处于何种地位并不明确。从记忆的心理学理解来看，记忆是认知能力之一，是记忆附属论的形式。①笔者对记忆附属论的局限做过较系统的论述。参见杨庆峰《记忆、认知与记忆本体论》，载《南京社会科学》，2018年第7期，第32-40页；杨庆峰：《从记忆与智能的关系看人工智能的发展》，载《长沙理工大学学报》，2020年第2期，第1-9页。而记忆附属论观念的存在使得记忆本体论地位丧失，所以需要加以批判。哲学史上很多学者已经为检讨这种附属论观念提供了理论上的可能。比如灵魂学说中有学者将灵魂三分为智能、记忆和天赋；［14］还有学者将其划分为智能、记忆和意志；对于黑格尔来说，回忆既是获得已经知道的东西的条件，又是深入意识内核的东西，能够使得感性意识的中介或前提被呈现出来；［15］布伦塔诺认为记忆使得过去对象得以被意识到。这些都是有助于摆脱记忆附属论束缚的理论基础。于是，当讨论智能增强的时候，连带的还有记忆增强、意志增强等维度，而不仅仅是认知与学习维度。而增强智能是对人类智能与人工智能关系的描述。它本义是借助智能机器强化人类决策，而并不是强化正常大脑功能或者构建超级大脑。随着脑科学的发展，大脑功能有望得到加强，经过对特定神经元进行刺激可以实现大脑功能的强化，可以构建超级大脑。

其次，是从人类—机器的关系角度对其进行哲学化。从表层上看，增强智能范畴确立了人类主导—机器辅助的关系模式，但是其实质并不是建立在人类直观的基础上，而是有着一个关键概念即共生（symbiosis）。②共生描述了不同物种的两个有机体之间的生态关系，它们有些时候，但并不总是使对方受益。我们将之认定为增强智能的深层含义。工程科学领域已经将共生当作未来的一个重要形式。“电器和电子工程师协会共生自主系统倡议预见了人类可感知的现实空间中网络空间与智能机器的无缝融合。事实上，该倡议预见了导致人与机器共生的会聚。然而，如果我们从人类视角来看的话，它不是共生而只是一个同化。”［6］1共生的一个例子是智能耳机。为了把注意力集中于关心的对话上，智能耳机通常会把一些无关的信号屏蔽掉。它会阻断脑中的电流活动，通过人工智能来识别大脑感兴趣的对话。［6］1在人文学科中，共生是科幻的话题。心机接口（Mind Machine Interface，MMI）就是这样的例子。“通过大脑与计算机的无缝交互而实现人类与机器之间建立共生的路径也即心机接口这样的东西，被划定为科幻小说的领域，它没有产生任何市场影响。”［6］1但是人机接口被排除在科学范围之外而归入科幻小说领域，后者也对未来人类形态加以探讨。后人类或者人类2.0 成为人类未来的形态。“后人类发展到极致可能是新物种的转折，这不是由进化驱动的，而是通过技术发展导致的结果。尽管有学者认为后人类扎根于科学与技术发挥的杠杆作用，但并没有看到人与人工物之间的共生，而是看到了在基础层面上改变人类（某些）特征的可能性。”［6］1从建筑哲学角度来看，日本建筑师黑川纪章（Kisho Kurokawa）在1994 年已经提出共生哲学的概念，而且是将之建立在意识哲学之上的一种界定。［16］19“但是在机器时代，人类使自身屈服于一个幻觉：借助他们使用的机器，便获得了上帝的地位，能够统治世界和整个宇宙。今天人文主义与人类优越性和逻辑中心主义变得同一。机器时代人类优越性在生命时代起着反作用，后者更强调环境和生态。”［17］当我们明确了存在于工程科学、建筑领域中的这个范畴之后，再来反思就变得有可能了。在对其讨论的一贯思路中存在着一个不融贯的地方：辅助与共生。辅助是一种规范性取向，在这一取向之下，人类的主导地位和机器的辅助地位获得了一种规定，这一规定防止了人类自主性被剥夺以及机器的僭越。然而共生却是一种描述性取向，在这一取向之下，机器更好地服务于人类的目的，然而这取决于机器与人的无缝融合。这一切都是建立在神经科学的发展之上。在关于自由度系统（Degrees of Freedom System）的研究中，Fieliba 通过增强对象及增强手段来构建运动增强分类，在这一框架之下分析了扩展自由度数量的增强，并明确接受度是一个根本的问题。［18］从文化角度来看，自由度系统类似于传说中拥有三头六臂的哪吒。我们都知道哪吒有三头六臂，六臂拿着不同的武器，战斗力迅速增强。除此之外还有六指系统。一项关于第六指的研究指出，第六指能够改变大脑感觉运动皮层中的表现方式。［19］更为重要的是，这一研究强调了一个被忽略的事实：经过几十万年进化后的人类身体并没有做好准备来迎接上述智能装备。正如文章作者之一马金（Tamar R.Makin）指出的：“进化并没有让我们准备好使用额外的身体部位。”这一说法很少被关注。科学界更关心的是这项技术取得的进展以及人类如何能够更好地使用它。按照共生的观念来说，这项技术同样也展现了共生的理念。尽管马金微不足道的一个观点只是呈现了实证科学从生理结构角度为我们揭示的人类进化本身的缺陷。对于此，笔者产生了一个疑问：共生的基础是否牢靠？不得不说，共生是美好的，它展现了一种未来人与机器关系的实证图景；然而技术做好准备了，自然进化的人类却没有做好足够的准备迎接这种技术的到来。这让我们重新陷入神话语境之中，人们通过普罗米修斯获得了神的技术和知识，但是对于普罗米修斯遭受的痛苦却无能为力，只能眼睁睁地看着他们的文化英雄受尽苦难。更为重要的是，产生了各式的机心，困扰于其中。这意味着辅助关系还需要新的道德化基础。

最后，从技术现象学角度进行哲学化。技术现象学最重要的贡献是对人—技术关系的阐述。唐·伊德的四重关系理论——具身关系、解释学关系、背景关系和他者关系以及荷兰学者维贝克后来增加的赛博格关系、复合意向关系成为最为重要的理论资源。在六种关系之中哪一种适合用来描述增强智能关系呢？具身关系强调的是身体的延伸，比如眼镜之类的东西。很显然，在上述与增强智能有关的现象中，智能机器并不是人的心灵能力的延伸，这只适用于最初级的计算机系统，所以具身关系是一种对低级形态的技术与人类关系的描述。如果将智能因素考虑在内的话，他者关系则是较为适合的解释理论。在类似于人工智能的自主系统中，智能机器是一个谨守规则的他者，辅助式成为其基本的原则。这意味着机器的逻辑不能无限外推，而是有一个明确的边界。但是他者理论的问题也非常明显，这一理论预设了机器的自主性，即作为他者的存在。而在增强智能的问题上，很显然自主性并不是关键的，缺乏自主性也并不妨碍独立他者的存在。所以在前述电气和电子工程师协会的选择中就确定这一种方式，增强智能不同于人工智能，它缺乏自主性，但是它确实是一个有限度的智能体。背景关系、解释学关系就更加无法用来解释增强智能现象。此外，维贝克的赛博格关系和复合关系是否可以用来描述增强智能呢？很显然，赛博格关系是一个较小的范畴，仅仅适合用来描述智能增强现象中的一般关系：“它们不是人类意向性的技术调节性，而是被定位在超人类上。就像借助植入芯片看东西或者在药物影响下体验现实的存在一样，它们都不会是这种存在的意向性。”［20］177更为准确地说，赛博格关系是用来描述赛博格体或者通过技术手段来实现增强的人类意向，也就是前文所论的智能增强的意向关系。在维贝克提出的复合关系中，人与机器构成了一个复合系统：“当技术装置的指向性增加到人类意向性时，复合意向性产生了：这种意向性源自将技术意向性附加到人类意向性的过程中。”［20］144在增强智能问题上，两者的确构成了一个复合系统，或准确地说是更为复杂的共生系统。然而维贝克的复合关系分析在静态意义上是有效的，并未触及共生关系的意向性。在共生关系中，人类的意向性还是显示出明显的自主性和主动性，而机器意向性则是等待被触发的状态。此外，增强关系也是有效的，因为人类智能的确在机器智能的帮助下获得了提升，比如可以帮助人类做出更好的决策。

三、增强智能范畴的道德化

前文对增强智能的哲学化阐述，其目的在于强调增强智能和人工智能以及智能增强区分开来的必要性，并指出人机关系是建立在共生基础之上的，这种共生关系可以通过技术现象学获得解释。接下来需要对智能道德化的观念加以阐述。通过这种阐述，使得增强智能的规范性意义得以显现，并为智能机器确定它应具有的道德地位。

从理论上看，对智能道德化阐述可以借助维贝克的“将技术道德化”观念。维贝克强调了将技术道德化的双重意义：一是阐述了人的道德性是由技术构建的，而不是单独由理性和行动因素所主导。在维贝克看来，人的意向性是由技术共同构建的结果。“意向性并非仅仅是纯粹人类的事物——意向性常常是人—技术组合的事物。”［20］81这也是他对两者关系进行现象学化的结果。在此基础上，他进一步将技术物道德相关性问题概念化。“不仅客体有道德意蕴，而且主体也是被技术调节的；技术有道德属性，伦理在与技术的交互作用中形成。”［20］111二是将技术作为道德相关性实体来理解。“为了公平对待社会、人类生活中技术的复杂作用，需要将技术作为道德相关性实体阐述，而不是仅仅作为具有道德的人类手中的工具。”［20］146这种做法是对技术工具论理解方式的一种抵抗。但是一些学者将其误解为“道德物化”观念，比如将道德物化到技术物之中。这种解读显然遵循了一种现代主义的路径，也是维贝克明确反对的。“因此，设计调节不能看作是现代主义者的事业，其中人类主体将道德铭刻入技术物，影响人类行为。”［20］144其观点的本意是在对抗技术工具论过程中将技术作为道德实体来对待。

维贝克确立起技术的道德能动性和道德相关性实体的做法，也相当于打开了道德物化的潘多拉盒子，给学术界带来了一定的混乱。比如有些学者认为技术会产生强硬的调节作用，因此便提出要以凸显技术的柔性调节作用来做补充。比如地铁入口的排队围栏与火车站自动取票机放置身份证的斜面就是两个不同的设计。排队围栏是用金属管组装而成，乘客只能一个接一个地排队，尽管有序，但是不得不排队，这就是技术物的强硬调节。而取票机的斜面设计则是通过斜面来提醒乘客要按住身份证，否则会掉到地上。这样的斜面设计就是一种柔性调节，以防止遗忘身份证。还有学者认为，强调技术的能动性、实体性会剥夺人的尊严和自由。对于这一点，维贝克做出了很多回应，比如他认为伦理是在与技术的交互中形成的，他还提出技术物的道德相关性和包括技术调节在内的道德能动性（主体）等理论。他并不是要取消人类的能动性、自由和尊严，而是强调技术的调节作用。大多数学者能够理解建构这一表达，这是拉图尔、芬伯格等人的理论观点，它在经验层面上突出了技术的经验建构作用；而维贝克采用调节这一概念，其哲学根基可以追溯到黑格尔，在他的辩证法中，调节有着非常重要的作用，更加强调对立双方的互动作用。因此，在维贝克这里，人的能动性与技术的道德性在不断演化之中。

澄清了维贝克的将技术道德化观念之后，再来讨论增强智能的道德化就变得容易了。按照电气和电子工程师协会的说法，在共生系统中，功能的增强是一个非常明显的事实。它表现为必须要捍卫人的自主性地位，而对机器的自主性地位加以抑制。但是，共生系统中的道德性绝不是如此简单。首先，存在于共生系统中的两个物种是独立的、不同的子系统，它们之间呈现出一种彼此依存的状态。自然界的陆地共生系统多为动物和植物的共生系统；海洋世界也有一些共生系统，珊瑚礁就是一个动植物共生系统，珊瑚礁周围生存着海葵、小丑鱼、巨蛤、海胆、巧克力屑海星。［21］所以，在这样一个共生系统中，并没有一个绝对的主体，不同共生的系统元素构成一个大的生态系统。而把人类—机器这样的系统称为共生系统，则有很多问题。其次，人与机器之间并不存在依存关系。前文提到的六指或者六臂系统，都是用于增强人体功能。这些装置或许也具有智能，但是不存在对人体的依赖，换句话说，这是一种单向度的依赖，是人对技术装置的依赖。如果人类放弃这个限制，那么也意味着增强系统无法存在；对于智能机器来说，它始终是作为独立的智能体存在，其对于人类并不存在依赖关系。对于治疗性的智能系统来说，比如脑机接口装置，人类对它的依赖更是如此。在最近关于渐冻症的报道中，患者可以通过脑机接口装置表达自己的意图，一种非常强烈的患者对智能体的依赖关系建立起来了。这里并不存在具身关系，患者已然丧失了意识表达以及身体行动的能力。最后，共生系统不仅能够使不同物种更好地生存，而且还增强了多样性。在珊瑚礁共生系统中，如果珊瑚礁健康，那么其他的物种能够很好地生存，反过来也保证了珊瑚礁的生存。在这个过程中，生物物种的多样性会增多。［22］在人机系统之中，只是智能机器增强了人类生存的多样性，而机器本身却没有任何可能的多样性。这一情况在各种智能决策系统中皆如此。只要有利于问题的解决，人的决策可以具有多样性；但是机器决策的多样性最终会停止于人类的终极决策之前。所以，自然界中共生系统的道德化结果无法在人—机器这样的系统中加以复现。

将增强智能道德化还有一层含义，即将人类主导—机器辅助的关系作为规范性范畴确立起来。在所有经验领域的增强智能分析中，都强调这样一个基本观念：人类主导而机器辅助。在医疗领域内，医生可以参考人工智能的诊断结果，但是能否最终采纳还必须经过更大范围医生团体的最终决策；在法院系统中，即使有智能审判，最终决策权也需要掌握在法官手中。这样做的伦理原则是守护人类的自主性。所以，电气和电子工程师协会的增强伦理定义将这一点看作与人工智能相区别的地方。而按照维贝克的理论来看，人类自主性属于道德领域的一个原则，而伦理是在与技术的互动中形成的。因此，自主性也是在与技术的互动中形成。技术可以起到提醒、助推作用，特别是可以通过功能设计来实现。比如在自动取票机器上，斜面要比平面更容易防止遗忘身份证。智能技术不需要通过话语来实现，通过话语的方式是人类强制性的表现，而只是通过一种技术的方式表达出来。智能机器的语音提醒在异常嘈杂的环境或者紧急状况下未必能够发挥实际作用。这种声音设计得如何悦耳都无关紧要。而对于技术来说，功能才是根本的。智能技术可以通过功能的设计来实现友情提醒。比如在排队围栏中，设计成S 型或者直线型就会直接影响人们的行为。因此，人类主导而机器辅助的原则并不是一个有效原则，而是传统的人类中心主义原则的体现。所以，增强智能道德化有利于将某种关系规范化，但绝不是人类主导而机器辅助。隐含在其中的是共生关系（自然科学式）、意向—调节关系（后现象学式），被规范化的是两者互相生成，这一点不仅有利于系统多样性，更有利于个体的进化。从根本上来说，这是一种利他主义的原则。从本质上看，它不是基于亲近关系的利他原则，也不是同理心生成的利他原则，而是在共生之中孕育的利他主义原则。需要说明的是，共生系统未必总是孕育出利他主义原则。在共生系统之中，有的物种之间甚至存在彼此伤害的关系。这种情况下，根本不可能生成利他主义原则。而这种情况在共生哲学的观念中是没有地位的。

四、增强智能用于人工智能伦理的可能性探析

通过哲学化分析可以看出，增强智能凸显的是人与智能机器的关系，应该将之放置于更大范围的人—技术的关系之中。增强智能的意向性和关系可以在调节关系之中加以分析；通过道德化分析，可以看出，目前特定领域的增强智能是建立在人类主导而机器辅助这样一种道德关系之上。这还是人类中心的立场，与人类—智能机器的真正关系还离得很远。从共生的范畴看，共生不仅是自然世界中的一种重要关系，而且也是技术世界中的关系范畴。日本学者的做法让我们看到了存在于建筑界的共生理念，他们甚至将之当作日本文化的一个特质，“共生概念的根源可以在佛教哲学和传统日本文化之中找到”，［16］7它不同于中国文化的和谐观念。如果将共生作为增强智能的哲学基础，那么会对人工智能伦理有着怎样的帮助呢？这将最后一个问题提上日程，即如何将增强智能作为人工智能伦理的可能性基础范畴描述出来。

在人工智能治理上存在着技术路径与人文路径的差异。技术路径是从技术出发去探讨伦理问题及其治理的，比如符合伦理原则的人工智能设计。在这一路径中，信任成为重要的伦理原则，所以，可信人工智能等技术解决方案得以出现。从技术难题入手探讨人工智能伦理问题会重新回到人工智能发展给人类社会带来的哲学、社会和技术三个方面的基本难题。因此，讨论人工智能伦理从根本上来说还是要从应对人工智能发展面临的难题入手。人文路径从人文原则出发提出人工智能伦理问题及其治理。目前对人工智能伦理的思考多是从人类的权利和原则出发来构建伦理框架，如信任、安全、自主和尊严。而增强智能这样的范畴具有开放性：一方面，它来自技术领域，它是工程领域中的一个方向，以共生系统为基础，因此，其自身及根基都属于技术领域；另一方面，它又包含明确的人文维度，即人类与机器的共生状态。

从上文分析可以看出，增强智能具有两个层面的意义：一是表层的辅助关系，在这个框架之中，人类决策处于最终决策的位置，这种最终决策权使得系统变得可控。但是这个原则只是规范性的，这也是人类中心立场的一个必然结果，人类通过规范化的方式让智能机器处于辅助地位。这意味着在整个系统设计时继续贯穿现代主义的原则，将某些先验原则嵌入到机器之中。二是深层的共生关系。在这个框架之中，人类与智能机器保持着共生关系，可能相爱，也可能相杀。这里的关系不可能像人类中心立场所主张的，机器始终处于附属地位。对于人工智能而言，其进化是不可避免的，奇点的出现不仅在进化论意义上是可以实现的，同时在时间哲学上也有其根据：“时刻”（Kairos，moment）的时间观念成为奇点来临的前提。借助弗洛里迪的信息圈来看这个共生系统，可能更加容易理解。人们贡献着信息，同时又享有信息带来的便利，从而实现了两者的共生。在人类—机器的共生系统之中，人类是一个独立的物种，智能机器也是一个独立的物种，分别依赖于硅基生物与碳基生物的不同发展。在技术演化当中，人类自身的行为促使两者相互结合：从生物体角度来说，人类大脑神经元将近1000 亿，比果蝇的要丰富得多。而现在科学家可以在果蝇的大脑神经网络上跑算法，效率大大提高。［23］从这一技术出发辅以一点想象力，自然会出现这样一幅图景：利用人类大脑跑算法，具有必然的效率。在这个思想实验之中，一个复杂的问题出现了：当特定的算法进入人类大脑运行时，本体的意识被暂停，此时一个特定的哲学僵尸出现了。当问题解决，算法离开人类大脑，本体意识又恢复原状。

因此，如果把增强智能作为人工智能治理原则，那么就不应该采取表层的辅助关系含义。这种关系始终捍卫着人类最终的决策地位。这相当于让智能机器缺乏自主性，而始终拥戴人的自主性地位。将增强智能作为人工智能的伦理原则时，则与人类独立性无关。在这个系统中，智能机器保持着独立地位，算法独立运行。坚持这种辅助关系会延续传统技术逻辑。在传统技术逻辑之中，人类自身有一种傲慢情结，试图掌控一切。就如《虫族》（Swarm）的情节，自认为是高级物种的人类想掌控虫族，使之繁殖并利用它们，最后遭到反噬，“智慧不是有利生存的特质”这句台词则暗示了人类掌控世界的后果。人类运用智能的结果就是使得神之笑成为可能，使得虫族反噬自己。《三个机器人：退出策略》（Three Robots:Exit Strategies）从机器人的视角展开了后世界末日人类生存状况（post-apocalyptic humanity）的调查，为了解机器文化以及未来生存提供帮助。人类刻薄地对待机器人，最后遭到机器人的反抗。这也是传统技术逻辑的一种展现，人类利他主义行为的产生是建立在亲缘关系之上的。他们无法与作为工具的机器之间建立起一种亲缘关系，所以也谈不上利他行为的出现。悬置这两部作品的科幻维度，我们把其中人—机器、人—虫族的关系展现出来，这两个层次的内涵彰显了一种独特的道德关系：人类智能与机器智能和其他物种之间的关系，人工智能试图控制智能机器、虫族而最终被反杀。这一逻辑显然有其不足之处。因为担心遭到反杀，所以采取了不被控制的共生关系。

在共生的哲学解释之中，必须悬置所有的未来想象因素。我们可以保留的是其对抗传统技术逻辑的规定性，并且把智能机器理解为按照动物进化法则进化的能动体。［24］这一点是人工智能科学研究给予我们的结论。20多年前，尼葛洛庞帝在互联网的迹象中看到了数字化生存的未来图景，如今一切都在缓慢实现中。而今天出现了按照动物进化法则自主进化的智能体，人们能够利用果蝇大脑神经网络跑算法。那么未来生存是怎样的图景呢？适当的技术想象可以帮助我们揭示出一个场景，即与智能体的共生状态。当然，从维贝克的后现象学来看，这种观念还是显得有些过度想象。我们与智能体之间的增强关系显然需要一种新的解释，而澄清这一点才能够为未来人机关系的建立确定伦理基础。

至少在未来人类—智能机器关系的过程中，防止人类傲慢的滋生和机器恐惧的出现才是治理过程中最需要关注的问题。正如前文所述：共生无法防止傲慢的滋生蔓延，这种傲慢是形而上的产物。另一种做法是求助于谦虚与仁爱的美德，因为我们的确承认美德伦理具有的独特地位。然而，尽管谦逊是一种美德，但是在傲慢面前它难以承担对抗的使命。唯有记忆才有此可能性。此外，恐惧是人类自主意识诞生的条件，［25］如此推演下去，机器恐惧也是机器自主意识诞生的条件。目前，情感计算为人工智能情感提供了一种算法上的可能。仅仅从路径上看，似乎并没有什么可担忧之处，而且也能够为护理、陪护机器人提供理论根据。但是若从情感构成来看，真正的问题却被现有的情感观念掩盖起来。在爱、亲切、温柔等词汇后面还隐藏着怨恨、冷漠、粗暴等情感状态。再回看《三个机器人：退出策略》中的人类的刻薄导致了机器的反抗这一问题，这只是指出了其中的一面，而真正的关键是机器的恐惧导致了机器的反抗。

五、结语

在人工智能领域中，存在着一个悖论：一方面奇点呼声明显增高，很多学者指出了奇点到来的不可避免性。库茨韦尔就指出，在2045 年，计算机智能将超越人类，英国学者博斯特罗姆指出了超级智能出现的可能性风险和问题。［26］另一方面，面对超级人工智能，学界却有诸多的批判，甚至有观点认为其不可能出现。“在本质上，包含全体是不可能的，因为这是计算理论内在的基本缺陷。假设一个超级智能包括这样一个程序：它包含了所有能够被普遍运行的图灵机器的程序，其输入状态与世界状态一样复杂，需要严格包含这样程序的模拟，即对一些理论（实践上）不可能之物的模拟。”［27］这个悖论的背后实际上是人们对超级智能的一种担忧。

从表面来看，增强智能规范化的结果就是要在人与机器之间建立起人类主导—机器辅助的关系。这种做法略显短见，从根本上无法摆脱主仆关系的约束。在这种关系，主人始终是主导地位，仆人始终是服务于主人的。此外，在人类与智能机器之间建立辅助关系始终还是以人类为中心的，是一种现代主义的逻辑，试图把机器控制在人类自己的手中。从深层次来看，共生关系值得关注。在自然界、工程科学领域等共生系统中的增强智能规范化之后，会有一种新的共生关系显现出来。当然，在这种关联之中，可能会出现生物学意义上的反噬现象。我们原有的生物结构并无法接受智能技术带给我们的改变。这意味着在这种关系之中，共生除了互相促进之外，还有一种削弱的作用需要受到关注。如对于智能技术的依赖性会越来越强，从而导致原有生理功能的退化。