智能时代的新型人机关系及其构建

孙伟平

(上海大学 智能哲学与文化研究院, 上海 200444)

人工智能是一种革命性、颠覆性的高新科学技术,被有些学者称为人类“最后的发明”。通过智能技术、纳米技术与生物技术的结合,不仅“人”本身可以被“编辑”和“改造”,而且正在加速创造人形智能机器人,具有自主意识、创造能力、类人情感、社会交往属性的智能机器人已经初露端倪。智能机器人的拟人化和自主性发展正在颠覆传统的认知,令我们关于“人”“机”的定义、关于人机关系的设定以及关于未来人机文明的看法,都面临大量需要批判性反思的哲学难题。我们必须在技术变革过程中重新认识“人”和智能机器人,与时俱进地反思和构建新型的人机关系。

一、传统的以人为中心的人机关系受到革命性冲击

传统观念认为,机器是人们制造的生产、生活中的使用工具。它可以进行能量变换、信息处理以及产生有用功;它延伸、拓展人的身体器官功能,帮助或代替人承担各种劳动任务。机器的类型非常之多,至少包括发电机、电动机、内燃机之类的动力机器,汽车、火车、飞机、轮船之类的运输机器,纺织机、普通机床、数控机床、工业机器人之类的加工机器,以及相机、电话机、传真机、计算机、手机之类的信息机器。而且,机器仍然在不断地创新性发展,还将有无数的、或许还是令人瞠目的机器正在或将要被创造出来。

自有文明史以来,人与机器之间的关系一直是确定的,即机器是人的发明与创造,人是一切人机关系的主导者;一切机器(包括各种工具、机器、自动化系统)只有掌握在人的手中,才能在生产和生活中发挥作用。例如,爱因斯坦指出,科学技术“是一种强有力的工具。怎样用它,究竟是给人带来幸福还是带来灾难,全取决于人自己,而不取决于工具。刀子在人类生活上是有用的,但它也能用来杀人”(1)《爱因斯坦文集》第3卷,许良英等编译,北京:商务印书馆,1979年,第56页。。技术中性论代表人物梅塞勒指出:“技术为人类的选择与行动创造了新的可能性,但也使得对这些可能性的处置处于一种不确立的状态。技术产生什么影响、服务于什么目的,这些都不是技术本身所固有的,而取决于人用技术来做什么。”(2)Emmanul G.Mesthene,Technological Change:Its Impact on Man and Society,New York:New American Library,1970,p.60.

马克思、恩格斯以及受他们影响的西方马克思主义者特别重视科学技术、大机器生产的社会改造力量。马克思、恩格斯比较系统、深入地剖析了工业时代机器的资本主义运用及其经济和社会后果。一方面,机器延展了人类器官的功能,提升了人类实践活动的能力和效率,促进了社会生产、生活的发展;另一方面,资本主义体制推进了机器技术与社会权力的同构化,加深了对工人的异化,造成了人机关系的分离和对立。马克思、恩格斯深刻地揭示了资本主义社会人机关系对立的根源在于“机器资本化”或“资本化机器”的广泛应用。“由于推广机器和分工,无产者的劳动已经失去了任何独立的性质,因而对工人也失去了任何吸引力。工人变成了机器的单纯的附属品,要求他做的只是极其简单、极其单调和极容易学会的操作”(3)《马克思恩格斯选集》第1卷,北京:人民出版社,2012年,第407页。。但资本只不过是资本家的化身,资本对机器的资本主义运用并没有改变机器作为特定的人的工具这一基本观念。

“然而,如今我们与技术之间的关系正在反转:哲学家、学者赫伯特·马歇尔·麦克卢恩认为,人类制造的工具正在开始改造人类,甚至创造人类”(4)戈尔德·莱昂哈德:《人机冲突:人类与智能世界如何共处》,张尧然、高艳梅译,北京:机械工业出版社,2019年,第29页。。迈入信息、智能时代,人工智能之类的革命性、颠覆性新技术令人类如虎添翼,生存、活动空间正在虚实结合地广泛拓展,劳动或工作的能力、效率得到全方位提升,人类正据此对客观世界和主观世界进行全方位的改造和塑造。面对以智能机器人为代表的新生力量,人类当然不情愿束手就擒,放弃长期进化史中获得的主导地位,而是希望智能机器人成为类似工业时代的机械性机器一样驯服的新工具,拓展、延长人类的各种功能性器官,帮助或者代替人类完成各种任务、实现各种目标。不过,这一次事情似乎并不那么简单。即使是在人工智能、社会智能化发展的初期,我们就发现事情并未按照既有的逻辑发展:人类打开的似乎是一个神秘性和能量超乎想象的“潘多拉魔盒”,正在释放出一种人类未能逆料且难以驾驭的异己力量。

人工智能是一种与以往技术不同的、开放性的高新科学技术。它加工处理的“原料”除了人们熟知的物质,主要是以往时代由人脑处理的信息和知识,因而它发展的方向、方式与以往作为工具的机器都不尽相同,今后可能造成的革命性后果也难以按照以往的模式、方法进行理解和预测。今天,在汹涌澎湃的信息化、智能化浪潮中,包括智能机器人在内的智能科技正以指数级速度狂飙突进,应用的场景越来越广阔,传统的以人为中心的人机关系正遭受革命性、颠覆性的冲击,特别是人类千百年来一直稳如泰山的主导地位正变得岌岌可危。具体而言,这种冲击可以概括为以下几个方面:

第一,包括人形智能机器人在内的智能机器人正以指数级的速度快速发展,逐渐获得“像人一样思考和行动”的特质。借助当代高新科技技术,人形智能机器人可以被设计、制造得越来越像人,甚至比现实中形形色色的人更加合乎“标准”;如果有必要,还可以突破自然人的各种局限,打造具有高科技色彩的“理想的人”。例如,一个以算法为基础的“数字人”、“虚拟人”可以不必拥有有机的身体,不必占据物理空间,也不必消耗什么物质资源,只是在虚拟时空存在,却也可以拥有超强的记忆、敏锐的思想和丰富的情感,可以承担和完成一定的工作任务……玛蒂娜·罗斯布拉特指出:“一旦被创造出的有意识的思维克隆人——即智能的、有情感的、活的虚拟人,成为一个普遍的人类追求,我们将面对很多新的个人问题和社会问题,因为它从根本上扩展了‘我’的定义。”(5)玛蒂娜·罗斯布拉特:《虚拟人——人类新物种》,郭雪译,杭州:浙江人民出版社,2016年,第3页。在这种情况下,“人”似乎正在被新的技术重新定义;“人是什么”或人的本质面临前所未有的挑战。

第二,基于大数据、深度学习之类技术的突破性进展,智能机器人逐渐拥有以往专属于人的一些本质特征,例如人一直引以为骄傲的思维或智能。这是智能机器人区别于、同时高于以往一切机器(包括自动化系统或工业机器人)的基础性表现。如果智能机器人确实会思维或者具有智能,并且其水平通过或接近通过“图灵测试”,那么就不仅可能令人类的精神生产和文化活动发生翻天覆地的变化,而且可能令人的本质特性和唯一主体地位受到直接的挑战:“认为机器可以和人类媲美甚至超过人类智慧的想法似乎再一次挑战了人类地位。”(6)Ray Kurzweil:《奇点临近》,李庆诚等译,北京:机械工业出版社,2011年,第260页。同时,智能机器人所拥有的意识(包括对象意识和一定程度的自我意识)水平日益提高,导致它们可能逐步“觉醒”,像自然人一样要求一定意义上的主体地位和主体权利。

第三,智能机器人思考和行为的自主性日益增强,并且或独立或与他者(人或其他机器)融合、自主地承担一定的工作任务,导致人机之间在工作、生活领域的机会竞争和角色竞争。这里不仅包括智能机器人承担生产、生活乃至休闲娱乐中的任务,而且包括人机生存环境的构建以及人机治理之类任务;不仅包括智能机器人大量渗入生产、生活乃至休闲娱乐领域,成为人类生产的“同事”、生活的“伙伴”和娱乐的“玩伴”,而且它还可以冷静地“观察”、“分析”人与其他机器,进行自我学习、自我提升,并帮助人类进行提升。这不仅会导致马克思所批判的“机器排斥人”,造成越来越严峻的“技术性失业”,越来越多的人沦为“无用阶层”,被全球化的经济和社会体系排斥在外,而且会使人类在长期劳动过程中积累起来的工作技能、物种优越感受到强烈冲击,人类的主宰地位和在人机关系中的主导作用也将受到直接威胁。

第四,各种智能系统成为社会基础设施的重要组成部分,社会正因此被快速地进行信息化、智能化塑造。基于社会信息化、智能化的基础设施,智能机器人正在将人“拉入”一种物理空间与虚拟空间相融合的生存境遇之中,一定的智能系统或智能机器人正在“接管”各种各样的评价、决策和管理工作,正在与人类争夺评价权、决策权和管理权。例如,一定的智能系统可能长期搜集、存储、分析各种大数据,监控人们的观念变化和思想动向,变得“比人们自己更了解自己”;可能对人们的心理和行为倾向主动进行分析、预测,对有些人可能的违规、违法行为进行预判,甚至提前进行干预和惩处,等等。例如,依据某个人具有暴力倾向的偏激性格、认为凡犯错的人都应该死之类的激进观念、曾经行凶杀人之类的犯罪前科以及新近的动向(例如购买了枪支或管制刀具),对其思想和行为的倾向性进行预判、干预甚至提前限制可能实施犯罪行为的人的自由。如果这样,则可能导致人类让渡给智能机器人的权力越来越多、越来越大,然而智能机器人能否合理合法地运用这些权力,却并不是那么确定。

第五,随着人机之间的交往、协作、互动日益增多,人机之间难免出现越来越多的矛盾和冲突。例如,人机之间的结构、利益和需求可能存在巨大差异,价值观念、思维方式和语言表达可能难以沟通,存在和活动的目的可能不尽相同,行为方式和实践逻辑也可能不尽一致,这一切都可能导致矛盾和冲突的产生。至于这些矛盾和冲突将在什么层面、以何种形式出现,又可能造成什么样的政治、经济和社会后果,以及将会通过什么样的方式、程序加以解决,一切都充满了巨大的风险和不确定性。在这个充斥着风险与不确定性的智能时代,人类并不能像农业时代运用手工工具、工业时代运用机械性工具那样,高高在上地“命令”、“使唤”具有自主活动能力的智能机器人。

第六,人机之间的矛盾和冲突,最关键、也最引人注目的可能是未来的主导权和统治权(治理权)的争夺。随着算力的提升和大数据、机器学习之类技术的快速发展,智能机器人的智能、自主行动力、行动效率都可能以指数级增长。这对进化缓慢的人类而言是一个巨大的挑战,即人类必须通过自我革命才能解决的挑战。如果人类盲目自信、傲慢自大、固步自封,不想方设法跟上人工智能的进化速度,不与人工智能实现深度融合,就难免被今后可能出现的超级智能远远地抛在后面。在新型人机关系的构建中,人类不仅可能丧失传统的主导地位和优越感,甚至可能丧失平等“对话”、携手合作、和谐共生的资本和资格。

此外,在社会信息化、智能化进程中,不仅人机关系受到革命性、颠覆性冲击,而且既有的人际关系也会受到全面、深刻的影响。一方面,人际交往越来越离不开信息、智能基础设施、技术和设备,离不开像微信、抖音、脸书、推特之类的社交平台和ChatGPT之类的大型语言模型,另一方面,包括智能机器人在内的各种智能系统已经走进人们的交往实践活动领域,正在影响、塑造、替代甚至排挤既有的人际交往关系。例如,随着包括智能机器人在内的各种智能系统大量进入人们的生产、生活以及休闲娱乐领域,承担越来越多的岗位职责和劳动任务,有些人可能觉得传统的自然人的感知能力、知识储备、劳动技能、劳动态度甚至道德水平都不如智能机器人,越来越倾向于信任智能机器人。他们可能更乐于咨询像ChatGPT之类“知识渊博”、“见多识广”的聊天机器人,参考它们给予的意见和建议,甚至直接让它们帮助自己进行评价、决策;他们可能更愿意与各种专业的智能机器人一起工作,觉得智能机器人更可靠、更踏实;更喜欢与智能机器人一起嬉戏、娱乐,觉得智能机器人更厉害、更诚信。有些人甚至可能觉得现实生活中的人太自私、太虚伪,或者太愚蠢、太顽固,热衷于夸夸其谈、尔虞我诈、巧取豪夺,而越来越倾向于与比较“单纯”、“忠诚”、“实干”的智能机器人交朋友。人与智能机器人之间谈情说爱,组建冲击传统观念的新式家庭,甚至以某种方式共同抚育后代,这类时髦的话题也越来越频繁地出现……预测中长期发展的态势,人机之间的交往、互动可能会越来越普遍,甚至远远超过人际之间的交往、互动频率。

二、智能时代多种可能的人机关系之考量

在社会信息化、智能化背景下,人机之间可能、或者应该建立什么样的关系?持不同立场、观点的学者们对此见仁见智、众说纷纭。如果不考虑思考者的立场、社会意识形态(例如资本和“资本的逻辑”)等因素,删繁就简地梳理一下,人机之间可能建立的关系是多元且复杂的。

(一)人类的“新工具”或“新奴仆”

有些人沿袭传统工具论的思路,坚定地认为智能机器人不可能会思维、有智能,或者智能机器人的思维、智能不可能超过人类。在他们看来,智能机器人只是人类的发明、创造,它们只是人类的工具或帮手,或者按照人类设定的程序默默地协助人开展工作,或者自主完成人们交办的各种劳动任务。即使近些年来,智能机器人在思维和智能方面已经取得巨大进步,能够在一定程度上自主地进行思考和行动,他们仍然坚持认为,智能机器人只是按照人类编写的程序行事,按照人类的基本价值观进行评价、决策,完成人类交办的工作任务,实现管理、服务之类工作目标。

在这种关系中,人显然是唯一的、占据主导地位的主体,智能机器人则一直居于非主体性质的从属地位。这种关系能否成立取决于两个方面:一是人类自身的发展、进化是否足够快速、足够健康,是否有能力掌控智能机器这种革命性的新工具;二是智能机器人的发展不会“超速”,更不会因“觉醒”而失控,而始终处在人类理性的掌控之中。“机器人可能会意识到自己的价值远远超过作为人类工具的价值。一旦意识到它们的奴隶地位,并认为被这样对待是不公平的,它们就可能会发动起义,进行反抗。因此人类要维持这一关系中的主人地位需要机器人毫无怨言地接受人类的主导地位”(7)约瑟夫·巴-科恩、大卫·汉森:《机器人革命:即将到来的机器人时代》,潘俊译,北京:机械工业出版社,2015年,第226页。。

(二)对人类友善、驯服的“AI神”

虽然通用人工智能的研究刚刚起步,虽然超级智能还处在想象阶段,但人工智能确实正在许多领域——包括人类引以为傲的思维、智能等领域——超过人类。人们希望,包括超级智能在内的智能机器人将会自我约束,德行无亏,成为(1)人类的“被奴役的神”:虽然智能机器人的智能和技能可能超过人类,却始终自觉地以人类为尊,听从人类的命令,任劳任怨地为人类工作和服务;(2)人类的“守护神”:智能机器人以其强大的感知、运算能力采集、加工各种信息,对来自包括外太空、虚拟时空在内的各种各样的风险向人类示警,并且与人类协同或者自主地采取应对措施,保卫人类的安全、生存和发展;(3)统治人类的“AI神”:松本徹三对人类的历史表现比较失望,甚至认为“AI神”的统治更有优势,更值得期待——“请胸怀善意,由持有坚定‘信念’而绝对不会动摇的AI作为‘唯一的神’来支配这个世界”,“是‘人类自己的英明决断’,是为了让‘人类能够出于天性、本性地快乐生活’这个目的”(8)松本徹三:《AI成“神”之日:人工智能的终极演变》,张林峰译,北京:清华大学出版社,2019年,第136、193页。。

在这种关系中,人类承认智能机器人的“半主体”或“部分主体”地位,建立的是一种以人为主、以更为强大的智能机器人为仆的非稳态关系。这种关系能否成立的关键,在于日益强大的智能机器人的“意愿”和“态度”,即智能机器人是否心甘情愿地自我约束,甘居从属地位,服从人类的命令,温驯地接受人类的一以贯之的人性化统治。

(三)人类的伙伴或朋友

如果智能机器人能够向着拟人化方向发展,内嵌人类的常识和基本价值观,那么它不仅可以与人类协同进行生产、提供服务,还可以渗透到人们的社会生活和休闲娱乐领域,从事诸如答疑解惑、聊天解闷、电子竞技、电子游戏、VR体验之类的事情。如果人形智能机器人的开发不断取得进展,或许将会有越来越多的人对它产生心理上、精神上的依赖,与它成为亲密无间的朋友;有的人甚至可能情难自禁地与智能机器人谈情说爱,步入婚姻殿堂,组成新颖、时髦的人机家庭。

在这种关系中,人类“谦逊”地承认了智能机器人责权利相统一的主体地位,人与智能机器人的关系是一种地位平等、相互尊重、互相协作、共存共荣的主体间关系。这种关系能否成立的关键,一方面在于智能机器人的基本价值观、情感模式和行为模式是否与人类相容,智能机器人的拟人化思维能否取得突破,人机之间的沟通水平能否逼近或通过“图灵测试”;另一方面在于人类能否加快自身身体和心灵的进化,与智能机器人共同进步,同频共振地自我提升。

(四)人类的竞争对手甚至敌人

作为世界上出现的有智能的“新物种”,智能机器人的应用日益普遍。在日益信息化、智能化的世界上,它们可能成为人类无处不在的竞争对手,与人类争抢劳动机会和工作岗位,在不同领域争夺管理权限,甚至与人类或者其他的机器争夺生存空间。如果它们的自主发展失控,“超级智能”可能发展成为威胁人类前途和命运的征服者、统治者。2023年火爆全球的GPT4,令人们正在一定程度上直观地感受、体验着这种威胁。詹姆斯·巴拉特忧心忡忡地指出:“随着它们获得宇宙间最不可预测、我们自己都无法达到的高级力量,它们会做出意想不到的行为,而且这些行为很可能无法与我们的生存兼容。”(9)詹姆斯·巴拉特:《我们最后的发明:人工智能与人类时代的终结》,闾佳译,北京:电子工业出版社,2016年,第XII页。尼克·波斯特洛姆提出可能出现“超级智能”,令人类面临前所未有的“整体存在性风险”,“如果有一天我们发明了超越人类大脑一般智能的机器大脑,那么这种超级智能将会非常强大。并且,正如现在大猩猩的命运更多地取决于人类而不是它们自身一样,人类的命运将取决于超级智能机器”(10)尼克·波斯特洛姆:《超级智能:路线图、危险性与应对策略》,张体伟、张玉青译,北京:中信出版集团,2015年,第XXV页。。

在这种关系中,智能机器人不断以其自主的思维和行为争取主体地位,甚至试图以其强大的技术优势争夺领导权,建立“机主人仆”的社会秩序。这种关系能否成立的关键,在于人类自我提升、进化的速度是否确实大大落后于智能机器人,从而令人机竞争、人机博弈的局势逐步走向失控。

(五)人类的继承者或者“后裔”

正如凯文·渥维克指出的,“机器在变得越来越出色,而人类的进步如果确实有的话,也缓慢之极”(11)凯文·渥维克:《机器的征途:为什么机器人将统治世界》,李碧等译,呼和浩特:内蒙古人民出版社,1998年,第290页。。如果人类自我提升、进化的速度大大落后于智能机器人,甚至与智能机器人相比出现了明显的“代际差异”,那么就难免被飞速发展的智能时代所抛弃,或者无法融入“智能化的世界秩序”,从而或主动或被动地“走进历史”。迈克斯·泰格马克畅想说:“人工智能虽然取代了人类,但其允许我们从容优雅地退出历史舞台,让我们把它们视为值得称道的后裔,就像父母为子女比自己聪明而感到高兴和骄傲一样,虽然子女向父母学习了很多,但它们取得了父母做梦都想不到的成就,即便父母活不到亲眼目睹的那一天。”(12)迈克斯·泰格马克:《生命3.0》,汪婕舒译,杭州:浙江教育出版社,2018年,第219页。谷歌首席未来学家雷·库兹韦尔也曾经预测,人工智能未来完全可能“大大超越人类的智能”,成为汉斯·莫拉维茨所谓的人类“进化的继承人”和“思想的继承者”(13)Ray Kurzweil:《奇点临近》,第11页。。

在这种关系中,智能机器人以人类“继承者”的身份自觉或非自觉地登上历史舞台,成为虚实结合的宇宙中的新一代主宰;人类则在残酷无情的生存竞争中败下阵来,沦为生物进化历程中的一个阶段性的辉煌。——当然,(四)与(五)两种关系失控的后果,一直是人类中的有识之士们用心提防,并且竭力阻止发生的。

(六)人机融合的新型智能生命

这是对人与智能机器人未来进化的一种大胆的、全新的、当然还十分粗糙的设想。它摒弃了人与智能机器人之间的二元对立观念:“随着人机结合体越来越多地出现,今天我们对人和机器这种过于简单的二元区分将不再适用。”(14)约翰·乔丹:《机器人与人》,刘宇驰译,北京:中国人民大学出版社,2018年,第158页。它还摒弃了人与智能机器人之间的“零和博弈”思维,倡导人与智能机器人之间来“一场达尔文式的协同进化”(15)爱德华·阿什福德·李:《协同进化:人类与机器融合的未来》,李杨译,北京:中信出版社,2022年,第335页。,实现更高层次上的“内共生”或人机一体化。例如,自然人可以运用包括植入纳米机器人之类的生命增强技术增强身体和心理机能,减少疾病,延长寿命,甚至摆脱脆弱的生物体形式;人可以基于脑机接口技术、互联网、物联网等与智能机器实现互联互通,可以将意识上传至机器,可以与各种智能机器实现即时互动;智能机器人与人可以根据特定的需要和任务,发挥各自的特点和优势,以不尽相同的方式逐步融合为一,构成一种新颖别致的“人机混合体”。雷·库兹韦尔等人曾经设想过这种关系,但其比较系统的构想是由超人类主义运动所提供的。超人类主义“是一场解放运动,倡导人类从生物体形式中完全解放出来”,但“在现实中,这种解放最终带来的结果将是人类遭到技术的全面奴役”(16)马克·奥康奈尔:《最后一个人类》,郭雪译,杭州:浙江人民出版社,2019年,“引言”,第X页。。

这种关系激活、融合了近代“人是机器”与智能时代“机器是人”的激进理念,彻底打破了人与机器之间冰冷的分离与尖锐的对立状况,人机联系、沟通、协作、互动实现了最高级、也最高效的形式——“人机一体化”。当然,有些人可能难以理解、接受这种颠覆性的人机关系构想,更多的人的态度则可能是不以为然,觉得这不过是痴人说梦、天方夜谭。

围绕以上所概括的六种人机关系,以及这里尚未论及的各种可能的新关系,一直众说纷纭,聚讼不断。由于智能技术和智能机器人正以指数级速度发展,其发展的方向、程度和限度存在着多方面的可能性,因而可以预测,短期内人们就人机关系达到基本共识的希望十分渺茫;至于说得到不断进化、越来越强大的智能机器人的“首肯”和“认同”,更可以说完全只是一个想象中的时髦话题。但是,因为事已至此,并且事关重大,我们绝不能坐等结果、听之任之。我们不得不在发展态势尚不明朗、相关讨论尚未取得共识之前,就面对既具有感知、思维、表达等“智能”,又具有日益强大行动能力的智能机器人,努力尝试构建一种既合理、又可行的新型人机关系和人机文明。

三、创造性构建新型的合理的人机关系

剖析以上几种可能的关系,我们不难发现,人类在人机关系中曾经根深蒂固的主体地位、主导作用都面临着革命性冲击。而这种颠覆性后果是自诩“万物之灵”的人类难以坦然接受和认同的。人类能否牢牢掌握主动权的关键日益聚焦到以下息息相关的两个问题之上:一是越来越强大的智能机器人能否遵循人类的目的和意愿,向着对人类友善、负责任的方向发展,能否永远不脱离人类的掌握而走向“失控”;二是人类能否未雨绸缪,加快自我提升和进化,或者说跟上智能机器人发展、进化的速度,以便有资质和能力与智能机器人进行沟通、协作,共建、共享一种更高阶的人机关系和人机文明。

明确了问题的关键之所在,重构合理的、可持续的新型人机关系,或许需要做的便是“对症下药”,因应施策。因此,为了不丧失人类的尊严和主导地位,防止局面发展到不可收拾的地步,我们必须搁置现存的各种争议,拓展观念与思路,重点围绕“发展”、“建构”,做好新型人机关系这篇大文章。

首先,科技活动是人类的一种本质性活动,技术的研发、应用活动体现且塑造着人的本质。作为智能技术的发明者和创造者,人类不能放弃对智能技术、智能机器人的必要规制,而必须立足技术发展的可能性,基于人类的基本立场、价值原则和“底线伦理”,促使智能机器人成为可以通过“道德图灵测试”的“道德机器”(17)温德尔·瓦拉赫、科林·艾伦:《道德机器:如何让机器人明辨是非》,王小红主译,北京:北京大学出版社,2017年,第60-62页。。

“如果人形机器人变得更加能干并且具备了只有人类才有的认知能力的意识,那么现实的问题就是,它们是否仍会‘效忠’我们”(18)约瑟夫·巴-科恩、大卫·汉森:《机器人革命:即将到来的机器人时代》,第213页。。越来越多的有识之士已经意识到风险的来临,要求趁人工智能的发展尚未失控就采取果断的行动,具有前瞻性地确立人工智能发展的价值原则,使智能机器人的研发、应用有规可循、有法可依。从人机关系的角度说,这里的关键在于始终坚持“人是目的”的立场,确立以人为中心的“人本原则”,即在智能机器人的算法中内嵌人类的基本价值观和“底线伦理”,要求智能机器人理性、友善、富有德性地对待人类、为人类服务(19)Noel Sharkey,“The Ethical Frontiers of Robotics”,Science,Vol.322,No.5909,2008.,成为可以通过“道德图灵测试”的负责任的“道德机器”。智能机器人在任何情况下都必须确保不故意伤害人类,不损害人类的人格和尊严,不滥用人类让渡的权力,并且在能够救人于危难时尽力作为。而为了践行“人是目的”或“人本原则”,一是必须坚持透明和可解释原则,保证智能机器人的研发和应用处于可解释、可理解、可预测状态,随时接受相应机构、新闻媒介和社会公众的监督和质询;二是必须坚持责任原则,明确相关各方的权利、责任和义务,建立健全技术、经济、伦理和法律方面的追责、问责机制,警觉地预测并预防重大风险以及可能的灾难性后果。

鉴于现实世界的丰富性和复杂性,具体的操作层面必须具体问题具体分析,尝试建立、完善一套有效的社会实践机制,将人工智能纳入以人为中心的正常、有序的发展轨道。第一,成立各种层级的包括科学家、工程师、伦理学家、法学家、政治家在内的多领域专家组成的伦理委员会,对人工智能的发展规划、前沿技术的研发和应用进行评估、监管和规制。伦理委员会对新技术(特别是高风险的前沿性技术)的研发和应用具有延迟表决权和否决权。第二,强化不同地域、不同层级的协同与合作,订立具有约束力的区域或全球契约,禁止研发、生产、贸易和使用致命性的智能武器,合作打击跨时空的智能犯罪和“智能恐怖主义”。第三,做好社会顶层设计,建立和完善人工智能研发、应用的社会机制,确保人工智能能够被公平公正地使用,防止资本所有者和技术精英相互勾结,通过封锁和垄断智能技术牟取暴利,通过滥用大数据和算法技术搜集和分析他人数据,侵害他人隐私,从而监控、盘剥、掠夺和奴役“数字穷人”,等等。

其次,置身新颖别致的智能化世界,面对日新月异的智能机器人,无论是人类的身体机能还是思维水平,无论是人类的社会表现还是道德修养,都存在“提升”和“进化”的强烈需要。人类必须对自己进行一次彻底的批判性自省,深刻认识人自身的局限、不完美和社会组织架构的不完善,善于运用生物技术、智能技术“武装”人、塑造人,加快人类自身的成长和“进化”过程,打造适应智能时代的特质和要求的“时代新人”。

近些年来,相比智能科技和智能机器人的指数级发展速度,人类自身的成长和进化实在是太缓慢了。我们反躬自省不难发现,人类代际之间的进步常常可以忽略不计。如果人类被智能机器人追上并被其持续拉大距离,直至完全不处于同一个层级,就不得不需要智能机器人宽容、友善、怜悯地给予人类平等地位,这将会是一种极其危险、极不确定、极不可靠的关系。“如果‘仅仅作为人’还不够好,如果作为人还太笨拙,为什么不用技术来加强、来改善你自己呢?为什么不让技术成为你的‘第一天性’,拉平我们与机器之间的差距呢?”(20)戈尔德·莱昂哈德:《人机冲突:人类与智能世界如何共处》,第122页。毕竟,“从来就没有救世主”,能够拯救人类的永远只有人类自己。只有善于运用先进的生物和智能技术、设备,让人类的身体、思维和智能通过提升、进化而不断增强,才能减少疾病、强化功能、增强活力、延缓衰老、延长寿命,才有资格和资本掌握人机关系建构的主动权和话语权,才有能力和工具探索人与智能机器人共存的恰当方式。

同时,从历史与现实来看,人性善恶并存,社会结构不尽合理,人类自身的价值与道德表现一直广受诟病,社会治理更是显得一团糟,充斥着尔虞我诈、巧取豪夺、以强凌弱、甚至血腥的侵略和殖民。如果人类不能在自我修养与社会建构两个方面取得明显进展,而是停留在糟糕的价值观和道德表现层面,那将不仅难以团结起来共同应对已知的和未知的风险,更难以令智能机器人服膺,从而主导充满风险和不确定性的人机关系。譬如说,如果智能机器人是“中规中矩”、“遵纪守法”的“道德机器”,而人类却不断暴露自己的贪婪、冷漠和虚伪,不断互相倾轧、无休止地内耗,人为地制造不公正、苦难与罪恶,恐怕人类内部都难以达成共识。因此,有必要“让我们一起行动,在人工智能完全起飞之前对人类社会进行改善”(21)迈克斯·泰格马克:《生命3.0》,第444页。。我们必须“搞清楚强化的人类和人性化的机器两者的地位、局限”(22)约翰·乔丹:《机器人与人》,第136页。,采取综合性的技术、经济和法律措施惩恶扬善,提升智能机器人与人自身的修养(包括价值和道德表现),尝试建立相互尊重、理性合作、民主治理、和谐共处的人机关系。

再次,面对智能机器人的快速发展和自主行为,人类必须反思传统的基于人类中心主义的人机关系理念和框架,通过革命性的思想解放,创造性地建设人机之间的新型沟通、互动机制,在动态的沟通、互动中塑造新型的人机关系和人机文明。

迈入革命性、颠覆性的智能时代,虽然我们不太认同“超人类主义运动”“寻求以激进的方式用技术扩展人体的可能性”(23)菲利普·鲍尔:《如何制造一个人:改造生命的科学和被科学塑造的文化》,李可、王雅婷译,北京:中信出版社,2021年,第331页。,但面对ChatGPT之类通用人工智能的快速发展和进化,人类必须具有强烈的危机感,在主动加快自我提升、自我完善的基础上,探索与智能机器人合作共处、协同进化的机制和方式。试图像“武大郞开店”、“卢德分子”那样人为限制智能技术的发展和应用,通过阻碍技术的进步来维护人类的尊严和主宰地位的方式是不明智的;而期待智能机器人自然而然地拥有一颗“良芯”,自觉遵循既有的人类道德准则和法律规范,又是消极且不负责任的。智能技术必将会持续、快速发展,各种智能机器人将在越来越多的领域超过现在的人类,智能机器人将得到日益广泛、普遍的使用,这已经是无法阻挡的大势所趋;人机共存、人机协作、人机交互是人类必须面对的事实,人机之间的竞争、矛盾和冲突也是无法避免的后果。不过,人类没有必要因此而悲观、绝望,因为人工智能或智能机器人也存在其局限性,也有许多至少可见的未来不能做的事情;“此外,人工智能一直专注于智力的理性,却忽略社会/情感智能,更别提心智了”(24)玛格丽特·博登:《AI:人工智能的本质与未来》,孙诗惠译,北京:中国人民大学出版社,2017年,第180页。。除此之外,更为重要的是,目前人工智能并未失控,超级智能还停留在想象阶段,那些危险的预言并未成为现实。

迈克斯·泰格马克指出:“我们就是未来生命的守护者,因为人工智能时代正在由我们塑造。”(25)迈克斯·泰格马克:《生命3.0》,第445页。在社会智能化的进程中,我们完全有机会构建不损害人类及其根本利益的新型人机关系:第一,我们必须调整观念和心态,破除千百年来根深蒂固的“人类中心主义”和主宰意识,克服狂妄自大的傲慢与自以为是的偏见,通过基于互相理解、互相尊重的持续磨合、动态调适,逐渐形成新型的人机关系。由于智能机器人在社会生产、生活中的地位和作用日益突出,如果人类狂妄地自诩为“万物之灵”和“世界的主宰”,完全无视智能机器人的“智能”、“权利”和“尊严”,人机之间的矛盾就可能层出不穷,冲突就可能日趋激化。第二,我们应该重新审视智能技术和智能机器人,在促进其理性、负责任发展的基础上,尽可能赋予智能机器人以自主思考、自主行动的主体地位,尽可能保障智能机器人的基本权益;不得随意贬损智能机器人的“人格”和尊严,不得忽视智能机器人的合理诉求和合法权利,从而尽可能地减少、甚至消除人机之间的矛盾和冲突。第三,我们必须顺应智能革命的潮流和“智能技术范式”的要求,推动脑机接口、数据共享、意识上传之类人机交互、协作技术的发展,并据此主动探索一种相互尊重、相互协作、和谐共处的新型人机关系。第四,构建过程中的核心或“重中之重”,在于延展哈贝马斯的主体际的“交往理性”和“商谈伦理”,探索一种与智能机器人进行即时、有效沟通的方式,尝试与智能机器人进行高效、愉悦的交互,从而通过不断的协调、磨合,共同塑造、完善新型的人机关系。

在这种新型的人机关系中,不断“进化”的人类不仅不会退出历史舞台,反而可以借助先进的生物、智能技术和设备不断“提升”和“强化”自己,在适合自己的位置上演绎“将工作与兴趣、爱好有机结合的威力和意义”,在生命的演进中持续彰显“人性的光辉”、“灵魂的净化”和“自由个性的趣味”;功能越来越强大的智能机器人则严守价值与道德底线,在生产和服务、社会运转和日常治理等方面承担越来越多的职责,在与人类的和谐协作与良性互动中,日益成长为内在具有良知和道德意识,外在行为具有强烈的使命感、责任感和义务感的新型“复合生命体”;人与智能机器人不是对立、更不是敌对关系,二者之间的交往和互动逐渐从单一走向多维,从简单走向复杂,从外在走向内在,在反反复复的调适与磨合中,逐渐向着“人机一体化”和“人机命运共同体”迈进。

综而言之,置身波澜壮阔、日新月异的智能革命时代,人类应当:坚持“人是目的”、以人为本地发展人工智能,使智能机器人成为可以通过“道德图灵测试”的“道德机器”;善于运用先进的生物、智能技术和设备“武装”自己,将自己塑造为与时俱进的“时代新人”;善于与强大的智能机器人沟通、协作、融合,创造性地探索人机关系的生成和运作机制。如此,人类方有可能“扼住命运的咽喉”,主导新型的人机关系,建设一种人机协作、人机和谐、人机一体化的新型文明形态。