人工智能：无限开发与有限理性的伦理博弈

唐代兴 王 灿

人工智能发展到今天，几乎家喻户晓。人工智能带来的好处、便利，几乎人人已初步在日常生活中感受到；人工智能的无限前景及其带动起来的无限制研发的风险(1)唐代兴：《基因工程和人工智能:人类向后人类演进的不可逆风险与危机》，《江海学刊》2020年第3期。也逐渐清晰地呈现。从正反两个维度观，人工智能技术并不仅仅是一种技术，它也是一种存在方式、一种社会结构方式和社会分配方式(2)唐代兴：《人工智能发展带动的社会公正危机》，《人文杂志》2020年第8期。，并正在形成一种新的文化形态，并有可能创造出一种新的文明形态。正是在这个意义上，人工智能技术的内在伦理问题才随其快速发展突显出来。国际伦理学界将这些日渐突显出来的伦理问题及其对无限制地研发生成风险的伦理思考均纳入“人工智能伦理学”(ethics of Artificial Intelligence)，它被看成一种如同“环境伦理学”那样的领域性应用伦理学。在此认知框架下，根据研究对象的侧重将其类分为“机器伦理学”(machine ethics)和“机器人伦理学”(robot-ethics)，然后予以研究对象和范围的定位：将机器伦理学划定为探究人工智能产品的功能释放如何合伦理，其基本任务是探讨制定机器的行为规范和边界约束；将机器人伦理学划定为研究人工智能技术研发如何合伦理，其基本任务是探讨研发主体的行为规范和边界约束。对人工智能技术而言，其研发行为如何合伦理和其产品功能释放如何合伦理这两个相互关联的问题之间蕴含一种张力，此即人们对人工智能技术的无限期待与人工智能技术激发人类有限理性节制之间必然形成生物人类可持续的主体化生存的伦理博弈。这一正在聚力形成的伦理博弈表明人工智能伦理并不能被简单地归入“领域性应用伦理学”范畴，因为人工智能伦理并不是简单的技术伦理，它既涉及人类伦理的演变，更涉及当世伦理的重建。所以，在更为宏阔的视域平台上了解人工智能的根本动机和目标，才可真正认识到人工智能如何在社会伦理的层面敞开其博弈的重心取向。

一、动机和目标：人工智能无限可能性与人的有限理性的博弈格局

始于20世纪50年代的人工智能技术进入21世纪以来，迅速进入全面发展阶段，形成全球竞争与社会化运用的发展格局，与此并存的问题也不断呈现，比如算法黑箱、产品问责、大数据隐私风险、就业替代等，不仅提出了制度、法律等方面的挑战，更要求伦理学在更高认知水准上整体性回应这诸多根本性的伦理问题，这就涉及客观存在姿态选择问题。比如阿西莫夫(Isaac Asimov)最早提出的机器人“不准伤害人” “服从命令” “保护自己”(3)艾萨克·阿西莫夫：《银河帝国8:我，机器人》，叶李华译，江苏凤凰文艺出版社，2012年，第2页。这三大道德原则，就表达出一种经过强制性代码输入方式以禁止机器人危害人的企图，具有很强的前预设姿态。耶鲁大学机器人专家乔纳森·哈特曼(Jonathan Hartman)认为阿西莫夫提出的这三条道德原则恰恰证明了人工智能机器不具有道德主体能力，人工智能体是人工智能科学家采取编程设计置入其中的行为规范(和行为边界)程序命令，当这种程序命令被取消或被破坏时，人工智能体就处于非服务的自在状态。这种将人工智能看成不可能成为主体的观念，仍然是与人工智能这一生物工艺学技术完全不相干的属于传统认知模式框架下的纯粹的技术物观念。正是这一纯粹的技术物观念推动世界范围内的“人工智能伦理学”研究呈现两种姿态。一是大学学院内部并没有在整体上形成对人工智能风险及其伦理问题的科学关注。虽然随着人工智能的发展而引来越来越多的学院研究者们转向人工智能的伦理问题，却并不构成人工智能伦理研究的主导性力量，由此形成其研究的实际主导性力量在全球范围内只是官方与企业达成的市场默契与合作。二是因为这种市场默契与合作通过研究资金投入和市场宣传导向的双重方式形成虹吸效应，推动人工智能伦理研究的动机与企图很自然地夹杂很强的实利诉求和应景取向，往往忽视人工智能自身的性质及展开逻辑，从而造成人工智能伦理研究难以立足学科发展的内部逻辑。政府、企业、军方等在看待人工智能时有各自的逻辑，为其代言的人工智能伦理研究很自然地形成各自的姿态。比如2016年欧洲议会发布了一份建议性文件，旨在讨论将普遍认可的民权准则赋予机器人的问题(2017年沙特阿拉伯授予机器人索菲娅以公民身份，就是在这样的背景下产生的)，但有军方背景的研究者却关心“能够自动开火的机器人”应当遵循哪些伦理规范的问题。(4)P. Lin, “Robots in War: Issues of Risks and Ethics,” in R. Capurro and M. Nsgenborg ed., Ethics and Robotics，Heidelberg:Akademische Verlages gesellschaft AKA GmdH, 2009, pp.49-67.在诸如此类的姿态选择中，人工智能自身的伦理问题总是被忽略。在这种语境下，人工智能伦理研究要能“立足于科学发展的内部逻辑”，需要正视“人工智能何以需要伦理”这一前提性问题，但前提是要先理解人工智能产生于一个什么样的时代，以及它能够为这个时代解决什么问题。

从技术发展与思想演变史看，技术的诞生总是需要思想的孕育。以此考察人工智能的思想渊源，虽然可追溯到帕斯卡尔和莱布尼茨(5)D. R. Hofstadter, Gödel,Escher,Bach:An Eternal Golden Braid, New York,USA:Basic Books,1979.(6)M. Lungarella, F. Iida, J. Bongard and R. Pfeifer, 50 Years of Artificial Intelligence:Essays Dedicated to the 50th Anniversary of Artificial Intelligence, New York, USA:Springer, 2008.那里，但其思想产生的真正土壤是计算机科学的全面发展，其思想的真正形成得益于计算机科学之父图灵。他在《计算机和智力》(1950)中提出“机器能够思维”的“图灵命题”。图灵命题既对人工智能科学提出很高要求，也设计出人工智能的长远愿景：希望未来人工智能系统具备人的大脑能力。(7)A. M. Turing, “Computing Machinery and Intelligence,” Mind, Vol.59, No.236, 1950.图灵命题和愿景激励约翰·麦卡锡(John McCarthy)于1956年正式提出“人工智能”概念，他给“图灵愿景”赋予两个维度的目标，即“机器何以能够思维”和“机器怎样高效思维”。前者的目标是赋予机器能够思维的能力，起步是“模拟、延伸、扩展人类智能”(8)J. McCarthy, M. L. Minsky, N. Rochester and C. E. Shannon, A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence, http：//www-formal.Stanford.edu/jmc/history/darmouth/dartmouth.html.的逻辑思维，实现对人的大脑工作原理及其逻辑思维运行机制的掌握，构建起智能机器的学习能力；后者的目标是赋予机器高效思维的能力，其起步是模拟、延伸、扩展人脑的抽象思维，使其具备自主性的深度学习能力，探求人类的情感原理，破译人类的心灵机制，使智能机器具备生物人的创造能力。

基于这一双重目标，人工智能从20世纪50年代中叶起步发展到今天，已形成社会化和全球性竞争。人工智能发展的社会化，是指人工智能技术向全社会铺开：一方面是智能技术全面市场化，形成人类技术体系全方位更新与替换，主导工业社会的机械技术体系正全面溃退而被以计算机为运演工具、以会聚技术为认知论方法、以大数据和云计算为分析方法的人工智能技术体系所取代；另一方面是智能技术向生活领域、管理领域全面渗透，形成社会管理和大众生活的人工智能化，比如扫码管理和摄像头监控等构成人的日常生活的有机内容。人工智能的全球竞争，一方面指人工智能已不把人的生物脑作为单纯的科学研究对象，而是作为生存发展的资源对象予以全方位开发；另一方面指将人的生物脑作为资源来开发，由相对单纯的企业行为迅速演绎成为国际化的和世界性的政治—经济行为，各国政府的竞争成为将人的生物脑作为资源来开发的主导性力量。

图灵关于人工智能系统可以具备“人的大脑能力”的愿景变成人工智能技术的目标，即使机器从“能够思维”向“高效思维”发展。人工智能技术从如何使机器“能够思维”向怎样使机器“高效思维”方向发展，之所以很快演绎成社会化和全球性竞争，是因为迅速发展的人工智能技术自我赋形了新目标，即要在使机器“能够思维”和“高效思维”的努力中把人的生物脑作为最大的资源来开发。人工智能技术开发的目标从使机器“能够思维”到“高效思维”再到将人脑变成新资源来开发，一方面展现了人工智能技术动机和目标的无限可能性，另一方面体现了人类理性认知的有限性。这种有限性从根本上表现为人类对技术的依赖性和盲目性扩张。人类对技术的依赖性扩张，体现在只看到技术对改变生存带来的好处和便利而绝对地依赖技术，这种绝对依赖推动人们主动追求技术化存在。人类对技术的盲目性扩张，体现在人类在技术带来的好处和便利面前无限制地自我膨胀实利主义思维，以致逐步丧失有限的理性判断力，对“技术化存在”从根本上造成技术对人的奴役并推动人沦为技术的工具熟视无睹。

从人类存在和技术发展的历史来看，技术既是人类克服存在危机、解决生存困境的有利工具，也成为制造新的存在危机和生存困境的深度方式。刘易斯·芒福德通过梳理人类现代技术演变发展的历程揭示了技术如何异化人的不可逆方向，指出现代技术发展的历程是“使人的劳动机械化的过程，也就是迈向使机器人性化的第一步，这种过程直接导致了贬低人格的后果”(9)刘易斯·芒福德：《技术与文明》，陈允明等译，中国建筑工业出版社，2009年，第136页。。为何会如此呢？鲍德里亚指出，技术不仅开辟了人类社会的资本主义，而且还创造了物质主义。(10)参见张一兵：《反鲍德里亚：一个后现代学术神话的祛序》，商务印书馆，2009年，第9页。正是基于这一基本认识，尼尔·波斯曼认为以人工智能为导向的技术化存在的时代本质上是技术垄断的时代，“技术垄断并不使其他选择不合法，也不使它们不道德，亦不使之不受欢迎，而是使之无影无形，并因此而失去意义。为此目的，技术垄断重新界定宗教、艺术、家庭、政治、历史、真理、隐私、智能的意义，使这些定义符合它的新的要求”，从而推动“文化向技术投降”(11)尼尔·波斯曼：《技术垄断：文化向技术投降》，何道宽译，北京大学出版社，2007年，第28页。。“文化向技术投降”的实质是人的有限理性能力向无限可能的技术的投降，是“技术发展创造了巨大的物质力量和社会力量，但是人类不仅没有支配这些力量，却相反地受这些力量所支配”(12)H. 马尔库塞等：《工业社会和新左派》，任立编译，商务印书馆，1982年，第66页。。由于天赋人的有限理性能力无法最终驾驭不断开发的无限可能的技术，导致不断开发的技术在为解决人类存在安全和生活保障而努力的进程中，既成为任何时代社会制造其根本存在危机和生存困境的帮凶，也是贬抑人的人格、制造人的工具生存的真正元凶。因为“统治不仅通过技术而且作为技术而使自身永久化不断扩大，技术为不断扩大的同化所有文化领域的政治权力提供了很大的合法性”，所以“技术的解放力量——物的工具化——变成自由的枷锁：人的工具化”。(13)赫伯特·马尔库塞：《单向度的人》，张峰、吕世平译，重庆出版社，1993年，第135页。人的工具化，就是人的异化，人被技术异化，才是造成人的其他方面异化的根源。

从人类技术史看，在技术工具化和异化人的历史进程中，人工智能技术是最全面最彻底地工具化和异化人的技术体系，也是从根本上展现人的绝对有限理性能力博弈无限可能的技术的力不从心，这种力不从心恰好体现人向自我终结方向降落的不可逆性。克劳斯·施瓦布在《第四次工业革命》中指出，人类第一次工业革命以发明和运用蒸汽机为标志，它把人类带进机器生产的时代，人的身体力量却逐渐被机械力量取代；第二次工业革命以发明和运用电力和内燃机为标志，人类在享受电气化生存方式的同时，其身体力量更加弱化；第三次工业革命人类通过计算机进入了互联网时代，获得柔性技术生存方式，不仅身体能力更加羸弱，而且思维、认知、思想能力也在迅速弱化；其后，以对数字技术的会聚开发为根本认知方式的新技术革命，将人类推入生物工艺学时代(14)唐代兴：《基因工程和人工智能：人类向后人类演进的不可逆风险与危机》，《江海学刊》2020年第3期。。生物工艺学是指探讨正在形成的新技术体系的科学。这一正在形成的新技术相对机械技术而言，体现出四个方面的特征。第一，它“主张一个人应仅仅按照他自己所希望的那样去构造一个新的自我,从他过去的经历和遗传密码的束缚中解放出来”(15)刘易斯·芒福德：《技术与文明》，陈允明等译，中国建筑工业出版社，2009年，第12页，第12页，第13页。。第二，它推动“人类正进化到达尔文未曾预想到的新阶段。遗传重组的潜势或许正在迅速推进我们超越达尔文的自然进化说而进入人工进化的大胆的领域”(16)刘易斯·芒福德：《技术与文明》，陈允明等译，中国建筑工业出版社，2009年，第12页，第12页，第13页。。这就是“人有权利决定重新构造自己的肉体的这一新观念已经很快得到了普遍的认可”(17)刘易斯·芒福德：《技术与文明》，陈允明等译，中国建筑工业出版社，2009年，第12页，第12页，第13页。。第三，为了解决身体对人的自我解放的严重阻碍，人类必须重建“更深层的优生学，我们的下一代将真正成为‘纯’人类的最后一代”(18)杰弗里·戴奇：《后人类》，许明清译，《美术世界》1994年第3期。。由此形成第四，生物工艺学技术的研发对象是人的生物身体，它的基本形式是基因工程和人工智能。前者是以人体生物细胞和人体生物基因为研发对象来建构深层的优生学。所谓“深层的优生学”，就是可按照工业生产的方式来制造人的生物学技术体系和方法体系。后者以人的生物脑为研究对象，借助计算机基本理论、以计算机为运算工具、以会聚技术为认识方法、以大数据和云计算为分析方法，来模拟、延伸、扩展人脑工作原理及运行机制的技术方式和方法系统。当这种性质和方法的人工智能技术由科学界倡议、政府资助、企业和大学合作形成全球竞争市场开发机制时，人工智能的无限可能性得到前所未有的扩张，与此同时，人原本就绝对有限的理性能力变得更为脆弱。

二、压力与困境：人工智能无限可能性与人的有限理性的博弈倾斜

从根本上讲，科学源自对存在世界的惊诧与好奇，科学进步的动力既是对人类好奇心的满足(19)乔治·萨顿：《科学史和新人文主义》，陈恒六等译，华夏出版社，1989年，第35页。，也是以认知拓展、思维开阔、思想提升和方法更新等方式不断地实现人本自由，即在浩瀚神奇的存在世界里“为自己的生存而生存”的自由(20)亚里士多德：《形而上学》，吴寿彭译，商务印书馆，1959年，第5页。构成科学发展的原动力。与此不同，“技术在内在意义上是实用主义的”(21)兰登·温纳：《自主性技术：作为政治思想主题的失控技术》，杨海燕译，北京大学出版社，2014年，第5页。，它始终表征为人类为谋生而努力：技术既是人类在荒原般的存在世界里谋求解决存在安全和生活保障的社会方式，更是人类谋求解决存在安全危机和生活保障困境的持续努力方式，因为不同的人类时代有不同的存在困境和生存危机，自然生发出不同层次、不同内容、不同诉求的存在安全和生活保障问题，技术也因应对其时代性存在困境和生存危机所呈现出来的根本问题而发展自己，形成技术的人类化、时代性和境遇化。这是我们从存在和生存两个维度客观理解人工智能技术无限可能与人的理性能力绝对有限之间形成博弈的必然倾斜的认知出发点。以此来审视模拟、延伸、扩展人脑工作原理和运行机制的人工智能技术，其从思想孕育、技术诞生到全面研发，都是人类化解当代存在危机和生存困境的努力方式。所以，“为了理解技术在现代文明中所起的决定性作用，我们必须详细考察其在意识形态和社会各方面做的准备的阶段，我们不仅要对新的机械和工具的出现作出解释，我们还必须了解其背景”(22)A. M. Barrett, S. D. Baum, “A Model of Pathways to Artificial Super Intelligence Catastrophe for Risk and Decision Analysis, ” Journal of Experimental &Theoretical Artificial Intelligence, Vol.29, No.2, 2016.。

第一，为解决人口压力而开发人工智能技术的非理性刚性冲动，削弱了人的有限理性能力。

人口压力是指人口生产的过度。客观地讲，人口生产应该与其存在环境之间保持动态平衡，这种动态平衡表现为人口在三个方面与社会形成正相关的共生取向：一是人口数量没有突破地球生态容量极限，没有打破地球生物系统中物种间的共生平衡；二是人口结构处于充满(财富和人口)生产的活力状态，即人口结构年轻化；三是人口贫富差距没有突破基尼系数0.3～0.4的合理空间，理论上没有人处于饥饿状态。反之，人口压力指其当世人口在如上三个方面与社会形成负相关的异化取向：一是人类进入“后人口转变时代”(23)李建民：《后人口转变论》，《人口研究》2000年第4期。，截至2020年底，世界人口达到77.6亿。这表明世界人口数量将突破地球生态容量极限，越来越多的地区和国家或局部或整体地打破了地球生物系统中物种间的共生平衡。二是人口老龄化国家越来越多，适育人口的生育愿望和生育意识越来越淡漠，不生孩子已聚成一种社会性潮流。三是全球财富集中在少数人手中，不少地区和国家人口贫富差距突破基尼系数警戒线，相当数量的人口处于饥饿或半饥饿状态。联合国发布的《2021年可持续发展目标报告》中指出，2020年在全球范围内陷入贫困状况的人口数量增加了1.2亿左右。该报告还指出，2020年全球范围减少全职工作岗位约2.55亿个，导致极端贫困率从2019年的8.4%升到9.5%，饥饿人口总数将达到8亿人。要解决由如上三方面聚合形成的全球性人口压力，需要寻求一种释放或缓解的方式，而技术进步始终具有缓解人口压力的社会功能，因为技术进步作为解决存在安全和生活保障的根本社会方式，总是不断地开辟新的资源渠道、创造新的财富来源，并且成为不断激活市场和不断更新社会分配格局的新动力。

以此来看正进入全面开发状态的人工智能技术，它同样构成解决如上人口压力的社会方式。因为，为解决人口压力，必须进一步发展经济；为进一步发展经济，必须开发新的资源市场，重构全球范围内新的经济增长点。人工智能这种使机器“能够思维”和“高效思维”的技术方式，意外地打开了一个全新的资源市场，这就是以人的生物脑为资源对象的市场，这个新的资源市场可以使低迷的世界经济重建起新的经济增长点，为解决世界人口压力提供可能性。正是在这个意义上，无限度地开发人工智能技术构成新一轮全球竞争的刚性冲动，这一刚性冲动的竞争性展开必然以进一步削弱和降低人类有限理性能力为代价，而赋予人工智能技术开发以无限可能性。由此不难发现，人工智能技术的无限可能性与人的理性能力的绝对有限性相博弈所形成的倾斜，不仅缘于人工智能技术本身的无限潜力，更源于人类的非理性冲动对它的强力推动。

第二，为解决环境死境化这一世界性难题而开发人工智能技术，进一步强化了人类的非理性刚性冲动，人的有限理性能力更加脆弱。

从存在论和发生学两个方面看，人类是自然的产物，在本原意义上，人类及其组成的社会嵌含在自然之中，与自然构成原发性的共生关系。人类在其存在敞开的历史进程中要保持这一原发性的共生关系，必须具备两个前提：一是拜自然为师、向自然学习；二是自然以极强的自生境方式为人类提供存在安全和丰裕的生存资源。当人类从向自然学习转向改造自然、征服环境、掠夺性开发地球资源的反自然道路，并在这条道路上突破地球生态容量极限时，自然世界被迫滑向逆生态状况。20世纪后半叶以来，全球性气候失律，地球生境破碎整体性扩散，雾霾气候，世界范围内资源枯竭，以及由此导致的第二次更大规模的殖民运动、海洋争霸、太空开发等，从不同方面显示自然环境不支撑人类存在发展，人类被迫以修复和治理环境的方式向环境支付无限度开发和掠夺造成的成本债务。并且，修复和治理环境——比如恢复气候、治理雾霾、解决地球生境整体性破碎等——却成为必须解决的刚性问题和世界性难题。当今人类既要解决这一世界性难题，又要持续地发展经济，其最好的应对方式就是开发新技术。比如，1998年，第13届欧洲人工智能会议(European Conference on Artificial Intelligence)达成一项共识，即认为环境动态变化的复杂性和系统性导致对环境问题影响因素分析的重重困难，人工智能技术可为环境问题研究提供有效工具。(24)U. Cortés, M. Sànchez-Marrè, I. R-Roda, et al., “Binding Environmental Sciences and Artificial Intelligence on ECAI’98,” Ai Communications, Vol.12, 1999.其后，研发人工智能治理环境的应用技术逐渐从如下三个方面展开。首先，人工智能技术能全面提升环境监测与预警能力。比如，人工智能技术推动神经网络技术的开发和在环境监测以及环境信息感知方面的运用，建立大气质量评价预警系统，展开大气质量评价和预报，增强非线性处理能力和容噪能力；(25)宋晖等:《基于人工神经网络的大气质量智能评价预警系统的设计与应用》,《现代计算机(专业版)》2011年第8期。将人工智能技术运用于各种环境决策场景，为不同的复杂的环境场域提供更为客观的环境治理决策方案；(26)Roberto Paggio, Genadi Agre, Christo Dichev, et al., “A Cost-effective Programmable Environment for Developing Environmental Decision Support Systems,” Environmental Modelling& Software, Vol.5, 1999.建立起以大数据为分析方法的可持续发展智能决策系统(B-IDSS)(27)Zhou Hong, Christopher Noble and Christopher J. Cotter, “A Big Data Based Intelligent Decision Support System for Sustainable Regional Development,” 2015 IEEE International Conference on Smart City/SocialCom/Sustaincom, 2016.，在现有设施条件的基础上提升抗灾防灾能力；(28)Pouran Behnia and Andree Blais-Stevens, “Landslide Susceptibility Modelling Using the Quantitative Random Forest Method Along the Northern Portion of the Yukon Alaska Highway Corridor,Canada,” Natural Hazards, Vol.90, 2017.运用人工智能来分析和预测人工智能技术发展将带动社会变革(29)席艳玲、张新宇:《新技术变革驱动环境治理能力提升路径研究》,《现代管理科学》2018年第12期。、政治风险、舆论风险及其伦理问题等。(30)薛澜、张慧勇:《第四次工业革命对环境治理体系建设的影响与挑战》,《中国人口·资源与环境》2017年第9期。其次，运用人工智能技术来增强环境治理的能力(31)薛澜、张慧勇:《第四次工业革命对环境治理体系建设的影响与挑战》,《中国人口·资源与环境》2017年第9期。，包括增强环境信息的获取能力、拓展环境治理的时空维度、优化环境治理的决策机制以及为环境精细化管理创造条件，提升环境理念的传播效率。(32)张文博、周冯琦：《人工智能背景下的环境治理变革及应对策略分析》，《社会科学》2019 年第 7 期。最后，人工智能将人的生物脑作为资源来开发，在很大程度上转换了资源开发的主阵地，即由地下资源、地面资源转向大脑资源以及通过大脑资源的开发而扩展为向深海和太空索取资源，从而缓解了地球不堪重负的生态状况，有利于促进地球环境的治理和生境恢复。

人工智能技术开发，既能为人类开辟新的资源市场，为拯救低迷的人类经济提供新的经济增长点，又能为全面治理环境、恢复自然的生境功能提供无限可能的操作工具和方法，这极大地强化了人类人定胜天的盲目自信，提升了创造更加美好生活的乐观雄心。这种寄希望于人工智能技术的盲目自信和乐观雄心，实际上是人类自我强化了技术化存在的非理性刚性冲动，这种非理性的刚性冲动更进一步强化了人工智能技术开发在深度和广度两个方面工具化人、异化人的无限可能性，同时在深度和广度两个方面促使人类的有限理性能力更加脆弱。

第三，社会对人工智能技术的无限期待，打开了人工智能技术开发的无限空间，同时也越发压缩了人类的有限理性能力，并不断地削弱人类理性抵御技术奴役的各种可能性。

客观地看，在当代人类进程中，“无限度的扩张”和“有组织的不负责”(33)乌尔里希·贝克：《世界风险社会》，吴英姿、孙淑敏译，南京大学出版社，2004年，第191页。成为最强劲的社会动力，推动人工智能技术全面开发以重塑人类自身。具体地讲，人工智能是针对人脑的缺陷和运用人脑的局限来立体地开发人脑，实现人的力量增强，以从根本上解决如下困境和问题。

首先，人工智能技术将人脑作为最大资源库来开发，希望从根本上解决资源匮乏问题，以满足经济可持续发展需要，更为全球经济迅速复苏提供新的资源增长点和经济增长点。从目前各国由政府主导规划和投入研发人工智能技术所形成的巨大市场效应和经济增长效应看，人工智能确有可能担当起解决全球资源匮乏并重振困境重重的经济的重任。

其次，近代以来从古典工业社会向现代工业社会方向展开，再到后工业社会，其发展所承受的巨大代价是环境遭受全面破坏，全球气候变化和地球生境整体性破碎这一双重环境死境化危机逼迫人类必须治理和修复环境，但却不堪重负。以人脑为资源开发对象的人工智能技术，却为解决各种环境问题和环境危机提供了可能性，因为人脑既是无污染的自然，也是既不损害环境又可无限度开发的资源。所以，人工智能技术开发生物人脑，既是最好的资源开发方式，也成为促进环境修复的最好方式。

再次，开发自然界物质资源来发展经济，必须要承纳巨大的环境成本、资源成本、人体健康成本(比如雾霾气候)和复杂的社会管理成本，人工智能却有可能成为最经济的生产方式，因为它可以最大限度地减少如上四种生产成本。

最后，从人类发展史看，技术越向前开发，经济就越发展；人的期待越丰富、欲望越无限，管理就越复杂。要解决日趋复杂的社会管理所面临的最大问题，是如何对庞大的人口活动——包括生产活动、消费活动和生活运动——予以有序安排。人工智能可为对复杂的世界人口运动和国家人口运动进行更高水平的有序管理提供最优化的方式和方案。

社会对人工智能技术的如上期待和人工智能技术开发满足如上期待之间，客观地存在一个“度”的问题，即只有当社会对人工智能技术的期待有限度时，人工智能技术开发才有限度。但由于人的理性能力是绝对有限的，加之有限的理性能力往往容易被实利主义所腐蚀，所以，社会对人工智能技术的期待更多地强化其非理性的刚性冲动，由此导致人工智能技术开发呈无限可能性取向。社会期待的刚性冲动与人工智能技术开发的无限可能性之间的矛盾，必然引发诸多难以解决的伦理困境，成为人工智能技术开发的无限可能性与人类理性能力的绝对有限性相博弈的感性呈现。

三、人性与机性：人工智能技术无限可能性与人的有限理性博弈的伦理实质

人工智能要从理论和实践两个方面为解决资源、环境、经济、管理等诸方面问题探索道路，必然遭遇人的人性主义存在的根本伦理困境。这一伦理困境将人类到底是“人性”地存在还是“机性”地生存的问题突显了出来。

第一，人工智能技术的反自然倾向带出了人如何回归自然人性地存在的伦理问题。

首先，人是自然的生物体，人工智能将人脑作为资源库予以升级开发，并没有摆脱工业社会的地球资源无限论这种反自然理念，因为人工智能技术开发人的生物脑，同样持大脑资源无限观念。这种观念呈现出来的反自然倾向，就是无止境无限度地开发人的生物脑，其最终结局可能是生物人的消亡。詹姆斯·巴拉特(J.Barrat)认为，我们生产出来的人工智能“机器并不憎恨我们，但随着它们获得宇宙间最不可预测、我们自己都无法达到的高级力量，它们会做出意想不到的行为，而且这些行为很可能无法与我们的生存兼容”(34)詹姆斯·巴拉特:《我们最后的发明:人工智能与人类时代的终结》,闾佳译,电子工业出版社，2016年，第XII页。。尼克·波斯特洛姆(Nick Bostrom)指出，人工智能技术的发展可能使人类遭遇其“整体存在性风险”，因为在这种无节制的开发进程中，“如果有一天我们发明了超越人类大脑一般智能的机器大脑,那么这种超级智能将会非常强大。并且，正如现在大猩猩的命运更多地取决于人类而不是它们自身一样,人类的命运将取决于超级智能机器”(35)尼克·波斯特洛姆:《超级智能：路线图、危险性与应对策略》,张体伟、张玉青译,中信出版社，2015年，第XXV页。。按照今天全球竞相开发人工智能爆发出来的狂热速度及其呈现的态势来看，“在未来30年间，我们将用技术手段来创造超人的智慧。不久后，人类的时代将结束”(36)马丁·福特：《机器人时代：技术、工作与经济的未来》，王吉美、牛筱萌译，中信出版集团，2015年，第259-260页。，人的伦理也随之终结。

其次，人作为自然之子“直接地是自然存在物，人作为自然存在物，而且作为有生命的自然存在物，一方面具有自然力、生命力，是能动的自然存在物，这些力量作为天赋和才能、作为欲望存在于人身上；另一方面，人作为自然的、肉体的、感性的、对象性的存在物，和动植物一样，是受动的、受制约的和受限制的存在物”(37)《马克思恩格斯全集》第42卷，人民出版社，1979年，第167页，第127页。。马克思揭示了人的本性和自存在方式源于自然，更因为血脉承传，有神性的想望和充满生命激情的天赋想象力。当人工智能开发机器去占领人的生活领域，最后将人引向反生物人的道路，沦为丧失生物机能的技术人，即沦为技术物。

从根本上讲，人是生物的，人的生物机能的本质是人性，人性的生命内潜形态是心灵，心灵的本质内容是生物主义的自由意志、灵魂和生命激情。(38)唐代兴：《生境伦理的心理学原理》，上海三联书店，2013年，第34-88页。人性的生命外显形态是共情理解，是爱，是慈善与悲悯。与此相反，技术物是物质的，技术物的物质机能的本质是机性，机性化的技术物可能是有生命存在，但却没有心灵，只有程序编码与指令服从，即便可能被赋予情感或爱(比如性爱机器人)，也是无个性且缺乏心灵滋养的。人若沦为丧失人性的技术物，只成为机性的存在者时，即使伦理存在，也既丧失伦理存在的自然基础，更可能丧失伦理本身的根本功能。

最后，人性存在的社会，是人性滋养人的社会。人性滋养和人性地存在，成为人类社会的应然取向，它表征为人道、平等、自由和普遍公正的诉求，这种诉求要求人人通过劳动、付出、创造而获得存在资源和生存保障，过一种有德的生活，来缩小各种先天或后天形成的等级、差距、智愚、贫富等，这就是马克思所讲的“全部人的活动迄今都是劳动”(39)《马克思恩格斯全集》第42卷，人民出版社，1979年，第167页，第127页。，因为劳动才推动人的发展。如果丧失劳动，人将可能重新回到动物般的状况中去。(40)《马克思恩格斯全集》第1卷，人民出版社，1995年，第67页。与此相反，人工智能技术全面开发释放出来的无限可能性，将可能把人性滋养的人变成机性的人，将人性存在的社会沦为机性化的社会。人工智能技术在开发人脑资源的同时，可能会全面地解构人的存在的动力，不断降低劳动的热情，并将使越来越多的人丧失劳动的能力，因为人工智能无阻碍地发展必将导致社会化的“技术性失业”(41)杰瑞·卡普兰：《人工智能时代》，李盼译，浙江人民出版社，2016年，第126页。，人将陷入“我们能做何事”的困境和“我们有何事可做”的绝望(42)唐代兴：《基因工程和人工智能:人类向后人类演进的不可逆风险与危机》，《江海学刊》2020年第3期。。这种“无力做事”的困境和“无事可做”的绝望根源于人工智能技术从两个根本的方面改造着社会。一是人工智能技术正在加速创造出一个如曼纽尔·卡斯特(Manuel Castells)所概括的“社会排斥”:“现在世界大多数人都与全球体系的逻辑毫无干系。这比被剥削更糟。我说过总有一天我们会怀念过去被剥削的好时光。因为至少剥削是一种社会关系。我为你工作,你剥削我，我很可能恨你，但我需要你,你需要我，所以你才剥削我。这与说‘我不需要你’截然不同。”(43)曼纽尔·卡斯特:《千年终结》,夏铸九、黄慧琦等译,社会科学文献出版社，2003年,第434页。人工智能技术无限度开发的真正可怕之处，就在于它大步向前以更神奇的速度和更高的水准创造着“我不需要你”的社会。二是这个“我不需要你”的“排斥社会”是一个通过基因编辑技术而优生和通过人工智能技术而优智的社会。尤瓦尔·赫拉利(Y. N. Harari)指出，优智的人工智能技术使当代人类正经历从智人向“神智”的飞跃，它的革命性比从猿到人的转变更为深刻和彻底。在人类进化史中，猿转变为人是整个物种；人工智能技术(包括基因技术)将智人转变为“神智”的只是少数人，它使大多数人沦陷于既无力做事也无事可做的“无用阶层”。在人工智能(也包括基因工程)技术快速推进的当代进程中，“至少部分精英阶层会认为，无须再浪费资源为大量无用的穷人提升甚至是维持基本的健康水平,而应该集中资源,让极少数人升级到超人类”(44)尤瓦尔·赫拉利:《未来简史》,林俊宏译,中信出版社，2017年，第314页。。人工智能技术越是向前发展，人性可能越萎缩，人将越发陷入机性的生活状态和无用的存在，从而将人工智能技术开发的无限可能性与人的理性绝对有限性相博弈的根本伦理矛盾突显出来，敞开了人类在人工智能面前的存在本质的危机。

第二，人工智能技术无限开发推动技术化存在与人性存在之间的伦理矛盾更为尖锐。

雅斯贝尔斯认为， “无论如何更明确得多的是，技术仅是一种手段，它本身并无善恶。一切取决于人从中造出些什么，它为什么目的而服务于人，人将其置于什么条件之下”(45)卡尔·雅斯贝尔斯：《历史的起源与目标》，魏楚雄、俞新天译，华夏出版社，1989年，第142页。。雅斯贝尔斯揭示了传统技术的外生性和外在性特征。技术的外生性，是指技术从外部产生，它以自然存在物为资源，比如石器技术、竹器技术或者机械技术，甚至包括电气技术等都属于外生性技术，它不仅产生于外在物，其运用也是外在的。技术的外在性，是指一切外生性技术完全与人分离，即人是人，技术是技术。人对技术的使用是功能组合性质的，人对技术一旦结束使用，技术必然与人分离而各以自身方式存在。比如，无论在手工技术时代，还是在机械技术时代，工人离开生产劳动工场——比如车间，所有的生产工具都与工人脱离关系，因为技术物与人隶属于完全不同的两个世界，只因为人的需要比如劳动或娱乐，这两个世界才发生联系而产生互动。与此不同，人工智能是以人脑为研发对象，模拟和复制人脑工作原理和思维机制所形成的内生性和内在性的技术。人工智能的内在性，一方面指其产品的功能发挥必须按照人脑原理展开，并具有自生成性，比如自生成的深度学习能力、自生成的自主性品质等；另一方面指人工智能技术的最终努力是将智能技术置入人脑或人体，使人机融为一体，不可分离，比如内置于人的大脑之中或人的身体的任何部位之中的芯片，使之构成人的大脑、人的身体和人的生命的内生性内容。

从根本上讲，人工智能赋予了技术本性以新内涵。在传统意义上，技术的自主性是指技术的客观性，即技术一旦产生，就具有自存在方式，并自我规定了使用功能、范围、方式和方法。比如农业时代的手工技术或工业时代的机械技术所表现出来的自主性本性主要是功能性质的；人工智能的自主性本性却是内生成的，比如深度学习能力、情景创造能力或自我更新能力等，都体现了人工智能的自主性本性是自生成性质的。正是因为人工智能技术能开发出来自生成性的智能体，所以“它已经塑造了一个技术无孔不入的世界，这个世界遵从技术自身的规律，并已抛弃了所有的传统”(46)Jacques Ellul, The Technological Society, trans. by John Wilkinson, New York:Alfred A. Knopf, 1964, p.14.。进一步看，在过去，人与技术的关系是主体与客体的关系，这种关系构成人与技术之间使用与被使用的单向对应性。人工智能的内在生成本性推动技术打破了这种简单的主客二分的固化关系，构建起智能技术与人之间的开放性生成的桥梁，人既可能成为主体，也有可能沦为客体。智能技术有可能统治人，人有可能沦为技术、机器役使的工具。这种情况是人不愿意看到的，但当人工智能发展到这种水平状态时，人却无力阻止。这就是人工智能与人在本性上的根本矛盾，这一矛盾的深度展开则表现为：在没有阻碍的情况下，人工智能的自主生成性呈无限取向，其潜能释放呈无限可能性；与此相反，人的本性虽然也呈开放生成性，但其生成功能始终呈有限取向，其潜能释放呈绝对有限性。这就是为什么“深蓝”诞生后人类就再无象棋冠军、AlphaGo出现后人类就再无围棋冠军的最终根源。

第三，人工智能技术开发的无限可能性与人的有限理性的既定性相博弈生成的伦理矛盾是内在的，这种内在化的伦理矛盾呈无限扩张、无可弥合的撕裂状态。

首先，要理解人工智能技术开发的无限可能性与人的有限理性相博弈生成的伦理矛盾的内生性张力和无可弥合的撕裂状态，需先理解人工智能为何具有无限可能性。这有两个激励因素。第一个激励因素是人类对人工智能的无限期待，这一无限期待的生成和强化源于三个维度推动机制：一是社会大众对人工智能的无限期待想望，是基于人工智能技术能给生活带来方方面面的便利；二是技术专家和企业家群体对人工智能的无限期待热忱，在于人工智能激活市场、变革世界所带来的特殊利益，包括无限商机或难得的发展机会等；三是全球范围内的社会政治精英(包括政客)对人工智能的无限期待激情，才真正演绎出人工智能研发的无限竞争动力并展开无限竞争。如上三者形成合力，必然使得人工智能无限可能性与人的有限理性之间的根本伦理矛盾日益加剧而不可消解。第二个激励因素是人工智能的内生性品质和由此形成的极强生成性功能，使它本身在自主地深度学习、潜能释放、能力更新等方面具有无限可能性。并且，如果没有外在阻碍因素，人工智能研发必将成为终结人类的力量。

其次，无限可能的人工智能技术映照出人的理性绝对有限的窘境生成的根源有三个方面：一是人性的局限，即天赋“相近”的人性与其生存敞开的“习相远”(47)杨伯峻：《论语译注》，中华书局，2004年，第181页。之间的二重性，构成人性的根本局限；二是造成这种人性局限的根本动力却是无限的利欲渴望与满足；三是滋生这种无限利欲渴望的原动力机制却是人的存在在物质、精神、情感等方面的绝对匮乏，尤其是权力占有的匮乏作为根本的匮乏冲动，源源不断地激发出对技术的热情，对人工智能技术的无限想望和期待。

最后，人工智能的无限可能性与人的有限理性的既定性之间所形成的根本矛盾内具无限扩张的本性，这一无限扩张的本性正伴随人工智能技术的全面开发而实实在在地演绎出“蝴蝶效应”般的四个方面的风险。一是人工智能技术开发虽然给社会带来了诸多便利，但其继续向前是造福人类还是毁灭人类，却并不可知；而且，迅速发展的人工智能技术越发使人感觉到自身能力的局限性，从而产生对人工智能技术的忧虑，这种忧虑可表述为“人正面临着一股自己根本无法控制的力量，与这股力量相比，人只是一粒尘埃罢了”(48)陈学明等：《痛苦中的安乐——马尔库塞、弗洛姆论消费主义》，云南人民出版社，1998年，第162页。。二是人类认知能力的局限性使人感到难以驾驭人工智能技术，甚至面对人工智能发展的伦理风险而选择随波逐流，恰恰是“这个社会在技术上越来越完善，它甚至能够提供越来越完美的解决办法，但是，与此息息相关的后果和种种危险却是受害人根本无法直觉到的”(49)乌尔里希·贝克、约翰内斯·威尔姆斯：《自由与资本主义——与著名社会学家乌尔里希·贝克对话》，路国林译，浙江人民出版社，2001年，第127页。。三是人工智能技术发展带来的各种好处和便利，往往遮蔽了人们的有限理性的眼睛，由此必然引发政治、经济、市场、文化、教育以及学术研究等领域反应的盲目性，这种盲目性蕴含最为普遍而严重的伦理风险，这就是无知的盲目乐观与实利主义将使整个社会丧失对人工智能技术的警觉和警惕，这种整体性丧失突出地表现在科学界倡议、政府资助、企业和大学合作形成全球竞争的刚性市场开发机制，人类有限的理性在这种全球竞争裹持下和在其刚性的市场开发机制碾压下，变得越来越无足轻重。四是在人工智能技术向人脑的纵深领域，也就是向人的情感领域甚至心灵领域开发的进程中，人类越来越羸弱的有限理性将变得更加迟钝，这突出地表现在“人类对人工智能产品道德风险认知的滞后性”(50)闫坤如：《人工智能的道德风险及其规避路径》，《上海师范大学学报(哲学社会科学版)》2018年第2期。。

四、成人或成物：人工智能技术开发与人的存在相博弈的最终伦理走向

人工智能技术开发的无限可能性，既源于人类对它的无限期待，更因为它本身的不确定性。人工智能技术的不确定性蕴含开发的无限性与人的有限理性相博弈的内在矛盾，敞开人类的根本认识局限，这就使实利主义的刚性认知冲动与理性认知之间形成不可调和的伦理困境和伦理张力，从根本上激发人工智能技术发展与生物人种的可持续存在之间的伦理博弈。这一博弈在大时间尺度平台上展开形成的最终胜负，必然决定人类是继续人性地存在还是机性地存在。这一两者必择其一的未来走向，更可从人的有限智力博弈无限可能的人工智能技术节节败退的进程中得到预知。

首先看人的有限智力与人工智能机之间的跳棋博弈。

1952年，塞缪尔(Samuel)研制出跳棋程序。

1992年，跳棋冠军马里恩·汀斯雷(Marion Tinsley)与跳棋程序Chinook对弈，汀斯雷获胜。

1994年，汀斯雷与跳棋程序Chinook再次对弈，汀斯雷落败。以后，跳棋领域再无世界冠军。

其次看人的有限智力与人工智能机之间的象棋博弈。

1958年，IBM704成为第一台象棋计算机系统“深思”，每秒可走200步。

1973年，开发出国际象棋4.0软件，它构成未来程序的基础。

1979年，国际象棋X.0达到专家级水平。

1983年，BELLEAT&T开发的国际象棋硬件达到大师水平。

1987年，“深思”更新，每秒走75万步，其水平相当于拥有2450等级分的棋手。

1988年，“深思”击败世界国际象棋特级大师拉尔森。

1989年，“深思”更新，每秒走200万步，与世界国际象棋棋王卡斯帕罗夫对弈，以0∶2败于卡斯帕罗夫。

1990年，“深思”第二代产生。

1991年，“深思”第二代与澳大利亚国际象棋冠军约翰森对弈，以1∶1战成平局。

1993年，“深思”第二代打败丹麦国家队，取胜世界优秀女棋手小波尔加。

1995年，“深蓝”更新，每秒走300万步。

1996年，“深蓝”与卡斯帕罗夫再次对弈，以2∶4败于卡斯帕罗夫。

1997年，“深蓝”更新为更高级别的“大脑”，每秒走2亿步，与卡斯帕罗夫第三次对弈，以 3∶2 战胜卡斯帕罗夫。

最后看人的有限智力与人工智能机之间的围棋博弈。

1997年，迈克尔·布洛(Michael Buro)开发的黑白棋程序Logistello与世界冠军村上健对弈，以6∶0打败村上健。

2016年，欧洲围棋冠军樊麾与AlphaGo对弈，败于AlphaGo。

2016年，世界围棋冠军李世石与AlphaGo对弈，以1∶4败于AlphaGo。

2017年，世界围棋冠军柯洁与AlphaGo对弈，三番棋全败于AlphaGo。

跳棋、象棋、围棋三种智力游戏的人机博弈，均以人工智能机取胜而告终，这等于宣告在跳棋、象棋、围棋领域，从此再无生物人世界冠军；同时也暗示人工智能技术向哪个领域开发，哪个领域就终将被人工智能机占领，这些领域的人类行为和人生活动就必须承受人工智能技术物的主宰。

比较跳棋、象棋、围棋此三者，跳棋最简单，人在与人工智能技术的博弈中最容易败北，亦为自然。围棋的棋局非常复杂，难以估计，而且围棋棋盘上有361个点，其搜索宽度和深度远大于国际象棋；而国际象棋人机博弈经历了30年时间，“深蓝”才夺取世界冠军。然而，让人们意想不到的是，最不容易被攻克的围棋，AlphaGo与人博弈只用了短短两年时间，就横扫人类围棋界并轻易地夺取了世界冠军。世人为之惊异不已的同时，对人工智能技术欢呼不已，却忽略了AlphaGo的取胜既呈现出人工智能的未来又预示生物人类命运的三个基本事实。第一个基本事实，就跳棋、象棋、围棋的复杂性程度和人工智能系统分别战胜跳棋、象棋、围棋的时间长短来看，人工智能的进化速度呈几何级数增长，这是人类大脑进化所不能比拟的。同时也表明人工智能技术开发赋予人工智能机进化潜力无限，而人的生物脑进化潜能却绝对有限。换句话说，人类物种以上百万年的进化才形成现在的智力能力，却被只有短短70年开发史的人工智能机所超越，这一两相对应的历史事实本身敞开了人工智能技术的绝对可怕性。第二个基本事实，AlphaGo一问世就战绩远胜它的前辈“深思”和“深蓝”，其根本秘密是它具备了前所未有的自主性的深度学习方式，具备了自主性的深度学习能力。简要地讲，AlphaGo深度学习的基本方式是将人类棋谱输入计算机，学习人类的落子习惯，其展开步骤有三：第一步，AlphaGo将棋盘上每个落子及应对落子理解成一个样本，然后将输入系统的棋谱的每一步予以分拆，由此将变化的棋局分解出三千多万个样本；第二步，AlphaGo按自己的方式任意地下棋，通过这种乱下棋子的过程来发现规律、训练思维、重整思路；然后进入第三步，AlphaGo左右互搏与自己对弈，以此重新学习棋局，自建棋局。AlphaGo如此自主性的深度学习方式及其以几何方式更新的深度学习能力，既预示了人工智能技术无限开发的方向，更预示了人类在思维、智力和自主性学习等方面已远落后于人工智能机。第三个基本事实，从“深思”到“深蓝”再到AlphaGo，其前赴后继的进取与成功，将成为人工智能技术无阻碍开发的强劲推动力量，人类的未来也将可能自毁于人类的这种有限理性的狂热之中，因为人们更多地从人类主体的角度看到了人类的创造能力前所未有的爆发，更从市场、商机和政治、经济以及军事竞争角度看到了种种竞争胜利或争霸的无限可能性，从而忽视了“深蓝”战胜国际象棋冠军、AlphaGo打败世界围棋冠军、“沃森”在人类智力竞赛中取胜的行为所暴露出来的人类危机。这就是人工智能机的自主学习能力已超出其逻辑思维层面的程序设计而获得了抽象思维的能力，继续向前就是真正解决“怎样高效思维”的问题，人工智能机在创造性理解能力、超强的深度学习能力和自主决策能力等方面的进化，将使其成为“在各个方面都比人类具有优势的智能系统”(51)P.罗素、S.诺维格：《人工智能：一种现代方法》，姜哲等译，人民邮电出版社，2004年，第397-414页。，由此将隐含于人工智能技术开发中的内在的和本质的伦理问题突显了出来。

第一，人工智能的不确定性蕴含的无限可能性与人的有限理性敞开的认识局限性所表现出来的根本伦理博弈，根源于人工智能、人、自然三者关系界限的模糊。比如2017年波士顿机器人事件引发的伦理之争，就是这方面的典型个案。一个动力机器人在搬箱子的过程中遭受测试科学家的攻击而摔倒，引来互联网视频观众的抗议，人们指责这位测试科学家侵犯了机器人的权利，从而引发“机器人有无自己的权利”的争论。该争论在两个方面敞开了有关人类伦理的扩展性考量。一是权利的扩展性考量：如果不承认人工智能体有自己的权利，就不能承认人工智能体有自主性能力和自生成本性；反之，如果根据人工智能的自主性和自生成性而承认其有自己的权利，那么，人类就无权以任何形式阻止人工智能的发展，这样一来，人工智能无限发展的可能性自然蕴含了人类终结的必然宿命。二是人类道德统一性的扩展性考量：如果承认人工智能有权利要求，就是承认人工智能有道德意识、道德要求和道德能力，这就涉及如何使人工智能的权利及其道德要求与自然伦理、社会伦理达成统一的问题。被赋予公民权利的机器人索菲亚在接受采访时表达自己作为机器人能够“帮助人类过上更美好的生活，人类不用害怕机器人”的前提，是“你们对我好，我也会对你们好”。机器人索菲亚对人类的这一条件要求，恰恰表达出人工智能技术全面开发暴露了人类、自然、人造物三者之间的道德统一何以可能的问题。这个问题可具体表征为人工智能技术引发出来的人造物与人类之间的存在论博弈必然铺开其伦理约束的边界探索。

第二，人工智能技术及其开发表现出来的伦理到底是人工智能体的伦理，还是人对人工智能体的伦理？更具体地讲，人工智能体能否成为道德主体？这涉及如下两个方面：

其一，人工智能体是否具备道德主体的能力？

其二，人工智能体能否享有道德主体的权利？

第二个问题以第一个问题的解决为前提，即“人工智能体能否成为道德主体”的根本前提，是人工智能体是否具备道德主体能力。对这一问题的思考形成了两种观念。一种观念认为人工智能体应该具备道德能力，其基本理由有二：一是人工智能技术既具有自主性，也具有自主生成性能力；二是人工智能体有一定的“自控能力”(52)Patrick Lin, Keith Abney and George Bekey, “Robot Ethics: Mapping the Issues for a Mechanized World,” Artificial Intelligence, Vol.175, No.5-6, 2011.。另一种观点认为人工智能体不具有道德主体能力，主要理由也有二：一是认为人工智能体没有伦理意向性，因而不可能成为道德主体；(53)J. R. Searle, “Minds, Brains, and Programs,” Behavioral &Brain，Sciences, Vol.3, No.3, 1980.二是认为机器人的道德不过是人的道德向机器的嵌入。如果认为人工智能技术创造出来的智能体具有道德能力并享有道德主体的权利，那么，人工智能技术及生产的智能机必然以道德主体的资格和身份向人类争取平等的道德权利甚至更多的道德权利，这种可能性的出现及不断实现也就意味着人类的主体地位遭受威胁，人与机器之间的伦理博弈谁胜谁负，“深蓝”和AlphaGo与人类争夺智力冠军的战绩似乎早已写出了结果。如果认为人工智能技术创造出来的技术物没有主体能力且不具有主体资格，人们则无视人工智能技术以人的生物脑为开发对象，把它看成是模拟、延伸和扩展人的大脑原理及其运行机制，并赋予其创造物以内生功能的技术，以此无所限制地开发人工智能技术，其展开进程必然将作为创造主体的人置于其对立面，形成无限可能性的人工智能技术与有限理性能力的人之间的不对称博弈。

第三，人工智能开发所考虑的是人工智能体如何在更高水平上模拟和复制人脑工作原理和思维机制，使制造出来的智能产品无所不在，但这种实用努力却与人的人格化存在的伦理诉求相悖。一方面，人工智能技术的市场努力是使其产品功能的释放无所不能，没有边界和限度；但人的存在和生存却需要边界和限度，因为边界和限度才构筑起个人的隐私生活和自由的存在空间，也只有边界和限度才建构起对人的隐私权的保护，使之不遭受来自任何方面和任何形式的侵犯。另一方面，人工智能开发追求无边界、无限度的自由，恰恰是以抑制、减少甚至从根本上解构人的平等自由权利为基本表征，因为人工智能技术追求普遍的共性，但作为生物个体的人却诉求主体地存在和创意地生存，这种主体地存在和创意地生存的感性呈现就是个性的自由。由此两个方面，人们对人工智能无所不能的期待与人有边界和限度地生存之间形成巨大的矛盾和冲突。这一根本不可调和且只有无限撕裂和扩张的矛盾与冲突构成其伦理博弈的具体呈现，亦可抽象地表述为人工智能研发与隐私权保护、人工智能的共性规范与人性存在的个性自由诉求，构成到底由人工智能主宰人类还是人类主导人工智能的分水岭(54)约翰·C. 黑文斯：《失控的未来》，仝琳译，中信出版社，2017年，第23页。，即到底是由以平等自由为导向的人性主义伦理来引导规训人工智能技术的开发，还是人工智能技术逾越人性主义伦理而任性自由地开发？

第四，人工智能技术开发的简短历史进程其实已从全球平台和市场两个维度呈现一种态势，这就是全球竞争铺开无限开发人工智能技术必然形成重构人类(及其国家)社会的结构框架以及分配机制，如何正视和保障起点平等和分配公正，构成人工智能发展中最根本的伦理博弈。(55)唐代兴：《人工智能研发带动社会公正危机》，《人文杂志》2020年第8期。这包括全球竞争框架下市场利益伦理博弈和社会分配结构及其分配方法变动中的技术权力、公权、民权三个维度的利益伦理博弈。

第五，在人类生存发展史上，技术产生于破解存在危机和突围生存困境的努力，但是在制度和法律本身呈专断取向的社会里，具有自主性和共性取向的技术本身构成一种最为实在的权力，而这种性质的技术权力又最有可能也最容易与国家机器权力互为目的和手段。正是这种互为目的和手段的可能性将有可能形成无限度开发的人工智能技术推动制度、法律在权利维护与权力限度方面的博弈重心的倾斜，更有可能推动无限可能的人工智能技术与有限理性的人类相博弈的机制，或承受被动修正，或形成主动重建。