刍论人工智能伦理问题的内涵与性质

文/伍敏敏（中国电子技术标准化研究院）

当前，人工智能正深深地影响着人类生活的方方面面，其不仅发挥着积极的正向作用，同时，也为人类社会的发展带来了不确定性，体现为人工智能不断模糊着物理世界和个人的界限，延伸出复杂的伦理、法律和安全问题。面对正在开启的“人工智能纪元”，我们应当坚持审慎、预见的眼光来看待，正视由此带来的伦理问题，深入研究人工智能伦理问题的基础理论，廓清内涵，分析性质，以期为解决人工智能伦理问题提供一定的启示。

1 人工智能伦理的内涵

1.1 人工智能

关于人工智能，目前学界尚无统一的定义，“下一个一般性的定义几乎是不可能的，因为智能似乎是一个包含着许多的信息处理和信息表达技能的混合体”[1]。另外，人工智能的不断发展和加速进步也使人们很难明确界定其内涵。通过对人工智能的发展及相关研究文献进行探索，发现早期大多学者以“智能”定义人工智能，后期则大都倾向以“智能体”（agents，智能主体、智能代理等）来定义。

以“智能”定义人工智能，可以在人工智能的起源上找到答案。人工智能的先驱之一图灵在提出通用图灵机的设想时，就希望它能成为“思考的机器”：一方面，能够做通常需要智能才能完成的有意义的事情；另一方面，可以模拟以生理为基础的心智过程[2]。1956年，被称为人类历史上第一次智能研讨会在美国达特茅斯学院召开，约翰·麦卡锡、马文·明斯基、纳撒尼尔·罗彻斯特和克劳德·香农等会议发起人指出，从学习与智能可以得到精确描述这一假定出发，人工智能的研究可以制造出模仿人类的机器，使其能读懂语言，创建抽象概念，解决目前人们的各种问题，并自我完善[3]。在此会议上，约翰·麦卡锡提议用人工智能作为这一交叉学科的名称，同时，也标志着人工智能学科的诞生。因此，有人把约翰·麦卡锡称为“人工智能之父”。 从此伊始，“人工智能”不绝于耳，渗透进了人类社会的各个方面，推动了人工智能学科的发展，同时也促进了学者关于人工智能领域的研究。

“智能”的概念分为两个部分——“智慧”和“能力”，从感知到记忆再到思维的过程，称之为“智慧”，智慧的结果导致了语言和行为的产生，而将语言和行为的表达过程，称之为“能力”。广义地讲，人工智能技术是关于人造物的智能行为，这种智能行为一般包括知觉、学习、推理、交流以及在复杂环境中的行为[4]，还包括与智能行为相关的各种脑力劳动，比如记忆、情感、判断、证明、识别、设计、思考等思维活动，可用某种物化了的机器予以人工地实现[5]。从学科的角度而言，美国斯坦福大学人工智能研究中心尼尔逊教授认为，“人工智能是关于知识的学科——怎样表示知识以及怎样获得知识并使用知识的科学”[6]，麻省理工学院的温斯顿教授则认为，“人工智能就是研究如何使计算机去做过去只有人才能做的智能工作”[7]。一般认为，人工智能是在计算机科学、控制论、信息学、神经心理学、哲学、语言学等多种学科研究的基础上发展起来的一门综合性的边缘学科[8]，其本质是计算，因为无论其研究方法还是成果形态都离不开计算[9]。从工程的角度来说，人工智能技术就是通过用人工的方法使机器具有与人类智慧有关的功能，它是人类智慧在机器上的实现[10]。

以“智能体”定义人工智能，可以追溯到罗素和诺维格发表的《人工智能——一种现代方法（第一版）》文章中，他们认为，人工智能是对能够从环境中获取感知并执行行动的智能体的描述和构建，每个这样的智能体都实现了把一个感知序列映射到行动的函数[11]。文中还对人工智能分为四大类：一是像人一样行动的系统（图灵测试方法），二是像人一样思考的系统（认知模型方法），三是理性地思考的系统（思维法则方法），四是理性地行动的系统（理性智能体方法）。如果将人工智能研究视为理性智能体的设计过程，则更具概括性并更经得起科学检验。在内涵上，智能体一词源于拉丁文agere，意为“去做”，在日常生活中有施动者或能动者的意思；基于人工智能的智能体则可以在工程层面“正确地行动”或“理性地行动”，是遵循合理性的理性智能体。基于人工智能的理性智能体的设计目标是使机器通过自身的行动获得最佳结果，或者在不确定的情况下，寻求最佳的期望值[11]。其中的合理性与理性主要指技术与工程上的合理性或理性，即一个系统或智能体能在其所知的范围内正确行事。而且，这种合理性或理性往往是有限的而非完美的，并可以通过人工实现，亦即西蒙在《人工科学》中所探讨的有限理性。基于人工智能的智能体或理性智能体是理解人工智能的核心概念，亦应是人工智能时代的价值审度与伦理调适的关键[12]。

综上所述，本文认为，虽然人工智能目前尚未形成一个统一的、公认的定义，但依然达成了以下共识：其一，在人工智能大发展前的漫长岁月中，人工智能首先被定义为计算机科学的一个分支， 或者以计算机科学为主的交叉边缘学科，这些概念解释更加强调它的学科属性；其二，定义均强调其具有利用计算机研究和模拟人类智力活动规律的性质[13]。据此，可以给人工智能一个通俗的解释，即人工智能是让计算机系统具备类似于人类具有的推理能力、自主学习能力、自主解决问题的能力，是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。

1.2 人工智能伦理

对人工智能伦理内涵的界定，除了对人工智能内涵的廓清外，还需对伦理进行深入研究，以便更好地了解和掌握人工智能伦理的概念和意旨。

“伦理”具有多层意思，通常指事物的条理，或指人伦道德之理。一方面反映客观事物的本来之理；另一方面也寄托了人们对同类事物应该具有的共同本质的理想，这种理想付诸于人类社会的生产和生活实践之中，产生出调节人类行为的行为规范。伦理学作为古老的学科存在，具有中方和西方伦理学之分。传统的西方伦理学可区分为理性主义、经验主义和宗教伦理学等三大理论系统，各个系统遵循不同的道德原则。19世纪后期，西方伦理学由古典伦理学向现代伦理学转变[14]。“中国伦理学”是一文化特殊性概念。它立足中华民族的生活世界，以中华民族的运思与认知方式，用中华民族的语言概念，围绕普遍问题，揭示普遍之理[15]。中国伦理学同样经历了一个从古至今的蜕变过程，形式上与西方伦理学具有一定的差别。古代的中国伦理学可以划分为先秦创始时代、汉唐继承时代和宋明理学时代等三个历史阶段，具有儒学伦理学、佛学伦理思想、道家伦理思想等三大学派之分。当前，在我国发展着的中国伦理学一个基于中国特色、问题导向和中国经验的新的伦理学范式，它有别于传统的马克思主义伦理学，也不是中国传统伦理学的当代延续，更不是西方伦理学的中国化，而是立足于我国社会主义探索与实践、与民族文化高度融合的产物[16]。中国伦理学植根于中国道德土壤，倡导人际与社会的和谐共生，兼顾个人主体性与社会实在性；是立足于当代中国实践，结合自身的社会、文化特点，进行一系列的道德实践，形成的丰富经验总结；是着眼于中国重大问题，对接中国重大需求、解决中国重大问题的内在驱动力。

伦理学发展至今，一直被认为是人类的专属，亦即只有“智人种”的人才符合“道德行为体”的适格主体。然而，随着科学技术的不断发展，机器人技术研发得到了飞速提升，具有自治型的人工智能体在人类的日常生活中随处可见。由此，基于计算科学发展起来的人工智能对哲学领域尤其是伦理道德领域产生了革命性的影响，使人类不得不对现今的认知科学以及人工智能进行不断地解构和建构。当前流行的“智能与精神要素不必囿于人类和其他自然物种”的新思想，正是人工智能对伦理道德进行重塑的真实写照。19世纪初，英国哲学家杰里米·边沁（Jeremy Bentham）认为，“当人类把语言能力和感受性的标准覆盖到一切物时，伟大的时代就要来临了……”[17]，预言人工智能的发展将对伦理学产生的重大影响。

研究人工智能伦理内涵，不得不先研究机器人伦理。因为，一方面人工智能伦理专家在早期大都是先从研究机器人伦理开始的；另一方面，机器人内在地包含于人工智能，人工智能属于大的范畴，研究好机器人伦理将为人工智能伦理研究起到奠基的作用。2002年，机器人专家Gianmarco Veruggio认为，“机器人伦理学是一门应用伦理学，其目标是发展可被不同的社会团体和信仰共享的科学、技术、文化的工具，这些工具能够促进和鼓励机器人学的发展，使机器有利于人类社会和个人，并且防止机器人的误用对人类造成伤害”。当前学术界对机器人伦理尚未形成统一的概念界定，但普遍认为应当包括三个方面：一是指该机器人的研发者和制造者本身的伦理，即机器人专家本身所具有的职业道德；二是指机器人本身所具有的道德编程代码，这些编码决定了机器人的行为是否超越了道德行为准则本身；三是指机器人通过学习推理从而形成自身的一套伦理规范，这种行为具有自发性和自我选择性。亚伦·斯洛曼( Aaron Sloman) 认为，“未来机器人能够思考和具有感知力”，号召人们关注机器（人）的伦理地位问题，并把机器人纳入道德行为体的考察范畴内。他在伦理学框架内讨论了感知性的伦理意义，认为感知性是判断一个道德行为体的重要依据[18]。据此，我们认为人工智能伦理不仅包括机器人伦理的三个方面，而且更具抽象性、深层性，是包括所有具有自治型智能机器的伦理道德问题，其所研究主体最为关键的在于，该人工智能体具有感知能力和自觉道德推理能力。

2 人工智能伦理问题的性质

“问题”通常有两种含义，一是对某种现存社会现象的描述，诸如“分配问题”“国际”“社会发展问题”等；二是特指在社会发展过程中，存在与社会发展趋势相背离的负面效应，诸如“环境问题”“恐怖主义问题”“粮食安全问题”等。人工智能伦理问题不是对人工智能与伦理关系的社会现象描述，而是特指在人工智能发展过程中所产生的对人类社会伦理道德的负向影响，是有违现行人类社会伦理道德标准原则的问题。

首先，人工智能伦理问题是人工智能活动、发展过程中产生的伦理道德问题。人工智能活动、发展过程是一种特定的过程与结果的结合，是计算机学科下特定的计算法则、代码等知识体系与人工智能体作为伦理道德主体行动过程的有机统一，既受人类社会文化价值观的作用，又会对人类社会文化价值观产生反作用的特殊活动形式。人工智能活动及其发展过程不仅包括科学技术的应用与实践，还事关人类的生存方式与伦理秩序，将会极大影响人类的责任、人道、和谐、正义等伦理价值追求。因此，人工智能伦理问题，既包括人类在研发人工智能技术活动过程中所产生的伦理问题，诸如研发人员的道德责任、计算代码的伦理制约等；还包括人工智能技术衍生出来的人工智能体是否与人类具有同样的“智人种”的伦理主体存在，两类不同“体”共存于一个世界里而产生的伦理问题。前者是人工智能活动过程造成的伦理问题，后者则是人工智能发展结果所产生的伦理问题，二者在不同层面上存在着不一样的伦理负载。

其次，人工智能伦理问题特指与人类社会伦理发展相冲突的问题。随着科学技术的不断进步，人类对于改造自身存在条件的愿望愈发强烈，人工智能技术的发展以及人工智能体的出现不仅是人类探索自然实践活动的应然，也是客观世界发展的实然。作为应然与实然统一体的人，突破了原有的架构体系，形成了人与人工智能体相结合的“人”，一方面促进了人类社会伦理的进步，另一方面也与当下人类社会伦理的发展形成相冲突的局面。人工智能技术活动及其派生出来的人工智能体不是脱离人类社会的纯粹活动与实践，而是存在于人类社会生活中并对人类社会生活产生影响的活动与实践。人类在从事人工智能技术活动行为时，同其他科学技术活动行为一样，是一种关涉“责任”的行为。在谈及人类同人工智能体的关系时，则区分为“主体说”和“客体说”两种理论认识。持“主体说”的学者把人工智能体当作是同人类一样具有社会伦理主体地位，目的在于弥补人类的不足与缺失；持“客体说”的学者则把人工智能体看成是人类探索自然的技术手段，目的在于更好地服务人类。然而，无论是“责任”行为，还是“主客体”不同理论分说，都必将对人类社会伦理的构建产生莫大的影响，进而使人工智能发展违背其本质，产生难以避免的伦理问题。

3 结语

人工智能伦理问题是人工智能技术负向效应的一个方面。当前，越来越多的人把下一次生产力飞跃的突破口寄希望于人工智能。究其原因，主要在于人工智能不仅可极大提高生产力，节省人力资源成本，而且还可提高能源利用率，节省自然资源成本，促进社会的不断进步，实现人类的进一步解放。然而，事事均有利弊，更何况科学技术本身就是把“双刃剑”，我们在看到人工智能给人类带来的极大便利之外，还要认真探究其产生的诸多问题，以便更好地规避问题，推动人类社会发展。具体而言，人工智能可能引发的问题有如：军事战争频发且无法控制、失业率剧增且无法避免、人才争夺白热化并趋于垄断、人类精神文化生活退化、贫富分化加剧、社会动荡不安等，其中很重要的一个方面就是人工智能所产生的伦理问题，而这一问题是人类社会发展无法回避，且必须给予足够重视，抢抓时间重构社会伦理体系的重大问题。