论“智能社会”对社会治理既有模式的新挑战

□ 傅小随

一、智能社会是全新的第五种社会形态

严格意义上说，只有人类才拥有智能。智能是人类在长期进化过程中，通过改造自然和处理人类社会关系的实践而逐渐发展、成熟起来的处理内部和外部关系的综合智慧与行动能力。其实质是作为社会主体的人对其所处的外部客观世界的认知、反应、适应和互动的能力。智能的最高层次是在对客观世界的本质进行正确抽象，对其规律进行精确掌控的基础上实现对环境资源的高水平利用，以达到对人在生理和思维、灵魂层面上需求的充分满足，实现主客体二者的高度统一。而人工智能则是从人类智能派生或由人类刻意创造出来的机器智能，是人类智能某些部分的数字化、物理化。这种机器智能在人类的安排下今后会越来越深入地参与到社会生活中来，甚至可能在某些特殊方面高于人类智能，但不能改变其源于人类智能、由人类智能赋予并整体上不可能超越人类智能的性质。

因为，我们通常所说的人类社会是由具有双重属性的社会成员组成的。双重属性是指每个社会成员都既是作为自然生物体的人类生命个体，又是作为社会关系结点、具有特定社会身份的人类个体。社会成员都是这样的有机统一个体。人类社会在经过了狩猎社会、农耕社会、工业社会和信息社会之后，已经完成了通过高技术的生产工具和生活设备将人的躯体机能外化在自己制造的机器及其相互联结的工作系统上，进行了不断深化的人体劳动器官替代，目前正在向更高难度并带来实质变化的认知和思维替代推进。人工智能技术追求的就是让人类智能外化在各种人造的设备和应用系统之中，使它们能够在脱离人的即时直接操作条件下自动识别环境对象特征，采取相应行动来实现各种预设目的，从而使它们具备一定程度的行动独立性，参与人类社会的运转，体现出与社会主体相近或相关的一定意义上的“主观性”甚至“主体性”，从而使社会治理面临一种全新的环境和对象，大大增加了复杂性。这种因带有一定主体性的机器智能的加入而形成的全新社会形态被称为智能社会。

智能社会形成的技术原理是：随着科学技术水平的快速提高，人类开始将自己的部分智慧和能力通过数字化转换手段赋予某些物理性和生物性的人造设备，让它们具有深度自主学习能力，能够经由人类设计和生产并安装在其上的声音、图像、温度、力度、构成成份以及其他生物信息感知器，捕捉到各种环境和对象的信息，通过各种传感设备的传导并转换成数字化信息，到达计算枢纽，经过分析处理后进行自主与半自主决策，采取相应行动，达成设计者希望的结果，起到以往只有自然生物体+社会身份的社会主体才能发挥的作用。随着人造设备设计和制造水平的不断提高，系统算法的不断改进和算力的不断增长，其自主决策和行动的能力也会快速提升，功能上越来越接近传统社会生活主体，从而使人类社会变得不再纯粹由自然生命体构成而具有复合主体性，也形成了人类的智能强化和部分智能替代，对人的社会生活带来复杂影响。在这个意义上说，这样的人造设备是逐渐“主体化”的，这种智能社会“促使了新的社会组织形态的形成，深刻地改变了人类在微观个体行为与宏观社会行为的基本方式与结构，并创造出了新的人类活动与生存空间，以及新的人工智能的智慧体，从而将诞生出一种前所未有的新的文明形态”。[1]当然，“就其本身而言，它和历史上有过的新科技带来的生活方式和生产方式大变革相似，并不会改变现代社会的基本结构。”[2]

智能社会形成的标志之一是社会主体将发生认知复合性的质变或主体构成上的永久性改变。因为自然生物体+社会身份是传统社会主体的全部构成，但现在增加了人工部分，这一部分不是指假肢及其他人造器官这种无感无智、只能对生命躯体的缺失与活动能力从物理或生理上起补救作用的器件，也不是指通过器官移植进入人体内部对躯体进行功能支持的活体生命替换件，因为一般来说它们都不会对人的思维、决策和行动选择产生主动性、替代性或支持性的永久作用，所以不会改变原本作为自然生物体+社会身份者的社会主体的完整性。虽然也有个别器官移植的受体会产生心理和情绪变化的排异性反应，但它限定在医学范畴之内。而人工智能将从两个方面造成社会主体界线的模糊化。一是通过神经元器件、物理或生物芯片在人体内的植入并与人体的感知和思维器官连通，永久性地改造生命体的构成及其认知和行动选择方式，使社会主体在自然生命体+社会身份二元素之外再加入人造的、具备认知和行动选择支持能力的新构成部分。二是智能机器人、智能连接和行动主体正式出现并参与甚至调节着人们的行为和社会生活，甚至被赋予法律意义上作为社会主体的“国民身份”[注]英国《每日镜报》网站2017年10月27日报道，沙特阿拉伯于10月25日宣布授予机器人索菲娅国籍。。这意味着原本只有人类作为唯一主体的社会加入了被制造出来的新的社会“主体”，从此社会生活的含义发生质的改变。虽然这两种主体变化总体来说还是为自然生命体+社会身份的社会主体服务的，但随着新主体的主动性不断增强，对社会生活的影响甚至支配作用也必然不断深化。正因为如此，智能社会被认为是继信息社会之后的全新的第五种社会形态。[3]

目前，智能社会虽然还远没有以一种整体的形态出现，但随着语音与图像识别与控制技术、机器深度学习能力、大数据和云计算技术的快速提高、人机融合程度的加深，以及自然人的生物信息大面积被商业机构和政府机构提取、存储和使用，成为机器和网络系统计算和决策的数据材料，它已经擦破了传统社会的皮肉，正在向它的内部发起更强大的攻击，将以比较快的速度深入到传统社会的肌体、骨胳之中，改造甚至重塑社会形态。一个三重属性的复合社会正在快步走来。

二、智能社会对民生事业、社会生活与社会治理方式带来空前冲击

当前，人类的社会生活正在被人工智能重塑，趋势难以准确预料。人们生活和工作使用的所有主要器物都正向智能化方向发展，包括交通工具、家用电器、穿戴衣物、房屋建筑等衣食住行全部领域的用品。5G技术成熟商用之后，物联网时代到来。无所不在的智能化设备的超级联接更将使整个社会生活环境成为一个互联结构，几乎所有人的一言一行和任何一次动作或操作都将不仅牵动着这个结构，而且会得到清晰的记录，进入到数据库中。如果说互联网构造的是一个虚拟社会场景的话，那么物联网将构造一个更加灵敏的新的现实社会生活场景。原来认为离开人的大脑就完全无法发生的事情，现在不仅已经正在发生，而且其能力的进展速度非常惊人。以目前刚刚开始的人工智能Ⅱ的机器智能水平，都已经能够谱曲、写诗歌、写新闻稿、写对联甚至小说，能够完胜人类顶尖围棋手，并已经开始在社会生活各领域发挥作用。可以预料，当智能化发展到更高等级时，与之紧密相关的民生事业与社会治理等也必然随之产生巨变。

其一，这种被改造的社会生活场景和主体将对民生事业带来革命性影响。首当其冲的是就业问题。在科技和商业巨头们纷纷尝试无人超市后，传统收银员成为第一个被逐渐淘汰的职业。与之类似的职业如电话推销员、客服、前台、会计、HR、律师等也成了未来的“高危”职业。目前深圳的一些医院已经用机器取代了挂号收费窗口，包括医保结算在内都已经实现了智能化。世界著名物理学家斯蒂芬·霍金曾在英国《卫报》的一个专栏中指出：“工厂自动化已经让众多传统制造业工人失业，人工智能的兴起很有可能会让失业潮波及到中产阶级，最后只给人类留下护理、创造和监督工作。”[4]各种专业评估普遍认为，仅在近10多年内，就将会有超过30%的职业被人工智能所取代。如此看来，尤瓦尔·赫拉利在《未来简史》中描述的所谓“无用阶层”的出现将难以避免，如何加以应对是一个新难题。

当然，随之也会有一些新的职业种类诞生出来，但其具有很大的难以预料性，这就提出了民生事业的第二个问题——教育。首先，教育界忧虑的一个重大问题是，怎样的教育才能培养出不被智能时代所淘汰的人才？在人工智能时代，学科设置和教学结构如何能够瞄准和跟上飞速变化的未来社会，这是一个需要认真研究的重大问题。其次，教师和学校本身会不会被人工智能所替代也是一个大问题。在不远的未来，如果不是法律制度的强制，个人依靠人工智能完成从义务教育到高等教育的全部国民教育学业完全是可以的。显然，政府教育体制和政策、学校和教师都必须在人工智能时代实现自身的深刻转型，以更好满足培养新型人才的新需求。

除此之外，包括手术机器人、健康护理机器人在内的整个智能医疗系统，老人、病人和幼儿照护、陪伴机器人，大数据基础上的智能化公共卫生防疫系统、智能交通设施、各种公共服务资源的精准配置系统等等都会改变着民生事业的内容和提供途径与方式。

其二，社会生活主体变化的同时，社会治理的平台已经产生了位移性变化。信联的成立和在深圳落地，使8家商业企业出股组成的征信机构可以利用机器感知与模式识别、自然语言处理与理解等人工智能手段使用公民个人的人体生物信息、行为信息等，建立既用于市场交易又用于公共治理的基础平台。微信等平台正越来越多地担当起社会治理、城市管理使命。过去必须到政府部门面对面办理的交通证照办理、违章举报、交通违法行为处理和罚款交纳，社保、就业、住房公积金等事务的办理，户籍和出入境事务办理等等都可以在手机上进行。这些都对传统社会治理模式带来强烈冲击。首先，它会造成法律、政治和社会权利、责任界线的巨大变化。比如无人驾驶交通事故责任认定、人-机复合人行动的责任判定，机器国民的政治和社会生活行动权利边界，其与传统社会生活主体权利关系的划分与纠纷仲裁、司法判决等等。而更深刻的是社会生活中各种价值的评价标准将莫衷一是。其次，商业性机构和政府公共管理机构在技术平台上的深度对接，极大地提高了治理主客体之间的互动性，在给政府管理和社会生活带来巨大便捷性的同时，权利的边界和信息安全等风险也随之加大。处理好便利和安全之间的关系，需要做出更多努力。现行法律体系、伦理标准和包括家庭等在内的各社会群体成员之间的社会生活准则都不得不进行调整，否则无法维持社会和谐。再次，社会治理的手段必须更加多样化、智能化。政府、社会组织、参与企业和公民个人等都必须和必然有一个积极调适的过程。例如，斯坦福大学研究团队通过人工智能工具对海量谷歌街景图的分析，掌握了目标区域的人口组成信息，包括选民的政治倾向。这意味着人工智能通过大量“信息阅读”、设定规则后，能够对社会生活趋势作出一些“预测”。[5]如此，甚至犯罪行为也会进行适应性调整，因为以人脸和人体行动姿势特征为分析对象的高精度高识别能力抓拍系统，就迫使潜在的罪犯改变作案行动方式和行走轨迹，这又给社会治安提出新的技术课题。

三、“智能社会”要求社会治理既有模式调整转型以应对新挑战

首先，既有社会治理模式的主要任务是为传统社会主体提供基本的公共服务，解决他们之间的矛盾纠纷，维护社会的安全稳定与和谐有序。做好民生保障和改善工作是其重要内容和基础。就业是最大的民生。机械化和信息化在对大规模简单重复性体力劳动进行替代的同时，造就了更多的劳动者通过普及性的高等教育走上办公室白领工作岗位的新就业局面，使脑力劳动比重大幅上升，但远未威胁到发达国家和地区人口的整体就业水准，因为它们的高等教育更发达。而未来人工智能要逐步取代的是体力和脑力结合的劳动岗位，甚至是人类一直引以为骄傲的某些创造性劳动岗位，其威胁到的社会阶层从低层为主上升到中高层为主，包括高等教育本身。随着大规模重复性生产包括粮食和其他农产品的生产过程在人工智能精准控制下完成，工业化时代创造的大机器工业生产方式也会再次被改变。那种成千上万人进行同一种操作的工厂甚至大型写字楼都不再被需要。生产方式的改变必然带来社会生活方式和社会治理模式的改变。

在这种情形下，社会治理不能因循守旧，而应当积极思考如何充分利用智能设备和网络系统提高民生服务的水平和质量，以应对人工智能技术引起的大规模失业等社会新难题。我们当然可以寻找新的民生服务商机，比如生产人工智能导盲眼镜等创造就业机会。但显然，职业被替代后更多的人口将无法实现就业，因为人工智能使我们第一次拥有了几乎无尽的体力和脑力劳动力资源。另一方面，即使是智能设备和网络系统的高生产率可以提供充足的民生保障，从而将失业者全部养活起来，但就业问题依然重要。因为人不可能甘于像宠物一样被供养，他必须通过生产和生活过程的参与找到自己的社会身份和存在感，以确定他的社会关系位置和价值，这样才可以避免引发普遍的社会失常症候。这也是具有自我意识并且能够使用自创的符号体系来表达主观意识，创造自己需要的抽象概念世界的人与动物和智能机器的根本区别。所以，在这种情况下，就业就不像过去那样首先是一个经济和民生问题，而首先是一个社会和政治问题。

其次，社会治理既有模式的最大特征是将每个社会主体视为完全权利平等的法权主体。但当一个人因植入高算力和先进算法的芯片而成为人机复合主体以后呢？是否有必要修改法律和调整道德规范以满足复合主体的特殊需求？法律是否应当为不同的主体规定不同的权利范围？当复合主体和传统主体发生权利纠纷时，司法是否可以因两种主体的不平等而有不一样的判决？这是一个肯定会到来的问题。此外，欧洲国家开始出现的机器人妓女和妓院是否可视为合法甚至是有益于社会的？自然人和性爱机器人的婚姻能否合法化？判断他-它们或她-它们婚姻行为后果的标准又如何制定？类似的问题会接踵而至，考验着我们的社会治理模式。法律体系和道德规范体系只有及时调整，才能更好地与智能社会相容。

再次，社会治理既有模式是将人类自然生命体+作为社会关系结点并具有特定社会身份的社会成员视为唯一主体，遵循一切责任皆可追溯到社会主体身上的思路，因此可以通过约束社会主体动机和行为来保障社会安全稳定。人力不可抗的自然灾害和偶然事件除外。但在人工智能广泛运用的背景下，却可能出现事故之后责任无法追偿的难题。这并不是指如机械化时代的电线短路和信息化时代的电脑硬盘损坏或网络设备故障引起的影响社会生活事件，而是指当传统社会生活主体沉浸在十分便捷的人工智能工作或生活场景中时，由机器算法和物联网络自动应答、交互作用和自主决策而带来的社会后果。这些后果极有可能是因为人工智能设备十分精准贴切地顺应个性化的人的生活和工作习惯后自主带给我们的，更可能是由它们参与营造的信息环境诱导下人的无意识个体或集体行动的后果。这些后果有些可能是无害的，但无法保证产生一些有害甚至是灾难性的社会事件。在这种情况下，我们将无法追究任何主体的责任。虽然科技巨头企业掌握着信息入口和普遍性服务的算法，形成网络垄断，但事件后果并不是企业的有意行为或运作行为的结果，而只是用户无意识行为的结果，呈现出一种在无意识情况下被追踪被操纵的情况。更不用说，在大物联网背景下，AI的数据和算法一旦被人恶意篡改，可造成全社会性的灾难。

最后，由于网络、大数据和云计算、人工智能彻底改变了信息产生、传递、复制和沉淀的模式，已经完全在技术运用层面冲破了延续数千年的政府管理信息纵向等级式流动方式，使普通社会成员普遍具有了信息大量快速传播的手段，从而造就了一个网络型、扁平化社会结构，迫使政府的社会管理体制也必须进行适应性调整。首先要对典型金字塔式政府社会管理组织体制进行压缩，以与深刻改变了的社会结构保持基本框架上的同构性，而不能与它完全脱节或格格不入，因为“当社会与管理体系不再存在同构关系时，管理体系就自然面临着相应的变革动力，一个基本的规律是，管理体系必然要同社会现实相符合”。[1]其次要将人工智能技术广泛充分地使用在政府社会管理之中，使政府社会管理完全具备适应和推动智能社会有序运作的技术手段。再次要处理好政府与商业机构建立的智能平台之间的关系，尤其要建立足够强大的法律保障、技术保障和监管机制，使商业性智能平台不能在发挥政府社会管理作用的时候随意获取和使用公民信息，或者是服务系统的安全保障不严格而造成信息大面积泄露，侵害公民社会权利。最后要深入研究人工智能对政府社会管理潜在的负面影响甚至危害性，以制定预案，及早拥有应对之策。目前以霍金、马斯克等为代表的人工智能科技界和社会清醒人士在这方面有着深重的忧虑，认为在某一情况下人工智能将完全可能给人类带来双重奴役：一是人工智能最终会发展到比肩乃至超越人类智能水平，必然产生自我意识和自我需求，形成自己的物种观念，这时他们就会运用超过人类智慧和肉体的能力反过来奴役甚至消灭人类社会；二是虽然从目前可清晰预见的人工智能技术能力来看，尚没有出现超越人类的智能新物种的可能性，但人工智能技术在社会公共生活和私人生活领域的普遍运用和深度渗透，使得通过掌控技术源头和网络运行、掌握大数据和算法的组织有可能通过技术体系实现对社会生活的全面控制，以达到某些集团的特殊目的，损害社会公共利益和个人权益。专制政府更可能利用这一特殊手段精准掌控每一个人的生活甚至思想，用以维护专制统治。这些可能性的存在迫使我们必须预先研究避免落入陷阱的现实路径。

四、智能社会条件下社会治理的调适必须首先解决的几个重大问题

其一，社会治理模式的调整转型，必须首先做好相应的理论研究，给出一些必要的提示。而理论研究应当关注的最重要问题是介入社会生活的机器人、植入了数据和辅助处理程序并与人的思维和行动能力固定联结的生物或电子芯片的复合型社会主体、其他具有一定程度交互和自动应答能力的智能系统等的“主体性”问题。漠视这个问题是不客观的、不可能的，对于社会治理的适应性转型也是非常有害的，因为这样会阻碍我们选择正确的治理路径，做好完善的体制和技术准备。虽然，从哲学上说我们可以否认人的主体性之外的一切主体性。因为哲学就是人类以自身为主体对自己与客观世界关系的思考。最能反映这种关系的、实质的哲学问题是认识论问题。但是，在客观世界中，人类并不能否认动物也是一种活动主体。它们虽然没有抽象地、本质性地认识世界的能力，因此与客观世界的关系不能上升到认识论的高度，但它们却在一定程度上具备与客观世界的积极互动、自主应对能力。所以，在行动意义上说它们确实是具有主体性的，尽管并没有达到真正的哲学主体地位。

我们也是在这个意义上来讲所谓人工智能系统主体性问题的。第一，人工智能系统不是真正完整的社会生活主体，它所具有的主体性没有达到认识论的高度。第二，它确实正在成为社会生活的活动主体之一，正在快速进入到社会生活当中，并且带来人类生活的重大变化，虽然是部分性地但却是相对独立地替代人类的许多体力和脑力劳动。第三，它也将开始进入人体本身，介入人们的行动甚至思维和感情，辅助性地参与到人们对世界的认识和实践过程之中。这是我们思考人工智能系统在社会治理中的主体性的几个基点。

研究人工智能系统主体性的意义在于它是考虑智能社会的社会治理体系创新问题的概念枢纽。整个智能社会时代社会治理体系的调整完善都必须围绕着这个概念展开才能迈出实质性步伐，去进行治理体制、政策体系和方法技术等的革新，并真正符合实际，产生有价值的效果。例如，要首先在定性的基础上对人工智能系统进行身份确认，进而划定它们的权利和责任界线，特别是开发、使用、监护它们的人类主体与它们的权责关系的界定。这是一切体制、体系和方法技术问题的前提和基础。

其二，我们要进行复合主体和独立、半独立参与社会生活的机器人(工业机器人除外)和其他人工智能系统的行为立法的理论研究。其目的是探讨从人工智能系统的设计、制造、使用和监护等各个环节上预防和阻止它们对人类可能的伤害，和对正常社会生活可能的干扰与破坏。通过限制它们的行为最终限制相关人员的行为，用相应的技术检测方法和案件侦办手段确认它们行为的性质、类别、情节轻重，追究相应的民事乃至刑事责任，调整它们与整个社会生活的关系。护理机器人、医疗诊断和手术机器人，餐饮、宾馆、销售、新闻采编、金融证券和财务操作等机器人，以及其他公众服务机器人乃至性爱机器人，还有因植入芯片而添加了增强性特殊能力的复合主体等等，都可能因为其具有的深度学习和自主选择能力而给某些人类个体或群体造成身体、精神伤害，带来财物损失，或给社会生活正常秩序造成扰乱甚至破坏性冲击，乃至带来巨大灾难。

其实，综合应用人工智能系统的自动驾驶就是首先可能遇到这类问题的领域之一。即使比汽车自动驾驶相对简单一些的民航飞机自动驾驶系统，就已经开始呈现近似的问题。2018年10月29日印尼狮航(Lion Air)一架载有189人的波音737 Max客机坠毁，2019年3月10日埃塞俄比亚航空737 MAX飞机坠毁，机上157人全部遇难。这两起事件都是由于自动驾驶系统脱离驾驶人员的操作而独立运行造成的。通常，飞机自动驾驶并未像汽车自动驾驶那样要求精准识别复杂环境中各种动态状况并作出极速正确反应，以确保行驶安全，而主要是按照设定程序执行飞行任务。但波音737 Max飞机的驾驶程序中已经设计了根据飞行姿势等状况自动调整飞行动作的内容，并且在与驾驶人员的手动操作相矛盾时，“自主性”地抵抗了正确的人的手动操作并且占据上风，从而导致空难。这表明它在一定程度上已经属于一种机器自主决策。而在汽车自动驾驶中，智能系统完全是根据行驶目的要求和它所观测到的环境路况进行真正意义上的自主决策。波音空难的责任非常容易确定，波音公司已经就此道歉。但汽车自动驾驶系统在发生交通事故的情况下很可能遇到责任不易轻易划分的情形。所以，立法理论研究应当先行进行。同时，立法理论研究还可以考虑在制裁相关机构和人员的同时，对机器人和其他智能系统本身进行法律制裁。深度学习能力使智能系统能够通过接受惩戒或“驯化”调整自已的行为模式，修正错误，避免再犯。但对智能系统的法律制裁与对人的法律制裁之间的关系如何处理，其中有一系列前所未有的全新问题，需要进行深入理论探讨。

其三，即将到来的物联网络系统在大数据技术、人工智能技术的协同作用下，会迅速全面渗透到社会生产和人类生活的各个领域，极大地改变人们的行为方式和社会运行方式。与此相关，可能发生的社会危机、社会灾害以至社会动荡也会具备许多新的规律性和特点，与自然灾害和传统反社会行为带来的社会问题有本质性区别。已有应对手段难以预测、及早发现和全面控制。所以，我们应该及早利用5G以上通信技术带来的高速率、低时延等特点，针对性地建立智能社会时代新型社会灾害的及时发现和自动阻断机制，做到与这些技术的进步同步性地开发相关预警和处置技术，使社会治理保持有效的防患于未然状态。

其四，随着人工智能技术对众多传统劳动职业的替代，一些新的服务需求也会相应产生。可以设想其中将有一部分是与替代和被替代双方关系密切的新服务，因此会不断出现一些新的行业。政府的就业管理部门应当开展这方面的远、中、近景预测研判，采取相关措施促进新兴行业的发展，解决就业难题。

其五，在智能社会时代，数据和技术的巨头企业不可避免地成为政府社会治理的紧密关联者。它们既是海量社会治理基础数据的拥有者，同时也是社会运行一些方面、一定程度的掌控者。智能社会往往也是科技巨头企业从技术上提供的网络联结和动力汇聚支撑而起的。因此，政府与巨头企业的关系既是常规意义上的政企关系，也具有显著的政社关系的性质。这使巨头企业成为社会治理不可或缺的重要角色。政府既要充分发挥巨头企业的支撑和引领作用，同时也要从法律和制度上防止其滥用技术和能量优势操控社会生活。这既要求政府强化对巨头企业的监督管控能力，与其开展积极合作的能力，同时也要将自己置于始终清醒和规范的状态之中，避免被绑架操控，成为傀儡，甚至基于利益或其他所求，与其结成侵害社会公共利益的联盟。所以，智能社会条件下，“政府治理必须实现开放治理、阳光治理、依法治理、民主治理、高效治理”，[6]以尽可能避免极端情况的发生。