重塑人工智能治理中人的主体性

郑颖瑜

（广西社会科学院台湾研究中心，广西 南宁 530022）

一、引言

人类正在开启一场名为“智能革命”的重大技术变革，其重点在于对人类智能的模拟和提升［1］。处于初始阶段的智能革命最显著特征为人工智能的快速演进。在新冠肺炎疫情防控工作中，以大数据为基础、以算法为技术框架、拥有强大算力的人工智能展现了惊艳世人的治理能力，智慧城市、城市大脑、车联网等以人工智能为核心技术的治理方案正在逐步推广，人工智能治理势不可挡。一方面，人类已经充分体验到人工智能治理的高效率、智能化、精细化，对人工智能的依赖程度日渐加深。另一方面，随着人工智能开始嵌入并主导越来越多的人类事务，机器人自主决策的“去人类化”或“去人类中心化”正在重塑人机关系［2］，人类存在的传统价值正面临前所未有的挑战。正是因为人工智能正在弱化人的存在价值，人类不得不思考这样一个问题——如何重塑人工智能治理中人的主体性？

在探讨问题之前，首先对“人的主体性”这一概念进行分析和界定。关于人的主体性研究最早可以追溯到古希腊时期，哲学家普罗泰戈拉提出“人是万物的尺度”［3］，认为万物只有与自我联结才能获得意义，首次强调人的主体地位和主观能动性。苏格拉底的“认识你自己”原则认为外部世界的意义是通过人和人的心灵达成的，由此，人的能动性得以被突出和强调［4］。普罗泰戈拉与苏格拉底的观点看似相近，实际上普罗泰戈拉重视的是人的感性认识，认为事物就是每个人所感知的样子；苏格拉底则诉诸于人的理性和思维的力量来实现对外部世界的认识和把握。笛卡尔提出“我思故我在”原则，他认为所有知识都建立在“我思”这一基础上，知识是否合理是通过人的思考进行验证的，人的主体性在对科学知识的理性思考和把握当中得以体现［5］。西方哲学真正确立人的主体性原则是从康德开始的，康德从对主体和客体之间关系的探讨中发展自己的主体性思想，他提出理性和自由是人的最高本质，在对理性和自由的诉求和拥有中，人作为主体积极能动地认识、构造，甚至变革客体［6］。马克思认为人的主体性主要指人作为活动主体在对客体作用过程中所表现出来的能动性、自主性和自为性，并将历史唯物论引入其主体性思想，提出人的主体性受到人的生产能力和与之相应的社会关系状况制约，从而在人类社会发展的不同时期呈现不同面貌［7］。前人的研究为我们理解人工智能治理中人的主体性提供了重要的借鉴，一是在关于人的主体性的论述中提出一些重要的原则，包括主体性得以确立的根本前提是主客体二分观念，人作为活动主体能够认识和改造客体；二是根据马克思的主体性思想，人的主体性应当是历史的、具体的，没有抽象的主体性。因此，在讨论人的主体性时，既要把握重要原则，又要结合具体的历史情境进行分析。当前，人类处于智能革命的新时代，人工智能强势介入人类社会治理当中，在这一背景下谈“人的主体性”，其具体内涵指的是人作为活动主体充分发挥能动性、自主性和自为性去主导人类社会的治理。其中，能动性侧重于主体能力，表现为人作为主体在治理中的自觉选择和创造；自主性侧重于主体权利，表现为人作为主体对治理资源的占有和支配；自为性侧重于主体的目的，“自为”即“为自”，表现为人作为主体开展治理的目的是为了增进人类福祉。

关于如何重塑人工智能治理中人的主体性，应当在深入分析人工智能治理对人类社会呈现出来的助力与风险基础上，明确人工智能治理的边界，引导技术的应用服务于增进人类福祉的目的。进一步地从人类自身出发探索将人的主体性带回治理的有效路径。文章正是基于上述思路开展对问题的研究。

二、人工智能治理：塑造更美好的人类社会

人工智能正在嵌入人类社会的方方面面，并展现出强大的治理能力，人工智能的应用进一步增强了治理的协同性，极大提升治理效能和提升人类决策效率，为塑造更美好的人类社会带来强大助力。

（一）人工智能强化治理的协同性

人工智能正在推动跨部门的数据共享、流程再造和业务联动，推动治理形式和服务方式从“碎片化”向“整体化”转变。以深圳的智慧城市建设为例，2020 年的深圳城市“智慧大脑”是一个能看、能用、能思考、能联动的智慧城市运行和指挥中枢，汇聚了各类信息系统和数据，已打通42 个系统，100 多类数据，28 万多路监控视频，并形成了市—区—街道三级联动指挥体系［8］。当前，城市“智慧大脑”运用大数据、云计算、人工智能等技术联动，打通了司法、公安、交通、安监、消防、环保等条状业务系统，突破了部门间的信息壁垒，实现数据共联共享。政府可以通过“智慧大脑”宏观掌握城市运行的全局，并可以随时查看城市各方面的动态详情，实现用数据驱动城市治理的精细化、科学化、智能化。将来，人工智能在推进协同治理方面有更宽广的应用场景，如在全球公共卫生治理、全球生态环境保护、解决跨国犯罪问题等全球治理重大议题，能够为推进国与国之间、地区与地区之间的合作提供强大技术助力。

（二）人工智能极大提升治理效能

一是人工智能嵌入治理，有利于形成公共需求表达——回应的高效通路。随着现代社会的发展，公民对公共服务的需求越来越多元化。一方面现有的利益表达渠道难以充分反映公共需求，另一方面政府由于规模有限也难以充分回应日益增加的公共需求。而人工智能的应用，能够为解决公共服务供给——需求之间不匹配的问题提供技术支持。目前，中国部分地方政府的电子政务应用人工智能对话系统，使公民可以通过与APP 或智能机器人进行对话，表达相关需求，智能政务系统能够及时对公共需求进行回应，并实现全天候提供公共服务，从而形成公共需求表达——回应的高效通路［9］。在不久的将来，在对开放数据进行合理利用的基础上，将个性化推荐算法应用到公共服务当中，可以对公民的需求进行更精准的数据抓取，从而为公民提供更加精准化的公共服务。

二是人工智能依据强大的算法和算力，解决治理当中的痛点，提高治理效能。人类社会当前存在着许多难以解决的治理痛点，而随着人工智能嵌入治理，为这些问题的解决提供了“善治”方案。如在城市交通拥堵的问题上，未来新一代车联网、新能源汽车和共享经济的融合发展能够提供新的解决思路。滴滴新发布的D1 新能源共享汽车，计划通过升级车联网，由人工智能系统对车辆行驶的时间、路线、距离、速度进行自动调节，并根据汽车剩余电量、与充电桩之间的距离进行智能调配车辆，这样就能利用有限的汽车实现行驶时间最大化，从而减少城市每天行驶的总车辆数，大大提升城市交通运行效率［10］。2020 年，发展负责任的人工智能取得了系列成效，人工智能技术在预警独居老人水表和校园暴力行为等方面的应用引起社会广泛赞誉［11］，人工智能正在更多层面提升治理效能。

（三）人工智能辅助人类提升决策效率

人类社会任何决策的制定都是以充分有效的信息为基础。在人工智能应用于决策之前，信息的搜集、筛选、分析是一个耗时耗力的过程，而以大数据技术为基础的人工智能天然存在着信息处理方面的优势。只需要给人工智能决策系统提供丰富的决策案例库，人工智能就会根据学习算法对策略选择进行仿真模拟，并由决策效果评估模块对决策效果进行预判，从而为人类决策提供方案。早在20 世纪80 年代，兰德咨询公司开发的ROSIE AI 系统能够模拟国际行为体在战争中的战略决策。在新英格兰复杂系统研究所，研究人员已借助人工智能预测全球性流行病、内战等事件的爆发和传播，并为决策者提供规避风险的决策方案［12］。未来，随着自然语言处理技术的进一步发展，将极大提升人工智能从决策案例库当中抓取有效信息的精准度，借助人工智能实现精准高效的决策将变得可行。

三、人工智能治理：带来人类边缘化风险

人工智能作为一项深刻改变世界的技术，在给人类带来极大便利的同时，也因技术发展的“不可控性”而蕴含巨大的风险。霍金（Stephen William Hawking）曾提出著名的“人工智能威胁论”，认为人类必须警惕人工智能发展的威胁，因为人工智能一旦脱离束缚，就会以不断加速的状态重新设计自身，届时人类将无法与之竞争［13］。随着人工智能在治理中的应用范围不断扩大，治理中人的主体性正在逐渐被弱化，人类边缘化风险加剧。一是算法权力的扩张可能导致算法独裁，届时人可能成为被算法围困的奴隶。二是人工智能的发展不断挑战既有的社会价值观，甚至解构人的存在价值，使得人类面临价值迷失的危机。三是人工智能的发展不断刺激人类欲望的膨胀，人类越来越强调智能体在治理中的责任，而人类自身的责任意识和参与治理的意愿不断降低，造成治理中人的责任缺位。

（一）算法独裁

自从步入人工智能时代，算法对人类的操纵几乎无处不在。文章将由于算法权力无限扩张而导致算法对人类进行奴役的现象称为算法独裁。算法独裁绝非只是一种想象，有学者指出人工智能技术丛的相互助长性发展，已经逐渐展现出一个“技术利维坦”的轮廓［14］。现实中的算法独裁主要有两种演绎方式。一种是算法对人的精神操纵。科技巨头凭借数据垄断和资本垄断的双重优势，依赖于他们独特的算法规则向人类精准推送信息和诱导决策，人工智能由于掌握了大量的个人隐私数据，甚至比我们自己更加了解自己。近年来科技公司层出不穷的大数据杀熟、利用大数据诱导过度消费等丑闻，正是算法操纵人类决策的体现。更深层次的算法独裁出现在算法权力与政治权力、资本巨头三者结合之时，形成了几乎无坚不摧的“技术利维坦”。2018 年Facebook 利用其庞大的用户数据，对不同偏好的用户进行精准的信息推送，使他们支持Facebook 公司预定的总统候选人，以达到操纵选举结果的目的［15］。另一种是算法奴役人的行动。2020 年《人物》期刊对美团外卖骑手这个群体进行了近半年的调查，指出外卖骑手迫于人工智能“监工”的巨大压力，不得不铤而走险挑战交通规则，导致交通事故频发［16］。外卖平台研发的实时智能配送系统，借助于人工智能算法，依据效率最大化的原则进行订单派送，由于派送时间被压缩到极致，外卖员为了不被系统惩罚，不得不通过超速、闯红灯、逆行等危险方式确保外卖按时送达。效率最大化的算法逻辑与利润最大化的资本逻辑形成了对外卖骑手最残酷的双重剥削。这不仅仅是外卖行业的个案，在更多人类与人工智能协作的行业中，人类正处于被算法规则管制、监督甚至是围困的境况。

（二）价值迷失

人工智能治理的崛起，正在逐渐解构原有的社会价值观。层层增设的机构和无处不在的人工智能监控，可能使人的主动意识、理性精神、自觉担当消失于无形，由此让人逐渐产生出机械服从人工智能安排的习性，而人的社会性成为人工智能挤压出来的副产品［14］。包容、忍耐、节俭等美德在一次又一次技术浪潮的席卷之下日渐凋零，在来势汹汹的智能革命面前，传统美德更是岌岌可危。搜索引擎和社交APP 从算法上精心设计，给用户推送更多符合用户偏好的内容，结果就是，无论何种政治派别都会落入到与外界隔绝起来的道德矩阵之中［17］。确证偏差、团体思维、部落主义在社会蔓延，处于信息世界当中的人类变得更加自我封闭，微小的观念差异也能造成严重的对立分歧，人类正在变得越来越缺乏包容。资本巨头利用无处不在的人工智能，无时无刻不在暗示每一个人只有不断地消费才能获得幸福快乐，而忍耐和节俭是反人性的。

人工智能更强烈的冲击在于动摇了人本身的存在价值。2013 年牛津大学的卡尔·弗瑞（Carl Benedikt Frey）和迈克尔·奥斯本（Michael Osborne）在研究报告《The future of employment》中指出人类社会约有47%的工作岗位正在被人工智能取代［18］。在全球经济持续衰退、新冠肺炎疫情常态化的背景下，叠加上人工智能快速发展这一变量，人类的工作机会越来越少，就业竞争愈发激烈，近年来“鸡娃教育”“打工人内卷”“年轻人加班猝死”等社会热词反映的其实都是人类愈发恶劣的就业环境。尤瓦尔·赫拉利（Yuval Noah Harari）认为智能革命会加剧人类社会的不平等，也许绝大多数人将沦为无用阶级，而小部分人通过升级成为超人类［19］。也有学者对此表示乐观，克里斯·安德森（Chris Anderson）指出数字化技术使得产品的实体制造成本趋向于零，同时其再生产的成本也会趋于零［20］。也许从长远来看，人工智能技术发展的确能为人类社会提供丰富的物质条件，使得人类不必参与劳动也能获得充足的生活物资。但是问题在于，长期以来劳动除了是人类赖以生存的技能，还担负着人类实现自我价值的重要作用，劳动机会的消失会不会真的导致无用阶级的出现？人工智能不仅在劳动机会上撼动人类存在价值，还呈现出替代爱人、亲人、朋友等人类重要社会角色的趋势。越来越多的人开始将人工智能当作人类看待，从人工智能身上获得情感的慰藉。将来更多的人也许会成为信息世界中的一个个孤岛，不再从劳动中实现价值，不再从情感上被需要。人工智能技术的发展，给人类的价值观甚至是人的存在价值带来了颠覆性的影响，加剧了人类的价值迷失。

（三）责任缺位

人工智能介入治理给人类带来更多的便利、更舒适的体验，同时也在打破人类权利——义务的平衡。在过去，想要享受权利就必须履行相应的义务是人类社会的共识，人工智能的出现代替人类履行了部分义务，甚至比人类自身更为尽职尽责。人工智能治理的美好前景刺激了人类更多的需求，或者说刺激了人类欲望的无限膨胀。人工智能的发展应用纵容了人类自私风气的泛滥，无论在私人领域还是公共领域，人类都在变得更不负责任。一些研发公司正在研究将人工智能与全仿真人体相结合，以期为人类生产“完美伴侣”。不需要付出任何关爱与照顾就能获得绝对忠诚、完美契合的伴侣，人类还会选择负担传统的家庭责任吗？自私的风气在私人领域蔓延，还不断侵蚀人类的公共责任意识。既然人工智能治理的效率比人类更高，何不将专业的事情交给专业的人工智能来处理？人的理性判断正在逐渐让位于技术判断，泰勒主义正在回归。即使是对强大的人工智能心存忌惮，人类似乎也并没有指望通过强化自身责任重回治理的中心，更多还是将希望寄托于技术的完善。比如通过设计出更好的算法让人工智能更加负责，对人类更加忠诚，又或者通过基因工程、仿生工程和人工智能相结合制造出能够与机器人分庭抗礼的超级人类。人类企图将自己的责任转嫁给人工智能，甚至将自己的未来也悉数托付于科技，人类社会唯一运行的只有物理法则，而我们正在逐渐忘记对人类社会原有的义务。

四、如何重塑人工智能治理中人的主体性

人工智能治理一方面为人类社会的发展提供了更多美好设想；另一方面人工智能治理的广泛应用正在逐渐弱化人的主体性，带来人类边缘化的风险。面对人工智能治理给人类社会发展带来的助力和挑战，首先应当设定人工智能治理的边界，以确保技术的应用是为了增进人类福祉。其次，人类自身应当以更积极主动的态度，从全球、国家、社会和个人多个层面入手，探索将人的主体性带回治理的有效路径。

（一）限定人工智能治理的应用边界

1.明确人工智能在治理中的角色定位

关于人工智能在现代人类社会治理中的角色定位争论在西方国家由来已久，而国内人工智能研究是在阿尔法狗战胜人类围棋世界冠军之后兴起的。

有关人工智能伦理的讨论中，阿西莫夫机器人三原则、英国国家工程和物理科学研究委员会（EPSRC）起草的机器人准则都将机器视为产品或工具。将人工智能视为工具的伦理视角，一方面可能会限制技术的发展，另外一方面也可能导致新的伦理困境。实际上，人工智能在人类社会治理当中发挥着越来越重要的作用，从决策到执行随处可见人工智能的参与，如果只是将人工智能视为工具，将难以产生有效规范人工智能行动和发展的伦理准则。

另一种观点认为一旦技术的“奇点”降临，强人工智能将会全面取代人类，并最终成为人类的主人。霍金（Stephen William Hawking）、埃隆·马斯克（Elon Musk）、尤瓦尔·赫拉利（Yuval Noah Harari）都对未来人工智能超越人类能力表示警惕和担心，认为人类有可能制造出自己无法控制的怪物，并最终成为怪物的奴隶。将人工智能视为“主人”因而对其发展充满警惕的思想是有作用的，比如在司法决策领域限制算法不可解释的人工智能应用、在军事领域限制人工智能应用等举措，都是基于这样一种思维。但过于关注未来“强人工智能”或“超级人工智能”的危险，而忽略当前人工智能发展对人类社会的积极影响，这种观点太过于片面，可能会扼杀技术向善的可能性。而且就技术发展现状而言，现阶段人工智能是建立在“大数据+机器”学习的基础之上，仍然属于“弱人工智能”的范畴。虽然人工智能的应用范围在不断扩大，并发展出更加强大的算力和算法，但关于具有自我意识、有知觉、有真正推理和解决问题能力的“强人工智能”仍处于起步阶段。因此，对于人工智能作为“主人”的担忧为时过早。

有学者根据AI 在现代政治生活中所扮演角色的两个极端，将整个频谱上的两个端点定位为“助手（工具）”和“主人”，并指出我们的关注点应当放在这两个端点之间的丰富频谱之上，去讨论近期或中期的政策选择，而非跳过这个过程直达端点［21］。这种观点蕴含着辩证的思维方式，为我们探讨人工智能在治理中的角色提供更加广阔的探讨空间。目前，阿西洛马、电气和电子工程师协会（IEEE）、美国公共政策委员会计算机协会（USACM）在内的诸多机构（或会议）所提出来的AI 伦理准则，更多是将AI 视为法律意义上的责任主体。2020 年中国出现首例认定人工智能生成文章构成作品并拥有著作权的案例，这意味着在法律层面上关于人工智能是否具备法律主体地位的争议有了重大突破［22］。在这个判例中人工智能被认定为拥有著作权的法律主体，这对我们如何定义人工智能具有重大借鉴意义。人工智能早已超越了工具的属性，在治理当中承担更多实质性的工作，与人类开展更多协同合作。日本鉴于人工智能的发展趋势，更倾向于将人工智能作为伙伴。日本人工智能学会的伦理原则中提到：“如果人工智能想要成为社会的准成员或成员，必须遵循人类制定的原则”［23］。就人机共生的治理环境而言，应当将人工智能视为治理的主体之一，与人类开展协同治理。

基于将人工智能作为共同治理的主体这一视角，文章将进一步探讨人工智能在治理当中所承担的责任和治理的边界。

2.限定人工智能治理的应用边界

目前，关于人工智能应用边界问题的探讨十分丰富，不同的国家、国际组织乃至企业都积极参与关于人工智能伦理准则的制定工作。最具国际影响力的人工智能准则有2017 年由人工智能领域专家联合发布的《阿西洛马人工智能原则》和2019 年欧盟委员会发布的《可信赖人工智能伦理准则》。

《阿西洛马人工智能原则》当中包括23 条AI 发展的原则，其中6～18 条是关于伦理和价值的部分，具体条款依次为安全性、故障透明性、司法透明性、责任、价值归属、人类价值观、个人隐私、自由和隐私、分享利益、共同繁荣、人类控制、非颠覆、人工智能军备竞赛（致命的自动化武器的装备竞赛应该被避免）［24］。这些条款秉承“人类中心”的理念，要求人工智能的发展必须符合人类价值观和维护人类利益。

《可信赖人工智能伦理准则》由欧盟人工智能高级别专家组起草，列出了“可信赖人工智能”的7 个关键条件——人的能动性和监督能力、安全性、隐私数据管理、透明度、包容性、社会和环境福祉、问责机制［25］。其中包容性准则提出人工智能的发展必须体现多样性、非歧视性和公平性，人工智能提供的服务应面向所有人，无论年龄、性别、种族或其他特征，系统不应该有任何偏向。社会和环境福祉准则提出人工智能系统应该是可持续的，必须对保护生态负责。《可信赖人工智能伦理准则》为人工智能伦理的建设提供了更广阔的视野，不仅强调人的中心地位，并将公平正义、可持续发展的理念纳入其中。

重新爬上床，却横竖睡不着了，身子翻来覆去，心情也变得烦躁起来。越不想去听客厅的动静，耳朵却偏偏侧起来听。于是又听见小母鸡说，咯咯咯，他们可真逗。老母鸡忙不迭地回应，咯咯答，谁说不是呢？

借鉴当前经典人工智能伦理准则，结合人工智能发展的最新动态，文章提炼出人工智能治理的边界：一是不动摇人在治理中的中心地位；二是不颠覆人类基本伦理及价值观；三是不危害生态环境。不动摇人在治理中的中心地位要求AI 算法是可解释的，通过建立高度透明的AI 系统以保证人类能够对系统进行监督和控制，人工智能治理应当支持人类自觉，帮助人类提升自身的治理能力，而不是加剧人的边缘化和异化。不颠覆人类基本伦理及价值观要求AI 系统的行为和目标必须符合人类基本伦理价值，包括坚守不伤害人类、不损害公平正义、技术向善三个基础性原则。不危害生态环境要求人工智能系统坚持可持续发展原则，人工智能系统的运转和升级不能以耗竭资源和破坏生态为代价，同时，人工智能治理应当兼顾增进人类福祉和保护生态环境等多重目标，保障人类、动物、自然环境乃至其他智慧体和谐共生。

技术的发展总会一再突破人类的想象，甚至会撼动人的主体地位，但是人类可以明晰技术应用的边界，选择哪些技术可以投入使用，哪些技术应该禁止封存。人工智能就是智能革命时代的“技术之火”，“火”带来的是福音还是厄运，关键在于人类是否正确掌握和使用“驭火之术”。因此，人类对于人工智能的发展应当秉持包容审慎的态度，在设定边界的同时积极探索人类与人工智能深度协作治理的路径。

（二）人类自身的积极探索

1.加强全球合作，应对治理挑战

人工智能的发展是没有国界的，我们很难用一个传统的边界来划分人工智能［26］。当人类面临无国界的人工智能带来的治理挑战，必须跳出保护主义、孤立主义、民粹主义的狭隘视野，以全球合作发挥人类在治理当中的重要力量。

首先，企业、社会组织、各个地区、主权国家之间应通过深化交流，增进理解和互信，并在此基础上就人工智能治理的规则达成广泛共识，构建符合全人类福祉的基础上更加开放包容的人工智能治理框架，引导人工智能向善发展。

其次，重构多边主义治理机制、推动构建人类命运共同体，有利于凝聚人类智慧和力量解决更多全球性问题。在全球经济持续衰退的背景下，逆全球化浪潮愈演愈烈，多边主义的全球治理理念逐渐式微。随着新冠肺炎疫情肆虐全球，百年变局叠加世纪疫情，美国在这场人类浩劫中坚持奉行单边主义使得全球疫情走进困局，也严重动摇了自身建立的世界霸权秩序。旧秩序正在分崩离析，新秩序急需构建，国际社会需要一个负责任的方案解决人类面临的危机。中国重提多边主义理念，认为解决好这个时代课题的出路在于维护和践行多边主义，推动构建人类命运共同体［27］。在全球建立多边治理新机制，是解决当前全球新冠肺炎疫情的有效方案，也是解决全球治理中面临的种种问题的必由之路。从人机共生的治理环境而言，目前世界各国在人工智能发展上存在着巨大差距，导致发展中国家存在着被边缘化的风险。通过建立多边主义治理机制，将技术先进国与技术落后国、发达国家与发展中国家纳入全球治理体系当中，在平等的基础上开展对话与合作，能够预防发达国家在人工智能治理领域形成新霸权主义，有利于形成和谐共生的全球治理新秩序。

2.完善国家制度，保障人类自治

而人民民主制度是保障人在治理中主体地位的有效制度设计。在这一制度下，人民是国家的主人，增进人民福祉是国家治理的目标，人本身是目的而不是工具。人民能够通过民主协商和民主决策等机制主导国家治理的重大事项，并通过行使民主选举、民主管理、民主监督等政治权利参与国家治理的过程，公共权力实际上掌握在全体人民手中，从而避免政治权力与算法权力合谋形成新的“技术利维坦”。

主权国家只有以人民民主制度作为基础，进一步建立以“公平”为核心的收入分配机制，才能避免少数资本家凭借技术垄断地位吞噬国民收入。政府必须对贫富分化保持高度警惕，主动作为，大刀阔斧开展收入分配改革，将智能革命带来的巨大经济红利最大程度惠及人民。关于分配制度的改革，全民基本收入模式提出，政府应当对控制算法和机器人的富人和企业征税，再用这笔税金为全体国民提供满足其基本需求的津贴［30］。全民基本服务模式则认为，政府应当将税金用于提供全民基本服务，包括提供免费的教育、医疗、交通等服务［31］。浙江作为中国首个“共同富裕示范区”提出了内容更为丰富的收入分配改革方案，一方面致力于消除数字鸿沟，保障不同群体共享数字红利；另一方面通过提供更完善的公共服务，探索知识、技术、管理、数据等要素价值的实现形式，改善贫困群体生活，推动慈善组织健康发展等政策组合，以促进共同富裕目标的实现［32］。以上关于收入分配改革的探索为促进社会公平、增进全民收入和福利提供了有益借鉴。建立公平的收入分配机制，能在一定程度上缓解技术创新造成的劳动异化，让人民从疯狂的内卷中得以喘息，抬头仰望星空，思考人类未来等更宏大的命题。

建立数据开放共享的治理机制，为公民参与国家和社会治理提供治理资源。在智能革命的背景下，数据已经成为最重要的治理资源之一，无论是国家决策、社会治理还是公司运营，都越来越依赖于大数据。而少数跨国公司和平台对数据的垄断造成了垄断巨头和普通民众之间的信息不平等，即便是民众有参与国家和社会治理的意愿，但是由于掌握的数据和信息十分有限，甚至对治理的相关议题都难以理解，更不用说深度参与议题的协商和决策。阿克莱特·彭特兰提出政府应建立“将公民自身数据的所有权、使用权、控制权和处置权交还给公民自己”的“数据新政”［33］。实际上，各国也正在积极探索一种以保护个人数据所有权为基础的数据自由流动和共享的机制。由金链盟、观韬中茂律师事务所、金融科技·微洞察三个机构联合发布的《DDTP：分布式数据传输协议白皮书》提出一种由个人主导的分布式数据传输协议（Distributed Data Transfer Protocol DDTP）。该协议基于区块链技术进行设计，通过区块链的全流程追溯、防篡改、传递信任等特性，叠加引进权威机构的参与，助力更安全、可信、易协作的个人信息自由流动［34］。根据DDTP 的设想，用户可以将个人数据一键导入任何存储平台（包括云端、个人电脑等），这个数据存放过程需要政府指定的权威机构全程监督，并由权威机构将数据的哈希值（独一无二的数据指纹）存在中立的区块链上，以预防数据篡改和数据垄断等问题。未来随着科技的发展，DDTP 将有可能在更广泛的范围内实现分布式数据传输、核验和协作，人们可以通过数据的自由流动和开放共享实现跨机构、跨行业、跨场景的协同合作，从而有利于普通民众更加充分地参与到各类国家和社会治理议题当中，为国家和社会的发展贡献智慧。

3.发展创新型社会单元，开展创造性生产活动

智能革命带来生产力高速发展，社会财富急剧增长。一种乐观的设想是：巨大的财富为每个人自由而全面的发展奠定了物质基础，人类从异化的劳动中解脱，人的创造力得以释放。

然而这个理想的进路中面临着一个重大变量——消费主义。席卷全球的消费主义俨然成为当今受众最广泛的信仰，人的价值不以生产体现，而是以个人消费行为和所拥有的消费品作为衡量个人的价值尺度。人工智能伴随着消费主义而生，并充当着消费主义扩张的技术工具，促使人类对消费主义的信仰更加狂热。即使社会财富无限增长，人类总会有更多的消费需求去耗尽财富甚至是自然资源。人拥有了越来越多的消费品，但人的价值却更加贫乏，这其实是人被物化的过程。因此，必须打破消费主义和人工智能的结盟，重新定义人的价值。

据麦肯锡咨询公司的研究报告《Where machines could replace humans and where they can't》显示，人工智能能够替代人类的领域主要包括数据收集、数据处理、可预测的重复性工作，而人类在需要创造力、决策力、专业技能、沟通能力、应变能力的领域仍具备独特优势［35］。这份报告为我们抵御人工智能对人的全面替代提供了一个思路，就是调整人的生产活动，专注于发展人类优势领域。从事生产活动并不是个人为了获得更多消费品的一种手段，生产的过程本身就能创造意义。马克思（Karl Heinrich Marx）和恩格斯（Friedrich Von Engels）认为生产是人区别于动物的本质特征，并且是人实现自我价值的根本途径，《德意志意识形态》中提出“他们是什么样的，这同他们的生产是一致的——既和他们生产什么一致，又和他们怎样生产一致”［36］。因此，应充分发挥人的创造力，通过创造性的生产活动实现人的价值。

关于如何开展创造性生产活动，创新型社会单元是一个有效的载体。例如，在互联网上生产优质原创内容的博主，已经形成了一个新的行业。博主根据个人（或团队）爱好或特长，以文字或者是视频的形式为平台用户提供优质内容，平台用户通过点赞、打赏等多种形式给予内容的创造者回馈，从而实现了生产的精神褒奖和物质价值归直接生产者所有。积极发展创新型社会单元，不仅能为个人在智能革命的浪潮中寻找立足之地，而且能够让人在生产当中实现自我价值。也许，当人的身心被创造性的生产活动所充实，就能抵御消费主义价值尺度对人的侵蚀，重新发现多元的价值。

4.重塑个人责任意识，提升治理能力

如果我们放弃自己的义务，最终也会失去相应的权利。如果担心被人工智能所取代，人类所能做的不仅仅是对人工智能的发展进行规制，更重要的是重拾自身对人类社会乃至整个地球生态系统的责任。这份责任不只是由国际组织和政府承担，也是每一位地球公民所应当承担的义务。每一个人都应当警惕对科技的过度依赖，寻求一种更为克制的生活方式。在消费主义大肆扩张之前，几千年来人类都相信唯有克制欲望才会让社会和谐，而贪婪会带来无尽的灾难。这古老的箴言值得人类奉为信条。只有超越人性中的自私贪婪，才能重塑个人的责任意识，主动去关心自己所生存的社会和环境，并承担作为治理主体的责任。

在重塑个人责任意识的基础上，个人还需要发展参与治理的能力。一是拓展个人参与治理的途径。除了依赖于国家治理机制的创新，个人可以通过重新建立与身边现实世界的联结，从社区互助做起，包括社区公共卫生治理、社区合作养老和育儿等需要社区住户线下参与的行动，主动扩展参与治理的途径。积极参与和自己现实生活息息相关的社区微治理有利于培育治理能力，同时重新建立一种比沉迷虚拟网络和线上社交更有意义的生活方式。二是坚持终身学习。智能革命引起了空前深刻的社会变迁，而且变迁的速度不断加快，范围极速扩大。如果不通过有意识的、持续的学习，个人将越来越难以理解自己身处的不断变动的社会。在这个社会当中，教育不会因为个人离开校园而终止，学习成为贯穿人生最重要的主题，学习能力是人最重要的元技能。每个人都应当树立起终身学习的理念，主动去认知和使用智能革命时代的新技术，在人工智能的辅助下更好地履行治理的义务。

五、结论与进一步思考

人工智能是人的产物，无论未来人工智能发展出多高的智能，甚至成为与人类共同构建新治理体系的主体之一，人工智能的应用都应当坚持为人类服务的根本方向。应当警惕人工智能应用的两种趋势：一是人工智能与政治权力、资本力量合谋，成为奴役人类的新工具；二是人类将贪婪的欲望投射到人工智能当中，颠覆人类基本伦理价值，甚至毁灭我们所生活的星球。人工智能应用方向的偏差会导致人的主体性丧失，因此，应当设定人工智能应用的边界，为掌握人工智能这一“技术之火”的人类提供一份“驭火指南”，以免引火自焚。面对人工智能对人类社会治理的强势介入，除了以防御的姿态建立技术应用边界，人类还必须以更负责、更主动的态度主导治理转型，从全球、国家、社会、个人多个层面着手，构建以人为中心的治理体系。从全球视野来看，应建立全球通用的人工智能治理框架，重构多边主义治理机制，推动构建人类命运共同体，形成和谐共生的全球治理新秩序。从国家角度而言，发展人民民主的政治制度是预防政治权力与技术力量合谋的有效制度，进一步开展以“公平”为核心的收入分配改革是预防资本力量与技术力量合谋垄断财富的有效机制，建立数据开放共享的治理机制能够为民众参与治理拓展渠道和提供治理资源。从社会角度而言，应通过发展创新型社会单元来调整人的生产活动，以创造性的生产活动重新定义人的价值。从个人层面来说，重拾心中的道德律，重视个人对人类社会乃至自然界的责任，通过学习和实践积极发展治理的能力，才是摆脱技术控制的根本之策。

在人工智能时代如何重塑人在治理中的主体性是一个宏大的问题，文章只是根据技术发展的最新趋势提出零星的、粗浅的看法，尚未形成体系化的真知灼见，仅仅起到抛砖引玉的作用。此外，由此问题衍生出来的另一个问题仍需解惑——从消费主义浪潮中诞生的人工智能，究竟是会成为消费主义的帮凶，促使人进一步异化为消费品的附属？还是会终结消费主义，帮助人类实现马克思设想的每个人自由全面发展的理想社会？