人工智能嵌入社会治理的逻辑、风险与政策应对*

□ 张 铤

内容提要 作为一种治理技术，人工智能的嵌入引发了社会治理逻辑的转换。人工智能嵌入社会治理在赋能社会治理的同时，也带来了治理技术的不确定性、治理主体的角色替代、治理过程的价值失衡和治理责任的边界模糊等不可忽视的风险。对此，各国相关公共政策采取的无论是“无需批准式监管”还是“审慎监管”路径都有可取之处，但局限于“创新”与“安全”的二维选择不免失之偏颇。鉴于此，本文提出构建一个综合性公共政策框架，以期为规避人工智能的应用风险，促进人工智能的可持续发展建立制度基石。

人工智能的兴起不仅是技术和产业领域的重大革命，更是社会治理领域的一场深刻变革。新冠肺炎疫情期间，从疫苗开发、诊断辅助、智能测温到AI 消毒，公众已经能真切感受到人工智能对社会和生活带来的影响。人工智能的嵌入在提升社会治理能力，促进社会治理的精准化、数字化和智能化等方面确有其独特的功效。然而，技术是一把“双刃剑”。技术的“双刃效应”源于技术本身具有赋能与约束的“两面性”，人工智能在社会治理中亦逐渐暴露其风险的“另一面”。本文聚焦社会治理，拟对人工智能嵌入社会治理的风险问题作一探讨。论文主要分三个部分：第一部分将基于算法维度探讨人工智能嵌入社会治理的逻辑，回答人工智能如何嵌入社会治理的问题； 第二部分着重从治理技术、治理主体、治理过程和治理责任等层面分析人工智能嵌入社会治理的主要风险； 第三部分将针对人工智能嵌入社会治理的风险，结合美、英、法等国公共政策的比较，从公共政策选择的角度探讨人工智能的风险治理之道。

一、人工智能嵌入社会治理的内在逻辑

人工智能技术植根于算法。算法作为人工智能技术架构，有其自身的运行逻辑。人工智能嵌入社会治理引发的治理逻辑转换主要归因于算法权力（algorithmic power）。算法权力是一种内化的、泛在的权力关系，普遍存在于社会系统。在治理意义上，算法权力通过权力关系对个人与群体的行为加以引导，对治理规则进行重构。通过技术的“通行权”，人工智能技术嵌入社会治理以其去中心化、开放性和不确定性等改变了传统的科层制治理结构单一命令服从式的治理逻辑，构建起一个基于数据和算法的立体式复合治理网络，形成了一种新的社会治理范式。具体而言，进入人工智能时代，治理什么、如何治理聚焦于两个深层次问题：算法的治理与治理的算法。

（一）算法的治理

2019年1月，自媒体新闻实验室一篇“搜索引擎百度已死”的文章刷爆网络，该文章指责百度搜索结果一半以上会指向百度自家产品。实际上，百度搜索算法被诟病由来已久。在2016年“魏则西事件”中，百度信息推广、竞价排名机制就遭到社会批评。再如，2020年12月，斯坦福大学利用人工智能算法分配疫苗，结果1300 多名医护人员只有7 人入选接种名单，引发医护人员的不满。该疫苗分发系统（Tiberius）是美国政府部门与数据挖掘公司合作开发的，许多美国专家认为这种做法会带来更多的不平等，但要改进算法可能并不那么容易。①实际上，无论是对百度搜索的诟病还是对疫苗分发系统（Tiberius）的不满，都指向了一个本质性问题，即算法的权力问题。人工智能技术依托算法而存在。人工智能时代算法对社会生活的影响日益加深，如价格算法影响人们购买商品，导航算法、网约车平台算法影响人们出行。新冠肺炎疫情期间启用的健康码也是一种算法，健康码的广泛使用升级了面向人口的“安全技术”，成为算法治理的一次重要实践。然而，个人在享受数字化生活带来的诸多便利的同时也面临算法对社会的渗透和控制，算法日益成为一种社会支配性权力。由此，一个紧迫的问题摆在我们面前，那就是如何对算法进行有效治理，规制算法权力。人工智能技术的发展若要避免科林格里奇困境（Collingridge Dilemma），就必须对算法进行有效治理，驯服“技术利维坦”，这是人工智能技术可持续发展的关键所在。

（二）治理的算法

2019年，格兰特·包瑟曼（Grant Bauserman）等在密歇根法院提起对密歇根州失业保险局的诉讼。他们起诉该州失业保险局用融合数据自动化系统（MIDAS）审核失业补贴申请，交由算法判断申请者是否有欺诈行为。但是，这套系统存在93%的出错率，数万人受到误罚。②近年，因数据泄露侵犯公民隐私安全的事件屡屡见诸于报端，人工智能时代如何保护公民隐私权利成为社会关注的热点。例如，有些城市交通管理部门为了整治闯红灯乱象，采取“刷脸”的执法方式，这在提高执法精准度的同时，也可能因采集的“人脸数据”泄露而侵犯公众隐私权利。更令人担忧的是，随着人工智能技术在社会治理中的广泛和深度应用，算法日益嵌入社会系统，将深刻地改变和塑造社会系统。有朝一日，不仅仅是算法推荐，我们将生活在一个“算法社会”中。社会系统不仅适应了算法，而且高度依靠算法处理社会公共事务。那么届时，人的个体自主性是否会被逐渐消解？ 社会治理的主体是否会让渡给人工智能？置于社会治理领域，这实际上是一个治理的算法化问题。由此，如何明确人工智能技术是治理手段而非治理主体的角色定位，有效利用人工智能技术提升社会治理水平、促进社会公平正义而非损害人的尊严和自由、侵蚀公共价值，是人工智能时代社会治理必须面对的一大挑战。

二、人工智能嵌入社会治理的风险透析

在廓清人工智能嵌入社会治理的逻辑之后，有必要深入分析其风险。人工智能技术一定程度上将社会治理解构为算法的治理与治理的算法，其风险也开始显现。人工智能在赋能社会治理的同时，也带来了治理技术的不确定性、治理主体的角色替代、治理过程的价值失衡和治理责任的边界模糊等不可忽视的风险，应引起我们的重视。

（一）治理技术的不确定性

技术在促进社会进步的同时，也带来了社会风险。在科学技术发展史上，因技术误用、滥用等造成技术失控，导致严重灾害事故的例子不胜枚举。人工智能技术作为一种具有颠覆性影响的新兴技术，其发展尚处于初级阶段。人工智能应用于社会治理中，我们必须了解这一治理技术的安全隐患。其一，人工智能技术依赖的学习算法在人为干扰下，也可能出现“失算”的后果，如一些黑客能利用程序漏洞避过防火装置让智能失效，或有人通过修改数据源使图像和语音识别系统失去甄别能力，从事网络欺诈活动等。其二，人工智能是以大数据为基础运作的。人工智能技术嵌入社会治理中，广泛使用的智能终端和机器在深度学习中大量敏感数据的交互使用，这些都加大了个人信息泄漏的风险。其三，人工智能的开发具有很强的开放性。不同于核科技等风险源，人工智能的开发具有开放性。通过下载已有的开源人工智能代码，互联网企业或程序员都能开发人工智能程序，这种“不造轮子直接造车子”的人工智能生产模式在促进技术传播的同时，也加大了技术风险扩散的风险。总之，人工智能技术远未成熟，自身存在一些安全隐患，具有较大的不确定性。人工智能作为当前最复杂的技术系统之一，囿于其算法逻辑，人类很难全面了解和掌握其潜在风险。

（二）治理主体的角色替代

在社会治理中应用人工智能技术，不仅只有技术自身的风险。在商业逻辑的驱动下，人工智能嵌入社会治理可能会导致治理主体的角色替代。算法驱动的人工智能技术作为技术治理的重要工具，短期内确实有助于提升社会治理能力。但长远看，对技术治理的迷信和依赖亦可能造成社会治理创新不足、缺乏实质增长的“内卷化”现象。例如，有关部门对信息技术资源不断投入的同时，条块结构越来越复杂，对技术工具的依赖也越来越大。长期过度依赖技术工具、缺乏与体制良性互动的技术治理模式势必会逐渐消解治理主体的主动意识和创新精神，造成人工智能技术背后的算法“决策”代替治理主体的自主决策。在此境遇下，人不再是治理的主体，反而可能成为算法权力中被计算的客体，最终导致治理主体的错位。虽然，当前人工智能技术总体上处于“弱人工智能”阶段，智能机器尚不具备治理主体资格，但是，随着人工智能技术的发展，势必引发更多社会领域的智能革命和技术更新。由此，社会治理领域对智能技术可能形成强烈依赖，社会运行系统呈现高度“算法化”，社会治理主体的角色被人工智能替代，这并非危言耸听。

（三）治理过程的价值失衡

人工智能技术嵌入社会治理中，一方面，人工智能技术的算法催生出隐形权力。互联网时代的来临带来了人类社会的诸多变革，权力的性质和实现形式也发生了变化。③算法黑箱为权力的隐性运行提供了条件。算法作为以计算机代码表达的意见，算法的设计、目的、标准必然体现设计者和开发者的主观意志和价值取向。算法的设计者和开发者很可能将其主观偏见带入算法系统形成算法偏见、算法歧视，导致种族、性别、年龄和阶层区域歧视，使得社会治理过程缺失公共价值，技术的工具理性与价值理性失衡，如弗吉尼亚·尤班克斯（Virginia Eubanks）所说，大数据与算法应用于穷人和工人阶层，“强化和延续了近代的济贫措施中的道德主义倾向和惩罚性后果”。④另一方面，人工智能技术通过重构产业结构和社会分工模式，可能导致大量人员的结构性失业，影响社会公平正义。人工智能以其智能化、高效化会替代人做“脏累差”的工作，甚至可能取代一些职业，如医生、翻译等。虽然人工智能的发展会创造新的就业岗位，但并非所有人都能跨越技术鸿沟，适应人工智能时代的工作变革。

（四）治理责任的边界模糊

人工智能技术的算法生产和运作过程的“黑箱化”不仅对有效监管造成困难，而且因为其在社会治理应用中往往居于“幕后”，其运行过程的不透明和治理规则的不易解释，往往造成责任追究的难题。英国《卫报》专栏作家BenGoldacre 将算法比喻为一系列的“黑盒子”。面对这样一个知之甚少的数字世界，“人类并不清楚什么是安全的、什么是有风险的”。⑤需要指出的是，人工智能技术环境中治理规则的难以解释并非完全因为公司或个人的隐瞒，其深刻原因在于算法和机器学习的复杂性。进入人工智能时代，人们发现传统的技术责任伦理和制度规范已无法有效应对智能技术应用的风险责任界定和追究。在传统的技术责任伦理和制度规范中，设计者必然是技术风险的责任主体。然而，在人工智能技术环境中，设计者仅是单一的原子责任主体，如果将人工智能导致的侵权行为完全归责设计者，并不具有说服力。但若归责人工智能本身，显然不可能问责一个机器。由此，长久以来基于行为和后果之因果关系的责任伦理和制度遇到挑战。简言之，治理责任的边界模糊问题是人工智能技术嵌入社会治理的又一风险。

三、公共政策视角下人工智能嵌入社会治理的风险规避

为了应对人工智能兴起的风险和挑战，近年，诸多国家出台了相关公共政策。2016年，美国颁布了《国家人工智能研究与发展战略规划》、《为人工智能的未来做好准备》等政策文件，其中《为人工智能的未来做好准备》 主要探讨政府在推动技术创新、维护公共安全等方面的作用，强调基于风险评估和成本—收益考量的原则决定是否对人工智能的研发和应用施以监管。⑥美国对人工智能的发展持包容与开放态度，倾向于 “无需批准式（permissionless）”的监管逻辑，即强调除非有确凿证据和案例证明其危害性，新技术、新商业模式都是被允许的。相较于美国的“无需批准式监管”，英国和法国倾向于“审慎监管（precautionary）”。例如，英国2016年发布的《人工智能：未来决策制定的机遇与影响》 强调对人工智能制定出的决策采用问责，并在算法透明度、算法一致性、风险分配等政策方面做出了规定。⑦法国2017年发布的《人工智能战略》也强调对新技术的“共同调控”。⑧应当讲，“无需批准式监管” 侧重技术创新，“审慎监管”侧重技术安全，都有可取之处。然而，这两种监管路径局限于“创新”与“安全”的二维选择不免失之偏颇。人工智能带来的风险势必要求公共政策作出有力回应，然而“无需批准式监管”恐难以有效应对。“审慎监管”路径也存在一定的缺陷。面对人工智能技术引领的第四次工业革命浪潮，过于谨慎的监管方式一定程度上会抑制技术创新和应用。人工智能涉及众多领域，对社会运行系统有深刻影响。因此，对其风险的治理应构建综合性公共政策框架。

（一）构建算法与数据治理体系，加强人工智能风险基础性治理

算法和数据是人工智能技术的基石，加强算法和数据治理是人工智能时代公共政策的应有内容，也是规制人工智能应用风险的必然要求。就算法治理而言，核心议题是要规范算法权力的运作，彰显算法正义，包括对算法的设计、开发和应用等环节的监督和建立算法问责机制等。其中，构建有效的算法问责机制是算法治理的重要内容，而算法问责的前提是提升算法的透明度和可解释性。因此，要求算法运用履行告知义务、参数报备、参数公开和规定算法可解释权等治理手段应纳入算法治理的公共政策考量之中。算法治理涉及面广，“要根据算法应用的成熟程度及其影响的范围大小，以不超过其当前发展水平及未来发展可能性的客观理念，分领域、分优先级的制定相关公共政策。”⑨就数据治理而言，数据是人工智能技术开发和应用的基础。然而，数据的搜集、利用、共享与公民隐私权利保护等存在一定的张力。实践证明，建立和完善基于公民授权的数据分类治理机制能有效回应公民对隐私问题的关切。人工智能发展相关公共政策应体现对个人隐私的尊重和保护，在规范数据的搜集、利用和共享等环节的基础上，实现数据价值、隐私保护和数据安全等多元政策目标的平衡。总之，构建算法和数据治理体系有助于推进人工智能风险基础性治理。算法与数据治理必须回应人们对人工智能技术引发的伦理、责任和个人隐私权利保护等社会关切。换言之，人工智能的发展和应用必须受到法律、伦理等社会规则的约束。

（二）完善人工智能时代社会政策，彰显技术治理的人文关怀

在技术治理的实践中，必须重视对人的尊严、自由和社会民主、平等、公正等重要价值的维护，着力建构技术治理的“社会性”，塑造社会治理的主体性。⑩人工智能技术应用于社会治理，应有助于实质性推动社会整体“赋权增能” 和公共性建构，而那些“智能革命中利益受损的群体，作为共同体成员的基本生存和发展权利需要得到充分保障。”⑪人工智能技术的发展将导致就业结构、就业方式的深刻变革。人工智能技术具有颠覆性影响，其带来的技术革命成本因此会更大。未来大量的工作岗位可能被人工智能替代，这必然会加剧社会不平等，甚至影响社会安全稳定。因此，在人工智能发展相关公共政策的考量中，不仅要关注人工智能发展的产业和经济政策，也要关注人工智能发展的社会政策。要坚持以人为本原则，建立适应人工智能时代发展的终身学习和就业培训体系，完善社会保障体系，应对人工智能技术发展可能带来的结构性失业。基于此，基本收入制度应提上公共政策议程。“基本收入”是指国家（地区）向所有成员支付一定数额的收入，满足其基本生活的需求。该收入不需要任何条件与资格，只要是该国家（地区）的居民，每个人都可以领取。尽管该制度存在争议，芬兰、瑞士和美国的一些州已经开始了相关实验。总之，面对人工智能带来的风险和挑战，要加大社会支持政策，彰显技术治理的人文关怀，才能平衡技术创新与社会风险之间的矛盾，促进技术与治理体制、社会发展的良性互动、相互增效。

（三）建立人工智能风险评估机制，开展人工智能社会实验研究

人工智能技术具有较大的不确定性，因此需要运用多种手段和工具，对其潜在风险进行评估，开展人工智能应用风险预警。一方面，政府应联合高校、智库和互联网公司等对人工智能应用进行安全等级评估，有针对性地采用安全防护技术，规避人工智能技术可能出现的故障、失控和被入侵等风险，确保人工智能技术在安全、可控的范围内。另一方面，要积极开展人工智能社会实验研究。推进人工智能风险治理，消解人工智能技术的负面效应，应深入了解人工智能时代的社会形态和特征。积极开展人工智能社会实验研究，有助于科学研判人工智能技术的社会风险，“在不对人类社会造成较大规模影响的情况下，准确识别人工智能对人类社会带来的挑战和冲击，深入理解人工智能的社会影响特征与态势，深刻把握人工智能时代社会演进的规律。”⑫值得一提的是，2019年，我国科技部印发了《国家新一代人工智能创新发展试验区建设工作指引》的通知，为开展人工智能社会实验提供了政策支持。需要补充的是，人工智能风险的有效治理必然要求提升公众对人工智能技术的认知水平。因此，面向社会开展形式多样的人工智能技术科普活动，加强人工智能技术伦理道德宣传和教育，亦应纳入人工智能发展的相关公共政策。

（四）构建多元主体合作框架，推进人工智能风险协同治理

由于人工智能技术的专业性、不确定性，其嵌入社会治理带来的风险具有复杂性、多样性和严重性，仅凭政府一方难以有效治理其风险。人工智能技术在社会治理应用中必然涉及多元利益主体，因此对其风险的治理亦要求多元主体参与共治，正如“技术治理需要利用自由、分权和参与营造的社会空间”，⑬技术风险的治理也应倡导社会合作，而不是由政府单方面统揽治理资源和权力。因此，相关公共政策应着力构建人工智能风险协同治理机制，实现政府单一治理向多元主体合作治理转变。该协同治理机制能“利用各自优势而逐渐组成技术治理的决策权威联盟”⑭，形成合作共治的技术风险治理格局，避免单一主体治理人工智能风险的局限性。具体而言，要打破传统“命令——控制”式的技术风险治理模式，倡导政府与技术专家、公众和社会组织的交流和协商，形成紧密的合作关系，共同应对人工智能技术带来的风险和挑战，实现社会资源配置帕累托改进和社会运行系统整体功能的提升。需要指出的是，人工智能技术风险已经成为全球关注的问题，因此对其协同治理亦应突破国界。对此，我国要积极主动参与人工智能全球治理机制的建构，在推动形成国际人工智能治理框架和标准规范中发挥应有的作用，这方面亦应体现在人工智能发展的战略规划和公共政策之中。

注释：

①董青岭、朱玥：《人工智能时代的算法正义与秩序构建》，《探索与争鸣》2021年第3 期。

②汪庆华：《算法透明的多重维度和算法问责》，《比较法研究》2021年第2 期。

③陈氚：《权力的隐身术——互联网时代的权力技术隐喻》，《福建论坛（人文社会科学版）》2015年第12 期。

④Virginia Eubanks.Automating Inequality: How High-Tech Tools Profile，Police，and Punish the Poor.St.Martin’s Press，2018：37.

⑤Goldacre，B.When Data Gets Creepy：The Secrets Wedon’t Realise We’re Giving Away.The Guardian，2014-12-05.

⑥Preparing for the Future of Artificial Intelligence.https：sites/default/files/ whitehouse_files/microsites/ostp/NSTC/preparing_for_the_future_of_ai.pdf.2021-6-17.

⑦Artificial Intelligence：Opportunities andImplications for the Future of Decision Making.https：/www.gov.uk/government/uploads/system/uploads/attachment_data/file/566075/gs-16-19-artificialintelligence-ai-report.pdf.2021-7-6.

⑧周衍冰：《大数据产业在法国的发展及应用》，《学习时报》2014年11月3日。

⑨贾开：《人工智能与算法治理研究》，《中国行政管理》2019年第1 期。

⑩张铤、程乐：《技术治理的风险及其化解》，《自然辩证法研究》2020年第10 期。

⑪高奇琦：《智能革命与国家治理现代化初探》，《中国社会科学》2020年第7 期。

⑫苏竣、黄萃：《探索人工智能社会治理的中国方案》，《光明日报》2019年12月26日。

⑬彭亚平：《照看社会： 技术治理的思想素描》，《社会学研究》2020年第6 期。

⑭谭九生、杨建武：《人工智能技术的伦理风险及其协同治理》，《中国行政管理》2019年第10 期。