以“善智”实现善治：人工智能助推国家治理的逻辑进路

颜佳华，王张华

(湘潭大学 公共管理学院，湖南 湘潭 411105)

1 问题的提出

从国家治理的漫长历史来看，影响国家治理优良性和有效性的众多因素当中，科学技术总会占有一席之地，历史上历次重大的技术变革都或多或少会对各国国家治理的理念、价值、制度、方式等产生深远的影响。当下，人类社会正在经历以人工智能技术为代表的“第四次工业革命”，人工智能对国家治理的潜在作用正受到全球性的普遍关注和重视，以美国、德国、英国为代表的发达国家相继颁布了人工智能发展的国家战略。我国也将人工智能的开发和应用上升到国家战略层面，颁布了《新一代人工智能发展规划》，明确指出“人工智能技术可准确感知、预测、预警基础设施和社会安全运行的重大态势，及时把握群体认知及心理变化，主动决策反应，将显著提高社会治理的能力和水平，对有效维护社会稳定具有不可替代的作用”[1]，凸显了人工智能对于提升国家治理优良性和有效性的重要价值。然而，随着实践的不断深入和技术的不断发展，越来越多的专家学者开始对人工智能的巨大技术潜力表示担忧，斯蒂芬·W·霍金(Stephen W Hawking)和埃隆·马斯克(Elon Musk)就明确表示担心人工智能取代人类的事情发生，并对人工智能的发展抱有坚定的悲观主义态度。的确，人工智能在展现巨大技术潜力的同时，也带来了一系列的风险和挑战(如取代人类、隐私泄露、安全风险、公平丧失以及责任失序等问题)，引发了人类社会的恐惧和担忧，这种现实的张力迫使我们不得不进一步追问两个问题：一是该不该发展人工智能，以及发展什么样的人工智能？二是如果发展人工智能，该如何实现与国家治理的融合，确保其对于国家治理的正向作用得以发挥？

现有的研究呈现出两种根本对立的观点：一种观点可以视之为是霍金和马斯克的拥趸，对人工智能的开发和应用怀有恐惧和不安，如詹姆斯·巴拉特(James Barrat)探讨了一味追求先进的人工智能技术可能带来的危险，认为人工智能可能是我们最后的发明，将会带来人类时代的终结[2]11-17。国内学者江晓原也提出类似的观点，他认为人工智能是人类正在玩的最危险的火，至善全能的人工智能将会消解人类的生存意义，威胁人类文明[3]。依据此类观点，人工智能的开发和应用无异于“玩火自焚”。对此也有诸多学者提出了不同的看法，这类学者的观点偏向于从工具的视角来对待人工智能的开发和应用，认为人工智能尚未突破辅助人类的工具性角色属性，并对人工智能之于国家治理抱有一种积极乐观的态度。比如梅立润肯定了人工智能对国家治理的积极影响，指出人工智能的发展升级将影响国家治理信息基础的完整性、准确性、新鲜性和国家治理政策制定的科学性、政策执行的有效性、政策评估的准确性以及国家治理央地、部门、政社之间的协同性[4]。更微观地看，不少学者认为人工智能的诸多特质对于改善国家治理(政府治理)有着不可忽视的作用，例如伯恩德·W·维尔茨(Bernd W.Wirtz)和扬·C·韦耶尔(Jan C.Weyerer)等人指出人工智能(AI)的进步引起了研究人员和实践者的极大关注，并为公众部门的AI使用开辟了广泛的有益机会[5]。也有学者意识到了公共部门应用人工智能潜在的负效应，如博伊德(Boyd，M)和威尔逊(Wilson，N)发现人工智能在公共部门中的应用可能会带来潜在的风险，需要对人工智能予以规范和审慎监管[6]。国内不少学者普遍肯定了人工智能的这种治理价值和功用，如何哲[7]、宋京霖[8]、胡洪彬[9]、董立人[10]和岳楚炎[11]等人指出人工智能为推动政府治理变革(如治理方式优化、服务效率提升、政府规模控制等)提供了良好的工具和技术手段，但他们未能对人工智能嵌入政府治理的潜在风险予以充分的关注。

整体上看，现有的研究仍存在一些尚未解决的问题：一是对人工智能技术的态度尚存争议，虽未引发明显的冲突和矛盾，但这种反复争论不利于人工智能技术的进一步开发和应用；二是国内关注人工智能在国家治理(政府治理)中作用的学者对人工智能潜在风险缺乏足够的认识，仅仅停留在对人工智能工具特质的乐观阐述上，同时又未能深入揭示人工智能与国家治理之间的内在逻辑关联。针对上述两个问题，我们认为任何新技术都具有“双刃剑”效应，人工智能也不例外，应当放弃这种乐观和悲观的对立之争，只要人类对人工智能技术保持足够的警惕和审慎，积极主动地研判人工智能开发和应用可能带来的风险和挑战，始终将其置于人类社会发展的总体目标之下，就能充分发挥人工智能的治理价值和功用，实现人机和谐共生，推动人类社会向前发展。为此，本文引入“善智”的概念，试图超越人工智能技术乐观与悲观的对立之争，为人工智能的开发和应用描绘一种最佳状态，并以“善智”与善治的关系为切入点，尝试在人工智能与国家治理之间找到联结点，为人工智能开发和应用与谋求优良国家治理(善治)之间寻求一种平衡，进一步揭示人工智能与国家治理之间的内在逻辑关联，在此基础上探寻有助于发挥人工智能之于国家治理重要作用的可行路径。

2 何谓“善智”：一个基本概念的澄清

“善智”是伴随人工智能技术发展和应用而生的新语汇，折射出学界对人工智能开发和应用的一种乐观期许和理性认识。引入“善智”概念对于发挥人工智能助推国家治理的重要作用而言是一项前提性的基础工作。因此，结合现有的学术文献以及本文的核心议题对“善智”这一词语进行系统的解读和认识，明晰“善智”的多重蕴涵是非常必要的。

2.1 初识“善智”：良善的智能

从构词法来看，“善智”是“善”和“智”二词的结合体(即形容词“善”加名词“人工智能”的简称)。具体看来，《现代汉语字典》中将“善”解释为“高明的、良好的”比较契合本文议题，“智”则是指人工智能，“善智”意指高明的、良好的人工智能。从现有文献来看，学者高奇琦较早从构词法视角对“善智”一词的含义进行了学术解读，他在《人工智能：驯服赛维坦》一书中指出“善智，即良善的智能”，并对善智的内涵作了进一步阐释，认为“人工智能发展的目的应该是提高人类社会生产力，从而为公平正义提供更好的物质基础，这就是善智”[12]284。可以看出，他所阐述的“善智”是以增进人类共同福祉为根本落脚点，聚焦的是人工智能的价值目标，是从价值哲学维度来提出和阐释“善智”的，延续了“善”的哲学意蕴，即是具体事物的运动、行为和存在对社会和绝大多数人的完好圆满生存发展具有的正面意义和正价值。当然，从价值层面对人工智能的发展和应用所建构的价值准则和伦理规范能起到根本性的作用，但这忽略了“善智”在技术开发层面和技术实践层面应有的意蕴，这种缺失可能造成“善智”在不同语境、理论和实践中的混用，既不利于我们全面了解向善的人工智能，也不利于全面揭示人工智能之于人类社会发展、国家治理变革的重要意义，更不利于我们从具体实践层面最大化地发挥人工智能之于国家治理的重要作用。因此，需要进一步对“善智”的概念进行系统全面的解读和再认识。

2.2 “善智”的再认识：“价值-技术-应用”三维复合分析框架

图1 “价值-技术-应用”三维复合分析框架

为什么要重新认识“善智”的概念？这其中既有明晰“善智”概念学术价值之需要，也有探讨如何发挥人工智能对于国家治理的作用之考虑。从技术的两重性来说，“技术产生的后果与技术要实现的目的相背离或不一致”[13]191，具体地看，这种两重性“可分为自然属性、社会属性，技术的自然属性又可再分为优劣，技术的社会属性又可再分为善恶”[13]193。人工智能作为一项具体技术同样具有两重性，既有自然属性上的优劣之分，也会给人类社会带来积极(善的)后果和消极(恶的)后果。正是出于对人工智能技术的这种两重性，才有了“善智”概念的提出，这对于规制和引导人工智能技术的开发和应用具有重要意义，其所隐含的考虑是在最大程度保证人工智能技术自身科学性的同时，还能最大限度地阐扬人工智能技术的“善”，抑制人工智能技术的“恶”。从这一点上看，我们认为仅仅从价值层面将“善智”静态地理解为“良善的智能”是远远不够的。鉴于此，受技术两重性观点的启发，我们尝试从人工智能技术的价值、本体和实践的复合维度出发，建构起“善智”的“价值-技术-应用”三维复合分析框架(见图1)，既在价值层面规定了人工智能的发展方向，又在技术开发和应用层面指明确保人工智能向善的实践路径，为充分发挥人工智能之于国家治理的重要作用提供学理支撑。

一是作为价值标准的“善智”。价值标准隐含了价值判断的过程，这个过程中包含着一个基本问题，即回答什么样的人工智能是向善的，规定了人工智能开发和应用的基本方向。 “善智”概念的适时提出回答了这一问题，为人工智能的开发和应用描绘了一种最佳状态，为处理好人工智能与人类社会发展之间的关系设置了一条最佳边界。具体来看，“善智”蕴含了人工智能开发和应用的四大原则：其一是人工智能不应该伤害人；其二是人工智能不应该歧视人；其三是人工智能不应该“操纵”人；其四是人工智能不应该完全取代人[14]。这四大基本原则的最终指向是增进全人类的福祉，正如有学者指出的那样，“人工智能的发展成果应该惠及全球，而不是为那些少数的技术超人和企业寡头所垄断”[15]。质言之，作为价值标准应当是“善智”内涵的核心维度。

二是作为开发准则的“善智”。除了作为价值标准之外，“善智”还应该关注人工智能技术本身，因为“将人工智能视为一种知识，强调的是人工智能的治理离不开对知识生产及其自身发展和演化规律的认识”[16]。因此，从知识的角度来理解，“善智”还内含着对人工智能技术自身安全标准的诉求。需要说明的是，我们这里强调“善智”的这一内涵，并不是试图为人工智能具体技术(机器学习、知识图谱、视觉处理、自然语言处理、生物特征识别等)的优劣和科学性提供衡量标准，而是旨在突出人工智能研发和开发过程中的技术安全标准建设的诉求。从这一层面来看，“善智”概念的提出呼吁技术开发人员、管理者等利益相关者要充分重视人工智能安全标准的建设，以确保人工智能是安全可靠的。

三是作为应用限度的“善智”。技术之所以存在，是因为技术被应用(使用)。著名的技术哲学家安德鲁·芬伯格指出：“事实上，根本没有所谓的技术‘本身’，因为技术只存在于某种应用的情境里。这就是技术的每一个重要方面都被认为是某种类型‘使用’的原因。”[17]53具体来看，技术应用的重要性也被普遍关注，有学者指出，“人类对技术的过度使用、贸然使用、恶意使用、错误使用和非理性使用，使得人与自然的关系岌岌可危”[18]3。这启示我们在关注技术本身时，同样不能忽略对技术应用的考量。人工智能作为一项具体的技术形态，同样面临着应用及其应用所带来的问题，这直接关乎人工智能与人类社会发展和自然存续之间的关系。因而，“善智”除了关注人工智能技术的价值目标、技术开发的安全准则还应当聚焦到人工智能技术的具体应用层面，还必须是可获取、可用和共享的。整体上看，“善智”既有静态意义上的价值追求，又有动态层面上的实践考量，即追求人工智能向善的总体过程。

3 以“善智”实现善治的可能：人工智能与国家治理的内在逻辑关联

“善智”是人工智能开发和应用的最佳状态，国家治理的最终目标是实现优良国家治理，即追求“善治”。如何实现人工智能与国家治理之间的有效融合，关键在于揭示人工智能开发和应用同国家治理的内在逻辑关联，从“善智”与善治的关系入手，阐明人工智能与国家治理之间何以遵循着以“善智”实现善治的内在逻辑关联。

3.1 人工智能向善与谋求优良国家治理的价值耦合

追求人工智能向善与谋求优良国家治理之间存在价值耦合。具体而言，“善智”是现代技术进步的主要体现，善治是人类政治发展的现实追求，二者关系紧密、相互影响，内嵌于人类社会发展的基本规律之中。首先，“善智”与善治分属人类社会发展的两个独立领域，二者相互适应，共同推动人类社会向前发展。这种相互适应性一方面统一于生产力与生产关系的矛盾运动之中，因为“技术进步可以直接促成生产力的发展，使生产力与生产关系不断地处于‘不适应—适应—不适应’的循环发展过程中，从而影响和推动着生产方式……乃至整个社会关系的变革”[19]141。这也就内在地决定了追求人工智能向善与谋求优良国家治理之间是相互适应的。另一方面，二者的关系又内嵌于人类适应环境的整体活动之中，追求人工智能向善与谋求优良的国家治理必须建立在对人类社会环境的适应基础之上，在一定的政治、经济、文化、社会、自然环境下得以形成和发展。

其次，追求人工智能向善与谋求优良国家治理二者的价值定位是一致的。因为任何现代技术对于社会的发展、国家治理的现代化乃至人类社会的进步都具有重要作用，而技术的中立属性也决定了任何技术并不能自动发挥出推动人类社会发展的正向作用，这取决于技术应用(使用)的限度，技术“善”的应用会带来有益的善果，而技术“恶”的应用则会带来有害的恶果。追求人工智能向善正是最大化阐扬人工智能技术的“善”，抑制人工智能技术的“恶”之努力，旨在于发挥出人工智能推动人类社会发展的正向作用。而对于谋求善治的国家治理而言，其目的“总是指向使人的各项权利更加平等，利益更多地向处于社会较低层次的群体流动和输送，从而体现它的公平和正义的正向价值”[20]。其终极关怀指向人类社会的普遍进步和整体发展。可见，追求人工智能向善与谋求优良的国家治理二者的总体价值定位根本上是一致的。

3.2 人工智能向善迎合优良国家治理的技术诉求

在中国的国家政治话语和实践场景下，自党的十八届三中全会之后，谋求优良国家治理(善治)的政治追求，在某种程度上可以理解为实现国家治理体系和治理能力现代化的总体目标。从国家治理体系的内在逻辑层面看，治理手段或治理方式方法体系是国家治理体系结构中的重要构成，而信息技术手段又是治理方式方法体系的重要组成部分[21]。这充分说明，在推进国家治理体系和治理能力现代化的进程中信息技术扮演着不可或缺的重要角色。从某种程度上看，国家治理体系的现代化离不开治理方式方法体系的现代化，还可以聚焦为对信息技术手段的现代化和科学化诉求。因此，作为现代信息技术最新发展阶段的人工智能技术对国家治理体系现代化的价值和作用是不言而喻的。

就技术与政治的关系而言，作为一项具体技术的人工智能也会影响国家治理变革的进程，正如有学者指出，“技术触及政治制度……政治生活深层次的部分，技术的发展导致了政治生活的变迁”[22]。而追求人工智能向善正是确保人工智能技术有效性和可靠性的现代化和科学化过程，一定意义上追求人工智能向善迎合了谋求优良国家治理的技术诉求，为国家治理提供必需的技术支撑和知识储备。向善的人工智能会成为推进国家治理体系现代化，改善和提升国家治理能力和治理绩效的重要技术依托，这从世界诸多发达国家的治理实践过程中便可知一二。当前，人类社会正在迈入以互联网、大数据和人工智能等技术为支撑的智能化时代，一些经济发达和技术先进的国家非常重视借助新一代智能技术来推动和改善本国治理，以期实现国家治理的全面信息化和智能化，如英国的“政府即平台”模式、新加坡的“一站式不间断政府”、美国的“整体政府”战略以及韩国的“政府3.0”等，这些战略的推行都是得益于本国先进的技术能力和雄厚的经济实力。换句话说，追求人工智能向善成为推进国家治理体系和治理能力现代化进程中不可或缺的技术基础。

3.3 人工智能向善有助于提升国家治理的有效性

作为第四次工业革命的代表性技术，人工智能必然会对国家治理带来积极或消极的影响。技术的两重性决定了只有向善的人工智能才会给国家治理带来正向的积极影响，助推国家治理优良性和有效性的提升。这具体表现为两个方面：一方面是可以克服国家治理所需社会信息不全、过时、失准的难题。转型社会的复杂性和不确定性进一步加大，传统的信息管理机制已经难以适应现代国家治理的诉求，社会信息的产量以及更新速度开始冲击传统围绕人类建立起来的信息识别、收集和整合机制，使得“人类在逻辑推理、信息处理和智能行为领域的主导地位已不复存在”[23]107。人工智能技术可以确保“在信息采集过程中，可以由信息提供者直接向相关智能机器人或智能系统提供信息，减少人为干预或者扭曲信息表示的机会空间，以提升社会信息的准确性”[4]。可以预见的是，随着人工智能技术的进一步应用，国家治理的信息收集机制将会面临彻底的变革和重构。

另一方面是提升国家治理的政策能力。具体体现为对政策制定和执行两个维度的影响，一是人工智能可以提升决策水平，目前在诸多治理实践中可以看到人工智能技术的身影，智能化系统已经成为危机预警、城市治理、公共服务、公共安全治理等领域不可或缺的一部分。这是由于人工智能系统自身所具备的强大运算能力和自主建模能力，不仅提升了国家总体治理过程中的数据分析能力，还能直接给决策者和领导者提供备选方案。二是由于我国国土面积广大和人口数量众多的独特性，使得我国国家治理的艰巨性和复杂性远胜于一般国家，作为国家治理重要手段和方式的公共政策，在实施过程中也难以避免失灵和失效的尴尬场景[24]。因此，如何确保国家政策的通达性和有效性则成为国家治理能力中的重要标识，而基于人工智能的政策监控系统，可以直接锁定和瞄准目标群体，精准监控政策的实施，将政策运行状况跳过中间环节，实时反馈至决策层，有效缓解公共政策运行过程中的失效和失灵。

4 人工智能助推国家治理的实践进路

如何推动人工智能与国家治理的有效融合，最大限度地发挥人工智能之于国家治理的重要功用，离不开两个方面的努力。一是要发挥人工智能之于国家治理的价值和功用，必须确保人工智能的安全性和可靠性，即实现“善智”，这是具有前提性的工作。二是要架起人工智能与国家治理之间的桥梁，即构建有效的融合机制，打通人工智能同国家治理深度融合的通道。

4.1 构建对人工智能的完备治理体系

确保人工智能向善必须重视对人工智能的治理。一方面需要加强治理行动者之间的协同，优化人工智能治理的主体生态。一是建立针对工程师(科学家)及其共同组织的伦理要求和行为规范。技术本身是中立的，不具有善恶之分，但如何开发技术、设置技术标准体现了技术开发和设计者的价值观，而技术的开发和设计者不能时刻保持无偏的中立态度。因此，要确保人工智能向善，必然离不开对技术开发和设计者的伦理要求和行为规范。二是企业及其管理者负责任的创新。在现代社会中，企业是最重要的社会主体之一，在推动和承载技术创新的过程中扮演着极为重要的角色，以企业为主体的技术发明和使用也是导致技术负面效应产生的客观因素之一，因此要推动人工智能向善离不开这些科技企业的助力。三是政府及其决策者必须审慎监管。政府加强监管是推动人工智能向善过程中不可或缺的部分，必须加紧研究出适用于人工智能监管的技术准则、标准和方式，建立起公开透明的人工智能监管体系。四是技术使用者的责任。这里之所以要将技术使用者纳入治理行动者的体系之中，是因为“作为技术时代的人类，作为技术在使用阶段的主体，使用者也应该根据自己在社会分工系统里的地位，在自己力所能及的范围内，通过自己的使用行为来增强技术对社会发展的积极影响，减弱技术对社会发展的消极影响，对自己的使用行为负起责任来”[18]74。

另一方面，必须聚焦人工智能治理的要素层次，实现治理内容的全覆盖。一是健全人工智能发展的伦理规范体系。面向人工智能场景的伦理建设核心在于为人工智能向善提供安全引导和约束，帮助人们消除对人工智能技术的恐惧和盲目崇拜，为推动人工智能向善提供事前的引导和规范，最终实现人机和谐共生。二是完善人工智能开发和应用的法律法规。技术的快速发展与相配套法律法规的滞后已经成为制约人工智能发展的一对显性矛盾，随着人工智能技术的进一步发展，更先进、更智能的人工智能应用将会陆续出现在人类社会生产生活当中，与之配套的法律法规必须建立起动态更新和超前设计的机制。三是构建科学合理的技术标准体系。科学开发是确保人工智能向善的技术路径，而科学的技术标准体系则是科学开发的有效指引，是推动人工智能创新发展的关键环节。《新一代人工智能发展规划(2017)》明确指出“加强人工智能标准框架体系研究”[1]，并进一步阐明，在人工智能技术标准框架体系的研究过程中，必须“坚持安全性、可用性、互操作性、可追溯性原则，逐步建立并完善人工智能基础共性、互联互通、行业应用、网络安全、隐私保护等技术标准”[1]。

4.2 构建人工智能与国家治理的融合机制

习近平在中共中央政治局第九次集体学习时提出，“促进人工智能同经济社会发展深度融合”[25]，这为我国人工智能的发展和应用指明了方向。而实现人工智能同国家治理的深度融合，也是实现上述“深度融合”的目标之一，为此必须构建起有效的融合机制，以发挥人工智能之于国家治理的功用和价值。首先，建立起人工智能的专业机构和领导体系，将人工智能融入国家机构的整体运行体系之中。一是设置专业的职能机构，统一制度政策的设计和发布，如新一轮机构改革(《深化党和国家机构改革方案(2018)》)中部分省市创设了“大数据管理局”这一新型机构，整合了大数据治理的职能和力量，对人工智能的管理和应用有着非常重要的启示和示范作用。二是建立专业的领导体系，人工智能作为一项综合多学科、高度复杂的技术体系，必须选拔熟悉人工智能领域的相关专家来指导人工智能的开发和应用，实现对人工智能技术的专业管理和运营，类似于首席人工智能官(CAIO)[26]。专业的职能机构和领导体系建立后，为人工智能融入国家治理提供了合法性基础。

其次，建立起专业的人才制度体系。现阶段，我国的人工智能人才还是较为缺乏的，这种缺乏一方面表现为人工智能的工程技术专家的缺乏，全国大专院校每年输出的人工智能人才供不应求；另一方面表现为全社会知人工智能、懂人工智能的管理人才极度缺乏。由于人工智能的应用和管理是一项高度知识化和专业化的工作，因此必须在国家整个官僚系统内部开展一场教育培训活动，以提升和加强国家公务人员的人工智能知识和素养，实现认识上的“去蔽”。加快在高校开设人工智能管理课程，以培养具有人工智能专业化知识的行政管理人才。与此同时，还需优化政府与高技术企业之间的合作机制。从目前的情况来看，百度、腾讯、阿里巴巴、科大讯飞等大型技术公司控制和垄断着人工智能领域的关键技术和产品，只有依托这些大型的高技术公司才能最快实现人工智能应用的落地，加速人工智能同国家治理相融合目标的实现。因此，进一步优化政府与这些高技术公司之间的合作机制，有利于加快人工智能技术在国家治理场景中的落地，也能为国家财政节约一大笔的技术开发费用。

5 结语

人工智能正在催动着一场深刻的技术变革和治理革命，将会对国家治理产生极其深远的影响。在发展人工智能与实现国家治理的优良性和有效性之间寻求一种平衡就变得非常重要。就技术的两重性而言，任何技术都具有善恶价值的两重性，人工智能技术也不例外，这种两重性决定了我们思考未来应该开发一种什么样的人工智能，以确保其朝着增进人类社会福祉、提升国家治理能力的目标迈进。本文所引入和进一步阐释的“善智”概念，为人工智能的发展方向提供了参考，为发挥人工智能之于国家治理的重要作用提供了可能。从“善智”和“善治”的关系出发，阐发了人工智能与国家治理之间何以遵循着以“善智”求“善治”的内在逻辑，并在此基础上探究以“善智”求“善治”的有效路径。当然，本文的分析只是一种初步的探索，由于人工智能的发展及其嵌入国家治理的过程仍然处于一种“进行时”状态，随着人工智能技术的进一步发展和成熟，其对国家治理的影响势必会更为深刻和广泛，其方式也会更加多样和复杂。因此，人工智能与国家治理之间的互动将会是一个持续性的学术话题，值得长期关注和跟踪。