从算法黑箱到算法透明：政府算法治理的转轨逻辑与路径

张红春 章知连

摘要：在大数据和人工智能时代，依循算法的政府算法治理模式日渐兴起，它让政府治理日益自动化、智能化和精准化，但也带来了挥之不去的算法黑箱问题。算法黑箱缘何形成，又如何破解，这是政府算法治理必须解决的重大理论与实践问题。研究发现，政府算法的低透明度是算法技术自身特质和政府使用算法技术的制度方式耦合的产物，与政府治理的公共性、公开性、有效性诉求本质悖逆，必然要求从算法黑箱向算法透明转轨。其转轨的方向是构建算法决策、研发、应用、监督全过程透明化的政府算法治理体系，在其实现路径上则依赖政府与公众各自的透明责任与行动义务的双向构建。

关键词：算法治理;算法透明;算法公开;算法参与;透明政府;人工智能;大数据

中图分类号：C93-03

文献标识码：A

文章编号：1000-5099（2022）04-0065-10

时至今日，算法已经广泛分布于人们的公共和商业生活。从概念上来看，算法指一种有限、确定、有效的并适合用计算机程序来实现解决问题的方法。从表现形式来看，它是数据算料的输入到输出信息指令的自动决策过程。作为人工智能技术的核心精髓，算法技术日益在社会各个领域得到广泛应用，现如今政府也经常性地利用算法进行公共决策和管理。2017 年，《新一代人工智能发展规划》发布，提出要在教育、医疗、养老以及行政管理、司法管理、城市管理、环境保护等社会治理的热点难点问题上加快人工智能创新应用，提高政府治理现代化水平。在顶层规划的推动之下，算法在精准扶贫、疫情防控、侦破案件、教育管理、城市管理、社区治理、警务决策、司法审判等政府治理领域中应用如雨后春笋勃兴。譬如，在杭州的城市大脑建设中，算法根据相关路段实际车辆数量等情况合理规划红绿灯时间，大幅度地提升了交通畅通度，正是强大的算法和算力构成智慧城市建设的核心。再如，在政务服务领域中的人工智能应用，一些地方已经实现了智能问答、智能填单、智能审批等自动化功能，实现政务服务效能提升。

随着人工智能技术与政府治理的深度融嵌，一种新的政府算法治理样态呼之欲出。所谓算法治理，是指以算法决策为核心的一种治理模式。算法治理是人工智能技术与政府治理日益融合的必然产物，它以算法技术为内核，以大数据、人工智能、云计算为支撑技术，对公共事务实施算法驱动的自动化、智能化的管理和服务模式。就其内涵而言，算法治理是一种技术治理，它对以算法为代表的新型信息技术予以系统化和集成化利用。就其外延来说，算法治理又是算法技术嵌入并重构政府治理场域的主体结构、事务流程、目标结果的总和样态。从治理目标来看，无论是在理论界还是实践领域，算法治理被寄予提高政府治理能力，促使固有的传统政府治理模式向自动化、精准化、智能化、智慧化的治理形态转轨的作用期许。

然而，正如新兴事物都具有两面性一样，算法技术在给政府治理带来精准、高效、智能的治理势能之外，也滋生了诸多治理风险。这其中，算法黑箱问题首当其冲，算法的不透明性被视为算法治理的最大挑战。作为一种隐喻，黑箱术语最早起源于控制论中，后来被用来指代那些不为人知、不能从外部直接观察其内部状态的政策、技术与管理系统。随着算法技术的崛起和技术黑箱问题的显现，人们用算法黑箱来特指代算法的不透明性。弗兰克·帕斯奎尔（Frank Pasquale）在《黑箱社会》中最早使用算法黑箱隐喻，认为美国社会正陷入被金融和科技行业的秘密算法所操控的、令人难以理解的黑箱社会状态，在这个社会中，算法编码规则所设定的值和特权隐藏在黑箱里，形成了算法黑箱（Black Box Algorithms）。从概念上来看，算法黑箱是算法系统从输入到输出之间的不公开和不透明状态。就其本质而言，算法黑箱本质上是算法产品的使用者对算法系统的不知情。广为人知的是，不论是商业算法还是政府算法，都未能逃脱算法黑箱的窠臼。研究指出，虽然社会广泛应用算法，但是算法的透明度却有限。尤其是在公共治理当中，政府正在大量使用自动决策系统替代或者辅助公共管理者进行自动化行政决策，但是公众却又无法观察和理解“黑箱”内的逻辑或决策机制，算法治理黑箱化的趋势日益凸显。如果说商业领域的算法黑箱因其私人领域的私密性特质护持而具有一定合理性依据的话，而政府治理中的算法黑箱则和公共场域的公共性与公开性特质格格不入。算法黑箱在挑战公民对于政府决策的知情权，影响到政府决策的合法性，它也由此成为政府算法治理亟待解决的一个重大问题。

可喜的是，实践和学术领域已经对算法黑箱问题共同展开了关注和讨论。2019年发布的《新一代人工智能治理原则——发展负责任的人工智能》指南中，提出人工智能系统应坚持开放包容原则，不断提升透明性。2022年，国家互联网信息办公室等部委颁布《互联网信息服务算法推荐管理规定》，指出算法推荐服务应坚持公开透明的原则。然而，颇为悖谬的是，学术研究中关于算法是否要透明仍存争议。就算法透明而言，并非所有学者都持肯定态度。有的法律学者以算法透明的规制效力有限为由，指出算法透明原则通常既不可行，也无必要。还有研究以算法透明的法律缺失为由，认为在没有法律明确哪些算法应该公开以及如何公开的情况下，算法的不公开是原则，公开是例外的观点。这显然是默许了算法黑箱常态。但在这些算法黑箱拥趸者对立面，也出现了对算法透明的支持者，并从多个视角提出了算法黑箱治理对策。代表性的观点有：吴椒军分析了算法黑箱带来的危机，主张从技术角度、法律角度与伦理角度对算法黑箱进行法治化管理，姜野等提出通过算法解释权来破解算法黑箱，等等。不难看出，虽然算法黑箱问题已受到學界关注，但是已有研究以法学视角的研究为主，且研究共识严重不足。而且，已有研究似乎模糊了一个算法透明问题的场景因素，即公共算法和商业算法在透明原则的适用上应该是不一样的。

作为一种技术，算法本身没有权力属性，但是算法一旦应用于公共领域，就会带有公共权力色彩，并应接受公共场域伦理的规约。基于此，本文开宗明义地提出以下论点：如果说公开性是公共场域内公共事务治理的准则，那么嵌入其中的算法技术也应秉持透明性原则。本文接下来的论证分三部分，我们首先从学理层面分析政府算法黑箱问题是如何形成的;其次，从透明性的治理价值和工具功效入手，论证算法透明原则的嵌入逻辑;最后，文章提出了政府算法治理透明化的实现路径。

一、政府算法黑箱的生成：技术与制度的双重解释

是何种因素引致了政府算法黑箱？笔者认为，政府算法的低透明度是算法技术自身特质和政府使用算法技术的制度方式耦合的产物。

从技术本身来看，技术天生带有了不透明的特性。抽象意义的技术是实现人的目的的一种手段，它表现为各种工具、装置及其集合。不同于先天之物，技术是人类发明创造的产物。然而，随着技术的发明、扩散与应用造成了技术发明者和技术使用者的分离，两者之间的技术信息与知识的不对称越发严重，可以说，技术使用者相对技术发明者而言面临着天然的技术黑箱问题。算法作为科技革命以来的最前沿成果，其复杂性和自主性的技术特质将技术不对称问题发展到了极致。

人工智能算法技术是一种典型的复杂性技术。技术按照其运行机理和目的难度可以划分为简单性技术和复杂性技术，算法技术显然属于后者。有效的算法离不开算料、算法、算力的协同，这依赖大数据、云计算等复杂技术系统的支撑。人工智能算法系统内部、系统之间的互动关系变得复杂而高深莫测，甚至连设计者都难以理解算法机制，更何况普罗大众。在技术目的上，人工智能以模拟和逼近人类的复杂认知与行动为目标，这也就决定算法技术的目的是朝向复杂适应性转变的。为了提高算法的准确性，算法的复杂性必然会加强。算法解决的问题越复杂，算法代码的需求就会增加几倍。不难看出，算法技术系统的复杂性是社会公众认知和理解政府算法难以逾越的、坚固的专业壁垒。

除了算法复杂性的专业鸿沟，算法技术的自主性特征也在加剧其封闭性技术空间的建构。算法技术以模拟甚至代替人类的认知和决策为使命，它是具有技术自主性抱负的。机器学习是算法生成和计算机拥有智能的根本途径，机器学习能够从海量人类数据集中自主学习人类的模式和规律，并且生成精准的判断、预测、决策与行动。根据人类对算法生成的干预和控制程度，机器学习可以分为有监督学习、半监督学习、无监督学习。无监督学习也叫深度学习，即无须人为设计特征提取，特征从数据中学习而来。从算法技术的演化趋势来看，以深度学习为标志的自主性人工智能算法的日渐兴起，标志着算法自主性达到了一个新高度。其带来的必然结果就是人类对算法技术的控制减少乃至缺失，算法无师自通的自主认知、决策和行动更加普遍。机器学习让算法从 “输入”到 “输出”的中间环节逐渐成为人类社会无法掌控的 “黑箱”，而无监督的深度学习技术对应的是算法黑箱的高级形态。随着深度学习日益成为人工智能算法的未来主流趋势，政府人工智能由弱人工智能向强人工智能的转变下，机器学习越来越朝着深度化、自动化、拟人化的方向发展，算法驱动的公共管理和决策的自主优化和自主决策特性日渐增强，政府算法的认知和决策黑箱特征因而越来越明显。

如果说技术因素是算法黑箱的先天因素，政府将算法引入到公共场域当中的制度方式则是其问题的后天变量。从算法技术导入政府部门的方式来看，市场化和管理主义的算法治理制度设计不仅没有有效打开算法黑箱，反而降低了算法透明度。

一个明显的常识是，政府并不擅长算法技术的发明和创制，政府采纳算法技术必须求助于企业和市场机制。在政府采购、政府购买服务、合同外包等市场化制度安排之下，政府使用的人工智能系统更经常的是要么在市场上采购人工智能系统，要么将人工智能产品和服务的研发外包给更为专业的科技公司。例如，杭州市的智慧城市建设项目由阿里巴巴提供技术解决方案，广东省的“粤省事”移动办公平台则由腾讯云帮助搭建。科技企业引入算法治理中可以弥补政府在算法技术上的短板，但是政府也部分甚至全部让渡了对算法黑箱的控制和改造权利。科技企业通过算法人才控制、算法专利控制等一系列知识保护机制将算法资本化、商业化和专有化。科技企业与政府部门签订的算法研发合同势必固化和强化其算法的资产专用性，指望以算法为营生的科技企业公开其算法无异于与虎谋皮。科技公司通常强调算法的产权，由于其营利性和排他性商业政策，科技公司不愿公开算法和数据也就不难理解了，公众被再次排外。可见，在市场化的算法应用制度之下，在政府和公众之间制造了营利性、封闭性的市场主体，使得政府算法移植保持了商业算法固有的黑箱特征。

政府算法应用的管理主义的制度范式则进一步固化、维持了算法黑箱。以深度学习为代表的人工智能算法尽管具有突破性特征，但其在政府部门中的应用依然是嵌入式的。算法进入政府科层结构当中，成为政府行政决策、行政规则制定、权力运行的技术工具，因而算法是否透明不仅取决于算法研发者、算法本身的可观察性，还取决于工具使用主体，也即政府的透明度。政府应用算法技术并没有促使政府行政流程和运行机制走向开放，而是存在技术行政化、技术内卷化的倾向。政府引入人工智能算法技术的决策封闭，政府算法研发设计的过程对外封闭，政府算法的生成和应用的全流程由政府和科技企业主导，缺乏有效的公众参与。可以说，人工智能算法技术的广泛应用，并没有显著提升政府管理全过程的透明性。

以上分析表明，政府算法黑箱式的应用是技术与制度耦合的产物。算法的技术特质使其具有了天然的不易理解性、不易参与性，而政府算法制度的市场化和管理主義特征又进一步固化了其封闭性和排斥性特征。当公众缺乏理解算法所需的专业知识，当公众缺乏接触和了解算法过程的机会时，公众面临的显然是一个不折不扣的技术黑箱和治理黑箱。

算法黑箱的理论基因是技治主义和管理主义，其现实表现是政府算法成为官僚制组织的内部行政与控制工具，而未能成为政府包容和吸纳公众参与政府治理的治理平台与工具，并由此而产生一系列威胁政府治理有效性的延伸问题。一是算法黑箱侵蚀了公众对政府算法治理知情权。当算法技术进入政府治理场域的全流程都处于“黑箱”密闭状态时，政府算法治理势必形成公共决策黑箱、监管黑箱、服务黑箱等新问题，这将严重制约在人工智能时代下公众对政府治理的知情程度。二是算法黑箱阻碍公众参与政府治理。算法黑箱所构筑的技术壁垒、制度藩篱和信息隔阂都在排斥而不是吸纳公众参与，而公众自身的参与意识、算法知识和素养的缺失又加剧了公众对算法的冷漠。低效参与使得公众在政府算法治理中被动地充当人工智能公共产品服务的接受者。三是黑箱算法易侵蚀公众隐私权。个人隐私受到国家相关法律法规的保护。但是算法的形成都依赖大量的用户特征、属性、行为数据的输入和分析，政府算法生成也不例外。在算法市场化制度之下，政府算法研发过程中政府不得不将政府掌握的大量公共数据使用权授权给技术公司，如果存在数据存储不安全、算法安全漏洞、私人利益等问题，个人信息可能会存在被泄漏、篡改和挪作他用，给公民隐私、人身、财产、职业等造成数据安全风险。最后，黑箱算法降低了政府算法治理的整体有效性。尤其是，鉴于政府与技术公司之间的信息不对称性，算法“黑箱”的存在直接导致了公共利益被私人利益俘获、资本支配公权力等风险的产生。政府算法技术在研发过程难免会受到资本裹挟而发生价值扭曲，还可能导致算法与资本或权力相连接，算法成为“损害个人权益和社会福利的工具”。但正是因为政府算法黑箱的存在，算法黑箱一方面成为滋生算法问题的温床，另一方面算法黑箱使得公共算法缺乏有效的监督机制，使得问题的识别、暴露和解决变得迟缓，最终损失公共利益，降低算法治理的公信力。

归纳起来，政府算法黑箱是技术理性主导下的制度异化产物，虽然它展现了技术的精准性、效率性的工具理性价值，但是却与政府治理所处公共场域的多元公共价值诉求格格不入。算法黑箱损失了政府治理应有的透明性价值，还连贯损失了参与性、责任性、回应性的治理价值标准，进而反噬政府算法治理的有效性和合法性。正是因为算法黑箱所引致的算法治理困境，使得将透明机制引入政府算法应用当中应受到格外的重视。

二、破解政府算法黑箱：透明性的嵌入逻辑

透明性是公共治理领域中广为接受一个价值准则。政治学家汉娜·阿伦特（Hannal Arendt）在区别公共领域和私人领域时指出，公共首先意味着出现于公共场合的东西能够为每个人所看见和听见，具有最广泛的公开性。政府作为核心的公共治理主体，其治理主体、方式、过程和结果的强公共性使其应当坚持公开透明原则。故而，进入现代社会以来，透明原则日益成为国内外政府治理的基本原则。西方国家纷纷颁布信息公开与自由方面的法律，我国也于2007年首次通过《政府信息公开条例》，2018年该条例修订后继续实施，政府公开透明日益迈向制度深化时期。

字面意义上的透明隐喻物体在视线上的通透性，而在学术意义的透明意指对象具备可观察性，即公众能从外部了解观察对象的结构与运行。可见，政府透明是一个双向度的概念，高质量的透明政府需要政府和公众之间有效互动，它一方面仰赖政府组织的公开性，另一方面需要公众的积极参与政府公开内容的学习。

透明性之所以能成为现代政府治理的目标愿景，根源于透明性的巨大治理作用。从治理理论来看，透明不仅是一种治理目标所系，还是一种实现其他公共价值的治理工具。从治理目标来看，国内外治理学者都认为透明性也被視为一个政府善治与否的重要价值标准。在公共价值研究文献中，已有研究所归纳的公共价值清单中也包含公开性价值，意指公共行政应当是透明的。其理论缘由根源于公共场域的公共性和公开性的内在诉求。为此，政府透明经常性被作为政府善治的衡量指标，例如，俞可平教授开发的中国国家治理评估指数中就包含公开透明性的指标。从治理工具来看，透明性还是政府实现其他善治价值和公共价值的桥梁，是政府治理迈向系统性善治的催化剂。这是因为透明意味着政府行为和结果信息的充分披露，它可以保障公众对政府的知情权。而公众的知情权又是公众实现参与权、表达权和监督权的一种方式。由此而论，透明政府还是政府实现责任性、回应性、法治性、合法性等其他治理价值的有效工具。

在大数据和人工智能时代，政府透明具有了新的公开对象，算法透明成为透明政府建设的最新途径。在信息化早期，政府可供公开的透明媒介资源还不丰富，由政府加工和生产的政府信息因而被视为公众观察政府的唯一媒介，政府信息公开成为政府透明的唯一路径选择，政府通过出版物和网站来披露政府信息，保障公众对公共事务的知情权。但是以政府信息来实现透明政府的效力存在天然缺陷，因为它是单向度的信息传递与行政告知，公众无从考证和质疑信息的真实性。随着人类世界和物理世界的数据化、信息化程度提高，多源、异构、海量的复杂性大数据资源不断生成。随着大数据技术嵌入行政过程，政府积累的数据资源越来越丰富，海量数据资源不仅能够让政府决策更加客观和科学，也提供了让社会公众回溯和观察政府行政行为与结果的客观证据。为此，学界提出了从政府信息公开到政府数据开放的路径嬗变，以此提高政府透明度的深度和质量。从海量数据资源提取有价值的信息并支撑管理决策是大数据时代海量数据资源根本使命，而人工智能算法技术应运而生成为帮助政府实现自动化、智能化、智慧化的决策、监管和服务利器。在人工智能时代，政府应用人工智能技术进行政府治理时，对透明政府和责任政府的追求在某种程度上已经开始迁移至对技术透明度的理解和对技术责任的承担。换言之，在人工智能时代，随着政府行政的智能化和算法化，算法系统已经成为公众认知政府行政方式与结果的最精华载体。而从现实来看，算法黑箱已然成为人工智能时代政府透明的羁绊，用透明性的价值重构算法黑箱系统具有必然性。

从理论层面来看，用透明性价值破解算法黑箱之后，政府算法治理的价值和功能系统得以重塑，其积极的治理效果体现在：其一，算法透明促使政府算法治理回归公共性的本质要求。不同于商业算法应用领域的私有性、排他性和秘密性，政府算法广泛应用在公共服务、社会治理等公共领域当中。透明算法将促使政府算法从私有性、排他性和秘密性走向公有性、包容性和开放性。其二，算法透明促进公众参与政府算法治理。为了让公众参与算法治理，必须让公众接触和了解算法，这反过来又要求政府算法治理保持高度的开放性与透明性。算法透明建构开放性的数据—算法—信息生态体系可以赋予公众在算法信息和知识上的能力优势，为吸纳公众参与算法治理提供了前提条件。其三，算法透明可以促进政府算法治理的法治化。算法黑箱容易引发算法歧视、算法杀熟、算法滥用的技术风险，容易导致公共利益被私人利益俘获、资本支配公权力等治理风险的产生。阳光是最好的防腐剂，算法透明可以成为治理算法失灵的利器。这是因为算法的公开透明提供了社会监督介入的可能性，可以让社会公众监督政府算法应用中的安全、隐私、伦理问题和其他风险，防止算法的滥用和误用。其四，算法透明增进公众对算法治理的信任感，提高政府算法治理的公信力。算法黑箱的不透明状态容易引起公众对算法的猜疑，降低对政府算法决策与执行的认同感。反之，通过及时披露算法治理中的数据信息，不仅可以促进算法治理的规范性，也有利于消除社会公众对算法的恐惧与疑惑，提高政府算法治理的社会认同度与公信力。一言以蔽之，之所以将透明价值融入算法，是因为它可以发挥治理目标引领和治理工具的双导效应。

三、迈向透明化的政府算法治理：形态与路径构建

通过前面的讨论，不难看出算法透明既能够提升政府算法自身的公开性，让社会公众观察和监督政府算法治理方向、过程与结果，还能够借此让公众参与、问责和监督政府算法治理体系。因循算法透明逻辑，政府算法治理体系也最终向透明化系统性转轨。那么透明化的政府算法治理的衡量标准是什么，又如何有效实现这一算法治理目标呢？本部分首先按照全过程透明原则，描述透明化的政府算法治理形态与标准，然后从政民互动的双向透明性建构视角出发，分别构建政府与公众各自的透明责任与行动义务。

1.透明化的政府算法治理形态建构：全过程的算法透明

从过程视角来，算法技术嵌入政府组织必然是一个持续动态的治理过程，算法透明及其透明化的政府算法治理形态可以按阶段分别予以描述：

第一，政府算法治理决策的透明化。算法技术嵌入政府治理场景是一项涉及公共利益的重大公共决策，算法治理决策的透明化是算法公开的首位要素。具体来说，它包括：一是政府算法治理的政策公开。人工智能算法技术嵌入政府治理势必会改变已有的行政流程和服务样态，势必会产生诸多新现象、新事务和新风险。因而，制定人工智能算法的应用规则是政府算法治理制度化、规范化的首要任务。将透明性的价值嵌入政府算法治理政策与制度设计环节，需要政府主动公开关于算法治理政策制定过程及其政策文件成果，让利益相关主体认知算法治理中应遵守的权责规范。二是算法技术的场景引入决策公开。算法技术的应用是面向场景和问题的，一个治理场景和问题是否要引入人工智能算法是一项关切社会利益的重大决策。因此，政府应向社会披露在具体公共事务场域中引入算法的决策缘由、决策主体、决策过程、决策依据、决策结果等重大决策信息。三是算法技术委托决策公开。政府算法的专业性使得政府算法设计开发必须委托给技术公司，政府将算法委托给科技企业的决策过程应予公开透明，政府应主动公开人工智能算法技术与平台的采购或者招投标信息，向社会披露中标企业技术公司名称、资质、合同任务，增加公众对所委托的算法技术公司的了解和监督。

第二，政府算法的研发透明化。算法研发是政府算法生成全过程中的核心技术环节，而且算法研发固有的专业性、自主性使其最容易成为一个技术黑箱，也成為算法透明的难点之处。在透明化的政府算法治理理念之下，必须用透明性原则重塑算法研发过程，形成可观察、可追溯、可监督的政府算法研发。从技术应用过程来看，算法研发一般包括算法设计、算料采集和算法训练等技术过程，算法研发透明化也可按算法形成过程链条渐次展开。一是，政府算法的设计公开。算法设计是对算法过程的规划，表现为算法研发的主体、目的、流程、结果预期等，公开这些设计信息要素有利于社会公众了解和监督算法研发主体的算法研发目的、计划和行为。二是，政府算法研发的算料公开。算法是将数据进行转换形成有价值的信息、知识与行动工具的程序模型，政府算法研发也离不开海量公众数据的输入。政府要保障公众对自身数据被算法如何利用的知情权，向社会公开具体算法应用的数据来源、数据类型及其数据安全规范。在保障国家安全、数据安全和公民个人合法权益的前提条件下，应将政府算法输入的公共数据算料开源给社会大众，通过数据开放、算料开源提升政府算料透明度。三是，政府算法训练规则公开。虽然算法训练过程具有自主性特征，但是选用何种算法训练方法的规则是需要人类输入的，算法规则的选择会极大地影响算法结果的走向。因此，政府应指导算法企业向社会公开算法规则，有利于公众知晓和监督算法结果形成机理，提高社会公众对算法的理解能力。总而言之，提高算法研发的透明度可以让社会公众了解算法设计的目的意图、基本原理和主要运行机制，而公众的监督可以有效地规避算法研发企业的机会主义动机与行为，保证算法利益的公共性。

第三，政府算法应用的透明化。政府算法应用是算法技术嵌入具体公共领域和公共事务的实践，表现为人工智能公共产品和公共服务供给和消费。在算法应用环节，政府要保障人工智能产品和服务的消费知情权，告知算法驱动的产品与服务的背景、目的、方式和结果。具体来说，算法应用的透明度可以从以下两个方面构建：一方面要公开政府算法场景应用的服务主体信息。算法技术嵌入税收、警务、交通、健康、教育等领域中表现为一个个在地化的场景，算法应用场景包括行政主体、服务对象、人工智能算法技术设备、事务、流程等要素。这些人工智能服务的主体、设备、流程、规则、技术标准应充分公开，让社会公众充分知情算法应用的规范，让社会公众知道谁在为他们服务、如何服务，并了解算法可能对自己的生活产生的影响。另一方面，政府算法应用的结果公开。人工智能算法所做出的行政决策和服务结果应当向算法行政相对人公开，保障其知情权。同时，算法应用结果还应向社会公众以脱敏和汇总方式公开，告知社会大众算法技术应用整体成果与发展态势。

第四，政府算法监督的透明化。规范化、法治化的政府算法治理离不开严密的监督体系，政府应构建针对人工智能算法的安全与风险评估、算法设计、产品开发和成果应用等全流程予以监管，并将算法监督过程和结果公开透明。其一，公开算法监督渠道。政府要提供公众反馈算法问题、算法风险的线上线下渠道。保持算法系统的可访问性和开放性，便于外部审计代理或机构可以访问算法来评估算法研发者、算法设计者的道德伦理以及对法规的遵守。其二，算法影响评估结果公开。算法影响评估是算法导入政府治理场景的一项事前评估制度，它由专业评估结构对算法技术的潜在风险点、风险后果、风险预警、风险治理做出的专业评估和建议，是算法应用的事前监督机制。通过引入算法风险评估制度并公开算法风险评估结果，可以告知社会公众算法的潜在后果，并吸引社会公众监督算法风险。其三，算法绩效评估结果公开。算法技术在具体行政领域的应用效果如何，是否遵循相应规则，是否实现了预期的治理目标，是否展现了相应的公共价值，为了回答这些问题应该对算法技术的应用绩效进行系统评价，并将算法绩效评估结果向社会公布，让社会监督政府算法治理的效能。

2.实现透明化算法治理的政府责任与路径：算法公开

算法黑箱的关键问题就在于公众无法观察和理解算法，破解算法黑箱首先要求的就是打开算法黑箱、推进算法透明。而政府作为算法治理的主体，是算法技术的引入、应用、管理和监督的主體，其承担算法治理的主体责任，并掌握算法治理的全面信息。因此，政府应以算法公开为透明化算法治理的责任定位。

政府应构建有效的算法公开机制，以改善公众对算法信息获取、认知与学习体验，完善公众需求导向的政府算法信息提供机制，构建算法要素全面公开体系。具体来说：

第一，实施算法全要素公开制度。从形式上来讲，算法是输入和输出系统，全面的算法透明需要政府将算法要素安全地、系统地、制度化地向公众开放。一是构建算法制度公开机制。算法制度是政府引入人工智能算法的规则，包括制定的相关政策、法律法规、伦理道德规范、算法行业技术标准。算法制度规定了算法设计者、算法使用者等相关利益主体的权力和应该履行的法律义务，对算法法律责任确认、隐私和产权保护、信息安全利用等有重要作用。算法制度公开可以赋予算法用户对算法设计者、决策者提出合理性质疑权利。二是构建算料开源机制，也即是数据开放。算料开源是指在保障国家安全、数据安全和公民个人合法权益的条件下，算料收集的数据来源主体、数据类型、数据库安全技术、用前脱敏技术等要通过数据开放平台向社会公众公开，以便公众知道数据来源、数据运用以及数据安全保障情况。三是构建算法规则公开机制。算法规则是算法处理数据和样本的策略与方法，表现为句法、表征、符号等计算机技术语言构成的算法代码。根据算法的功能可以将算法分为分类算法、排序算法，等等，采用何种方法来排序决定最终的算法结果。针对每一项智能化的公共决策和服务产品，政府都应当公开其算法规则及其背后的算法方法，让社会公众知晓算法的运行逻辑及其结果。

第二，构建多渠道的算法公开途径。多维算法要素以什么方式向社会公众交付是决定算法公开有效性的关键变量。针对算法系统的多样性要素，采用不同的信息技术实现算法要素的无缝传递。一是，利用政府网站和新媒体及时公开算法应用的政策、运行和效果信息。在信息化时代，算法类信息公开渠道不仅包括传统政府信息门户网站，还包括政务微博、政务微信、抖音号等新型信息传播方式，这些渠道都成为让社会公众接触算法制度、产品和服务信息的便捷渠道;二是，构建算法开源平台。集聚政府算法生成和应用中的数据资源、算法资源等算料要素，构建在线、持续供给的数据开放与算法代码公开，在提升算法透明度的同时，也有利于吸收社会公众的力量参与算法反馈并反哺算法本身的迭代升级。三是，构建公众参与政府算法治理的机制。政府要利用线上、线下渠道，通过听证会、公众调查、专家咨询等多渠道吸纳社会公众参与算法制度设计、算法设计、算法评估和算法优化等算法流程，让公众在算法参与中实现知情知晓，提高公众算法参与和知情的实效性。

第三，构建政府算法解释机制。算法的专业性提高了社会公众理解算法的障碍，而算法解释有助于公众理解算法技术是什么以及它是如何形成的。算法解释可认为是以一种可接受、可被普遍理解的形式对特定结论的决策过程出具算法解释报告，切实解决决策相关者对于最终结果的疑惑。如今，算法解释正在成为算法应用的一项基本伦理准则。美国计算机协会在2017年发布《关于算法透明性和可问责性的声明》的七条原则中第四条是算法解释原则，鼓励使用算法决策的组织和机构对算法所遵循的程序和所做出的具体决策提供解释。对于政府算法而言，算法解释是解决社会公众与算法规则之间技术鸿沟的桥梁，是实现政府治理主体与社会公众之间有效沟通的工具，因而，算法解释是用一种可被理解的方式来提高算法的透明度的救济机制。在算法解释机制的构建过程中，政府要遵循真实性、可接受性的算法解释原则，利用算法宣传、科普、培训等多重宣贯手段，努力消除公众算法理解中的疑惑，说明算法规则背后的理由，取得公众对算法的理解和信任。

3.实现透明化算法治理的公众责任与路径：算法参与

按照政民互动的透明度生成逻辑，创造透明政府需要公众贡献时间、精力与能力并承担责任。这是因为透明政府的本质是公众知情，缺乏公众参与就不会形成对政府运行的实质理解。同样，对政府算法而言，如果算法应用缺乏公众参与，那仍然是单向度的政府算法公开，无法实现公众对算法嵌入公共事务的实质知情。相反，公众参与算法全流程中，不仅可以让公众表达对算法的需求信息以实现回应性和民主性的算法设计和应用，公众还能在参与过程中直接观察、见证算法的运行流程，通过算法要素生成、学习形成对政府算法的实质理解。可见，公众算法参与是实现透明化算法治理的必要条件和有效机制。

通过公众参与算法，创造公众接触并了解算法，排除公众对算法的恐惧，同时也为公众提供了算法教育和培训的机会，提高公众算法素养，减少公众的算法不对称，从而提高算法的透明度。为了提高公众算法知情效果，提高公众参与政府算法治理效能，公众的算法参与责任机制包括：

第一，提高公众算法素养，增进算法知情和参与能力。透明性原则的核心是通过公众的知晓和理解来防止决策的失误和不公正，看懂和理解则是公众监督的前提。而对算法的理解离不开算法素养。算法素养是公众所具备的认识、评价、运用算法的态度、知识和能力。研究指出，算法素养包括三个层次：一是态度层面，指对算法的设计和运行原理有一定的认识，对算法本身及其结论的得出持批判态度;二是能力层面，掌握常见算法的设计能力，对试验数据、算法设计、结果输出有一定的辨别、判断和解释能力;三是规范层面，算法应用合理、合法，遵循专业规范和社会规范。随着大数据和人工智能时代的到来，算法素养是未来公民的基本素质，也是公民参与政府算法治理的能力基础。为了有效提升公众对政府算法治理的知情度，公众可通过培育算法态度、学习算法知识、掌握算法技能三个层面来提高公众的算法素养，弥合算法鸿沟。在提升公众算法态度层面，公众应当培育对人工智能算法的价值感知和偏好，消除算法偏见和恐惧，培育对算法的理性认同度。在提升公众算法理解能力层面，公众要想理解算法，就必须具备相应的知识体系和认知能力。因此，公眾必须学习和掌握相应的算法基本知识，对算法的基础知识、数据结构、经典算法等知识进行学习，为能识别、理解算法提供知识基础。在算法应用能力方面，具有一定算法专业技术的社会大众应优先培育其对政府算法设计、检测的能力，进而用专业知识来检验、重测和辅助优化政府算法。可以说，提升公众算法素养是公众认知政府算法、参与政府算法、监督政府参与的信息资本、知识资本，至关重要。

第二，积极参与政府算法的学习和体验，生成算法透明度。从知情的角度定义的政府算法透明度，它离不开社会公众对算法制度、数据算料、算法规则、算法结果等方方面面算法要素的学习。可以说，只有通过积极参与政府算法学习，才会增加公众对算法的知情程度。为此，一方面，社会公众要积极参与体验政府供给的人工智能公共产品和公共服务，获取和学习蕴含其中的相关算法信息，通过算法体验来学习、判断、反馈政府算法的有效性。另一方面，社会公众要主动获取政府公开的各类算法信息，通过算法制度、产品、服务等要素的搜寻、整理、学习和利用才能转化为自身对政府算法治理全过程的实质性知情。

第三，积极参与政府算法治理的决策、执行和监督的全过程环节，实现对政府算法治理的全过程知情和反馈优化。公众参与提升政府透明度的机理在于，公众参与政府治理的决策、执行和监督意味着公众能够直接参与政府信息的生成，见证政府治理决策、执行和监督的事实，提高了政府透明度的亲身性。为此，在算法治理当中，政府应广泛吸纳民众积极参与到政府算法治理的决策、研发、应用和监督全过程。在政府算法治理决策环节，因为算法引入到政府治理场域涉及公共利益的重大调整，政府可以引入算法听证、公众意见征集等方式吸纳公众参与政府算法治理技术嵌入决策、算法治理制度设计决策，提高政府算法治理决策的开放性和公开性。在政府算法的研发阶段，政府算料生成和采集、算法设计等研发环节可以引入公众数据众筹、算料公示、多元专家参与算法选择等参与方式，促进算法设计、算料采集、算法规训的每个步骤符合公共价值要求，保障公众的公共权益。在政府算法治理应用阶段，政府应保证算法产品与服务使用者的知情权，在公民使用人工智能产品与服务的事前、事中、事后全过程及时向公众披露服务主体、方式与后果信息，提高政府算法治理应用透明度。在政府算法治理监督方面，政府可以在算法风险评估、算法绩效评估等环节广泛引入公众调查工具。例如，政府通过对一定规模的公众进行问卷调查或访谈，向公众收集人工智能产品和服务的风险感知信息、质量评价信息，获取公众对算法应用的感知度、体验度、满意度，帮助政府算法的优化。总而言之，当政府打开算法公开、算法开放和算法参与的渠道之后，社会公众应当积极履行参与责任，帮助政府的算法应用产品和服务的持续改进。

四、结语

在人工智能技术快速蔓延至政府治理场景的背景下，依算法而治理的算法治理模式正成为政府治理创新的前沿。算法黑箱问题由来已久，并且由于其问题的根本性和复杂性，其问题表征还将持续下去。毋庸置疑的是，人工智能算法技术嵌入公共场域应进行公共性的重构，实现价值理性与技术理性的平衡，而对政府算法进行公共性和透明性的重构是其必然选择。本文从学理层面论证了从算法黑箱到算法透明转轨的理论逻辑，并尝试设计了一个透明化政府算法治理的样态和实现路径。显然，这对于解决公共场域的算法黑箱问题还是不足的，未来研究还需要更多理论和经验研究对政府算法问题的因果机制展开深入探究，而本文权做抛砖引玉。

参考文献：

[1]SEDGEWICK R，WAYNE K.算法：第四版[M].谢路云，译.北京：人民邮电出版社，2012：1.

[2]本清松，彭小兵.人工智能应用嵌入政府治理：实践、机制与风险架构：以杭州城市大脑为例[J].甘肃行政学院学报，2020（3）：29-42+125.

[3]孟庆国，鞠京芮.人工智能支撑的平台型政府：技术框架与实践路径[J].电子政务，2021（9）：37-46.

[4]孙庆春，贾焕银.算法治理与治理算法[J].重庆大学学报（社会科学版），2019：1-10.

[5]丁晓东.论算法的法律规制[J].中国社会科学，2020（12）：138-159+203.

[6]PASQUALE F.The Black Box Society：the Secret Algorithms That Control Money and Information[M].Cambridge，MA：Harvard University Press，2015：1-8.

[7]BURRELL J.How the Machine “Thinks”：understanding Opacity in Machine Learning Algorithms[J].Big data & society，2015，3（1）：1-12.

[8]宋锴业.“算法”与国家治理创新：数据、算法与权力的知识生产与逻辑呈现[J].科学学研究，2021：1-13.

[9]张爱军.“算法利维坦”的风险及其规制[J].探索与争鸣，2021（1）：95-102+179.

[10]魏远山.算法透明的迷失与回归：功能定位与实现路径[J].北方法学，2021，15（1）：151-160.

[11]沈伟伟.算法透明原则的迷思：算法规制理论的批判[J].环球法律评论，2019，41（6）：20-39.

[12]徐凤.人工智能算法黑箱的法律规制：以智能投顾为例展开[J].东方法学，2019（6）：78-86.

[13]吴椒军，郭婉儿.人工智能时代算法黑箱的法治化治理[J].科技与法律（中英文），2021（1）：19-28.

[14]姜野，李拥军.破解算法黑箱：算法解释权的功能证成与适用路径：以社会信用体系建设为场景[J].福建师范大学学报（哲学社会科学版），2019（4）：84-92.

[15]布莱恩·阿瑟.技术的本质[M].曹东溟，王健，译.杭州：浙江人民出版社，2014.

[16]栗峥.人工智能与事实认定[J].法学研究，2020，42（1）：117-133.

[17]马世龙，乌尼日其其格，李小平.大数据与深度学习综述[J].智能系统学报，2016，11（6）：728-742.

[18]KNIGHT W.The Dark Secret at the Heart of AI[J].Technology Review，2017，120（3）：1-22.

[19]MAGER A.Algorithmic Ideology：how Capitalist Society Shapes Search Engines[J].Information，Communication&Society，2012，5（15）.

[20]張淑玲.破解黑箱：智媒时代的算法权力规制与透明实现机制[J].中国出版，2018（7）：49-53.

[21]陈鹏.智能治理时代的政府：风险防范和能力提升[J].宁夏社会科学，2019（1）：74-78.

[22]张会平.算法嵌入政府科层制的路径、影响与风险应对[J].广西师范大学学报（哲学社会科学版），2021，57（3）：52-63.

[23]谭九生，范晓韵.算法“黑箱”的成因、风险及其治理[J].湖南科技大学学报（社会科学版），2020，23（6）：92-99.

[24]肖唐镖.中国技术型治理的形成及其风险[J].学海，2020（2）：76-82.

[25]杜小奇.多元协作框架下算法的规制[J].河北法学，2019，37（12）：176-190.

[26]汉娜·阿伦特.公共领域和私人领域[M]//汪晖，陈燕谷.文化与公共性.北京：生活·读书·新知三联书店，1998：81.

[27]BERNSTEIN E S.The Transparency Paradox：a Role for Privacy Inorganizational Learning and Operational Control[J].Administrative Science Quarterly，2012，57：181-216.

[28]BALL C.What Is Transparency？[J].Public Integrity，2009，11（4）.

[29]俞可平.治理与善治[M].北京：社会科学文献出版社，2000：3-10.

[30]JORGENSEN T B，BOZEMAN B.Public Values：an Inventory[J].Administration & Society，2007，39（3）：354-381.

[31]张红春.政府绩效生成的复杂性与绩效评估因应[J].求实，2021（6）：25-40.

[32]胡小明.从政府信息公开到政府数据开放[J].电子政务，2015（1）：67-72.

[33]王张华，颜佳华.人工智能驱动政府治理变革：技术逻辑、价值准则和目标指向[J].天津行政学院学报，2020，22（6）：3-11.

[34]GARFINKEL S，MATTHEWS J，SHAPIRO S S，et al.Toward Algorithmic Transparency and Accountability[J].Communications of the ACM，2017，60（9）：5-5.

[35]郑智航.人工智能算法的伦理危机与法律规制[J].法律科学（西北政法大学学报），2021，39（1）：14-26.

[36]张超.新闻生产中的算法风险：成因、类型与对策[J].中国出版，2018（13）：38-42.

（责任编辑：杨 洋）

From Algorithm Black Box to Algorithm Transparency： the Transition Logic and Path of Algorithm Governance by the Government

ZHANG Hongchun，ZHANG Zhilian

（School of Public Administration，Guizhou University，Guiyang，Guizhou，China，550025）

Abstract：In the era of big data and artificial intelligence，the algorithm-based government governance model is rising.It makes government governance increasingly automated，intelligent and precise，but it also brings major theoretical and practical problems.The source of algorithm black box as well as its solution is of significant as theoretical and practical problems of government governance.This study found that the low transparency of government algorithms is the result of the characteristics of algorithm technology itself combining with the institutional way the government uses algorithm technology，which is the opposite of the essence of the requirements of publicity，openness and effectiveness，and therefore，the transition to algorithm is necessary.The direction of its transition is to build a fully transparent government algorithm governance system，which is composed of algorithm decision-making，research and development，application，and supervision.Its realization path relies on the two-way construction of transparency responsibility and action obligation by the government and the public respectively.

Key words：algorithmic governance; algorithmic transparency; algorithmic disclosure; algorithmic participation; transparent government; artificial intelligence; big data