黄新华 温永林
政府规制(也称政府监管)是市场经济条件下政府为实现某种公共政策目标,依照一定的法律法规对被规制者采取的一系列行政管理和监督行为。提升政府规制效能对推动经济高质量发展,满足人民对美好生活的向往至关重要。但是,随着规制治理环境变迁,政府规制面临的认知负荷日益显现,传统政府规制执法具有成本高、效率低、程序烦冗、响应滞后、手段僵硬等局限,常常使其在不确定的变革社会中面临着适应性困境,难以对复杂市场环境和社会问题进行精确分析和快速回应。[1]为了提高政府服务水平和监管能力,2015年国务院办公厅发布了《关于运用大数据加强对市场主体服务和监管的若干意见》,国务院“十四五”市场监管规划进一步强调,必须积极稳妥、充分有效、安全可靠地运用新技术,要以市场监管信息化推动市场监管现代化,充分运用互联网、大数据、人工智能、算法等现代技术手段,实现监管创新,降低监管成本,提高监管效率。
作为一项具有颠覆性潜力的技术,算法强大的数据分析、信息整合和知识生产能力为政府规制创新带来了发展空间。算法与政府规制融合具有适应规制治理环境的巨大潜能,为应对复杂的规制难题提供了新思路。[2]通过算法赋能政府规制,探索应用算法技术增强数字化、自动化监管能力,成为全球主要国家和地区规制治理的新动向。[3]随着算法与政府规制的融合发展,算法赋能政府规制问题逐渐受到学术界关注,并成为管理学、经济学、法学、社会学等学科研究的热点,相关研究主要集中在两个层面:一是认为算法正以一种技术化了的社会规则之形态[4],从科技之“法”转化为社会之“法”[5],成为对资源配置和公民权利义务关系具有实质性影响的规制方式[6],被用于指导、约束和控制人的行为[7],并讨论了算法技术对缓解规制信息不对称[8],提升规制效率和降低规制成本的影响[9]。二是聚焦以算法为中心的智能社会,探讨算法用于政府规制可能导致简化规制过程、削弱规制权威的问题,认为需要从算法之外“人”的因素予以校正并构建法治化框架[10],关注算法嵌入公共信用评价的风险及其法律规制问题[11]。
目前,学术界对算法赋能政府规制的研究已经积累了一些有价值的成果,在一个算法泛在化并由算法主导的社会,这些研究对利用算法赋能政府规制智能化与精准化,促进规制治理现代化具有实践价值。但已有研究对算法赋能政府规制的逻辑和限度的讨论有待拓展和清晰化,对算法赋能政府规制未来发展方向的阐述也有待深入和具体化。只有厘清算法赋能政府规制的逻辑,阐明算法赋能政府规制的限度和发展方向,才能充分发挥算法赋能政府规制的积极作用,进而通过塑造治理新动能新优势,夯实政府治理体系和治理能力现代化的技术基础。更进一步说,深化算法赋能政府规制的逻辑、限度与发展方向的研究,对于优化规制治理流程,创新规制治理工具,提升规制治理效能,促进政府规制体系和规制能力现代化具有重要意义。
算法是指通过所掌握的信息使算法使用者得到某一针对性问题的答案,或掌握输出信息的一系列指令的策略。[12]算法赋能政府规制是“用算法进行规制”(也称算法规制),具体是指政府利用从无数与受规制环境相关的动态组件中产生和直接收集的数据,实现知识的计算生成,借此达成管控风险、改变行为、确认和自动优化系统操作,以提升规制效能和实现预定目标的目的。[13]随着数字时代的到来,算法赋能政府规制在技术上具有可行性,在现实和价值上具有可欲性。以大数据、物联网、人工智能为代表的新一代数字技术的发展,为算法赋能政府规制提供了可能。响应经济社会数字化转型对政府规制提出的新要求,规制治理也亟须吸纳新技术提升治理效能,通过创造公共价值推进经济健康有序发展,满足人民对美好生活的向往。数字技术发展、规制治理需求与公共价值创造之间层层递进的互动关系,共同建构了算法赋能政府规制的逻辑向度。
社会计算化程度提升为算法赋能政府规制提供了丰富数据。从本质上看,算法是通过将输入数据转换为特定输出以解决问题的一套计算程序。数据是算法模型的原料,政府设计算法模型,使用算法规范被规制者行为,离不开对相关主体活动数据的采集、存储、传输、分析与处理。随着互联网、物联网、云计算等数字技术的发展,其在人类事务中的应用广度和深度不断增长,不仅深刻改变了社会运转方式、结构形态和人的行为模式,而且使规制部门掌握规制对象活动形态和活动轨迹的数据信息有了更丰富的技术工具。[2]如果说互联网技术让人与人之间的沟通交流从“线下”走到“线上”,从有形实体空间走向虚拟数字空间,那么物联网、传感器等技术发展则使物与物之间的联结成为现实。在这个过程中,一切社会事实被高度数据化记录和表达,整个社会的数据量呈爆炸式增长,这样一个日益量化的社会为规制部门设计、优化和运行算法模型提供了海量实时化、动态化、场景化和个性化的可用数据。[14]在数据来源方面,规制部门既可以通过机构调整促进部门协同,整合其他部门记录的公共数据,使沉寂的公共数据创造价值,也可以依托大数据、物联网技术,对规制对象的业务活动、生产交易活动、潜在风险行为等进行实时监测,汇集相关主体数据信息,建立规制信息数据库。在数据结构方面,算法技术发展也使规制部门可用的数据类型更加丰富,包括一系列结构化数据、半结构化数据和非结构化数据。
作为一种新型社会控制机制,算法塑造了网络空间的行为规则,算法赋能政府规制使规制权力的触角由现实空间向网络空间延伸成为可能。随着算法在公共领域的进一步渗入,算法对社会资源配置、市场主体行为和公众权利义务关系的影响力和控制力将不断加深,甚至演化为构建、引导和控制社会成员共同行为的重要规范标准,成为具有实质性影响的立法性算法。[6]规制本身是调整和改变行为以达成既定公共政策目标的活动,算法的法律倾向与政府规制的行为规则具有相同属性,都是旨在通过既定规则约束特定主体行为以实现特定目的的过程。因此,利用算法的分类与控制程序,规范和约束被规制者的行为,其作用机制与政府规制一样,只不过算法是算法社会中形成的一种新的维序手段。[15]正因如此,随着市场与社会主体行为越来越多地发生于由算法规则构成的网络空间,规制者不仅可以借助算法为相关领域的主体行为量身定制场景化规则,基于算法自动化决策或辅助决策对规制对象行为进行矫正与调整,而且可以利用与其规制领域相关的大量数据集,识别和区分需要特别关注的问题,确定规制议题的优先次序,实现规制资源、规制工具、规制责任的高效分配和控制。在“代码即法律”“代码即权力”的时代,代码将会成为动态的、敏感的和适应性更强的人类行为裁判[16],算法赋能亦能通过代码以持续的、稳定的控制形式提升政府规制能力,降低规制成本。
经济社会数字化转型加速了有形现实空间与虚拟数字空间的跨界融合,创造了丰富多彩的数字世界。然而,数字化转型也带来了许多新的问题和挑战,这些新问题新挑战突破了传统的认知水平和规制治理框架,对政府规制的体制机制、手段方式形成巨大冲击。一方面,数字社会不断涌现的新模式、新业态具有鲜明的跨区域、跨领域、跨行业特征,使传统边界清晰、条块分割的政府规制面临着体系钝化和功能梗阻的障碍[17],不同规制部门之间缺乏有效的信息沟通、交流和共享机制,不同环节、不同领域重复监管问题突出。另一方面,数字化转型对政府规制方式提出了更高要求,但在规制治理实践中,政府规制大多沿袭和采用传统规制方式,习惯遵循行为主义规制逻辑,强调从传统物理世界的角度看待被规制者的风险行为。[18]但是数字时代相关主体的“线下—线上”活动空间深度融合,以物理世界的行为逻辑规制数字空间中的行为,极易忽视网络技术设置和架构设计对主体行为的影响。规制治理体制机制、手段方式面临的现实困境,暗含了加速构建技术赋能型规制体系的紧迫性和必要性。遵循技术治理的逻辑,算法赋能政府规制可以丰富规制治理的“工具箱”和提升规制能力,弥补传统政府规制短期化、部门化、行业化的不足,增强规制执法综合性、灵活性和适应性。由是观之,算法赋能政府规制既是传统政府规制适应性不足的产物,也是经济社会数字化转型所催生的必然结果。
算法权力的兴起与滥用亟须政府规制吸纳新的技术工具,以提升自身规制效能。信息时代智能算法凭借着机器优势、架构优势和嵌入优势形成的资源调配力量,使其成为一种事实上的技术权力。[19]从权力的支配力和影响力角度来看,算法权力对人类行为方式、认知模式具有空前的塑造能力,对社会资源和社会运行方式具有强大的支配与控制能力。[20]作为一种新型权力形态,算法社会中的算法权力犹如福柯所指的分散多元、无处不在的现代权力范式,任何人都可能成为算法权力的掌控者。换言之,除了规制部门运用算法外,平台企业、数据服务公司和其他社会组织也可以广泛运用算法,形成与公权力算法相对应的私权力算法。政府利用算法赋能的目的之一,在于应对私权力算法滥用及其引致的“扼杀式”并购、自我优待、算法操纵、算法合谋、大数据“杀熟”、算法剥削等外部性风险问题。以技术治理技术、以公权力算法监督私权力算法被认为是私权力算法风险规制的必不可少的手段[21],这种以技术约束技术的敏捷性规制工具的开发成为越来越多国家治理算法风险的路径选择。[3]规制部门对市场上正在运行的各类算法,相对应地开发一套监督算法,对其进行合规监管,或将既定法律、规则、标准以及“善”的价值理念植入其中,通过预先设置的合规协议、触发策略对私权力算法进行自动化规约,实现对私权力算法的事前事中事后全链条、全过程、实时化监管,将有助于避免私权力算法滥用和化解潜在算法风险。
依托技术力量提高政府规制水平和效能是现代规制型国家建设的基本经验。根据公共价值理论,政府吸纳新技术的原则和使命在于公共价值创造。[22]算法赋能政府规制有利于创造公共价值,提升规制效能、改善规制服务、增进民生福祉。从提升效能上看,市场经济持续、稳定和健康的发展,离不开有效的政府规制,政府规制的能力水平直接关系市场经济运行和经济形势。但是,现代市场的动态性、复杂性,规制对象的技术性、专业性和不确定性,以及规制过程中规则、关系和目标的变动性等,给政府规制带来了巨大挑战。[23]借助算法赋能推动规制理念、规制流程和规制工具创新,实现政府规制智慧化转型,是实现政府规制体系和规制能力现代化的必由之路。作为一项颠覆性的前沿技术,算法嵌入政府规制能够丰富政府规制的工具箱,引领全方位、系统性的规制变革,提升规制效率。算法与政府规制在社会实践情境中不断地交织互动,更是有助于促进政府规制权力关系重塑、组织模式变革及规制流程再造,促使政府规制的体制机制不断适应现代化进程中的新环境。这是算法赋能政府规制创造公共价值的重要维度。
从改善服务上看,算法赋能有助于政府为市场提供精准高效、优质个性的规制服务。有效市场和有为政府更好地结合,使市场在资源配置中起决定性作用和更好发挥政府作用,意味着规制供给必然要与市场需求相适应,规制偏差或规制错误会阻碍市场创新和经济健康发展。政府利用算法技术精确识别、高效处理复杂市场信息,有助于缓解规制中的信息不对称,提升规制部门认知水平和风险处置能力,在降低规制成本的同时使规制部门对市场和企业风险行为做出更敏捷的反应。换言之,政府依托算法技术对市场行为进行前瞻性的分析判断,预先监测、评判和识别潜在的反竞争、歧视等风险行为并予以针对性、层次化、个性化干预,可以有效提升服务能力和规制水平,平衡规制与发展之间的内在张力,为经济高质量发展和社会创新创业活力激发营造健康有序的市场环境。
从增进福祉上看,算法赋能有助于满足人民对高品质美好生活的向往。政府规制本质上是政府向社会提供的一种特殊公共产品,为人民创造高品质生活和增进社会整体福祉是政府规制的基本价值旨归。但是,人民对美好生活的追求是一个动态的、发展的过程,在不同发展阶段具有不同的内涵。进入新发展阶段,贯彻新发展理念,构建新发展格局,推动高质量发展,决定了人民对美好生活的向往不仅仅体现为物质层面的满足,而且包括更高层次、更多样化的精神追求。政府借助算法赋能延伸规制权力触角,提高供需两侧的宏观调控和资源配置能力,根据人民在新发展阶段客观需求的实际变化和特点,创造性地引领和满足人民需求,有助于实现以人民为中心的发展理念,真正在发展方向、发展目标、发展过程、发展结果等各个环节落实发展依靠人民,发展为了人民,发展成果由人民共享。坚持人民主体地位,满足人民对高品质美好生活的向往与期待,既是对新时代政府规制公共价值内涵的确认,也是算法赋能政府规制创造公共价值的过程。
算法赋能政府规制为提升规制效率,降低规制成本提供了前所未有的机遇。但是,当规制部门利用算法解构复杂的社会事实,并以数据驱动的算法决策取代传统规制决策以规范和约束相关主体行为时,容易陷入技治主义和工具理性的窠臼与程式化的刚性执法困局,在技术、法治、伦理等层面都存在着一定限度。
规制任务的多面性、模糊性和不可化约的复杂性,容易使算法赋能政府规制陷入困境。规制是有意使用权力,根据既定的标准,运用信息搜索和行为修正等工具影响其他当事人行为的过程。[24]规制部门以实现某种规制目标而对市场主体和个人行为进行干预和控制时,离不开对相关主体信息的识别、采集、分析及处理。算法赋能政府规制便利了规制对象信息的采集和分析,可以弥补规制人员海量信息处理能力不足的问题。但是,随着人类社会向现代化转型,复杂性被视为现代社会的主要特征,复杂性是我们所处世界本身存在的状态。[25]算法赋能政府规制旨在将市场与个人在复杂社会情境下形成的经验事实化约为算法模型可以识别的数据符号,这在本质上是对经验事实的简化,是使社会事实“可读化”的过程。然而,现实中并非所有的社会事实都可以通过简单量化的数据予以精确衡量,数据驱动的算法决策所遵循的理性主义技术逻辑,有时难以有效整合无法量化或无法进行程式化表达的隐性知识,也无法对模糊的、常常没有恒定标准的规制目标进行衡量。特别是在规制执法中,规制者面临着许多需要依靠经验理性裁决的内容。以环境规制领域为例,近年来各地“智慧环保”系统的建设与应用为打好污染防治攻坚战和建设美丽中国做出了重要贡献,切实提高了政府环境治理效能,改善了生态环境质量。但完全依靠“智慧环保”系统显示的认证结果执行相应规制政策,也可能导致规制失败的问题。如因环境要素繁多、污染源复杂而无法实现精确的在线监测,导致系统因环境数据失真做出与实际情况不符的判定,带来环境责任分配不均的结果。[26]事实上,政府规制中的大量实践存在着模糊边界,这有赖于规制人员基于具体场景灵活权变地采取行动策略。
技术也无法对新问题进行有效感知、思考并生成解决方案。在现代化的市场与社会环境中,规制部门需要面对许多新情况、新问题,算法模型通过相关主体历史活动数据推导其现在与未来行为的预测性特征,在新的规制任务面前存在着失灵风险。一方面,由于算法奠基于数据与结果之间的相关关系而非因果关系,对算法结果的解释往往难以满足人们对因果关系解释的需求。尤其是当规制部门使用预测类算法工具进行风险评估并对相关主体做出限制性规制决策时,规制者不能以数据的相关性取代对规制决策因果关系的解释和说明。因为以历史数据预测未来,不仅容易陷入数据自我实现的怪圈,而且容易忽视很多结构性、制度性和主体能动性等方面的问题。[27]更重要的是,算法无法集成尚未发生的未知数据,不具有对未知的预测能力。因此,过度依赖算法决策结果进行程式化规制,可能会导致规制资源配置扭曲,产生规制谬误。另一方面,新问题之所以成为规制议题,主要源于人们对问题的认识、想象和建构。只有当人们意识到了问题的存在性,并将违背社会主流价值观和突破社会容忍度的新问题通过一定程序上升到政府的规制议程时,新问题才能成为政府的规制议题。这个过程离不开规制者、市场和社会等不同主体的互动参与和共同想象,特别在需要价值考量的复杂事项和具有模糊边界的规制目标面前,人的参与必不可少。
规制俘获是指在政府规制过程中,由于立法者和规制机构追求自身利益最大化,因而某些特殊利益集团通过收买或贿赂等方式,使立法者和规制机构做出有利于他们的规制政策或制度安排的行为。[28]关于规制俘获的成因,施蒂格勒和佩尔滋曼从政治经济因素层面分析了规制者与被规制者之间的利益博弈和利益交换问题;克鲁格等人从规制者创租、抽租和利益集团寻租角度分析了规制俘获的成因。[29]拉丰和梯若尔基于委托代理理论,从不对称信息、承诺缺失及不完美规制者的多重约束角度解释了规制俘获的形成。[30]根据规制俘获理论,规制俘获通常是规制者与被规制者互动博弈的结果,规制者可能为了自身私利而与被规制者合谋。这类规制俘获也由此呈现出明显的主动性,即规制者具有被“俘获”的主观意愿。与此同时,已有学者开始讨论“被动规制俘获”问题[31],即规制者并不具有被“俘获”的主动性或主观意愿,却因其自身某项能力不足而不得不将部分资源或权力让渡于被规制者。这种“被动规制俘获”已经成为数字治理时代愈发常见的新现象。
具体而言,算法赋能政府规制不仅需要巨额的资金投入,而且还应具备相应的技术能力。由于算法赋能会带来更多的知识和信息来源,规制部门具有使用算法技术以高效实现规制目标的动力,但限于自身资本和技术能力,规制部门通过公私合作机制,向市场主体购买算法服务或与其共同开发算法规制系统是一种更经济的选择。在市场经济环境中,以平台企业为代表的市场主体凭借着自身强大的数据、技术和资本优势,成了绝大多数公私场域算法模型设计和算法运营的主导者。规制部门依托市场主体的资金和技术能力开发算法规制工具,这一过程尽管使政府规制部门获得了调整和重新分配社会资源的更大权能,但同时也使规制部门所依赖的算法技术主体拥有了支配规制权力的可能。规制者通过让渡部分规制权力(如公共数据采集和使用)而获得企业技术支持的行为,将不可避免地形成“被动规制俘获”。一旦算法主体以资本和技术力量渗入公权力,形成所谓的“算法影子官僚”[32],必将对规制公权力产生倾轧,进而消解政府规制的公共价值。因为市场主体往往将商业逻辑和资本逻辑奉为圭臬,具有天然的逐利性,这与政府规制的公共价值逻辑存在着内在张力。更重要的是,由于算法技术供需双方的能力具有高度不对称性,当利用算法对市场环境和社会问题进行精确分析和处理时,如果算法主体具有绝对的权威性和话语权,就会导致规制权力屈服于市场主体的私人控制,公共理性屈从于技术理性,对技术的路径依赖可能最终导致规制人员沦为“屏幕官僚”和资本用于汲取公共利益的工具。
在新技术发展与规制变革交相呼应的时代,规制技术的优化使政府规制能力得到持续强化。算法赋能政府规制赋予了规制部门精准识别潜在规制议题、确定规制任务优先次序以及根据规制需求高效调配规制资源的强大能力,使绝大部分被规制者试图通过破译底层算法以实现“创造性遵从”的抗衡策略不再有效。[33]规制部门利用算法赋能扩展自身在现代复杂市场体系中的规制能力,符合当前政府规制效能建设和更好规制的规制治理目标追求。然而,与规制能力提升相伴生的是规制权力泛化。当算法嵌入政府规制权力体系时,规制者可以以算法为媒介推动规制权力在多维时空深度渗透,并借技术理性“科学管理”的规律和机制,以更加隐秘和更具合法性的形式毫无顾忌地任由规制权力以技术逻辑之形态肆意扩张,直至蔓延整个社会,形成所谓的“算法利维坦”风险[34],这也预示着政府规制将在更广泛的领域和场域产生影响。作为国家强制权力的垄断者,规制部门规制能力的扩张和行政裁量权的膨胀,与深化“放管服”改革和法治政府建设要求的行政自制主张之间存在着内在张力,由此不可避免地引发人们对规制权力泛化和规制者自身缺乏规制的担忧。
算法的不透明和不可解释与规制权力泛化耦合,加剧了算法赋能政府规制的可问责性问题。可问责性是规制者向其他个人或组织就自身行为作出解释的义务,它是一种展示、解释并证明自身行为具有正当性的责任。[35]政府规制部门及其公职人员担负着公共使命,以特定责任作为规制部门的方向指引,以问责校准规制部门的行为选择,是保证其合法有序行使公共权力的重要机制支撑。但是由于“算法黑箱”问题的客观存在,规制者要对算法决策过程和决策结果向被规制者和外部审查做出合理解释,面临着技术障碍。算法助推下的规制权力弥散与泛化则进一步加剧了这类解释难度。倘若不能对规制决策做出合理解释和说明理由,将直接影响被规制对象对规制决策的认可和接受程度。此外,由于算法系统是由政府购买或政府与市场主体合作开发,不同主体之间如何进行责任分配,则使算法赋能政府规制的可问责问题更为复杂性。如果不能明确责任归属,问责就无从谈起,相关的问责机制也将失效或陷入空转。更严重的是,算法以对政府规制的赋能而获得社会认同和合法性,但这也给规制部门推卸责任创造了空间。规制者将规制权力部分让渡给算法,一旦基于算法驱动的规制决策出现偏误,规制者可能首先会将其认定为算法失灵而非行政之责,或至少可以实现部分卸责。
算法偏差是指规制者使用算法对被规制者进行分析决策时,由于主观价值偏见、数据和模型缺陷以及算法模型应用场景错误等,导致算法决策结果偏离预期目标的现象。作为规制资源和规制权力的掌控者,如果规制部门根据算法计算的偏差结果调控和干预被规制者行为,对被规制者进行差别对待,会诱发严重的歧视性后果,损害市场公平竞争秩序。促进市场经济健康有序发展,要求政府利用算法赋能规范市场行为时,应该抱有一视同仁的开放观念,为各类主体创设可竞争的市场环境。然而,政府规制实践中往往存在着歧视和偏见效应,譬如过于重视企业的所有制和规模,或者迫于既得利益者的压力,对新主体实施严格的市场准入规制和价格规制。[36]算法是社会技术的产物,它由个体或组织的实践形塑、想象和建构[37],与个体或组织的价值偏好和思维观念紧密相关,作为人的“代理者”,算法承载着人的目的倾向性。[38]这意味着,政府设计和使用的算法模型同样饱含着规制者的意图和目的,如果将过去歧视性规制的价值取向植入算法模型,那么算法模型将会延续甚至放大这一偏见,进而阻滞市场公平竞争和创新,抑制新经济发展活力。
算法偏差还会侵蚀规制者的自身权威,损害政府规制的公信力与合法性,影响市场和社会公众对政府规制的信任。信任是一种关乎他人未来行为的假设,规制信任本质上是对规制权力行为的一种可信赖预期,对政府规制信任与否是决定市场主体和社会公众选择遵从或不遵从政府规制决策的重要因素。[39]在通常情况下,规制者可以基于算法的技术理性和效率逻辑,缓解复杂市场环境中信息不对称和规制能力不足的问题,从而在市场主体和社会公众中建构起对规制权力的可信赖预期,即以技术信任补强规制信任[40],增强规制权力运行的合法性基础。但是,政府规制中的算法偏差及其引致的歧视性规制会对算法信任和规制信任构成严重挑战。一个缺乏公平正义的规制决策显然无法获得市场主体和社会公众的自觉遵从和认可,更严重的甚至会导致规制对象对政府算法规制决策的权衡、猜测和怀疑,进而诱发相关主体的规避、违法和反抗行为,如此政府规制所拥有的公共性将不可避免地走向空心化,规制也将丧失其公信力和权威性。
算法赋能政府规制的限度表明,规制技术优化并不能为所有规制议题提供解决方案,治理技术创新还可能会诱发其他新的问题。发挥算法赋能政府规制的积极作用,必须革新思维认知,认清算法规制的不足,完善政府规制的体制机制,加强制度建设,以适应算法时代规制治理变革的需要。
现实世界的复杂性和不确定性使得政府规制目标、规制任务具有天然的模糊性和多变性,这意味着算法决策并不适用于所有规制场景,规制者必须清楚地认识到算法的本质属性,明确算法的适用领域和范围,强化自身主体意识。
一是要认识算法的工具属性。遏制算法技术“恶”的部分,发挥其“善”的功能,首先要求规制者认清算法的本质和定位。随着算法和人工智能技术的发展,政府逐步将部分决策自主权交予了算法,鉴于算法在现实社会中的智识表现与多元功能,有学者认为应该通过法律拟制而赋予算法一定范围的法律主体资格[41],甚至强调对由高度自主性和主动性的电子及电子化技术构建的机器设备或系统,应当设立新的法律主体类型“电子人”。[42]然而,认定包括算法在内的人工智能是否具有主体属性,不能脱离现实的技术背景,在当前的技术条件下,算法只是服务于其控制者达到特定目的的工具。[43]算法行为依然是人类行为的一部分或人类行为的目的性延伸,算法的自主性是人类赋予甚至纵容的自主性,是人之理性面对技术理性以无为换有为的结果,在本质上还是人类的行为选择。[44]换言之,工具属性是算法的本质属性,规制者应清晰地认识到目前算法尚不具备人类主体特有的自主意识和对复杂社会事实的认知能力,算法在处理模糊的规制任务和新的规制议题时存在着天然的技术性局限。因此,在利用算法赋能的同时,必须强化规制者自身的主体性地位,避免因人之理性对技术理性的过度“屈从”而陷入程式化规制陷阱。
二是要明确规制的人机分工。算法赋能提升了政府规制的理性化和科学化水平,对规制部门而言,借助算法技术应对复杂市场环境和社会问题以实现各方良性互动和更好规制是一种理想状态。然而,算法潜在“替代人”的独特属性改变了人的存在价值——将人从具体的行政实践场景中移除,使规制中的主体和客体之间开始走向以非现场和无接触为主要特征的智慧化“人机”或“机机”交互场景。[45]算法决策系统对规制者决策权的部分替代冲击了过去以人为中心构建的人际秩序,结果可能使规制者忽视具体实践场景中的问题本质和政府规制的基本价值指向,在技术理性与传统官僚主义、形式主义耦合下,导致规制者自身成为被规训的对象。算法赋能政府规制已经成为推进规制治理变革不可回避的现实问题,因此必须慎重考量政府规制中人与算法的关系,明确规制者的自身价值和算法的适用范围,重塑和谐的“人机秩序”。在具体规制治理场景中,应当根据算法适用的任务类型、边界范围和场景领域为其划定清晰可见的“红线”,对关乎社会核心价值、涉及规制对象重大权益的事项,或需要规制者参与判定、提供解释的新问题、新领域,规制者必须成为规制权力行使的应然主体。
三是要强化政府的主体意识。算法赋能政府规制因算法决策过程的自动化而使算法呈现出了部分自主性特征,但这不应成为规制者“离场”的理由,以数据为核心驱动的算法决策的内在限度要求规制者必须时刻保持“在场”。这需要强化规制者对自身价值的认知,提高自身在算法赋能中的主体意识,明确公共价值和公共利益追求,使规制权力回归公共性,通过积极且负责任地参与算法决策,弥补算法在处理模糊的规制任务和新的规制议题中的不足。规制者还应清醒地认识到,技术发展的本质在于促进人的发展,坚守“以人为尺度”的伦理责任和价值底线是发挥算法赋能效应的核心所在。
规制部门要摆脱对商业资本的算法依赖,加强规制机构内部算法运用能力建设,建立相对独立的政府规制机构、组建专业的算法审查部门和加强复合型算法人才培养,防止资本力量过度介入侵蚀规制权力、消解公共价值。
一是要明确规制机构的法律地位。实现规制机构的法定化,通过立法明确规制机构的职责权限,是规制机构有效行使规制权力、顺利履行规制职责的重要保障。适应算法时代技术变化驱动的政府规制变革需要,加速推进算法与政府规制融合,避免因技术依赖而陷入被动规制俘获,必须推进机构调整和法律变革。首先,依法赋予规制机构在其专业领域所应享有的职权,使其能够对具体规制领域算法规制工具的使用和配置进行整体规划,根据规制目标和场景制定算法赋能政府规制的建设方案和具体标准。其次,强化规制机构的法律地位,为打破不同部门之间的信息壁垒,促进规制信息跨部门跨层级流动共享,提升公共数据资源利用效能,以及建立专门的涵盖不同场域规制信息的数据库提供便利,从而减轻对市场主体在数据采集中的技术依赖。最后,为规制机构配置更多的执法资源,规制部门可以通过公开招标程序将更多算法技术供给主体纳入竞标范围,在算法的供给侧形成竞争环境,可以为规制部门提供更加公平、安全的算法工具。
二是要建立专业的算法审查机构。算法赋能政府规制既是规制治理实践发展的客观需求,也是政府规制智慧化转型的必然趋势。然而,算法赋能中的技术依赖表明,必须时刻警惕“算法影子官僚”过度介入规制权力运行带来的风险。保障算法技术运用符合公共价值、增进公共利益,有必要在规制部门内部建立算法审查委员会,通过对算法模型进行准入审查,避免算法技术供给主体的机会主义行为,防止被动规制俘获消解规制的公共价值。可以通过立法明确算法审查委员会的职责权限和任务类型,如审查算法备案信息、接受算法主体解释、对算法技术安全性问题进行集中监管等。[46]但是,必须保障算法审查机构的独立性,避免算法运用和算法审查权力交叉,进而切断算法审查委员会与算法技术供给和使用主体之间的利益关系,防止出现新的权力俘获、寻租和腐败问题,以保障算法审查委员会的公正性。
三是要加强复合型算法人才培养。任何好的制度、政策和方案本身并不能保障规制结果的有效性,在规制政策的制定与执行、规制方式的选择与运用中,规制者发挥着重要作用。其中,规制者的能力是构成政府规制能力最基本的能动要素,更有能力的人员将极大改善规制机构的运作。[47]但是,在算法赋能政府规制过程中,由于规制机构内部算法人才供给不足,需要借助市场主体的技术能力,容易形成对商业资本的技术依赖,导致商业资本逻辑驱逐公共价值逻辑。保障规制权力行使的“独断性”,亟须健全规制部门人才管理机制和培养机制。既要加强政府内部算法人才培养,加快规制人员算法技术能力培训,使算法规制工具的关键核心技术掌握在政府内部,也要完善外部人才管理机制,如加强政校人才对接,通过政校人才联合培养,打造既懂规制又懂算法的复合型人才队伍。此外,还可以通过聘任机制,借助企业、智库等的人才优势和技术力量,组建算法技术顾问委员会,为算法赋能政府规制提供技术咨询。
算法赋能政府规制是复杂社会变革中强化政府规制的要求,但是,加强政府规制不是对管控型国家的复归,而是向监管型国家转型,是从干预型政府向规制型政府的转变。[48]要防范算法嵌入政府规制导致规制权能过度泛化和规制的可责性风险,必须强化对规制者的规制,以制度建设约束权力,明晰主体责任。
一方面,要完善规制正当程序制度。正当程序制度是规范规制权力运行、保障被规制者合法权利的重要制度。规制权力运行的正当程序原则要求规制主体在做出影响被规制者权益的行为或决策之前,给予被规制者知情、参与、异议和救济的权利,并对规制决策作出解释或说明理由。尽管算法压缩规制决策环节,加之算法的不透明和不可解释可能对传统约束规制权力的正当程序制度产生冲击,但在算法嵌入政府规制过程中,避免规制权力以技术理性之形态过度膨胀和滥用,进一步强化和完善规制的正当程序制度仍不失为一种有效的调和策略。[49]规制方式的变化不是规制者信息公开义务的豁免理由,算法赋能政府规制带来规制双方信息失衡的格局,暗含了强化行政公开原则的重要性。规制部门应该在数据采集、适用领域、任务类型、影响范围、风险程度等诸多方面加强与算法赋能有关的信息公开,强化行政透明义务,让政府规制在阳光下运行,使被规制者明晰算法决策对其权益可能产生的影响,避免规制中的权力腐败和机会主义行为。规制的正当程序制度要求为受算法决策影响的被规制者构筑参与渠道和权利保障机制,提供申诉和抗辩的途径,对算法驱动的规制决策向被规制对象作出解释和说明。只有进一步完善数字治理时代的正当程序制度,加强对算法赋能背景下规制权力的制度约束,才能有效弥合规制权能扩张与行政自治之间的张力。
另一方面,要健全算法问责制度。人民民主是社会主义的生命,国家的一切权力属于人民,政府行使公共权力必须对人民负责。这意味着,在社会主义民主政治中,任何公权力机关及其公职人员都处于责任状态。[50]政府规制部门及其公职人员作为国家规制权力的执行者,理应承担其规制行为之责任。构建问责制度的目的就在于贯彻权责一致的法治要求,防止权责失衡产生不良或有害的结果。与传统规制方式相比,算法赋能政府规制存在着更复杂的运作“黑箱”和更多元的责任主体。规制部门作为算法工具的目标设定者和算法决策的主要受益者,即算法工具由规制部门主导并服务于政府规制目的,在算法本身担责不符合现实的情况下,算法决策的主要责任理应由政府规制部门承担。[51]市场主体作为算法技术的供给方,应该担负算法规制工具设计与运营的次要责任。具体地,明确算法赋能政府规制的责任主体,需要在规制部门、算法设计者、算法运营者之间建立一套健全的算法责任分配机制。在实际操作中,可以基于算法工具的设计和运行、适用场景和目标选择等过程,划分主体责任,通过算法备案、算法运行监管、算法审计等具体制度安排,固定算法决策责任点。建立算法工具的风险预警机制,以算法赋能政府规制的结果侵权程度为导向进行责任分配。建立侵权补偿和救济制度,为受算法决策侵害的被规制对象提供补偿。通过科学的责任划分,化解算法赋能政府规制过程存在的责任模糊和避责卸责问题。
遏制算法技术不透明性加剧的算法黑箱效应,以及有效规避算法偏差引致的歧视性规制和规制信任损益风险,需要完善市场经济中的公平竞争审查制度和构建算法影响评估制度。
当务之急是要完善公平竞争审查制度。竞争是市场经济的灵魂,清理废除妨碍统一市场和公平竞争的各种规定和做法,激发各类市场主体活力,是建设高标准市场体系和构建高水平社会主义市场经济体制的应有之义。公平竞争的审查制度作为规制抽象行政性垄断行为的一种创新性的制度安排,旨在通过对政府制定的政策措施实施事前审查,防止政府滥用行政权力排除或限制竞争,以促成统一开放、竞争有序的市场体系。[52]规制者在过去市场经济不健全环境下形成的固有认知和歧视性做法,是算法赋能政府规制过程中算法偏差产生的重要原因。因此,需要通过完善公平竞争审查制度,从制度层面对规制者潜在的歧视与偏见行为加以约束,通过纠正政府认知偏见和目标偏差,防止规制部门为了自身利益而做出排除或限制竞争的规制决策。更重要的是,必须立足于算法赋能政府规制的时代背景,为公平竞争审查制度植入新的要素内容,如对政府使用的数据代表性进行公平性审查等。
与此同时,必须要构建算法影响评估制度。算法影响评估是指特定主体根据既定标准对算法系统内部设计、应用和数据处理等内容的描述,旨在评估其对特定个人或群体所产生的影响程度和风险等级,据此设计相应的方案以减轻或消除负面影响和风险的算法治理活动。[53]算法影响评估本质上是一个构建和展示合规性的过程,是一种被广泛采用的风险防范机制,也是机器学习算法风险规制的有效途径。为防止规制部门算法技术应用对特定场域活动主体形成歧视性规制,影响市场公平竞争和政府规制合法性,还需要构建算法影响评估制度,从制度设计、制度执行、制度保障等层面进行整体规划[54],促进算法赋能政府规制公平向善。可以以算法工具的适用领域、任务类型、规制目标、影响范围、影响主体、影响程度、数据信息敏感性等为基础,建立科学合理的评估指标体系,并建立由规制部门、被规制对象、第三方专业机构、社会公众等多方主体构成的算法影响评估机构,识别算法模型可能存在的价值偏见和数据缺陷,保护规制对象合法权益。通过内外兼具的利益各方协同参与,提高制度执行的灵活性和延展性,促进激励相容,增强算法决策信任。
算法技术的发展及应用,蕴含着人们对良好社会秩序的期待和对美好生活的想象。随着算法与政府规制融合程度的不断加深,算法赋能政府规制的创新形式在越来越多的规制场景得以应用,算法赋能由此延伸了政府规制权力的触角,提高了规制权力运行的效率,拓展了规制治理在复杂情境中的规制能力。可以说,通过算法赋能政府规制强化规制部门对复杂社会风险的规律性判断,是实现更好规制的应有之义。但是,在建构有效市场和有为政府的良性互动关系中,强化规制与放松规制并非此消彼长的关系。算法技术运用具有的丰富想象并不足以使人们忽视其背后的风险,必须认真审视算法技术理性可能存在的消极后果。在算法技术发展和政府规制智慧化转型进程中,发挥算法在政府规制中的赋能效应,必须始终坚持规制者的主体性地位,加强政府规制创新中的体制机制和制度建设,以保障算法技术在可控和可信赖的轨道上运行。