以行业协会为中心构建算法治理模式

桂 雪

（西北政法大学经济法学院，陕西 西安 710122）

进入强人工智能时代后，算法（Algorithm）作为人工智能的支撑技术，其主要表现为解决特定问题而通过分析输入信息最终得出结论的技术程序。然而，在对个人信息数据进行价值提取的过程中，算法模型因其开发者或使用者所欲达成的特定目的、个体利益最大化的自利性考量以及因信息不对称产生的优势地位等，极易产生具有法益侵犯性的负外部效应［1］。也就是说在算法设计者的“偏好”下会存在“算法黑箱”，进而随之带来信息滥用、差别化对待、牵制公权力等问题。在进入以自主学习为代表的强人工智能时代后，学界展开了对算法的相关研究，主要研究成果大都集中在算法歧视、算法共谋等具体问题，而对算法治理模式的研究并不多见。算法作为一门智能技术，与其他技术一样，都将在法律的监管下运行，但在算法高度隐蔽性、强制性和固有的知识产权性的特征下，原先以政府监管为中心的事后惩戒式治理模式则表现出了弱监管性的现象。在人工智能时代下，如何将算法这一具有自主学习的高智能技术进行有效监管，是本文研究的主要问题。

一、算法技术溯源与算法应用风险

（一）算法运行的基础理论

算法（algorithm）源于9世纪波斯数学家花拉子模，本意为阿拉伯数字的运算法则。现代意义上的算法，更多被提及为计算机算法，“算法是一种有限、确定、有效的并适合用计算机程序来实现的解决问题的方法”［2］，算法的运行分为三个层次：数据输入层—数据分析层—结果输出层。输入层将实际数据置入算法模型中，是算法运行的信息基础。数据分析层即算法技术层，是使用算法模型对输入数据进行分析得到结论，并最终输出分析结果。算法技术就是将输入值转化为输出值的关键步骤［3］。

算法产生社会作用需经过两个步骤：算法设计阶段与算法应用阶段。算法设计是算法应用的前提，是由算法研发者基于应用目的开发算法程序的阶段。算法应用是算法使用者部署应用算法技术，使算法作用于社会领域的步骤。算法设计者与使用者掌握算法运行机理、明确算法目的，依靠算法技术获得利益，拥有强大的算法能力，规制算法本质上是规制算法主体的行为，必然需要将算法主体纳入监管范围，对其滥用算法侵犯社会公共利益与个人权利的行为承担相应的责任。

（二）“算法黑箱”引发社会风险

算法本身拥有高度的技术复杂性和专业性。算法运行的整个过程涉及庞大的数据资料和繁杂的算法方法，并以计算机语言——数字代码的形式出现，不能被大多数人理解。在算法技术应用中，由于技术公司研发算法而掌握算法技术，政府公共部门仅掌握输入数据以及输出结果，社会公众则被完全排除在算法之外。由此，算法的不透明性导致了“算法黑箱”的产生。“算法黑箱”究其根本属于技术的“黑箱”［4］，对于算法设计者、使用者而言，其创造、控制算法必然掌握算法机理，对于技术人员之外的普通公众，因难以跨越技术知识的鸿沟、难以探明其运行内部结构和运行程序而被排除在算法程序之外。

“算法黑箱”为算法主体违法行为的实施提供了不易察觉的封闭空间，在潜移默化的算法应用过程中悄无声息地侵害公共利益，导致社会风险的发生。

首先，私益操纵算法损害社会利益。算法作为人工智能的技术工具，理应是客观公正的，但由于算法自身的“黑箱”特征以及算法技术运用不当，在现实运用中往往难免陷入偏私与歧视。作为算法设计者的私人企业往往以利益驱动为导向，收集算法使用者的数据信息，通过设计不同算法模型针对不同情况作出相应的场景分析，并基于算法分析结果获利。算法主体违法收集个人数据、忽视算法漏洞导致输出结果错误、设计歧视性算法程序，最终使算法拥有者通过算法工具造成个人权益和社会公共利益严重受损的恶果。

其次，私权控制公权风险。政府部门由于缺乏专业知识和技术人才，在设计公用算法程序时往往无奈选择与私人企业合作，将所拥有的公民个人信息、基础数据的所有权与控制权移交给算法公司，并将算法设计、运行以及结果分析的权限全权交给私人企业，私人企业拥有了全面的数据信息，掌握核心的算法技术而政府部门却逐渐丧失了对于关键数据、算法技术的控制权，导致算法与资本甚至是公权力相连接，造成私人资本控制公权力的风险。

最后，政府监管失灵风险。政府作为监管者，具有对算法设计与运用进行监督管理的职责。然而限于算法程序的复杂性与极度专业化特性，公权力部门往往很难察觉算法运行漏洞与算法缺陷的出现，对于算法的纠正与治理更是无从下手。政府部门无法识别和判断病灶所在，难以对算法问题进行及时、正确的问责与纠正，埋下政府监管失灵的隐患。算法“黑箱”使得算法流程呈现不透明状态，公众的知情权必然在一定程度上受到损害。公众对于政府监管失灵以及算法公共应用的隐忧也引发了社会对算法风险的合理怀疑，从而造成了公众对于政府的信任危机。

二、规制难题：监管模式现实困境

如何确保算法的合理性与正当性、有效提升政府监管能力、化解政府信任危机，必须回归监管问题。现行监管方式从主体而言具体可划分为政府监管、公司自我监管、社会公众监督、行业协会自律监管。算法专业化特性使得现行监管模式无法适应算法技术监管。

政府监管是为保证算法合法、合理使用而利用公权力实现对算法的强制监管，本质上是规制算法设计者、算法使用者，现实中通常以市场微观主体即私人企业为被监管对象。但是算法高度专业化和不透明性使政府监管部门缺乏专业性，难以有效实施管制。算法现阶段还属于新兴技术，更多地将算法纳入商业秘密或知识产权进行保护，私人企业期望拥有独家技术而保持自身市场话语权以获取巨大经济利益。企业将技术牢牢掌握在自己手中，若要求算法对行政机关进行公开，必然损害市场主体积极性，阻碍经济的发展。

自我监管是对算法主体提出道德要求，期望算法设计者、使用者以良好职业伦理、道德标准要求自己，对自身违法违规行为自查自纠，保证算法正当。从算法技术风险产生的源头即算法主体着手监管虽然能直接防范、化解算法风险，然而算法主体的趋利性往往使得对行为主体提出高度的道德自律要求是不现实的，仅依靠主体自我监管太过理想化。

社会公众是输入层基础数据的所有者，赋予社会公众算法监督的权利，提升监督范围、影响力的广泛性和普遍性。然而社会公众因缺乏专业性被排除在算法“黑箱”之外，对算法监督的途径、方式阻塞，未打通公众与算法的连接渠道，也就无法实现社会公众有效监督。

政府监督、企业自我监督、社会监督的严重弊端，使得行业自律监管的优势凸显。行业协会作为管理下级企业、沟通上级行政机关的中间层组织，具有一定程度的管理权，了解专业知识，以促进行业发展为宗旨，能够有效弥补政府监管、自我监管及社会监管的不足，实现算法行业的有效监督管理。构建以行业协会自律监管为中心结合配套监管措施的算法治理架构，弥补“算法黑箱”导致的监管空白。

三、制度进路：以行业协会监管为核心的全面监管模式

面对因“黑箱”化暴露出来的算法风险，我国目前还未确立相应的监管机构。德国建立的由技术专家和资深媒体人为主的非营利性组织，用以监测、评估公共社会领域算法运用和决策过程，率先借助第三方独立组织的力量规制算法技术。随着人工智能的广泛应用，我国相继出现了许多互联网相关行业自律组织，这些行业协会拥有专业技术人员和齐全设备，掌握行业全面信息，选择行业协会作为规制算法风险的核心机构具有良好基础。

（一）制定算法技术统一标准

算法本质上是计算机技术，是算法设计企业向其他私人公司或政府提供的技术产品。行业协会拥有专业技术知识和算法信息，由其牵头主导制定统一的算法技术标准最为合适。经营者使用算法技术的目的不同，其所采取的技术手段和使用计算机代码设计的算法系统必然完全不同且不为非专业人士所知，统一的算法技术标准有利于追踪、监管算法设计与运行，从技术层面实现算法对于行业监管主体的相对透明性。此外，算法技术标准要求设计者在创造算法时必须符合技术标准，在一定程度上限制设计者的行为，能够纠正算法设计之初就存在的人为导致的歧视与偏私，保持算法工具的中立性。当然，算法不是一成不变的，算法技术标准也应随之而变，但需始终坚持算法技术标准是以实现算法公正合理为核心内涵。

（二）建立算法备案制度

算法备案制要求研发者在算法设计完成后投入应用前向行业协会进行算法备案。对算法信息包含设计主体、技术标准、运行模式、应用领域、算法漏洞、可能产生的算法风险以及解决方式等信息进行全面备案。行业协会在收到算法备案申请后，应当核查信息准确性、真实性，若发现违反算法技术标准、可能导致算法歧视、引发算法风险的算法应当不予备案并退回研发主体进行更改和纠正，直至符合备案条件才准予备案，并同意该算法程序投入应用。对于可能引发重大风险或设计主体拒不弥补算法漏洞的，行业协会有权决定不予备案。备案是算法进入使用阶段的必经程序，赋予行业协会备案核查权，能够利用行业协会的专业性替代行政机构进行技术核验，防止“不良”算法投入使用后发生算法风险引起社会恐慌。但同时应建立算法设计者的申诉渠道，允许对于不予备案决定有异议的研发者向上级组织或相应行政机构申请救济，请求其进行核查，防止行业协会过度干预算法。

（三）建立行业“黑名单”制度

对于违反法律法规与行业规章、严重破坏行业秩序、违背行业伦理道德、违规算法备案或逃避算法备案以及有其他可能引发或造成重大算法风险的企业，由行业协会列入“黑名单”，并向社会公示。对“黑名单”实行分级管理，实行不同的惩罚措施。对于恶意造成严重社会风险的算法主体，应实行行业禁入。政府部门采购算法技术时也应以此作为重要考量因素，其他市场主体也可以依据“黑名单”选择交易对象。在一定程度上限制算法主体的交易机会，发挥警示作用，督促算法主体严格合法合规开发算法技术。

同时，未来算法领域相关立法还应赋予行业协会一定的处罚权，对已经引发重大算法风险、未经备案就直接投入应用的严重违规者进行处罚，以提高行业协会监管效率与效力。

（四）建立公司自我审查制度

算法公司既包括算法研发公司也包括算法应用公司，它们作为算法的开发主体和实际运用主体对于算法治理应承担相应责任。首先，算法主体应向政府和行业协会提供真实且充足的算法信息，例如公开源代码，为监管提供基础的设计信息和数据资料，积极配合监管。其次，公司应注重技术人员职业道德、社会道德的培养，在算法设计过程中嵌入算法伦理［5］，防止算法偏私，保持算法设计阶段的中立性、正当性，实现算法源头治理。同时算法主体还应主动、定期对所拥有的算法进行全流程的自我检查，完善算法漏洞，对于算法应用向有关部门提交风险应急预案，防止可能引发的算法风险。