关于美国《算法正义和互联网平台透明度法案》的借鉴与启示

摘   要：近年来，随着互联网平台不断发展，沉淀的个人数据规模不断扩大，在数据运用过程中，“大数据杀熟”等算法歧视行为屡次发生，严重侵犯了公民的合法权益，不利于平台经济的健康发展，甚至影响社会公平与正义。2021年5月27日，美国参议院出台了《算法正义和互联网平台透明度法案》，禁止互联网平台通过算法歧视性地对个人信息进行处理，并提出一系列措施确保平台在算法使用过程中履行审核和透明度义务。当前，我国互联网平台发展走在世界前列，如何进一步规范互联网平台数据和算法等技术应用，以技术正义、向善应用促进行业整体健康有序发展，是我国数字经济高质量发展重要保障，也是完善社会主义市场经济体制建设的重要支撑。本文对《算法正义和互联网平台透明度法案》出台的相关背景进行了研究，对法案中值得关注的主要内容进行归纳总结，并梳理了各国互联网平台监管相关制度，结合我国实际，提出加强法规制度顶层设计、加大监管治理力度、创新数字化监管方式等治理路径探索方向。

关键词：算法监管;大数据;互联网平台;数字化监管;数据保护

DOI：10.3969/j.issn.1003-9031.2021.12.003

中图分类号：F49                文献标识码：A        文章编号：1003-9031（2021）12-0017-07

一、法案出台背景

移动互联网、大数据、人工智能、云计算、计算机算法等技术的应用深刻地改变了全球经济和社会的运行方式。随着人工智能技术的不断发展，基于算法的自动化决策系统逐渐被应用到各个领域中，但算法歧视、算法偏见等问题日益突出，互联网社会信任机制的缺失对社会公众的利益造成严重损害，特别是歧视性算法程序已经对边缘化的人口造成了不成比例的伤害。

（一）美国一直以来高度关注算法监管

一是纽约率先推出政府决策算法问责制。针对政府对算法自动化决策的依赖引起了社会公众不满的问题，美国纽约政府首先推出算法应用的监管政策。2017年12月，为解决算法歧视问题，纽约发布《算法问责法案》，要求政府建立算法决策使用问责制。该法案要求成立由算法决策相关领域专家和受众组织代表共同组成的工作组，以第三方监管的方式，对纽约市政府在政务服务中使用的自动决策算法的透明度、平等性进行评估。在认为发生算法歧视和偏见时进行问责，并就如何改进算法公平性和可信度提出建议，以此推动政府决策算法开源，促进公众了解政府服务中自动化决策的过程。这是美国首次就规范算法应用制定监管政策，为其他国家和地区制定算法监管规则提供了有益参考。二是美国国会探索对算法应用进行合规性评估。2019年4月，美国国会引入《2019年算法问责法案》，从用户保护的角度出发，防止导致对用户歧视的自动化决策，并指导联邦贸易委员会（FTC）规范相关实体使用、存储或共享用于进行自动决策系统影响评估和数据保护影响评估的个人信息。该法案强制要求相关实体针对高风险自动决策系统进行自动决策系统影响评估和数据保护影响评估，并明确了联邦贸易委员会在监管过程中的权力和责任。采用影响评估等灵活动态的机制，相较于直接要求算法公开、算法解释等，更有利于产业的发展，但对于评估中关于歧视、偏见等的价值判断仍未建立统一通用的标准。

（二）全球范围内基于算法决策的违规行为大幅增加

算法歧视的频发引起全球关注，在当前互联网平台经营环境下，其核心在于利用数据挖掘、数据分析，对不同用户区别对待，从而最大化剥夺其剩余价值。首先，此类算法歧视违反垄断、反不正当竞争等规定，最突出的表现是“大数据杀熟”和“二选一”等不正当竞争行为。如2021年4月，市场监管总局认定阿里巴巴借助市场力量、平台规则和数据、算法等技术手段，实施“二选一”行为，违反反垄断法规定，依法处以182亿元罚款。2021年10月，美团因在网络餐饮外卖平台服务滥用市场支配地位，以差别费率、拖延商家上线等方式，并通过数据、算法等技术手段，实施“二选一”等排出、限制市场竞争行为，被罚款34.4亿元。2019年，欧盟委员会对亚马逊使用在其平台上第三方商户的销售数据，用于自营商品的定价、廣告推送等行为涉嫌垄断立案调查。

其次，算法歧视违反个人信息使用的规定，对数字主体权利造成侵害。2021年1月，意大利数据保护机构对外卖配送平台Deliveroo处以290万欧元罚款，案由为该平台使用的算法会根据骑手是否可以在周末晚上的高峰时段工作以及完成订单速度等平台沉淀信息，基于算法评估骑手的可靠性、可用性，用于系统订单分配，决定骑手选择送餐次序优先级，优先次序更高的骑手获得高峰时段利润更高订单的几率越高。这一行为违反了《通用数据保护条例》关于“保护数据主体的权利、自由和合法利益，至少保证人为干预的权利”等规定。2020年，Uber司机集体向荷兰阿姆斯特丹地方法院提起诉讼，起诉Uber涉嫌根据工作表现对司机进行标签，如准点率、订单取消率、服务态度等，通过算法来进行订单分配并影响司机收入，但司机并未掌握相关信息，从而违反《通用数据保护条例》中数据主体访问权相关规定。

（三）算法歧视背后的垄断、资本无序扩张等风险受到重点关注

从本质而言，互联网平台对算法和数据的不当使用，最底层的逻辑是互联网平台在多年的发展中，通过网络效益、规模经济效应已经锁定了大量的用户，并沉淀积累了大量的数据，相当于在私营企业的内部，形成了对于公众基础信息的数据库。而凭借对用户数据的掌控，互联网平台得以实施垄断行为，从平台连接的双边市场中攫取利益，最终形成资本的无序扩张。利用算法和数据实施的垄断对经济运行的影响已经引起了各国的关注，且随着跨界经营、交叉经营的不断开展，风险更加高度集聚。2017—2020年，Google、Amazon、Facebook、Apple等大型互联网平台在全球范围内接受111起反垄断调查，其中对Google罚款超80亿美元。

二、法案主要内容

2021年5月，美国议会针对互联网平台的算法问题，提出了《算法正义与互联网平台透明度法案》（以下简称《法案》），要求互联网平台规范算法过程，保障用户的个人信息和特征不受歧视，并对歧视的判断作了详细的解释，同时建立了算法的安全性和有效性标准，为互联网平台的算法正义与透明指明了方向。《法案》禁止互联网平台通过算法歧视性地对个人信息进行处理。一方面，要求互联网平台为非法算法流程承担责任，提出一系列措施确保平台在算法使用过程中履行审核和透明度义务;另一方面，要求互联网平台验证其算法是否按照预定方式运行，并为用户提供数据可携带性。保障个人可以对互联网平台歧视性算法进行起诉，确保互联网平台尊重和保障公民的各项权利。

（一）明确算法处理和内容审核义务，提升算法透明度

《法案》规定互联网平台需披露算法处理信息的方式方法以及信息的来源，发布关于内容审核惯例的透明度报告，维护广告资料库的义务，使互联网平台的用户能够获得可理解的信息，了解互联网平台如何对内容进行审核以及如何使用算法处理来放大或推荐内容，避免因不透明的算法处理而造成差异性体验。法案还规定了算法审核义务，要求平台向用户披露平台内容审核的完整说明，并每年定期发布内容审核透明度报告。

（二）推动数据结构标准化，保障数据可携带权

《法案》规定互联网平台需为用户提供访问其保留在电子数据库中的个人信息，推动数据转移结构的规范化和标准化，确保互联网平台用户将个人数据迁移到其他互联网平台。

（三）规范算法在广告领域的应用，减少机会领域歧视的发生

《法案》规定互联网平台禁止发布不公平或欺骗性的广告以及应用歧视性算法，保证算法处理的安全性和有效性，保护用户的公共设施使用、机会平等、投票权等方面权利，从而减少机会领域歧视的发生，避免对先前经历过边缘化的人员造成伤害。

（四）成立算法专项监管小组，明确监管范围

《法案》要求相关部门应针对互联网平台算法处理問题成立机构间特别小组，以审查算法运用过程中是否存在对个人信息的歧视性使用行为。向国会提交关于平台歧视性算法的研究报告，并作出适当的立法和行政裁定。对违反法案或根据法案颁布条例的认定进行处罚，确保互联网平台在算法使用过程中履行审核和透明度义务。建立互联网平台算法使用的安全性和有效性标准，规定平台不得采用损害用户的自动化流程，应采取合理措施以确保算法达到预期目的。

（五）规范用户数据的保存期限

《法案》提出了互联网平台对算法使用和处理记录的保留义务，规定平台应对算法处理所使用的个人信息类别、个人信息的排序方法、算法处理的开发方法等记录保留五年。如果委员会认定平台存在算法歧视的风险，则平台应将算法记录再保留三年。

三、互联网平台及算法监管的国内外实践

（一）国内实践

近期，针对互联网平台监管，各国陆续出台相关政策，一方面，将互联网平台新型垄断模式纳入反垄断体系;另一方面，基于互联网平台的特点完善数据应用、算法应用等具体法规制度。我国也积极推进相关监管政策的出台，不断完善互联网平台公共秩序的治理。一是推动反垄断法的修订，针对互联网行业增加“网络效应、规模经济、锁定效应、掌握和处理关键数据的能力等因素”作为认定垄断行为的标准，为互联网平台反垄断提供了更具针对性和操作性的适用条款。二是出台互联网平台算法歧视，特别是大数据杀熟等行为的专项规定。2021年2月发布的《关于平台经济领域的反垄断指南》明确利用算法进行垄断协议、轴辐协议、拒绝交易、限定交易、差别待遇等属于违规行为。2021年8月发布的《禁止网络不正当竞争行为规定（公开征求意见稿）》对大数据杀熟作出明确定性，“经营者不得利用数据、算法等技术手段，对交易条件相同的交易相对方不合理地提供不同的交易信息，侵害交易相对方的知情权、选择权、公平交易权等”。三是明确违规行为的处罚标准。2021年8月发布的《价格违法行为行政处罚规定（修订征求意见稿）》明确了电子商务平台大数据杀熟的处罚标准，最高可处以上一年度销售总额1‰以上5‰以下的罚款。2021年7月，深圳市公布了《深圳经济特区数据条例》，规定数据要素市场“大数据杀熟”等竞争乱象，处罚上限设为5000万元。

（二）国外实践

境外主要国家和地区也加快推出互联网平台监管的规定，逐步完善监管法律基础和执法标准。具体实践主要包括以下三个方面。

1.将互联网平台纳入反垄断监管范围，明确对被监管对象的界定

其他国家和地区根据自身特点，完善相关法律法规，将互联网平台纳入反垄断监管范围，明确对被监管对象的界定。2021年1月，《〈德国反对限制竞争法〉第十修正案》实施，加强对大型互联网企业的监管，授权联邦反垄断局采取预防性措施，新增了互联网相关标准，如衡量企业的市场力量必须考虑其获取竞争相关数据的能力以及平台企业的中介作用。加强对具有相对市场力量企业的监管，法案的保护范围不再限于中小型公司。大幅提高并购申报营业额标准。此外，德国联邦反垄断局还要求部分行业的企业必须进行并购申报，即使相关交易中的经营者营业额并未达到申报标准。2020年9月，《俄罗斯联邦反垄断法》（第五次修订）将反垄断法的监管范围扩大到“数字平台”，即“互联网上用于组织和促进买卖双方互动的基础设施”。引入“网络效应”的概念，如果有一个大型数字平台的话，是否有能力去影响产品的价格等;占据市场35%份额的从事“可互换服务”的数字平台将被认为是拥有支配地位;如果数字平台前年的收入低于4亿卢布，则数字平台的所有者不能被认定为具有市场支配地位。2020年12月，欧盟的《数字市场法（草案）》将监管重点指向大型科技公司，明确了将核心平台服务提供商认定为“守门员”（Gatekeeper）的量化标准，包括市场规模、服务范围、月活跃用户数、活跃商户等指标。

2.明确被监管对象义务，确保数字市场公平和开放

法规制度还进一步明确了互联网平台需履行的义务，确保数字市场公平和开放，并探索推出人工智能伦理标准。一是《〈德国反对限制竞争法〉第十修正案》禁止相关企业实施“自我优待”行为（self-preferencing）、通过拒绝访问特定数据阻碍第三方进入市场等对跨市场竞争至关重要的反竞争行为。二是《俄罗斯联邦反垄断法》（第五次修订）禁止数字平台歧视索取数据行为。三是欧盟《数字市场法（草案）》划定“守门人”实施市场行为的违规刚性底线，以及建立了事前报告制度，明确实施的经营者集中事项进行事前报告，向欧盟委员会提交经独立审计的技术说明。《数据治理法案（草案）》明确公共数据治理框架，促进数据共享，增强个人和企业对数据的掌控力和信任度。《数字服务法（草案）》从内容、商品和服务等维度明确互联网平台的责任和义务，构建用户基本权利的保护机制。四是欧盟的《人工智能伦理准则》，强调基于算法做出的所有决定都必须经过验证和解释，设立了“可信赖的人工智能”的两层基本要求，第一层是尊重基本人权、规章制度、核心原则及价值观;第二层是技术安全、可靠、中立，避免算法输入、运行等环节带来的伦理困境。五是《算法责任与透明治理框架》规定了标准化的算法披露内容，包括算法的目的、范围、预期用途，并要求监管部门建立算法影响评估机制（AIA）。

3.强化反垄断调查执法，加大垄断行为检查和处罚力度

为确保被监管对象履行义务，监管部门有权采取措施，来推动有关义务的实现。一是《〈德国反对限制竞争法〉第十修正案》提高卡特尔诉讼的效率。增强执法机构在行政处罚相关的司法程序中的地位，降低执法机构命令采取临时措施的条件，修改罚款规则（行业协会、宽大制度）。二是《数字市场法（草案）》明确赋予欧盟委员会对数字市场服务企业调查、执法和监管权力，包括提取信息、调查和录取口供、现场检查、采取临时措施、违法处罚等。作为反垄断统筹监管的欧盟委员会有权主动发起，或依三个或以上成员国请求进行立案调查，及时完成平台企业“守门人”认定程序，或在必要时动态更新“守门人”义务以及设置补救措施，必要時最高可对“守门人”处以上一财务年度营业额10%的罚款，如多次被罚款可能面临拆分。

四、互联网平台及算法相关监管的路径探索

（一）加强法规制度顶层设计

个人数据是算法使用的基础，大型互联网平台利用算法建模实施垄断行为是目的。因此在法律顶层设计时应充分考虑三者关系。

1.从反垄断法律法规体系看，明确使用算法进行垄断行为的判定标准

加快推动反垄断法修订，探索契合平台经济下数据应用、算法应用的垄断治理实现方式，以最终结果为导向，即无论采取何种方式，只要达成垄断行为的必要条件，包括达成垄断协议、滥用市场支配地位、经营者集中，即能认定为垄断行为。

2.从数据法律法规体系看，明确个人数据运用于算法建模的边界尺度

在《网络安全法》《数据安全法》《个人信息保护法》等法律框架下，保障个人对信息行使的主权，强化社会个人信息保护治理，明确个人数据在被运用于大数据挖掘、算法开放等过程中明示授权的流程范式，提升个人数据使用的透明度，确保个人可以知悉其个人数据用途和可能对个人造成的影响。

3.从算法监管法规制度体系看，推动规范算法应用相关制度出台

一是确定算法运用的总体原则。考虑当前的算法应用已经对社会公众活动进行了全面渗透，应明确算法应用必须符合公共利益和社会福祉，寻求公共利益和私营利益的契合点。具体而言，应坚持“科技向善”为原则，可借鉴欧盟人工智能监管经验，将以人为本、公平、非歧视、维护社会福祉等原则运用于算法监管，引导算法真正作用于社会效率提升，切实提高算法使用的公平性和透明度，保障算法世界中每个主体享有平等权利。同时，完善发生算法歧视时相关救济措施，促进算法应用生态系统良性发展。我国在该领域已进行了探索，2021年8月，网信办发布《互联网信息服务算法推荐管理规定（征求意见稿）》，对算法推荐应遵循的价值导向、算法安全主体责任、算法适用违规行为等进行了规范，应加快推动相关法规制度出台。二是明确算法使用主体的义务。可借鉴美国《法案》经验，明确要求算法使用主体应承担相应披露义务，定期对外公布算法内容审核规则，明确告知公众算法使用的基本逻辑，接受公众监督，保障公众对算法使用的知情权。三是推动行业监管部门细化监管要求。算法使用主体涉及不同行业，应依据行业市场主体行为特点，制定更有针对性、灵活性的数据和算法使用监管规则，尤其是与人民群众息息相关的金融服务、共享出行服务、外卖服务、电子商务服务等领域，应由行业主管部门细化监管要求。四是推动我国治理水平与国际接轨。我国作为数字经济大国，应积极在多边框架内推动数据治理、算法治理、人工智能治理等立法与国际接轨，依托“一带一路”倡议，以及G20、跨太平洋伙伴关系协定（CPTPP）、区域全面经济伙伴关系（RECP）等多边组织，吸纳与算法技术多方利益相关者共同参与国际对话，磋商形成基本共识，不断提升我国的影响力和话语权，推动形成统一开放、有序竞争算法和数据应用市场。

（二）加大监管治理力度

大型互联网平台已经扩展了大量的用户，截至2020年，阿里巴巴、腾讯用户人数达到10亿、11.6亿，脸书、谷歌的活跃用户人数达29亿、19亿，在如此大的用户规模下，互联网平台利用算法进行的违规行为会对市场竞争产生极大的破坏，监管机构必须加大监管力度。

1.明确监管部门的分工和协作

考虑互联网平台具备跨行业、跨地域特点，且对数据、反垄断、行业监管等监管职能分布较为分散，可借鉴美国成立算法专项监管小组的经验，由国家层面建立工作领导小组机制，由市场监管总局牵头对数据、算法中涉及的排他、不公平竞争、大数据杀熟、二选一等违规行为进行监管，由网信办对于技术和数据应用的合规、伦理问题进行监管，加大对算法运用是否存在对个人信息的歧视性使用行为的审查力度，行业监管部门应积极参与配合，日常监管中发现问题要及时共享信息，形成监管合力。

2.加强对违规行为的调查和处罚力度

对于市场支配力量达到一定水平的互联网平台，应列为重点关注，要求其定期披露相关信息，加大现场检查和非现场检查力度。对于新技术使用过程中套用现行法规制度的模糊地带，司法部门应研究出台相应司法解释，最大化压降监管套利空间。

3.研究设立数字行业协会自律组织

应由行业组织积极引导互联网平台从承担社会责任的角度，明确算法应用的价值取向，并配套制定行业自律规则、公约及自律处罚规定，发挥行业自律在规范互联网平台数据与算法领域的作用。

（三）创新数字化监管方式

1.推动监管思维数字化转型

对于数据治理和算法治理等互联网环境下的风险问题，应转变现场检查的思维，探索建立“互联网+监管”“大数据+监管”等非现场、数字化监管思维，充分发挥监管科技的赋能效应，如通过开发算法模型动态监测算法应用的风险问题，以监管科技升级对抗科技领域新型违法行为。

2.实施精准监管

推动平台经济监管从事后移至事中和事前，建立数字化监管系统，对“二选一”“大数据杀熟”等垄断及不正当竞争行为进行靶向监管，采用差异化数据抓取规则和识别模型，提高对隐性大数据利用违法行为的查处效能。

3.探索监管沙箱模式

為避免监管对相关领域创新发展的限制，最大化兼顾促进数据及算法应用发展和风险防控，可推动在数据密集、技术密集型产业对算法应用进行试点，适当提升试点领域的算法透明度。可参照美国经验设立算法监管专项小组，通过监管专项小组评估及社会公众评估，论证形成可以推广应用的算法和数据应用模式，为算法创新预留足够的空间和安全的测试环境。

（责任编辑：夏凡）

参考文献：

[1]姚敏.强化平台经济数据监管的策略选择[J].群众，2021（4）.

[2]黄晋.欧盟对大型数字平台实施积极监管[J].经济参考报，2021（5）.

[3]苍岚，张淑翠.从欧盟《数字服务法》和《数字市场法》看平台经济反垄断[J].中国计算机报，2021（3）.

[4]惠志斌.各国人工智能安全政策研判[J].信息安全与通信保密，2019（6）.

[5]吴沈括，胡然.数字平台监管的欧盟新方案与中国镜鉴——围绕《数字服务法案》《数字市场法案》提案的探析[J].电子政务，2021（2）.

收稿日期：2021-11-08

作者简介：孔凡东（1982-），男，湖北钟祥人，现供职于中国人民银行广州分行。