全球首部人工智能立法：创新和规范之间的艰难平衡

金玲

【关键词】欧盟 人工智能立法 数字主权 【中图分类号】D73/77 【文献标识码】A

作为世界范围内第一份综合性人工智能法案，欧盟公布的人工智能法案旨在应对人工智能使用风险，更重要的是欧盟欲借其寻求在全球人工智能规范中的领导地位。法案采取风险分级方法，在其中纳入欧洲的道德标准。欧盟在全球人工智能领域内发展和运用都并非处于领先地位，但已日益意识到人工智能在其数字转型和未来增长前景中的巨大潜力，是未来经济竞争的关键，也是影响未来国际力量格局的重要因素。人工智能法案秉持风险分级的治理理念，突出欧盟人工智能治理的道德优势，其效力范围不仅局限于欧盟范围内，而且有广泛的域外效应，是欧盟又一次欲发挥其规范性力量，通过规则优势弥补技术短板的尝试。尽管有《通用数据保护条例》的成功范例，但人工智能法案能否复制其成功经验，能否如愿在推动创新和有效规范之间实现平衡，仍面临诸多不确定性。

风险分级是人工智能立法的重要组成部分。欧盟委员会发布的人工智能法案采取了四类风险分级方法，分别是不可接受的风险、高风险、有限风险和最低风险，对以上不同风险级别的人工智能系统使用采取不同的限制措施。法案的重点是对具有高风险的人工智能产品和服务实施上游治理防范，规定了严格的前置审查程序和履行合规义务。法案明确了不可接受的风险，并明令予以禁止。被禁止的风险分别包括利用人的潜意识扭曲个人行为给他人带来身体和心理伤害；利用特定群体的脆弱性影响个人行为给他人带来身体和心理伤害；任何形式的社会信用分级以及实时的远程生物识别技术。

对高风险的规范是法案的关键部分。法案未明晰高风险行为的涵义，仅对可能引发高风险的领域进行了归类，包括关键基础设施、公民教育、产品的安全组件、公民就业、公共服务、涉权型执法、出入境问题、司法和民主进程等。高风险AI提供者需要实行综合治理和风险管控，在AI系统从设计到技术和发展的整个周期中都需要评估和降低风险。法案建议对存在高风险的人工智能产品和服务引进CE（Conformité Européenne）认证，为获取认证AI开发者和使用者需严格履行七种义务，包括完备的风险评估系统；向系统提供高质量的数据集，将风险和歧视性结果降至最低；记录活动以确保结果的可追溯性；提供有关系统及其目的的所有必要信息，以供当局评估其合规性；向用户提供清晰、充分的信息；采取适当的人为监督措施，将风险降至最低；高水平的安全性和准确性。除了严格的前置管理程序外，法案还要求对涉及高风险的人工智能系统进行全过程监督和合规评估。

对于有限风险和最低风险的人工智能系统，法案没有设置前置审查程序。针对有限风险，法案认为该类别的产品和服务的运用会引发透明度问题，因此需要特殊的披露义务。法案规定了三种人工智能技术需要特殊的透明度要求，包括深伪技术，与人互动的人工智能系统以及人工智能赋能的表情识别系统和生物分类系统。法案认为所有未在立法建议里讨论的人工智能系统都属于最低风险，欧盟范围内的绝大多数人工智能系统属于此类别。虽无特殊的干预和审查，但法案第69条的规定也可能对属于该范畴人工智能的发展产生影响。该条款强烈鼓励制定行为法则对其进行规范，欧盟委员会希望通过软法机制促进透明度等原则的自动运用。

实施风险分级的人工智能治理是欧盟人工智能法案立法建议的核心，其对具有高风险人工智能产品和服务实施严格的前置审查程序，反映了欧盟欲抢占人工智能领域道德制高点的战略意图。通过凸显其在人工智能领域的价值取向和道德优势，欧盟一方面寻求在全球数字转型进程中输出数字治理的包含欧洲价值观的欧洲模式，另一方面希望借此打造欧洲产品的道德优势、安全品质以弥补其目前在人工智能发展过程中的技术短板，赢得未来的数字技术竞争。欧盟数字中小企业秘书长塞巴斯蒂安·托夫莱蒂就表示如果法案成功施行，该规范将类似于《通用数据保护条例》，成为国际标准。

欧盟人工智能法案面临的关键问题是如何在推动创新、收获AI效益、应对AI风险和有效保护权利之间实现平衡。欧盟委员会在其立法初衷中提出四项具体目标，其中第一项目标强调“确保在欧盟市场使用的AI系统的安全性，能够尊重根本人权和符合欧盟价值”，第二项目标便是“通过保证法律框架的确定性，促进人工智能投资和创新”。法案还表示为实现立法目标，建议呈现出平衡的、适当的横向规范方法以最低限度、必要手段应对人工智能的风险和问题，并没有过度限制或妨碍技术发展，也没有不恰当地增加人工智能进入市场运用的成本。此外，法案还针对中小企业可能面临的不利处境规定了一系列特别举措以实现公平竞争。尽管如此，法案的出台还是引发了各方关切，认为复杂的审查要求和程序，会增加企业的行政成本，尤其不利于中小型数字初创企业，遏制创新和技术运用，延缓欧盟的数字转型进程。法案反映了欧盟在促进创新和权利保护之间難以有效平衡的内在冲突。

欧盟人工智能法案的治理理念是面对强大的人工智能技术，需要在其发展过程中进行前置规划和连续监督，与美国等实行的企业推动无许可创新的理念完全不同。上述理念充分体现在法案中对有高风险可能的人工智能产品和服务提供者需要履行的义务中。但是，欧盟的上游治理方法一方面要求企业承担更多的前置成本，另一方面也因为风险评估不确定性影响企业投资热情。已有的相关评估显示，满足前置成本的标准极高，很少有初创企业和中小企业能够承担这样的成本，更何况还有额外的进入市场后的事后监督引发的合规成本。

研究表明，欧盟的人工智能法案的实施成本将吞噬欧洲人工智能投资的17%，严重制约欧盟的数字化进程。目前该风险并非仅是理论性存在。2020年6月欧盟进展报告显示《通用数据保护条例》实施的碎片化和各实施机构的资源投入不足，不仅导致其生效的附加治理的效应不足，还降低了进入欧洲市场的风投资本规模，谷歌在欧洲的市场份额不仅没有下降，反而剧增。《通用数据保护条例》的实践证明严格的标准可能产生意外的后果，过多的上游治理会扼杀下游创新，对欧洲的初创企业和小型人工智能开发企业带来打击，下一代欧洲数字企业的发展被限制。因此尽管委员会一再强调人工智能立法将支持欧洲数字经济的创新和增长，但现实的经济分析似乎并不认同这个结论。

欧盟人工智能立法如何在创新和规范之间取得平衡是关键的问题，谷歌前总裁施密特就表示欧盟的规则没有考虑到经济增长的因素。对于施密特来说，欧盟人工智能规范是欧盟对规范的偏见。欧盟产业集团也对法案持保留意见，数字化欧洲组织总干事塞西莉亚·博内费尔德-达尔表示法案可能给人工智能提供方带来过度负担。欧洲企业界针对委员会的立法建议也基本表达了同样的担忧，他们认为目前的立法建议对于投资和竞争力都充满风险，将损害创新和欧洲人工智能的发展。

欧盟委员会的立法建议是欧盟立法的第一步，此后将经过与欧洲议会和理事会的谈判达成妥协并经表决和批准生效。此前《通用数据保护条例》从出台到生效经历了6年时间，短期内人工智能法将难以生效。从法案出台至今，各利益攸关方已针对法案的不同方面表达关切，各方立场迥异。由于人工智能涉及复杂的经济、政治、社会和安全问题，各方将如何博弈，最终达成共识仍面临诸多不确定性。

首先，由于不同行为体的不同关切，各方对人工智能、“高风险” 的定义、合规责任的分担等立场迥异，在法案涉及的诸多核心概念和相应风险范围的界定问题上，各方将难以形成共识。欧盟委员会联合研究中心最近的研究报告显示有50多种人工智能定义，使得各方达成共同立场复杂而困难。与企业认为法案对人工智能和高风险过于宽泛定义妨碍创新立场不同，民权组织认为法案并未能实现以人为核心，而具有明显的企业导向，对权利的保护显著不足，表示法案中的诸多要求都寄希望于人工智能开发者实施技术手段解决复杂的社会问题，实施手段方面又更多指望企业的自我评估，会导致企业人工智能的不正当使用，甚至引发歧视。

其次，法案涉及到欧盟和成员国权能分配的制度机制问题。例如法案目前争论的核心问题之一是关于面部识别和生物识别的禁止性使用问题，法案规定了几种禁止性例外，涉及警察、司法、反恐等事务，这些领域根据欧盟条约属于成员国权能。但例外规定目前受到了民权组织以及欧洲议会的强烈反对，担心引发权力滥用，导致保护不足，强力主张全面禁止。这些主张必然受到欢迎禁止例外的国家，如法国等反对。法国一直希望将人工智能技术运用到安全领域。此外，法案的执行体系虽将执法权赋予了成员国，但同时又欲在欧盟层面设立单一的协调机构，并赋予委员会一定的监督权能，预防实施不足。但是，这种权力分配将导致灰色区域的出现，或引发法律执行不力，或引发成员国和欧盟机构之间的权能之争，加剧欧盟业已严峻的宪政危机。

再次，法案可能导致人工智能治理体系碎片化问题。由于欧盟固有的权能分配机制，监督和实施欧盟法律非常复杂，而法案规定的人工智能治理和实施机制将愈加繁乱。根据法案，成员国监管机构对人工智能产品的市场监管发挥领导作用，包括调查健康、安全等涉及根本权利的风险，命令企业纠正错误行为，例如从市场上撤除违规系统。但不同成员国的监管机构没有义务就如何解读和实施欧洲新的人工智能规则进行协调，意味着人工智能治理框架接受其在不同成员国的多样性运用。《通用数据保护条例》实施三年多来表明法律的核心部分在成员国不同监管机构下运用并不统一，企业在欧盟市场内并没有确定的法律标准，不同国家相互竞争，欧盟监管机制呈现碎片化趋势。德国数字保护机构领导人乌尔里希·凯尔伯抱怨目前的跨境执法系统难以接受。尽管法案建议建立欧洲人工智能委员会，监督法律的运用以及分享最佳实践，也将在确定什么是高风险中有关键影响力，但因执法权在成员国，其难以发挥有效协调作用，并且还会因与目前相关的机构重叠引发权能重叠和混乱。

最后，如何保证信息安全和商业秘密的问题。根据人工智能法案，欧洲监管机构有权要求获得企业数据、源代码和算法。尽管此前有先例，但这种广泛的监管权威，没有重要安全保证，将导致知识产权和商业秘密受到网络袭击的风险。实践证明监管机构是网络袭击的主要目标。更糟糕的是法案反映了欧洲数字技术更广泛的趋势，也即降低数字投资和数字驱动创新的价值。例如单一市场法案下，“看门人”企业将要求和欧洲同行分享数字和算法。

在地缘政治竞争的背景下，欧盟认为数字技术和治理日益呈现两极化趋势，欧盟要发挥其规范性影响力，通过规则弥补技术短板维护竞争力，成为独立于中美之外的第三支力量。欧盟积极推动人工智能立法，并强调其人工智能规范的道德属性，虽带有强烈的欧洲历史和文化特征，但同样是欧洲面对百年变局和未来数字转型的战略选择。在数字技术快速发展的背景下，欧洲深刻认识到人工智能技术不仅事关国际竞争力，更关乎国际力量格局重组。提高竞争力，确定规则优势，输出价值观以及地缘政治考量下的数字主权是欧洲人工智能法规出台的重要推动力。

面对人工智能的快速发展，欧洲一直到2018年都在评估人工智能发展带来的不确定性，此后开始努力框定人工智能发展和应对其带来的挑战。2018年以来，欧盟20多个国家公布了人工智能战略，确定目标和立场，并指定了相应的投资计划。欧盟层面也相继出台数字战略，并宣布一系列数字新法规，涉及数字市场、数字服务、人工智能等，欧盟数字战略进入了在全球层面输出规范的阶段。

欧盟委员会竞争委员玛格丽特·维斯塔格明确表示欧盟希望新法拥有超越边界的影响力，“通过制定标准，我们能在世界范圍内推行具有道德性的技术，确保欧洲继续拥有竞争力”。欧盟的逻辑是推动人工智能道德性和可信赖性本身会刺激人工智能更广泛的使用，进而促进经济增长和提升经济能力。如果欧盟能够成功鼓励其他行为体采纳值得信赖的人工智能标准，将在更大范围内让欧盟企业受益。如果欧盟能够确立其领导地位，促使其他人遵守欧盟标准，将确保人工智能系统充分反映欧盟理念。如果欧洲制造的人工智能将被认为是高标准产品，欧盟的产品将更具竞争力，可以在人工智能生产布局中占有优势地位。

在人工智能领域内，欧盟希望复制其《通用数据保护条例》经验，构建在人工智能领域内的硬实力。与《通用数据保护条例》一样，欧盟的人工智能立法建议具有广泛的域外效应，不仅对欧盟范围人工智能系统的提供者和用户有约束力，即使是欧盟以外的企业，只要其产品和服务对欧盟民众产生影响，都受其规制。不仅是欧盟统一大市场的规模让任何企业都无法忽视AI法案，更重要的是在新技术领域内规范影响力的独特的路径依赖效应，一旦规则形成将难以撼动。正如欧盟《通用数据保护条例》所显示的，欧洲规则很快成为在数据保护领域内的国际标准，这些努力产生重大影响。自2018年条例生效以来，该法规很大程度上在世界范围内塑造数字保护规则。目前，多达120多个国家受欧盟数据保护机制启发，通过了隐私法，不同的数字平台也采取了欧盟的通用数据保护规则。

欧洲的市场力量使得任何企业都难以忽视。从《通用数据保护条例》到以法国为代表的欧洲国家纷纷启动数据税，以及为推进针对气候变化的全球治理而讨论实施碳关税，都反映出欧盟利用其“规范性力量”和市场规模，强势为全球相关产业制定标准所作出的努力。当前，欧盟针对美国数据企业巨头采取的一系列反垄断举措，已彰显出其市场规模的“规范”效应。市场规模基础上衍生的规则力量，正成为欧盟硬实力诉求的主要依托。

人工智能法案的出台意味着欧盟正强化其在数字领域内的规范性作用。法案强调欧盟旨在成为“值得信赖和具有道德的人工智能”发展过程中的全球领导者。欧盟正通过对内推动数字主权，对外构建数字流动和技术伙伴关系，希望利用其市场规模，在世界范围内推动欧盟规范的“布鲁塞尔效应”。美国战略与国际问题研究中心认为欧盟人工智能法案为美国敲响了警钟，如果不立即采取行动，美国将在数字规则领域内被边缘化，也表明美国作为欧洲在追求数字主权中的重要第三方，对欧洲单边推动数字治理国际规范的担忧。

但是，面对复杂的人工智能技术及其运用可能产生的复杂的经济、政治、社会和广泛国际影响的综合性机遇和挑战，欧盟如果希望成为全球规范的领导者，除了在欧盟范围内平衡各方的不同的观念、价值和利益诉求外，更需要在世界范围内尊重不同国家的历史、制度和文化传统，在多边层面推动各方观念和利益的包容和平衡，才能实现规范的可持续性发展和有效执行。如果在地缘政治逻辑下，欧洲规范性力量不能传递多边、开放和合作的信息，不以多数国家的国际共识为基础，只是从自身的战略利益和标准出发，强势推动，那么欧洲作为特殊的国际行为体的身份危机也将日益凸显。

（作者为中国国际问题研究院欧洲研究所副所长、研究员）

【参考文献】

①European Commission， "the proposal for a Regulation laying down harmonised rules on artificial intelligence"， COM （2021） 206 Final.

②Evangelos Razis， "Europe’s Gamble on AI Regulation"， U.S. Chamber of Commerce， June 02， 2021.

③"EU proposals to regulate AI are only going to hinder innovation"， Financial Times， July 26， 2021.

④Ulrike Franker， José Ignacio Torreblanca， "Geo-tech politics： Why technology shapes European power"， European Council on Foreign Relations， 15 July， 2021.

責编/银冰瑶 美编/李智

2276500511368