全球人工智能治理的格局、特征与趋势洞察

内容提要：面对人工智能技术革新及由此引发的治理挑战，当前，全球范围内已初步形成主权国家主导、国际组织推进、科技企业协同的多方治理格局，并出现人工智能治理法治化、治理智慧化和软法与硬法双轨并行深度治理的趋势。但发展中国家与发达经济体之间在人工智能技术发展和治理议程设置能力上仍存在“智能鸿沟”和治理代差。现阶段人工智能治理的国际合作具有高度碎片化特征，缺乏全球人工智能治理的核心监管机构，而政府间合作多具有地域特征和大国竞争导向。因此，全球人工智能治理机制的构建需要以包容性、平等性、多元性为基础原则，探索政府间、企业间、专家间的对话交流和磋商机制，通过在重点领域率先凝聚治理共识推动实现协同发展、和谐共荣的治理格局。

关键词：人工智能伦理 全球人工智能治理 生成式人工智能 负责任创新

人工智能演进速度之快、赋能范围之广、影响程度之深前所未有。与传统技术相比，人工智能技术从分析式人工智能跃迁至生成式人工智能，从单模态模型升级至多模态模型，从亿级参数的中小模型发展为千亿甚至万亿级参数的大模型。参见中国信息通信研究院政策与经济研究所、中国科学院计算技术研究所智能算法安全重点实验室：《大模型治理蓝皮报告——从规则走向实践》（2023年11月），载中国信通院网，http：//www.caict.ac.cn/kxyj/qwfb/ztbg/202311/t20231124_466440.htm，2024年1月20日访问。】尤其是近期引爆全球科技热潮的生成式人工智能，其所依托的“大模型+大数据+大算力”路线带来了一系列技术新突破，使得人类正在以前所未有的速度逼近通用人工智能。这一发展趋势也为全球人工智能治理带来了新形势、新格局和新挑战，推动构建汇聚广泛共识的全球人工智能治理体系日益成为各方共同诉求。本文概览全球人工智能治理动态，剖析全球人工智能治理格局与特征，并对未来的挑战与发展进行初步的前瞻性分析。

一、全球人工智能治理格局的形成与发展

目前，全球人工智能治理已形成各国政府领衔主导、国际组织积极推进、科技企业协同治理的多方参与格局。但与此同时，发展中国家与发达经济体之间在人工智能技术发展和治理能力上依然存在“智能鸿沟”和治理代差。

（一）各国高度重视并积极参与全球人工智能新秩序的形成

当前，作为全球科技竞争中最为激烈的领域，人工智能的国际竞争早已超越技术和产业的竞争，并实质拓展到以法律规制和规章制度为代表的人工智能治理竞争。可以看到，近期美国、欧盟、日本、韩国等国家和地区均高度重视人工智能治理优势的塑造，纷纷抢占全球人工智能治理的制高点和主导地位，形成“技术赛道”“产品赛道”和“制度赛道”多轨并行的新格局。可以说，从全球范围来看，人工智能已步入技术发展的“奇点时刻”与人工智能治理的“关键时刻”。作为世界人工智能科技发展大国，美国近年来颁布了一系列法律、法规和行政命令，积极布局其在全球人工智能治理秩序中的领导地位。2021年，美国颁布《国家人工智能倡议法》，设立了人工智能发展协调统筹机构促进联邦加速人工智能研究和应用，以保障其在人工智能治理领域的国际领导力。【Data Trusts： National Artificial Intelligence Initiative Act of 2020，at https：//www.congress.gov/bill/116th-congress/house-bill/6216/text（Last Visited on Jan.2，2024）.】2022年，美国白宫科技政策办公室发布《人工智能权利法案蓝图：让自动化系统为美国人民服务》，规定了关于人工智能或自动化系统设计、使用和部署的多项原则和相关实践。【Blueprint for an AI Bill of Rights：Making Automated Systems Work for the American People， at https：//www.whitehouse.gov/wp-content/uploads/2022/10/Blueprint-for-an-AI-Bill-of-Rights.pdf（Last Visited on Jan.2，2024）.】2023年以来，美国国家标准和技术研究院（NIST）于年初发布了《人工智能风险管理框架》，旨在对人工智能系统全生命周期实行有效的风险管理。【Data Trusts： Artificial Intelligence Risk Management Framework （AI RMF 1.0）， NIST AI 100-1，at https：//nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-1.pdf（Last Visited on Jan.2，2024）.】美国《国家人工智能咨询委员会首年年度报告》则明确提出，应采取一系列积极措施将NIST提出的人工智能风险管理框架推广为全球人工智能风险管控的“通用语言”。【Data Trusts： National Artificial Intelligence Advisory Committee （NAIAC） Year l， at https：//www.ai.gov/wp-content/uploads/2023/05/NAIAC-Report-Year1.pdf（Last Visited on Jan. 2，2024）.】近期，美国政府就人工智能监管发布了行政命令，强势推动美国生成式人工智能科技企业践行自愿承诺的监管路径，为美国在日后能够填补日本在七国集团“广岛人工智能进程”中的领导地位提前布局。【Data Trusts： Executive Order on the Safe， Secure， and Trustworthy Development and Use of Artificial Intelligence，at https：//www.whitehouse.gov/briefing-room/presidential-actions/2023/10/30/executive-order-on-the-safe-secure-and-trustworthy-development-and-use-of-artificial-intelligence/（Last Visited on Jan.2，2024）.】

与此同时，AI发展实力位居世界前列的英国为最大程度发挥人工智能带来的社会效益，鼓励人工智能在值得信赖的前提下不断创新发展，在2023年3月发布了《促进创新的人工智能监管方法》白皮书，提出基于比例和场景的人工智能治理路线，以为企业和用户对人工智能的使用提供信心，为行业提供具有确定性、一致性的监管方法。白皮书特别强调政府和行业、企业等多主体开展协同治理的重要性，以及加强人工智能治理全球合作和互操作性的重要性，以尽快实现英国在人工智能领域的全球领导者地位。【Data Trusts：" A Pro-innovation Approach to AI Regulation，at https：//assets.publishing.service.gov.uk/media/64cb71a547915a00142a91c4/a-pro-innovation-approach-to-ai-regulation-amended-web-ready.pdf（Last Visited on Jan.2，2024）.】近期，英国还主办了人工智能安全峰会，达成了全球首个人工智能治理协议《布莱切利宣言》，包括中国、美国、英国等28个国家及欧盟共同签署了该项声明。【Data Trusts："" The Bletchley Declaration by Countries Attending the AI Safety Summit， at https：//www.gov.uk/government/publications/ai-safety-summit-2023-the-bletchley-declaration/the-bletchley-declaration-by-countries-attending-the-ai- safety-summit-1-2-november-2023（Last Visited on Jan.2，2024）.】此外，作为全球首部人工智能法律草案，欧盟的《人工智能法案》已经进入立法程序的最后阶段。欧盟希望借助该法案继续在人工智能治理领域发挥“布鲁塞尔效应”，引领全球人工智能治理规则的建构。与此同时，加拿大、日本、韩国、新加坡、巴西等国均就人工智能治理陆续开展实质性立法和监管工作。可以说，全球人工智能治理新秩序正在加速形成，各国均积极布局并参与其中。

（二）国际组织积极就促成全球人工智能治理共识作出探索

与传统技术风险有所不同，人工智能技术风险具有隐蔽性、跨域性、全球性和长期性，需要从国际层面展开持续性、系统性和协同性的治理努力。因此，近年来，各国际组织积极探索促成全球人工智能治理共识达成的规范框架。早在2019年，经济合作与发展组织（OECD）即发布了全球首个政府间人工智能治理原则的文件。同年，二十国集团（G20）提出“G20人工智能原则”，就人工智能应促进包容性增长、可持续发展和社会福祉以及“以人为本”的价值观和“问责制”等人工智能治理的基础性原则，获得了广泛共识。此后，世界卫生组织（WHO）、联合国教科文组织（UNESCO）等就人工智能伦理与治理相继发声。【2021年6月，世界卫生组织（WHO）发布《世界卫生组织卫生健康领域人工智能伦理与治理指南》，提出包括保护人类自主性，增进人类福祉、安全以及公共利益等六项原则。2021年11月，联合国教科文组织（UNESCO）通过全球首个人工智能伦理协议《人工智能伦理问题建议书》，提出发展及应用人工智能所应尊重的四大价值。】2023年10月，联合国秘书长安东尼奥·古特雷斯宣布组建高级别人工智能咨询机构，其主要目标是定期评估现有的人工智能治理框架，并提供建议，确保其符合人权、法治和共同利益。该机构于2023年12月发布《临时报告：以人为本的人工智能治理》，提出新组建的国际人工智能治理机构需遵循包容性、公共利益、数据治理为中心、国际法以及普遍性、网络化和多利益攸关方的五项原则。此外，各国际组织高度重视生成式人工智能的负责任创新，近期密集发布了联合国《全球数字契约》《关于负责任的生成式人工智能的建议》（世界经济论坛）、《生成式人工智能在教育和研究中的应用指南》（UNESCO）等一系列文件，共同强调了在发展和应用生成式人工智能技术时必须遵循的伦理原则和规范，进一步呼吁各国政府、私营主体、学术机构以及民间社会共同努力以及全球合作治理的重要性与紧迫性。【参见世界互联网大会人工智能工作组：《发展负责任的生成式人工智能：研究报告及共识文件》，载搜狐网，https：//www.sohu.com/a/736197659_121834010，2024年1月20日访问。】

（三）科技企业积极寻求人工智能治理的自我规制方案

科技企业是走在人工智能研发、部署和应用第一线的先行者，对促进人工智能治理框架的形成发挥着重要作用。在全球人工智能治理秩序形成的过程中，各大科技企业也积极从以下两方面推动人工智能治理的多元化路径，尝试探寻自我规制的创新方案。一方面，各科技企业积极寻求与监管者沟通合作，力求通过自我承诺、自我约束的方式开展人工智能治理。例如，亚马逊、Anthropic、谷歌、Inflection AI、Meta、微软和OpenAI七家代表性科技企业作出自愿性承诺，确保其人工智能技术的安全性、有保障性和可信任性。【参见钱童心：《谷歌、微软等“七巨头”发声：自愿承诺AI监管八项措施》，载第一财经网，https：//m.yicai.com/news/101815922.html，2024年1月2日访问。】美国在推进该治理路径的同时，还与其盟友和伙伴合作，就自愿承诺与澳大利亚、巴西、加拿大、智利、法国、德国、印度、以色列、意大利、日本、肯尼亚、墨西哥、荷兰、新西兰、尼日利亚、菲律宾、新加坡、韩国、阿联酋和英国进行了磋商，希望这些承诺得到各方的认可与支持。无独有偶，2023年5月，谷歌公司也与欧盟内部市场专员蒂埃里·布雷顿达成协议。在欧盟《人工智能法案》正式生效前，来自欧洲内外的人工智能“所有主要企业”将在自愿基础上与欧盟形成一项具有企业自我规制特点的人工智能治理协议。【We Can’t Afford to Wait： Brussels and Google Pitch Voluntary AI Pact to Fill Legislative Gap， at https：//www.euronews.com/my-europe/2023/05/25/we-cant-afford-to-wait-brussels-and-google-pitch-voluntary-ai-pact-to-fill-legislative- gap（Last Visited on Jan.2，2024）. 】而近期引发关注的法国、德国、意大利三国签署的联合文件中，也提出通过“模型卡”方式对基础模型开发者施加自愿承诺性质的治理。【在欧盟《人工智能法案》制定通过的最后阶段，法国、德国、意大利联合反对《人工智能法案》针对基础模型制定的“两层分级方法”，认为人工智能的本质风险是应用，而不是技术本身。并提出以模型卡、自愿承诺等方式“通过行为准则进行强制性自我监管”。参见路透社报道：Germany，France and Italy reach agreement on future AI regulation， at https：//www.reuters.com/technology/germany-france-italy-reach-agreement-future-ai-regulation-2023-11-18/（Last Visited on Jan.2，2024）. 】由此可见，代表性科技企业在全球人工智能治理的具体走向上发挥着实质性影响。另一方面，各科技企业也积极开发人工智能治理工具以纾解新型技术风险，推进负责任的创新与研发。例如，2023年5月10日，谷歌开发者大会中提出了遵循负责任发展原则的人工智能未来愿景，并对深度合成等人工智能生成图片难以识别等问题，开发了打击虚假信息图片搜索工具、人工智能生成内容的“元数据”添加工具以及基础模型自动生成水印工具。又如，2023年1月，Meta公司宣布推出一项名为方差衰减系统（VRS）的新技术，以改善向Facebook用户展示的住房广告的公平性，并将该工具扩展到就业和信贷广告领域。【Data Trusts：A New System to Help Ensure Ads are Delivered Fairly， at https：//ai.meta.com/blog/advertising-fairness-variance-reduction-system-vrs/（Last Visited on Jan.2，2024）. 】可以说，科技企业在全球人工智能治理格局形成过程中的作用不可小觑。

（四）发展中国家与发达经济体相比存在“智能鸿沟”和人工智能治理“代差”

因人才储备、基础设施和技术接入不足等客观约束，发展中国家人工智能技术的发展与应用受限较多。相较于发达经济体更为成熟的法律体系和监管框架，发展中国家基于知识积淀和执法资源的限制，面对人工智能带来的各类风险也面临着更大的治理挑战。因此，相关研究显示，人工智能技术可能使更多投资转向已经实现自动化的发达经济体，从而拉大发达国家与贫困国家之间的差距。这进而可能对发展中国家的就业产生不利影响，对欠发达经济体的传统优势产生替代而非补充作用。【Data Trusts：Cristian Alonso， Siddharth Kothari amp; Sidra Rehman， How Artificial Intelligence Could Widen the Gap Between Rich and Poor Nations， at https：//www.imf.org/en/Blogs/Articles/2020/12/02/blog-how-artificial-intelligence-could- widen-the-gap-between-rich-and-poor-nations（Last Visited on Jan.2，2024）. 】目前，发展中国家在本轮人工智能革命中与发达经济体相比存在一定的技术差距。发展中国家面临着与发达国家人工智能等新兴科技和产业发展方面的“代差”风险，恐陷入以个别国家为代表的寡头垄断和被动局面。直面发展中国家在人工智能技术发展和应用层面存在的“智能鸿沟”和治理差距，作为发展中国家的重要代表及世界人工智能创发的主要力量之一，中国在2023年的第三届“一带一路”国际合作高峰论坛上提出《全球人工智能治理倡议》。《全球人工智能治理倡议》集中展示了我国在人工智能治理长期实践中所积累的宝贵经验，围绕人工智能发展、安全、治理三方面系统阐述了人工智能治理的“中国方案”。《全球人工智能治理倡议》的提出还彰显了我国作为发展中国家的一员积极参与人工智能国际治理，践行大国责任和大国担当。《全球人工智能治理倡议》中就各方普遍关切的人工智能发展与治理问题提出建设性解决思路，为相关国际讨论和规则制定提供蓝本，从而提升发展中国家对人工智能全球规则的影响力和话语权，进一步提升发展中国家对人工智能治理议题的议程设置和引导能力。

二、全球人工智能治理的共识性特征

人工智能带来的弥散性影响紧密交织、叠加扩展，成为挑战现代公共治理的“潘多拉魔盒”，并引发了有关规制理念、规制架构、规制工具等一系列重大调整与变革。鉴于人工智能的不良影响日益加剧，世界各国积极探索治理之道，推动实施人工智能治理机制的深度变革。这些路径虽各有侧重，但仍不乏趋同之处，且主要呈现“两化一并行”的趋势特征。

（一）人工智能治理法治化

全球人工智能治理日益凸显“法治化”特征。伴随着人工智能技术与产业链结构的快速变革，人工智能治理日益成为影响人工智能产业发展的重要因素。各国虽就人工智能治理提出了多元化的治理理念和治理路径，但将人工智能治理“法治化”、通过法治化道路为人工智能治理提供“制度围栏”已在国际层面形成广泛共识。2023年以来，美国、欧盟、英国以及联合国等国家和国际组织均对推动人工智能治理的“法治化”进程作出实质性举措。国际层面，联合国正在组建全球性的人工智能治理机构，并着力推进凝聚多方共识的《全球数字契约》制定进程。国家层面，各国政府围绕多边和双边机制就人工智能治理中的安全、合作、监管等重点议题推进区域性治理共识建设，并形成了一系列的人工智能治理文件（见表1）。我国则于2023年制定了《科技伦理审查办法（试行）》和《生成式人工智能服务管理暂行办法》，提出了人工智能治理的“中国方案”。因此，我国《全球人工智能治理倡议》中关于逐步建立健全人工智能领域的法律和规章制度的提议，不仅是为国际社会贡献中国智慧和中国经验的重要举措，也是中国在推动全球人工智能治理法治化进程中积极践行人类命运共同体理念的具体行动。

（二）人工智能治理智慧化

全球人工智能治理也日益彰显“智慧化”特征。人工智能技术借助平台开放性架构不断延展，既作为生产要素存在，又是平台企业的制胜利器，对其有效治理既仰赖企业的协同配合，又考验政府的数字化监管能力。因此，笔者认为，应打造创新友好型的监管基础设施，将监管科技作为联动多元主体、平衡技术创新与公共利益保障的底层支撑，探索适合各国资源禀赋的“智慧化”治理路径。尤其是对于具有超大规模、千亿参数量、超级易扩展性和超级应用场景的生成式人工智能而言，以事后启动、分散推进为特征的传统监管面临应对时滞、弹性不足、监管尺度不清、跨域协调成本高的挑战。目前，各国均积极探索“以AI治理AI、以算法规制算法”的智能监管科技体系，深入探究技术模型在人工智能监管层面的有效性，将伦理规范和合规要点转化为程序语言，以内部伦理技术约束嵌入人工智能设计和运行全过程，探索“智慧化”监管范式。例如，欧盟的《人工智能法案》就引入了“人工智能监管沙盒”理念，通过为人工智能技术、产品和服务提供受控的实验和测试环境，促进人工智能治理的前瞻性和创新友好性。与之匹配的《数字欧洲计划（2021—2027）》亦明确提出，加快建立系统性测试技术和监管试验技术，为人工智能监管沙盒提供技术支持。

（三）转向“软法”与“硬法”双轨并行的深度治理

长期以来，技术标准、监管指引、伦理规范、基准测试、可信认证等多种形式为内容的软法治理占据着人工智能治理的核心。与法律法规等“硬法”相比，“软法”中包含一系列人工智能研发与部署活动中应当遵循的价值准则和行为规范，不仅有利于凝聚技术、产业、政策等各界共识，还可以在人工智能技术研发早期发挥重要的约束和指引作用。但仅有“软法”治理，难以解决人工智能技术和应用过程中产生的一系列负外部性问题。随着人工智能技术和应用对社会的影响日益加深，人工智能风险所具有的隐秘性、不确定性、复杂性、全球性等特点给人工智能治理带来了巨大挑战。人工智能风险不仅没有被有效遏制，相反还有急剧攀升的趋势。据人工智能、算法、自动化事件和争议数据库（AI，Algorithmic，and Automation Incidents and Controversies，AIAAIC）显示，2021年新报告的人工智能事件和争议数量是2012年的26倍。【Data Trusts：" Stanford HAI，Artificial Intelligence Index Report 2023，at https：//aiindex.stanford.edu/wp-content/uploads/2023/04/HAI_AI-Index-Report_2023.pdf（Last Visited on Jan.2，2024）.】伴随着人工智能与社会嵌入及交织程度的加深，人工智能技术的滥用现象已经极为严峻。各国均从早期以科技伦理、技术标准、自律承诺等为代表的“软法”治理，逐步转向更为成熟的“软法与硬法双轨并行、刚柔并济”的新型治理模式。在软法规制之外，各国均实质探索符合本国实际的人工智能的监管方案，以法律强制约束力确保人工智能技术研发及应用的安全、可信、可控。

三、全球人工智能治理的挑战与展望

（一）全球人工智能治理的挑战

尽管全球人工智能治理秩序正在迅速形成，但现阶段人工智能治理的国际合作具有高度碎片化特征。【See Jonas Tallberg et al， The Global Governance of Artificial Intelligence： Next Steps for Empirical and Normative Research， International Studies Review， Vol.2023 （25）， pp.1-23.】如何处理数据安全、隐私保护、算法滥用等问题，并形成全球范围内的协同有效治理，是当前的重要议题。【参见孙成昊、赵宇琪：《中美人工智能领域合作的路径与前景》，载《中国信息安全》2023年第7期。】

从目前实践来看，仍然存在下列不足：第一，国际组织参与度高于政府，但尚未有国际组织承担起全球人工智能核心监管机构的角色，各国际组织间呈现出高度分散的状态。其中，联合国成为推动人工智能全球监管合作的重要机制，不仅发布系列文件凝聚全球人工智能伦理共识，还支持建立跨国监管与咨询机构，健全全球风险与安全应对机制。【参见中国信息通信研究院政策与经济研究所、中国科学院计算技术研究所智能算法安全重点实验室：《大模型治理蓝皮报告——从规则走向实践》（2023年11月），载中国信通院网，http：//www.caict.ac.cn/kxyj/qwfb/ztbg/202311/t20231124_466440.htm，2024年1月20日访问。】2020年起，国际组织已经超越国家成为主要的人工智能治理举措的来源。数据统计显示，2015年到2023年，各国共发布172项AI治理举措，国际组织发布214项举措。【参见中国信息通信研究院政策与经济研究所、中国科学院计算技术研究所智能算法安全重点实验室：《大模型治理蓝皮报告——从规则走向实践》（2023年11月），载中国信通院网，http：//www.caict.ac.cn/kxyj/qwfb/ztbg/202311/t20231124_466440.htm，2024年1月20日访问。】以联合国为代表，各国际组织发布的众多治理方案及监管措施能否协调落地，成为全球人工智能治理秩序有效运行的突出问题。第二，政府间合作多具有地域特征和大国竞争导向。【See Jonas Tallberg et al， The Global Governance of Artificial Intelligence： Next Steps for Empirical and Normative Research， International Studies Review，Vol.2023（25），pp.1-23.】以G7国家为代表的发达国家推荐构建一致且互操作的人工智能监管规则，而以金砖国家为代表的新兴市场和发展中国家在人工智能治理的国际合作中潜力尚待发挥。【参见中国信息通信研究院政策与经济研究所、中国科学院计算技术研究所智能算法安全重点实验室：《大模型治理蓝皮报告——从规则走向实践》（2023年11月），载中国信通院网，http：//www.caict.ac.cn/kxyj/qwfb/ztbg/202311/t20231124_466440.htm，2024年1月20日访问。】值得关注的是，在全球科技竞争的背景下，可能存在一些国家主动削弱监管以获得经济竞争优势的情形。因此，打造一个全方位、多层次、汇聚广泛共识，具有真正的包容性、平等性、多元性的治理框架仍然面临多项挑战。其中尤为突出的当属意识形态对人工智能治理框架的影响以及资本逐利带来的负面冲击。

一方面，美欧等代表性司法辖区均将生成式人工智能以及通用人工智能的监管列在优先级最高的政策议程，广泛推行基于意识形态认同的“技术联盟”。与此同时，美欧近年来极为强调人工智能监管的趋同与对标，强调监管的互操作性和一致性。2021年，双方成立了美欧贸易和技术委员会（TTC），旨在加快美欧跨大西洋合作的步伐。2023年5月，TTC召开了第四次部长级会议，围绕6G、量子计算、人工智能等关键新兴技术的监管问题达成了一系列共识，不仅包括为此前发布的可信的人工智能和风险管理联合路线图成立三个新的专家组，试图在人工智能标准化工作上起到引领作用，还成立了量子技术特别工作组，为美欧持续的网络对话提供支持。【Data Trusts：" U.S.-EU Joint Statement of the Trade and Technology Council， at https：//www.whitehouse.gov/briefing-room/statements-releases/2023/05/31/u-s-eu-joint-statement-of-the-trade-and-technology-council-2/（Last Visited on Jan.2，2024）. 】对于人工智能治理，TTC联合声明中强调为生成式人工智能建立护栏和规则框架的重要性。由此可见，美欧通过缔结人工智能治理联盟抢占未来发展制高点，强化双方在数字治理领域的主导性地位。

另一方面，资本逐利加剧了人工智能全球风险治理步伐协同的难度。生成式人工智能的兴起不仅引领了全球人工智能研发和商业应用的新浪潮，也凸显了资本逐利与技术向善之间的紧张关系。在这一过程中，技术的快速发展和资本的逐利动机不断交织，产生了复杂的挑战。OpenAI近期的管理团队变动就生动地展示了技术加速发展和资本逐利之间的张力。法国、德国、意大利联合声明反对《人工智能法案》对基础模型的监管立场，其背后也不乏欧洲人工智能企业的游说身影。【Data Trusts：" Bram Vranken， Big Tech Lobbying is Derailing the AI Act， at https：//www.socialeurope.eu/big-tech-lobbying-is-derailing-the-ai-act（Last Visited on Jan.2，2024）. 】以时下最为火热的生成式人工智能为例，大模型训练需要巨额资本作为支撑，这使得技术的快速进步与资本的逐利目标相互牵连。尽管当前有一系列法律法规、伦理规范和技术标准对人工智能进行治理，但资本逐利的倾向可能导致技术异化，这一点需要全球层面更为紧密的协作来应对。

在这一背景下，我国《全球人工智能治理倡议》和国内相关立法突出了“以人为本”的理念，强调技术向善，确保人工智能的发展以增进人类共同福祉为目标。这表明，我国在人工智能的开发与应用中致力于确保技术始终以人类的利益为先。在这一原则的指导下，我国强调尊重每个个体的基本权利和人的尊严，维护人的主体性地位，确保人工智能技术的发展不仅符合人类的需求，更服务于增进人类福祉的更高目标。这种“以人为本”的治理理念，对于防范技术加速开发中的潜在异化，具有至关重要的作用。这不仅为中国，也为全球人工智能的健康发展提供了有益的借鉴和引导。可以说，在这一重要机遇期，我国围绕人工智能发展、安全、治理三方面以《全球人工智能治理倡议》的方式系统阐述人工智能治理的“中国方案”是主动破局，通过顶层设计把握机遇窗口、化解风险挑战、重塑人工智能时代新优势的重要举措。

（二）全球人工智能治理的未来展望

面对人工智能技术发展带来全球性的治理挑战，搁置分歧、协力应对，才是有效强化人工智能治理的可取之道。这其中，作为全球最重要的人工智能技术研发和应用大国，中美两国是人工智能治理领域的核心、关键角色，两国既存在治理、管控人工智能安全、伦理风险的理念共识，也面临技术竞争、监管策略等方面的现实分歧。中美两国在人工智能治理议题上的合作或竞争的侧重取向将为全球人工智能的治理面向定下基调。2023年11月中旬，中美元首在美国旧金山举行会晤。此次会晤中，两国明确要在人工智能这一新兴领域加强合作，建立人工智能政府间对话机制。【参见《王毅就中美元首旧金山会晤向媒体介绍情况并答问》，载外交部官网，http：//switzerlandemb.fmprc.gov.cn/ziliao_674904/zt_674979/dnzt_674981/xjpfmgjxzmyshwtscxytjhzzdsscldrfzshy/zxxx_136234/202311/t20231116_11181420.shtml，2024年1月2日访问。】“旧金山会晤”直接回应了人工智能治理这一全人类共同关切，为中美两国人工智能的合作治理确定主轴。更进一步说，两国间的合作共识也发挥着引领和示范作用，推动全球人工智能治理共识和秩序的凝聚。具体而言，在我国《全球人工智能治理倡议》的框架和指引之下，未来可以通过下列方式在人工智能治理议题上开展对话与合作，以进一步凝聚人工智能治理共识，推动人工智能政府间对话机制建设。

第一，明确人工智能治理合作的底线共识，以“旧金山愿景”指引中美合作的新方向。要在人工智能治理领域实现中美合作共治，就必须以共识为桥梁，在共识、共商、共信基础上构建政府间对话机制。旧金山会晤中，我国提出面向未来的“旧金山愿景”，“五个共同”为中美人工智能的治理合作树立稳定支柱。这需要共同树立正确认知，明确人工智能治理是全人类共同面对的治理议题，国家间的竞争是局部的，而合作是整体的；要共同有效管控分歧，明确要化解人工智能带来的重大风险的治理难题，就必须携手而行，为此，双方要相互尊重各自的交往底线，不越界、多沟通，共同冷静处理分歧；要共同推进互利合作，整合中美双方优势互补的算法、算力和数据要素禀赋，以互利合作推动人工智能的产业治理和标准治理；要共同承担大国责任，以合作而非对抗的负责任态度共同应对人工智能治理挑战；要共同促进人文交流，培育人工智能多方主体协同治理的社会氛围，以民间互信带动政府互信。

第二，划定人工智能治理合作的重点领域，“以点带面”推进中美政府间对话机制建设。当前，全球人工智能治理风险突出，集中表现为安全风险，而安全风险更突出表现为人工智能不当军事应用可能引发的国家、地区冲突，地缘危机乃至威胁全球和平秩序。这一风险在生成式人工智能技术的兴起后日益凸显，使得监管人工智能的军事应用迫在眉睫。【张广胜、田玲：《生成式AI如何影响未来战争》，载《解放军报》2023年4月18日，第7版。】在当今国际政治、经济和科技竞争格局下，中美两国共同承担着维护国际秩序和平稳定的大国责任，人工智能的安全治理，特别是对人工智能军事领域的规范应用，成为当下中美两国合作治理的重点领域。在旧金山会晤之前，中国已向联合国提交了关于规范人工智能军事应用、加强人工智能伦理治理等立场文件；【2021年12月13日，中国特命全权裁军事务大使李松向联合国《特定常规武器公约》第六次审议大会提交了《中国关于规范人工智能军事应用的立场文件》。2022年11月16日，李松大使又向联合国《特定常规武器公约》缔约国大会提交了《中国关于加强人工智能伦理治理的立场文件》。在这些文件中，中国积极倡导人工智能“伦理先行”“以人为本”“智能向善”和“多边协商”等治理原则。】美国则联合其他国家向联合国提交《致命性自主武器系统领域新兴技术的原则和最佳实践》《自主武器系统条款草案——基于国际人道法的禁令和其他监管措施》两份文件。在2023年的“军事领域负责任使用人工智能”峰会上，包括中美在内的60多个主权国家联合签署《军事领域负责任使用人工智能的行动倡议》（REAIM Call to Action），倡议依照“国际法律义务，以不损害国际安全、稳定和问责的方式”负责任地在军事领域研发和应用人工智能。在既有治理成果和共识之上，借助“旧金山会晤”的契机，中美两国可以进一步围绕人工智能军事应用的发展规范寻求共识，基于慎重负责的态度避免人工智能技术在相关武器系统的误用、滥用甚至恶用，确保有关武器系统永远处于人类控制之下。

第三，强化人工智能治理合作的科研、技术交流，探索建立人工智能风险和安全问题的“二轨对话”机制。中美在人工智能治理领域的合作虽然以政府间对话与合作为主要形式，但两国专家学者、企业以及其他社会团体之间加强互动，将有助于从不同视角解读本国政策，提出富有针对性和可操作性的意见和建议，也为政府间对话奠定互信氛围，弥合信任“赤字”。【参见孙成昊、赵宇琪：《中美人工智能领域合作的路径与前景》，载《中国信息安全》2023年第7期。】在人工智能领域，中美两国具有良好的合作基础。统计数据显示，中美两国人工智能研究人员合作发表的文章数量远远超过其他任何两个国家之间的合作。【Data Trusts：China and the United States： Unlikely Partners in AI， at https：//hai.stanford.edu/news/china-and-united-states-unlikely-partners-ai（Last Visited on Jan.2，2024）.】在中美两国研究人员合作发表的高影响力人工智能论文中，有相当一部分是两国学者合作发表的；2019年，此类中美合作成果占两国“高被引人工智能出版物”的24%。【Ashwin Acharya amp; Brian Dunn，Comparing US and Chinese contributions to high-impact AI research， CSET Data Brief， January 2022，p.3，p.11.】此外，我国清华大学同美国智库布鲁斯金学会共同成立“中美人工智能与国际安全对话”项目，迄今已举办八轮对话。【《CISS举办第八轮“中美人工智能与国际安全对话”》，载清华大学战略与安全研究中心官网，https：//ciss.tsinghua.edu.cn/info/hyjx/6488，2024年1月2日访问。】未来，中美两国可以基于既有的学术交流和沟通机制，不断巩固、扩大人工智能技术研发和治理领域研究人员的交流合作。特别是在合作的重点领域，中美两国专家学者可以共同就人工智能安全保障技术、人工智能审计框架、人工智能性能基准测试以及人工智能风险管理框架等领域作出探索，集结更多智慧成果，实现人工智能的安全治理。

第四，推动科技企业在人工智能自我规制、行业自治层面的经验交流，完善自身软法体系和治理工具，以民间共识促政府共识。人工智能治理是一项长期且复杂的社会工程，需要政府、企业、学者、用户等多元主体的通力协作。科技企业特别是领军企业间的技术对话、行业交流等合作措施能够有效促进各国科技企业实现人工智能技术创新、应用创新和治理创新。例如，微软、谷歌、亚马逊等科技巨头早在2016年即成立了“人工智能联盟”（Partnership on AI）促进企业间的交流互动，通过分享数据、经验和资源，开展联合研究和项目合作，共同推动人工智能技术的交流发展和治理落地。目前，该联盟已成为涵盖多个国家行业、学术界、媒体以及民间社会的重要平台。近期，微软、谷歌、OpenAI等也成立了前沿模型论坛（Frontier Model Forum），协同推进前沿人工智能模型的最佳实践，推动促进政企之间的信息共享。【前沿模型论坛由微软、OpenAI、谷歌和Anthropic于2023年7月26日联合创立。该论坛旨在通过分享最佳实践、推进人工智能安全研究、促进企业和政府间信息共享等方式，支持、确保前沿AI模型得到负责任和安全的开发。】科技巨头的自我规制及行业自治在一定程度上加快凝聚人工智能治理的全球共识，并有利于从研发和生产端推进人工智能治理秩序形成。【参见宋黎磊、戴淑婷：《中美欧人工智能治理领域的竞争与合作》，载《当代中国与世界》2021年第4期。】中美两国作为人工智能技术研发和产业应用的领军国家，各自培育形成了具有本国特色和优势的人工智能产业布局、技术积累和应用场景，也分别积累了相当丰富、有效的人工智能治理工具、实践和制度。在中美两国的人工智能治理的合作与对话中，应全方位、多渠道地推进两国科技企业在自我规制和行业自治层面的对话交流，通过分享各自有效的最佳合作实践、行业自律规范等方式，一方面增补缺弊，以他山之石完善本国人工智能治理的企业实践和行业实践；另一方面也以中美两国民间交流共识促进政府层面的对话、交流，为中美两国在人工智能治理领域的政府间对话、协调机制建设与合作监管奠定基础。

四、结语

人工智能技术的迭代式创新突破，正加速推动人类向着数字化、智能化的未来前进。未来已来，但在这一急剧转型背后正发生着社会制度、理念、关系的激烈全面重组，并由此带来广泛、复杂、多变的人工智能治理挑战。当前，为应对艰巨的治理挑战、实现社会数字化转型，全球范围内国家、国际组织和社会等多利益攸关方已形成协同治理、合作治理的人工智能治理格局，以多方治理主体的充分参与应对普遍的人工智能治理挑战。但在合作面向之下，各国围绕技术竞争、产业竞争和技术标准、国际规则制定的分歧与博弈也表现得尤为突出，在缺乏统一、协调的国际人工智能治理机构的情况下，国家间合作多以双边、多边的区域性合作为主。

合作还是竞争，协同还是分散？面对人工智能技术创新及接踵而来的治理挑战，全球人工智能治理确实已站在历史选择的“关键十字路口”，【参见中国信息通信研究院：《全球数字治理白皮书（2023年）》，载中国信通院网，http：//www.caict.ac.cn/kxyj/qwfb/bps/202401/P020240103389490640356.pdf，2024年1月20日访问。。】能否超越分歧达致共识，能否超越个别利益实现共同利益，是决定全球人工智能治理模式是否韧性、有效的直接、关键因素。在“以人为本”的核心价值引导下，人工智能的技术发展应有效服务于人类需求、实现社会的数字化转型。而这一治理目标的实现，离不开一致的治理共识，离不开统一的国际组织协调，更离不开国家在双多边机制下的合作对话，以技术流动、标准协调和监管协同打破壁垒。

Abstract：In the face of AI technological innovation and the resulting governance challenges， a multi-party governance pattern led by sovereign states， promoted by international organizations and coordinated by technological enterprises has been formed globally. And governance practices around the world have generally been characterized by the legalization of governance， the technologization of governance and the parallelism of soft and hard laws. However， there is still an \"intelligence divide\" and a generation gap in governance between developing countries and developed countries in terms of AI technology development and governance capabilities; and at this stage， international cooperation in AI governance is highly fragmented， with a lack of a core regulatory body for global AI governance， and intergovernmental cooperation is mostly characterized by geographic characteristics and with great power competition. The construction of a global AI governance mechanism needs to be based on the principles of inclusiveness， equality and pluralism， strengthen the mechanism of dialogue， exchange and consultation among governments， enterprises and experts， and promote the realization of synergistic development， harmony and co-prosperity in global AI governance by taking the lead in forging a consensus on governance in key areas.

［责任编辑 郭 粹］