中美人工智能对话可以谈些什么

朱荣生 王一凡

2023年11月15日，习近平主席在美国旧金山斐洛里庄园同美国总统拜登举行会晤，在双方达成的一系列重要共识里，建立中美人工智能政府间对话机制赫然在列。这不仅给缓和两国日趋激烈的数字竞争释放了积极信号，也为保持两国各领域对话合作注入新的驱动力。尤其在国际舆论越来越关注人工智能安全风险的当下，中美建立的这一新的对话渠道为推动相关领域全球治理提供了信心。

伴随着ChatGPT在全球爆火引发大众对这项技术的高度关注，人工智能全球治理在2023年步入快车道，一个代表性的现象是科技和产业界高调呼吁重视人工智能的“失控风险”。3月29日，特斯拉公司CEO马斯克、苹果公司联合创始人沃兹尼亚克、英国开源人工智能公司Stability AI的CEO莫斯塔克等1000多名业界高管、专家、科研人员签署公开信，呼吁“暂停研发比GPT-4更强大的人工智能系统至少六个月”，从而避免“人类文明被机器终结”。5月31日，350名人工智能领域的行业高管、专家公开警告人工智能可能像核武器和大流行病一样给人类带来“灭绝性社会风险”，引发全球舆论对人工智能潜在伦理风险的高度关注。6月12日，联合国秘书长古特雷斯强调，要认真对待专家关于生成式人工智能的警告。同核武器威胁人类生存相比，人工智能尚未展现出颠覆性的破坏力，所谓超级人工智能将灭绝人类带有一定的科幻主义和浪漫主义猜想色彩。尽管如此，国际舆论对大国开展治理合作以防止“技术失控”充满期待。中美同为人工智能技术和应用大国，都需要承担相应的国际治理责任，对国际舆论的主要关切作出回应。

回望过去十年人工智能全球体系的演进，国际治理机制和规范的建构在2023年迎来一股热潮，为中美开展人工智能治理对话创造了条件。一方面，联合国《特定常规武器公约》自2014年对以致命性自主武器为代表的人工智能军事应用展开讨论，于2019年确立了致命性自主武器治理的11条原则。时至今日，该公约在国际社会讨论治理人工智能军事应用风险方面持续着发挥核心平台的作用。2023年7月12日，联合国安理会首次讨论人工智能问题，联合国秘书长古特雷斯提出，参照国际原子能机构（IAEA）的经验，建立一个由人工智能专家和联合国机构首席科学家组成的科学顾问委员会。2023年10月26日，这个吸纳了中美专家的联合国人工智能高级别咨询机构正式成立。另一方面，区域性的“人工智能安全峰会”密集召开，荷兰、卢森堡、哥斯达黎加、英国等国均在2023年围绕人工智能、自主武器的军控和治理问题举办国际峰会，并且发布相关治理倡议或联合声明。其中，获得关注最多的是英国举办的“人工智能安全峰会”及其会后成果《布莱切利宣言》，中国、美国、欧盟、澳大利亚等28个国家和地区签署该宣言，同意开展行动来识别共同关注的人工智能风险，并且各自制定技术安全措施和开展国际合作。

中美两国在人工智能治理领域不只有稳定彼此关系的需要，也有确保技术健康发展与安全利用共创人类福祉的共同利益和责任。而中美在哪些人工智能治理领域迫切需要进行沟通，评估双方哪些政策主张有可能导向共识，是落实两国元首会晤“旧金山愿景”关于建立两国人工智能政府间对话共识的重要初始路径。

在人工智能安全治理方面，中美在非传统安全领域形成共识的空间多于传统安全领域。就传统安全领域而言，中美可能找到的共识点包括：自愿性地加强人工智能军事应用立场的透明度，以及就涉军事智能问题开展危机预防、危机管控和防范军备竞赛等方面的沟通。尽管国际社会对人工智能介入战略决策和执行的关注度高涨，对所谓“战略稳定性受冲击”的担忧日甚，但是主要人工智能大国恐怕难以在短时间内就相关军控问题达成一致意见。2023年2月16日，美国在荷兰海牙“军事领域负责任使用人工智能峰会”上发布《关于在军事中负责任地使用人工智能和自主技术的政治宣言》。11月21日，美國国务院宣布已有46国支持该宣言的修改版。值得注意的是，新版宣言删去了确保人类决定核武器发射权的内容，美方做此调整的原因是，战略力量敏感度高、智能技术泛在性强、开展核查难度大，使得推动相关军控讨论过于困难，而让有核国和无核国确立相关军备控制规范更是难上加难。

在非传统安全领域，两国可以争取就人工智能治理基本原则形成共有规范。尽管中美在人工智能技术治理原则的表述上存在差异，但双方不少核心理念的内涵却有相通之处，都强调人类对机器的控制，都反对人工智能产品研发和应用对不同或特定民族、宗教、信仰的歧视，也都支持人工智能发展要以增进人类福祉为目标。那么，中美是否有可能就这些治理原则讨论出一个共同文本呢？2023年10月18日，中国政府发出《全球人工智能治理倡议》，共包括11项内容，在一定程度上反映了包括中美在内世界主要国家对人工智能发展的核心关切，提出了构建全球治理体系的科学方案，为未来中美探索建构“人工智能治理准则”提供了可参考的基本框架。考虑到两国已经在人工智能技术标准、法律法规、国际治理方面各自颁布多项文件，双方可基于它们开展沟通，着重就技术概念及其治理原则形成共同理解。

另一方面，中美都面临人工智能渗透进人类生活后所引发的社会治理难题。人工智能不仅放大了保护个人隐私、维护社会公平、弥合数字鸿沟、防范恐怖主义等方面的挑战，还给两国应对这些社会治理难题增添了结构性压力。面对这些非传统安全挑战，中美在某些功能性领域存在广泛的合作空间，包括：分享各自国内人工智能治理的实践经验；就人工智能生成视频文字的鉴别方法和标准开展沟通交流；联合打击犯罪、恐怖主义活动，以防范不负责任的技术应用破坏政治稳定和公共安全；避免滥用出口管制工具冲击全球人工智能产业链供应链稳定，等等。

总之，中美人工智能对话可讨论的话题很多，对全球治理的引领作用很大，应尽早落地，争取成为践行“旧金山愿景”的先锋项目。

（朱荣生为清华大学战略与安全研究中心特约专家，王一凡为清华大学中美关系研究中心助理研究员）