TTC框架下欧盟和美国人工智能标准化合作重点分析

文/张笑雪 戴宇欣

自2021年欧盟和美国成立欧美贸易技术理事会（TTC）以来，人工智能已经成为其在新兴技术领域寻求标准突破的重点领域。本文分析了欧盟和美国在TTC框架下共同开展人工智能标准化工作的主要行动、趋势和特点，为我国推动人工智能等新兴技术领域标准化发展提供参考与借鉴。

一、主要行动

人工智能是TTC技术标准工作组的重点工作领域，其标准化工作的主要行动包括以下5个方面。

1.统一欧盟和美国标准路线和共识

TTC以可信赖和风险评估为核心，建立了欧盟和美国共同的标准路线图和实施计划，提出短期和长期目标。短期目标注重建立合作渠道，分析欧盟、美国和国际标准中的术语和分类，确定重点标准，开发评估工具等；长期目标是对短期目标的深化，包括促进国际标准的参与和领导，加强对术语和分类标准的统一理解，深化标准、工具和合作，监测、识别和预判新的风险。

在实施上，欧盟和美国吸收各方经验，广泛收集国际和民间标准组织、经济合作与发展组织（OECD）的意见，分析美国《人工智能风险管控框架》《人工智能权利法案蓝图》和欧盟《欧盟人工智能法案》等政策文件，以平衡各方需求，力求最大程度地获得共识。

2.推进关键标准制定

目前，TTC重点聚焦两类标准：一类是术语和分类，另一类是风险测量。

① 术语和分类

2023年5月，TTC发布了《欧盟—美国人工智能术语和分类法》（第一版），对人工智能生命周期、测量、技术系统属性、治理、可信赖等术语进行定义，并完成了对该术语清单的首轮意见征集。

② 风险测量

围绕人工智能可信度、风险测量指标和方法等，欧盟和美国共同开展了评估方法标准研究，启动搭建包含人工智能可信度测量指标、风险管理方法等工具的线上公开数据库，对人工智能风险进行互操作性测试和评估。

3.规范人工智能企业行为

针对人工智能企业行为规范方面的立法空白，欧盟和美国在TTC合作框架的推动下向七国集团（G7）提交了关于人工智能行为准则的跨大西洋联合提案，制定了适用于人工智能企业行为的技术指导标准。

2023年10月，G7发布了《开发先进人工智能系统组织的国际指导原则》和《开发先进人工智能系统组织的国际行为准则》，针对人工智能隐私和安全风险等提出行为准则，指导各类组织开发先进的人工智能基础模型、系统和技术标准。

4.加强前瞻性联合研究

欧盟和美国在TTC框架下建立了“联合技术竞争政策对话”机制，拓展欧盟联合研究中心和美国国家标准与技术研究院（NIST）的合作领域，并联合标准制定组织、企业、学术界、政府等相关方共同开展人工智能标准化预研究合作，巩固标准制定的技术和科学基础。

5.开展产业应用研究

针对人工智能技术在具体产业领域的应用，TTC启动了在健康医疗领域应用隐私增强技术的试点项目，明确在气候变化、应急管理、医疗健康、电网优化和农业优化等5个领域开展人工智能和计算研究项目。

二、发展趋势

根据TTC标准路线图的实施计划以及欧盟和美国近期在人工智能领域的行动，本文预计欧盟和美国下一阶段将加强以下3个方面的工作。

1.进一步加强对人工智能安全的研究与投入

美国参议院已经要求对美国人工智能安全研究所（USAISI）增加拨款1 000万美元，将资助与欧盟等研究伙伴的合作研究，加快测试环境的工作，评估网络安全协议，并成立联合研究中心来集成新的人工智能技术和系统。从目前趋势来看，隐私增强技术、人工智能攻击模拟、人工智能模型开放风险等将是近期重点。

2.不断深化人工智能基础性和前瞻性研究

大模型和生成式人工智能将是欧盟和美国重点攻关的人工智能技术领域。在大模型方面，欧盟和美国已开展对人工智能大模型的研讨和调查，下一步将在调研基础上汇集各方专家做深化研究。在生成式人工智能方面，欧盟和美国将在术语、内容风险和标注等方面开展合作。

3.持续扩大欧盟和美国人工智能标准的国际应用

一方面，TTC技术标准工作组已经成立了数字身份小组，将在2024年完成欧盟和美国大西洋数字身份共享术语，支撑欧盟和美国加强跨境互操作性；另一方面，从2023年中期起，欧盟和美国不断加强与印度、印度尼西亚、新加坡、越南等国家的人工智能合作，并明确提出将吸纳更多国家参与其人工智能标准化研究与应用。

三、特点分析

欧盟与美国在TTC框架下持续推进人工智能标准化工作，具有加强系统谋划、注重基础和安全标准、强化技术与标准协同、加强企业行为指导等鲜明特点。

1.加强系统谋划，着力重点领域分步突破

欧盟和美国并未以完整的人工智能标准体系来指导未来的标准化工作，而是通过分阶段实现的实施路径来突出重点，逐步深化各项措施，促进预期目标的实现。TTC目前已经开展和将要开展的一系列人工智能标准化工作，均体现出其聚焦重点、逐步扩大国际共识、预判未知风险等循序渐进的基本思路。

2.注重基础和安全标准，力求以国际协同主导发展方向

TTC将推动可信和风险管理作为人工智能标准化工作的共识和愿景，高度重视术语定义、分类、测试评估等基础共性标准，在研制路径上注重与国际标准的协同，并通过建立可信测量数据库、发布企业行为指导准则、推进隐私安全研究等一系列“基于风险的方法”，以建立国际共识为目标开展标准化活动。这些做法，一方面可以使其人工智能标准框架体系更加完善，另一方面有助于塑造其安全可靠的技术形象，巩固人工智能伦理道德领域的国际标准话语权。

3.强化技术与标准协同，推动技术广泛应用

欧盟和美国人工智能标准化合作遵循新兴技术标准研究的特点，充分利用标准预研究、技术调查、应用试点等工具和方法，强化技术与标准协同发展。在应用领域，欧盟和美国则关注气候变化、应急管理、医疗、电网等可持续发展和基础设施领域，推动其人工智能技术的更广泛使用，谋求在国际范围内的推广。

4.加强企业行为指导，谋求以标准填补立法空白

人工智能具有技术更新速度快、涉及范围广、不确定性强的特点，传统的法律监管很难跟上技术发展节奏。在欧盟和美国双方尚无成熟和一致的监管法律情况下，TTC通过制定关于人工智能行为准则作为过渡性措施，为企业开发和使用人工智能技术、制定人工智能标准提供指导，并协调欧盟和美国双方的监管差异，高效应对人工智能快速发展带来的挑战。

四、展望

我国人工智能市场规模巨大，产业和标准化发展成果显著，在图像识别、智能语音等领域达到全球领先水平，并在国际标准化组织/国际电工委员会第一联合技术委员会（ISO/IEC JTC 1）中发挥着重要作用。但是，我国国家人工智能标准化总体组发布的《人工智能标准化白皮书》显示，目前我国人工智能标准化发展仍存在一定的不足，如：人工智能工具完整性、融合程度、效率等没有统一的衡量标准；人工智能测试体系不够完善，尚未形成成熟的功能、性能测试基准，人工智能测试标准体系还未形成；行业发展不均衡突出，在与实体经济融合方面存在结构性失衡，目前主要用于金融、安防、物流等领域，亟待在制造、零售等领域有所创新与突破。

从上海市层面来看，近年的调查显示，上海市人工智能企业主要集中在技术层（技术开发与输出）和应用层（解决方案），在产业应用层具有明显规模优势，相关企业占比超过90%，且其中70%以上集中于智慧城市领域，主要应用于城市公共服务，如医疗、环保、政务等。调查同时显示出当前存在的一些不足，如：应用赋能还不深入，应用场景相对单调，人工智能在制造业的应用较为分散，与智慧生产和智能生活的融合较少；对人工智能系统及软件风险的认识不高；缺少权威评定和测试服务机构，对良性竞争产生负面影响；强调促进技术进步和产业应用，但缺乏对伦理道德安全的研究和监管，与国际趋势不够接轨等。

我国与美国对于人工智能标准化治理的理念相近，倾向于用政策引领人工智能标准的发展（欧盟相对更为保守，倾向于用标准和法律加强对人工智能的监管）。美国在TTC中具有主导地位，它提出的建立人工智能风险监测和风险评估机制与标准、开发人工智能风险管理标准和工具包、建立人工智能标准预研究的国际合作体系、注重可持续发展和基础设施领域的人工智能应用标准等具体措施，对于我们改进当前的薄弱环节、以标准引领人工智能产业发展、加强应用落地、完善产业生态等具有一定的借鉴意义。