顶层设计：AI牵动全球法治高地排位战

文/吴玄 图/晓野

当前，人类社会已经由信息化、数字化步入了智能化时代。作为引领未来的战略性技术，人工智能（AI）及产业的发展不仅影响着未来国家间的竞争，也正深深改变着人们的日常生活。

人工智能已成为数字经济发展的新引擎

近年来，伴随着高性能计算机、云计算、大数据、传感器的普及以及计算成本的下降，人工智能技术已经步入第三次高速发展时期。人工智能正成为数字经济的新引擎和国际竞争的新焦点。目前，世界主要发达国家均将人工智能产业发展作为提升国家竞争力、维护国家安全的重大战略——

2016年，美国出台了《国家人工智能研究与发展战略规划》，明确将下一代人工智能视为国家竞争的战略高地。美国于2019年更新后的规划正力图进一步推动人工智能领域前沿技术研究，以确保其优势地位。此外，2020年美国国会通过了《国家人工智能计划法案》，要求在国家层面实施发展计划，解决人工智能产业技术发展的相关问题。

2018年4月，欧盟委员会发布政策文件《欧盟人工智能》，提出了以基本权利保障为基础的人工智能发展路线，努力确保欧洲在人工智能领域的国际竞争力。2020年欧盟出台的《欧洲人工智能白皮书》明确提出，欧盟人工智能产业发展的目标是“成为全球可信赖人工智能的领导者”。

同样，我国对人工智能领域关注已久。在国家层面，2015年国务院出台的《中国制造2025》首次提出发展智能装备、智能产品和生产智能化。2017年7月，国务院发布了《新一代人工智能发展规划》，确定我国人工智能发展三步走的目标；同年10月，党的十九大报告提出推动互联网、大数据、人工智能和实体经济的深度融合。随后，国家各部委开始密集出台人工智能相关政策。2019年9月，我国科技部印发了《国家新一代人工智能创新发展试验区建设工作指引》：强调充分发挥地方主体作用，在体制机制、政策法规等方面先行先试，形成促进人工智能与经济社会发展深度融合的新路径；计划至2023年，全国布局建设20个左右人工智能创新发展试验区。据此，北京、上海、深圳、杭州等地相继展开了新一代人工智能创新试验区的建设工作。

据了解，上海在信息化与数字化方面具有扎实的基础，在人工智能产业发展上起步较早。2017年11月，上海市人民政府办公厅印发的《关于本市推动新一代人工智能发展的实施意见》中，提出了上海市人工智能的发展目标。随后，上海市推出了系列政策文件，着力将上海打造成我国人工智能产业发展的高地——其中包括全国首个地方性的人工智能5年规划、首个地方性人工智能标准体系、首个人工智能地方标准化技术委员会、首个算法创新行动计划等。

2022年10月1日起正式实施的《上海市促进人工智能产业发展条例》（以下简称《条例》），是全国首部促进人工智能发展的省级地方性法规。《条例》不仅通过地方立法的方式将行之有效的创新举措系统地固定下来，同时为上海市人工智能产业未来的发展提供了法治保障。

人工智能的发展离不开法律的规制

众所周知，人工智能在推动人类社会高速发展的同时，因技术发展的不确定性等原因蕴含着诸多挑战。当前人类已经步入了“风险社会”，科学技术一方面提高了人们感知和化解风险的能力；另一方面其自身也是风险的来源，两者相互促进、彼此转化。尽管人工智能代表着未来先进发展方向，但对技术的盲目屈从很可能引发社会系统性风险。如今，越来越多的专业人士开始关注人工智能可能给社会带来的负面效应，如：技术和机器对人类的控制、个人对自身隐私与个人信息失去控制、算法黑箱及偏见引发的社会不信任等。

上海浦东张江人工智能岛AI体验中心展示的人工智能机器人：1.智能餐饮机器人2.全天候智能无人机3.达芬奇Xi手术系统

法律作为社会发展的压舱石，在技术进步的过程中发挥了重要的指引作用。目前，人工智能创新发展的法律框架尚未成形，全球范围内人工智能技术适用的基本规范和技术标准尚不成熟。规则制定的先机很可能转化为影响全球人工智能产业布局和技术创新走向的推力。因此，相关规则也成为各国博弈的场域，如：欧盟于2021年4月发布《人工智能法》提案，提出规避化解人工智能风险，发展可信赖的人工智能技术，以引领人工智能规则的发展。

在此背景下，沪上《条例》的出台，承载了为国家层面的制度设计积累经验的先行先试功能。纵览《条例》全文，不仅涉及人工智能科技创新、产业培育、应用场景建设和产业生态建设，还包括统筹人工智能产业发展与安全内容。笔者认为《条例》具有以下特点：

首先，坚持“以人为本、科技向善”为人工智能发展的基本原则。习近平总书记在2018年10月主持十九届中央政治局第9次集体学习时强调：“要加强人工智能发展的潜在风险研判和防范，维护人民利益和国家安全，确保人工智能安全、可靠、可控。”2019年6月，二十国集团提出“G20人工智能原则”，将“以人为本、可信人工智能”列为人工智能技术发展的基本原则。《条例》延续了上述原则，明确在上海人工智能创新、应用及发展中尊重人的主体地位。

其次，创新监管模式，审慎包容人工智能的社会应用。简单来说，人工智能是将物理世界数字化后进行演算预测。在此过程中，为了确保算法的准确性，需要不断纠正偏差。这预示着百分百正确的理想型人工智能并不存在。有学者甚至提出应放弃设计无差错的人工智能，转而发展容错机制强的人工智能。在人工智能创新监管中，对技术施以过于严苛的责任很可能适得其反。为此，《条例》首创“容错机制”，提出就人工智能产业发展过程中的轻微违法行为等制定依法不予行政处罚清单，通过批评教育、指导约谈等措施促进公民、法定代表人和其他组织依法合规开展生产经营活动，为人工智能产业的发展提供较为宽容的监管环境。

再次，以分级治理制度为保障，平衡人工智能应用的风险与创新。随着人工智能技术的推广和普及，其应用场景、影响范围、风险大小都存在着很大区别。面对如此复杂、智能的情形，不能施以简单的“一刀切”式监管，分级治理势在必行。2020年欧盟的《人工智能白皮书》即提出对高风险人工智能系统的强制性监管要求。为此，《条例》予以吸纳改进，建立了较为完善的分级治理体系。对于低风险、低致害的人工智能，采用事前披露和事后控制的常规治理模式，鼓励先行先试，完善技术；对于高风险、高致害的人工智能，实施清单式管理，在开发和应用层面予以严格的监管并赋予较高的技术标准，确保人工智能的安全性。

4.康复机器人

5.AI选股、盯盘、SaaS量化交易平台

实现人工智能产业的健康发展应将《条例》落在实处

借助上述措施，《条例》较好地平衡了人工智能创新发展与应用安全风险的关系。然而，徒法不足以自行，要将法律规定真正发挥作用，在实施中应当注意以下问题：

首先，强化人工智能伦理委员会的实质作用。人工智能创新应当服务于人民，遵循人类社会的基本准则。将抽象的伦理规则适用于复杂多元的人工智能应用场景中是人工智能法律规制的首要问题。在此，《条例》提出的人工智能伦理委员会或可以成为该问题的解决方案。在人工智能创新、应用和产业化全过程中，应当发挥人工智能伦理委员会的监督指导作用。在某些重大应用场景，针对高风险的人工智能，伦理委员会甚至应当具备一票否决权。

其次，注重与已有网络安全与数据类法律法规的衔接。一般认为，人工智能是数据、算力和算法的技术集群。人工智能的发展离不开大数据的支撑，其创新和应用也涉及大量的数据与个人信息处理活动。人工智能是一个复杂的系统工程，其法律规制也应当借助法律法规体系来完成。一方面，应关注现行法律中关于数据安全和个人信息保护的规定，如《数据安全法》《上海市数据条例》；另一方面，应将现行法律中关于人工智能的规定与《条例》加以整合，如《个人信息保护法》。

最后，在人工智能责任分配中，应灵活运用不同部门法手段。《条例》虽然是产业促进法，但同时也包含了大量行政监管内容。人工智能产业发展中，既有平等民事主体之间的私法活动，也涉及国家权力机关的行政监管、行政执法活动。同一个人工智能创新，很可能同时符合“轻微违法行为”和民事侵权行为的构成要件。在此情形下，行政机关的“不予处罚”并不代表着侵权责任的免除。

综上，人工智能产业应当坚持安全与发展并重。一方面，应给予人工智能产业创新必要的支持，提供有利的监管环境；另一方面，需要识别人工智能创新可能带来的风险，对技术发展的方向加以引导，确保技术有益于人类社会的发展。