法治助力人工智能“上海高地”建设

文/丁 贤

人工智能是习近平总书记要求上海“集中精锐力量、加快发展突破”的三大先导产业之一，是引领未来发展的战略性技术，具有溢出带动性很强的“头雁”效应，也是新一轮科技革命和产业变革的重要驱动力量。9月22日，《上海市促进人工智能产业发展条例》（以下简称《条例》）经市十五届人大常委会第四十四次会议表决通过，并于10月1日起施行。这是全国首部人工智能领域省级地方性法规，将为构建本市新一代人工智能产业体系、打造世界级产业集群、建设更具国际影响力的人工智能“上海高地”提供有力的法治保障。

《条例》共6章72条，根据本市人工智能产业发展特点和本市实际，立足于促进法的基本定位，注重创新性和引领性，充分发挥有效市场和有为政府的作用，既强调人工智能领域科技创新和产业发展，重点挖掘人工智能应用赋能潜力，又注重研究人工智能带来的法律和伦理挑战，力求让智能时代的美好图景在上海得到充分演绎和生动展现。

优化要素资源配置 夯实产业发展基础

算力、算法和数据是新一代人工智能快速发展的三大要素，一直被业界认为是人工智能发展的三驾马车。数据是人工智能发展的基础，图像识别、视频监控等技术都需要庞大的数据支撑；算法是人工智能发展的框架，能够极大地提高人工智能学习效率；算力是算法和数据的基础设施，支撑着算法和数据。三大要素相互影响、缺一不可，推动人类社会从信息化迈入智能化。

算力、算法和数据这三大要素在《条例》立法过程中始终被高度关注。不少委员坦言，算力不足是很多研发机构和中小企业在现实中遇到的瓶颈问题，政府应当花大力气布局公共算力资源。企业也直击痛点，迫切希望地方立法促进算法模型开发和推广，加快公共数据开放，降低企业开发成本。

《条例》紧紧围绕算法、算力、数据谋篇布局，致力于三大要素融合促进，合理规划和保障算力资源，推动建设公共算力基础设施，加强算力资源科学调度，保障中小企业获得普惠公共算力；积极推动算法创新行动，要求促进算法模型开发和推广，加强对算法模型的保护。《条例》还聚焦人工智能领域独特数据需求，将行业知识与数据深度融合，推动数据集建设，扩大面向人工智能产业的公共数据供给范围；依托上海数据交易所，加强人工智能数据品牌建设，释放数据红利。

激发市场主体创新活力 全面提升创新策源能力

创新是人工智能的突出特点。多年来，上海着力构建从基础理论到行业应用的人工智能创新体系，创新成果持续涌现。在取得显著成效的同时，上海人工智能领域科技创新也面临一些亟需研究和破解的瓶颈问题，例如市场主体创新动力仍显不足、基础研究较为薄弱、关键核心技术依赖国外、产学研“散而不强”等。

在立法调研中，市人大常委会组成人员与科研工作者面对面深入交流。科研工作者纷纷提出，“立法要鼓励科技创新，给予市场主体充分的创新空间”“立法要明确人工智能领域哪些事可以做、哪些事不可以做”“希望采取更加积极的创新创业激励政策”“立法要推动政府加大对基础研究的投入”等。《条例》对此一一作出回应。

除法律、法规以及国家和本市相关规定明确禁止事项外，《条例》鼓励市场主体积极创新，并要求经济信息化部门探索建立人工智能科研、应用等领域负面清单，体现“法无禁止皆可为”的立法理念。

对于人工智能等处于探索发展阶段尚未定型的新业态新模式，《条例》允许一定的制度探索和试错空间，要求有关部门根据人工智能快速迭代的特点制定、修改或废止相关的监管规则、标准，探索分级治理和沙盒监管，建立人工智能领域轻微违法行为依法不予行政处罚清单。

《条例》明确推动人工智能领域重大科学前沿问题的基础理论研究和关键共性技术研发，加大对人工智能重大科技基础设施、重大科研平台和新型研发机构等支持力度，增强原始创新能力。

在人工智能领域，《条例》明确推进科技体制改革，赋予人工智能创新团队和领军人才更大技术路线决定权和经费使用权，探索赋予科研人员人工智能领域职务科技成果所有权或者长期使用权。

同时，《条例》明确建立有利于促进人工智能领域科技成果转化的激励机制，推动相关主体开展科技成果转化合作，打通科技创新活动全过程的“最后一公里”。

加快核心产业培育 引领新赛道壮大新动能

数字经济的发展加速人工智能全面产业化的到来，上海目前已构建较完备的人工智能产业生态，产业链覆盖基础层、技术层、应用层及各细分领域，形成智能芯片、智能传感、计算机视觉、生物特征识别、智能机器人等细分优势领域。

产业发展离不开产业环境的有力支撑及政策的持续浸润，《条例》在制度设计上着力解决机制性瓶颈问题，巩固产业链基础优势，发挥企业主体作用，为人工智能产业营造良好的发展环境。《条例》突出人工智能软硬一体化生态建设，加强龙头企业、创业企业培育，依托龙头企业带动产业链上下游协同发展，构建人工智能产业生态；通过加大资金支持、强化人才激励与保障、加强知识产权保护等，积极营造加快人工智能产业发展的良好生态；注重发挥企业和行业组织在相关标准制定中的作用，推动使用“人工智能上海标准”的专门标识；突出重点方向，着力促进人工智能基础硬件、关键软件、智能产品等高质量发展。

推动场景应用赋能 融合经济社会发展

在2022年世界人工智能大会上，灯塔工厂、无人船、AI下棋、手术机器人等诸多人工智能创新产品夺人眼球。应用场景是发挥人工智能技术应用赋能效应的落脚点，只有实现更广泛的工业化、商业化应用落地，人工智能产业才能实现可持续发展。当前，在人工智能技术应用落地过程中，依然存在着“不会用、不想用、不能用、不敢用”的“四不”问题。

《条例》紧抓应用场景创新这一“牛鼻子”，深入传统行业痛点，构建人工智能与实体经济融合的新模式、新方法，推动人工智能赋能千行百业。《条例》明确经济信息化部门组织制定并督促落实人工智能示范应用清单，在此基础上深化人工智能在制造、金融、商务、物流等经济领域的应用，促进智能经济高端高效发展；深化人工智能在互联网、教育、医疗、养老等生活领域的应用，服务市民高品质生活；深化人工智能在城市治理领域的应用，加强智能感知、智能中枢和智慧司法建设，提升城市整体运行和决策效率。

构建体系化治理框架 维护产业发展与安全

人工智能具有技术属性和社会属性高度融合的特征，在赋能发展的同时，也带来了法律和伦理等方面的新挑战。从AlphaGo击败人类围棋世界冠军，到人脸识别带来隐私安全问题，再到特斯拉自动驾驶事故频发问责难，以及虚拟人引发就业和职场焦虑，这些问题引起全社会密切关注。来自市人大常委会委员和社会各界的意见中，“科技伦理”“安全”“法律规范”“隐私保护”等关键词频频出现。

美国、欧洲、日本等国家和地区已将人工智能治理列为国家重要战略目标，遵循发展与伦理安全并重的基本原则。我国高度重视人工智能治理问题，习近平总书记在中共中央政治局第九次集体学习时强调，要加强人工智能相关法律、伦理、社会问题研究，建立健全保障人工智能健康发展的法律法规、制度体系、伦理道德。今年3月，中共中央办公厅、国务院办公厅印发《关于加强科技伦理治理的意见》，强调要加强人工智能等重点领域科技伦理治理工作。

《条例》坚持促进创新与防范风险相统一、制度规范与自我约束相结合，构建具有上海特色的人工智能体系化治理框架，营造良好的伦理和法治生态，保障人工智能产业发展安全可控：坚持总体国家安全观，保障产业链供应链安全；要求政府及有关部门对高风险和中低风险人工智能产品和服务采取不同的治理模式；明确人工智能伦理专家委员会职责，发挥其在人工智能领域伦理规范方面的作用；规定相关主体开展人工智能研发和应用，应当遵守法律、法规规定，增强伦理意识，并不得从事相关禁止行为；最后，还注重对劳动者、老年人、残疾人、妇女、未成年人等群体的保护。