关于加快开展人工智能领域立法工作的建议

◎ 全国人大代表、湖北得伟君尚律师事务所首席执行合伙人 蔡学恩

一、加快人工智能领域立法的必要性

（一）人工智能技术的快速发展

2017年7月，国务院印发了《新一代人工智能发展规划》（简称“规划”），《规划》指出，当下人工智能的发展进入了新的阶段，人工智能也成为国际竞争的新焦点，人工智能将为经济发展提供新引擎并为社会建设带来新机遇。《规划》同时还提出了三部走的战略构想，并将最终目标确立为：2030年我国在人工智能理论、技术与应用总体达到世界领先水平，成为世界主要人工智能创新中心，人工智能核心产业规模超过1万亿元，带动相关产业规模超过10万亿元。

截止目前，经过多年的持续积累，我国在人工智能领域及相关领域已取得重要进展，国际科技论文发表量和发明专利授权量已居世界第二，语音识别、视觉识别技术世界领先，自适应自主学习、直觉感知、综合推理、混合智能和群体智能等初步具备跨越发展的能力，无人驾驶汽车已开始测试，商业化应用的步伐在不断加快，同时中文信息处理、智能监控、生物特征识别、工业机器人、服务机器人逐步进入实际应用，人工智能创新创业日益活跃。

（二）欧美国家在人工智能领域的立法进展

在人工智能成为国际竞争焦点的背景下，欧美各国政府以及一些社会公共机构已开始积极关注人工智能的法律和伦理问题。

早在2015年1月，欧盟议会法律事务委员会（JURI）就决定成立一个工作小组，专门研究与机器人和人工智能发展相关的法律问题。2016年5月，法律事务委员会（JURI）发布《就机器人民事法律规则向欧盟委员会提出立法建议的报告草案》（Draft Report with Recommendations to the Commission on Civil Law Rules on Robotics， 简称《报告草案》）； 2017年 2月 16日，欧盟议会通过了法律事务委员会（JURI)要求欧盟委员会就机器人和人工智能开展立法的提案。自此，推进人工智能法律和伦理研究，包括可能的立法和监管措施，未来将成为欧盟立法议程的一个核心。

2017年12月12日，美国国会提出两党法案——《人工智能未来法案》（FUTURE of Artificial Intelligence Act of 2017），这是美国提出的首个针对人工智能的第一个联邦法案，该法案的核心内容是要求商务部设立联邦人工智能发展与应用咨询委员会，并要求该委员会应于该法案颁布后540天内向商务部和国会提交人工智能相关事项的研究报告，并对出台人工智能相关立法或行政措施提出建议。

（三）国内人工智能立法的相对滞后

面对飞速发展的人工智能技术，相较于欧美日趋清晰明确的立法规划，我国目前在人工智能立法方面则稍显滞后，在人工智能行为伦理道德框架、人工智能应用相关的民事与刑事责任确认、隐私和产权保护、信息安全利用等问题上的研究均需要加强，自动驾驶、服务机器人、无人机等应用基础较好的细分领域，由于产业实践已走在前面，且行业发展日新月异，客观上也需要加快制定相关安全管理法规，为新技术的快速应用奠定法律基础。

二、人工智能领域立法的具体建议

（一）尽早成立国家层面的专门工作组，落实人工智能立法的预备和研究论证工作。

如前所述，人工智能领域发展快、问题新、涉及面广，建立完善的一整套法律制度不可能一蹴而就，人工智能领域的立法研究工作不同于其他传统行业，它不仅会涉及到传统法律法规，更会涉及到伦理道德层面，因此，我们应在国家层面成立专门的人工智能立法工作组，召集行业专家、法学专家和社会学专家对人工智能领域的新问题、新挑战进行集中研究论证，既要保障国家安全，也要促进行业发展，同时应尽量避免严重社会伦理冲突，只有这样我国才能在人工智能这一领域与欧美国家开展竞争，如果在配套制度上仅是等等看的亦步亦趋，则将难以实现《规则》制定的战略目标。

（二）重点研究人工智能伦理准则在内的顶层制度设计问题

伦理问题是人工智能亟待解决的最为核心的问题，人工智能算法的核心原则需要法律和伦理的介入，惟其如此，人工智能才能不脱离人类为其预定的发展轨道。在人工智能伦理准则问题上，已经有 70多年的“机器人三原则”虽然仍有指导意义，但显然需要再进一步的进行发展。例如欧盟法律事务委员会在其《报告草案》中，就提出了所谓的“机器人宪章”（Charter on Robotics）。这一宪章针对人工智能科研人员和研究伦理委员会（REC），提出了在机器人设计和研发阶段需要遵守的基本伦理原则。对机器人科研人员而言，诸如人类利益、不作恶、正义、基本权利、警惕性、包容性、可责性、安全性、可逆性、隐私等都是需要认真对待的事项。

人工智能是技术推动的行业，但在其算法的原点上，即人工智能的顶层设计上法律和伦理不应缺失，而且这是产业良性长远发展的根本，应当优先解决。

（三）立法应促进培育人工智能发展和创新的有利环境，不宜过早对人工智能领域进行全行业的过度法律干预

虽然人工智能领域立法活动需要加速开展，但就目前而言，我们更需要人工智能发展和创新的有利环境，考虑到行业的发展，以及人工智能领域的复杂性和专业性对产业政策及相关立法提出的更高要求，人工智能领域立法必须综合考虑公众、社会团体、产业界、政府机构等可能受人工智能影响的群体的利益关切，谨慎出台规制措施，避免过度干预，从而体现信息时代对监管的专业性、谦抑性要求，在培育创新的同时确保技术不会危及社会安全，避免公权力过早介入而对技术及产业发展造成阻碍。

（四）适时对无人驾驶、无人机等人工智能具体应用领域出台统一性的法律法规或政策

在无人驾驶、无人机等已经商业化或将要商业化的人工智能具体应用领域，建议应当着手准备出台统一性的法律法规或政策，尤其是无人驾驶，其面临的新问题多，与现有法律规则难以协调的地方也多，虽然目前北京、上海、深圳等地都在各自出台一些临时性的应对政策，但这只是应急之策，国家层面应尽快开展研究准备工作，适时出台统一法规。

三、总结

人工智能行业是国家未来10年的战略发展行业，不仅仅关系到我们国家经济的长久发展，也关系到我们国家的长治久安。作为新技术的典型代表的人工智能，它同时也是一把双刃剑，它在极大地提高了我们的工作效率和服务质量的同时，也在对我们传统的法律制度甚至是伦理道德观念提出了严峻的考验，由于技术快速迭代，法律和监管的滞后现象进一步凸显，人工智能某些领域已走入法律的无人区，甚至还出现了挑战我们传统伦理的现象，技术的发展和制度、伦理的冲突愈加剧烈，因此，加快人工智能相关行业的立法研究，制定符合我国基本国情的法律法规是当务之急。