天津人工智能技术风险与对策研究

文/赵绘存

一、天津人工智能产业发展现状

人工智能技术已经成为天津城市发展的重要技术载体。在基础设施建设层面，2020年6月底，天津移动第6000个5G基站顺利建成，率先实现天津行政区域5G信号全覆盖。在产业层面，天津形成以人工智能为核心、以新一代信息技术为引领、以智能制造为主攻方向、以新型智能基础设施为关键支撑、各领域深度融合发展的产业格局。在应用层面，目前，天津在智能制造、智慧城市、智慧教育、智慧医疗、智慧媒体等垂直行业的应用发展已形成80个5G应用场景（40个实施中、40个待实施）。在智能制造层面，两年来，天津共支持了4批911个智能化改造项目，安排财政资金36.2亿元，打造高质量、多领域的智能工厂、数字化车间，推动产业转型升级。人工智能产业的快速发展，产业技术深度覆盖的同时，不可避免地将技术所带来的安全风险扩散到社会的各个领域。

二、天津人工智能技术发展的潜在风险识别

（一）社会舆情风险

一是虚假新闻问题。通过人工智能技术，能够虚构物体或是人物的运动轨迹，比如非法的视频剪辑制作，可能导致谣言快速地扩散，对天津城市建设产生不良的影响。二是数据的非法使用问题。如当前大数据分析应用的持续拓展，使得获取数据的过程变得更加的轻松和容易，更多的人群可以通过抓取网络数据进行数据分析，有可能因为个人的偏好造成数据偏颇的分析结果，从而对社会形成非常不良的影响。

（二）公众信息风险

一是数据泄漏引发的隐私安全。个人数据的采集与利用过程中，不可避免地造成信息的传播或泄露，由此引发信息泄露、侵犯隐私的风险。如当前我们正进入一个APP大规模应用的时代，各种各样的APP都会根据需要获取个人信息，但每个APP背后的信息保护程度千差万别，个人信息泄露时有发生。二是数据伪造引发的隐私安全。人工智能图像识别、语音合成技术的发展，使人工合成一个人的声音和外貌成为可能，将会产生非常大的影响，比如利用上述技术通过网络进行诈骗活动，将会对天津居民的人身财产产生威胁。三是数据偏好应用诱发社会治理风险。人工智能技术对于个人偏好的数据化处理，在购物网站，通过捕捉消费者浏览网页的习惯来获取消费者购买特定商品的意愿，进而有针对性地进行广告的营销和宣传，非常容易诱发过度消费，而过度消费对于经济条件尚不成熟的人群（如大学生和刚刚就业的人群）容易引发背后的社会犯罪行为，形成社会治理的隐患。

（三）生产安全风险

人工智能在生产安全上的双刃剑效应之一就是技术不合理应用以及新技术发展所诱发的深度网络安全风险。一是政府管理服务方面，据有关数据统计，地方政府网站正成为黑客攻击的“重灾区”，一旦遭受攻击，将造成重大数据的损失，甚至会在政府网站上发布不实消息，引发舆论风险。二是工业生产智能化网络设备被劫持诱发的安全风险。截至2019年底，全市智能工厂和数字车间数量分别达到60家和100家，智能制造类企业占规上企业数量近乎1/5。同时，天津纳入统计的数据中心机架数已达42615个，在建数据中心机架61000个。工厂内部生产管理数据、生产操作数据以及工厂外部数据等各类数据一旦遭网络劫持，将给企业带来严重的安全问题，轻则停产停业，重则会造成安全事故。三是社会民生领域智能化网络失常诱发的风险。如智能网联车正开始进入大规模示范和应用阶段。2020年6月底，上海首批智能网联汽车率先在滴滴APP上开放服务，天津也计划在部分地区开始测试，如果车辆发生网络劫持，或车辆本身计算问题，将产生重大的安全事故。在智慧医疗方面，天津大力发展互联网医院和线上医疗，一旦发生医患纠纷，就会存在责任主体无法明确的问题。

（四）结构性失业风险

在人工智能与实体经济融合步伐逐渐加快的背景下，部分职业将被取代已经成为必然趋势，传统“饭碗”的破碎将伴随新产业革命和经济结构调整，在这种程度上讲，个别可替代性强的产业的失业风险将加剧。如住建部同意深圳市开展建筑工程人工智能审图试点工作，以住宅工程作为试点工作切入点，探索人工智能在审图方面的应用，在节省人力成本的同时，提高相应工作的效率和质量，为行业的改革与发展提供可复制、可推广经验。

（五）招商引资风险

一是部分人工智能技术重复投资过剩的风险。我国人工智能企业发展呈现出不均衡性的特点，重点表现在底层技术领域创新创业企业数量少，应用领域企业数量多，同质化竞争激烈，企业存活率低。过度注重引进处于应用层面的企业很可能因为同质化竞争，造成后期投资的损失。二是人工智能技术知识产权不清晰的风险。一种是项目和团队的人工智能产品和技术的知识产权存在严重的不清晰、不明确现象，给政府投资带来极大的发展隐患。如天津某人工智能芯片企业，因与美国存在技术和知识产权纠纷，导致企业停滞发展的案例。三是伪人工智能企业的风险。项目团队借助人工智能招牌，从事非法的经营活动，比如说在金融领域，利用人工智能和区块链等技术从事非法集资。

三、天津人工智能技术风险防范的思路与对策建议

人工智能产业风险的防范要秉承“技术”+“制度”双向发力的原则，以加快产业的发展来解决当前存在的问题。通过人工智能新技术的开发来解决技术发展的问题；通过人工智能新技术的发展来增加新的社会就业问题；通过制度的约束来解决技术发展过程中参与者的合法合规问题；通过制度的评价和治理来研判和预防技术发展过程中的风险点问题。

（一）加快人工智能技术的前瞻性研究

一是强化科技智库对人工智能技术的支撑。充分发挥天津市智能科技产业专家咨询委员会、天津市信息技术应用创新工作委员会等专家力量，强化对新兴人工智能技术，如区块链技术、数字孪生技术、C-VX2通信技术等的安全性和潜在风险进行安全等级评估，形成技术风险等级与安全防护对应的方案清单，有力保障技术应用过程中的安全性、有序性。

二是探索建设安全前瞻性研究天津实验室。利用“技术制约技术”的理念，以技术发展解决技术问题，通过人工智能先进技术的应用，解决当前人工智能技术存在的问题，发挥天津信息安全产业优势，整合高校、科研院所资源，探索成立具有国家战略高度的人工智能风险防控系统与实体研究机构，组建天津市安全领域的天津实验室，加强人工智能技术安全性研究。

（二）强化人工智能技术的法制化建设

一是加快探索人工智能产业技术法律规章制度建设，充分发挥天津市国家新一代人工智能试验区建设优势，先行先试，聚焦人工智能技术，如云计算、大数据、区块链等，加快开展人工智能社会实验，推动上述技术的立法工作，从约束技术的研发与使用等多个环节的参与者、明确人工智能应用过程中重大责任权属划分（如智能网联车伤人事故责任划分）等多方面入手，构建技术良性发展的法制化环境。

二是探索人工智能产业和技术的“双负面清单”制度，强化底线思维，加大对高度不确定性领域的行政性监管力度，加大对产业、科研闯红区行为的执法力度，立法从严，执法从严，特别是强化对网络入侵、网络窃密、制作和传播网络病毒、高技术污染等技术型犯罪的治理。

（三）强化人工智能技术的全流程与重点领域监管

一是强化人工智能全流程技术管控，加快开发面向人工智能技术全流程监管的体制机制，重点面向人工智能行业数据采集以及人工智能行业重点领域应用两大环节，推进行业安全标准和行业应用安全预案的部署，保障技术安全、产品安全、数据安全和应用安全。

二是高度重视网络安全监控，加快天津360态势感知与安全运营平台建设，打造集网络安全态势感知、风险评估、通报预警、应急处置和联动指挥为一体的新型网络安全运营服务平台。

三是强化工业互联网网络接入安全管理，聚焦天津智能制造重点领域，发挥天津建设信创产业的先发优势，推动信创产业重大创新应用与工业互联网平台建设深度融合，试点推行工业互联网接入产品的安全评测和等级认证制度，打造一批示范性的工程，形成自主可控的工业互联网解决方案，形成“天津样本”。

（四）强化人工智能技术诱发风险的主动疏导

一是建立风险疏导机制。形成重点领域系统的风险解决方案（如研究制定在线教育信息安全整体方案），并建立动态的解决方案更新机制和相应的处置联动机制，确保在突发事件发生时能够第一时间处置。打造多层次、全方位的发声阵地，建立权威信息发布制度，在突发事件发生时，有效引导舆情。

二是建立风险应对机制。一方面，以技术发展解决职业问题，推动天津人力资源有关部门对“互联网营销师”“在线学习服务师”等人工智能新职业开展宣传和技术培训，鼓励符合条件的再就业人员向新职业转型，扩大社会就业机会。另一方面，针对新一代人工智能可能引发的在重点领域和重点人群的结构性失业等风险，形成风险级别目录，根据优先顺序，有计划地推动重点领域和人群的在职培训和再就业培训，打好劳动力转型的主动仗。

（五）强化人工智能产业引育过程中的精准识别

一是强化招商引资工作队伍的人工智能技术知识培训。鼓励天津市各个园区根据发展实际，制定人工智能技术重点培训计划，提升招商人才队伍对人工智能技术发展趋势、动态的了解，提升对人工智能项目的甄别判断能力。

二是强化人工智能企业引育过程中的调研与研判。鼓励引入第三方机制，在重大人工智能项目引进过程中，做好企业的背景调查工作，特别要关注人工智能企业本身的技术场景应用情况、财务状况和知识产权情况。

三是强化对人工智能产业引进过程的决策咨询管理。鼓励天津人工智能产业聚集园区充分发挥人工智能专家的人力资源优势，在项目引进和分析评判过程中，鼓励企业家参与项目引进过程，为项目的引进提供建议。