人工智能发展的社会影响与治理能力的现代化

舒艾香，尹 文，王凌峰

（1.中共湖北省委党校，湖北 武汉430022；2.复旦大学，上海200433；3.华为技术有限公司，广东 深圳518129）

人工智能一词，1956 年首次提出，在英文中为Artificial Intelligence，简称AI，又称为机器智能或者智械。它是指由人研制出来的机器所具有的智能。人工智能是专门研究人类智能的客观规律，建构具有一定智能的人工系统，让计算机去完成过往需要凡体肉身的人的聪明才智才能胜任的工作，是研究怎样使用计算机的硬件和软件来模拟和延展人的某些智能如意识、思维和行为等的基本理论和方法技术[1]。

近些年来，人工智能飞速发展，并与大数据、云计算、机器人、互联网特别是物联网、区块链等不断融合，成为二十一世纪三大尖端技术（基因工程、纳米科学、人工智能）之一。目前，人工智能大潮汹涌，推动人类社会进入AI 时代，世界各国加紧了对人工智能的战略布局和大力扶持，全球人工智能的竞争日趋白热化。2017 年7 月国务院出台《新一代人工智能发展规划》，将人工智能上升到国家层面的发展战略，提出举全国之力，到2030 的时候，务必要占据人工智能的全球制高点。

2019 年9 月26 日，华为主创者任正非在与全世界顶级的两位人工智能专家Jerry Kaplan（同时是平板电脑行业先驱、知名未来学家）和Peter Cochrane（英国电信前CTO、大英帝国勋章获得者、英国皇家工程院院士）谈到人工智能时说，5G是小儿科的事情，未来最大的产业是人工智能。人工智能是刚出生的豆芽，大规模新技术将在未来二三十年取得突破；人工智能可能得到规模化使用，在提高效率的同时，创造出更大的社会财富，从而使国家发生翻天覆地的变化[2]。

习近平同志2018 年9 月17 日在致2018 年世界人工智能大会的贺信中指出，新一代人工智能正在全球范围内蓬勃兴起，正在深刻改变人们的生产生活方式[3]。人工智能的加速发展对社会发展产生了广泛的影响，并且对推进治理能力现代化既提供了新机遇，又提出了新挑战。

一、人工智能赋能新时代

人工智能是引领正蓬勃发展的新一轮科技革命和产业变革的战略性技术，是一种能够支撑所有产业变革的通用型技术，具有极强的溢出带动效应，在政治、经济、文化、社会等各个领域都会带来深刻影响。2018年谷歌首席执行官Sundar Pichai说：“人工智能是人类正在研究和发展的最重要的事情之一。它的重要性也许比，我猜可能是电或者火，来得更深刻。”[4]

人工智能在社会诸多领域的深度融合和实际运用，将为各行各业增智赋能。习近平同志2018 年4 月22 日在致首届数字中国建设峰会的贺信中指出：“当今世界，信息技术创新日新月异，数字化、网络化、智能化深入发展，在推动经济社会发展、促进国家治理体系和治理能力现代化、满足人民日益增长的美好生活需要方面发挥着越来越重要的作用。”[5]

1.人工智能赋能疫情防范控制

2020 年年初爆发、半年时间就肆虐全球二百多个国家和地区、导致逾千万人感染、五十万人失去生命的新冠疫情，造成世界性的人与人之间、地与地之间相互隔离，极大地改变了人们原有的交往方式和生活样态。这对人工智能的高速发展和应用场景的广泛落地提出了急切的巨大需求。近半年多来，人工智能异军突起，在新冠疫情防控的信息宣传，可视化的疫情地图展示，广大人群实时的体温检测，感染者和密切接触者的追踪溯源，医学影像的分析诊断，病患的救治护理，病毒的基因测序，药物的研制开发，近十亿人健康码的生成和广泛应用，人群的分类管理，战疫的科技突击战、人力组织战、资源运动战、物资保障战，以及远程医疗，远程办公和协同办公，云视频会议等方面，大放异彩，表现优异。人工智能对于我国用一个多月初步遏制疫情蔓延、花两个月左右把每天新增本土病例控制在个位数、用三个月左右取得武汉和湖北保卫战的决定性成果，保证疫情防控阻击战取得重大战略成果，发挥了无可替代的作用。

2.人工智能赋能经济转型增长

人工智能为经济结构的调整优化和经济高质量发展注入了新动能。麦肯锡的报告显示，人工智能到2030年对全世界GDP 增长的贡献率将达到百分之十六[4]。美国的《2016-2045 年新兴科技趋势报告》预测，2045年将会有一千多亿的设备与互联网相连[6]。人工智能、数据分析和物联网三大技术密切合作，将创造一个全球性的巨大智能机器网络，从而实现经济的转型变革和巨量增长。

首先，人工智能的发展，催生新产业、新工种。智能传感器、神经网络芯片、开源开放平台、智能手机、智能网联汽车、智能服务机器人、智能无人机、智能语音交互系统、智能翻译系统、视频图像身份识别系统、智能家居、智能制造、智能金融、智能医疗、智能农业、智能教育、智能商业、智能建筑等智能产业和智能检测员、语音识别工程师、人工智能产品经理、自然语言处理等新工种将疾速崛起，形成新业态。华为出产的Mate20 智能手机每分钟识别四千五百张影像，能识别名人、花草、汽车、宠物，还能计算餐桌上食物的卡路里，并实时绘制出人体的关节和线条，得到用户好评。优必选公司研制的便携式智能机器人“悟空”会主动搭讪，甚至讲土味情话，能跳舞、打太极、练瑜伽，深受孩童们的青睐。

其次，人工智能的落地，淘汰部分行业、岗位。人工智能是推动产业变革和经济结构调整的强力催化剂。人工智能的推广应用，将替代部分行业和岗位，特别是机械性、简单重复性的行业和岗位。一定数量的流水线工人、秘书、客服、助理、银行柜员、收银员、会计、证券所交易员、信贷员、翻译、律师、教师、医生、记者编辑、安保人员、汽车司机等面临着被取代的风险。当然，人工智能在引发劳动力替代的同时，也会创造出一些维护和服务于人工智能的新岗位。

最后，人工智能助力传统产业提质增效。人工智能与传统产业融合，赋能传统产业，推动传统产业转型升级，将给传统产业带来革命性变化。人工智能通过大数据分析、急性高密度数据计算，既能提升产品质量，推动产业向价值链中高端水平迈进，又能提高生产效率，并实现对部分人力的代替和解放。近几年来，富士康运用大数据、人工智能和智能制造技术，改造升级精密工具智能制造工厂，大量使用机器人，2018 年上半年工业富联人力成本同比下降11.91%[7]。富士康副总裁陈冠棋如是说，通过工业互联网、智能制造的导入，富士康已经有非常多的生产线和工厂实现了完全自动化，不需要人，甚至不需要开灯。2019 年5 月21日，任正非在接受中央广播电视总台央视《面对面》记者董倩采访时说：“可以参观一下我们生产线，基本上没有人的，20 秒钟一部手机，从无到有基本上没有什么人。未来几百条、上千条的生产线完全是自动化的。”[8]

随着人工智能的发展和更多新材料的创造发明，不断更新迭代的3D、4D打印机将能融合N种材料、电子元件、电池以及其他原件，速度更快地打印出可靠性更强的诸多物品，不断创造科技奇迹。

3.人工智赋能社会治理变革升级

人工智能在驱动生产力整体大幅跃升的同时，也对社会治理产生重大影响，推动社会治理开辟新格局、进入新境界。

首先，人工智能推动社会治理理念更新。人工智能正在加速重塑社会的各行各业、方方面面，在此过程中，社会治理理念必然会应势而变，将有关人工智能的思想观念融入新时代社会治理的理念创新之中。

其次，人工智能促进社会治理方式变革。人工智能与社会治理融合，成为社会治理的新手段、新方式，为社会治理现代化和治理能力的提升提供了强大的技术支持。疫情期间，运用人工智能，公众在线申报健康信息，生成绿码、黄码和红码，显示个人的健康、疑似或感染状况，以此为依据对人群进行分类管理，为疫情防控提供了重要手段。钉钉（中国）信息技术有限公司的首席执行官陈航说：“钉钉希望成为数字社会的基础设施，我们不是为游戏而建，而是为社会健康发展而打造的。”[9]

最后，人工智能推动社会治理绩效跃升。人工智能通过适时、精准、全面、动态的信息监测，基于海量数据分析、深度学习、云计算和预测优化，推动社会治理智能化、精细化、高效化、科学化、协同化、生态化、法治化和公平公正化，从而增强社会治理的整体效能。

4.人工智能赋能人民福祉改善增进

一方面，人工智能取代部分体力劳动和脑力劳动，在一定意义上实现了人的解放，造福于人类。人工智能超强的信息储存、超级模仿和深度自我学习、思考、决策和解决问题的能力，将把人类从危险、精密、烦琐、重复的体力劳动和脑力劳动中解放出来。在新冠疫情防控中，智能医疗机器人运用于医院的诊疗和物品传送，既减轻了医护人员的工作负荷，又降低了医患之间交叉感染的风险。

另一方面，人工智能助推科技发展进步，满足人们对产品和服务质量提升、品种与时俱进并日益多样化的需求，改善了人民福祉。突如其来的新冠疫情打乱了人们正常上班、上学和生活的节奏。为满足疫情期间人们在线办公和在线上课的巨大需求和流量高峰，阿里云连续扩容10 万多台云服务器；钉钉作为世界领先的智能移动办公平台，在第一时间推出线上办公指南，免费开放302 人同时在线的视频会议，保证了钉钉平台上1000 万家企业组织、2 亿上班人员的在线沟通协同以及全国一半学生的在线上课。据统计，全国有14 万所学校、290 万个班级、1.2 亿名学生、350 万名教师通过钉钉上课。钉钉因其系统的智能、高效、稳定、安全深受用户的欢迎，目前境外许多学校也开始使用钉钉进行线上教学[9]。此外，人工智能还广泛地服务民生。人工智能的发展和场景拓展，促进了智能城市、智能政务、智能社区、智能服务、智能教育、智能医疗、智能金融、智能商业、智能交通、智能汽车、智能物流、智能旅行、智能家居、智能养老、智能穿戴等的发展，便利了大众生活，提高了民生服务水平。

相对于第一次工业革命的“电力”功能，人工智能被称为驱动新一轮经济社会发展的“新电力”，为经济社会发展和人类文明迈上新台阶创造了新的强大引擎。抓住人工智能发展的重大机遇，大力推进人工智能的发展和对各行各业的赋能提升，势在必行。

二、人工智能对社会治理提出新挑战

人工智能基于大数据、深度学习和算力、算法，能让机器像有血有肉的人一样思考并处理众多复杂问题，从而对人类社会的各个方面产生广泛深刻甚至颠覆性的影响，这其中既有正面的积极效应，也有负面的消极作用。同时，人工智能技术发展还面临着不确定性、不可预测性、知识高门槛性、算法黑箱的不透明性、数据的不安全性等一系列风险以及虚拟与现实、数字和实体之间的界限模糊等诸多突出问题。这些都对人工智能时代的社会治理提出了新挑战。

1.人工智能对治理范围提出新挑战

人工智能的发展应用，拓展了社会治理的广度和深度，对社会治理范围提出了新挑战。

人工智能系统本身及其催生的新产业、新职位、新岗位，尚属现行治理的相对陌生领域甚至空白地带，如何对这一领域进行治理，既有效推动这一核心技术的发展，抓住机遇趁势而上实现跨越式发展，又防止这一技术的发展失控和误用、滥用，做到以人为本，维护人类的尊严、利益和安全，趋利避害，建立健全科学的人工智能治理体系，是人工智能时代社会治理面临的崭新课题。

为了保障人工智能技术系统的安全、可控和符合人类社会的价值观，就要力求人工智能系统的可解释、算法的透明、具备数据共享的标准和规范以及能够检验人工智能系统可靠性和安全性的方法，保证人工智能系统处于人类不间断的监管之中。然而，人工智能由于数据质量和数量的问题而可能内生偏差；人工智能的算法，不仅普通使用者和监管者难以理解，甚至有时开发者也无法确切知晓人工智能系统的自我学习过程和决策结果；个人、少数公司和国家掌握的数据、算法和分析方法，以私人财产、商业机密、国家安全等为由从现行法律中找到依据而拒绝公开，往往使得“透明”的要求难以完全实现[10]。所有这些都对人工智能系统的治理提出了很大的挑战。

人工智能的发展应用，对人类尊严和隐私安全的保护提出新挑战。万物互联，移动设备、可穿戴设备、医疗设备、监控摄像头、家用电器、汽车、工业探测器等我们工作生活中方方面面越来越多地相互联网，人越来越成为“透明人”，保护人的隐私和尊严成为网络安全治理面临的一大新课题[6]。

人工智能的快速发展和广泛普及，大规模失能失业、财富迅速集中加剧两极分化，信息鸿沟等问题如何处理，数据的权属关系和人工智能技术的责任如何界定，算法能否享有言论自由的宪法保护，怎样平衡人工智能的发展与失业问题，如何缓解人工智能所可能加剧的不平等现象，如何重构劳动和福利保障制度等等，诸如此类问题的重要性日益凸显出来，这些也都是人工智能时代社会治理需要解决的新问题。

2.人工智能对治理方式提出新挑战

随着人工智能广泛深入渗透到经济、政治、文化、社会的各个方面，加速重塑整个社会，引发社会的根本性转变，对既有的社会治理方式也提出了重大挑战。

麦肯锡指出：“实现人工智能在改善社会福利方面的潜力，这个过程不会是自发的”，为了取得成功，就需要“政策制定者的结构性干预，以及行业参与者所做出的更大的承诺。”[4]这一要求即属于人工智能对社会治理方式提出的全新挑战。

人工智能发展方兴未艾，各国间的竞争日趋激烈，迫切需要制定既能让人工智能潜力得到最大发挥，又能有效管控其风险的治理机制。建立健全人工智能发展的标准规则和运行机制，是人工智能时代对社会治理提出的新要求。

面对人工智能这一全新事物及其产生的新问题，既有的治理方式方法和治理工具恐怕无济于事。比如，人工智能具有自主学习和决策能力，在程序员设计出学习规则后，基于大数据训练和算法做出的决策，与程序员的意志并无直接因果关系。打败凡体肉胎人类围棋冠军的AlphaGo 的设计者，并非围棋界的顶尖大师。现行的法律规制体系是建立在人类行为因果关系基础上的，恐怕难以适用于人工智能的所有应用场景。如果将人工智能所造成的侵权行为完全归咎于其设计者，无疑难以令人心悦诚服；但如果要归咎于人工智能本身，那么该怎样对一个机器进行问责呢？如何应对以算法、数据为核心的技术主体所带来的公共责任分配问题，是人工智能时代面临的又一大治理挑战[11]。

在人工智能时代，行政命令式、单打独斗式、科层结构式、人治甚至现有的非关联人工智能影响的法治规范等治理方式和工具，都需要与时俱进，与人工智能发展密切结合，才能适应新时代的客观要求。我们需要大力开发并利用新的治理工具，改革完善现行的治理方式，加强技术治理、适应性治理、公众参与式治理、灵活快速治理、协同治理和国际合作治理，推进治理方式的现代化。

三、人工智能对治理能力现代化提出新要求

人工智能是时代强音，在推进社会治理现代化进程中，人工智能参与的深度与广度都在不断拓展，已经成为全面提升治理效能的强大科技支撑。党的十九大提出要提高社会治理的智能化水平，党的十九届四中全会强调要建立健全运用互联网、大数据、人工智能等技术手段进行社会管理的制度规则，完善科技支撑的社会治理体系。既顺应人工智能发展大势，发挥好人工智能的积极作用，又规避人工智能可能导致的负面效应和有害影响，对治理能力现代化提出了很高的全新要求。

1.要学习人工智能时代社会治理新知识

作为新一轮产业变革的重要驱动力，人工智能正在对经济社会发展和人类生活产生深刻影响。与时俱进学习人工智能时代社会治理新知识，做好充分的知识储备，是提升新时代社会治理能力和实现治理现代化的基本前提。

一是要学习人工智能的相关知识。人工智能的应用赋能必然实现AI技术与各行各业的深度融合，在此过程中不仅仅只是把数据及其数据分析等工作交给计算机就万事大吉，而是仍然需要具备相关知识的人进行全面考量来做出正确的选择[12]。这就要求我们学习新知识，把握人工智能的核心内涵、基本特点、重大影响及其发展趋势，以便为人工智能时代制定正确的社会治理战略和方针政策、为抓住新一轮科技革命和产业变革的历史机遇奠定必备的知识基础。

二是要学习人工智能的使用方法。发挥人工智能在推进治理能力提升和社会治理现代化中的作用，除了掌握关于人工智能的基本知识理念外，还需要学会正确使用人工智能的方法。目前，人们在探索使用人工智能的方法方面已积累了一些成功经验，自收集和汇聚数据开始，就从海量数据中对数据进行整理分类，析出可靠有效的信息并对这些信息进行深入分析，用于对事物的正确研判和做出科学的决策，从而提升了治理能力和治理水平。比如上海的政务服务“一网通办”和城市运行“一网统管”在疫情防控期间就全方位展示了“全程网办”的智慧城市治理系统和精细化治理能力[13]。围绕社会治理现代化这一主题，打破传统时空局限，由过去靠经验判断事物、制定政策转向借助人工智能手段更准确地把握世情、国情、党情、民情，感知民心民意，畅通沟通渠道，辅助政策制定，已是新时代提高治理效能和治理水平的客观需要。

2.要树立人工智能时代社会治理新观念

习近平同志指出，要开发适用于公共服务和政府决策的人工智能系统，通过运用人工智能来提高社会治理水平[14]。理念是行动的先导。AI 时代的到来，需要我们转变思想观念，加强人工智能同社会治理的结合，将人工智能作为提升社会治理现代化水平的积极推动力量。

一是要实现由单一治理主体向多元治理主体的观念更新。在人工智能时代，社会治理主体不再仅限于党委和政府，社会组织、经济组织和其他各种社会群体甚至是独立个体，借助人工智能的高效便捷沟通和互动功能，都可以成为社会治理主体，积极主动参与社会治理。人工智能通过大数据分析功能能够有效整合社会治理资源，微信、微博、公众号等社交平台让多元主体都能够参与社会治理并及时发声，从而提升治理主体的主人翁精神和共同体意识，在全社会形成强大的治理凝聚力。

二是要实现由传统管理向智能治理的观念更新。过去由政府包揽管理社会一切事务，如今人工智能参与到社会治理之中并产生重大影响，这就要求我们树立人工智能治理的新理念，将人工智能作为提升社会治理能力的重要支撑，助力社会治理现代化。

三是要实现由独善其身向开放共享的观念更新。人工智能和互联网缩短了时空距离，“孤岛式”的治理将会无路可走。由独占信息资源、自我封闭式的治理，转向对外开放共享又注意自身的安全维护，是AI时代的大势所趋。

3.要探索人工智能时代社会治理新方式

人工智能时代需要我们会用人工智能、敢用人工智能、善用人工智能，探索人工智能同社会治理相结合的新方式，提升治理能力、增强治理水平、推进治理现代化。

一是由大包大揽转向政社合作。企业是人工智能技术创新的主力军，人工智能与社会治理的结合，势必促进企业与政府在社会治理领域的合作。人工智能时代社会治理的政社合作，有助于改变过去党委、政府、社会组织、民众之间的信息不对称，社会治理的多元主体能更及时有效地参与到社会治理之中，有助于构建人人有责、人人尽责、人人享有的社会治理共同体。

二是由各自为政转向信息共享。过去部门之间的信息壁垒形成明显的单位化条块切割。而信息共享、大数据是人工智能发展的基础，也是关键。在人工智能时代，要实现从信息私享向共享转变，同时又要处理好信息共享与隐私保护的关系，保证当事主体的信息安全。

三是由消极应对转向主动迎战。进攻是最好的防守，面对人工智能对社会治理提出的诸多新挑战，我们不应该只是被动消极应对，而应主动迎战。要在社会治理的创新实践中注重开发适用于政府服务和决策的人工智能系统，促进人工智能在公共安全领域的深度应用，运用人工智能提高公共服务和社会治理水平。例如基于社会治理大数据平台整合而成的天眼系统，通过人脸识别技术、车辆识别功能、视频结构分析等，可以使犯罪分子无处循形，能够进一步织密社会治理安全网，建构智能化社会治理新格局，推进社会治理现代化。