人工智能嵌入政务服务：赋能、风险及治理

纪光欣 王英明

〔摘要〕作为一种新兴技术，人工智能日益广泛地应用于政务服务中，不断驱动政府服务理念革新、促进政府服务方式和服务手段的智能化发展，有效提高了政务服务效能。但同时也要看到，人工智能存在的算法歧視、数据缺陷、技术审查难等问题给政务服务带来了技术至上、数据安全、行政伦理等方面的风险。为此，必须通过强化顶层规制，防范技术风险；完善人才保障，保障数据安全；增强组织韧性，规范行政伦理等途径来规避或克服其风险，更好地发挥人工智能推动政务服务创新的积极作用。

〔关键词〕人工智能；政务服务；技术风险；智能服务

〔中图分类号〕D63〔文献标识码〕A〔文章编号〕2096-8442（2021）01-0072-05

随着智能政府（IntelligentGovernment）、智能服务（IntelligentService）、智能办公（IntelligentOffice）等生涩词汇逐渐进入公众视野，作为引领第四次工业革命的颠覆性技术—人工智能（ArtificialIntelligence）不断嵌入政务服务，为世界各国政务服务创新提供新的技术手段，并且越来越广泛地影响社会发展。然而，人工智能给政务服务带来发展契机的同时，也存在着无法有效规避的技术问题：程序设计失当及带有缺陷的数据训练会形成有害的AI系统，而产生一系列歧视，引发“技术利维坦”①操控行政的现象，从而触发未知风险。鉴于此，需要剖析人工智能赋能政务服务过程中可能会产生的风险，并为人工智能更好地嵌入政务服务提供理论层面的建议。

一、人工智能赋能政务服务

人工智能在政务服务中的应用愈来愈显示出强大动能，政务服务方式、方法已经悄然发生变革，主要在政务服务辅助系统和个性化服务两个领域，以数字化、信息化、智能化的方式建立公民与政府的沟通渠道，为公众提供个性化、定制化服务，带来政务服务质量、效率的双重提升。

（一）人工智能促进政府服务效率提升

效率是政务服务追求的首要目标，随着人工智能的发展，越来越多的政务服务通过人工智能技术来提供服务，不断为政务服务效率提升提供动能。在人工智能赋能政务服务的过程中，人工智能通过自然语言学习、机器学习和数据挖掘等技术，利用各种形式的现有数据，开发公民与政府高效沟通的数字化沟通渠道〔1〕，以达到提升政务服务效率的目的。这样的数字化沟通渠道主要有两种方式：一是人工智能通过深度学习功能，依托语音识别、文字识别、自然语言识别等技术实现政府表单填报、信息搜集、客服受理、线上审批、身份认证等服务性工作，极大地提高了政务服务的效率。二是公民通过网络平台、数据平台、机器人等有人工智能底层算法支撑的技术平台享受业务查询、业务办理、民情上传、监督政府等与政府管理有关的政务服务。这些高效便捷的数字化沟通渠道有效提升了政务服务的效率和质量，增强了公民对政务服务的参与度，实现了政府与公民之间的良性互动。

（二）人工智能驱动政务服务方式变革

人工智能在大幅提高政务服务效率的同时，驱动政务服务的方式方法正在发生变革。一是政务服务主体机器化。治理主体已由传统的“人”转向“机器”〔2〕。智能机器人借助认知自动化技术、认知预测技术、认知参与技术等人工智能技术完成政府公务人员角色的模拟，并通过深度学习模拟公众的逻辑思维以及对话管理实现与公众的正常沟通，从而实现服务社会的功能。二是政府公民互动数字化。政务服务通过数字化操作平台提供政府与公众交互渠道，并由经过大量数据训练的人工智能机器完成。高度的数字化政务服务取代以往通过电话、面对面沟通的互动形式，服务流程与信息由机器特殊处理过的数字呈现，并通过提高透明度以及在政府和公民之间提供无缝隙服务来提高效率和服务质量〔3〕。三是政务服务手段算法化。人工智能的能力根据基础算法、训练程序和训练数据而有所不同〔4〕。人工智能嵌入政务服务的情景中，都是依靠程序设计的底层算法模拟公众思维模式、伦理价值、道德观念来实现的。“智能”服务取代“人工”服务，在某种程度上是依托算法理性代替人类逻辑和思维，进而驱动政府进行新一轮的机构、人事、思维变革。

（三）人工智能增强政务服务韧性

人工智能嵌入政府服务的进程就是技术和组织结合并优化，最终实现跨机构的协作并重构复杂的技术和组织集成平台的过程。在这个过程中，利用现代信息通信技术力量从根本上重新设计政务服务业务流程，以实现其绩效的显著改善〔5〕。一是使传统科层制趋向扁平化。人工智能凭借强大的运行能力、分析能力、整合能力，实现政府部门之间的业务重组、组织优化、服务升级。多部门协同服务摆脱科层制的束缚，实现组织纵向与横向信息交互，从而减少政务服务中出现的重复性、无效性工作。二是打破传统政务服务局限。传统政务服务受限于时间、空间，政务办理程序和政务公开并不同步，使公众精力浪费在“跑腿”上，从而产生不必要的时间成本和劳动成本，无形之中损害了政务服务的绩效。人工智能依靠远程智慧终端实现自主办理，多智能体通过数据交互实现服务过程公开化和透明化，实现政务服务质量和数量的双重提升，从而优化政务服务绩效。三是为公众提供个性化政务服务。服务质量因个人的期望而异，基础设施、社会文化、个人教育、收入状况、位置差异等因素都会影响公民的政务服务体验感，而各地政府由于资源有限，政务服务具有同质化或简单异质化问题，使得部分公众无法获得较好体验感。通过大数据训练的人工智能可以根据用户以往服务反馈进行深度学习，洞悉公众偏好，主动地、精准地和有温度地向公众营销政务服务〔6〕，有针对性地提供定制化、个性化服务，从而提升公众对政务服务的满意度。

二、人工智能嵌入政务服务的风险

人工智能为政务服务创新提供了一套新型的技术框架，但是仍然存在技术悖论与潜在风险所产生的政务服务困境。作为一把嵌入政务服务的“双刃剑”，自身的缺陷和不足，会衍生出技术至上、数据安全、行政伦理等一系列的问题。

（一）技术至上风险

1.强调技术效率而忽视社会公平。首先，人工智能嵌入政务服务仍处于起步阶段，许多政务服务系统设计者并没有掌握完善的公共管理模型来描绘政府治理过程〔7〕，設计出的政务服务系统也会因存在漏洞，而引发未知风险。其次，人工智能算法风险成为一个需要高度重视的问题〔8〕。人工智能依靠底层算法运作，算法和编程都是由人来操作完成的，会受到个人价值理念和思维观念影响，无法完全实现“价值中立”。再次，技术至上损害社会公平正义，蕴含不容忽视的社会道德风险。人工智能在潜移默化之中改变了社会公众的生活方式，使得人们自然地认为人工智能对自身是有益无害的，由此产生对于数据的盲目信任。

2.政务服务中弱势群体边缘化。一方面，人工智能训练所需要的数据是以往从公众中获取的，难免掺杂着社会中虚伪、不公、偏见、歧视等因素，经过带有偏见性数据的训练后，人工智能系统也会出现系统性偏差，如在参与政务服务过程中可能会出现地域歧视、学历歧视、性别歧视等偏见行为，这些偏见行为可能会无形之中损害公民的时间、金钱等成本。另一方面，处于位置偏远、网络信息不畅通的地区，其数据的收集和分析会存在缺失、滞后现象，使人工智能在嵌入政务服务过程中受到地区、环境、经济发展的制约。在考虑政务服务优化的决策中，极有可能会忽略偏远地区的弱势群体，使享受智能政务服务的权利掌握在拥有强大算法的极少数精英手中〔9〕，使得弱势群体不能有效地、平等地、公正地享受应有的政务服务。

3.政务服务中公众需求误判。一方面，人工智能算法存在不可避免的数据分析误差。我国社会公众基数较大，人工智能在分析社会公众对政务服务的需求时，即便是极其微小的误差，也会使得大量公民的需求预测有偏差。即使一小部分人受到不公正的待遇，也会形成技术损害社会公平正义的局面。另一方面，随着人工智能的嵌入，政务服务外延逐步向信息传媒、新闻宣传等方向扩展，人们日常获取的信息服务，越来越受到人工智能的影响。基于人工智能算法的政务服务系统向公众推送大量相似新闻或讯息，会潜移默化地割裂公众认知，使公众关注点和需求点集中在某一领域。

（二）数据安全风险

1.政务服务信息安全存在隐患。政府受到自身技术水平、人才结构的局限，网络信息安全防火墙不能达到专业化的水准，数据面临着被篡改、丢失、泄露等风险，数据真实性、可靠性受到威胁，这将会对以真实数据为基础的人工智能系统带来致命的打击。这种数据安全风险包括两个方面：一是政府利用不安全数据训练的人工智能提供公共服务，使政府自身公共服务建设受到威胁，项目被篡改、信息泄露、审批混乱等风险便接踵而来。二是人工智能很容易就能通过其自主学习和分析获取包含个人隐私的隐秘数据信息〔10〕，公众的隐私和信息充分暴露在人工智能视野中，导致公众身份、财产、个人隐私等信息泄露，造成公民信息和财产的损失，引发政务服务丧失公众信任的危机。

2.人工智能自身安全性有待提升。技术的限制使得人工智能只能在某一方面或者某一领域拥有“超能力”，其所依赖的学习算法同样有“笨拙”的一面，在人为干扰下，程序很容易就出现“失算”的尴尬局面〔11〕。一些黑客极有可能利用程序漏洞绕过内部的防火装置，并通过篡改数据来攻击人工智能，让人工智能失去效用，从而做出完全错误的决策。

（三）行政伦理风险

人工智能技术嵌入到政务服务中，为科层制纵向与横向信息流动带来了短期跃进效应，但同时使原本复杂的科层体系亦产生新的复杂性，甚至引发科层制的长期固化，导致公民对电子政府的使用意愿持续下降，这已成为中国电子政务发展面临的巨大挑战〔12〕。

1.服务主体机器化使行政主体责任模糊。人工智能程序开发者作为人工智能机器的研发者，人工智能机器作为政务服务的工具手段，政府作为人工智能嵌入政务服务的应用者，三者都是人工智能安全责任的主体。一旦出现安全问题，难以明确安全责任的主体，陷入问责难的境地。一方面，人工智能嵌入政务服务，使得政务服务主体机器化，在某些领域人工智能终端、人工智能程序替代政务服务的公务人员及其行政行为，在政务服务过程中必然会体现机器意志。另一方面，人工智能本质上是由人开发的机器，受到程序开发者的主观意志和选择的影响，将主观思维和偏见引入人工智能系统中，在缺乏人类伦理引导的前提下，极易产生行政伦理问题。

2.技术棱镜还原服务情景观测偏差。一方面，在人工智能嵌入政务服务的过程中，严密化的数字技术不断在现实中得以强化，真实服务场景不断抽象化、数字化、结构化。当储备海量信息时，考虑到自身技术和存储量，政府可能会删除或搁置部分数据，保留有利于自身的数据。这样一来，由于支撑人工智能提供政务服务的数据存在偏差，导致技术棱镜难以还原服务场景，表面上通过精简数字提高了效率，实际上造成场景失真。另一方面，在许多决策场景中，民族、性别、贫富等可能会是人工智能嵌入政务服务的影响因素，使人工智能无法达到“无意识公平”，从而导致在相同标准下工作的人工智能产生较大的群体差异。为解决人工智能存在的歧视，只能通过更多的数据训练人工智能，纠正算法歧视。

三、人工智能嵌入政务服务的风险治理

针对人工智能因自身缺陷而带来的嵌入政务服务风险，必须以加强政策、法律的引导和规制为重点，强化风险评估，完善人工智能的监管和人才保障体系，真正发挥人工智能推动政府治理、提升政务服务质量的积极作用。

（一）顶层制度：防范技术风险

国家从顶层设计规范人工智能嵌入政务服务的方式是规制人工智能风险的有效手段，要基于国家人工智能发展战略，更好地明确人工智能嵌入政务服务可能带来的风险与挑战，通过立法、政策、战略等多种手段引导人工智能向良好方向发展。

1.坚持“工具理性”与“价值理性”相结合的原则。一是要坚持引导人工智能的道德和伦理原则，减少因为社会环境、数据训练等带来人工智能的偏见影响，负责任地使人工智能嵌入政务服务。二是要坚持“以人为中心”的伦理规范和社会价值观的发展战略，积极引导人工智能的“工具理性”，使之向正确方向发展，优化人工智能嵌入政务服务的绩效，消解可能带来的技术风险和伦理风险。三是要把价值理性整合进人工智能的基础架构，用对正义、善良、公平的价值追求来控制和教育人工智能〔13〕，使得工具理性与价值理性相结合，让人工智能嵌入政务服务既能体现人的情感、价值和温度，又能摒弃偏见，向着人类所期望的方向发展。

2.坚持以创新引领人工智能嵌入政务服务的原则。人工智能嵌入政务服务时要坚持试点先行、创新驱动策略，采用逐步推进、创新引领的方式，实现人工智能驱动政务服务变革的愿景。2019年8月，科技部为推动人工智能创新与发展，发布了《国家新一代人工智能创新发展试验区建设工作指引》。截至2020年12月，科技部已批复支持建设13个国家新一代人工智能创新发展试验区，有效推动了人工智能在创新发展方面先行先试，抢占了人工智能在应用方面的战略高地，同时也加快了智能化政务服务的进程。

3.坚持保护公民隐私的原则。国家高层机构、智库等机构应开设人工智能时代的个人隐私、个人信息保护专项研究议题。并通过制定国家级AI战略，出台相关法规、政策，加强对人工智能在伦理、法律、文化和制度等方面的政治引导，将保护人工智能时代的公民隐私上升至顶层设计层面，为保护社会公众信息提供法治上的保障。同时，加强国际交流与合作，构建人工智能发展共同体，方能使人工智能嵌入政务服务有序地推进。

（二）人才战略：保障数据安全

要使人工智能嵌入政务服务更好地保护数据安全，不但需要技术的进步，也需要全面提升政府公务人员的素质。这就需要进一步立足人才发展戰略，构建数据安全保护的人才支撑体系，推动政府更好地适应人工智能嵌入政务服务的浪潮。

1.推进人工智能开发队伍专家化。政府公务人员的综合素质决定着未来人工智能嵌入政务服务的安全水平。一方面，要加强政府在人工智能基础设施、技术框架、安全认证、运行机制等方面的专业化教育。同时，招聘算法专家、编程专家参与安全保障系统研发、应用与维护，使之成为人工智能嵌入政务服务的“技术官僚”。另一方面，要从底层技术支撑、智能化应用、安全保障等方面稳定人工智能系统的运行，构建专业化的人才保障体系，辅以理论知识、实践能力、操作能力等不同的上岗培训和职业教育，提升政务服务工作者在人工智能方面的知识、业务素养，为政务服务革新提供人才支撑。

2.完善政府部门用人策略。一是要加强针对人工智能程序开发者的心理测试、行为观察、道德评估、价值评估、人生经历评估、人生背景评估〔14〕，以确保招聘的人工智能程序设计者不会带来人工智能应用风险。二是要针对人工智能终端的维护人员进行专业训练、专业检测、实战操作等测试，选拔具有实践经验的人工智能技术专家，为人工智能终端的安全护航。三是要重视人工智能风险的监管，培养在数据容灾、数据备份、数据安全等方面的监管者，使得人工智能嵌入政务服务更加安全、可靠。

3.提升政务服务工作者适应人工智能的能力。一方面，要对政务服务工作者进行价值引导和思维提升，使政务服务工作者秉承“价值中立”原则，摒弃“技术至上”的观念，使其树立公共精神，能够借助人工智能更好的服务广大群众。另一方面，要加强对政务服务工作者的智能化服务理念培训，着重提升对技术进步的应变能力和适应能力，培养政务服务工作者的智能化服务观念。

（三）组织韧性：规范行政伦理

1.强化科层制组织适应人工智能的韧性。一是要明晰科层制组织内部架构和责任主体，从而适应人工智能嵌入政务服务的潮流。二是政府要运用科学标准、正确方法和规范程序，对人工智能的业务动态、业绩水平进行综合考量和监管，建构人工智能嵌入政务服务的开发、维护、监管等专业化系统，形成专业化的保障预案。三是要强化政府的数据存储、数据转移、数据共享、数据挖掘等系统，实现政府对服务对象和服务终端的智能感知、自动识别和定向追踪，增强科层制组织对人工智能嵌入政务服务适应性、灵活性、专业性。

2.建立严格的数据采集体系。一是要以人工智能嵌入政务服务的风险发生逻辑为核心，对数据采集人员心理、性格、能力、价值观等进行系列测试，通过严格培训使之掌握数据采集流程、数据采集方法、数据保障策略，形成严密的数据筛选流程，以此保障数据真实性和有效性。二是要在严格的数据采集基础上，对人工智能系统进行严格的专家审查，对人工智能做出的举措进行评估和分析，预判可能带来的风险，提出针对性的防范措施。三是要在数据采集、人工智能审查、措施应对方面明确响应责任主体，有效纠正人工智能嵌入政务服务可能带来的偏差，消弭人工智能带来的算法歧视、需求误判。四是要建立基于真实有效数据的综合考量、全面分析伦理问题的智能化政务服务系统，推动大众需求、智能服务、思维理念三者相互统一，从而消解人工智能嵌入政务服务的伦理风险。

〔注释〕

①技术利维坦是指在技术应用过程中形成的资源分配方式超前于现有的政府管制体系所引发的潜在风险，技术表征是沉默和中性的，但是在现实中往往对政治、行政产生难以估量的影响。

〔参考文献〕

〔1〕AndroutsopoulouA，KaracapilidisN，LoukisE，etal. Transforming the Communication Between Citizens and Government Through AI-guided Chatbots〔J〕.Government Information Quarterly，2019（02）：358-367.

〔2〕王小芳，王磊.“技术利维坦”：人工智能嵌入社会治理的潜在风险与政府应对〔J〕.电子政务，2019（05）：86-93.

〔3〕Lindgren I，Madsen CS，Hofmann S，et al.Close Encounters of the Digital Kind：A Research Agenda for the Digitalization of Public Services〔J〕.Government Information Quarterly，2019（03）：427-436.

〔4〕Shank DB，Graves C，Gott A，et al.Feeling Our Way to Machine Minds：People’s Emotions When Perceiving Mind in Artificial Intelligence〔J〕.Computers in Human Behavior，2019（98）：256-266.

〔5〕Elnaghi M，Alshawi SN，Kamal MM，et al.Exploring the Role of a Government Authority in Managing Transformation in Service Re-engineering–Experiences from Dubai Police〔J〕.Government Information Quarterly，2019（02）：196-207.

〔6〕劉晓洋.人工智能重塑政务服务流程的认知逻辑与技术路径〔J〕.电子政务，2019（11）：104-111.

〔7〕Sharma GD，Yadav A，Chopra R.Artificial Intelligence and Effective Governance：A Review，Critique and Research Agenda〔J〕.Sustainable Futures，2020（02）：100004.

〔8〕汝绪华.算法政治：风险、发生逻辑与治理〔J〕.厦门大学学报（哲学社会科学版），2018（06）：27-38.

〔9〕叶娟丽，徐琴.去中心化与集中化：人工智能时代的权力悖论〔J〕.上海大学学报（社会科学版），2019（06）：1-12.

〔10〕祝高峰.论人工智能领域个人信息安全法律保护〔J〕.重庆大学学报（社会科学版），2020（04）：150-160.

〔11〕胡洪彬.人工智能时代政府治理模式的变革与创新〔J〕.学术界，2018（04）：75-87.

〔12〕Yan L，Huping S.Service Quality，Perceived Value，and Citizens’Continuous-use Intention Regarding E-government：EmpiricalEvidencefromChina〔J〕.Information& Management，2017（03）：103197.

〔13〕胡曙光，陈昌凤.观念与规范：人工智能时代媒介伦理困境及其引导〔J〕.中国出版，2019（02）：11-15.

〔14〕张爱军.人工智能：国家治理的契机、挑战与应对〔J〕.哈尔滨工业大学学报（社会科学版），2020（01）：1-7.

责任编辑董军