人工智能赋能公共服务潜在风险及障碍的镜鉴与启示

李舒沁

（中国科协科学技术传播中心，北京 100012）

0 引言

公共服务是指由政府、公共组织或经过公共授权的组织提供的具有共同消费性质的公共物品和服务。在国务院发布的《“十四五”数字经济发展规划》中，提出要持续提升公共服务的数字化水平，促进公共服务更加普惠均等。近年来我国推进的“一码通办”“一网通行”，很大程度上都来自于以人工智能为代表的数字技术的支撑，提升了人民群众幸福感、安全感和获得感[1]。国外研究在分析人工智能在这一领域作用的同时，也高度关注其引发的潜在风险。梳理归纳海外研究中对其风险与发展障碍的分析，也可为我国进一步推进人工智能赋能公共服务提供借鉴与启示。

1 人工智能使用过程中的风险

人工智能赋能公共服务带来的收益已经得到了广泛认可，但也存在一些包括可能侵犯个人权益的潜在风险，已经引起了国外研究者的重视。

1.1 算法的偏见性

训练人工智能算法的基础是对数据进行分类标注，根据用户特征生成用户画像，根据画像进行分类，在此基础上进行分析预测[2]，例如利用算法分析犯罪发生的热点区域并预测某一类风险人群的违法概率等[3]。尽管这种基于特征的识别功能有利于公共服务的精细化，但也可能因在训练过程中，由人设定不同特征的权重而导致算法产生偏见。在西方国家，针对人工智能算法中关于性别、种族、性取向等方面的社会偏见，已经引发了热烈讨论，有学者认为算法已经导致基于偏见而产生的系统性不公正待遇[4]。例如，在评估个人健康风险或招聘时，会根据个体所属社区对其行为进行预测从而调整保费价格或决定是否招聘[5]。这种偏见与公共服务需要在法治规定下公正对待民众的使命直接冲突。解决这些问题需要在改进技术的同时，通过设置不同情景，将算法训练放在社会层面进行系统全面的考虑。

1.2 算法的高复杂性和不透明性

当前对人工智能算法的训练愈发复杂，例如，谷歌的Switch Transformer预训练模型参数达1.6万亿。深度学习解决方案的层次和参数增加，降低了操作人员将输出追溯到特定输入的能力[6]，增加了分析结果的解释难度，在出现意外时又不易找到原因进行纠正，使人工智能被视为“黑箱”。应用在公共服务中，则被认为是创造了一个“黑箱社会”[7]，对数字政府、公共服务等产生深远影响。一方面，政府权威与公民对透明度、“可解释性”的期望是绑定的[8]，如果无法解释结果，则政府的权威性也会受到质疑。另一方面，人工智能系统可以删除一些特定情况下的结果，加剧了民众在面对“计算机说不”的反应时无能为力的现象[9]，也增大从伦理责任和法律责任层面追责的难度。

1.3 更易引发“信息回音室”效应

“信息回音室”效应是指在一个相对封闭的环境中，一些意见相近的声音不断重复、扭曲、放大，令处于其中的大多数人认为这些扭曲的故事就是事实的全部。而人工智能算法已被证明在社交媒体平台等互联网公共空间中促进意见相近群体集中方面非常有效[10]，从而形成“回音室”效应。算法通过过滤与现有用户偏好不符的输入(例如新闻、娱乐、政治话语)来提供个性化内容的能力，随着“回音室”效应的增强，可能会带来社会分裂、两极分化和激进化[11]。如果未能有效应对“回音室”效应，分散性的力量可能影响政府权威，也会因政策无法得到公众舆论共性的支持而影响实施效果。例如，在西方互联网上，由于“回音室”效应的存在，基于科学的公共卫生举措（例如为抗击COVID-19大流行而推出的举措）受到错误信息的削弱，而在这些回音室中，也易加剧对医疗卫生机构的不信任。

2 影响人工智能赋能的不利因素

人工智能对公共服务的赋能并非一帆风顺，除了因潜在风险导致推进存在一定难度外，一些技术及治理层面的因素也影响了人工智能在公共服务领域的应用。

2.1 在治理层面缺乏相应法律法规及民众的信任

人工智能应用治理是一个逐步摸索的过程。一方面是对其自身治理的法律法规仍不完善不健全。由于法律法规顶层设计不足，在应用人工智能赋能公共服务时，常以“打补丁”的方式处理出现的问题，易对人工智能的发展目标带来不确定性乃至障碍。例如，在利用人工智能赋能公共服务时，从私营部门购买服务与委托机构自主开发的情况并存。在使用流程中初始的采购环节都未设置较为统一标准的情况，可能引发对人工智能工具安全风险和偏见性审查的不足[12]。另一方面是民众对人工智能的技术和治理存在信任不足的问题。一是对新技术天然的不信任感。用户了解其部分功能，但不了解其原理。因此，在用户熟悉它之前，他们对其潜在影响的信任水平较低[13]。二是处理敏感信息的程序从人变为机器。这种转变带来的陌生感使用户不安，也让用户对政府管理大量敏感数据并由人工智能程序进行分析感到不安，他们担心敏感信息泄露给程序的开发者或外包的私营公司[14]。

2.2 在组织层面存在知识技能的“硬”缺陷和组织文化的“软”不足

开展公共服务的机构在使用人工智能时，有可能面临知识技能不足和组织文化冲突的“软硬件”缺陷。在专业技能方面，使用人工智能不仅需要有构思、实施和管理的技术技能，还需要有将管理能力与对技术及其潜力的理解结合起来的社会技术技能[15]。机构现有员工往往不具备必要的人工智能和数据管理技能，同时由于薪酬等原因，公共服务又难以再找到和吸引具备所需技能的人才。由于需求超过供应，人工智能专业技术人员在市场上相对稀缺，而私营部门可以提供更高回报，这类专业人士往往更喜欢应聘私营部门[16]。而在组织文化方面，由于人工智能的引入有可能影响机构的运行流程甚至产生颠覆性影响，与机构愿景产生一定冲突，因此现有组织中的一些因素有可能阻挠人工智能的应用，例如缺乏领导支持、机构中各部门抵制知识、资源和数据共享，以及员工抵制组织变革等。

2.3 在实操层面获取数据训练人工智能算法存在困难

人工智能算法训练的基础是获取足够数据，但数据的管理与共享方面的困难也在影响人工智能应用。在数据管理方面，大多数人工智能解决方案依赖于良好的数据输入。而公共服务机构由于人力和财力限制，在数据获取与管理、以及算法持续迭代完善方面存在较大难度[17]。而共享数据更为困难。共享数据不仅是增加增大数据量，更重要的是让不同来源的数据基于关键词关联，从更多维度反映问题，支撑人工智能算法提供更全面的解决方案。例如，公共交通应用程序需要来自交通、警务、气象、城市规划等部门的数据。但数据共享存在较多障碍，客观上看是标准缺失，如缺乏统一的数据存储格式标准，导致难以继承存储[18]；人工智能行业缺乏技术标准，导致缺乏互操作性[19]。主观上是由于“数据即权力”的意识，导致个别机构因害怕在竞争环境中失去宝贵资产而反对共享数据[20]，也导致各机构独立外包建设信息系统，形成“数据孤岛”“系统孤岛”。

3 促进人工智能更好赋能公共服务的启示

为促进公共服务体系更好地发挥人工智能的作用，有必要关注潜在风险，推动解决存在的障碍，向公共服务的智慧化、普惠化目标靠近。

3.1 开展人工智能应用的风险评估与应对预案设计

公共服务涉及民众的个人隐私信息，宜针对潜在风险开展评估。一是编制风险评估项目清单。分析当前应用人工智能的项目，定义公平、无偏见的标准，通过评估，筛选可能存在歧视、偏见的项目，并编制项目的清单或指南。今后使用人工智能时，可根据清单开展评估。二是探索增强算法透明度和可解释性的措施。一方面开展研究，找到理论上可能影响输出的因素，尽可能由输入解释输出；另一方面规定输入数据的范围，保证收集数据的出发点是公平的，收集的渠道是公开的。三是广泛参考借鉴国外经验开展立法探索。欧盟于2021年发布了《人工智能法案》的提案，系统全面地提出了人工智能风险预防的保障机制和实施路径。欧盟试图以此保护欧盟数字主权，并尝试建立全球规则和标准。我国可参考借鉴该《法案》，既明确目标和各主体责任，也设计具体实施路径，使降低人工智能风险有章可循。

3.2 推动相关机构开展适应人工智能应用的变革

公共服务机构需要通过调整和变革，才可能适应人工智能在系统中的使用。在机构内部，需要调整对人工智能的态度和使用的意识。机构内的人员应该对人工智能的原理有一定了解，对人工智能可发挥的作用有合理的期望，从而使机构的人员意识到人工智能系统也有可能存在风险，并提出错误的建议或做出错误的决定，因此仍然需要发挥主观能动性，与人工智能系统共同学习，不断纠正算法。这使机构可以不断思考如何更好地进行人机协同，提高使用效率，而不会因为担心人工智能系统取代自身而消极对待新技术、新系统。从外部来说，也需要人工智能领域的专家协助推进变革。专家可以基于为机构人员培训的情况，为机构摸索出一个在变动最小的情况下，可以合理使用人工智能系统的新流程、新体系，或者可以建议机构的领导者在机构内部通过设立新部门或新职位来协调机构内的人工智能系统的数据输入与输出结果的分析研判，从而为机构做出适应人工智能应用的变革提出专业的、有针对性的建议。

3.3 提升公共服务机构使用人工智能的能力

机构具有良好的使用人工智能的能力是识别、应对风险，调整机构流程、进行组织变革的基础。一方面，机构可以通过建立产学研共享数字生态的方式获得外部支持。学术界可以探索人工智能领域的前沿技术知识，并为机构提供青年人才共同推进人工智能的应用。大型数字公司可以协助机构了解目前实践中服务消费者效果最好的人工智能产品，用于改进公共服务机构的系统，并且可以基于业界通用标准，而非独立设计标准开发系统，从而降低机构的开发成本。另一方面，机构内部人员也需要掌握相关的知识和技能。不仅要掌握现有人工智能系统的使用方法，还有必要了解该系统的算法执行逻辑、数据输入的合理性等改善系统运行公平性的相关因素。在此基础上，培养员工合理提出需求，指导系统开发的能力，从而在发现风险、问题的基础上，可以提出解决问题的思路建议，不断迭代完善系统，提高其对公共服务的赋能水平。