人工智能与公共决策融合研究：趋势·风险·实践路径

刘育猛，徐明华

自1956年“人工智能”一词被首次提出，半个多世纪以来，人工智能走过了从爆发到寒冬再到野蛮生长的历程。随着大数据、云计算、深度学习等人工智能技术的提升，加上以PB、甚至ZB为单位的数据的几何级增长，一方面，人工智能在全球范围内掀起了一场深刻的技术与社会革命，且这场革命的意义和价值正以颠覆性的方式显现出来，其巨大的影响力和变革力正裹挟着社会与人向前奔跑；另一方面，人工智能在对社会注入新动能的同时，也给政治、伦理、安全等带来了新的风险与挑战，亟待回应和解决。公共决策作为社会发展的重要环节，面临着人工智能这一新技术带来的新机遇与新挑战，同时，也肩负着在新技术场景驱动下厘清并重构公共决策新秩序、新伦理的历史责任与使命。这为研究人工智能与公共决策融合发展提供了充分而迫切的现实环境和问题语境。笔者秉持问题意识，尝试打破学科壁垒，拟从政治学、社会学、信息学、伦理学、法学等角度切入，探讨人工智能与公共决策融合发展的趋势、风险和实践路径，以期在理论上丰富人工智能介入公共决策研究的内容和方向，在实践中为进一步推动公共决策走向科学与高效、公平与正义提供借鉴与参考。

一、趋势

随着近年来大数据、云计算的飞速发展，人工智能对公共决策领域的介入日益迅速而深入，从而在决策依据方面表现出从小数据走向大数据的趋势，在决策时效方面表现出从静态数据走向动态数据的趋势，在决策方式方面表现出从经验决策走向算法决策的趋势，在决策参与方面表现出从单一管制走向民主科学的趋势。

(一)决策依据：从小数据走向大数据

人工智能与公共决策的融合使公共决策依据逐渐从小数据走向大数据。这里的“小数据”，既指数据数量的有限、范畴的偏狭，更指数据的碎片化、孤立化、无意义化。而人工智能技术突出的关联功能，则使得小数据走向大数据：一是粘连了与既有数据相关的新数据，并且关联+关联，不断进行数据数量的拓展；二是扩大了数据的范畴，拓展了数据的内涵与外延；三是赋予碎片化、孤立化、无意义化的数据以意义关联，从而使其走向整体性、系统性与意义性，即关联使得碎片化的数据被重新组织，从而使其有了价值和力量。詹姆斯·韦伯斯特就认为，数据必须经过分析才能产生意义，数据必须清理、加权、整理[1]。以2017年年底到2018年年初社会爆发的大流感为例，我们可以通过该时间段内“流感”相关关键词搜索量的暴涨和持续时长来确定流感疫情的大小，通过病情特征关键词搜索确认流感疫情的阶段，通过搜索密度确认流感疫情的地域分布[2]。这些数据如果被用作公共决策参考，那么它将为政府分析流感疫情大小，判断是否干预、如何干预以及干预力度等提供重要的决策参考。这便是“大数据正在与决策制定的智能化融为一体”[3]的典型案例。目前，人工智能技术已经建构了“‘数据—信息—知识—智慧—顿悟’的信息处理的智能化晋级管道”[4]，人工智能数据、算法、深度学习等基础技术的提升为其与行业技术融合、更好地介入社会生活开启了更多的可能，我们有理由相信，今后我们会看到人工智能在公共决策过程中发挥更大优势，产生更多的正向影响。

(二)决策时效：从静态数据走向动态数据

就决策时效而言，人工智能使得数据从静态数据走向了动态数据。人工智能突出的对数据的搜集、关联、共享和算法功能，使得数据通过几何级的增长、动态的更新、在不同场景驱动下的算法选择等，从静态变成动态。举例而言，制药公司可以通过搜索引擎上重复出现的“流感”以及“打喷嚏”“流鼻涕”“流泪”“头痛”“炎症”等流感相关症状搜索关键词，了解相关药品的市场投放、价格浮动、销售策略等；而政府则可以通过这些关键词，了解流感的范畴、类型以及频繁搜索下潜藏的社会群体对流感的关注度与焦虑度，做好该地区流感疫情的精准防治、社会安抚。由此可见，在“商业盈利”和“公共安全”两个不同场景驱动下，算法不同则数据结果不同，数据的静态与动态转变由此可见一斑。

(三)决策方式：从经验决策走向算法决策

公共治理中的科层制、信息基础资源有限及分布不平衡、超级数据库待建，数据共享尚未实现、决策主体信息理念不足、互联网技术参差不齐等问题，使得经验决策方式在公共决策中占据了相当长的历史，并且还将在一定时间、一定领域、一定地域内继续发挥作用。这种经验决策“需要决策者拥有决策过程中可靠的组织信息、专业技能和制定决策的权威，但这种模式使决策者容易受到个人主观见解的误导”[5]。而决策者能力有限的原因，则主要源自两个方面，“一是个人能力有限，人脑作为一种信息处理装置，并不具有无限能力。二是计划中心在组织结构上的特征又总是产生这样一种趋势，即迫使计划中心的决策者接受、处理超过个人能力极限的信息，从而使计划中心的能力受到个人能力的限制”[6]。而人工智能可以通过算法决策方式解决这些经验决策的短板。人工智能在收集、储存、处理信息并做出最优决策方面具有明显优势，这使得人工智能技术在社会整体性利与弊、行与止、得与失方面表现出明显的概率判断准确性和决策科学性。

(四)决策参与：从单一管制走向民主科学

人工智能技术与公共决策的融合，有力推动了公共决策走向民主与科学，并主要体现在公共决策参与者范畴、公共决策参与方式、公共决策实施方向等三个方面。一是公共决策参与者范畴扩大。“智能政务、智能城市为公民的意愿积聚和分析提供了可能”[7]，公民参与公共决策的权利意识空前觉醒，参与公共决策的热情空前高涨，参与公共决策的途径空前畅通，而且公共决策的结果空前透明。二是公共决策参与方式灵活便利。公共决策部门在大数据与“政务云”结合方面的努力，智能设备与智能技术在日常生活中的普及，使得公民可以轻松利用电脑、手机，完成很多烦琐的线下政务、事务与商务，当然也包括公共决策。比如贵州提出的政府数据共享增值，力求让老百姓“进一张网办全省事”，“手机一刷，足不出户，事儿就办完”，让老百姓拥有了“数据多跑路、百姓少跑腿的获得感”[8]。三是拓展了公共决策实施方向。在追求效率的自上而下的决策方向基础上，越来越多地补充了追求民主的自下而上的决策方向。如在学生校服款式选择、小区管理方式变更、公交站点设置等方面，公民的意愿通过数据集成发出了声音，形成了价值，具有了力量，并对公共决策产生了影响。

二、风险

人工智能与公共政策的融合不可能一帆风顺，其融合过程中必然会遭遇来自技术、伦理、法律、制度等多方面的风险与挑战，并具体体现于决策依据、决策时效、决策方法、决策参与等相关要素中，有待我们厘清与回应。

(一)决策依据：“先天不足”与智能偏见

人工智能与公共决策融合过程中，大数据的价值与力量不断彰显，但是，我们必须认识到：大数据≠全数据。从这个意义上来讲，大数据本身就带有某种“先天不足”的因子。究其原因，主要来源于以下三点。一是信息资源分布不均导致数据盲区。比如相对于东部发达地区的中西部欠发达地区，再如相对于城市的农村，又如相对于掌握智能技术人群的教育弱势群体等。二是技术贫困导致数据采集困难。部分欠发达地区囿于人工智能技术落后、人工智能人才短缺、人工智能技术受众教育背景与公共政策参与习惯和能力的不足，数据采集工作受到严重掣肘。三是超级数据库的建设与共享尚未完成，导致数据割裂。这种数据割裂了时间——现在看似没有意义的数据，在将来也许是回答某个问题的关键；割裂了层级，比如公共决策顶层设计部门、基层管理部门和受众之间的信息不对称和信息倒流，有学者曾指出，“现在地方政府面临一个很大的挑战就是信息的倒流，中央及各个部委都有大数据分析，都有舆情监测，发生什么事情往往都是第一时间知道，而属地政府越往下，可能知道得越晚”[9]；割裂了行业，比如公共决策部门与占有相关大数据的企业与机构之间的数据因不能合法有效流动、近用，从而导致无法获得新的、惠及更多群体的、更具长远价值意义的数据红利。尤其是涉及公共安全等特殊领域，相关数据的合法流动、近用、共享便显得更为重要，2018年“温州女孩乘滴滴顺风车遇害案”便是此类数据困局的典型案例。

人工智能与公共决策融合过程中的智能偏见主要表现为三类：数据偏见、算法偏见、个性化偏见。第一，数据偏见。数据采集不全、数据采集倾向、既往数据影响是数据偏见的三个重要原因。第二，算法偏见。算法设计人员偏见嵌入、人工智能算法技术自身局限是导致算法偏见的两个主要根源。比如，COMPAS系统因其可预测被告再次犯罪的可能性，被一些法官用来判定犯人是否可被假释，而ProPublica在调查中发现，该模型可能对少数族裔有偏见[10]。即便撇开人工智能在犯罪预测方面的准确率不谈，这里面还涉及“一个核心的伦理问题就是‘我们是否应该为尚未发生的一种可能性付出代价’，至于说算法到底有多精确，那都是其次的问题”[11]。第三，个性化偏见。精准数字人格带来精准推送，而精准推送使得人的视野变窄，偏见增强，并最终导致数据依赖和“人工愚蠢”，形成个性化偏见；另外，同质化的社交网络群体——如微信朋友圈、QQ群等——的便利、频繁交流，“照顾到相关群体兴趣、规范和偏见的媒介”[1]的广泛传播，又固化了这种偏见。一旦这种个性化的偏见被有心人掌握，其将在公共决策领域产生隐蔽而深远的危害。比如剑桥分析公司便“主要采用人工智能技术支撑的广告定向算法、行为分析算法和数据挖掘分析技术支撑的心理分析预测模型”，“深度参与了美国政治竞赛活动”[12]，为2016年美国总统大选参选者做数据分析、形象塑造和战略传播，亦在英国脱欧等政治活动中推波助澜。

(二)决策时效：朝令夕改与不稳定性

人工智能环境下，公共决策所依据的数据因采集技术的提升、数据关联水平的提升、数据整合能效的提高、数据共享通道的完善、算法技术的更新等，逐渐从静态走向动态。而且，问题不同、算法不同，其意义与价值也会产生变动。因此，我们在享受数据红利带来的决策便利、决策效率与决策安全的同时，也要承担因数据波动和数据依赖所导致的决策不稳定性。有学者就认为，“政府在大数据社会治理下可能出现对治理的技术依赖：懒政或‘勤政’(不作为和乱作为)”[13]。所谓“懒政”就是因过分依赖大数据，从而“导致对社会规律的误判产生决策失误”；所谓“勤政”就是“朝令夕改，政策多变”[13]。如何理性享受数字红利而不迷信数字技术，应该是人工智能技术与公共决策融合过程中无法回避的重要课题。

(三)决策方法：权力让渡与数据暴力

人工智能技术对公共政策的介入带来的是数据巨机器的形成。这种数据巨机器以生活的便利、安全、高效为诱饵，引诱社会个体以隐私为通货，自觉或不自觉地让渡“识别性”、让渡隐私、让渡自由、让渡个性，并最终让渡了权力。在这个过程中，我们至少看到了这样三种困境。一是数据的权力在不断膨胀，而人类的隐私边界在不断收缩。罗素曾在《权力论》中说：“那拥有巨大机械指挥权的人，如果得不到控制，也许会觉得自己是神——不是基督徒的爱神，而是异教的雷神和火神。”[14]如何给数据权力套上缰绳以防止其越界，如何划定数据权力与伦理权利的边界，这是人工智能技术深度介入公共决策时必须回应的问题。二是隐私通货的逐步贬值，个体让渡意愿从主动走向被动。比如一些购物软件、支付软件、会员软件，若不添加相应个人信息就会功能受限、优惠降级，甚至是不能使用。有学者犀利地指出，“随着信息化、大数据化的深入，人们其实已经没有选择，如果不选择隐私让渡就意味着生活的不便利或者会带来困难，隐私让渡将从自愿转为无条件服从。因为隐私的终结带来隐私的贬值，隐私作为通货所能交换的价值将降低，为了换取便利性而丧失了个人的自主性，代价更大”[15]。三是数据权力对概率尤其是大概率的暴力推崇，对多元与个性的暴力省略，对数据弱势群体的暴力省略。人工智能擅长基于既有数据对事物发展趋势做大概率的测算，其倚仗的是既有经验，体现的是“平均理性”，至少目前来看，人工智能技术“尚难对于人类的灵光一现、剑走偏锋或情感泛滥的偶然性、个性化、偏离度，给以更加精准的把握，它使得概率论还是大数据与人工智能思维的核心构件，而无法‘真正的思维与理解’”[16]。因此，那些具有“偶然性”“个性化”“偏离度”的非典型、不常见、性质不明确的事物，便极易湮没于大概率的数据洪流中，被暴力省略。

(四)决策参与：数字腐败与权力寻租

人工智能技术强大的算法技术唤醒了数据的力量，但其诱人的价值潜力、尚待规约的算法暗箱，以及其他有待厘清权责边界甚至尚处于监管盲区的人工智能新技术隐患，也极易滋生新的腐败。事实上，已有不少学者[13,17-18]对此表示了忧虑。当几个大企业在数据收集、数据挖掘、数据分析方面占有越来越多优势、甚至趋向垄断时，便容易出现权力寻租甚至是政府俘获。这些大企业有可能也有条件利用数据优势与智能技术优势，收买相关政府工作人员，左右政府法律、政策和规章的制定，使之做出有利于企业的公共决策，使企业获取社会利益。而这与智能决策时代，我们更“强调企业家精神、合作精神和公共精神”，我们的公共政策“将更关注公益性结果而非私人利益”[19]的政策取向是相斥的。从棱镜计划到剑桥分析事件，再到Facebook数据泄露事件，人们看到了隐私让渡后的安全隐患，强烈的“楚门效应”引起人们对隐私安全的焦虑，对个体自主性的担心，以及对构建智慧生活新秩序的强烈呼吁。

三、实践路径

人工智能与公共决策融合发展的实践路径，简要概括就是围绕一个核心关切——公平与正义，朝着两个努力方向——借鉴与贡献，抓好三个关键环节——厘清边界、法律规约、构筑平衡。

(一)一个核心关切：公平与正义

社会公平与正义是人工智能与公共决策融合发展的核心关切。人工智能在公共决策领域做的所有技术介入与努力都是为了实现这一核心关切。就某种意义而言，人工智能与公共决策的结合有利于多元共治，它“以民主决策机制为决策程序内核，以公共利益为主导价值观念，以大数据资源为依托，实现决策参与主体的多元性、决策规则的民主性和科学性，以及决策参与机会和结果的公正性”[17]。著名政治哲学家南希·弗雷泽曾独创性地将正义性划分为三个维度，即“再分配”“承认”“代表权”[20]，与既往公共决策方式相比，人工智能与公共决策的融合可能更易实现上述三个维度的正义性，从而使公共决策更易趋近公平与正义。

(二)两个努力方向：借鉴与贡献

中国目前正处于“现代化进程时空高度压缩和多重问题叠加阶段”[21]，这就意味着我们一方面要承认美国、欧盟等先行者在人工智能与公共决策融合领域所取得的成绩，应当积极主动借鉴之；另一方面，也要注意“区分国家发展阶段的差异，发达国家的经验不能照搬，因为不同的初始条件可以有不同未来场景”[21]，应该积极开掘并培育中国在人工智能社会治理方面的竞争优势，为世界贡献中国智慧。

第一，借鉴。美国、欧盟等在人工智能技术开掘、法律规约以及参与社会治理等方面的成就是有目共睹的。尤其是美国，有学者甚至用“全生态”“全场景”“全社会”[22]来概括其在人工智能技术领域取得的突出成绩。因此，就目前来看，中国至少应向美国、欧盟就以下四个方面的举措进行借鉴。其一，中国可向美国、欧盟等借鉴其在数据库尤其是超级数据库建设领域的前瞻性思维。“真正的战斗在数据，而不是程序。”[23]举例而言，美国斥资20亿美元在犹他州建立超级数据中心[24]。在数据价值和力量日益凸显且具有无限可能的时代，这一布局体现了超强的战略前瞻与战略野心，值得借鉴。其二，中国可借鉴美国、欧盟关于隐私保护与数据监管等的法律举措。比如英国的《数据保护法案》、美国的《消费者隐私法案》，尤其是欧盟从《数据保护指南》到获称“欧盟史上最严用户数据保护法案”——《通用数据保护法案》的制定，以及其对Facebook数据“泄露门”的法律处理案例，都为我们应对人工智能时代数据监控与个人隐私保护之间的问题和冲突提供了借鉴。其三，中国可借鉴美国与欧盟的数据治理合作经验，对相关数据实行共享共治。比如，美国为维护国家安全这一核心关切，在社交媒体监控中的一个重要举措就是 “强化安全部门国际间交流合作”，“建立了五眼国家情报安全机构紧密合作模式，并将这种模式扩展到西方等非英语国家”，相关国家借此平台进行“恐怖主义风险信息的交换和情报共享”[25]，在反恐领域取得积极成效。这种开放、共享、合作、多赢的数据利用形式，应该会对我们有所启示。其四，中国可借鉴美国、欧盟等在人工智能技术开掘与提升方面的成功经验。比如2017年7月7日《科学》杂志刊载了一组文章，介绍具有监管、搜索、推送功能的软件机器人如何参与人类认知的典型案例。又如美国中央情报局(CIA)的风投公司In-Q-Tel，其主要任务就是鉴定和投资有利于维护美国国土安全利益的尖端科技公司，借助其技术使中情局工作更加便利[26]。其成功投资案例包括：利用人工智能和机器学习确定是否安全的Cylance；主要用于执法部门和应急部门人员之间沟通的安全移动协作平台软件GridTeam；可以快速捕获房间、物体、人的详细三维图像，被用于犯罪研究的Fuel3d；等等。显而易见，这是一种富有远见的技术投资和卓有成效的技术加持，极具启发性。借鉴的目的不是照搬，而是为了更好地反思、研判、应对中国本土问题，从而为人工智能与社会治理融合贡献中国智慧。

第二，贡献。要谈中国对人工智能与公共决策融合的贡献，就应该深挖中国在人工智能领域的竞争优势。有学者将这种竞争优势主要概括为以下两点：一是“拥有庞大而活跃的市场以及高水平的科研队伍”，二是“中国传统文化发展出的‘共生论’和人本文化”。尤其是后者，被认为是“中国未来发展人工智能最大的优势”[22]。这种文化有别于以基督教文化为基础的“末世论”超人文化，“共生论”强调人与机器的和谐共生而非彼此征服，“人本文化”强调人工智能技术红利为最广大人民群众分享而非被社会精英垄断，从而使得人们对人工智能介入社会生活报以乐观期待。就某种意义而言，这种中国文化智慧至少回应了人工智能领域的两个重要问题：一是人机伦理如何平衡的问题，二是人工智能发展为了谁的问题。这是中国抢占未来人工智能领域制高点的重要凭仗，也是对世界人工智能发展的重要贡献。

(三)三个关键环节：厘清边界、法律规约、构筑平衡

人工智能与公共决策的融合发展，要注意对三个关键环节的把握：一是厘清边界，二是法律规约，三是构筑平衡。

第一，厘清边界。就笔者看来，这种边界的厘清，一是要跨越，二是要区隔。就边界跨越而言，主要是打破学科边界，破除系统学、计算机学、数学、心理学、社会学、伦理学、政治学、法学等相关领域的学科壁垒，在多学科、多视域、多场景驱动下，探索人工智能与公共决策融合的未来与可能。就边界区隔而言，主要涉及两个方面：一是注意区隔数据主体、数据控制者和使用者、数据监管者三者的责、权、利边界，二是注意区隔数据收集、数据储存、数据处理、数据使用过程中的社会监控与个体隐私边界。

第二，法律规约。如果说边界的跨越是人们在人工智能与公共决策融合趋势下做出的自然选择，那么边界的区隔则离不开法律的有意规约。为保证人工智能在公共决策中发挥正向作用，就应该对数据主体、数据控制者和使用者、数据监管者三者的责、权、利进行法律规约，对数据收集、数据储存、数据处理、数据使用进行法律规约。比如应当保证公民主体拥有获得与自身相关的全部数据、信息的合法权利，从而防止公共决策中可能产生的数据侵权与隐私让渡；应当确保信息收集行为的合法性、收集目的的正当性、收集过程的科学性，从而防止数据滥用；应当确保数据收集的完整性，公民应当有权知晓自身被收集数据的去向并有权修改其中的错误内容，从而保证公共决策所依据数据的完整性和有效性，防止因数据不完整而出现的公共决策偏离甚至是错误；应当确保数据储存安全，防止数据泄露甚至被有不良目的地使用，从而左右个人选择，影响公共决策，重蹈Facebook泄露门、剑桥分析事件覆辙。

第三，构筑平衡。“平衡是社会的常态，而变迁则是暂时的，变迁最终也是为了达到新的平衡。”[27]人工智能在科学技术、社会管理与日常生活中的深度介入与革命性变革，是社会从农业秩序、工业秩序向数字秩序变迁的拐点[28]。按照社会均衡论的观点，变迁是过程，平衡是目的。因此，人工智能与公共决策的融合推进工作至少要注意以下几种平衡：一是人工智能技术与社会伦理的平衡，二是人-机决策系统平衡和权责平衡，三是数据权力、算法权力与多元治理的平衡，四是社会监管与个体隐私的平衡，五是自上而下的监管与自下而上的监督的平衡，六是决策主体的阶层参与平衡和决策红利的阶层分配平衡。随着人工智能技术的提升、公共决策主体参与意识与意愿的提升，还会有更多的边界有待厘清、更多的行为有待规约、更多的秩序有待平衡，中国应该秉持大国思维与担当，对这些问题做出更为主动积极的回应，为世界人工智能技术介入社会治理贡献中国智慧。

四、结语

人工智能与公共决策的研究方兴未艾，不论是人工智能技术在公共决策领域的开发与应用，还是人工智能技术对公共决策内涵的丰富与拓展，又或是人工智能技术下公共决策的秩序重建与伦理重构，都需要我们对这些问题一一做出回应。只是人工智能与公共决策的融合不论是其技术问题，抑或是其伦理困惑，又或是其秩序重建，均具有明显的开放性与未完成性。随着人工智能成为社会发展的新的生长点和人工智能技术所呈现的日趋白热化的国际竞争大趋势，是“向前走”还是“往后退”的发展大方向选择应该已经是没有疑问了，但选哪条路(发展方式)、以哪种步速(发展速度)、用哪类交通工具(发展载体)倒是还需借鉴学习、探索实践、验证反思。人工智能与公共决策融合的过程，是个不断“反思与超越”的过程[29]，为世界贡献中国智慧，为时代承担历史使命，应该是当代中国在推动公共治理方面应有的担当与姿态！