人工智能与公共管理：机遇与挑战

于文轩

(厦门大学 公共政策研究院，福建 厦门 361005)

一、引言

第四次工业革命呼啸而来，其核心就是信息技术和人工智能技术对生产工具、生产方式和生产关系的巨大变革。人工智能及其核心技术组成部分的机器学习技术在公共管理领域已经开始得到了广泛的应用。人工智能和机器学习技术在公共管理领域应用的潜力和对政府决策质量、行政管理效率和治理效能的提升已经成为国内外公共管理学界的热门话题和研究焦点。学者们普遍认为人工智能具有巨大潜力，不仅可以在常规和程序性的政务服务中使用，在其他更加复杂的行政裁量环境和决策环节也大有用武之地。在包括公共安全、交通、医疗、智慧城市、环境治理等领域，人工智能技术已在和将会发生巨大作用[1-4]。此次抗击新型冠状病毒肺炎疫情过程中人工智能技术的应用，受到了普遍关注。后疫情时代人工智能在公共管理各场景里的应用将会更加广泛，对传统政府和社会的关系以及政府治理手段将产生巨大冲击和革命性的变化[5]。

当前，中国国内公共管理学者对人工智能和互联网科技对公共管理的影响从正面及科技赋能角度的关注较多。虽然有少数例外[6-8]，但整体上国内公共管理学界对人工智能技术对公共管理的挑战分析和反思的较少。文章将结合已有文献，探讨人工智能对公共管理的挑战，特别指出，人工智能只是一个 工具，人工智能技术并没有乐观主义者想象的那么完美，人工智能技术也没有悲观主义者想象的那么可怕，公共管理者需要对人工智能技术的本质、发展有充分的了解和认识，在利用人工智能的同时，充分认识公共管理过程是个政治过程，对人工智能技术代表的价值观有充分认识，在公共价值和技术价值之间寻找平衡。

二、人工智能对人文与社会的挑战

尽管人工智能及其应用当前是一个非常热门的话题，然而人工智能并不是什么新奇的新发明。不管是在西方还是东方文明里，人们早就有关于人工智能的传说和想象。例如，在德国西南部的斯泰德地区发现了4万年前的狮人象牙雕塑；中国古代神话传说中的哪吒即是古人人工智能想象的体现。这些虚构之物不是肉身，但是有人的思想、智力和情感。就现在的人工智能技术而言，人工智能也不是最近才发展起来的，现代人工智能技术是随着计算机技术的发展而发展的。1956年，美国计算机科学家提出“人工智能”(Artificial Intelligence，AI)这一概念，开启了人工智能作为一门独立研究领域的大门。20世纪60年代初，人工智能概念提出后，以逻辑学为基础，取得了一定的成果和社会关注度。之后，整个60年代，人工智能在更高的期望下，以逻辑学为基础的研究方法走进了死胡同。20世纪70年代，随着专家系统的引入，人工智能研究掀起了应用的新热度。20世纪80年代，由于人工智能应用范围和规模的扩大，专家系统无法满足人们对人工智能的需求和新要求，整个人工智能研究和应用进入低谷期。20世纪90年代以来，随着互联网时代的到来，巨型计算机和互联网技术的大发展，使得人工智能技术取得了推动力。1997年，IBM公司的深蓝超级计算机战胜了国际象棋世界冠军卡斯帕罗夫，让大众开始关注人工智能技术。2011年开始，以大数据和深度神经网络为代表的人工智能技术取得了突破。人工智能技术在图像分类识别、语音识别、人机对弈、无人驾驶等领域开始取得大发展，并得以广泛应用。

人工智能技术的发展，也开始让人们对人工智能可能给人类带来的威胁产生恐惧和不安。2018年11月，美国新闻媒体报道Facebook的工程师用计算机进行协商和讨价还价的研究，结果发现，计算机之间的交流和对话，工程师已经不能理解了。报道一出，舆论哗然。尽管Facebook后来解释说这是计算机程序出了漏洞、出了乱码，但是，公众对人工智能进一步发展可能出现的状况的恐惧和担心并没有得到消减。随着统计学、数学和计算机科学的发展，图灵奖得主Pearl教授带领他的团队，已经开始可以让计算机进行因果推断[9]。如果计算机能像人一样进行因果推断，那么计算机具有真正的人工智能就为期不远了。尽管有计算机专家称，现在的人工智能还是在有限场景下的弱人工智能。但是，即使是现在的弱人工智能，已经开始给经济、社会发展和公共管理带来很大冲击。人工智能甚至开始进入医疗和法律事务领域，如人工智能在癌症识别和法律案例筛选上的巨大优势，已经开始影响这两个专业领域的人才培养，以及拉动劳动力市场。

互联网、大数据和人工智能加持的在线教育正在变革传统的高等教育。例如，美国Coursera网站上，学生可以学到几乎所有课程，只要交几十美元就可以得到哈佛大学、斯坦福大学的课程结业证书，教学效果非常好。又如，美国一些大型IT企业，已经公开宣布招聘员工不再要求学历和毕业院校的资质。

人工智能技术在给教育和经济带来发展的同时，人文和社会科学学者在思考人工智能技术的发展对人文(人的本质以及人与社会关系)带来的影响。人工智能技术的发展是建立在一整套本体论、认知论和方法论基础之上的，其本体论的基础是逻辑实证主义。逻辑实证主义者认为，万物都是数据。人及其社会关系的总和都可以变成数据及期间的关系。现代西方社会科学的发展也是基于此来进行的，即使用自然科学的技术和方法来测量人类心理和行为、了解人类运行的规律、指导人类实践和改造社会。人文学者对人工智能进行了激烈的批评，包括文学和历史学在内的传统人文学者以及马克思主义者都认为人是人，人不可以被物化，人是社会关系的集合。人是有血有肉的，是社会关系中存在的社会个体。具有人类智慧的机器人对人、对人性、对人文和社会关系都是革命性甚至是颠覆性的变革。

在互联网和大数据加持之下，人工智能对伦理、隐私和社会正义等人文学者非常看重的价值产生了很大的冲击。互联网刚刚兴起之时，人们认为“在互联网上，没人知道你是条狗”， 但是通过大数据和机器学习等人工智能技术，任何传统保护隐私的技术和法律手段都无效了。人工智能技术可以迅速将网上碎片化的信息进行拼图，从而使人们毫无隐私可言。更严重的问题是，传统上并不认为是隐私的信息，正以人们无法觉察的方式，通过人工智能技术的使用，泄漏重要的个人隐私。例如，新加坡南洋理工大学的研究人员通过获取和分析没有任何手机制造厂商会加密的手机陀螺仪信息，成功破解了手机用户的密码。

中国机场的自动售卖机已经开始可以刷脸销售饮料和小吃。这个机器学习的算法，根据一个颜值的赋值模型，通过人脸识别技术给人打分，相应进行折扣。这一应用具有巨大的社会歧视的风险和被滥用的威胁。而美国人工智能技术已经被应用到司法领域，法院和警察局开始使用人工智能技术进行犯罪预测和量刑。这些做法可能在科学上是高效的，但是实际上违反了社会正义的一个最基本准则，即无罪推论。人工智能技术对人文和社会科学学者推崇的社会公平和公众参与也产生了巨大的威胁。在大数据和人工智能时代，数据已经成为新型“原油”。在大数据时代，谁拥有数据，谁就是资本家和事实上的社会统治者。拥有数据的资本家和数据精英，甚至宣称不需要市场“看不见的手”进行资源的分配。以色列著名历史学家尤瓦尔·赫拉利在其著作《人类简史：从动物到上帝》中指出，人类现在就在一个重大的历史转折点[10]。现在人和以后人的差距，将比现在人跟类人猿的差距要大得多。大部分人将来都会是碌碌无为、吃饱等死，只有一小部分人是人和机器的合体，这些人将会统治全人类。在北欧国家已经有一项公共政策叫社会最低工资，这就是未来的经济形态，即将由极少数的精英来创造无比巨大的财富，剩余的人只是为了维持社会存在的需要而存在。从这个角度来看，人工智能给人、人的社会关系和社会参与带来了革命性的影响。亚里士多德说，人之所以是人，是因为人是政治动物；人之所以是人，是因为人在社区、在人群里有自己的社会属性。离开此，人还能成为人吗？人如果不参与社会财富的创造，人活着还有意义吗？

互联网技术和大数据加持下的人工智能技术给资本家剥削工人创造了前所未有的便利和条件。通过大数据和人工智能技术，资本家可以随时雇佣临时工，有效规避劳动保护和福利政策。美国著名的电召车公司优步(Uber)，就是因为通过新经济模式，不用给员工缴纳医疗保险和养老保险，受到巨大社会舆论的谴责。

如前所述,人工智能技术对人的存在、人和社会的关系都产生了深远影响。人工智能技术在公共管理中也开始得到广泛的应用。人工智能由于其优势在辅助公共管理决策和政策执行上发挥了独特的作用，但是也带来了巨大的挑战。

三、人工智能对公共管理的挑战

人工智能技术在公共管理领域应用的重要方面是用于决策。美国著名公共管理大师赫伯特·西蒙指出，管理的本质是决策。早在20世纪40年代，赫伯特·西蒙认为，公共管理学研究要全面转向决策研究。他和公共管理学大师瓦尔多的一系列辩论可以直接用来分析人工智能技术在公共管理领域面临的困境和挑战。事实上，赫伯特·西蒙本人在那场著名大辩论后，转身成为计算机系教授，他对“有限理性人”的研究，使他成为人工智能的先驱之一。他还认为，公共管理学就是要研究决策。但是在不确定性的情况下，人的生理和心理局限，以及外部文化和社会环境都会使人决策产生各种偏差，人不可能是完全理性的，人最多是有限理性，只能做“满意”决策而不是最优决策。因此，赫伯特·西蒙一生致力于使用科学的方法研究人的理性和决策行为，希望使用数学、统计学和信息技术提升人技术理性能力。瓦尔多则认为，赫伯特·西蒙简单化了公共管理决策过程，认为公共管理决策过程是一个政治过程，充满着各种哲学观、价值观和价值取向的考量，因此，片面追求技术效率和理性，在公共管理政策和执行过程中是不合适的，也是不现实的。赫伯特·西蒙和瓦尔多争论背后的这两种价值观和认知论一直到今天，都贯穿公共管理学学术研究和实践的全过程[11]。

人工智能技术的核心机器学习算法基于大数据和高维数据，可以进行变量间复杂非线性关系的测量和模拟，极大地提高了数据分析的精度和效度。这种以大数据和非参数估计为基础的数据分析模型，不需要决策者事先设定任何形式数学模型，允许数据自己决定变量的拟和过程，最大可能地选择数据适合的函数，在很大程度上避免了参数模型的简单化。因此，和传统结构化统计分析相比，机器学习算法的预测准确性有极大优势。因为这个特性，人工智能在公共问题、政策问题的界定和政策方案的选择上都有很大潜力，并开始在诸如公共卫生、城市基础设施建设、经济事务、财政税收、环保甚至司法等领域被广泛应用。但是，也如瓦尔多指出的那样，公共决策过程的技术理性化一直以来都受到公共管理和公共政策学者的批评。公共管理决策过程是一个 政治过程，在这个过程中技术官僚的一厢情愿是不行的。特别是在公共决策过程中，技术理性的实现充满各种不确定性，技术官僚所宣称的技术中性和技术效果能不能实现，能不能为政治过程中各利益相关人士接受和认可，是每一位公共管理者都必须面对的问题，并要作出艰难的政策平衡。正如美国著名公共政策学者Stone指出的那样，公共管理的过程就是个多价值互相竞争、平衡的过程。很多时候技术理性可能根本就不重要，或者不得不让步于其他价值[12]。

人工智能技术在公共管理应用过程中面临的挑战，在2015年美国佛林特市水污染危机中体现得淋漓尽致。美国佛林特市坐落于五大湖区的密歇根州，由于传统汽车行业的没落，佛林特市财政吃紧，2013年决定更换淡水供应商以降低成本。在转换过渡期，佛林特市决定以当地佛林特河的河水作为临时供水水源。但是，稍后市民发现，自来水成为黄褐色，还有异味。市民中开始出现病症，有儿童脸上开始长红疹、发炎。市民开始怀疑自来水遭到污染，开始向市政府和州政府反映问题。但是在一年多的时间里，政府都没有积极回应市民们的投诉，也没有动手进行调查，反而一直声称水是合格的。后来事情闹大，《时代周刊》做了专访之后，美国联邦环保署介入，发现自来水果然被污染了。因为汽车重工业早已污染了佛林特河，河水具有高腐蚀性，流经铅管会产生化学反应，带来严重的水铅污染。危机爆发后，为了应对危机，政府决定启动紧急自来水管道更换计划，检查和更换所有的铅制水管。然而由于当地水管铺设的历史过程非常复杂，且施工记录保管很差，政府没有准确的信息知道哪家的水管是铅管，而直接检查和更换成本又极高，甚至是不现实的，所以，如何在时间和财务都非常紧张的情况下，准确地找出铅管住户并进行更换，成为当局面临的重大挑战。

为解决此问题，2016年密歇根大学的埃里克·施瓦茨教授的团队开发了人工智能机器学习的算法模型，通过使用小样本数据训练计算机数据模型，他们不断比对真实情形和模型预测，测量精度越来越高，最终达到了94%的准确率。然而，2017年底，这个技术上相当优越的人工智能决策系统被当地政府弃用了，主要原因有三：第一，该机器学习算法，不能百分之百准确。由于统计一类错误和二类错误的存在，任何错误产生的政治后果，政府都是没有办法接受的，即使是99%的准确率。第二，人工智能算法最大的问题在于它是个黑箱，其结果是通过数据挖掘得出的。没有办法解释为什么一个家庭是铅管，另外一个不是。在这个案例中，由于之前的错误，居民已经不相信地方政府的说辞了。要解决不信任的问题，必须把所有家庭的水管进行挖掘和更换。第三，人工智能算法发现，由于历史上经济发展和种族隔离等原因，黑人和其他有色人种住房中铅管的数量和概率远远高于白人和高收入人群居住的社区，有色人种是这次水污染事件最大的受害者。人工智能算法将这一丑恶的事实公布于众，引起当地居民的不满，对有色人种家庭带来了二次伤害，这是城市决策者不愿意看到和接受的[13]。

四、结论

尽管人文和伦理学者哀叹人工智能技术对人文和社会产生的重大影响，甚至有人主张停止研发人工智能，美国科创天才马斯克一直警告世人人工智能可能对人类生存和发展产生威胁，但是历史和科技的发展是不以人的意志为转移的，世人没有选择，只能选择和拥抱人工智能技术，扬长避短。欧洲的科学家和政策制定者已经开始行动起来，制定研发和应用人工智能的伦理规范。2018年12月18日，欧盟高级别人工智能专家小组起草了《为值得信任的人工智能制定的伦理准则》(Ethics Guidelines for Trustworthy AI)。该准则认为今后科学家对人工智能的研发和业界对人工智能的应用要遵守七条原则：第一，服从人类准则。人工智能要接受人类的能动性和监管，人工智能不能侵犯人类的自主性。第二，技术安全性准则。人工智能技术的健全性和安全性。第三，隐私性准则。人工智能系统搜集的个人数据应该是安全的、 私有的。第四，透明性准则。人工智能系统的数据和算法所做的决定应该能被人类理解和跟踪。第五，多样性、非歧视和公平性准则。人工智能提供的服务应该面向所有人，不应该基于年龄、性别、种族和其他特征而存在偏见。第六，环境和社会福祉。第七，问责性准则。人工智能系统应该是可审计的，系统可能产生的负面应该事先报告和告知(欧盟)。

人工智能技术已经在中国公共管理的各种场景中开始得到应用，在此次新型冠状病毒肺炎疫情防控中发挥了巨大的作用。科技赋能已经成为中国公共管理改革和能力提升的重要方向。但是在对人工智能技术运用的同时，对人工智能技术可能对人文、社会和公共价值带来的问题和挑战应保持高度的敏感和警惕。人工智能工程师一定要和哲学家、伦理学家、法学家和公共管理学家紧密合作，在充分利用技术的威力的同时，切莫为双刃剑的另一侧所伤。需要特别指出的是，在高度警惕的同时，也不能因噎废食，人工智能技术是后发国家弯道超车的绝好机会，后发国家需要结合自己的国情，大胆创新和突破，寻找适合自己的平衡。