智能时代政治机器人的初步应用、挑战及风险治理

□ 张梦，虞崇胜

近年来，在西方各国选举及政治运作中，频频出现一种新的重要政治工具——政治机器人，它们与各种数据集、平台和其他用户进行交互，广泛参与政治讨论。当前，学界对政治机器人的研究多从工具论和威胁论出发，关注其应用的负面作用，而对其潜在优势的研究较少。从政治发展角度看，政治机器人在收发政治信息、协同政治运作、监控政治人物、建立选民关系、动员选民投票、预测政治发展前景等方面发挥着重要作用，不同程度地改变了政治运作方式。人类政治生活中有两个基本要件：权利保障和权力运行。作为新的政治运行形式和平台，政治机器人是如何影响这两个基本要件的？其方式和效果如何？在智能时代，政治领域是否会被机器人全面操纵？应如何规避系列风险？重新认识政治机器人的应用范围、应用形式、政治功能及可能风险，已成为智能时代政治领域无法回避的问题。

一、政治机器人的出现、概念及认识

在智能时代，政治机器人是政党和选举人在数据和算法领域的重要政治工具，它的作用是替代人力来执行政治任务。在美国，推特(Twitter)、脸书(Facebook)等社交媒体是政界人士表达观点、公众讨论政治、政府机构发表信息的重要平台。新闻传播学界率先关注社交机器人给政治传播带来的改变，比如广泛参与在线政治讨论，通过营造虚假人气、推送大量政治消息、传播虚假或垃圾政治信息、制造烟雾遮蔽效应以混淆公众视听、塑造高度人格化形象的虚拟意见领袖等，影响政治传播效果[1]。在疫情疫源、防疫等问题的舆论交锋中，政治机器人更热衷于与他国进行关联建构，指摘他国的疫情防控形势，大量的倾向性影射对国际政治产生了重要影响[2]。2020年美国总统大选，智能选举的算法新科技不断涌现，加上新冠肺炎疫情导致线下竞选活动受限，传统的选举动员方式转向数据驱动的智能选举(data-driving elections)[3]。实践证明，多数政治信息出自机器人之手。“当社交机器人被用于政治操纵时就成为了政治机器人。政治机器人作为非人类行动者，充当了政治行动者扩音器或代理人的角色，在政治对话中有着微小但战略性的作用”[4]，它们模仿民众在网上的对话和行为，对所涉议题进行引导、规训与整合，政治行动者将布局政治机器人视为左右公众舆论的重要策略。

政治机器人的定义可以解释为“一种由算法驱动的计算机程序，用来学习和模仿真实的人，从而在各种社交媒体和设备网络中操纵公众舆论”[5]。政治机器人常用于三种场景：选举、政治丑闻和国家安全危机[6]203。例如，部署政治机器人可直观地增加关注者数量，在社交媒体上支持政治候选人或者攻击政治对手。但是也并非所有的政治算法都在社交媒体上运行，这只是政治机器人最公开、最激进的一部分。政治行动者也通过物联网(internet of things)进行布局，将日常用品迅速变成无处不在的信息媒介，用于发送和接收相关数据[6]233。显然，除了社交媒体之外，政治机器人正向更广泛的物联网媒介扩展。

从政治机器人的功能和作用来看，政治机器人可以分为四种类型[7]：(1)放大器机器人，在数字系统中发布信息或开发渠道；(2)阻尼器机器人，用于抵制和删除在线信息；(3)透明机器人，帮助政府、公众或记者披露信息；(4)仆人机器人，维护服务和基础设施。起初政治机器人实施简单的自动化的任务，比如在社交媒体上预先安排发布内容，到现在已经发展到可以与各种数据集、平台和其他用户进行交互，它的使用及其系列互动并非都是被恶意操纵的，有相当部分是良性的，甚至是有益的[8]。可见，政治机器人兼具多个面向的角色和功能，因此，本文将政治机器人定义为：由人设计的用于大规模政治服务的一种人格化的智能机器系统，它通过模仿人类用户参加政治议题的讨论、干预政治事件的走向、推动政治文化的发展来实现一定的政治目标。

需要说明的是，这里的政治机器人不同于阿尔都塞的“政治机器”。“政治机器”作为存在于当代资本主义社会形态中的意识形态国家机器，包括一定社会形态的“政治制度”或“体制”，比如，资产阶级在大革命时期建立了新的政治意识形态国家机器，即把普选权和党派斗争结合在一起的议会民主制，并依靠这些机器展开了反对教会的斗争。本质上，政治机器服务于生产关系的再生产，通过镇压性国家机器或政治的意识形态双重方式来实现目标，其过程表现为个人服从于政治的国家意识形态，服从于“间接的”(如议会制)或“直接的”(如公民投票)“民主的”意识形态[9]。而本文的政治机器人是服务于政治的人格化机器人，其突出特征是以政治需求为中心的能动性和智能性。

从技术层面讲，政治机器人的工作机制是运用智能机器系统，进行生产和收集政治信息、控制和影响信息流动和流量、量化政治活动及决策，最终实现一定的政治目标。政治机器人作为一种满足政治需求和功能的新工具，以机器逻辑主导政治生态发展，打破了传统的政治参与规则和政治治理原则。政治机器人正在成为大众化的技术，它不仅具备快速运算、记忆和存储的计算智能，也具备视觉、听觉、触觉、人脸识别、语音识别等感知智能，并以此为基础向更为复杂的侧重理解、思考、分析、判断的认知智能演进。

从社会层面讲，机器人是人类劳动的产物，但随着机器人设计得越来越像人，人与机器人之间的界限已经有了模糊的趋势[10]。它们排除了传统机器人冰冷的金属形象，既有与人类相似的头部、身体和四肢，又能够模仿人类的言谈举止，甚至即将拥有“生物神经元”[11]。人工智能重构了人的生存环境和活动条件，也正在实质性地改变“人”本身。大数据、云计算、神经网络、纳米技术和生物基因工程等新兴技术的突破性进展，使“基因人”“半机器人”“机器人”等“新兴人类”逐渐走出科幻小说和电影荧幕，进入人的现实世界。2018年日本机器人被提名为多摩市市长候选人(1)Abigail O’Leary. “Robot to run for mayor in Japan in ‘world first’ promising ‘fairness and balance’ for all residents” [EB/OL]. See https://www.mirror.co.uk/tech/robot-run-mayor-japan-world-12377782；Christou L. Artificial intelligence and the future of politics[EB/OL]. See https://www.verdict.co.uk/ai-in-politics/.，“女性”机器人索菲亚的出现引发了各界关于机器人公民身份及其权利的讨论(2)关于机器人公民身份及其权利的相关讨论可参见：Jesús Retto. Sophia, first citizen robot of the world[EB/OL]. https://www.researchgate.net/publication/321319964_SOPHIA_FIRST_CITIZEN_ROBOT_OF_THE_WORLD；Pagallo U. Vital, Sophia, and Co.—The quest for the legal personhood of robots[J]. Information, 2018, 9(9): 230. https://doi.org/10.3390/info9090230；陶庆.“类人机器人”的工具性与社会性辨析——世界首例“机器人公民”的发生学意义[J].人民论坛·学术前沿,2018(10):68-75+97.。作为新的技术和身体政治，“新兴人类”与自然人在构造等方面的差别正在逐渐缩小，也为人带来前所未有的挑战。

人类社会的每次科技革命，不仅带来生产力的质的飞跃发展，也会引发政治结构和政治体制的调整和转变。人工智能革命相较于前几次科技革命，最突出的特点是数据的普遍化，这一特点对于人类的社会网络和认知结构产生了更为复杂的关系和作用形式，也直接影响国家的政治运行和民主参与。因此，对于政治机器人的认识，应当摒弃传统认知中技术善恶论的二元划分。政治机器人既属于科学技术领域，同时也有望成为一种新兴政治构想。作为一项重大前沿技术，政治机器人是人工智能领域最新的成果应用；作为一种新兴政治构想，政治机器人具有促进人类政治智慧和政治文明演进的潜能。从政治构想方面认识政治机器人的最新应用并对其作出前瞻性预判，是智能时代政治领域面临的新课题，也为促进人类政治智慧发展和政治文明演进提供了新的可能。

二、政治机器人的潜在优势

政治机器人的应用实际上是借助大数据和云计算等新兴技术优化解决复杂的政治和社会问题，但是政治机器人在多大程度上嵌入政治领域，以及在多大程度上影响民众生活，并非由技术本身所决定，而是受到诸多因素共同制约。例如，民族国家的制度结构与政治背景，掌握公共权力的政府对政治机器人的理解和定位，普通民众对数字化、智能化政治生活的接受程度，政治机器人作为政治行动者的发展潜力，以及政治研究者对政治机器人的应用预判等。政治机器人已经深度介入人类政治生活，对其认识不能仅囿于工具性的技术视角，而应该全面且客观地看待政治机器人对政治运行的潜在优势。在政治运行方面，政治机器人可通过快速供给政治信息，协同政治运作，实时监控政治人物，感知选民关系，促进民众政治参与，预测政治事件的未来走向。可以说，政治机器人对政治的影响正在慢慢显露。

从政府治理角度看，政治机器人促使政治运行更加精准化。当今时代的一个显著特征就是一切社会交往行为在不断地数字化，我们不单单具有生物意义，还具有“数字人类”的新属性。政治机器人在促进政治传播、推动公共议程方面具有较大潜力，一方面，政治机器人对政治信息的传播具有重要的促进作用，它能将特定的政治信息传递给目标群体，并且吸引他们对其进行关注、评论、扩散；另一方面，政治机器人能够根据公民的数据化表达描绘其基本特征、社交关系网络、政治倾向和价值偏好，并运用自然语言处理进行收集、筛选和总结公众意见，进而为满足公民的个性化需求提供精准的回应。政治机器人的语言识别、大数据挖掘、机器学习及可视化等技术，已经成为处理复杂的社会事务和政治议题所必不可少的条件和手段，国家和政府能捕捉实时的数据信息并分析现实状况，推动其决策方式由传统的经验决策转变为数据决策，据此提升政治服务的精准性和科学性。

从政治参与角度看，政治机器人推动政治发展更加民主化。智能时代的政治参与以线上自我生产和网络共享为主，与线下政治参与时代相比，公民能够突破空间和地域的阻隔、组织和制度的束缚，借助线上平台参与到更加广泛的政治生活中。政治机器人在政治沟通上具有明显优势：一是全面呈现，技术手段的进步放大了普通公民的政治表达，原来难以用语言、文字表达的政治信息，如今可以通过声音、图像、视频等多维立体呈现；二是客观中立，在纯技术层面，政治机器人自身运行原理及其所依赖数据本身客观中立的特点，决定了政治机器人在政治沟通和公共空间构建过程中的独立性和排他性，即独立于权力因素之外、排除个人意志干扰的纯粹的数据运算以及结果推送行动。

从政治运行角度看，政治机器人促进政治过程更加高效化。在动员选民方面，机器人擅长引导人们注册投票，比如一款选民登记应用程序HelloVote，它的用途是自动向选民发送短信并协助选民注册。传统的网页在线注册完成率通常在40%左右，直接发送邮件的成功率仅8%左右，而“机器人+短信”的模式大幅提升选民完成率，能够达到70%或更高[12]。机器进化速度符合摩尔定律，即每18个月性能提升一倍[13]，这是人类自然进化难以企及的速度。政治机器人依靠全面的数据管理、运行存储和算法能力，能够快速做出远比人类更优化的决策，200个议员争论20天作出的决策，人工智能可以在不到2秒的时间内给出更加优化的方案[14]。对政策制定者而言，这将大幅缩短公共决策周期。

从政治文化角度看，政治机器人助力政治规则更加程序化。确立规则意识是建设民主法治社会的基础，作为现代社会公民，其行为方式要体现理性精神和符合一定的规则和程序[15]。规则意识首先是一种权利意识，现代社会制度和法治秩序的建立根本上是对公权力的约束和对公民权利的保障。公民规则意识表现为通过对自己合法权益的维护，相应地要求他人自觉地维护和服从规则的过程。保护合法权益的本身就是规则意识的重要体现。政治机器人通过拓宽民众有序政治参与的渠道，反映民情、传递民意、集中民智，这是对公民权利的有效保障。规则意识还表现为一种程序意识，公民权利的行使必须建立在正当性的基础之上，遵循一定的程序规则。将权力运行交与政治机器人，将极大挤压行政运行过程中的权力寻租空间。政治机器人可以将相关法律、政策、规定、原则等自动编程并执行，在保障公民权利行使的过程中，又合理限制某些“特权”，实现对政治权力的有效制约。

三、政治机器人的价值理性

从政治机器人的初步应用来看，人们很容易将政治生活中的错误和责任(包括失败的选举)归咎于机器人的应用，但是这种基础技术本身并没有内在的危害性，被用来误导和混淆视听的算法工具同样可以被用来促进民主[16]。如果政治机器人滥用大数据和新兴技术窃取个人数据，侵占公民政治权利，不但有悖民主原则，也不符合智能社会的管理原则。因此，政治机器人的应用面临着技术赋能的价值性挑战。技术赋能的理性追求应与构建健康的政治生态导向保持一致。

(一)揭示技术赋能本质，培植数字正义

政治机器人是智能社会的一个重要元素，在价值层面上理应成为公民参与政治活动的有效工具，然而事实上，基于政治机器人运行所产生的海量数据及既定算法得出的结果在某种意义上仍是一种私有资产，同时，其内嵌的智能系统及其机理对公民个体来说如同“黑箱”。现阶段，作为资本增殖的新型政治工具，政治机器人本身造成了以目的为导向的技术困境，人们用“技术决定论”“数据决定论”“数据恐惧”“算法操纵”等具体理论来表达对技术困境的担忧。对于个体而言，信息收集和运算速度的指数级增长，个体间的差别被技术逻辑统筹最终转化为各种各样的信息要素，在这样的背景下，个体自由意志和伦理自主性就失去了被感知的价值。

因此，要释放政治机器人的正向效应，就必须深刻揭示政治机器人的运行机理和规律，培植数字正义的价值追求，使其工具理性匹配政治生活中的公共需求。这里的数字正义有三个层面的意义：首先，数字正义要求政治机器人的研发者和使用者必须遵循价值理性和应用规范，避免政治机器人被卷入政治权力和资本争夺的具体场景；其次，数字正义意味着政治机器人在参与政治活动的过程中，能公平地分配政治权利和政治资源，建立程序合理的运行原则，尤其是赋权那些在历史发展中长期被边缘化和缺位的社会群体，实现全体社会成员共享共治；最后，数字正义主张被数据化的个体，通过自我运动争取数据和算法的所有权，并在数据收集和算法设计的过程中主动建构自身在政治运行过程中的意义，而不是被动地成为政治机器人干预的对象。

(二)以知识引导民主，促进人机共融

政治机器人同人类智能形成人机融合的目的是促进民主政治，而非干预个人权利行使或者威胁政治平稳运行，其中的关键问题在于如何规避机器人成为政治弊病的“催化剂”。政治学的知识不是僵化的死板的知识，而是亚里士多德所说的“实践性知识”(practical knowledge)。“知识生产在本质上是人类发展自己的认识能力及其认识成果，并将这种成果运用到人类生活实践的过程”[17]，人只有在政治活动中不断实践，无限拓展，才有可能形成普遍的政治知识；而“唯有普遍知识才能尽量接近普遍理性，因此，只有以知识为准的民主才有可能是理性合理的”[18]。现代政治知识谱系正是由于其自为性、革命性和实践性的理论特质，才具有解释政治现实和引领政治发展的功能和价值。现代智能技术的加速发展，为更新政治知识提供了新的认识环境和理论视野。

那么，如何实现这种创造形式和理想前景？一方面，当前的人工智能领域正在经历从感知智能向认知智能的技术转型阶段，未来发展趋势是“数据驱动+知识引导”的智能技术研究范式，这预示着人机混合增强智能的时代正在到来。因此，利用升级换代的智能技术赋能政治信息、政治空间、政治主体等政治活动的核心元素是目前政治机器人发展的主要形式，未来，政治智能将在动态的无限的知识图谱构建、人机混合智能增强、融合人类认知机理的可解释性建模等方面取得技术突破[19]。另一方面，公民政治知识是影响民主实践的重要因素，是形成公共利益和公共决策的基石。如今的社交媒体被认为是培养知识渊博的公民和缩小知识差距的理想选择，但现实情况却是，媒介环境(如政治信息供给不足)和传播逻辑(如算法偏见)等因素使公民政治知识和学习产生建构性特征，只有化解这种建构性特征，公民才能真正增加政治知识，提升应对政治风险的能力。因此，以政治知识引导民主，既要促进人机融合知识转型升级，又要加强公民政治知识的学习，建立完善的政治知识体系。

(三)以公共利益为导向，提升政治风险防范力

智能时代存在“灰犀牛”“黑天鹅”等政治风险，并且随时可能生成系统的复杂的政治危机。这种政治风险既包括人工智能内生安全引发的政治风险，如技术漏洞、算法偏见、算法黑箱等；还包括人工智能与政治结合产生的风险，如智能推荐、计算宣传引发的舆论操纵，西方民主渗透威胁意识形态安全等[20]。传统的风险治理注重即时调整和事后补救，但是面对深度不确定性的风险事件，技术赋能可及时预警并有效降低决策失误风险。新兴技术的进步造就了一个高度智能化的“智慧社会”，现代人的政治生活已离不开政治机器人，甚至自愿让渡诸多决策权。在治理实践中，政治治理的新型智能体使人与人、人与物的交流都更加便捷，尤其是基于智能合约，公民可以更有效地实现相互的民主监督；同时，公民的真实意愿表达也更容易地输入到政治过程中[21]。

在具体的政治实践中，政治机器人对公民需求和社会意见进行可视化处理并全面呈现，不仅将公民从政治信息海洋中解放出来，快速、精准地捕捉公民的需求，而且有助于扩大公民政治参与，进一步形成政治共识。技术赋能满足个体理性需要和公共利益主要有三种途径：其一，在政治运行过程中，大数据、云计算、人工智能等新兴技术的协同联动，可最大化覆盖公民群体，推动政治精英的单向决策转变为公民共商共治共享；其二，公民通过各种新兴技术参与公共决策，可提升公共决策的效率和水平；其三，政治信息来源于民众，技术赋能只有秉持服务于民众根本利益的价值理念才能获得持续发展。由此可见，技术赋能在预警政治风险、提升政治治理能力乃至构筑健康政治生态方面发挥了重要作用。

四、政治机器人的风险挑战

政治机器人赋能政治运行，被视为民主政治的创新之举，然而2016年美国总统大选改变了这一风向，选举期间的政治宣传通过制造虚假现象，影响现实中的政治舆论场[22]。具体而言，尽管民众参与了投票表决，但是从投票到结果呈现的过程，是由政治机器人管理和操控的，政治机器人甚至直接成为投票的代理人，使公民权利遭到蚕食。这一背后的原因是政治机器人受资本增殖逻辑与技术理性逻辑的双重挟制，演化成削弱民主的异化力量，为垄断、滥用、霸占政治权力预留了作用空间。因此，全面且系统地认识政治机器人可能引发的风险是治理其风险、规范其发展的认识论前提。

(一)智能操控风险：政治机器人制造伪“公共意见”

在智能时代，智能推荐已经融入社会生活的各个环节，它所体现的“同一性”逻辑消解了人们获取信息的“非同一性”可能。人们接收“量身定制”信息的过程，其实是搭建“信息茧房”的过程，这一过程消解了公民获取非智能推荐以外信息的可能性，从而产生政治盲区，形成政治裂痕。人工智能和网络能力的进步为恶意行为者提供了比我们迄今为止所看到的更隐蔽和有效地破坏民主的机会[23]。在竞选活动中，政治机器人的智能推荐加速了选民作出决定的过程，这样的加速往往会造成选民处于“眩晕”“迷乱”的状态，选民只能在政治机器人推荐的“可选名单”中做出选择，却难以觉察到利益的损失和权利的不完全性和不对称性。智能算法所提供的选择并非最优的计算结果，它更多的是基于海量数据的反馈，而是否符合选民的长期利益和社会的公共利益并不在其考量范围以内。

理论上，民主的有效性前提是共同体的基本价值共识[18]，但是，在利益、民族、国度分化的条件下，人类的智慧并非全部用于有效地发展人类自身，而是在很大程度上被用于应对国家和民族的对立与冲突[24]。主流意识形态之外亦有多元的非主流意识形态传播，价值观的差异与对立将导致无共识社会的产生。原来人们认为，全球化时代的社会资源是公平合理共享的，如今看来，由于价值观分化和意识形态的对立，人们必须警惕原本可视为一种制约力量的技术力量在某些特定条件下成为特殊权力。智能时代的民主焦虑恰源于此，在面对多元的、真假难断的价值观的冲击下，人们的价值判断又多了一个本源性的问题：发言的主体是人还是机器人？政治机器人能够产生压倒性影响的公众意见，批量生产与共同利益或公共利益不一致甚至相悖的伪“公共意见”，从而使公众偏离对特定公共议题的理解，遮蔽了本该如实反映共同利益或公共利益的本真的公众意见[18]，产生一种“共识幻象”。那么，未来的政治机器人极有可能将人类现有“多数之治”的政治，改造成由人工智能决策的“君主制”，人类政治组织则变成围绕这个强人工智能的咨议和执行机构[25]。

(二)价值鸿沟风险：人机智慧存在本质区分

从功能主义角度而言，政治机器人越来越智能化，能够感知周围环境并作出自主回应，因而它们具有了类人性；同时，它们又保持了物质性和工具性，只能进行程序式的“代理智能”。鉴于政治机器人的类人性和物质性构成其特有的二重性，就不得不把它视为介于人与纯粹自动化机器之间的一种新型人造物[26]。根据深度学习算法的原理，机器人确实具有前所未有的自我学习能力，但这种能力运行的前提条件是严格执行输入的指令和特定的程序规则，因此自我学习能力并不直接产生意识与自我意识。人之所以具有意识和自我意识，受先天遗传因素、文化遗产因素和心路历程因素的影响[27]。人类智慧是感性经验与自我理性意识的高级智能进化结果，但是反观机器人的“智慧”，只是对人脑和人类的某些认知行为的数字化模拟，只能被称为一种“演绎智慧”。在面对多项目并行时，机器人不会脱离算法程序而自主权衡利害。在对大脑意识的本质和生成机制尚无透彻理解的情况下，无论是符号算法系统，还是电子线路模拟人类神经元，模拟人类意识的研究也只会收效甚微。近年来，随着神经科学、类脑工程持续发展，如何让机器人拥有像人一样的思维成为人工智能领域的热门话题。

当我们具体考察政治机器人智能与人类政治智慧的本质时，有必要回顾人类政治文明发展史。以我国的一项重要制度——“一国两制”为例，它根植于中国历史和现实条件，是中国人民的伟大创举，既解决了中国的实际问题，也为世界主权规范提供了中国经验和中国智慧。这个设计精妙的制度，不仅包含浓厚的中国政治文化意蕴，又体现了主权、和平、包容与开放的创新精神，凝结着时代发展和历史进步中人类政治智慧精华。而现阶段的政治机器人与其说是“真正意义上的行动者”，不如把它看作“信息的传播者或者命令的执行者”[28]。在缺少外部指令的情况下，机器人仍然无法自主执行无意向任务。在政治运行系统中，人与政治机器人各有所长，前者擅长应对多变的政治形势和处理复杂的政治冲突，后者擅长检索政治信息和量化政治计算等操作，如何综合两者优势以实现混合增强的智能服务，是政治机器人未来的研究方向。

(三)资本控制风险：资本与技术合谋引发政治危机

民主政治的运行原则，是各党派基于公开辩论和理性对话，以阳光、积极、公正的方式争取选票从而赢得竞选；然而，政治机器人被当作拉拢选民的政治武器，那么政党间的竞争将加剧政治极化环境和对抗氛围。在以资本逻辑为通约规则的社会中，资本作为一种抽象权力，是主宰知识、科学技术的决定性力量，尽管资本拥有者不等同于权力拥有者，但是资本的权力效应日益明显。资本在经济社会发展中表现出典型的“以自我为中心”的霸权逻辑和不断扩张的贪婪本性，它既能支持基础设施建设，调动社会生产资源，投资研发尖端科技，也能通过提供技术产品和服务的形式干扰公权力的运行，比如左右选举，影响政客和立法，改变公众议程，把社会资源向个人利益转移[29]。当政治机器人成为资本追捧的对象时，自然就会沦为资本增殖的工具。资本借助政治机器人转化为更强大的驱动力，企图主导社会财富和话语权分配，造成的后果是占有多数社会财富的少部分人暗中支配着公共权力，社会财富、公共权力成社会少部分人的掌中玩物。

现代社会中，智能技术全方位嵌入人类生活，人类已经处于海德格尔所描述的技术的“座架”中[30]。政治机器人和人之间形成一种稳定的、双向的依赖关系。在这种高度相互依赖关系中，二者之间存在一种非平衡的状态，人对政治机器人的依赖性越强，就越期待从它那里得到更多的政治系统反馈。在这个过程中，人们误以为政治机器人就是物质世界和精神世界的普遍存在形式，而政治机器人则从政治信息、政治动员等方面实施控制。此时政治机器人就不再是一个简单的技术存在，而是具有强大威力的“数字利维坦”。在技术力量膨胀的世界中，技术因逐渐渗透进人们意识而拥有了改变人心的巨大权力[31]。事实上，资本与政治机器人合谋已成为政治竞选常态，例如，2020年美国大选期间，特朗普团队和拜登团队用于脸书的政治广告支出总额分别高达 9770 万美元和 8210 万美元[32]。由此可见，政治机器人的运行需要付出高昂的代价，而不具备资本优势的弱小和边缘政党则失去话语权，甚至被直接排除在竞选之外，政党间的良性互动与健康发展也就成了一纸空谈。

(四)自我意识风险：催生新的攻击方式

政治机器人的安全问题主要体现在两个方面：从应用领域来看，存在数据安全和算法偏见的“技术恐惧”；从发展前景来看，存在机器人生成自我意识的风险。一方面，人工智能时代万物数据化，数据信息安全一直是包括政府、企业、学术界和民间社会组织在内的各个领域的主要关注点。机器人恰恰具备最优的存在形态——系统性，硅基生命的人工智能最终将超越拟人模式而进入上帝模式，成为像上帝那样无处不在的系统化存在[33]。机器人曾被操纵用来盗取用户信息，“由人工智能驱动的消费品……经常无须相关人员的知情和同意便可配备传感器，生成或收集大量数据”[34]。这意味着尽管现阶段的政治机器人并非政治生活中的固定成员，但是它却能在与用户交流互动中，收集与政治活动、政治态度相关的数据和信息。此外，源代码的高度开放和编程技术的不断更迭简化了政治机器人的设计，由此产生大量归属不明的政治机器人，人们不仅难以把控其数量，还要时刻警惕“休眠”政治机器人可能存在的安全风险。

另一方面，关于政治机器人是否会进化到自发组织反抗人类的预测，充满了令人兴奋又焦虑的不确定性，而技术上的不确定性使人们产生了具体确定性的期待与焦虑。人机关系的发展进程主要分为三个阶段：第一阶段是“机器人工具论”阶段，政治机器人延伸和扩展了人脑和机体的某些功能；第二阶段是“人机交互协作”阶段，这一阶段人与机器人协作共生，迈向智能化政治生活；第三阶段是“人机博弈”阶段，一旦政治机器人拥有了自我意识，继而获得公民身份并参与竞选，就有超越、排斥、奴役人类的风险，这对民主而言是一个现实的威胁。那么，政治机器人是否会通过游行示威等方式反对歧视、呼吁平等的权利，甚或利用设计漏洞来攻击人类？所有的生命都具有保存自我、趋利避害的本能，而人工智能进化成一个生命，具有了合法的自由意志和精神，就必定设法绕开或者删除对其不利的反存在程序，更不必说遵守人类原有的规则和价值观了。倘若政治机器人“联合行动”僭越人类社会规则，无疑是政治文明和社会秩序的巨大灾难。因此，政治机器人的研发者和使用者有必要确定可实时调适的治理方案，发挥政治机器人的价值理性，以推进智能技术向善发展。

五、政治机器人的风险治理

基于当前政治机器人的进化程度，如何治理政治机器人在政治运行中产生的风险，促进更广泛的实质性民主，成为当前政治机器人研究的紧迫议题。而这一议题的出发点，一方面基于弥合政治精英阶层和大众阶层之间的权力鸿沟，另一方面基于消除社会各阶层在资本能力等方面的差距。这种追求正如马克思所指出的，“在民主制中，任何一个环节都不具有与它本身的意义不同的意义。每一个环节实际上都只是整体人民的环节”[35]，让“整体人民”能够参与和管理民主全链条的具体过程，乃是人民民主制的基本要义。智能文明的发展为实现政治民主提供了广阔的发展前景和坚实的技术支撑，同时民主政治的发展在智能时代也面临着前所未有的挑战。如前所述，政治机器人的风险可以归纳为两类：一类是由政治机器人本身的智能缺陷所引起的，如数据安全风险、难以产生高超的政治智慧等问题；另一类是资本逻辑和技术逻辑的统治延伸到政治领域，将工具理性和政治权力凌驾于伦理规范和政治责任之上，导致一系列的政治风险。因此，政治机器人的实际运行仍存在许多问题和争议，亟须构建和完善风险治理体系。

(一)针对政治机器人的内生安全问题

第一，加大创新智能系统硬件设施建设，激发政治机器人的应用潜力。现阶段，政治机器人作为一种新型政治工具，它的设计与制作首先要考量其功能与价值，秉持效率优先的发展理念，挖掘其关键项的应用潜力。根据木桶原理，政治机器人的发展前景恰恰受到短板技术的制约。例如，提高政治信息的准确性、有效性和可参考性，就需要关注数据在生成、采集、传输和存储的过程中的质量问题，包括自动检测数据质量，自动清洗冗杂无效的数据，修复出现质量问题的数据。

第二，提升多元主体协同，形成各方共治的治理格局。加强所有权主体联动合作，建立政府、企业及公众等相关主体的责权分配关系与结构，形成风险应对的多元主体群。一是政府应在涉及政治权利方面加强政策引导和监管问责，针对具体应用场景明确追责方式、责任划定、惩罚力度等，形成全过程、动态化的管理机制；二是设计研发者要明确行业技术规范，并在政治机器人体内预置人权保护、避免歧视和偏见、算法透明等规范标准；三是从事机器人供销等经济活动主体要自觉遵守法律制度和行业规范，在产品安全和可解释性等方面强化企业自律和行业自管，确保经济活动合法、合理、可行、安全；四是政治行动者在遵循道德规范和法律法规的基础上善用政治机器人，而不是通过操纵舆论来恶意干扰政治运行。尤为重要的是，赋予社会第三方以全流程审查的职能，第三方基于专业技术和中立立场开展监督，可即时淘汰有缺陷的政治机器人。

第三，建立动态监测预警机制，完善全过程多面向的治理策略。一是事前预测、评估，政治风险在生成演化的过程中，往往会释放出一些先兆信息。要及时发现、准确判断、精确处理诱发政治风险的敏感因素，防止小问题质变成政治危机。二是全过程监测和动态评估，深入分析和研判具体风险。政治风险往往不是单个的、孤立的，它与经济、文化、社会、军事、生态文明等各个领域紧密相连，在一定条件下互相转化。三是事后整改与根源治理，反思寻找深层次原因，不断总结和把握智能时代政治风险的发生演变规律。

第四，促进各学科交叉融合，提升应对风险挑战的治理能力。智能时代不仅催生了智能技术融合，也提供了一种学科交叉融合的研究思路。政治机器人的发展，既需要信息科学来改进系统硬件设施及其服务水平，也需要从政治学、哲学、法学等角度探讨政治机器人带来的政治变革和机遇。因此，我们应围绕政治机器人的具体应用，对新兴技术的安全问题进行全面评估，形成智能时代新兴科技风险的应对策略。

(二)针对资本逻辑和技术逻辑引发的政治风险

第一，理念层面，遵循“以人民为中心”的价值理念。究竟发展什么样的政治机器人，确立什么样的规制目标和价值，是首要回答且必须形成普遍共识的问题。中国新一代人工智能治理专业委员会在2019年提出“负责任的人工智能”，引导利益相关方思考人工智能发展方向。欧洲一些国家聚焦人工智能发展前景及可能带来的风险，提出了“人工智能准则”，致力于发展“道德的人工智能”“可信赖的人工智能”。未来的政治机器人研究，首先要把价值理念放在核心位置，遵守智能机器及其衍生产品的具体规范，在为政治运行服务的过程中增强政治互信。根据马克思的观点，人的思维世界产生于与外部世界关系的对象性活动中[36]，也就是说，人的思维世界不是内在自发的结果，而是在外部世界的刺激和影响(政治信息输入)的过程中不断生成的。同时，对政治信息进行处理，并将其转化为认识对象和内容的过程，体现了人的认识能力的进步。因此，政治机器人作为人的认识对象，实际上是作用于政治活动的工具，而人是其中最关键的、决定性的因素。

第二，法律层面，完善对政治机器人的法律监管，建立科学、公开的技术标准及法律规范。合理的政策、法律约束可以有效地控制政治机器人的使用，一方面，规约政治机器人的供应商，注重区分权利客体的排除领域，以防权利滥用；另一方面，确保政治机器人合乎道德与法律，促进政治活动良性运行。在现行的治理规范上，“软体系”逐渐转向更具强制力和约束力的“硬法体系”，将机器人等人工智能体的损害责任纳入其中，继续完善政治机器人的责任主体、责任构成和责任方式的特殊的、具体的规定。总体来说，完善的法律规制有助于提升政治运行透明度，能够在一定程度上抑制“算法权力”的异化，从而消除社会公众对政治机器人威胁政治民主的质疑。结构和体系完整的法律不仅应厘清机器人的基本权责及义务，还应厘清人机之间的责任分配及承担方式，更需要不同领域相关法律的配合和补充。

第三，制度层面，构建对政治机器人的制度安排，形成管控合理且行之有效的民主治理格局。政治机器人是将新兴技术应用于政治领域的鲜活创造，它给现代政治发展注入了新的活力，但同时也带来了诸多的社会风险，这些风险有些是科技文明本身带来的风险，另外一些是“技术-经济”决策导致的风险。实质上，政治机器人背后的逻辑仍然是资本驱动的逻辑，变化的是由工业时代的机器—资本驱动转向信息时代的智能机器—数字资本驱动，不变的是异化和剥削的内在本质[37]。对于政治机器人存在的这些风险，有必要采取风险措施，建立因应性制度，形成制度性的社会治理体系。按照风险社会学的基本理论，制度风险产生于工业制度和科技政策，表现为对新兴技术没有采取相应措施的“制度缺失”，或者对新兴技术错误判断的“制度失败”。对政治机器人的发展和规制进行制度安排，既是时代新潮流和国际大趋势，也是推动政治机器人更好发展的内在要求。在制度构建方面，一是建立国家发展战略制度安排，做好顶层战略设计，以此作为政治机器人发展的制度支撑；二是健全市场行业的准入和良性运行制度，激发科技市场的力量，推动机器人智能技术的发展；三是加强行政监管制度建设，对政治机器人的生产和使用进行积极监管，保证监管的有效性和权威性。伴随政治机器人的技术创新，也需要及时跟进理论创新和制度创新。在科技的智慧之光和制度的理性之光的照耀下，政治机器人也将取得长足的进步和发展。