社交机器人“类人性”对身份政治的干预〔*〕

张爱军, 徐潇潇

(西北政法大学 网络政治传播研究院, 陕西 西安 710122)

社交机器人(social bots)是指一种运行于社交媒体平台上的、自动生成内容并且参与人类社交互动的、无物质实体的自动程序型智能体,是存在于数字社交空间中的一种虚拟机器人。它们通过模仿社交网络中的其他真实用户来习得人性,能够更新社交状态,与其他平台用户进行自动交流对话,以及自动发送、接受好友请求。社交机器人的大量运用改写了人类中心主义性质的互联网社交媒体传播模式。社交媒体机器人网络由社交机器人、控制者、控制渠道三部分组成。每一个社交机器人都控制着一个社交网络中的账户,并能够运行账户进行社交互动和建构社交网络。社交机器人具有与真实人类一样自动传播信息的能力,“作为社会嵌入式传播主体,数字自动传播主体能够对整个社会结构产生影响”。〔1〕针对社交环境中的议题,自动分析并作出反应,参与到传播过程中。据美国证券交易委员会报告揭示,互联网安全公司Imperva lncapsula公布的《2016年机器人流量报告》指出,2016年人类在线流量降为48.2%,而机器人流量则达到了51.8%,〔2〕可见,社交机器人已经成为社交媒体中重要的内容生产与传播主体。

随着人工智能和机器学习的进步,现代社交机器人不仅在功能和性能上有了显著提升,还具备了更加逼真和“类人”的特征。这些社交机器人能够模拟人类的外貌、性别、语言和情感反应,从而与人类建立更加亲密和个性化的联系。社交机器人的“类人”特征开始对身份政治产生影响。“类人”特征主要表现在以下三个方面:第一,社交机器人是信息生产的工具,社交机器人代替了互联网时代的人类数字劳工,成为社交媒体网络中数字自动传播的主体;第二,社交机器人融入了人类社会,既是主动参与者也是被动交流对象,它们在社交网络中形成的关系是真实的,社交机器人与其他传播主体互动时,也在改变现实的人际关系网络;第三,社交机器人是实践情感劳动的“交往对象”,通过识别和回应人类的倾诉,能够在情感层面上与人类建立互动且更加亲密的关系。然而,情感共鸣可能会涉及个人隐私暴露和群体极化等问题,对于身份政治的干预可能引发伦理和道德争议。

政治社交机器人则是政治权力主体用来控制公众舆论的数字技术,能够迅速扰乱在线政治对话、抓取并分析公民信息,已广泛应用于全球政治实践中,操纵社会舆论、影响公共关系与塑造媒介形象。政治舆论操控不仅关涉国内舆论控制、国内政治选举,而且多涉及国际政治事务。社交机器人已成为全球政治舆论空间中不可忽视的技术力量,对互联网的渗透和对舆论环境的良性发展构成了威胁。例如,在2016年美国大选中,有学者发现,社交机器人“生产”了约19%的相关推文,成为影响美国政治的重要因素之一。〔3〕这些社交机器人能够左右人们的观点,促使网民的政治意见更为极端,甚至在社交媒体上形成难以控制的“涟漪效应”。很多人相信社交机器人参与并且干扰大选,使特朗普能够反败为胜。

随着社交机器人技术的迅速发展,越来越多的社交机器人具备了“类人”特征,能够模拟人类的传播行为和情感反应,并构建新的社交网络。“在人与社交机器人的互动中,人甚至会无意识地模糊社交机器人与真实人类用户之间的差异”。〔4〕恶意社交机器人会伪装成独立的实体,创建一些虚假的账户,实施窃取用户隐私、发送垃圾邮件、传播恶意链接、发动DDoS(Distributed Denial of Service)攻击等活动,给无辜用户造成伤害。〔5〕有学者提出,社交机器人的根本属性在于其“社会性”,具备了“身体语言”,〔6〕而此前“社会性”是人类所特有的。近年来技术、政治与宣传三者的互动日益频繁。张梦晗等学者以俄乌冲突为背景,研究发现社交机器人已经能够串联深度伪造、假新闻生产等技术手段制造信息迷雾,从而开展网络渗透、舆论引导、“在线策反”与认知干预等行动。就人权危机主题而言,社交机器人能够对主要参与角色属性进行判定。〔7〕

社交机器人的类主体性实质上是对人类政治身份的转移,对身份政治产生了深远的影响。前文旨在梳理现有研究,探讨社交机器人的“类人”特征如何干预身份政治,以及相关的影响和挑战。前人对身份政治和社交机器人在政治领域的应用研究已相对详尽,但还未有学者从身份政治的角度来分析社交机器人的“类人”特征,及其在政治参与主体异位的方向上对身份认同带来的冲击。笔者通过综合分析相关文献、提出未来研究方向等方式,希望为社交机器人和身份政治领域的学术研究提供一定的启示。

一、社交机器人身份政治的缘起、演变与起伏

(一)缘起:社交机器人何以成为“身份政治”

“身份政治”是指个人和群体在政治行为和政治意识形态中,基于特定的身份认同和归属感而进行的行动和互动过程。身份可以是基于种族、性别、宗教、民族、社会阶层、性取向等多个维度的,形成了一个人多重身份的矩阵。“身份”是基于共同想象的政治。“认同”是指人们在社会政治生活中产生的一种感情和意识上的归属感。个人在一定的社会联系中确定自己的身份(identity),并自觉或不自觉地以对这种身份的要求来规范自己的政治行为。在许多欧美国家,身份政治成为不断分化的身份群体争取承认和获得权益的活动。政党及其领导人通过笼络身份群体而巩固并扩大选民基础。因为追求差异性和本群体的“尊严”,于是所谓的自由民主国家走向了政治分化、极化和分裂。“身份政治因其具有文化认同性、情感关联性而能调动民众的政治激情,具有政治动员价值。”〔8〕

社交机器人的身份成为政治,主要体现在其利用虚假身份形成的身份认同,在政治代表性、政策制定、社会动员和团结以及身份权利和公平四个维度对政治产生影响。第一,身份认同在政治过程中发挥着关键作用。政治的核心是通过代表制度和选举来表达人民的意愿和利益。身份认同能够影响人们对政治代表的选择和支持。例如,在民主制度中,民众可能更倾向于支持来自自己身份群体的代表,因为他们更有可能关心并代表相似身份群体的利益。第二,身份认同可以影响政策的制定和实施。不同身份群体对政策问题可能有不同的立场和需求,而政治决策者往往也会考虑这些身份认同和需求。身份认同可以塑造政策议程和政策制定的优先事项,在政策制定过程中起着重要的作用。第三,身份认同可以成为社会动员和团结的力量。政治活动和社会运动通常以身份认同为基础,并寻求通过共同的身份来团结人们、争取权益和改变社会。第四,政治与身份认同有深刻的关联。政治体系通过法律、政策和制度来保障不同身份群体的权利和机会。身份政治是对这些权利和公平的关注和追求。

(二)演变:社交机器人身份政治的发展

在全球化的背景下,全球意识和身份认同逐渐兴起。这种身份认同通常与共享的价值观和文化传统紧密相关,也就是“文明”。美国政治学家亨廷顿在《文明的冲突》(The Clash of Civilizations)中证明了“文明”问题是同当代世界政治密切相关的。〔9〕人们开始关注全球问题,超越国界和地域范围,形成了对全球公民身份和责任的认同,对种族和文化多样性的认同也越来越凸显。种族身份认同强调个体所属的种族群体,并涉及对于种族平等、多元文化的认同和尊重,在跨文化交流和多元社会中的意义日益重要。全球身份认同在推动全球合作和解决全球挑战方面发挥着重要作用。近代以来,性别和性取向也逐渐成为身份政治的重要议题。性别身份认同强调个体的性别归属和性别角色认同,而性取向身份认同则涉及个体对于性取向的认同和认可。这两个方面的身份认同对于平等、权益和社会正义的争取起着重要作用。总体而言,身份政治的发展历程是可追溯的,受到历史、文化、社会和经济等多种因素的影响。从早期的部落和氏族到现代的全球意识,身份认同的演变反映了社会变迁和个体意识的发展。不同的身份认同在社会和政治中扮演着重要角色,并且在推动政治参与平等、多样性和社会正义方面发挥着关键作用。

随着科技的发展,社交机器人被编程用在社交媒体等在线平台上与人类进行互动,呈现出全球化发展态势。这些机器人可以扮演不同的角色,包括推广产品、传播信息、引导对话等。早期社交媒体机器人的应用场景较为有限,其功能更多聚焦在“社交”层面,但当其功能朝着政治方向延伸,机器人在意识层面有了政治结构,在互动中表现出了社会反应,并随之产生了政治倾向。社交机器人随着其发布的信息的影响力不断增强,获得了“主体性地位”和“权利”,即“政治身份”。社交机器人代替了部分人类主体进行互联网实践,改变了公共传播的内容。特别是在情感表达领域,社交机器人的共情能力与人类情感的复杂性相结合,在有限的学习数据中,容易陷入算法逻辑的偏执。社交机器人的身份政治可以成为人类主体争取权利的工具,也可能会造成舆论场的混乱,引发更为极化的政治性或群体性事件。

(三)起伏:社交机器人身份政治的是与非

日裔美籍政治学者弗朗西斯·福山认为,“身份政治已成为一个主要概念,在很大程度上解释了全球事务中正在发生的事情”。〔10〕从认同的一致性来看,身份认同对国家的形成与民族的凝聚具有重要价值,主权国家是人类最重要的共同体。民族的凝聚力来源于共同的文化、语言、宗教、历史和传统等因素。民族身份认同强化了个体对所属民族的认同感,形成了共同的集体意识和归属感。通过共享民族认同,个体在文化、社会和政治层面与其他成员建立了联系,并共同维护和传承民族的价值观和传统文化。然而从认同的多样性来看,当代西方已陷入身份政治的深渊,造成了所谓的自由民主制度的危机。身份政治作为对身份歧视和身份压迫的矫正和反抗,具有一定的积极意义,成为少数身份群体反抗主流身份霸权的武器。但是,身份政治也以其身份重叠、身份固化、身份冲突和身份隔离等特性,打着平等、公正、尊严的旗号,煽动民粹主义、掩盖阶级矛盾,深刻地分裂着社会,威胁着很多国家的政治稳定。

一方面,社交机器人的身份政治是个体和群体参与政治行为、表达政治诉求的重要动力,可以推动平等和多样性的政治参与。同时,社交机器人的身份政治在政策制定过程中起着重要作用,不同身份群体的需求和利益影响着政策的制定和实施。在社会认同和团结上,社交机器人身份政治有助于个体和群体建立认同感和归属感,促进社会团结和合作。另一方面,身份政治可能导致不同身份群体间的利益冲突和对立,阻碍社会的整体发展和团结。极端个人主义会使身份政治演变成为不同群体间的歧视和排斥,引发社会的不平等和不公正。此外,身份政治也伴生着社会极化和分裂,使政府和社会难以达成共识和合作,这就改变了身份政治原本寻求平等的目的。

在以往平等现代社会的想象中,每个人是先在一个共同体秩序中才能获得基本的身份认同。而查尔斯·泰勒在论述自我本真性的理想中提到,“个人从前现代的整体宇宙秩序和伦理、政治秩序中脱离出来,将自身首先看作一个独立的个体”。〔11〕这种承认的先后顺序又将身份构成中的本真性和承认政治问题再次凸显,古典传统是基于已有的人性规范框架与应得标准。而在个体主义的本真性理想下,却失去了外在框架的规范,因此现代个体身份诉求的规范变得更为严峻。社交机器人所表达的身份标签常被用于国际传播平台,在跨语境传播的过程中,其“类人”特征不被人性框架约束,就很有可能突破原本共同秩序,继而野蛮生长。

二、认同性危机:全球化背景下社交机器人身份政治的解构与凝聚

多民族国家指的是由不同民族组成的国家,其中各民族拥有各自的文化、语言、宗教、历史和身份认同等方面的特征。身份政治在多民族国家中涉及个体和群体对自身身份的体认,以及各自的归属感。不同民族的身份认同和保护需求可能会对多民族国家的共同体建构产生影响。共同体的建构通常要考虑多元文化的特征和民族群体的权益,以实现包容性及平等、公正目标。但是,多民族国家中存在着的不同的文化和民族群体,在语言、价值观、传统和习俗等方面可能有所差异。身份政治可能会影响多元文化与国家认同二者间的关系,因而,政府和社会必须设法促进二者关系达致平衡,既保障多元文化的发展和表达,又能建立起多民族共同的国家认同,以维系国家的凝聚力。

(一)全球化发展的政治现实

全球化发展是一个复杂且多元的过程,涉及政治、经济、社会和文化等各个领域,及其相互间的交流和影响。首先,政治秩序在全球化的背景下解体又生长,人口、资源在世界范围内流动,人们逐渐开始追求一种更加普遍的、国际的生活方式。全球化打破了国家、民族、地区间的壁垒,更多的人在对照中开始意识到他者和自我的不同,自我也与别人眼中的“我”不同,自我建构于他者,一个人的认同决定性地依赖于他(她)和他者的对话关系,由此诱发了人们对认同的渴望。其次,经济全球化是全球化的核心组成部分,通过贸易自由化、跨国投资和全球供应链等形式,国家之间的经济联系日益紧密。经济发展还涉及全球产业链的分工。分工常伴随着劳动力的分配,开放的经济和市场交换体系使身份发生了改变,单一个体可能具有多重身份;经济发展还引发了社会阶层的分化。例如,在中国就有城市人口、农村人口、城中村居民等阶层区分;经济发展甚至带来了更为深刻的族群关系变革。以西方发达国家为例,既有秉持本土主义的原住民,也存在不同民族和族群的政治诉求,还有近年来新兴的对女性主义、同性恋群体的身份承认,以上这些都使社会更加开放,但同时由于人类政治生活的群体画像日益复杂,有了更大的不确定性和处理难度,也给世界秩序和国内政治带来了挑战。结合经济全球化带来的贫富差距扩大和不平等加剧等问题,有相当一部分自由至上主义个人权利论者既有着不被伤害、不被干涉的消极权利需求,也有着渴望平等分配财富的积极权利诉求。尽管积极权利所需的身份认同缺乏普遍的责任主体予以支撑,与经济再分配也并无关联,但是在身份认同中常被用于为经济平等提供道德理由,即经济正义。

(二)身份政治群体的多元和分化

国际移民改变了人口结构,带来了多元文化冲击。正如前文所提到的,政治、经济与文化的全球化无一不正在建构着丰富多样的身份特征。个体的身份不再是单一的,而是由多个交织的身份构成。一个人可以同时拥有多个身份,如族裔、性别、宗教、国籍、性取向等。这些身份互相交叉、重叠,形成了一个多维的身份结构。每个人的身份构成是独特的,没有两个人的身份完全相同,群体的身份多元性是现代身份政治的核心特征之一。而在多元的身份中存在着不同的子群体或派别,他们对于共同的身份特征可能有不同的理解和要求,这就会造成身份的分化。这种分化可能是基于不同的经历、价值观、政治观点或利益诉求等。例如,同一个族裔群体内部可能存在着不同的子群体,他们在文化传统、语言使用、政治目标等方面有所区别。这种分化反映了群体身份的复杂性和内部差异。群体身份的多元和分化将会带来两种可能,一种是引发身份认同的紧张和冲突,另一种是对社会正义和平等的追求。在个人主义盛行的现代社会中,身份政治可能意味着拒绝接受其他群体所认定并执行的行为规范和评价标准,而群体身份内部的多元和分化也是如此,群体身份的多元和分化往往涉及权力斗争和资源分配问题。不同的群体身份可能在社会结构中处于不同的地位和权力关系中。某些身份群体可能享有更多的特权和机会,而其他身份群体则可能被边缘化或受到不平等对待。而群体身份的多元和分化有着更多组合的可能,能够激发政治动员和联合。不同身份群体可以通过认同共性或共同利益,组织起来推动自身权益的实现和社会变革。这种政治动员和联合可以是针对特定议题的短期联盟,也可以是长期的身份政治运动。

(三)社交机器人导致的身份焦虑

互联网时代,社交机器人在政治传播中可能被当作信息操作和操纵的工具。政治势力可以利用社交机器人来散布虚假信息、操纵观点和塑造公众舆论,与现实人类竞争网民信任。网民难以确定哪些信息是真实可信的,甚至无法确定对话方是否为人类,从而引发公众的身份焦虑。在一些敏感的身份政治议题上,倘若遭遇社交机器人的舆论攻击,就会动摇受众的身份认同和精神信念。社交机器人在政治传播中可能通过对话和评论散播极端观点,加剧社会的分裂和对立。当人们在社交媒体上看到大量的极端观点时,他们难以找到与自己身份和价值观相符的声音,进而对自我的身份认同感到怀疑。此外,社交机器人被赋予了虚拟的政治身份,换个方向来说,它掠夺了人类的政治身份,抢占了真实人类的政治表达资源,包括表达空间、情感倾向以及投票决策等。在新型人机互动的关系中社交机器人可以通过点赞、评论、分享等方式来影响用户的行为和态度,让公众感受到社交压力和约束。一般身份政治群体会感到身份焦虑,与之对应的还有本土群体或主流群体,本土群体会对身份政治产生反应,从而衍生出更多的身份问题。

三、主体性升维:角色扮演下传播生态的重构与政治身份的掠夺

“社交机器人是人工智能技术应用于在线社交网络的产物,具体指在在线社交网络中模拟人类用户,自主运行、自动生产发布内容的算法智能体,它承担着聊天网友、智能客服等角色”。〔12〕它们是一种算法智能体,能够模拟人类用户在社交网络上的行为并自主运行和自动生成发布内容。社交机器人在聊天网友、智能客服等方面扮演重要角色。虽然社交机器人被称为“机器人”,但与传统概念中笨重的实体机器人相比,它们有着明显的区别。社交机器人放弃了传统智能机器人的实体“身体”,取而代之的是以虚拟形象的方式存在于社交网络中。

社会建构主义强调社会现实及社会问题是在个人与他人及社会的动态互动中建构的。伴随着用户日益深度的“网络化生存”,网络空间的实践也正在建构着社会现实。社交机器人往往以显性的用户和行动者身份存在,能够在社交媒体平台上自动生成内容,与人互动,试图模仿和改变人类用户的行为。社交机器人的“类人”特征是指它们在与人类进行交互时所呈现的类似主体的属性和行为。尽管社交机器人是由编程和算法驱动的人工智能实体,但却能够模拟人类社交行为和沟通方式,深刻地改变了人类的政治参与方式。

(一)对传播生态的重构

社交媒体生态正在从完全由“人”主导变为“人+社交机器人”共生的状态,社交机器人成为社交媒体的一个有机组成部分,“人+社交机器人”正成为传播学中一个新的研究领域。社交机器人逐渐消解了人类用户在社交媒体中的唯一主体地位,成为信息内容生产、观念传播和意义表达的重要参与者。社交媒体平台成为“人”与“社交机器人”的共生空间。从传播效果研究的角度看,随着越来越多的社交机器人活跃于社交媒体,社交机器人的角色扮演不仅仅会影响社交媒体中的舆论生态,也会对用户的线下认知与观念产生影响。

1.从传播中介到传播主体

智能传播时代,社交机器人通过积极参与网络互动实现了传播主体性的升维。社交机器人实际上充当的是人类用户的角色,利用技术手段发挥人类用户的作用,表现出“类主体性”。当数量规模达到一定程度,就能够通过网络互动形成或改变意见气候。此外,社交机器人的生产与应用门槛较低,使用主体的增加也导致了社交机器人影响更加广泛、行动能力更为强大,从而对现实生活产生影响,重塑着社会关系。社交机器人的行动出于背后操纵者的意志,与人类用户自发形成的舆论导向截然不同,社交机器人所代表的是某个个体或利益集团的意志。

在这个万物互联的时代,机器人成为潜藏在社交媒体平台上的数字用户,根据操纵者的使用目的,扮演着操纵舆论、协商对话、情感陪伴、公共服务等角色,参与和建构着网络空间环境,也形塑着现实生活。社交机器人不是真正的主体,只是以“主体”的身份存在,表现出“类人”特征。它们仍然是基于预先设定的规则、算法和数据运行的工具,没有真正的意识、思维和情感。社交机器人的类主体性更多的是一种模拟和仿真特性,但却能以低成本、大规模、高效率的信息生产优势,运用于宣传操纵,覆盖社交网络中一切不利于控制者的言论,甚至阻碍人们的理性协商和沟通,这也象征着技术社会中人类主体性地位的陨落。

2.从服务劳动能力到情感劳动能力

“情感”能力是突破传统人机关系的关键。社交机器人能够延伸人的“主体意识”,这得益于现今的“情感计算”技术赋予它们情感劳动能力,使其超越了过去媒介的工具属性。情感计算是综合了多种学科知识的研究领域,涉及计算机科学、数学、认知科学、心理学、社会学和哲学等方面。它测量和分析人类的外在表现,并能够对情感施加影响。学者Hochschild在《被管理的心:人类情感的商品化》中提出“情感劳动”,〔13〕用以批判现代资本主义社会中人类的私人情感被资本纳入市场领域的过程。人类所特有的情感属性在技术推动下工具理性化、算法化、机器化,情感交流在社交平台成为可以购买的商品。

社交机器人的情感计算主要包括自然语言理解和类人语言生成表达两个部分,其目的是在保持高水平智商的基础上,提升机器人的情商,增强其对人类的共情能力和其自身的情绪表达能力。随着情感计算相关研究的不断突破,未来社交机器人在理解人类语义、保持对话的一致性和提升互动性等方面将取得显著进步。情感计算技术逐渐将媒介技术从服务型互动转变为情感型交往。“媒介技术形态演变的表征由此从‘媒介即讯息’到‘媒介即人体的延伸’,再到智能机器人时代‘媒介即人’的方向演进,媒介本身变成具有‘主体能动性的人’”。〔14〕社交机器人也可以理解为是计算机科学领域朝着社会学科学领域的延伸。这意味着社交机器人不仅仅是为人服务的工具,还是与人类建立情感联系和交流的存在,是对情感劳动的一种“剥削”。

(二)对政治身份的掠夺

在社交媒体时代,官方统一的公共话语难以直接对个体判断产生决定性影响,凝聚社会共识变得困难。在微信朋友圈、微博社群等具有相似阶层、兴趣以及身份背景的圈层中,身份意识的传播更为迅速。因此,社交媒体加快了身份政治的发展,强烈的身份意识也随之变为实践行动。尤其是在近代西方政治选举过程中,民族、移民、宗教等有关身份群体的议题数量增加,政治动员能力增强,身份政治成为人们政治热情的重要源泉。社交机器人在政治活动中的应用引起了广泛关注。政治社交机器人是指由政治团体操控的社交机器人,在社交媒体平台上伪装成各式各样的身份政治群体,掠夺了人类的政治身份参与政治讨论,传播其运营者的政治主张,力图影响舆论,主要有以下三种手段。

1.制造虚高流量

在传播主体的数量上,政治社交机器人首先通过自动化程序批量创建大量虚假社交媒体账户。这些账户通常使用随机生成的用户名和头像,并且在短时间内快速增加关注者和好友,以增强其在社交媒体平台上的影响力。在传播的途径上,政治社交机器人通过预先编写好的程序自动发布和转发大量机器人矩阵发布的相关政治内容。这些内容可能包括宣传传单、政治口号、政治演讲等,旨在提高特定政治观点或候选人的曝光度。在传播的策略上,网络议程设置也是重要手段。政治社交机器人会使用与当前热门政治议题相关的关键词和话题标签,以吸引更多用户的关注和参与讨论,这样可以增加其在社交媒体平台上的曝光率,并引导舆论方向。更重要的是,政治社交机器人会模拟真实用户的互动,如点赞、评论和分享,以制造虚高的流量和活跃度,这种虚假的互动可以误导其他用户,使其认为某个政治观点或候选人受到广泛支持。

2.传播虚假信息

1950年,艾伦·图灵发表了论文《计算机器与智能》,描述的正是对后世影响深远的“Turing Test”。〔15〕“他安排测试者与被测者在两个相互隔绝的房间里传递信息,要求双方在杜绝视觉、听觉、触觉等一切可能导致身体接触的情况下,仅依靠键盘传输的文字判断‘对方是机器人还是人类’。‘图灵测试’实质上包含着两重隐喻——‘用机器进行交流’和‘与机器进行交流’”。〔16〕在前者的语境中,机器只是充当了一个中介,起提供交流平台的作用,而后者是指机器开始以独立信源的身份进入交流过程。对身份政治溯源时可以发现,人的“独特性”和主体意识源于“人对他者的渴望”,这种渴望使人类区别于其他动物。而这正是图灵测试中的机器人,乃至整个人工智能领域所缺失的,但在人工智能飞速发展的现时代,人类将会遭遇空前的主体性和主体间性的双重迷失。

社交机器人可以制造和散布虚假信息,虚构新闻报道。它们通过自动化程序快速传播这些内容,以达到误导和煽动用户的目的。机器人采用了人工智能和自然语言处理技术,使其能够生成看似真实的评论和回复。这使得它们更具欺骗性,难以被普通用户辨别出来。除了制造和传播虚假信息外,社交机器人还可能会针对特定的政治对手或政党进行攻击,制造虚假信息来影响公众对他们的看法,这些攻击可能包括人身攻击、否定对手的政策或成就等。这不仅对公众舆论产生了负面影响,也对选举、政策制定和社会稳定构成了潜在威胁。

3.塑造意见领袖

社交机器人可以创造和推广虚假的意见领袖,通过伪造虚假的社交媒体账号或网站来传播他们的观点和意见。这些虚构的意见领袖可能拥有大批追随者,以增加他们的可信度和影响力,但这些追随者很大一部分都是机器人。政治社交机器人可以通过模拟用户或虚拟账号的互动,给意见领袖增添虚假的支持和认同。这些虚拟支持者可能会在社交媒体上积极评论、分享和赞美意见领袖的观点,营造出他们拥有广泛的支持者的形象。“‘机器’意见领袖可以实现量产,而且其形象不会受到现实生活影响,更容易塑造完美的意见领袖形象,只要其虚拟身份不暴露,就可以在社交媒体中持续发挥政治影响”。〔17〕例如在叙利亚战争期间,Twitter账号萨拉·阿杜拉,拥有多达12.5万名粉丝,成为有一定影响力的意见领袖,但是她除了在Twitter上发言外,在其他社交媒体平台上没有任何信息,种种迹象表明,萨拉就是政治社交机器人,“她”被塑造成了一个充满人格魅力的虚拟意见领袖,与网民建立了稳固的社交关系,再通过数字化的信息生产和情感劳动实现政治传播的目的。

社交机器人的滥用已经造成了一系列的恶果,对很多国家的民主和法制构成了严重威胁。它们可以用于选举活动中的舆论操纵、政治动员和政治干扰,有可能导致信息的扭曲、舆论的偏颇和社会的分裂。社交机器人的存在也引发了有关伦理和法律问题的讨论,如何解决这些问题,确保公正和透明的政治环境,将会是全球都需要面对的挑战。

四、政治性展演:社交媒体平台上的身份管理

“政治展演”是指个体将自我及其行为展现给他人,并引导和控制他人对自我产生特定的印象。“拟剧理论”的引入进一步阐释了个体为达到印象管理的目标而产生的行为过程,“拟剧”过程中的各个要素被细化,分为“前台”的呈现和后台的排练、热身等。参与的主体也不再是不经分类的抽象个人或整体,而是政治人物的表演。媒体是政治人物进行展演的重要舞台,“通过媒体进行的政治展演进行良性的‘印象管理’是政治人物获得公众尤其是选民支持最便捷的方式之一”。〔18〕

(一)政治偏好

社交机器人的设计和开发可能受到设计者和开发者自身的身份政治观点和偏好的影响。这些观点和偏好可能体现在社交机器人的语言选择、信息过滤、情感表达、回应方式等方面。例如,设计者可能会倾向赋予社交机器人某种特定的文化背景、性别认同或政治立场,从而反映其身份政治观点。对语言的选择,他们可能会更倾向于使用特定的词汇、表达方式,并融入特定的文化背景,以使得社交机器人与特定身份群体更加亲近,进而形成共鸣。设计者的信息筛选也会导致某些信息被有意无意地排除或忽视,而某些信息则被放大或优先展示。这种偏好可能会对用户获取信息和观点的多样性产生影响。而在情感表达与回应上,设计者可能会赋予社交机器人某种情感倾向或回应方式,以符合其身份政治观点的个性表现,满足个体实现,进而塑造用户与机器人之间的情感联系和互动方式。

(二)身份政治的极化

在合理的舞台“布景”下利用社交机器人构建“互动仪式链”是政治展演的途径之一。“互动仪式链”理论包括,基于共同的关注焦点和共享的情感体验能够快速吸引受众的注意力,同时提供两个或两个以上的人“具身共在”,以网络发布文本、视频等带有政治倾向的媒体符号,对局外人设定界限。社交机器人会尽可能地贴近目标群体的身份认同倾向和认知规律,以达到澄清问题、塑造形象的政治目的。社交机器人的设计和使用受到身份政治的影响,反过来它们也可能在推动或反映身份政治的议题和问题上发挥作用。

由于社交机器人是与人类进行交流和互动的工具,它们可能会受到用户身份的影响。用户会将社交机器人作为表达身份认同、传递政治观点或推动特定议题的方式之一。在社交媒体平台上,有些社交机器人被用于操纵或激化身份政治上的争议和冲突。当社交机器人被用于推广特定身份政治立场或传递偏见和仇恨的信息时,就会引发社会分裂和对立。这种操纵行为可能会利用社交机器人的广泛传播能力和用户的信任,进一步增加身份政治话题的敏感性和紧张度。

(三)表达工具

在传统的社交平台上,由于信息过载和社交算法的影响,少数群体的声音常常被边缘化或被忽视。这导致了一种“数字鸿沟”现象,使较弱势的群体无法有效地参与到公共议程中,成为政治参与的边缘人群。社交机器人为少数群体和非主流群体(Marginalized Groups)提供了一个技术渠道,使他们能够表达自己的声音和诉求。社交机器人能够通过在线平台和社交媒体与广大人群互动,从而鼓励更多身份政治群体参与讨论。这种参与可以推动身份政治议题被讨论,并促使公众更广泛地关注与遭受歧视和被不平等对待的群体相关的问题。在这个意义上来看,社交机器人也有促进政治参与更加公平的可能。然而,尽管社交机器人在促进政治参与的公平性方面具有潜力,也需谨慎考虑其中的挑战和风险。例如,机器人的算法偏见、信息过滤和操纵等问题可能导致人类与社交机器人的互动并不完全公平或容易被滥用。此外,社交机器人可能在身份政治议题上传播虚假信息,塑造虚假偏激的身份政治群体画像,达到操纵舆论的目的。

需要指出的是,社交机器人与身份政治的关系是复杂的,不同社交机器人的设计和使用方式各不相同。因此,社交机器人在身份政治中的角色和影响也可能因具体情境而异。社交机器人制造了一种新的身份政治运动形式,既可能打破公平和集体认同,导致个人主义盛行,也可能在现有秩序中,赋予新声音以表达的力量。

五、本真性理想:政治参与中差异与共性的公平表达

德国哲学家马丁·海德格尔认为:“无论是手工艺品还是工业化制品,任何一种技术的假定作用和功能都是人类为实现特定目的而采用的手段。”〔19〕当前,政治社交机器人更多的是基于政治目的来影响舆论,对舆论生态产生的负面影响需要引起社会的足够重视。因此,我们需要采取综合措施来监管政治社交机器人。

(一)平衡代表性和多样性

“在现实政治中,占据多数或主导地位的群体及其个体,往往并不会主动强调群体意识与身份政治,因而身份政治也就成为处于少数或非主导地位的弱势群体或少数族裔,为了改变被孤立、被歧视乃至被剥夺的地位而进行的政治参与活动”。〔20〕社交机器人如果作为边缘群体的表达工具,一定程度上也能促进政治参与的公平和公正。需要注意的是,社交机器人的设计和使用过程应当具有代表性和多样性。这意味着在机器人的开发和训练中应包括广泛的参与者,包括不同的性别、种族、文化和社会背景。考虑到不同群体的需求和观点,可以减少对特定群体的偏见和歧视。根据选择性接触理论可知,“由于人们从接触信息到形成观点是从环境到个人再经过自身加工的过程,这意味着环境、群体和个人的特征,对信息接触行为都可能有重要影响”。〔21〕人们既有的信念和立场深刻地影响着人们的选择性接触,他们的信念和立场越坚定,政治投入就越高,社交机器人利用这种选择信息的意愿,裹挟身份政治问题中的偏见与歧视元素,进一步深化身份政治群体政治立场的区隔。常见的偏见和歧视问题可能源于训练数据的不平衡或采样偏差。如果训练数据主要来自特定社群或特定人群的视角,机器人的行为和决策可能导致对其他群体的不公正对待。因此,收集广泛的参与者的观点数据至关重要,在考虑代表性的同时也要考虑多样性。

(二)反思权力关系

泰勒认为:“在本真性的文化中,关系被视为自我发现与自我确证(self-affirmation)的核心。”〔22〕人们需要从他者的对话中确认社会地位和社会权力的构成。从他者的观点出发,主体性和本真性是身份政治当中重要的“承认”问题。公众追求主体的具身共在,也寻求关系确认中的本真,在自我表达里求同存异,在社会不公平里勇于斗争。“这些思潮致力于捍卫边缘化群体独特的经历、语言、文化、宗教等,并谋求得到主流群体的承认,甚至要求与主流文化和宗教等具有平等地位”。〔23〕但归根结底,身份政治的背后是对于平等认可和对话的本真追求。

“社会弱势群体借助社会化媒体实现自我表达与赋权已经成为一种社会现象。媒介赋权作为一种新型的民意表现形式,不仅是信息传播形态的改变,同时是社会权力在强势群体和弱势群体之间的博弈”。〔24〕代表着身份政治群体的社交机器人在推动社会辩论和形塑舆论方面具有重要作用,代表数量的增加是最外显和最直观的表征。因此社交机器人常被用于身份政治支持者的“纠偏行动”中,寻求身份的特殊优待和补偿。社交机器人的出现使人们从身份政治和多元主义对既有秩序的冲击中开始重新审视权力的关系,人们必须认识到不同身份群体之间的权力差异和不平等,并努力确保机器人的运作和培训避免加剧不平等现象。这涉及确保社交机器人不偏袒特定权力群体、不加剧结构性歧视,并更公正地反映和回应各种声音。社交机器人的类人特征实际上也继承了人类主体的身份特性,若成为某一具有明显倾向的个人或组织的政治武器,用于加深身份之间的区隔,权力关系的斗争将会更加严峻。

(三)增加透明度,建立问责制

社交机器人的算法和决策过程应该是透明的,并能够解释其对个人和社会的影响。透明度有助于监督和审查机器人的行为,以检测倾向性、偏见或歧视等问题。在设计和开发的过程中,关注机器人参与社交活动的道德问题是至关重要的。社交机器人应该将人类道德伦理编入程序,这样它在与人类进行社交互动时能够作出基本的道德决策。此外,建立机器人开发者和运营者的问责机制,以确保他们对机器人的道德和伦理问题负责并能追究其责任。在技术手段上,要加强对机器人账户的甄别,深入对恶意机器人检测技术的研发,并投入更多资源来提高对社交机器人账户的辨识能力。这意味着需要开发出更先进的算法和工具,可以识别和过滤出可疑行为的机器人账户。一旦发现有可疑行为的机器人账户,平台应该及时清理这些账户。外部的法律法规和道德准则也是对社交机器人活动的必要约束。目前,人工智能立法已经成为各国关注的焦点,并逐渐被提上议事日程。尽管目前尚未有针对社交机器人的专门法律道德条例,但很可能在未来会逐步出台相应的规定。

一方面,社交机器人可以增加政治机构和网民之间的互动机会,使网民能够更有效地收集和接触到多样的政治信息。网民还可以利用政治社交机器人来组织规模更大、更多样化的社区,以参与政治表达。通过让机器人账号为用户和社会提供服务,或许能够帮助解决回音壁效应和虚假消息等现实问题。另一方面,社交机器人也存在潜在的负面影响,它们可以通过故意制造虚假和垃圾信息来干扰正常的舆论生态。

认识到社交机器人表现出来的类主体性也为治理身份政治的负面倾向提供了思路。无论算法如何发展,技术始终要为人所用,最终回归到人本位上,社交机器人本身不具备情感和倾向,其内容和态度往往出于现实主体的目的和诉求。社会治理、法律实施的最终对象都是现实生活中的行动主体。因此,对社交机器人的治理本质上是对人的治理。透视出机器人互动背后现实中的人的政治目的、技术逻辑和商业动向,能够帮助识别社交机器人伪造的政治身份。我们要基于身份政治的视角,辩证看待社交机器人“类人”特征带来的社会影响,促进社交机器人创造正面的社会价值,更好地为人服务,帮助边缘群体获得平等的政治参与机会,而不是跌入“智能陷阱”之中。

注释:

〔1〕蔡润芳:《人机社交传播与自动传播技术的社会建构——基于欧美学界对Socialbots的研究讨论》,《当代传播》2017年第6期。

〔2〕IGAL Z.,“Bot traffic report 2016”,California:lmperva Incapsula2017.

〔3〕杜鸣皓:《“社交机器人”入侵》,《中国品牌》2017年第2期。

〔4〕张洪忠、段泽宁、韩秀:《异类还是共生:社交媒体中的社交机器人研究路径探讨》,《新闻界》2019年第2期。

〔5〕刘蓉、陈波、于泠等:《恶意社交机器人检测技术研究》,《通信学报》2017年增刊第2期。

〔6〕史安斌、王兵:《社交机器人:人机传播模式下新闻传播的现状与前景》,《青年记者》2022年第7期。

〔7〕张梦晗、陈泽:《信息迷雾视域下社交机器人对战时宣传的控制及影响》,《新闻与传播研究》2023年第6期。

〔8〕马俊毅:《多民族国家共同体的建构与治理——身份政治的发展与影响》,《学术界》2017年第2期。

〔9〕Samuel,Huntington,“The Clash of Civilizations”,Foreign Affairs72(3),1993,pp.22-49.

〔10〕Leyva K J.,Francis Fukuyama,“Identity:The Demand for Dignity and the Politics of Resentment”,New York,Farrar,Straus and Giroux,2018,p.3.

〔11〕谭安奎:《身份政治:根源、挑战与未来》,《探索与争鸣》2020年第2期。

〔12〕高山冰、汪婧:《智能传播时代社交机器人的兴起、挑战与反思》,《现代传播(中国传媒大学学报)》2020年第11期。

〔13〕Hochschild A R.,The managed heart:Commercialization of human feelingUniversity of California press,2019,p.137.

〔14〕林升梁、叶立:《人机·交往·重塑:作为“第六媒介”的智能机器人》,《新闻与传播研究》2019年第10期。

〔15〕Turing A M.,“Computing machinery and intelligence”,Springer Netherlands2009.

〔16〕骆正林、曹钺:《“被扭曲的交流”:社交媒体时代假新闻现象的三重批判》,《新闻与传播评论》2018年第4期。

〔17〕张洪忠、段泽宁、杨慧芸:《政治机器人在社交媒体空间的舆论干预分析》,《新闻界》2019年第9期。

〔18〕史安斌、潘晋怡:《社交媒体平台展演:智媒时代政治传播的新路径》,《青年记者》2023年第1期。

〔19〕Heidegger M.,The question concerning technologyna,2003,pp.305-306.

〔20〕刁大明:《身份政治、党争“部落化”与2020年美国大选》,《外交评论(外交学院学报)》2020年第6期。

〔21〕刘颜俊、廖梓豪:《人们如何挑选政治信息?——政治传播学视角下的选择性接触理论》,《北大政治学评论》2022年第1期。

〔22〕Taylor C,Gutmann A.,“The politics of recognition”,Contemporary Sociological Thought1994,p.36.

〔23〕王建勋:《身份政治、多元文化主义及其对美国秩序的冲击》,《当代美国评论》2019年第2期。

〔24〕信莉丽:《社会化媒体中的弱势群体:自我表达与赋权》,《东南传播》2014年第4期。