何 苑 赵 蓓
[提要]当前,推特、脸书、微博等中外社交媒体已经成为娱乐传播的主场域。社交机器人颠覆了以“人”为主参与的娱乐传播规则,以“机器”逻辑来改变传播生态。本文从社交机器人颠覆社交媒体空间娱乐传播的现状出发,围绕恶意机器人操纵水军、模拟人类行为、利用数据空洞(data void)和社交媒体“弱连接”的特性和渗透用户群体、扰乱娱乐传播链条的策略以及技术逻辑进行了探讨,提出应从规范市场竞争机制、提升平台治理能力、提高公众“机器人素养”、正确利用社交机器人、调动积极社会效应等方面思考应对机制。
“社交机器人”(social bots,简称 bots)是一种“能够在社交媒体平台上与人类或其他类型用户进行交互的自动化软件程序”。[1]社交机器人利用计算机程序在社交媒体平台上大量创建自动化账户,并按照预先嵌入的规则向其他账户发起各类行为,如生产自动化帖子、发送促销链接、点赞、转发等。机器人具备创建成本低、匿名化运行、可操纵性高和数量庞大等特征,并能够通过“拟人化”行为表现出不同程度的人格属性。[2]
当前推特、脸书、微博等中外社交媒体已经成为娱乐传播的主场域,娱乐是社交机器人被广泛应用的一个领域。据《纽约时报》的调查显示,推特上的真人秀明星、职业运动员、喜剧演员、TED演讲者等娱乐圈名人都至少有过一次“花钱涨粉”的经历。①在我国,2019年被执法机关查封的不法App“星援”就是一个利用机器人水军操纵流量、造假数据的典型案例。②该应用在粉圈应用广泛,被用来进行养号、刷量、超话签到等操作。除了传统社交媒体平台外,“映客”“花椒”等视频社交平台中也出现了越来越多帮助主播涨粉、自动点赞、评论和自动回复的社交机器人。据2018—2019中国文娱金数据盛典上公布的数据显示,2018年我国娱乐圈的无效声量高达64%,娱乐圈流量造假现象已经非常严重。③
社交机器人的出现颠覆了以“人”为主参与的娱乐传播规则,以“机器”逻辑来改变传播生态。本文试图探讨的问题有:社交机器人如何颠覆社交媒体空间娱乐传播的现状、机器人“操纵”娱乐的主要方式及其背后的技术逻辑,并从规范竞争机制、提升平台治理能力、提高公众“机器人素养”和积极调动正向影响等方面提出应对思路。
在传播生态(ecology of communication)理论框架下,阿什德和赫瓦尔德认为“文化虽不由信息技术及其范式决定,但却是通过它们而运行的;技术不仅仅提供了新的互动渠道,更身体力行地形塑着互动发生的方式。”[3]从这一视角来看,社交机器人所扮演的角色已超越了传统传播链条中的单一构成要素,并在参与身份、内容呈现、环境重塑等方面不断进化,颠覆着社交媒体空间的娱乐传播生态。
在传统的IT理念中,人类才是传播链条中的真正主体,能够借助技术手段来实现特定目标,如发布内容、搜索信息、阅读文本等。而机器人具备的更多是工具属性,它承载着数字信息,以人类“任务指令”为桥梁将传受主体两端联系到一起。[4]但随着社交机器人对社交媒体空间的渗透,网络空间的构成主体却变成了具有社会联系和行为能力的“节点用户”,这种身份无论是人类或者机器都可以扮演。在此情况下,社交平台上的声量可能由占比95%的社交机器人来贡献。④在具备了“拟人化”行为能力和基本沟通技巧后,机器人能够一边发布信息,一边扮演受众来假意回应,甚至挑起“骂战”。在这种自导自演的“好戏”中,人类用户的力量反而被排挤到了传播链条的边缘,甚至会作为间接的“见证者”而受到干扰或误导。这种情况在近年来兴起的“黑红”策略中十分常见:艺人或经纪公司首先雇佣水军释放无伤大雅的“爆料”,将自己“黑”出了名气和流量后再突然反转剧情,在洗白人设的同时也博取了用户同情,进而顺势走红。除此之外,社交网络中假扮真人的社交机器人通常彼此关联紧密,会互相提供“信誉证明”来避免被平台标记成垃圾账号。[5]从某种意义上来说,这也形成了一种具有“社会支持属性”的拟态社群结构。[6]因此,有学者提出社交机器人已不再是单纯的工具,而应当被视为一种具有参与性的社会主体(social agent)。[7]
基于机器人技术的商业化“水军网络”运作已成为当前娱乐节目宣传、产品推广和话题炒作中的惯用手段。尤其在影视新作播出、新人出道等特殊时间点上,社交媒体上会“适逢其时”地出现铺天盖地的宣传内容来引爆话题,但其中质量上乘的原创内容仅占很小比例。一方面,基于爬虫技术和主题聚合的机器生成文本仍带有明显的“模型推文”痕迹;[8]另一方面,在面对社交媒体上的海量信息攻势时,大多数用户仅会浏览标题,仅有少数人会深入阅读正文。[9]在此情况下,机器人生成内容的“快速增殖战术”不但会导致“标题党”、无意义或重复内容泛滥等现象,还会挤压那些有真正见解的内容或者小众作品的“数字生存权”,加剧不正当竞争。例如在豆瓣、知乎等平台上搜索热门影视剧作品,或是当红流量艺人名字时,大多数评价内容不是“莫名其妙的句子心得”,就是掺杂了从他人“高赞短评”下搬来的内容,形成了一种在社交媒体空间“水评论”的“养号”劣习。
在社交媒体平台上,粉丝数量、被转发次数、被提及次数以及排名等是判断账号价值与影响力的重要指标,而受众的文化消费选择和决策在很大程度上也受到网络评价的影响。为了应对数字信息过载的难题,各大平台纷纷推出独立的评价、推荐和排名机制来树立自己对市场的权威指导性,如豆瓣、猫眼评分、微博“超话”、热搜榜等。通过获取用户操作的隐式反馈信息和量化用户节点信任关系等手段,社交网络平台可以绘制出互动群体的偏好图谱并优化推荐排名系统。[10]如芝加哥大学的研究人员2017年研发的AI评论神经网络就能够绕过在线审查系统在各大点评网站上活跃发贴,其虚构评价的参考价值分高达3.15(相对人类用户的3.28分而言)。⑤然而,在数据日趋与经济效益挂钩的畸形社会资本转化机制下,社交机器人的介入改变了正常的社会网络关系结构。在不顾内容质量,一味伪造节点互动行为和关系数据的情况下得出的数据结果必然也会丧失代表性和权威性。如基于签到人数来证明粉丝活跃度和明星代言价值的“微博超话”便是一个典型案例⑥。2020年9月,当微博平台突然调整规则,增加了“明星超话签到实名验证身份”的门槛后,便发生了肖战、蔡徐坤、孟美岐等流量明星粉丝数量“缩水”数十万,超话排名骤跌的现象。⑦
社交媒体网络已成为社交机器人和人类用户账号共生的混合空间。自动化程序通过模仿人类交流的方式来与真实用户交互,允许组织以最少的人力投入来建构一个社交网络。例如2018年,在电影《星球大战8:最后的绝地武士》上映后,推特等社交媒体上一度涌现出大量两极化的评价内容。南加利福尼亚大学研究人员在研究了影片导演Rian Johnson的推文后发现,在负面评论中竟有50%以上的内容是由“非人类账号”创建的,目的在于挑起粉圈冲突(fandom conflict),继而吸引媒体关注;事实上真实粉丝对该片的评价并不像社交媒体整体舆论氛围中表现的那么消极。⑧除此之外,社交机器人还可以形成一种以社交机器“簇拥”真人用户的沉浸式社交网络环境,如2020年上线的新款社交产品Botnet,其社交环境的设定就是在整体网络中只有使用者一个真人,其余账户均为配置了个性化身份的社交机器人,能够对用户发布的任意内容作出风格迥异的回应。⑨实际上,还有一些娱乐社交平台为了增加用户的活跃度指标,直接利用社交机器人进行大量称赞式回复,寄希望于用户在积极反馈的裹挟下继续深度使用平台。然而,用户往往发现参与回复的内容过于违和,很多账户个人信息页中的关注数据为零,并且不与真人用户深入社交,种种情况导致用户怀疑平台内容的真实性。可以想见,在技术的干预下,娱乐已不再是人类独享的特权,越来越多的机器人正在“进场”。
娱乐传播本是为了满足人们的兴趣和精神层面需求而产生的,以传递轻松活泼、新奇有趣的信息为主,在内容上往往优先选择“吸引眼球”的信息。[11]网络社交媒体创建的初衷也是旨在为拥有共同兴趣和情感联系的人提供一个“去中心化”的社群空间。然而在有心人士的操纵下,社交机器人技术却成为了挑起争端、加剧数字身份之争的武器,如在微博、豆瓣、晋江文学城等平台上操纵机器人账号发布造谣、诋毁信息的“职业黑粉产业”,或者以“引战”之名行“引流”之实等不道德行为。
社交机器人技术诞生的初衷是提升网络媒体平台上信息聚合、分析、处理和生成新内容的效率,并且将人力从重复率高、内容单一的任务中解放出来。然而,在非人类用户发布的内容也可以对舆论导向和市场产生影响的情况下,其“可操纵性”就成为了一种干预娱乐传播的技术手段。社交机器人“操纵”娱乐传播的常见方式有以下几种:
当个人或机构对机器人进行有组织、有目的的管理运作,就会形成规模化的网络水军,可以起到放大特定用户言论、话题影响力乃至操纵社会娱乐的效果。[12]借助无线连接设备实现的“云控”技术最多时可控制上千台手机或将任务分进程实施,加大了平台在识别和监测社交机器人账号行为上的难度。[13]例如在共青团、央视曝光的“蔡徐坤涉嫌数据造假,单条微博转发过亿”事件背后,就有着借助计算机程序操纵机器人账号的幕后推手:粉丝在不法应用上将自己的真实微博账号与几十甚至上千个傀儡账号绑定,使转发数量翻倍;即使机器账户被平台查封,后续也可通过充值的方式不断重新生成新账号,令平台和监管者疲于应对。
随着社交媒体平台风控壁垒的提高,机器人在社交网络中模拟真人用户的技术策略也不断升级:从调动API自动发布内容到锁定特定用户分析以增强相似性(如性别、兴趣爱好等),从嵌入短链接、复制官方媒体推文到自动聊天、模拟真人用户活动规律等。账户属性、兴趣标签、共同关注对象、活跃频率、自我展示策略等社会化线索(social cues)是当前社交机器人在创建和渗透用户群体时借鉴的主要特征。[14]这使得机器人账户和人工账户在更新模式上表现出越来越多的相似性。[15]研究证实,在面对“拟人”的社交机器人时,人类用户仍然会遵循常规的社交模式,并且倾向认为与自己互动的机器人具备某些人类特征(如性别、不同性格特质等);他们甚至会像信任真人一样信任对方。[16]Stoll等也发现机器人确实能够在互动当中影响真人用户的情绪。[17]因此,尽管机器生成的文本质量与人类创作相比仍存在较大差距,但基于机器学习、神经网络、智能算法和情感唤起等策略的“拟人化”社交机器人正在平台风控系统和真实用户眼中变得越来越具有迷惑性。
数据(无论质量如何)是确保算法过程能够“产出”(generate)结果的重要原料。当下主流社交媒体平台上均已实现“搜索”功能内嵌(相对独立的搜索引擎而言),但基于关键词识别、爬取和结果匹配的推荐算法仍然是平台进行内容分类和排名时所依仗的基础逻辑。微软必应搜索团队的专家指出,正常情况下,平台数据库中有关新兴或小众话题(例如新生艺人的周边新闻、作品或来自偏远小语种国家的不知名作家等)的内容是非常有限的,这就使得任何包含“关键词”的内容都可能出现在搜索结果的榜首,因为算法必须在有限的“原料”基础上得出结果。在娱乐传播中,这种“数据空洞”(data void)的存在反而为有心人士操纵网络议题提供了便利:通过机器人生成并大量转发内嵌“关键词”的内容来反向“投喂”爬虫,再辅以搜索引擎优化(search engine optimization)策略便可轻易地操纵结果列表。用户通常会对自己付出主观努力后获得的成果深信不疑,但实际上却在被机器文本堆砌出的“热点”牵着鼻子走。此外,战略性填充“相关搜索”内容标签(在搜索框键入明星姓名关键词后会出现一系列经过补充的“相关问题”,如“XX黑新闻”“XX成名历史”等)也是社交机器人辅助人工反向设置议程和操纵热点的手法。
面对数字信息洪流,时刻处于“认知过载”状态的用户已经逐渐习惯,甚至依赖网络排名和推荐来形成自己的态度和决策。在社交媒体空间中,一般用户生成内容、机器账户生成内容和传统权威专家资源(如文艺批评家、影视评审、创作者等)共存,形成了影响个体意见的不同信息“代理”。但往往大多数用户并不会深入地阅读评价的细节。在信息论的框架下来看,编程和投放社交机器人的技术主体所关注的重点并不是单个用户或某条内容的价值,而是一套能够“高效处理海量可替代用户和文本的解决方案”。[18]在此背景下,对计算结果产生影响的并不是人类思维的独特性或创造性,而是一个个可被“赋值”和计算的数字“节点”。因此,当机器人生成的同类信息(即使内容质量不高)大量出现,为了保证数据结构满足基本假定,并确保算法结果对整体的预测力,那些具有独创性的专家评价反而容易被当作“非典型个案”而忽略、降权甚至剔除。[19]
社交机器人不但可以向社交网络空间中的个人用户直接施加影响,更能够利用“弱连接”形成溢出效应来推动自身观点在整体网络中的扩散。在线社交网络的基本逻辑是“朋友的朋友即朋友”,因此在两个用户彼此关注时,二者间会出现双向的直接关联,而在三个彼此互为好友的节点之间存在的是两两配对的双向直接关联,但对于拥有大量粉丝的特定节点来说这种双向关系却无法实现。[20]社交机器人在社交网络中彼此紧密连接,却可凭借与少数人类用户的关联使自身携带的信息在社交媒体上更快、更广地传播。[21]从传播动力学视角来看,一方面,社交媒体中独有的“弱连接”(weak tie)将尽可能多的“差异化主体”聚到一起,使整体网络中具备了更大的联通性(connectedness);另一方面,基于社会互动原则,具备“弱关系”的用户节点与相邻节点之间始终具备直接联系,因此只要二者不是观点相悖的“敌对”关系,就必然会产生互动和信息交换,从而实现区域信息环境的均衡。因此,在社交媒体空间中,只需少量的社交机器人择机向自己的相邻节点施加温和、低频但持续的影响,并确保直接邻居和周边间接邻居间的连通性,就可将观点最大化扩散到整个群体网络中。[22]
作为社会性和科技想象力的承载者,娱乐传播与机器人的碰撞原本应迸发出一场大众的狂欢盛宴,但在少数人对技术的恶意操纵之下,人们却成为了牵线木偶尾随其后,浑然不知自己已经踏上了一条被技术所有者强势预设的,驱使社会网络成员走向“共同现实”的想象路径。
对于普通大众来说,进行娱乐内容消费的初衷是寻求一种不以“指引人们思想”为主旨的世俗消遣——正是这种深刻性的“潜在缺席”激发着他们的参与热情。社交媒体向人们提供一个能够支撑想象的“公共性”实践空间,使人们能够在“超越共同体意味的边界后相遇”;各种“快消费”层面的文本也在不断被曝光和谈论的过程中被构建成一种独特的“社会性写实”。正常秩序下,社交媒体上的传播模态是具有流动性的:新的内容产生后可能因为技术、时间或信息流等因素加速消失湮灭,也可能因为质量上乘而被留存甚至获得商业转化的上升空间。而在社交机器人以一种“社会实体”的姿态强势入侵后,社交媒体空间的传播互动效率看似得到了提高,实则在有心人士的操纵下加快了信息流转和被淹没的速度,切断了非逐利性独特内容的正常上升渠道。
当前,社交机器人锁定特定用户进行自动关注、转发、点赞和评论的行为已成为娱乐传播中炒热度、提人气的惯用手段。在整体网络中,社交机器人更倾向于锁定那些具有影响力的真实社交媒体大V账户:通过提及对方、转发、回复其推文等方式,社交机器人能够“寄生”在大V的影响力链条中,提高自身的曝光机会并诱使其他用户转发自己携带的内容。[23]娱乐内容的传受主体分散,在内容和形式上无需像时事新闻一样遵循制式的规范和约束条例;公众对娱乐事件的关注往往也聚焦在明星动向、名人轶事、作品/活动等主题上。因此,操纵者只需要事先拟定名单和操作指令,社交机器人就会分工明确地对需要“锁定”的对象采取行动,取得低成本、高转率的“造势”效果。
社交机器人在病毒性传播的早期阶段往往更为活跃。[21]当前多数主流社交媒体的传播趋势探测工具主要基于主题标签(hashtags)识别来运作。[24]这使得社交媒体上的娱乐内容在发布后很短时间内就能被机器人捕捉到,并根据操纵者的意愿做出积极或消极响应。社交机器人账户对“热点词”的感知速度远高于人类,还可以不眠不休地在平台上运行,并且按照预设的时间、动作指令来采取行动。而作为非“利益相关者”,普通受众对娱乐内容消费往往采取的是浅尝辄止、碎片化、“跟风跑”的“吃瓜”模式,这些因素都为机器人操纵者干预社交媒体娱乐传播势头和舆论导向提供了完美的掩体和先发制人的机会,也是导致真实用户在娱乐事件发展转向中“后知后觉”的原因。
社交机器人并不一定是集多种功能于一身的单一主体,也可能是大量各司其职、分工合作的程序集合。[25]尽管研究已证实社交机器人水军具备“言论一致性、发贴内容单一性、账号名称相似性、创作时间相近性、账户行为单一性和账户位置单一性”等明确特征,但公众至少需要综合上述三个以上指标才能对其进行有效识别。例如,在“操纵网络评分/投票结果”的机器人网络中,可能存在分别负责跨平台用户信息收集、大量创建差异账户和自动点赞、关注、评论等不同功能的程序组合。[26]通过真实用户账户操纵机器人进行渗透的成功率更高,故而在进行热点议程设置时,机器人可以分别进行账户验证信息权限破解,用户属性预测(偏好、好友邀请接受概率),社会网络结构分析,意见领袖推断以及粉丝/关注配比等任务,化整为零地规避平台风控机制,再渗透到真实用户群体中。[5]这种分兵作战、协同合作的模式大大增加了社交媒体娱乐传播生态衍变的复杂性和用户识别、判断机器人的难度。
对社交机器人介入下的娱乐传播生态重构,需要从平台、用户、监管等多方面予以重视和应对。
以单一指标为基准,带动娱乐内容传播“风向”的方式难免导致牟利和造假行为。值得欣慰的是,自2019年起国内越来越多的社交媒体平台已经开始致力于矫正“流量至上”的观念。与此同时,国家广播电视总局等上层机构也开始尝试通过综合评价系统来构建收视调查体系,基于对多方位、多角度用户行为的大数据分析来建模评测。未来,在娱乐内容制作、生产、传播到监管的各个环节也应继续倡导多元、丰富的评价机制,为市场行为提供健康、均衡、全面的发展指导。
随着社交机器人影响力日趋壮大,社交媒体平台的风控意识也在不断加强,所采取的应对策略正从“被动应对”向“主动防控”转变。当前,在脸书、推特等国外社交媒体中已开始采用“算法治理算法”的方式来识别和处理可疑账户,并随时完善平台界定和处理可疑账户的政策依据,如推特定期发布的《透明报告》(Transparency Report),脸书的可疑账号自动提示等。此外,Twitter Audit、Botometer、Accountanalysis、Bot Sentinel等一批通过算法识别社交机器人的应用也面向公众提供服务。在社交机器人的检测、识别与治理等方面,国外社交媒体平台的现行政策和举措可资借鉴。与此同时,平台也应当保护那些能够发挥正面作用的社交机器人(如突发事件预警、热点资讯识别与推送、机器人辅助编辑等),并为它们提供可持续发展的空间。
面对社交机器人技术不断迭代发展及其与社会经济生活联系愈发紧密的现状,提升公众的“机器人素养”教育已刻不容缓。德国慕尼黑大学学者Schmuck提出,在新技术条件下应提高公众的“机器人素养”,使个体在与机器人互动时具备“识别、评估、分析对方的意识、态度和能力,并能够就自己在互动过程中的表现进行积极、主动的反思”。[27]鉴于我国娱乐内容传播中机器人技术“应用先行,规范滞后”的行业现状,在公众教育中应当超越传统媒介/信息素养的定义与指导方略,紧跟技术前沿,加大面向公众的社交机器人科普力度,加强民众的“机器人素养”和批判性思维能力。
机器人在社交媒体空间中的“渗透”行为是潜移默化甚至高度“拟人化”的,而当前大多数公众对社交机器人的认识仍然停留在科幻想象层面,对其产生的影响也容易一味持消极态度。事实上,在警惕恶意机器人之余,也应考虑到社交机器人在提高传播效率、提升社会互动质量和丰富人们精神文明等方面能够发挥的积极作用。因此,应从宏观层面出发继续推进和深入开展相关领域研究,进一步探索人与社交机器人,社交机器人与社交机器人之间的互动关系、影响规律与作用机理,以更好地发挥“科技向善”的积极社会功能。
注释:
①参见:Confessor N., Dance G., Harris R., et al.TheFollowerFactory,New York Times,https://www.nytimes.com/interactive/2018/01/27/technology/social-media-bots.html,2018年1月27日。
②参见:《蔡徐坤1亿转发量幕后推手“星援app”被端》,新京报,https://baijiahao.baidu.com/s?id=1635953992336529922,2019年6月10日。
③参见:《金数据盛典揭露流量本质:蔡徐坤无效声量高达73%》,艾漫数据,http://www.ai-man.cn/observe/newsDetail/5c45c6c6368913566a007c2a.html,2019年1月21日。
④参见:《各大明星的“水军”力量被曝光,娱乐圈的水深不见底》,钛媒体,https://www.tmtpost.com/2582668.html,2017年3月17日。
⑤参见:《高级“水军”来了?机器人可模仿人类进行评论》,环球网,https://m.huanqiu.com/article/9CaKrnK52kr,2017年9月4日。
⑥参见:《明星买水军实锤?肖战、蔡徐坤数据暴跌十几万,孟美岐更尴尬》,搜狐网,https://www.sohu.com/a/417947697_100213728,2020年9月2日。
⑦参见:《某论坛Bug后职黑水军掉皮!杨超越、肖战、蔡徐坤究竟当了谁的路?》,https://bbs.hupu.com/32347647.html,虎扑网,2020年2月13日。
⑧参见:BotMakersLovedtheLastJediDiscourseSoMuchTheyDecidedtoPoliticallyInfluenceIt:FandomDisputesAretheNewPresidentialElection,The Verge,https://www.theverge.com/2018/10/2/17927696/star-wars-the-last-jedi-russian-trolls-bots-study,2018年10月2日。
⑨参见:This “SocialMedia”AppFullofBotsConstantlyComplimentingYouisIntenselybizarre,Mashable,https://mashable.com/article/botnet-social-media-app/,2020年2月12日。