社交机器人：互联网水军治理的新挑战

【内容提要】社交机器人是一种能在网络上进行内容生产的人工智能算法，其通过模仿人类用户行为逃避平台风控系统的识别，通过社交网络互动与内容发布进行舆论干预，使得资本与技术能够通过更高效的方式掌握更大的传播权力，严重危害网络信息安全。因此需要增强技术识别、完善法律法规，保证互联网健康发展。

【关键词】互联网治理  水军  社交机器人

社交机器人（Socialbot）指的是一种寄生在社交媒体平台上的无物质实体的自动程序型智能体，它是一种存在于虚拟的数字社交空间中的虚拟机器人。①作为一种算法，社交机器人在网络上进行原本只有人类才能进行的内容生产活动，可以作为一种全天候的数字劳工，甚至可以作为人类的“交往对象”承担一定的情感价值。但当其被利用为“互联网水军”，就能让操纵者以较低的成本进行大量信息生产与传播活动，从而左右舆论、混淆视听。社交机器人的出现给互联网水军治理提出了巨大的挑战，如何应对社交机器人水军，成为信息与网络安全领域的重大问题。

一、从人到社交机器人：互联网水军主体的演变

在社交网络上，能够进行信息生产的机器其实早已有之。从国内来看，早在2003年前后就有“发贴机”活跃于各大论坛网站。这些“发贴机”可以实现同一内容的大量转发，实现短时间内的大规模内容传播。随着网络实名制推进，发贴机后台注册多个账号的行为不再行得通，平台对这种简单转发的“发贴机”识别也更加精准，手机“群控”技术产生了。“群控”指的是一台电脑通过算法控制多台智能手机，并且运用大数据编出适合不同平台的内容进行发布，从而躲过平台风控系统。此后“群控”技术又与“云服务器”技术结合，使得电脑能通过云端远程控制上千台设备。

不管是“发贴机”还是“群控”，其本质都是技术人员通过算法进行水军行为。与人工水军相比，算法水军显然具有成本低、易于管理、工作效率快的“优点”。但由于其内容相比人工来说更加统一机械，一方面更容易被平台识别、封禁，另一方面也更容易被社交媒体用户识别从而拒绝接受其传达的信息。因此，在这两个阶段，计算机水军的影响力都比较小，人工水军仍然是水军治理面临的头号难题。

而当计算机水军发展成为了机器人水军，局面就完全不同了。社交机器人是人工智能时代的产物，其算法开始具备了某些人类用户的特征。他们能够在社交平台自如地转发、关注、点赞，甚至可以通过社交账号之间的关注与互动形成一个“社交关系网”，并在每一次的水军任务中灵活地利用关系网达到最佳传播效果。平台要想识别这样伪装成人类用户的机器人水军，需要花费大量精力，还要冒着误伤普通用户的风险。

通过模仿人类用户，社交机器人能够躲过平台风控系统的监测、利用社交平台的关系网扩大传播范围。而在另一些领域，社交机器人又能够充分发挥其作为算法而优于人类用户的特点。首先，算法能更高效地利用时间，在突发公共事件发生时能够被及时动员（人工水军则需要一定的动员时间）。并且算法还能同时发送上千条信息，這是人工远远达不到的水平。其次，算法能够实现更加精准的推送。在进行商业营销时，如何将内容尽可能推送到潜在客户面前，需要算法的计算，人工水军则只能进行无差别的消息推送。

二、社交机器人带来的互联网水军新运作模式

尽管作为水军的本质并没有改变，但是社交机器人水军的出现却改写了人类中心主义性质的互联网社交媒体传播模式，使得互联网水军的运作模式也出现了不同。在新的运作模式下，操纵者可以更高效地管理水军、更加灵活地使用不同信息传输方式，从而掌握更多的传播权力，导致传播权力的进一步失衡。

社交媒体账号的传统驱动方式是两层结构：人类传播主体与由其运营的社交媒体账号。水军的出现在社交媒体账号和人类传播主体上增加了一个覆盖层——水军操纵主体。水军操纵主体能够操纵多个水军成员运营社交媒体账号。而社交机器人的出现，使得社交机器人的操纵主体不需要管理多个水军成员，只需要同机器打交道。

这一全新的运作模式相比传统水军运作模式无疑是更高效的。水军操纵主体只需要同机器打交道，节省了人工水军模式下的大量沟通成本。只需要一个宏观的行动法则，社交机器人就能够以自组织的方式自动运行，不像人类水军那样需要花费大量的精力培养与训练。

新模式下的互联网水军能够更加灵活地运用不同信息传输方式完成任务。人工水军的工作流程包括三个环节：网络公关公司发布任务，将任务下发给水军包工头;水军包工头将任务下发给网络水军;水军再按照任务要求进行发帖、删帖等操作。②在这样的流程中，一个任务的完成周期较长，水军只是机械地完成包工头的任务。而社交机器人则直接被操纵者控制，可以根据具体的任务内容决定信息传输方式。例如，当任务是传播信息（例如散布谣言）时，社交机器人会选择大范围地进行信息发布与推送。当任务是进行观点和态度上的输出（例如进行某事件的公关），社交机器人就通过关注、点赞行为与其他用户形成连接，从而让其反复接触相关信息，并成为传播网络中的下一个有影响力的节点。

如此高效、灵活的互联网水军运作模式都是为水军的操纵者以及操纵者背后的买方服务的，因此这一模式下传播权力并不平等。水军操纵主体通过操纵水军成员，间接实现了一人掌握多个社交媒体账号的目的，导致其在传播过程中掌握的话语权相当于成百上千个普通网民。而社交机器人的出现，让一个人能够掌握的水军数量增加了数倍，普通用户和操纵主体的传播能力严重失衡。③而操纵社交机器人是有门槛的，既有技术的门槛又有资本的门槛，这就进一步导致传播权力向技术、资本以及掌握了技术的资本倾斜。

三、社交机器人加深的信息环境污染问题

1964年，哈贝马斯提出了“公共领域”的概念，用以指代一个开放公共空间，在这个公共空间中，市民能够自由发表言论，不受外力干涉。④互联网诞生之初，许多人相信其会成为一个理想的“公共领域”。然而后续的发展中却出现了很多问题，一方面，现实中互联网空间的对话与讨论免不了政府、资本等外力的干预;另一方面，水军的泛滥对舆论产生不小的干扰，从内部危害了这一公共领域。社交机器人的出现让互联网水军发展到新的阶段，使得这种危害体现得更加明显。

首先，社交机器人能够影响互联网平台的信息传播过程，在信息扩散中扮演关键角色。在传播初期，社交机器人通过发贴、转发等手段积极放大内容，随后再通过回复、提及锁定有影响力的用户以使人类受影响，最终实现低可信度消息滚雪球式的扩散。⑤社交机器人对低可信度消息的扩散能够迅速炒热一个事件，在事件中“捧红”一些人、诋毁一些人、模糊舆论焦点，对信息安全构成极大危害。

其次，社交机器人也会作用于互联网的意见的形成过程，在一些情况下，会加大沉默的螺旋效应。沉默的螺旋是德国學者诺埃勒·诺伊曼提出的一个理论，指的是大多数个人因为害怕由于单独持有某些态度和信念而被孤立，因而不太愿意把自己与自己认为的主流意见不同的观点说出来。在特定话题中，如果社交机器人自动生成的某种观点占据足够大的比重，就能造成许多人都持有这种观点的印象，使其传播的观点被认为是“主流观点”，从而导致沉默的螺旋发生。⑥除此之外，社交机器人在争议性事件中往往会作出力挺某一方的发言，导致网友的观点随之朝着更极端的方向发展。

最后，社交机器人水军危害了大数据时代的数据准确性。用社交机器人发布信息、提出观点、对已有信息进行转发评论，就是给互联网平台的数据注水。“注水数据”好比是互联网时代的“假账”，给舆情监测、社会现象分析都带来了巨大的不确定性。

如何应对这样的一些危害，可以从两个方面思考，一是技术上，二是法律上。

从技术上来看，虽然社交机器人能够在很多方面模仿人类用户，但与人类用户还是有很大的区别。传统的人工水军账号少有原创与互动，机器人水军则有太多的内容生产与互动。社交机器人不仅24小时无休，还能一分钟进行大量操作。通过对这些“战斗力超强”的反常行为进行监控，平台方可以更好地识别出机器人水军。由于同一个操纵者手下的社交机器人往往遵从同一宏观指导原则，因此在识别出一个机器人水军之后，就能在平台找到与其行为特征相似的其他社交机器人。找到这些社交机器人只是第一步，找到之后要进行账号的快速封禁与杀除，封禁速度必须大于操纵者的反应速度。除此之外，对于社交机器人发布的有害信息要及时删除，避免账号影响力持续到封禁后。

从法律上来看，建立健全相关法律法规是必经之路。网络水军一直属于灰色产业，直至今日专门针对网络水军的法律法规仍是一片空白。⑦只有当其涉嫌发布谣言、诽谤等，网络水军才会受到法律处罚。在处罚人工水军时，由于涉事的人员数量庞大，水军流动性又大，往往阻力重重。而社交机器人水军的出现则让追责问题更加清晰，机器人背后的操纵者需要对机器人水军的行为负责。因此，专门针对网络水军的法律法规将在社交机器人的年代发挥更大的作用。

四、结语

社交机器人的出现让水军在互联网上发挥着越来越大的影响，为了维护网络信息安全、构造有利于社会健康发展的网络舆论环境，必须重视对机器人水军的治理，平台方要承担起监督、识别、处理的义务，国家相关部门也应该完善相应法律、加大处罚力度。在机器人水军与网络平台风控系统不断的博弈过程中，风控系统必须处于上风，才能保证互联网环境的健康。

注释：

①蔡润芳.人机社交传播与自动传播技术的社会建构——基于欧美学界对Socialbots的研究讨论[J].当代传播，2017（06）：53-58.

②姜明.从传播学角度看待新媒体时代下的网络水军[J].新闻研究导刊，2017，8（21）：69-70.

③郑晨予，范红.从社会传染到社会扩散：社交机器人的社会扩散传播机制研究[J].新闻界，2020（03）：51-62.

④周明睿.虚拟公共领域的把控：“网络水军”的作用机制与治理[J].声屏世界，2020（06）：103-104.

⑤洪杰文，许琳惠.社交网络中社交机器人行为及其影响研究——基于国外相 关文献的综述[J/OL].全球传媒学刊.

⑥周钰颖，闵勇，江婷君，吴晔，金小刚，蔡和.社交媒体机器人的研究现状、 挑战与展望.小型微型计算机系统.

⑦陈昌凤.商业性网络水军的全链条治理[J].人民论坛，2019（32）：120-122.

作者简介：王夏韵，中国人民大学新闻学院硕士研究生

（指导老师：彭  兰）

编辑：孟凌霄