社交机器人的负面影响应引起重视

赵蓓

在社交媒体中，数以百万的社交机器人“居住”其中，它们模仿着人类用户行为习惯，遵循特定的算法规则，传递信息并与人类用户进行交互。南加州大学报告显示，推特中高达15%的活跃用户是社交机器人。社交机器人通过制造舆论共识、传播虚假信息、营逾虚假人气与更多人建立连接等手段影响网络舆论形成和发展，甚至可能左右人们选择。在美国大选、英国脱欧、新冠肺炎疫情、俄乌冲突等国际重大事件中，社交机器人占比均在20%至30%,成为干预网络舆论走向的重要变量。

第一，扩大信息规模，制造舆论共识。比如在推特中，不到1%的社交机嚣人通过大量转发支持脱欧的推文产生约33%的流量。还有约7.7万个机器人“签署”了关于英国脱欧第二次公投的在线请愿书，企图营造支持脱欧的虚假迹象。这些社交机器人的行为，在很大程度上影响了公众对议题的判断

第二，传播虚假信息，煽动极化情绪。社交机器人往往与虚假信息联系在一起。牛津大学报告显示，2020年有81个国家在利用社交媒体进行计算宣传和传播虚假信息，其中就包括社交机器人的使用。例如，在新冠肺炎疫情肆虐的背景下，社交机器人传播新冠病毒来源、种族仇恨、政治阴谋论拿相关内容,与人类用户关注公共健康和福利形成鲜明对比。社交机器人还可以增加负面或煽动性内容的曝光量。在2017年加泰罗尼亚公投期间，社交机器人生成并宣传针对独立主义者的暴力内容，最终加剧了在线社区的极化。

第三，组织协调行动，加强网络连接。“协调”指的是多个不真实的账户或角色一起工作以推动某个项目或主题。作为一种计算机程序，社交机器人群体之间具有超高的联通性，在算法的统一指挥下可以执行复杂的协调行动。北师大新媒体传播研究中心研究显示，在俄乌冲突相关推特讨论中社交机器人占比在20%左右，产生近30%的内容。大量社交机器人在短时间内重复使用或转发标签内容；通过部署批量意见领袖型账号，确保社交机器人在网络中的中心位置，加强与其他用户的连接等来引导舆论。

社交机器人因其在社交网络中的影响力引起越来越多的关注，但这并不是说它带来的都是威胁，也有机会。例如，社交机器人可以帮助人们快速获取信息、参与政治表达、推动公共议程的形成等。社交机器人是一把双刃剑，一方面为人机传播带来新的可能，另一方面被恶意使用成为操纵舆论的工具。

面对恶意社交机器人的威胁，首先要建立科学的识别系统。现有社交机器人识别工具主要是针对推特，其他社交媒体平台如Facebook、YouTube等尚未有成熟的工具。为有效应对国际舆论风险，需要建立多平台社交桃器人识别系统。从用'户基本信息、网络结构特征、推文内容、时间线等多个维度建构指标体系，打造基于机器学习、自然语言处理等技术的智能识别系统。

第二，制定完善的应用规范。政府作为国家治理者，需要针对社交机器人制定完善的应用现范，出台相应政策或法律确保使用目的、程序开发、应用场景的正当性，从源头上防止社交机器人被恶意使用。

第三，加强社交媒体平台治理。社交媒体平台是社交机器人得以存在和生长的基础设施，同时也是掌握算法和用户数据最为全面的责任主体。因此，社交媒体平台在应对社交机器人威胁时发挥关键作用。一方面加大对异常行为账号的管理和处页力度，另一方面要在账号创建时进行严格的人机审查，对于机器人创建的账号进行后台或前台标注。

第四，培养公众的算法素养。算法素养是指“用户能够意识到算法的存在，并用批判性思维来理解算法带来的影响”。公众是否能够辨认出社交机器人的存在,对其持有什么样的态度，是决定社交机器人产生多大影响的重要因素。北师大新媒体传播研究中心调查显示，67.8%的中国网民对社交机器人有所了解，但只有1.2%的人非常了解；并且与美国相比，40.7%的中国网民对社交机器人持积极态度。这说明我国网民虽然对社交机器人有一定认知，但还停留在初级阶段，对社交机器人负面影响感知并不明显。因此要重点培养公众的算法素养，使公众正确认识社交机器人的存在，警惕虚假信息与舆论操纵。▲（作者是北京师范大学艺术与传媒学院博士后）