虚假信息：藏在社交网络中的“毒瘤”

文／张志勇

随着5G和移动互联网技术的广泛和深度应用，以各类在线网络社区、在线社交工具、平台和服务为代表的社会网络生态系统已经形成，并完全渗透到整个社会、组织和人群的各种生产生活的毛细血管之中，成为数字世界十亿、几十亿互联网用户获取海量信息资源的重要载体和渠道。社交网络平台在承载、提供和传播有价值的数字信息的同时，也成为了大量负面虚假信息的温床，一些别有用心的标题党、水军纷纷出现，甚至肆意捏造、传播虚假新闻和谣言，利用社交网络和自媒体，哗众取宠，混淆视听。

虚假信息本身具有很强的误导性和诱惑性，能够快速吸引一些用户的眼球，它又借助社交网络用户和群组紧密关联的特性，在大规模复杂网络下的传播扩散已变得愈演愈烈，成为虚拟网络空间安全面临的热点和难点问题，也是全球互联网信息安全普遍存在的一个重大风险。虚假信息不仅影响了社交用户之间正常的信息沟通、交流和共享，也严重影响到经济社会发展，甚至国家安全和稳定。因此，当前对社交网络虚假信息检测、传播和控制等综合研究，对实现虚拟网络空间安全和网络信息内容生态治理，意义重大，亟待开展。

值得关注的是，在社会网络生态领域，2016年ACM通讯杂志曾报道了一种社交机器人的存在，以及如何检测和识别这些由自动化程序控制的社交机器人。不幸的是，大量的恶意社交机器人已逐渐在国内外的社交网络平台中被发现。根据网络安全服务提供商Distil Networks公布的《2019恶意机器人报告》，自然人在2018年产生的网络流量占比62.1%，机器人流量占比37.9%，其中恶意机器人网络流量高达20.4%。恶意机器人占比之大，不可低估，因为它们正在通过模仿正常自然人的操作行为，执行网络非法操作，包括个人隐私数据收集和滥用、数字广告和金融欺诈、虚假信息恶意传播、暴力登录攻击等，对国家政治、经济和社会带来了极其严重的负面影响。大量恶意社交机器人的存在，也使得传统的以自然人为主的虚假信息传播，又呈现出新的模式和形态，加剧了虚假信息的产生、传播和扩散，对虚拟化数字世界的网络信息治理更是雪上加霜。

为此，各国政府、学术界和工业界的研究人员对此广泛关注，他们分别诉诸于政策法律、技术管理和平台服务等多种手段，联合攻关，积极应对，加以解决，并取得一定进展。虚假信息传播和控制研究，可以追溯到早期复杂网络和小世界网络中的谣言传播动力学模型研究，直到近三年来关于社交自然人和社交机器人的混合型、交互式传播模式研究。2018年，国际权威期刊《Science》给出了虚假信息（新闻）全面的定义，并指出治理虚假信息需要多学科共同的努力。同年，《Science》又系统全面地分析了全球某知名社交平台现状，研究结果发现虚假信息比真实信息传播得更快、更深、更广，并进一步指出传播最快的虚假信息类型是政治类新闻。此外，在2018年国际权威期刊《Nature·Communications》报道了社交机器人传播低可信度信息最新研究成果。

近年来，我们面向虚拟网络空间安全，提出了社会（社交）情境安全的概念和技术框架，最近我们又结合“以人为中心”的大规模情境感知与前沿计算，以实现社会情境安全为目标，进一步搭建了社会情境元数据实验研究平台，并实现了关键核心算法程序的开源。该平台聚焦“以人为中心”的社会（社交）网络空间安全和人工智能深度融合的核心问题，围绕社交平台安全评估、虚假信息传播控制、社交机器人智能检测、地理位置隐私保护等六大主题应用，支持具有社会性、交互性、互操作性的互联网平台应用实验研究和二次开发，为国家互联网安全保障和社会大数据有效利用提供有力支撑，同时也为全球虚拟化社会网络安全提供了新的研究思路和开源应用。

2020年3月1日，国家网信办颁发的《网络信息内容生态治理规定》正式开始实施，可以看出国家重拳出击，治理互联网信息生态的决心和意志，并已取得初步成效。未来，随着大数据、人工智能和新兴前沿计算技术的深入发展，以及信息技术、信息管理和法律实践等跨学科的交叉科学应用，虚假信息的自动化机器识别和跨社区、跨应用、跨平台传播控制，必将得到有效解决和根本治理，风清气正、安全可信的网络空间，在实现现代化“数字强国”“网络强国”的国家战略中，将充分发挥不可替代的重大作用和优势。