人工智能时代虚假新闻的防范与应对

虚假新闻是指制造者故意向受众提供不实新闻内容，来迷惑或操纵受众，并能够通过其他来源证实其结果为假的信息。当前，借助互联网技术尤其是人工智能，虚假新闻生产及传播呈现出复杂化、大规模、隐蔽化等趋势，严重损害了新闻真实性，引发一系列全球范围的舆论治理危机。因此，亟须厘清人工智能对虚假新闻的影响机理，并作出有效应对。

警惕虚假新闻在人工智能助力下的进展变化

当前，人工智能技术已不同程度介入新闻传播之中。仔细观察人工智能技术的这些应用，不难发现，其不仅可以编造虚假信息，而且内容逼真、形式多样，生成速度快、制作门槛低，引发的风险较大。

在现实中，人工智能给虚假新闻的生产、制作、传播提供了多方助力，表现为：一方面，利用ChatGPT等人工智能工具生产新闻的门槛低，大大降低了造假成本；另一方面，人工智能生成新闻的迷惑性强，以“深度伪造”为代表的技术能够对图像、声音、视频等进行篡改和伪造，产生高度逼真的信息，加上社交媒体机器人等充当“网络水军”，对虚假新闻进行评论、转发，冒充新闻机构或知情人引起话题讨论，造成更广泛的传播。例如，杭州某市民用ChatGPT制作“明日杭州市取消依照尾号限行”的虚假政府通告，引起广泛传播，影响了社会秩序。

随着人工智能技术的发展，虚假新闻数量随之增多。深度伪造的“拼贴”类虚假新闻、“数据污染”下的AIGC（生成式人工智能）新闻等新形式，通过社交机器人和精准推送广泛传播，会在一定程度上误导公众并影响社会舆论。清华大学新媒体研究中心发布的《揭秘AI谣言》指出，人工智能工具的不当使用使得谣言量高速增长，近半年信息量增长了65%。因此，我们要高度警惕虚假新闻在人工智能助力下的最新进展和可能带来的危险变化。

人工智能滥用给虚假新闻治理带来三大难题

人工智能技术助推智媒体时代加速到来，给新闻业带来巨大发展机遇的同时，也产生了诸多治理难题。由于人工智能生产虚假新闻的高效率和欺骗性、内容和形式更加复杂等原因，使其治理面临着极大困难和挑战。

在新闻定义上，T5EwReg/XqAxBzys7HyHCQ==人工智能对新闻真实造成了一定程度的消解。首先，深度伪造的信息由真实图像和视频拼接而来，这类新闻不仅难以辨别真假，甚至被部分群体认为是个体创作的成果。其次，就数据新闻而言，其依托的大数据技术存在的数据污染、算法偏见、时间局限等问题，都可能导致人工智能生成的数据新闻不完全真实。最后，AIGC广泛集中于“数据空洞”，即在那些搜索引擎没有结果或结果模糊的搜索请求中，人工智能生成的从未出现过的信息内容难以立即证伪。尤其是在后真相时代，当无法及时获得全面信息时，人工智能生产的“无中生有”的信息也难以被认定为虚假信息。

在传播效果上，人工智能导致虚假新闻的传播速度与范围不可控。以往，虚假新闻的制造者是人，其炮制速度和数量有限，但人工智能可以24小时不间断地生产足以以假乱真的虚假新闻和评价，且分发过程可依托瞬间生产的数百万社交机器人和精准投放技术实现广泛传播。即使发现并删除相关虚假信息，其影响也已造成。人工智能降低了虚假信息生产和传播的门槛，使正常信息环境中的虚假信息数量级增长，危害性更强。

在舆情治理上，虽然人工智能被用于虚假新闻治理和舆情监测，但其治理速度远远落后于虚假新闻的生成速度。对于虚假新闻的识别而言，一方面，“机器人水军”仿造真实用户信息，输出个性化观点，并通过机器学习优化自身内容，表现出更加真实且具备连续对话的能力，使虚假信息传播更加隐蔽；另一方面，一些AIGC内容逻辑性强、完整性高，难与真实信息区分。人工智能的滥用使虚假新闻凭借数量和速度逐渐侵蚀媒体环境，而治理速度和规范却滞后于虚假新闻的发展。

人工智能时代虚假新闻的智能治理方向

在人工智能背景下，虚假新闻的治理问题变得更加复杂而关键。其治理措施也应与时俱进，需要融合既有思路并探索新的可能性，尤其要重视人工智能技术的治理应用。对虚假新闻治理的传统方法，如完善法律法规、加重平台责任、推动用户自律、行业协会监管等，可结合人工智能特点进行改进，积极发挥事实核查、法律监管、协同治理作用。

加强事实核查。制定全面的事实核查、干预过滤等规则，用技术规制技术，是治理虚假新闻的关键。事实核查是常见的识别虚假新闻的手段，人工智能技术可以应用于核查虚假新闻的内容生产者和内容本身，建立由人工智能驱动的防御和过滤系统来阻止其传播。

加强依法治理。从法律法规层面看，《互联网深度合成服务管理办法》的出台弥补了对人工智能治理的空白，规定了生成式人工智能服务提供者的责任，可以在一定程度上减少因模型算法的数据偏见和污染导致的虚假新闻。未来，应细化规定各主体履行防范义务及采取的措施，并加强对人工智能本身的治理。

加强协同治理。从治理层面看，目前仍以平台为主，通过行业规约、平台管理规约、用户服务协议等对虚假新闻进行治理。未来，应强化共治理念，相关部门、媒体、行业协会、舆情监测机构、人工智能服务商、互联网平台之间要建立起数据共享共治的理念，形成虚假新闻发现、过滤、追责的互联互通体系。同时，要建立完善的虚假新闻举报机制，激励用户主动监督，并着力提升用户媒介素养，增强其识别能力，减少虚假新闻的二次传播。

（作者简介：张亚斐，中国人民大学新闻学院副教授）

责任编辑 / 丁兆丹