基于人机协同的网络文化安全治理新模式

詹海宝 孙江 郭梦圆

摘要：在信息化社会背景之下，网络文化安全治理已成为核心议题。为解决网络文化环境中的安全难题，提出了以人机协同为核心的多元治理模式，具体包括分工协作、动态协同、学习增强以及全员参与模式。这些模式充分利用人工智能在数据处理与模式识别方面的技术优势，同时兼顾人类在伦理判断和策略制定方面的独特能力，旨在提升网络文化安全治理的效能，适应网络文化环境的复杂性与动态性，维护网络环境的公正与安全。

关键词：人机协同 网络文化安全 创新治理 人工智能

在信息科技瞬息万变的时代，网络文化已深度渗透并重塑了人类的交流方式，并塑造了新的社会价值观。然而，这也带来了新的挑战，如网络欺诈、信息泄露、文化冲突等，使得网络文化安全成为当代社会亟需解决的问题。本文试图揭示人机协同在网络文化安全治理应用中的可能性，并以此提出具有协同特征的多元治理模式，为实践者提供新的治理工具与策略，为建立适应信息时代需求的网络文化安全治理机制提供借鉴。

一、智媒时代网络文化安全治理新困境

智媒时代，网络文化安全治理面临诸如信息处理困难、跨界性问题等全新挑战，为解决这些困境，引入如人机协同治理等新的治理理念和模式成为必要。此模式通过结合人类的判断，与机器的大数据处理和学习能力，提高治理的精度和效率。

1.网络文化安全的内涵与特征。网络文化安全是在数字世界中，通过对网络文化资源的综合治理，强化网络文化的独特性、活力和创新性，引领网络文化向健康方向发展的过程。其内涵涵盖网络文化的生产、传播、接受和反馈等环节，涉及网络文化资源的存续、信息的公正传播，以及网络环境的公正、公平和开放性。它不仅关乎网络文化资源的实质保护，更关乎对网络文化价值观、道德观、审美观等精神文化元素的捍卫，以及对网络文化多样性的尊重。

网络文化安全的特征具有全球性、动态性、复杂性和预防性。全球性在于网络文化的影响力和渗透力跨越了地理和政治的界限，网络文化的问题和风险可能迅速地扩散到全球范围。动态性则体现在随着网络技术和网络文化的发展，网络文化安全的内涵和问题也在不断变化，需要持续关注和研究。复杂性则在于网络文化安全涉及法律、伦理、社会、经济等多个领域，各种因素交织影响，使网络文化安全的治理成为一个复杂的系统工程。预防性则强调，由于网络文化问题的扩散速度快、影响大，因此在问题发生前进行预防和管理至关重要，这也决定了网络文化安全治理的主要工作是预防和预警。

2.智媒时代网络文化安全治理新困境。智媒时代网络文化安全治理变得日益复杂，且面临全新的挑战。该时代的特点是人工智能与媒体的紧密融合，这对网络文化的生产和传播产生了深远的影响，并为治理模式提出了新的挑战。

首先，随着网络信息的快速增长，信息处理成为一个日益凸显的难题。以2016年的“通俄门”事件为例，俄罗斯军方通过大量虚假账户在社交媒体发布精心设计的信息，试图干预美国大选，其操作的隐蔽性和信息的繁多使得防控难度增大。这一事件不仅揭示了信息的生成速度迅猛，处理能力存在明显不对称，而且暴露了现有信息治理机制在面对大规模、系统化的信息干预行为时的无力。

其次，网络文化安全治理面临着跨界性问题的挑战。网络文化涉及的问题跨越多个领域，包括版权、隐私保护、言论自由等，形成了复杂的交叉问题。例如，谷歌公司推出的“谷歌地图”服务，用户可以获取到地理位置信息，这为用户生活带来便利的同时，也可能让用户接触到敏感的国防信息，对国家安全构成潜在威胁。这类服务使得网络文化安全治理不仅需要考虑信息技术层面的问题，也需要深入到法律、伦理等多个层面。

最后，网络文化的匿名性和信息传播的速度给网络文化安全治理带来了新的挑战。例如，在2020年新冠疫情期间，网络上出现大量与疫情相关的谣言，这些谣言在短时间内大规模传播，对公众情绪造成冲击，也对网络文化安全造成了严重影响。这样的事件揭示了网络文化的传播特性和匿名性使得谣言的防控成为一项极其艰巨的任务。

为了有效应对这些困境，需要引入新的治理理念和模式，如人机协同治理。人机协同能够结合人类的经验和判断能力，以及机器的大数据处理和学习能力，有效提高网络文化治理的精度和效率，有助于解决智媒时代网络文化安全治理的新困境。

二、人机协同赋能网络文化安全治理的必要性与可行性

人机协同治理是一种人与机器互补的治理模式，有效提升治理效率。面对网络文化安全治理的挑战，人机协同能结合机器处理能力和人类创新决策力，优化应对策略。鉴于人工智能和大数据技术的发展，人机协同治理网络文化安全是必要且可行的方向。

1.人机协同治理的概念与特性。人机协同治理是指人与机器在治理过程中共同参与，相互协作的一种治理模式。在这个模式中，人和机器各自发挥其优势，形成互补关系，共同完成治理任务。人机协同治理的实质是一种“合作-竞争-合作”的动态协作关系。人类利用机器的高速计算能力、大数据处理能力和模式识别能力，而机器则借助人类的创新思维、复杂决策能力和价值判断能力，两者相互补充，共同促进治理效能的提升。

人机协同治理具有以下几个显著特点。一是效率性，通过人机协同，能够更有效地处理大量复杂的数据和信息，对治理问题进行深入分析，从而提高治理的效率；二是灵活性，人机协同能够根据治理环境和治理目标的变化，快速调整治理策略和治理方式，具有较高的适应性；三是精确性，人机协同可以利用机器的精确计算和精细操作，提高治理的精确度；四是包容性，人机协同治理不仅包括人与机器的协同，也包括人与人、机器与机器之间的协同，形成一个开放、包容的治理网络；五是创新性，人机协同治理鼓勵创新思维和创新行为，通过创新来应对治理的新挑战，推动治理的不断进步。这些特点使得人机协同治理在应对复杂、动态、不确定的治理环境中，具有显著的优势和潜力。

2.人机协同网络文化安全治理的必要性与可行性。当前网络文化的安全治理面临着多元的挑战，包括法律法规的缺失、技术手段的不足以及公众教育和意识引导的薄弱等问题。例如，在2017年“勒索病毒”攻击事件中，全球多地受到影响，具体到我国的网络环境，即使有一些法律法规和技术手段，也因为公众教育和意识引导的薄弱，无法在第一时间做出有效的应对。这些挑战凸显了寻找创新的治理方式和策略的必要性。

在这个背景下，人机协同视域下的网络文化安全治理展现出其独特的优势。人机协同能够结合机器的强大计算和数据处理能力以及人类的创新思维和复杂决策能力，从而提升网络文化安全治理的效率和能力。就像在之后的勒索病毒应对中，我们通过机器的强大计算和数据处理能力，成功隔离了受影响的系统，同时利用人类的创新思维和复杂决策能力对未受影响的系统进行了重新配置和强化，有效阻止了病毒的进一步扩散。此外，人机协同还能帮助我们应对网络文化的全球性、动态性、复杂性和预防性等特性，实现网络文化安全治理的优化和升级。

基于当前人工智能技术和大数据技术的发展，人机协同视域下的网络文化安全治理创新不仅是必要的，也是完全可行的。例如，机器学习可以帮助我们分析和预测网络文化风险，自然语言处理可以帮助我们理解和监控网络文化内容，区块链技术可以帮助我们实现网络文化交易的安全和公正。此外，各国政府和企业也在积极探索和推动人机协同的应用，已经出现了一些成功的实践和经验。这些技术和实践，如同我们在处理“勒索病毒”攻击事件中所见到的，能够提升我们处理网络文化安全问题的效率和能力。因此，人机协同视域下的网络文化安全治理创新，是完全可行的，也是未来网络文化安全治理的重要趋势。

三、人机协同网络文化安全治理多元模式

在网络文化安全治理实践中，人机协同的作用日渐显著，催生出一系列多元化治理模式。这些模式各具特色，以自身独有的视角和策略促进网络文化安全治理发展，进一步展现了人机协同在此领域的重要影响力。

1.分工协作模式。在此模式下，网络文化安全治理体系内的人工智能与人类审查员建立了一种强大的合作并行机制，为审查体系创造了高度专业化的工作环境。这种模式采用了“职能分化”的原则，将计算机辅助决策系统与人类监控者的职能分离，依据各自的专长进行治理活动。人工智能系统在此模式中主要负责数据挖掘、模式识别和行为预测，它将负责广泛的监控网络行为，识别潜在的网络文化安全风险，并将这些风险标记出来以供进一步审查。这主要是因为人工智能在处理大数据、识别复杂模式以及执行快速、精确的数据分析方面有着明显的优越性。此外，人类审查员负责进行道德和伦理审查，处理AI可能难以解决的复杂问题和模糊决策，以其高级决策能力来处理这些复杂情境，并进行必要的情境调整。这种模式以技术与道德原则的协同合作为基础，充分利用人工智能的计算能力和人类的道德及情境理解能力，实现更高效、更全面的网络文化安全治理。例如，欧洲联盟的网络安全机构ENISA就采用了这种模式，他们利用AI技术检测网络中的可疑活动和潜在威胁，然后人类团队基于这些信息进行决策和应对。

2.动态协同模式。动态协同模式充分借鉴了系统动力学原理，注重在网络文化安全治理中的信息反馈、系统调整和自我优化。在这一模式下，人工智能和人类审查员互为参照，共同学习并不断调整策略以适应网络文化环境的动态变化。人工智能系统在此模式中运用其高级的模式识别和预测能力，实时监控网络文化趋势，并通过复杂的算法和模型预测网络行为的未来走向。人类审查员则利用自身对社会文化、伦理道德的深刻理解，评估和修正AI系统的预测结果，并提出实际的治理策略。在此过程中，人工智能系统不断学习和模仿人类审查员的决策模式，提升其处理复杂网络文化问题的能力。反之，人类审查员也能从AI系统的数据分析中获得洞见，优化自己的判断标准和决策过程。这种动态反馈机制使得治理系统能够实时适应网络文化环境的变化，实现网络文化安全治理的自我优化。总体来说，动态协同模式强调的是人机协同的动态性、反馈性以及自我调整性，为实现网络文化安全治理的智能化和自适应性提供了新的思路。例如，美国国家安全局（NSA）采用了这种模式，它的AI系统不断地学习和调整，以更准确地预测和识别网络威胁，而人类审查员则根据这些预测和识别结果制定出实际的网络安全策略。

3.学习增强模式。学习增强模式强调利用人工智能的强大学习能力，对网络文化环境进行深度理解，并从中提取有效的治理策略。该模式基于机器学习中的增强学习原理，通过建立模型来描述网络文化安全治理的决策过程，人工智能通过在这个过程中进行试错，学习到最优策略。在此过程中，人类审查员扮演着关键的角色，他们为人工智能系统提供初始的决策标准，并给予正确决策的积极反馈，促使系统逐渐学习和模仿人类审查员的决策策略。此外，人类审查员还需要定期对人工智能系统的学习结果进行评估和调整，以确保其决策过程的合理性和公正性。学习增强模式有助于实现网络文化安全治理的智能化，它可以大幅度提升治理效率，并能适应网络文化环境的复杂性和动态性。然而，该模式也对人类审查员的专业能力提出了更高的要求，需要其具备足够的网络文化知识和技术能力，才能有效地指导和监控人工智能系统的学习过程。总的来说，学习增强模式为网络文化安全治理提供了一种以数据驱动和学习为核心的治理方式。例如，澳大利亚政府利用这种模式来优化其网络文化安全治理，他们利用AI系统通过不断学习和试错，探索出最有效的网络监管策略，而人类审查员则负责评估和调整AI系統的学习成果。

4.全员参与模式。全员参与模式主张网络文化安全治理为共享责任，包含网络用户、平台运营者以及人工智能系统的广泛参与。网络用户应具备自我调控及不当行为举报能力，通过深化网络安全教育和文明素养培养，培育出高度的自我约束意识。平台运营者需制定并执行公正、公平的治理规则，确保网络环境的有序性与公正性。人工智能系统则利用技术能力，自动识别并应对网络环境中的安全隐患，显著提升治理效率与效果。在此模式中，人工智能系统既是执行者，又需要学习与优化，适应网络文化环境的复杂性与动态性。全员参与模式强调了人机协同的重要性，发挥了各方优势，推动了网络文化安全治理的全面性与深度性。实施此模式需对各参与者进行持续教育与培训，确保治理效果的有效性与持续性。总而言之，全员参与模式巧妙地融合了人工智能的技术优势和人类的智慧与责任感，为网络安全治理方面开辟了新的可能性。例如，新加坡的网络安全策略就倡导了全员参与模式，他们鼓励广大公民、企事业单位和政府机构等全体成员积极参与到网络文化安全治理中来，人工智能系统在此模式中则负责自动识别并应对网络环境中的安全隐患。

作者单位 西北政法大学新闻传播学院

本文系2022年度陕西省法学会课题研究项目“总体国家安全观视域下的网络文化安全研究”（项目编号：2022HZ1023）的阶段性研究成果。

参考文献

[1]郭海威，任晓刚，刘菲.科技创新赋能网络文化安全建设[J].新闻战线，2023（03）.

[2]廖祥忠.总体国家安全观视阈下网络文化安全的内涵特征、治理现状与建设思考[J].现代传播（中国传媒大学学报），2021（06）.

[3]李超民.建设网络文化安全综合治理体系[J].晋阳学刊，2019（01）.

[4]汪伟，韩璞庚.网络文化安全治理理论建构[J].南京社会科学，2015（12）.

[5]王岑.从人-机-环境看网络文化安全体系的构建[J].福建论坛（人文社会科学版），2009（04）.

【编辑：孙航】