网络新技术新应用对互联网内容生态治理的影响及对策

当前，网络新技术新应用的快速变革和蓬勃创新在为经济社会创造无限潜能和驱动力的同时，也在持续深刻诱发诸多安全风险隐患。着眼于前沿技术应用演进的趋势把握和实例跟踪，重点梳理分析其对互联网内容生产、分发、传播等方面的作用、机理和影响，正视技术应用创新发展双刃剑作用，着眼于制度机制、技术能力、基础研究、国际合作四个面向，通过发展赢得主动,对症解决网络新技术信用带来内容生态安全问题。

1 网络新技术新应用发展动向

1.1 泛在化

继三网融合、4G大规模商用后，5G通信网络研发已经进入实质推进阶段，在国际电信联盟的统筹下，各国围绕5G愿景、需求、路线、策略、技术、标准、频率、研发、试验等开展全方位、全生命周期的研究；明确5G的三大应用场景和八大关键能力指标，发布IMT-2020工作计划；我国IMT-2020(5G)推进组也已发布《5G网络架构设计》白皮书及5G无线关键技术测试结果，并在工业互联网、车联网、物联网等应用场景开始试验性落地。5G是“万物互联”的基础网络设施，“信息随心至、万物触手及”是5G的可期愿景。一方面5G超高速传输、低时延低损耗①相对4G网络，传输速率提升10～100倍，峰值传输速率达到10 Gbit/s，端到端时延达到ms级，连接设备密度增加10～100倍，流量密度提升1000倍，频谱效率提升5～10倍，能够在500 km/h的速度下保证用户体验。助推虚拟现实、增强现实、云端信息交互、音视频流媒体等业务进一步精益融合，带来身临其境、时空瞬息流畅切换的优质用户体验；云+端融合架构支撑下移动音视频直播/点播、视频会议、视频通话、无线视频监控、虚拟现实设备及应用迎来爆发式增长，内容传播载体高度集中于流音视频和三维立体图像，舆情分发渠道无所不在，舆情扩散瞬时性导致动员力几何倍增。另一方面，5G助推物联网高度渗透汽车、工业设施、无人机、医疗、家居等领域，实现多点多终端实时信息交互和数据汇聚采集处理分析。

1.2 智能化

不仅仅是用户终端,应用服务、通信网络、基础设施各个层面在云计算、物联网的支撑下实现资源应需智能调度、数据流畅通交织、业务系统软件模块高度集成自由组合;近期大数据与人工智能的深度融合应用，推动算法从规则型算法向学习型（机器学习算法）突破升级，社会生产生活的决策越来越依赖算法。基于大规模数据和云计算算力，人类将从逐渐重视算法的建议愈发深入转向直接接受算法的指令。通过机器学习、计算机视觉处理、语义分析与推理、自然语言分析交互等人工智能技术，算法日臻自学习化智能化，在互联网内容源生产、内容分发路径和内容生态三大方面带来重大变革影响。

一是算法生成UGC成为互联网新的内容来源，集中体现在大型内容平台生产机制方面；内容生产速度、效率和质量都极大提升。一方面克服用户原创内容水平参差不齐、难以进行人工审核、缺少持久创作机制等问题；另一方面伴随人工智能和物联网纵深普及，内容生成算法将在海量丰富、源源不断的非结构化数据训练下更加精益智能。此外，内容生成算法充分挖掘整合了此前人类经验积累的标准化模板，并以此为基础进一步优化完善。然而，算法和人工智能技术也带来内容生成被操纵控制的风险隐患。首先是UGC内容生产在智能化同时更有欺骗性，如华盛顿大学的研究人员用神经网络来观看视频，并将不同的音频声音转换为基本的嘴形，根据音频剪辑生成逼真的视频，让嘴巴的运动和音频同步。近期网络盛行的将新闻人物公开场合讲话视频图像的音频置换进行恶搞就是运用开源的一种机器学习算法来实现的，同样技术原理可以制作一系列色情、仇恨、暴恐等视频内容，并将原视频的人物“换脸”。其次是人工智能技术支持的语音转文字存在被恶意操纵的风险。近日谷歌研发成功Tacotron2系统，是文字语言转换TTS（Text-to-Speech）系统的一种，特点是不需要使用复杂的语言和声学特征作为输入，而是仅使用语音示例和相应文本记录训练的神经网络，从文本中生成类人语言。Tacotron2系统目前主要的应用主体是谷歌智能语音助手，目前网络超声波攻击技术可利用语音助手麦克风的硬件漏洞，使语音助手接收并执行超声波指令，实现对语音助手设备的控制。语音助手一旦被恶意控制，则实施网络犯罪欺诈活动，或增加发布传播违法有害信息的风险。

二是算法干预或主导内容分发路径，基于用户画像、社交关系、业务场景、行为轨迹等多维大数据分析的智能偏好推荐和精准匹配成为主流；算法推荐带来的内容精准分发提升内容传播扩散效率，进一步活跃繁荣互联网内容生态，带动更多用户进入并互动参与，反向训练提升算法性能，形成良性循环。当下网络编辑分发、智能推荐分发、社交关系转发等内容分发路径均是在借助算法进行效率性精准度优化提升，从而加强用户对内容平台的黏性，进而巩固算法主导分发的主流模式，主流的内容分发方式。

三是人工智能的高度发展带来定制化拟人态算法将深入嵌入人类工作生活决策过程，算法更深程度上替代人进行信息内容的检索甄别、分析处理并直接触发决策；从内容标准化生产到内容精准化分发到内容选择性接收，定制化算法间的数据交互逐渐形塑并主导互联网内容生态。

随着内容生产分发产业生态发育成熟和分工细化，首先是在内容服务商之外衍生出独立的算法中间商，提供用户画像、精准推送的算法算力。如浙江个推，其系统平台接入内容服务商提供的数据源，以SDK数据包的方式提供算法模型及能力，输出决定内容分发方式、渠道、频次、方向的技术规则，如标签化数据产品、场景推送服务，市场覆盖国内90%的互联网内容平台。其次，在内容生产、内容分发商、广告商三者独立细分基础上，衍生出勾联撮合广告商与内容商交易的竞价平台服务商。这一类竞价交易平台商着眼于内容源端，开发有内容商数据分析评价系统，对内容商作类型细分、影响力排行和目标用户群体特征分析，基于多维大数据的统计分析和持续的算法优化，对接广告商偏好为其自动匹配信息传播效果最佳的内容分发渠道，包括最低价自动匹配和竞价匹配两种交易形式。目前国内已涌现出成都云堆，猎豹分发平台等基于大数据分析的供需对接平台。以上两类内容服务模式具有共性特点：提供算法能力，精准定位用户需求，指导内容；本身并不生产信息内容，也仅仅是发挥辅助优化内容分发路径的功能。

1.3 开放化

开放性、普及性和无国界性是互联网与生俱来的本性。一是量子通信、卫星互联网等新型网络接入方式使得互联网信息服务和内容传播的边界、通道和效率前所未有的普适、深远和开阔，可以不受地形或国境的限制实现普遍应急通信服务，对制网权争夺的战略意义凸显。量子通信尚处在研究试验阶段，但卫星互联网近期已经是相当成熟稳定的应用突破，技术升级带来成本降低和性能提升。①如国外Ob3公司在中轨12颗小卫星组网实现固定通信，Oneweb公司计划2018年建成包括648颗中低轨卫星的通信网络、卫星信号终端接收设备技术性能也在持续优化提升。各国政策鼓励倾斜和产业资本青睐②美国奥巴马政府出台“先进无线通信研究计划”，政府投资5000万美元鼓励产业发展。Oneweb、SpaceX、Ob3等卫星通信企业布局频谱资源、研发卫星发射通信技术，与大型互联网企业资本合作等方式加速产业升级演进。有力推动了卫星互联网接入技术和应用的蓬勃发展。二是开源软件和技术推动信息内容传播快速广泛的同时也面临过于开放而被滥用的可能。境内外网络犯罪集团和间谍机构大量利用开源软件技术，利用零日漏洞研制网络攻击工具，注入恶意代码并窃取目标信息；甚至开源技术可以帮助篡改时间戳，隐匿犯罪行为，消除溯源标识轨迹。

1.4 隐匿化

加密算法、加密协议的持续演进，以及下一代互联网、IPv6为代表的新技术普遍提供了匿名通信功能,加密邮件,加密即时通信等普遍应用,网络行为的隐匿性越来越强。加强用户保护通信隐私的同时,也为互联网内容监测审查带来难度，给违法有害信息传播和网络欺诈犯罪以可乘之机。互联网的开放性叠加隐匿性为加剧不良内容舆论传播扩散，逃避管控处置和追踪溯源推波助澜，为网络违法犯罪、极端暴恐、民族分裂仇恨活动提供了化整为零、隐蔽勾连的重要依托。Twitter、Facebook、Youtube等社交媒体平台作为信息内容聚合交互的中心节点，主导着全球舆论生态的生成分发环节，结合其他加密社交软件、虚拟专用网、阅后即焚应用软件等网络通讯工具通过社交分发和定向智能推荐分发模式，实现跨地区跨国界舆情生态的影响干预，并支撑起网络间谍、暴恐分裂和欺诈犯罪活动的行动勾联和信息沟通。

1.5 不对称

一是技术、资本和路径依赖下的国别不对称：美国等发达国家利用对互联网关键基础资源设施、核心技术、信息内容和用户数据的垄断优势,结合民主、自由、人权等话语体系进行绑架，不断巩固其网络霸权,加大对其他国家进行信息渗透、技术控制和产品倾销力度；凭借信息技术和产业绝对优势，通过跨国条约、双边合作、贸易调查和安全审查筹划把控技术、数据核心战略资源，恶化加剧网络世界“强者更强、弱者更弱”的态势格局。二是技术、资本和路径依赖下的主体不对称：人工智能和大数据技术支持下，互联网平台企业愈发实质性具备干预主导着互联网信息内容的能力；依托规模效应、长尾效应、双边市场等特征，构建起多边主体汇聚、撮合交互组织生态，具有网络正效应和跨界融合的突出竞争优势，持续扩张吸纳演化成超级巨无霸公司；能够充分汇聚中转双向交互信息内容，在内容源、分发路径、传播中转、信息接收关键环节施加制作发布、过滤审查、定向推送等影响，形塑互联网内容生态。快速崛起的互联网超级平台，全面向文化传媒内容领域持续渗透，一方面受商业模式和算法影响，成为传播虚假信息、暴恐色情信息的主渠道；另一方面，其资本构成相对复杂，甚至受制于外国资本。受资本逐利性、和平演变目的，采取在法律灰色地带对内容传播和舆情方向进行负面干预，放任或有意扩散虚假不实和煽动不良信息等内容。各国政府日益重视对平台企业内容安全治理责任的强化督导，尤其是在美国大选通俄门，英国脱欧民意被操纵，乌克兰、土耳其、德国、法国监测发现关于政党选举和政治议题的舆情被诱导等事件爆发后，欧盟、印度、澳大利亚等接连出台指导性法规政策①相对4G网络，传输速率提升10～100倍，峰值传输速率达到10 Gbit/s，端到端时延达到ms级，连接设备密度增加10～100倍，流量密区块链融合分布式架构、p2p网络协议、共识算法、加密算法、数据验证、智能合约、身份认证等技术，实现基于时间顺序的区块和链数据存储，确保各节点数据一致性和数据传输存储加密，构建自动化脚本运行智能合约，实现交易的自动判断和处理。，要求即时通信和社交平台加强用户举报投诉处理，加大执法协助，采取信息标签追踪、非法内容主动检测、技术屏蔽、引入第三方监控等方式进行内容治理，消除仇恨暴恐色情信息。

1.6 去中心化

多极化和去中心化是互联网的本质属性，区块链在其基础上进一步强化数据验证、共识更新、传输存储加密和智能合约自动执行，成为防数据篡改，留存行为痕迹，创造匿名互信生态的关键技术支撑。目前区块链在内容生产、分发领域的主要应用较为点状零星，有通过区块链的数据共识更新、智能合约执行机制来创建一项内容创作众包项目，实现多节点协作和精准计酬；有通过传输存储端到端加密、不可篡改来确保数据互验和信息分发的精准性和可溯源，创建真实防伪可追溯的信息内容生态，并实现多极各节点快速流转分发。当然，由于区块链最普遍的应用是比特币融资交易，能够为大量干预诱导负面舆情，传播不良极端分裂仇视、虚假欺诈信息，为从事网络间谍、暴恐、犯罪活动的组织或个人提供转账、交易的资金链，协助匿名化移转犯罪资产逃避追踪监管。

2 对互联网内容生态治理的影响

网络新技术新应用深刻影响着互联网信息内容的生产、分发、接收、载体、路径、形式等方方面面，有机遇也有挑战，有可积极利用、因势利导也需重点研判分析，加强应对。

2.1 改变信息内容生成分发的流动模式，信息内容监管工作面临考验

一方面，UGC信息源和互联网内容平台的强势崛起，信息传播渠道更加隐匿多样，再加上互联网开放接入和信息无国界跨境传播，终端接收获取的即时性、智能化，信息生成、传播分发路径去中心化、无序化、跨平台化、多属性和放射状，带来信息识别监测、内容筛查过滤、溯源追责处置的巨大压力。另一方面，人工智能、大数据、云计算技术推动算法对信息内容生态的渗透性应用，加上算法的内容审查效应，存在被出于资本利益、政治意图、商业目的，施加人为的操纵干预，结合互联网内容平台立体化多级化网络化的宣传能力，极易引发信息内容生态乱象。

2.2 增强互联网舆论动员、政治动员和组织动员能力，极易被不法人士利用

用新技术来制造暴恐事件、社会混乱、极端行动、不良思潮和政治危机，重大活动重要时期安全保障工作难度倍增。一是微博客、即时通信、社交软件、搜索引擎、网络直播、公众账号等互联网内容平台强化虚拟社会和现实社会的耦合,线上线下交流互动更加频繁有效,即时通信功能持续强化；新技术的智能化、泛在化、开放化、隐匿化进一步便利了线上组织策划,宣传煽动,信息扩散等违法活动，极大增加了突发安全事件监测预警、应急响应、内容干预、信息调控、追踪测源、舆情疏导的难度若未能及时有效的纠偏处突,将可能引发严重的社会事件和安全事件,危及政权稳定和稳定和谐大局。如近年发生在埃及、突尼斯等国的民族分裂政权颠覆事件中,即时通信和社交媒体策应辅助,通过话题制造、内容剪裁、定向分发、片面宣传、民意欺骗、舆情诱导等手段，发挥事态演化的“导火索”、“催化剂”和“放大器”。二是人工智能算法+大数据，与政党政治主题关联绑架，在内容自动生成和内容精准分发环节发挥作用，导致强大的政治诱导和宣传动员能力。算法技术服务商、主流媒体、互联网内容平台商联动构建起庞大的内容制造宣传网络，前端以行为追踪识别技术实现数据采集，以人工智能技术和数据挖掘分析技术为底层支撑，构建心理行为分析预测、广告定向投放模型算法，实现网络虚假新闻信息的精准分发，形成强大的舆论动员、情绪煽动、观点引导、社会动员影响力。牛津大学互联网研究所计算宣传研究项目（COMPROP ，Computational Propaganda Research Project）通过分析如何利用社交媒体机器人等工具，通过放大或压制政治内容、假情报、仇恨言论和垃圾新闻来操纵公众舆论，确认了算法、人工智能和政治选举之间的密切关联。

2.3 扩展并改变信息内容形式和信息保护的范围方式，被窃取、泄露的安全风险加大

一是“互联网+”加速融合渗透趋势下，信息内容形态和信息保护范围在政治、经济、军事、外交等领域持续扩散，信息流通环节和主体愈发多元复杂，信息交互共享和分析应用程度加深，信息保护的可控性、防窃取性降低,信息隔离和访问控制亟待增强；二是物联网、智能终端、泛在接入、云化资源虚拟调度等新技术，电商、直播、游戏、交通、医疗等民生服务的互联网化应用普及带来事关国计民生重要敏感数据、社会关系数据和隐私数据被广泛采集汇聚，开放共享和动态跨境调度，引发泄露风险。

2.4 带来互联网内容安全治理的新模式新契机

一是在舆论引导、舆情环境调控干预方面，人工智能、大数据和算法的技术性能优势能够发挥正向积极作用，服务于核心价值观、正能量、理性真实思想思潮等内容的宣传鼓舞；二是内容治理、违法信息监测处置方面，人工智能与大数据结合下训练优化的算法模型可充分发挥监测预警、智能化识别发现和应急处置的作用。当下Google、Facebook、Twitter等以用户举报投诉、样本匹配、人工审查等方式为基础，结合人工智能算法模型，对极端暴恐仇恨内容进行标记、识别、追踪和移除。国外部分知名大学和科研机构构建暴恐仇恨信息数据库，汇总暴恐行为、暴恐组织、暴恐事件结构化、非结构化数据，梳理提炼并标签化属性，设计预警算法和模型，加强对暴恐活动的监测防御能力。我国在防范打击网络犯罪和通讯信息诈骗专项治理中，积极运用大数据挖掘分析技术，结合众多诈骗典型案例、涉案要素和行为特征数据，构建态势感知和监测预警模型，最大限度提升违法信息传播被识别发现的概率和效果。

3 对策建议

技术是双刃剑，技术变革升级带来的安全风险隐患常变常新，互联网内容生态调控管理任重道远，宜动态跟踪、全面把握、稳中有序、常抓不懈。通过发展赢得主动,是解决网络新技术新应用带来内容生态安全问题的根本举措。面对网络新技术新应用带来的互联网内容生态治理新问题新契机，考虑着眼于制度机制、技术能力、基础研究、国际合作四个面向，按照责任明晰、科学管理，协同联动、综合治理的基本思路，统筹提升互联网内容生态治理综合实力。

3.1 顶层设计、责任督导

一是推动科技体制的创新调整，加强对重大前瞻技术趋势动向的跟踪研究,倾向重大专项的资金人才支持，鼓励创新丰富互联网信息服务创新应用，推动信息安全产业培育健全,加大对信息通信技术领域重大自主创新项目政策支持和金融财税杠杆投入,引导大型互联网企业加强安全自主可控技术系统设备研发应用，逐步减少关键信息基础设施对国外技术，产品和服务的依赖,为互联网内容安全治理赢得主动,争取空间，夯实保障。

二是以《网络安全法》落地为契机，健全完善内容安全治理规范体系，明确细化电信运营商、互联网接入服务平台企业、互联网内容服务平台企业的内容安全保障责任、数据安全责任和用户隐私保护责任；从内容审查过滤、用户实名管理、应急响应处置、日志留存和行为审计溯源、第三方审查评估、执法协助配合、举报投诉机制、合作方督促、平台自律执行和平台替代责任等方面强化过程与结果约束。

三是构建N+1监管机制，明晰权责边界，强化专项协同治理。按照体系统筹、齐抓共管的思路，结合具体的舆情专项治理领域，明确统筹管理、内容治理、防范打击、技术配合等有关单位的职责边界，建立推动国家内容安全的跨部门情报共享、监测巡查、日常联动、应急处置、通报约谈、协同查处等机制运行和执行实施。

四是准入评估、问题巡查、执法检查、信用公示等监管措施合力，加强平台企业主体责任督导。紧扣内容生产分发的形式载体、传播源头、传播渠道，明确源头治理和渠道管控的策略思路，把控搜索引擎、即时通信和社交平台、自媒体社区和公众账号、网络直播平台等关键企业，严格准入阶段的主体能力审查和新技术新应用的事前事中评估审查；依托安全评估巡查监测机制，组织开展责任落实专项督导，持续跟踪锁定问题隐患、督促整改，加强行政处罚和监督问责；研究建立重点平台互联网企业联席机制和责任信誉评价机制，将主流媒体平台和内容平台打造为公众与政府沟通交流的纽带和政府信息传播发声主阵地，以政府权威公信力提升带动正向舆论。

3.2 技术监测、应急调控

一是加快健全安全评估工作体系和覆盖全网重点平台企业、业务系统的技术监测分析处置技术能力，加强内容安全风险的监测发现和研判处置，强化对重大敏感时间节点的舆情跟踪，深入开展内容生态的态势研判和规律分析。

二是以《国家网络安全应急预案》为指导，研究建立应急指挥联动系统和协同管理平台，加强关键环节、重点主体、特殊地域、重要时期的风险预判和处理应对能力，针对违法不良信息扩散、敏感热点舆情、暴恐极端活动事件的线索表征做到及时发现，积极疏导，应急响应。

三是按照统筹规划、统一建设、资源共享、标准配套的思路，建立技术能力的跨部门共享合作机制，避免重复建设和资金浪费；推动有关标准制定颁布，标准引导推动国家、行业技术平台建设和内容安全管理水平提升。

四是指导互联网平台企业健全内容安全管理和舆情监测预警工作体系和技术手段，提升舆情正向干预和危机处置技术能力。

3.3 前瞻布局、为我所用

一是紧密结合信息技术发展趋势,加强顶层设计和长远研究，加大研发力度，开展科技攻关，研发应用内容安全和舆情监测核心技术，努力突破暗网、区块链、加密通信等关键技术，为保障国家安全和促进经济社会发展提供坚实的技术保障。

二是坚持抓当下和谋长远相结合，积极布局大数据、人工智能、区块链等技术突破，运用机器学习、模式识别、图像识别、自动分析决策等技术能力、研发智能化自动化感知触发，主动防御技术能力，提升信息推送、舆情引导、信息管控的自动化感知触发和精准化水平。

3.4 国际合作，对话共赢

互联网本质上是开放互联、无国界的，当下互联网内容安全治理日益受到各国政府重视，成为全球关切焦点和外交关系敏感点。制定和推进信息安全领域的外交战略，积极参与和引导国际规则制定,广泛依托一带一路战略、互联网大会、中国-东盟、联合国、上海合作组织等组织形式参与互联网治理议题发声讨论，利用ITU、IETF、ISO/ITEC、ICANN等国际技术标准联合开展对人工智能、区块链、5G、物联网、IPv6等前沿技术应用研究和标准研制，努力克服技术、资本和信息霸权带来的负面影响，加速追赶。加大同美俄英法等国家的高层交流沟通，推动形成网信息安全事件处置合作机制，加强预警通报,提高危机管理力，共同应对跨境网络信息安全问题。