人工智能生成内容对构建主流舆论新格局的挑战及其应对策略

于 璇，莫 琴

（宁夏大学新闻传播学院，宁夏 银川 750021）

习近平总书记在党的二十大报告中指出，“加强全媒体传播体系建设，塑造主流舆论新格局”［1］44。在人工智能、大数据及虚拟技术的驱动下，以全程媒体、全息媒体、全员媒体、全效媒体为主要特征的全媒体时代正在重新塑造主流舆论传播格局。人工智能技术赋能的同时，也带来了社会结构、社会文化、社会观念等深层次变化，舆论生态环境复杂多变，对塑造主流舆论新格局提出了新的要求，人们已经不能从内容生产、媒介生态、管理制度、技术手段等单一视角出发作出研判，而应从系统论视角去探讨主流舆论新格局的格局构建和发展趋向。由于人工智能技术本身具有一定的舆论属性与社会动员能力，因此基于人工智能技术视域塑造主流舆论新格局，不是在新闻舆论工作的末端对既定主流舆论的引导动作，而是对新闻舆论工作进行前瞻性顶层设计，从信息生产端对网络传播最小信息量（比特）所进行的整体性战略布局。

中国互联网络信息中心第51 次《中国互联网络发展状况统计报告》显示，截至2022 年12月，我国网民规模达10.67 亿，互联网普及率达75.6%，而其中短视频用户规模达10.12 亿［2］。短视频平台在智能推荐算法以及人工智能技术赋能下已成为塑造主流舆论新格局、引领全媒体传播体系建设的重要载体。短视频内容生产领域已经呈现出鲜明的人机混合内容生产态势。从早期的机器人写作到人工智能技术深度介入短视频内容生产领域，AIGC （Artificial Intelligence Generated Content，简称AIGC）技术在智能推荐算法赋能下，在内容与技术两个层面极大提升了网络平台内容生产的智能化水平。从人工智能到生成式人工智能，人工智能技术实现了从数据挖掘向内容生成的发展转向。具体到短视频平台而言，人工智能到生成式人工智能则意味着从“精准信息推送”到“精准信息推送+精准信息内容生产”的转变，这将深度影响网络用户使用短视频时从“所见”到“所想”的全过程，成为人工智能时代的“议程设置”。AIGC 正在凭借其原创程度高、生成速度快、选择范围广等优势影响现有短视频内容生产格局框架以及短视频内容推荐机制，同时也将对构建主流舆论新格局产生深层影响。

一、AIGC 的发展现状与技术反思

当前，AIGC 的代表性应用便是Open AI 基于Transformer 架构开发的自然语言处理模型ChatGPT［3］15-23。2022 年11 月，ChatGPT 仅上线2个月，其活跃用户量便超过一个亿。2023 年3 月，GPT-4 上线，该模型不仅可以处理文本，还可以同步处理文本及图像。此类基于大型语言模型训练的新型生成式人工智能技术拥有较高的语言理解以及文本生成能力，不仅可以进行人机交流，同时还可以完成撰写语言文本、编辑视频脚本、生成文案、编辑代码、生成静态图像和动态图像等任务。生成式人工智能技术由于其独特的语言交互与内容生成能力，已经应用在多个领域。在短视频生产领域，还出现了复合型的AIGC 平台，网络用户只需要输入若干词语，即可快速获得自动生成的短视频作品，包含配音、配乐、文字描述、图像与声音拟合等，真正实现“一键生成”短视频。国内外有关AIGC 的研究大多围绕著作版权、人机关系、技术方案等领域，定性探讨人工智能生成内容的应用现状及可行性问题，缺乏从宏观层面对于AIGC 所引发广泛社会讨论的把控［4］1-17。现阶段，生成式人工智能技术方兴未艾，最直接的影响莫过于内容生产领域大量需要重复性操作的岗位可能被技术所取代，但更深层的影响在于生成式人工智能技术改变了现有内容的生成方式，在内容生产中出现了“独立”于个体之外的技术创造力，并作为一种全新的生产力影响网络用户认知世界。从媒介技术视域出发，生成式人工智能技术虽然可以极大提高内容生产的效率，在人类艺术审美之外生成富含“技术意味”的作品，但在其发展路径中，也需要同时反思技术可能带来的价值迷思。

（一）内容生产门槛降低，技术至上价值迷失

人工智能时代，大数据价值日益显现，智能算法成为网络平台沉淀网络流量的重要技术手段。以智能算法为代表的网络技术正在改变着网络用户信息触发行为。正如“一千个人就有一千个哈姆雷特”，智能算法之下同样是“一千个人就有一千个不同的屏幕”。网络用户接收的信息，是对其网络行为精准画像后的智能化呈现。短视频在智能算法赋能下改变了网络用户用网习惯，让“人找信息”变成“信息找人”，使信息在传播方式上发生了重大变革。以ChatGPT 为代表的生成式人工智能模型则以较高的人机理解交互水平成为人工智能技术发展中的又一里程碑，使信息在生产方式上出现重大变革。

短视频内容生产主体多元，不仅包括专业内容生产，还包括用户生产内容，这些内容生产主体每一个“爆款”产品，需要经验积累、精心设计和反复打磨。由于智能推荐算法并不公开，一个“爆款”产品的诞生还需精准计算才能进入算法流量池，获得更高曝光度。在生成式人工智能技术的加持下，对内容生产主体的经验、技术和审美门槛要求越来越低。初涉此领域的生产主体可凭借此类智能技术在视觉呈现方面实现突破，对于已有一定流量积累的生产主体而言，则可通过智能技术进一步其提高剪辑制作水平，调整叙事逻辑与视觉呈现方式，使内容更加符合网络用户的观看体验。

同时，网络用户对内容的关注也会迁移到对生产内容的技术关注中来，“炫技”本身也可以产生新的网络流量。比如，网络用户可以通过短视频平台嵌入的小程序快速实现AI 换脸，将影视片段中演员的面部特征替换为其他人，进而获得较高的网络曝光量。网络主播通过AI 技术换上明星脸可更好地导入流量进行直播带货。抖音平台中“一键解锁瞬息全宇宙”将AI 重绘画面以短视频方式呈现，获得过亿用户参与。此类以技术为主导的AIGC 在模因效应下受到网络用户热捧，符合注意力经济规律，但也存在巨大的法律风险。同时，在技术至上的理念逻辑下还可能导致网络用户价值的迷失，网络用户的自我创造力、能动性、独特的审美被技术所替代，在充满未来感与虚幻感的泛娱乐化内容中迷失自我等问题。

（二）存在技术滥用风险，个体影响难以评估

目前，短视频内容生产普遍采用AIGC 与传统内容生产混合式生产方式，除AI 换脸等提示性标识平台小程序外，网络用户很难从短视频前台识别出内容生产所使用的技术方式。一些短视频内容生产机构已经不再单独委托视觉内容生成团队，而是转向了更加便捷、快速生成式人工智能技术。通过支付一定费用后，即可获得所需要的内容素材，进行简单的人工调整即可以快速发布。相对于传统的内容生产流程，生成式人工智能技术极大地扩展了想象空间，在短时间内可提供多个可选方案，从而提高了生产效率，促进了传播效能的提升。但同时，也要关注技术滥用对个体的影响，有媒体报道关注到网络用户成为AIGC 技术的受害者，其头像、照片等被AIGC 用于不雅视频的制作，对其个人声誉造成负面影响，还有网络用户受到AIGC 新型电信诈骗困扰。

有关AIGC 技术的讨论主要集中在两个方面：一是对技术发展本身的关注，主要探讨其技术价值、应用场景及发展趋向；二是对技术对个体影响的关注，主要探讨其社会价值及可能对社会结构、社会文化等方面产生的深远影响。研究者对AIGC 的态度普遍是较为警醒的，认识到了其可能对网络用户认知结构产生影响，并在同步评估现阶段此类技术对个体影响的程度。有关生成式人工智能技术的讨论已经从技术层面转向更深层次的社会层面。研究者从技术应用前景中看到了AIGC 可能解决个体劳动中创作倦怠、灵感枯竭等现实价值，但同时也担忧诸如ChatGPT等生成式人工智能技术滥用问题，包括个体价值迷失在技术至上的价值取向中，弱化个体的自主性、能动性和创造性等现实问题，技术被反向不当利用，成为操控舆论、生成网络意见、制造虚假新闻的工具等。利用AI 合成短视频制造虚假新闻契合了网络用户的某些认知偏见，对于个体而言，AI 合成短视频丰富了“有视频有真相”的逻辑链条，使得刻板印象进一步强化，但同时这种生产模式对个体的影响是难以短时间察觉和评估的。

（三）重塑内容叙事框架，加速舆论博弈进程

学者黄旦将框架理论的中心问题总结为媒介的生产，即媒介怎样反映现实并如何规范人们的理解［5］231-233。框架理论视域下，议题生产、话语和意义的建构都是媒介生产带来的结果。当前，短视频作为我国网络用户使用频次最高、使用时长最长的互联网产品，对其传播内容的考察，既可以基于独立的话语系统，也可以基于话语系统与其他系统的关系。在生成式人工智能技术深度介入短视频内容生产后，对短视频传播内容的框架研究必然要考虑到技术对话语系统的影响与重塑。同时，个人在做出决定、形成判断或者是表达意见时，也会依据个体框架和经验去认知世界、了解事物。在对公共事务的框架建构中，媒体通常采用新闻框架来引导受众关注的焦点，从而建构起受众对公共事务的“思索与表达的过程”。新闻框架通过“选择感知现实的某些方面，并在交流文本中加以突出，以帮助受众明确特定的问题定义、因果解释、道德评价或解决方案”［6］133。

伴随数字技术及其人工智能内容生成带来的内容生产方式变革，网络用户所接收的信息在叙事框架、叙事结构方面出现了深刻变化，人工智能技术已经介入到对网络用户公共议题的框架建构中来，“新闻职业的主体性受到了空前的挑战和影响”［7］35。智能数字内容孪生、智能编辑、智能视频剪辑等技术，虽然能够提升短视频内容的价值，但同时技术的介入也会进一步弱化人的主体地位，从而形成技术主导的“框架世界”。借助虚拟技术、智能穿戴技术等人工智能技术，可将传统的文字、声音、图像、短视频方式的新闻现场追踪报道转变为三维空间的可感知现场，网络用户具身参与到新闻现场中去。在短视频平台中，生成式人工智能将会“更懂”如何吸引网络用户的注意力以提高观看流量。

此外，那些附着在技术之下的“价值取向”“价值偏见”也会反映到生成的内容中来。清华大学于洋团队就通过AI 模型性别歧视水平评估项目发现在人工智能领域依然存在“性别歧视”。由于人工智能技术底层架构不明、价值倾向不清晰，也增加了人为操纵生成式人工智能技术的可能，出现技术设置议题的局面。在技术发展趋向逐利的底层逻辑下，生成式人工智能技术背后的数字技术资本属性极易与资本利益挂钩，从而成为资本的技术工具、操纵舆论的帮手，其对内容生产领域的渗透加速了舆论博弈的进程。

二、AIGC 对塑造主流舆论的挑战

2019 年1 月25 日，习近平在中共中央政治局第十二次集体学习时强调：“要坚持移动优先策略，让主流媒体借助移动传播，牢牢占据舆论引导、思想引领、文化传承、服务人民的传播制高点。要探索将人工智能运用在新闻采集、生产、分发、接收、反馈中，全面提高舆论引导能力。”［8］生成式人工智能的底层依然是各类算法，如果AIGC 的“方向盘”没有正确的导向，任由其发展，那么生成式人工智能技术的社会价值就没有得到充分释放，反而可能深陷在良莠不齐的智能生成内容泥淖中。应当认识到，生成式人工智能技术并不可能脱离社会现实和人类社会而独立运行，生成式人工智能技术的广泛应用也并不意味着新闻专业主义退场及法律监管与新闻伦理可以放松底线。当前AIGC 应用与发展处在快速爆发期，2023年4 月11 日，国家互联网信息办公室发布了《生成式人工智能服务管理办法（征求意见稿）》［9］，传达出中国在人工智能行业发展方面的支持态度，但同时也为人工智能行业划清了底线与边界。生成式人工智能技术对塑造主流舆论可能带来的挑战与风险主要集中在三个方面：一是技术本身的逻辑架构与技术框架是否合规，投资者、设计者与人工标志者的价值倾向是否明确；二是技术的属性问题，是否存在反向利用技术的风险；三是生成内容本身是否存在不当利用等风险。

（一）技术价值倾向模糊，底层架构缺乏监管

AIGC 中的文本信息主要来自对互联网上的数字资源的引用。ChatGPT 能够为用户带来媲美真人对话体验的关键在于其基于预训练使用的偏好数据与评分算法实现了对人类认知机制的深度模拟。在预训练环节，大量人类偏好知识被注入ChatGPT 使用的大型语言模型［10］113-122。ChatGPT对于数据的训练主要源于互联网的海量数据，由相关技术人员进行操作。然而其在训练和制定程序的过程之中，主要是依靠研发公司制定的规则并由具体的岗位工程师进行把关，因而无法做到技术上的客观、中立。虽然现阶段ChatGPT 在遵守伦理道德与恪守法律底线方面表现较好，但ChatGPT 语言交互行为依然带有很强的价值传输属性，而其底层架构主要部署在国外，相关数据的流动存在诸多的不确定性，可能在相关技术的底层逻辑与架构中潜藏失范的风险。综上，任何技术都不可能完美，AIGC 亦存在着风险和隐忧，并随着人工智能技术的广泛应用而渗透到我们生活的方方面面。同时，需要重视的是，在AIGC 所带来的媒介生态环境变革中，主流媒体的社会功能和话语权将有可能被进一步削弱与稀释。

（二）深度绑定算法技术，存在操控舆论风险

隐性运行的人工智能算法可以为网络用户的网络使用行为赋值、加权，也可在网络空间中构建拟态社会，将个人观点“打造”为公共舆论。在人工智能算法技术权力之上，又同时滋生出资本权力和话语权力。商业资本通过合并、收购、资产转让的方式获得数据管理权，拥有资本权力，话语权力则通过对碎片化内容呈现方式的设置而建构出来。虽然网络用户游走于不同网络平台，人工智能算法并不一定对其产生回音室效应，但也可能强化网络用户某些固有观点。以推荐算法为例，这是目前广泛应用于商业垂直搜索、短视频推送、新闻信息推送等领域的算法之一，通过对网络用户的性别、地区、网络使用习惯、信息获取倾向、态度行为等进行标签化处理，以达到精准推送或购买转化的目的。算法内容分发的“千人千面”在一定程度上对构建公共对话的基础提出挑战，而生成式人工智能技术则对构建公共对话的内容基础提出挑战。AIGC 已经深度绑定算法技术，网络用户从“所见”到“所想”全过程都有人工智能技术参与，人的主体作用弱化为“被推荐”，在“推”的内容中构建个体的认知框架。此外，此类技术一旦被网络水军、网络黑公关所使用，还存在炒作议题、放大问题等舆论风险，加剧舆论复杂程度，影响舆论生成模式。

（三）真假信息难以识别，消解对冲主流舆论

短视频内容传播改变了网络用户接受信息的方式，将网络用户“找”信息转变为智能算法“推”信息。短视频内容生产中，智能技术的入场模糊了内容生产中人的主体性，以ChatGPT 为代表的AIGC 可能会加剧网络用户对“推”信息的依赖程度。此外，虽然机器学习速度快，但其学习内容来源驳杂，AIGC 并非凭空而来的技术，其背后是大量数据信息的积累以及对语料库的深度学习，人工智能虽然在人机交互的真实性模拟方面不断提升，但其自身尚未具备对价值的判断能力，对信息的精准判断存在偏差，从而进一步增加了网络用户对虚假信息识别的难度。“虚实难分”“真假难辨”“以假乱真”还体现在人工智能技术生成的高清动态影像，这些建立在算法模型上的完整长镜头可能会增加网络用户判断信息真伪的难度。AIGC 虚假信息问题形成根源与其大规模语言模型、预训练数据集和人工标注三个要素有关，减少AIGC 虚假信息的方法与建议是缩小AIGC 范围，进一步明确领域专业知识，用户构建适合任务的提示进行技能培训，提高其使用AI系统的技术素养以及聘用专业人员开展人工标注，提高数据标注质量［11］1-9。

此外，AIGC 也在消解、对冲现有主流舆论传播格局。美国人类学家霍尔曾对世界文化做出“高低语境文化”的分类，认为高语境文化主要依靠语境进行交流，而低语境文化主要依靠信息编码来进行信息传播［12］79。叠加文字、图像、声音等多重要素的短视频产品凭借其技术赋能、话题突出、内容精炼等传播优势，全方位进入碎片化生活场景，快速与网络用户产生情感联接，唤醒记忆，形成价值共鸣，成为网络用户普遍适应的低语境交流方式。短视频在人工智能技术的加持下成为沉淀网络流量的重要平台，同时借助生成式人工智能技术输出大量短视频内容，迎合用户习惯，因其在用户规模、触达半径、使用时长等方面拥有绝对优势，加之其信息理解、信息发布、信息传播门槛低，使其对主流舆论传播长期以来所形成的高语境交流范式产生一定的消解与对冲影响。

三、构建主流舆论新格局的实践路径与应对策略

构建主流舆论新格局、塑强主流舆论声音，离不开人的主体参与，也同样离不开人工智能技术赋能。从互联网、移动互联网再到智能互联网，由人工智能技术驱动的网络技术正在深刻改变人与人、人与信息的连接方式，解构与建构并存，形成人工智能时代的信息传播新格局。虽然现阶段，AIGC 还有诸多不足，我们对其价值的探索仍处在初级阶段，但生成式人工智能技术已经在实践层面影响和改变着网络用户获取信息、感知信息的方式和途径。基于以“比特”数据为基本构成元素的智能化环境，塑造主流舆论新格局必将进行数字化、智能化转型，现有互联网治理结构也将从对信息的治理转向更深层次的对“比特”和逻辑架构的治理，在人工智能的底层逻辑和信息传播的最小单位中嵌入引领主流价值、塑造主流舆论等价值因子。我们应对技术本身抱有充分理性的认知和警醒，坚持价值理性和工具理性合辩证统一，在拥抱人工智能技术的同时，也要对人工智能技术本身持有审慎的态度。

（一）抢占主动，适应智能技术需要

AIGC 越来越多地嵌入到人类知识生产、社会认知与日常生活中，但也带来了更深层次的隐性问题，即其智能生产输出的内容能否客观、准确、无价值偏见。从生成式人工智能技术发展趋势来看，这一领域未来将成为新的流量入口。从AIGC 的发展解读而言，数字孪生、辅助人类工作只是其起步阶段，其迭代发展的目标是实时独立完成内容生成。此类技术与虚拟人技术、元宇宙技术等结合，极有可能打破现有以社会化媒体为基础的网络传播格局框架。目前，热门人工智能生产内容应用主要集中在欧美国家，由于其训练数据多来自外国，因此我国网络用户在使用此类技术时，会出现“水土不服”等情况，所获信息存在一定价值偏差。面对AIGC 带来的冲击，特别是在技术领域存在的意识形态竞争，如何才能做到应势而动、顺势而为，成为塑造主流舆论新格局不可回避的问题。当人工智能生产内容成为社会发展的趋势之一并成为网络用户认知世界的方式后，如果没有抢占主动权，主动适应智能技术需要，则丧失了未来在元宇宙等虚拟空间中传递中国声音、讲好中国故事的机会。AIGC 高度复刻知名歌手声线进行歌曲翻唱，其中获得知名歌手的声音素材是训练AIGC 模型的关键，因此，为提升我国在生成式人工智能技术领域的影响力，加强对供给训练素材的治理或为可行路径。

（二）加强监管，提升信息识别能力

AIGC 的低门槛特性，使得每个网络用户都能通过相应技术快速拼接、生成、发布大量虚假信息，对于缺乏判断力的网络用户而言，很难依靠自身能力去判断信息的真伪，往往基于“眼见为实”，轻信生成式虚假内容。例如，数张有关美国前总统特朗普被捕的虚假人工智能合成照片在美国社交平台大肆传播，这些依靠人工智能技术合成的照片骗过了许多网络用户的眼睛，甚至很多人相信了这些照片。从技术视角来看，生成这些虚假照片并非难事，但其可能产生的传播风险却不容小觑，一旦人工智能合成的深度伪造照片被大量引用到网络新闻中，则可能误导网络用户对事实的判断。

欧美多国都有针对“深度伪造”视频图片的规制政策，但面对日益复杂的人工智能技术，监管难度日益增大。生成式人工智能技术的“快速反应”“逼真呈现”无疑加速了舆情爆发的速度，这对构建主流舆论新格局而言也充满了挑战。未来舆论博弈不仅要面对传统场域，还要面对生成式人工智能技术被不当利用导致的大量虚假舆论信息集中爆发。面对新技术新应用，需要持续地探索一套敏捷高效的监管机制和监管方式，“涉及训练语料、算法模型、交互指令、内容传播等各个环节，面向全链条的内容风险管理也成为必要”［13］7。我们还要提升对信息生成方式的识别能力，最大限度地快速应对和处置伴生的各种风险类型。在生成式人工智能热潮中，也需加快立法监管，避免网络技术“误入歧途”。

（三）数据治理，关注技术安全水平

人工智能技术本身是一把双刃剑，自主、安全、可靠的技术是维护国家数据主权安全的重要保障。一方面，生成式人工智能技术改变了数据隐私的边界，会让用户的个人隐私与数据安全面临巨大的不合规挑战；另一方面，以ChatGPT 为例，截至目前，其开发商OpenAI 的应用程序编程接口（API）并未向我国境内公众开放服务，引用境外公司的技术，也会进一步带来例如数据倒卖、数据窃取等数据技术安全隐患。数据安全已经成为国家安全的重要组成部分，提升数据治理能力，加强数据安全水平评估，具有重要的战略意义。数据安全风险主要源于AIGC 所依托和处理的数据库，因此，应在技术底层架构的最小单位中引入数据治理规范。现阶段，要从底层架构、底层逻辑规范我国生成式人工智能技术，同时要对跨境人工智能技术进行安全水平评估。

（四）以质取胜，体现人的主体价值

AIGC 现阶段作为人工内容生产的有力补充，为短视频制作提供了更加广阔的发展空间，促进了短视频“量”的累积，但人的主体价值依旧不可取代。就技术应用而言，现阶段AIGC 依然有其“工业化”痕迹，对内容的呈现更加侧重技术，而非内涵阐释。因此，其生成内容存在生硬、僵化等问题，难以在“质”的层面实现根本突破。在人工智能背景下，塑造主流舆论新格局，要在“质”的层面实现对技术不足的突破，体现人的主体价值。具体而言，就是在技术无法实现的层面，以人的创造性去冲破技术生成带来的同质化审美疲劳，提供高质量内容。

AIGC 将成为继专业生产内容、用户生产内容后在短视频领域的又一重要内容生产方式。现阶段，短视频作为塑造主流舆论新格局的重要载体，肩负着阐释主流价值、传递主流观点、凝聚主流共识的重要作用。但随着AIGC 在短视频平台所占比例逐步提高，网络用户的注意力可能发生转移，短视频的主流舆论引领作用将面临巨大的流量竞争。就技术逻辑而言，AIGC 是对人类认知机制的深度模拟，可以通过机器学习“推导”出网络用户最喜爱的情节与桥段，但尚未发展出独立的情感，以情感作为连接纽带的内容生产方式是现阶段AIGC 无法突破的局限。构建主流舆论新格局，塑强主流舆论声音，离不开对内容的深层次把握，更离不开对内容的情感把握。AIGC 一定是人工与技术并存的混合型人工智能，人的情感价值在其中仍然是核心，也是构建主流舆论新格局的重要纽带与连接。

总之，随着AIGC 的发展与应用，其对网络传播格局的影响与作用也将进一步凸显，但无论AIGC 的发展趋势如何，人的主体价值都是关键核心。我们应抓住生成式人工智能技术发展的重要机遇期，坚持发展与治理同步，积极引导AIGC技术发展方向，不断扩大主流舆论新格局的影响范围与覆盖场域。