生成式人工智能意识形态风险：逻辑审视、样态呈现及防范对策

〔摘要〕生成式人工智能与意识形态高度关联。从技术特性来看，意识形态传播样态改变、意识形态管理难度增大、技术特性虚化意识形态阶级属性三个层面是其意识形态风险的底层逻辑。生成式人工智能，在生成内容方面存在疏离主流意识形态理论体系风险，在技术表现形式上弱化主流意识形态主导权，在传播范围上挤占传播空间等是其意识形态风险的主要呈现样态。为了应对这些意识形态风险，我们应加强制度保障，充分发挥马克思主义在意识形态领域指导地位的根本优势；通过理论引领强化重点群体教育；加快核心技术和意识形态关联性技术研发；完善行业发展规范，不断提升对生成式人工智能技术意识形态风险的防控能力。

〔关键词〕生成式人工智能；意识形态；信息茧房；Sora

〔中图分类号〕D64 〔文献标识码〕A 〔文章编号〕2095-8048-（2024）04-0014-09

2022年11月，OpenAI公司发布ChatGPT——一款人工智能技术驱动的自然语言处理工具，后续相继推出升级版本，引起全球关注。生成式人工智能是指在生成式AI模型、训练数据等的基础上，生成文本、图片、音频、视频、代码等多样化内容的内容生产方式。目前市面流行的ChatGPT、文心一言等均属于“生成式预训练模型”（generative pre-training transformer），一种用来分析和预测语言的人工智能模型，它可以帮助我们进行自然语言处理，例如机器翻译、自动文摘和快速问答等。此外，还有能够实现描绘图像（Diffusion模型）、音频制作（MuseNet模型）、影视创作（Dramatron模型）、互动娱乐（综合运用上述模型）等不同功能的生成式人工智能模型。2024年2月，OpenAI发布人工智能文生视频大模型Sora，再次引发社会对生成式人工智能大模型技术发展的极大关注。意识形态是人类思维的产物。人的思想、意志是由物质条件决定的。基于知识生产的生成式人工智能“生产内容”“生产过程”等与意识形态高度关联，密切关注生成式人工智能意识形态风险，具有重要的理论和现实意义。

一、生成式人工智能意识形态风险逻辑审视

生成式人工智能意识形态属性一方面来自技术本身，也就是马尔库塞强调的科学技术作为第一生产力对于剩余价值生产的巨大作用，进而增强资本主义统治在经济、政治、文化领域的全方位渗透。〔1〕生成式人工智能的这一意识形态属性并未超越传统意义上科技发展与意识形态互动的讨论范畴。另一方面，就生成式人工智能技术特性来看，其主要功能是提高人类知识生产效率，与航天、生物工程等技术最大的不同在于其介入到人类思维外化领域。我们可以从意识形态传播样态、意识形态管理难度、虚化意识形态阶级属性三个层面审视生成式人工智能意识形态风险的底层逻辑。

（一）“人机对话”重塑意识形态传播样态

1.意识形态人际传播转向“机—人”传播

“语言在实际运用中（包括在传授中）总是自觉地或不自觉地以一定的意识形态为导向”〔2〕。有学者将“语言的物质化”归纳为两种形式：一种是通过书写或者印刷，这种形式在人类文明发展历史长河中占据绝大部分时间并一直延续至今；另一种形式是“通过语法化和模拟来重新创建人工语言能力”〔3〕。

从生成式人工智能技术发展来看，第二种语言物质化形式日趋成熟，改变了语言物质化的主客体关系。人已经不再是语言物质化的唯一主体，以计算机、互联网、算法等组合而成的“系统”成为语言物质化的新“主体”，语言物质化从主客体间关系向物体间关系转变。生成式人工智能技术发展之前，主体间性是人类认知传递的基础。生成式人工智能“客体间性”重塑了以语言为载体的意识形态传播样态。在生成式人工智能大模型训练过程中，“机器学习”在海量数据的训练中不可避免会强化或淡化某种意识形态价值倾向，甚至在已有数据基础上“创造”出人类无法理解的语言表达。这种机器与机器（模型与模型）之间基于自然语言的“对抗训练”，成为语言生成与传播的全新方式。

“传授语言的过程本质上就是传授意识形态的过程。”〔4〕以ChatGPT为代表的生成式人工智能为例，其与人互动以“对话”的方式展开，内容以自然语言呈现。在使用ChatGPT时，人从自己的价值立场出发提出问题，或问题本身具有某种价值倾向，ChatGPT基于前期训练给出信息反馈，完成“人机对话”的同时实现了意识形态传播。这种“人机对话”的方式突破了意识形态在人与人之间传递的传统样态，意识形态出现“机一人传播”新样态。

2.意识形态跨语言壁垒界限日趋消弭

一定的意识形态以一定的语言为载体。在人类历史上形成的不同民族语言，形式上表现为不同的语法和逻辑，内容上受到意识形态影响。从某种意义上来说，不存在没有意识形态属性的语言。“语言是一种实践的、既为别人存在因而也为我自身而存在的、现实的意识。”〔5〕在人类社会进入“世界历史”之前，不同民族语言差异阻隔了不同意识形态观点的交流与传播。随着资本主义在世界范围的发展，人类交往突破了地理界限，在不同文明相互交流对话中，语言差异及背后的文化差异为不同的思想观念建构了“隔离带”。

无法理解一种语言及其背后的文化，也就无法理解意识观念的基本概念、核心价值等关键要素。当早期西方传教士抵达中国时，他们发现中国文化与西方文化之间存在巨大不同，无法交流成为最大障碍，他们不得不从学习语言、习得文化开始，了解熟悉中国文化。语言翻译功能是生成式人工智能应用较早的领域。例如，2012年，微软就已经发布一套全自动同声传译系统，能够将英文同步转译成中文实现语音同步输出。语言壁垒的消弭，为意识形态观念跨文化、国别、地域传播提供了技术便利。

3.意识形态跨时空共振风险加剧

意识形态是具体的、历史的。人类意识到某种思想观念具有维护阶级统治功能之前，关于政治、经济、文化、法律等思想观念伴随着人类阶级社会发展不断丰富。具有某种价值倾向的思想观念的传播，与人类社会发展具有同样漫长的历史。从人类社会发展历程来看，不同思想观念代表不同阶级利益，在不同历史时期和地域范围内展开争论或斗争，不同历史时期的意识形态争论主要矛盾也各不相同。

生成式人工智能在训练过程中，需要经过海量数据投喂训练。这些数据是人类社会发展过程中产生的思想观念的集成。这种集成并非是一次性或完全独立而成的。从理论上来说，只要有足够算力和存储空间，生成式人工智能的数据能够通过在不同硬件上运行相同或不同的模型完成更多数据训练，实现“无限扩容”。以ChatGPT为例，ChatGPT4.0版本数据库更新截止到2023年4月，它能够从数据库中“寻找”2023年4月前纳入语料库的全部知识。经过“投喂”的ChatGPT，无法根据外部世界的变化与人进行真正的讨论与对话，可能会忽略“问题”与“答案”之间存在的时间、空间的巨大“鸿沟”，给出的看似完美的“答案”却可能造成意识形态观点跨时空“对话”，带来“时空错乱”的混淆。

（二）数据、算法、系统集成导致意识形态管理难度增大

1.“海量数据”：意识形态内容溯源困难

“数据”是生成式人工智能内容生产的“原料”。OpenAI公司公布的数据显示ChatGPT3.0有1750 亿（175B）个参数〔6〕（业内猜测ChatGPT4.0有10000亿个参数，但OpenAI公司未公布具体参数数量），预训练单词数量达百亿级别，每次技术升级带来的参数总量呈现指数级增长。理论上来说，人类历史上所产生的知识都能够实现数据化进而转化为生成式人工智能的“数据原料”。ChatGPT等生成式人工智能语料库和数据库主要来源于西方发达国家互联网和学术网站等，这些内容本身就良莠不齐，且天然带有资本主义意识形态倾向。

信息溯源是意识形态治理的重要内容。由于数据体量、算法黑箱等现实制约，给生成式人工智能产生的信息溯源带来极大困难。生成式人工智能以强大的自然语言处理能力和全球化视野搭建人类知识生产平台。一方面，生成式人工智能理论上能够“习得”人类历史上产生的所有知识内容；另一方面，生成式人工智能与用户之间的“实时互动”成为新的知识生产的数据资源。这两方面均增加了生成式人工智能知识生产信息溯源的难度和成本。

2.“算法推荐”：意识形态操控风险加剧

“算法”最初源自数学领域。现代算法的应用以计算机为载体、以二进制为运算机制。通过不同算法，输入的数据能够得到不同的结果以实现不同目的。数据经济背景下，算法能够实现收集数据并挖掘数据的价值进而实现生产工具的功能。现代算法不仅仅应用于生产领域，20世纪60年代，算法已经开始帮助人们进行股票交易决策，在经济、医学、教育等领域广泛应用。20世纪90年代，美国科学家已经能够通过博弈论算法，预测政治事件，甚至能够预测“反对戈尔巴乔夫的军事政变将会触发苏联的轰然倒塌”。〔7〕

如果将数据和算力看作是生成式人工智能的基础，各类算法和模型则是生成式人工智能的技术核心。不同的算法能够满足生成式人工智能应对不同的使用场景。从某种意义上来说，算力和数据是生成式人工智能依托的“物质前提”；而算法则是能够根据不同需求进行设置的“主观意志”，为满足不同需求而进行迭代和升级。为满足特定意识形态传播或预测而创造的算法，可以实现意识形态传播的人为操控。随着算法、算力和数据系统集成的生成式人工智能技术发展，能够预测使用者的意识形态倾向，在“算法推荐”的加持下，为意识形态操控提供了更为便利的技术可能。

3.“系统集成”：意识形态渗透全域扩散

传统的意识形态风险多集中在文化、传媒、教育等领域。从生成式人工智能技术应用场景来看，传媒、影视、营销、娱乐、教育、金融、医疗、军事、交通、物联等领域均呈现出广阔的应用前景。生成式人工智能技术将大大加快“强人工智能”时代的到来。从文字生成，到图片、音频、视频，生成式人工智能产品从数量到质量不断提升，模型、算法不断创新叠加，生成式人工智能应用场域可能涉及社会生活方方面面，“系统集成”成为技术发展和应用的重要趋势。

生成式人工智能不再单纯作为工具提升人的物理能力。通过数据收集、算法预测、反馈强化等不透明过程，生成式人工智能已经成为人类社会交往中的“非人主体”，在对人类知识生产产生颠覆式影响的同时，逐步改变人类社会交往模式。在“系统集成”趋势的影响下，人与机器相互交融，生成式人工智能知识生产的中心化技术特征与去中心化的分布特征，增加了意识形态风险扩散的可能。

（三）“智能生成”技术特性虚化意识形态阶级属性

1.“技术万能”：弱化意识形态阶级属性

生成式人工智能的深度学习过程，对于人来说是不可理解的。这种不可理解的过程“生产”了人类能够理解的内容。有人工智能科学家认为，生成式人工智能以亿为单位的参数的“交互”，就是一种“理解能力”。这种“理解能力”产生于非人的机器，在一定程度上加深了生成式人工智能的“神秘色彩”，也赋予生成式人工智能貌似摆脱了人类价值偏见的“绝对”客观中立假象。当人们认为技术不具有意识形态属性的时候，恰恰是受到“技术中立”观念影响的表现。

哈贝马斯认为，“技术统治”作为意识形态，“为新的、执行技术使命的、排除实践问题的政治服务”〔8〕。相比传统意识形态在巩固统治阶级统治地位时所表现出的“直接的”“明显的”功能，“技术统治”往往表现为潜移默化的作用。虽然哈贝马斯将科学技术作为一种意识形态的考量没能真正揭示资本主义意识形态本质，但其对科学技术发展与意识形态互动的分析具有重要的理论价值。有生成式人工智能领域权威科学家认为，技术创新是推动经济增长的永恒动力，进而成为维护资本主义制度的重要力量。具有“更少意识形态性”的科技——生成式人工智能“生产”的内容，产生更具迷惑性的“去意识形态化”假象。

2.“信息茧房”：加剧意识形态认知偏执

桑斯坦提出，人们“只听我们选择的东西和愉悦我们的东西”〔9〕，导致“信息茧房”现象出现。人们在互联网上只选择自己偏爱的信息，能够加剧“信息茧房”效应，甚至产生极化。生成式人工智能能够通过与人“对话”来“预测”提问人的价值倾向，并根据这种倾向性选择生成符合提问人价值选择的“答案”。生成式人工智能技术特性，进一步加剧了认知偏执风险。

ChatGPT等生成式人工智能会自动收集用户使用数据，将其转化成为ChatGPT等大模型“预测”用户使用习惯、价值倾向的“原料”。为了增加用户粘合度，ChatGPT等大模型可以根据用户“喜好”，通过算法主动推介符合用户价值取向的关联性内容，强化用户价值“喜好”，进一步加剧“信息茧房”效应，从而增加了意识形态偏执。

3.“技术霸权”：强化资本主义意识形态传播

从ChatGPT到Sora，从语义内容生成到物理世界图景模拟，生成式人工智能技术实现对人类思维世界到物理世界的全方位“模拟生成”。这意味着，生成式人工智能不仅模拟创造意识形态观念内容，同时能够在不断发展的算力、算法和海量数据的基础上，实现对意识形态观念产生的社会根源的“情境再现”，甚至能够让人们能够更加丰富、立体、饱满地感知意识形态观念生成的历史过程和现实场景，增强特定意识形态观念的吸引力和感染力。

从技术发展现状来看，我国生成式人工智能技术发展与西方发达国家比较而言处于相对落后状态。从生成式人工智能技术与意识形态传播关系来看，技术差距可能转化为资本主义意识形态传播的技术优势，进而强化资本主义意识形态传播力度、广度，对社会主义意识形态传播带来技术性挤压。当今世界，资本主义意识形态和社会主义意识形态之间的较量，实质上是资本主义制度与社会主义制度之间的较量，意识形态的“权力逻辑”核心在于意识形态理论本身的领导力和与之相配套的技术支持和制度保障。生成式人工智能技术作为与意识形态密切相关的技术，需要警惕“技术霸权”可能转化为资本主义意识形态传播的技术优势，成为当前意识形态较量的“技术变量”。

二、生成式人工智能意识形态风险样态呈现

生成式人工智能意识形态风险主要在内容生成、技术形式和传播范围三个方面表现突出。在生成内容上存在疏离主流意识形态理论体系风险，在技术表现形式上存在弱化主流意识形态主导权风险，在传播范围上挤占主流意识形态理论传播空间。

（一）内容上：疏离主流意识形态理论体系风险

1.价值选择前置：增强资本主义意识形态输出

生成式人工智能技术创新和迭代发展有赖于参数规模和训练数据体量。训练ChatGPT等大模型的数据主要来源于wiki、reddit、西方发达国家科研论文网站等互联网络，同时包含用户使用ChatGPT过程中的信息数据。这些数据来源天然具有意识形态价值取向。ChatGPT等大模型技术以西方发达国家为中心向世界范围扩散，其使用过程某种程度上也是资本主义意识形态向世界范围强化输出的过程。

从计算机和互联网技术发展历程来看，科技工作者个人的作用日益凸显。在技术变革的窗口期，处于技术研发最前沿的核心技术人员对实现技术跃升具有重要主导作用。在涉及技术与人（社会）交互模式等具有人文价值取向选择时，其中关键技术人员价值取向会在有意或无意中发生影响。在“对齐主义”倾向的影响下，生成式人工智能对资本主义意识形态价值观念的主动“对齐”，对社会主义意识形态带有“价值偏见”。这种前置的“价值对齐”选择，无疑是对资本主义意识形态的强化。

技术研发的“无意识偏见”并非只体现在语义生成领域。以文生图（频）也并非“价值中立”。目前公布的由Sora生成的视频影像产品中，人物主角均为白人，其中的算法可能存在基于人种、宗教等价值偏见。以好莱坞为代表的西方电影产业自1910年代开始就已经形成“视觉化故事讲述传统”。随着技术发展，视觉传达效果发生了革命性变革，嵌入其中的传统性预设价值导向和意识形态基调依然发挥着不可替代的作用。在极具西方价值偏好的叙事传统影响下，生成式人工智能创作的视频影像产品，无法避免隐含资本主义意识形态价值选择。

2.知识生成碎片：内容呈现弱化主流意识形态凝聚力

“直接的物质的生活资料的生产，从而一个民族或一个时代的一定的经济发展阶段，便构成基础，人们的国家设施、法的观点、艺术以至宗教观念，就是从这个基础上发展起来的”〔10〕。统治阶级在一定的物质条件和社会关系的基础上创造了作为“观念的上层建筑”的意识形态。作为整体性概念的意识形态包含了政治思想、法律、道德、哲学、艺术、宗教等等诸多具体意识形式，这些具体的意识形式，都可以看作相对独立的系统且具有一定的理论系统性，具有逻辑严密的系统性特征。

生成式人工智能强大的知识生产能力和广泛的应用场景，满足了人们对于内容生产的需求。越强大的功能意味着更高资本、数据、算力等的投入。在成本与收益的“博弈”中，生成式人工智能所具有的“极致”能力往往不能在商业化应用场景中常态化实现，用户所获得的内容往往是“拼凑”出来的碎片化内容。当生产内容与政治思想等意识形态内容关联度较高时，碎片化呈现可能带来明显的意识形态偏差，甚至出现与主流意识形态价值取向背离的现象，从而削弱主流意识形态认同，影响主流意识形态凝聚力。

（二）形式上：弱化主流意识形态主导权

1.“技术崇拜”：淡化主流意识形态宣传主体权威

教育机构是传播意识形态的重要场所，教师群体是传播意识形态的重要主体。教育机构在人才培养的过程中，实现了知识传递与文化传承，同时实现意识形态传播。随着传播技术的发展，知识传播不再局限于特定的场所与组织，人们能够从多种渠道获取知识。从ChatGPT迭代历程来看，随着神经网络（Transformer）层数的加深和训练样本量的增加，ChatGPT展现出了更趋近于人类思维的“思维链能力”，并在“知识储备”“逻辑推理”等方面展现出了超越人类的“无所不能”。

当技术被视为“无所不能”的“存在”，新的“技术崇拜”随之而来。生成式人工智能以自然语言为输出内容，其生成内容文本数量、逻辑规范等在技术迭代中更加“人性化”，达到甚至超越专业人士水平，在学术论文撰写、专业考核考试等领域表现优异。当人们开始不去思考生成式人工智能生产内容是否正确的时候，对于技术的“盲从”可能转化为对其内容价值观念的盲目接受。当生成式人工智能对于涉及意识形态价值取向的内容与主流意识形态理论宣传主体解释出现偏差时，主流意识形态宣传主体权威性在“技术崇拜”的影响下将会受到削弱。

2.“虚拟主体”：影响主流意识形态宣传主体形象建构

现实生活中，意识形态观念通过一定的宣传教育主体，采用不同宣传教育形式，增强意识形态理论吸引力、凝聚力、引领力，实现统一思想、凝聚力量。意识形态宣传教育主体公众形象，在很大程度上影响着意识形态宣传教育工作实效。以高校为例，思想政治理论课是巩固马克思主义意识形态领域指导地位的主阵地，高校思想政治理论课教师是高校意识形态教育工作的主体。高校思想政治理论课的公众形象，特别是高校学生对高校思想政治理论课程和教师的总体印象和综合评价，事关高校意识形态工作实效。意识形态宣传教育主体建构是传统意识形态传播的重要内容。将思想政治理论课教师队伍建设作为办好思政课的关键来抓，强调高校思想政治理论课教师重要作用，体现了增强主流意识形态宣传教育主体形象建构的重要意义。

人在与生成式人工智能“对话”时，容易产生生成式人工智能是“有意识的存在”的错觉，将其视为具有思维能力的“存在”。以ChatGPT为代表的生成式人工智能具有更加拟人的互动能力和更加迅捷的反应速度，在图像、音频、影像生成等大模型支持下，作为一种全新对话“主体”出现在用户面前。一旦用户尤其是青少年学生群体过度使用，特别是沉迷于满足娱乐、互动、社交等需求，极易冲击淡化意识形态宣传主体形象，削弱意识形态宣传教育主体的吸引力和引领力。

3.“真假杂糅”：增加意识形态管理工作成本

“深度伪造”是基于人工智能技术替换视频中人物相貌、口型、表情、声音等生成不易识别的伪造视频。深度伪造技术制造的图文真伪鉴别困难，涉及政治人物等内容甚至需要官方部门发布声明予以澄清。以文生频的Sora能够根据自然语言描述生成一个逼真的“物理世界”，从理论上能够囊括整个“物理世界的全部要素”〔11〕，将“深度伪造”提升为“逼真还原”。

从技术角度来看，“有图有真相”的时代已经结束。图片、音频、视频等不但审核成本较高，其真假辨别成本更高。在全媒体时代，人们更加习惯通过短视频等方式获取信息，其传播速度更快、受众人群更广。“深度伪造”、以文生图（频）让“高级红”“低级黑”等风险概率增加且制作成本降低，这不仅增加意识形态管理成本，更有可能加剧“塔西佗陷阱”风险，损害政府公信力和主流意识形态理论引领力、凝聚力。

（三）传播上：挤占主流意识形态理论传播空间

1.使用场域私人化：技术性“屏蔽”主流意识形态理论内容传播

互联网让信息传播步入个人化时代。互联网展现出了强大的“过滤”能力——人们只选择自己感兴趣的内容，技术性屏蔽不感兴趣的内容。随着技术的发展，特别是在各种算法的加持下，“协同过滤”涌现，人们不仅能够接收到自己感兴趣的内容，同时能够获取与自己兴趣相同的同好群体关注的其他内容，并通过接收端自动推荐。

从意识形态观念传播角度来看，生成式人工智能具有更为私人化的使用场域，对话内容表现为“仅本人可见”，后台数据“无人可见”。用户每次使用产生的数据都成为预测用户兴趣或潜在兴趣的“投喂原料”，技术和成本优势让“私人AI”正在成为可能。生成式人工智能使用者多集中在年轻群体，特别是青年学生，技术使用需求较大，尝试使用新技术满足自身需求的意愿较强。在私人化使用场域中，用户更多的是满足自身教育、娱乐等需求，在“协同过滤”效应的影响下，主流意识形态理论内容可能被屏蔽在用户视野之外。

2.内容审核迟滞化：网络空间治理面临新的挑战

内容审核是传统媒介传播出版和互联网信息发布的重要环节。“媒体和文化工业在20世纪成为一种控制机制，有效地控制着什么样的观念能在社会中被制造出来并传播出去。”〔12〕生成式人工智能技术到来之前，全媒体让“人人都是麦克风”，已经对国家“把关人”角色提出了挑战。随着人工智能技术的发展，“大模型以全球视野和全球性资源构建全球一体化的世界知识体系”〔13〕。生成式人工智能强大的“知识生产”能力，前置的数据投喂、算法规制等内含的预设价值观念，应成为国家数字治理必须关注的重要领域。

超大语料库和强大算力让生成式人工智能拥有“及时反馈”的技术性能，大模型自身成为内容生产的“把关人”。从目前的实践来看，“把关人”作用发挥并不理想。生成式人工智能技术应用出现不符合主流价值观表述引发舆论关注时有发生。生成式人工智能技术在进入应用场景后，生成内容审核成为不容忽视的短板。“网络空间已经成为人们生产生活的新空间，那就也应该成为我们党凝聚共识的新空间”〔14〕。对包含生成式人工智能在内的网络内容审核，是数字治理的重要内容，不应因技术发展而“迟滞”。

三、生成式人工智能意识形态风险防范对策

“建设强大凝聚力和引领力的社会主义意识形态，是全党特别是宣传思想战线必须承担起的一个战略任务。”〔15〕应对生成式人工智能意识形态风险，应强化制度保障，充分发挥马克思主义在意识形态领域指导地位的根本性优势；通过理论引领强化重点群体教育；加快核心技术和意识形态关联性技术研发；完善行业发展规范，不断提升对生成式人工智能技术意识形态风险的防控能力。

（一）强化制度保障，坚持马克思主义在意识形态领域指导地位的根本制度

中国共产党明确提出“坚持马克思主义在意识形态领域指导地位的根本制度”〔16〕，这是我国社会主义制度和国家治理体系在意识形态领域的显著制度优势。坚持马克思主义在意识形态领域指导地位的根本制度，是防范应对生成式人工智能带来的意识形态风险挑战的首要制度保障。坚持用历史唯物主义和辩证唯物主义基本原理分析看待新生技术，坚持马克思主义的根本立场、观点、方法指导意识形态工作，是应对生成式人工智能意识形态风险的重要理论保障。

从实践层面来说，严格落实意识形态责任制，是应对生成式人工智能带来意识形态风险挑的重要抓手。各级党组织和有关部门应该将生成式人工智能意识形态风险纳入意识形态工作议事范围，密切关注生成式人工智能技术发展及其在不同行业领域应用带来的新情况和新变化。持续关注生成式人工智能在教育、传媒、娱乐、影视等领域应用和受众反馈，强化内容监管。

（二）关注重点群体，用党的理论创新引领青年意识形态工作

青年是意识形态斗争争夺的重点群体。做好青年工作，是实现中国式现代化建设的重要战略任务。党的十八大以来，意识形态领域形势发生全局性、根本性转变，青年一代精神风貌更加积极向上，对党的创新理论和社会主义核心价值观认同不断增强。青年对各种新技术最为敏感，是生成式人工智能技术使用主要受众，是生成式人工智能潜在意识形态风险影响的重点关注人群。

中国共产党历来高度重视青年思想政治教育工作。随着社会发展和科技进步，青年思想政治教育工作不断创新发展。生成式人工智能以网络空间为主要存在场域，必然会增强网络虚拟空间的内容对青年的思想影响。面对生成式人工智能对青年意识形态工作带来的冲击，一方面要强化各类思想政治理论课改革创新，统筹推进大中小学思政课一体化建设，“不断增强思政课的思想性、理论性和亲和力、针对性”〔17〕，巩固学校意识形态教育主阵地。另一方面，要丰富青年社会实践教育，增进青年对国情的了解。“每一种理论上的驳斥都会逐渐转变成对对手的整个生活情境的更为根本的攻击”〔18〕，让广大青年在实践中了解中国共产党领导人民取得的伟大成就，充分认中国式现代化道路的历史逻辑及中国特色社会主义制度优势，增强马克思主义中国化最新理论成果说服力，是有效应对生成式人工智能意识形态风险的重要手段。

（三）加大技术研发，核心技术与意识形态关联性技术研究并重

发达国家的生成式人工智能技术创新发展，依托于算力、算法、数据等软件和硬件技术优势和强大的资本投入。我国生成式人工智能技术暂时落后于西方发达国家，在基础理论、模型方法、核心算法、关键设备、高端芯片等方面存在一定差距。

鉴于生成式人工智能技术发展现状及其带来的意识形态风险，应进一步加大技术研发，努力实现整体技术水平从“跟跑”向“领跑”超越，为应对生成式人工智能意识形态风险提供技术保障。一是加强核心技术创新研究。充分发挥新型举国体制优势，加强基础理论、模型方法、关键设备、高端芯片等的研发，从技术层面避免出现代差级技术鸿沟。二是加强技术与意识形态属性关联研究。当前，在讨论生成式人工智能发展时，多聚焦在数据共享、技术标准、人才培养、法律制定等方面，对于生成式人工智能意识形态属性多归于伦理人文范畴讨论，地位并不凸显。根据生成式人工智能技术特性，应高度关注其社会舆论动员和意识形态属性，在追求技术发展的同时，加强技术与意识形态属性关联研究，确保意识形态安全，是“落实互联网企业信息管理主体责任”〔19〕的应有之义。

（四）规范行业发展，加快完善生成式人工智能技术发展制度规范

2024年3月，欧盟通过全球首个《人工智能法案》，明确要“创建符合欧盟价值观的人工智能系统”（creating AI systems in line with Union values）〔20〕，并对违反欧盟价值观等涉及意识形态方面内容做出禁止性约束，为制定生成式人工智能行业规范和法律法规提供了一定参考。当前，我国生成式人工智能行业处于起步阶段且呈现出蓬勃发展趋势，从政府到企业均对生成式人工智能技术发展给予极大关注。2023年4月，国家互联网信息办公室发布《生成式人工智能服务管理办法（征求意见稿）》，其中明确规定生成式人工智能生成内容应“体现社会主义核心价值观”。2024年，“人工智能+”写入政府工作报告，表明国家层面对人工智能行业发展最新态势的高度关注。但是，生成式人工智能发展在数据安全、隐私保护、知识产权、意识形态等方面亟需相关法律予以规范。

面对生成式人工智能意识形态风险，应有行业立法予以规范。一是要从立法层面明确研发使用生成式人工智能必须符合宪法和法律明确规定的社会主义属性。二是要构建生成式人工智能行业意识形态工作规范。从行业自律角度出发，建立弘扬社会主义核心价值观的行业准则。三是强化从业人员意识形态素养。生成式人工智能意识形态属性一定程度上受技术研发人员意识形态素养影响，应从“人”出发，规范“机器”的意识形态价值取向，防范生成式人工智能技术意识形态风险。

〔参考文献〕

〔1〕〔美〕赫伯特·马尔库塞.单向度的人：发达工业社会意识形态研究〔M〕.刘继，译.上海：上海译文出版社，2006：10.

〔2〕〔4〕俞吾金.意识形态论（修订版）〔M〕.北京：人民出版社，2009：1-2，2.

〔3〕许煜.论数码物的存在〔M〕.李婉楠，译.上海：上海人民出版社，2018：141.

〔5〕马克思恩格斯文集：第1卷〔M〕.北京：人民出版社，2009：533.

〔6〕Zhang S，Roller S，Goyal N，et al.OPT： Open Pre-trained Transformer Language Models〔J〕.arXiv e-prints，2022.DOI：10.48550/arXiv.2205.01068.

〔7〕〔美〕克里斯托弗·斯坦纳.算法帝国〔M〕.李筱莹，译.北京：人民邮电出版社，2014：120.

〔8〕〔德〕尤尔根·哈贝马斯.作为“意识形态”的技术与科学〔M〕.李黎，郭官义，译.上海：学林出版社，1999：64.

〔9〕〔美〕凯斯·R.桑斯坦.信息乌托邦：众人如何生产知识〔M〕.毕竞悦，译.北京：法律出版社，2008：8.

〔10〕马克思恩格斯文集：第3卷〔M〕.北京：人民出版社，2009：601.

〔11〕喻国明.Sora作为场景媒介：AI演进的强大升维与传播革命〔J〕.青年记者，2024，（4）.

〔12〕〔澳〕尼古拉斯·凯拉.媒介与社会：权力、平台和参与〔M〕.任孟山，陈文沁，译.北京：中国传媒大学出版社，2023：73.

〔13〕曾白凌.大模型、大数据、新精英：数字技术对知识生产的征服与全球性重构〔J〕.现代出版，2023，（6）.

〔14〕〔15〕习近平.论党的宣传思想工作〔M〕.北京：中央文献出版社，2020：355，340.

〔16〕〔19〕十九大以来重要文献选编（中）〔M〕.北京：中央文献出版社，2021：283，285.

〔17〕习近平.思政课是落实立德树人根本任务的关键课程〔J〕.求是，2020，（17）.

〔18〕〔德〕卡尔·曼海姆.意识形态与乌托邦——知识社会学导论〔M〕.李步楼，尚伟，祁阿红，朱泱，译.北京：商务印书馆，2014：65.

〔20〕Artificial Intelligence Act〔EB/OL〕.European Parliament， https：//www.europarl.europa.eu/doceo/document/TA-9-2024-0138_EN.html【责任编辑：欧 露】