?ChatGPT类生成式人工智能的意识形态风险及其防控策略

向继友 吴学琴

摘要：面对人工智能技术的重大突破，尤其是ChatGPT等新一代人工智能在社会生活各个领域的广泛应用，审视、预判和防范ChatGPT类生成式人工智能的意识形态风险成为一个重要的理论课题。ChatGPT类生成式人工智能环境下的意识形态传播具有可塑性、可量化性、个性化和精准预测性等特点。ChatGPT类生成式人工智能介入意识形态传播的技术路径体现在技术与思想的耦合、预测性的算法推荐、个性化的话语创设和赋权性的网络传播等方面。ChatGPT类生成式人工智能介入意识形态传播会带来算法歧视、数据失真、算法监控和算法反噬等潜在的风险。应通过统筹科技伦理规制算法推荐、设计主流意识形态驾驭算法、协调传播主体与客体的价值需求、强化大数据技术检测与治理等，加强对ChatGPT类生成式人工智能意识形态风险的防控。

关键词：ChatGPT；生成式人工智能；意识形态；风险

基金项目：国家社会科学基金项目“21世纪马克思主义意识形态理论与话语创新研究”（项目编号：22VRC094）；安徽省哲学社会科学规划重点项目“基于网络舆情大数据的人类命运共同体传播动态及引导”（项目编号：2023AH050030）

中图分类号：D61文献标识码：A文章编号：1003-854X（2023）12-0053-07

一、问题的提出

ChatGPT诞生于2022年11月底，是由美国公司Open AI研发的一款人工智能产品。它是一种集人机对話、文本生成、语言合成、语言翻译、搜索引擎、信息处理等多功能于一体的“必应式”机器人，是新一代生成式人工智能的典型代表。ChatGPT自问世以来，依托其强大的人工智能技术和大数据分析能力，能够迅速地获取信息、分析信息、处置信息并在不同领域展现出全新的应用。ChatGPT作为一种生成式人工智能，一经与其他领域相结合便展现出强大的创造力，生产出新的内容，大大提高各领域的生产力，于是便出现了“ChatGPT+”的多场景应用。尽管ChatGPT的这种“创造力”不能被界定为严格意义上“人的劳动性成果”，但是作为一种生成式“产品”，其自身附着某种“价值”和“意识形态”倾向是毋庸置疑的。“人工智能和大数据不是驱动经济发展和社会变革的意识形态中立的科学知识。”（1） ChatGPT类生成式人工智能必然涉及生成式信息传递的主体客体、对话内容以及算法推荐，这就可能会对我国的主流意识形态产生冲击，带来新的意识形态风险。当前，面对ChatGPT类生成式人工智能在社会生活各个领域的广泛应用，审视、预判和防范ChatGPT类生成式人工智能的意识形态风险成为一个重要的理论课题。

ChatGPT的出现标志着人工智能的发展进入到崭新的阶段，学界的相关研究也随之逐渐增多并日益深化。就ChatGPT等生成式人工智能的意识形态风险而言，现有的研究成果主要着力于以下三个维度：第一，内容生产维度。代金平、覃杨杨认为，ChatGPT等生成式人工智能凭借内容生成的首要功能对意识形态的价值观念层进行渗透，依靠交互对话的产品形态对意识形态的话语方式产生影响，利用多维应用的功能属性对社会生活实践领域展开强势介入，从而形成了众多具有新特点的意识形态风险。（2）李昂、汪洋认为，作为一种基于语言模型的对话系统，ChatGPT虽自称客观中立，但实际上可能具有一种民主社会主义的意识形态属性。因此，作为一种政治价值输出工具，ChatGPT在实践运用过程中有可能对我国意识形态安全构成多方面的风险。（3）温晓年认为，ChatGPT是人工智能发展划时代的标志，然而ChatGPT并不是其标榜的持中立客观的立场。ChatGPT的强大功能使其具有一种隐形的意识形态功能，ChatGPT的西式资本所有权属性决定了其本质上是资本主义维持自身体系以及资本增殖的工具，ChatGPT的技术构成蕴含着天然的政治倾向和政治偏见。（4）第二，传播场域维度。李舟、易华勇认为，拥有跨模态深度学习能力的ChatGPT具备了全方位介入意识形态安全治理的超级能力，从文本生成与话语传播双重维度重构了当前意识形态安全治理的基本格局。这主要表现为ChatGPT以惊人的算力、算法、算策以及聚合语料知识等功能叠加重置了意识形态文本生成的基础场景，打破了意识形态话语传播的传统模式，冲击了主流意识形态治理的底层逻辑，由此滋生出不可忽视的意识形态安全治理风险。（5）孙会岩认为，ChatGPT已经进入日常生活领域，人和算法多元交互、虚拟与现实融合的意识形态场景正在形成，这为提升网络意识形态传播效能提供了新的可能。然而，当顶层设计、资源结构、制度体系等没有与ChatGPT同步发展时，“数字利维坦”就会对主流价值观、内容监管、隐私安全等带来诸多潜在风险。（6）第三，技术路径维度。王延川、赵靖认为，ChatGPT等生成式人工智能在深刻改变人类交往方式和信息传播范式的同时，也由于“技术利维坦”、智能算法“把关人”、资本技术操控的共同作用，诱发多重意识形态风险的产生。（7）方旭认为，作为生成式人工智能的最新成果，ChatGPT通过监督式深度学习与人机集成强化学习相结合，实现了人机交互新格局，对公众的思维方式、认知范式和价值观念产生了深刻影响。在参与主体泛众化、价值路径多元化、内容生成简单化的运作表征下，ChatGPT带来了舆论引导、双标效应、深度伪造等意识形态风险。（8）王少认为，ChatGPT基于跨模态深度学习模型获取了参与思想政治教育对话的能力，从而在现实中直接实现了思想政治教育主客体与人工智能的交流。具体而言，依托特征关联技术精确识别思想政治教育问题和答案的对应机理后，ChatGPT通过反馈强化学习机制，在与思想政治教育主客体互动交流中，聚合语料知识，转化数据意义，生产文本内容，修正并输出答案，实现了对思想政治教育的技术介入。对ChatGPT的不当利用，将会导致意识形态渗透和错误思潮传播等安全风险。（9）

综上，现有研究对ChatGPT类生成式人工智能的意识形态风险展开了多维度的诠释，但尚缺乏对作为底层逻辑的数据、算法和算力的整体性探讨。ChatGPT类生成式人工智能依托其强大的数据、算法和算力功能，以语料库的自然语言生成机制解构了自然语言语境、信息传播场域和人机交互的技术路径。从大数据的关联性来看，ChatGPT类生成式人工智能语料库的自然语言生成机制所呈现出来的工具理性和价值理性的博弈，冲击甚至瓦解着主流意识形态治理的底层逻辑。从ChatGPT类生成式人工智能的深度合成技术的作用机理来看，语料库的自然语言生成机制的底层逻辑是算法推荐，因此应加强算法推荐技术的价值理性，以抵御人工智能在应用中可能带来的意识形态操控风险。有鉴于此，本文将研究的重点集中于大数据技术赋能和算法推荐介入意识形态传播的路径方面，从ChatGPT类生成式人工智能环境下意识形态传播的特征入手，探究ChatGPT类生成式人工智能介入意识形态传播的技术路径，以技术路径为底层逻辑分析ChatGPT类生成式人工智能介入意识形态传播的潜在风险，并针对性地提出防控措施和规制策略。

二、ChatGPT类生成式人工智能环境下意识形态传播的特征

ChatGPT类生成式人工智能环境下意识形态的传播主要源于人工智能的大数据赋能和增权及其在传播过程中的内容生产、算法分发、算力储备、算法推荐等，这种“沉浸式”的应用场景会模糊真实信息与虚假信息、网络虚拟空间与现实物理世界的边界，导致人们的思想意识无法在现实的人际关系中得到支撑，从而逐渐悬空人们的价值观，导致社会主流意识形态异化。在内容生产、算法分发、算力储备、算法推荐中，起到核心作用的是算法推荐。相对于传统的网络治理，基于算法推荐的意识形态治理依托大数据的关联性技术路线，潜移默化地改变了客体的认知方式，从而实现了对网络传播场域下主流意识形态的重塑。正是由于网络空间大数据传播所具有的算法模拟性既能够实现超时空的信息自由流动，又能够实现人的精神主体的自由翱翔，所以，从认识论的角度来看，ChatGPT类生成式人工智能环境下的意识形态传播具有可塑性、可量化性、个性化和精准预测性等特征。

第一，传播的可塑性。马克思认为：“社会——不管其形式如何——是什么呢？是人们交互活动的产物。”（10）。在网络空间中，ChatGPT类生成式人工智能环境下的意识形态传播同样是人们交互活动的产物，反映的是现实生活中人与人之間的关系。从这个角度来说，ChatGPT类生成式人工智能环境下的意识形态传播不再是个人的行为集合，而是受到现实中社会关系的影响，是按照一定社会交往规则传递思想的交互活动。在这个网络虚拟空间与现实物理世界交互的场域中，意识形态的传播具有以下特点：其一，在ChatGPT类生成式人工智能环境下，意识形态传播的主客体之间是平等的，意识形态传播除了受到传播主体的主观情绪影响外，还受到传播主体所处经济、社会、政治、文化等环境的影响。其二，ChatGPT类生成式人工智能环境下的意识形态传播场域由传统阅读型的文本传播向音频化、视频化、立体化的传播方式转变，这种复杂多变的传播场域极易使人产生阅读依赖、思想钝化、意识误导，从而造成思想领域的困惑，产生对主流意识形态的抵触心理。其三，ChatGPT类生成式人工智能环境下意识形态的内容生产是基于人工智能模型的算法推荐，具有海量数据和精准算法的特性，可以根据大数据标签进行精准匹配，自然具有可塑性。因此，网络空间呈现的是网民群体的集体意识形态倾向，这种集体意识形态倾向是人们交互活动的产物。简言之，网络空间是主流意识形态传播的重要载体，ChatGPT类生成式人工智能环境下意识形态的大数据传播必然要求塑造网络空间。

第二，传播的可量化性。马克思在其经典著作《资本论》中提出了机器体系具有“技术属性”的观点，认为技术能够实现对任务的分解、重构、组合等一系列加工，最后整体的合力大于各部分之和，从而创造新的生产力。ChatGPT类生成式人工智能同样具有“技术属性”，这种技术属性包含大数据、算法、算力三个要素，且这三个要素在技术逻辑上是可量化的。依托“技术属性”的赋能和增权，ChatGPT类生成式人工智能环境下的意识形态大数据传播本质上是人类对象性活动的产物，是技术属性与社会属性的统一体，即ChatGPT类生成式人工智能利用大数据的算法推荐推进意识形态的传播，集中体现在意识形态传播主体、传播客体、传播场域、传播效果的可量化性上。首先，意识形态传播主体和传播客体都是以大数据形式表征的，这使得意识形态与对应事物之间形成了关联关系，而这种关联可以通过传播客体的意识形态进行量化分析。其次，在意识形态传播场域，可以利用大数据和算法推荐对传播足迹进行追踪和记录，进而实现对传播整体上的关注点和特定群体的量化分析。最后，意识形态传播效果可以通过传播客体的认可程度来区分和判断，这种传播客体有意无意的思想表征能够被记录下来，成为一种可量化的大数据样本。

第三，传播的个性化。意识形态传播的个性化是从传播客体的独特性出发的，旨在满足传播客体的内在需求，精准匹配其受众画像。ChatGPT类生成式人工智能环境下的意识形态大数据传播利用海量数据和智能算法对传播场域中的细分受众进行精细画像、定位追踪、标注匹配等，从而更好地满足受众需求，引领主流意识形态的二次传播，即“更好地了解待分发的内容，更好地了解待接收的用户，更高效地完成信息与人之间的对接”（11）。其一，标注受众画像。利用大数据分析技术和算法推荐对受众进行全方位的分析和数据采集，并对其做标注，以便后续匹配更加个性化的传播内容。其二，标注内容画像。ChatGPT类生成式人工智能通过建构超大型语言模型，利用神经网络深度学习算法，对传播场域中的意识形态内容进行标注、筛选和匹配，做好内容画像以便分类备用。其三，匹配受众画像和内容画像。ChatGPT类生成式人工智能利用算法推荐对受众和内容进行优先级别排序，有针对性地进行分发，在不知不觉中引领意识形态传播的走向。

第四，传播的精准预测性。“处理数据的科学，一旦数据与其代表事物的关系被建立起来，将为其他领域与科学提供借鉴”（12）。ChatGPT类生成式人工智能依托大数据分析技术可以更好地了解意识形态关联事物的运动轨迹，从多个维度、多个视角、多个层面对某一运动轨迹作预测性分析，且相关性分析具有纠错功能，尤其是统计学中的离散分析，可以更好地纠正偏差。简而言之，数据科学通过其大数据汇集、分析、整理、精准预测等功能的运用，为构建数据与其代表事物之间的关联性提供了“生产资料”。量化是大数据的显著优势，大数据技术具有“量化一切”的功能与优势，它能够将各种各样的社会现实转换为数据资源，使之成为可以被标注的受众画像。除此之外，ChatGPT类生成式人工智能的算法推荐既能够为意识形态传播主客体寻找到最佳的传播场域，又能够通过大数据挖掘和语义分析精准匹配受众画像，精准定位事物的运动轨迹，引领网民思想的走势，预测网民关心的特定事件，评估舆情的发展趋势，甚至操控意识形态的演变方向，造成意识形态的二次传播。

三、ChatGPT类生成式人工智能介入意识形态传播的技术路径

探究人工智能介入意识形态传播的技术路径，需要在两个方面进行重点把握：意识形态的独特性和传播的技术手段。ChatGPT类生成式人工智能环境下意识形态传播体系的技术重塑与建构，需要找到相应的着力点，即介入的技术路径。传统的意识形态传播体系侧重于文本的话语体系和自上而下式的宣教特性，而ChatGPT类生成式人工智能的介入路径则侧重于深度合成技术的应用，具体来说就是技术与思想的耦合、预测性的算法推荐、个性化的话语创设和赋权性的网络传播。

第一，技术与思想之间的耦合。ChatGPT类生成式人工智能嵌入意识形态的内容文本时会对其进行重塑，这体现在技术与思想之间耦合的张力上。一方面，技术的嵌入会在技术与思想的交互作用中产生风险，导致技术刻意迎合主客体的需求而致使意识形态异化。一旦技术裹挟思想，势必造成人被机器“奴役”，直接把人变成可统计的数据。另一方面，技术嵌入的本质在于推动人机的互动，不仅为网络虚拟空间增添趣味，而且拓展了人机交流空间，有助于实现人的自由而全面的发展。ChatGPT类生成式人工智能介入意识形态传播不仅要遵循主流意识形态的思想引领，而且要超越技术的工具属性，在技术与思想的耦合中寻求最佳平衡点，以工具理性重塑意识形态的价值理性。技术价值重塑意识形态是数字化场域与意识形态的全面融合，是内容文本与作用机制的耦合，是技术属性与意识形态诸要素的深度契合。

第二，预测性的算法推荐。“在小数据世界中，相关关系也是有用的，但在大数据的背景下，相关关系大放异彩。”（13）行为和意识形态之间具有千丝万缕的联系，而大数据则赋予了这种联系以可预测性。通过大数据的算法推荐，既能够预测客体的思想意图，又能够在解读和回应客体思想的过程中实现主体对客体的意识形态引领。ChatGPT类生成式人工智能通过跨模态深度学习模型形成了强大的自我注意机制，能够在庞大复杂的大数据中挑选自己需要的信息进行自我学习和反复训练，并在与人类的互动中逐渐修正和发展，从而增强算法推荐的可预测性。ChatGPT类生成式人工智能还将主客体置于既定的学习模型中，以增强人的智能体验，这种“沉浸式”体验又反过来强化预测性的“真实性”。至此，ChatGPT类生成式人工智能通过深度学习模型获取了介入意识形态的对话能力，依托于大数据的算法推荐使得深度学习模型能够关联语言元素的特征，构建了人机主客体的逼真在场体验，从而输出具有强预测性的符合主客体特定思维方式和思想观念的内容文本。

第三，个性化的话语创设。意识形态的传播效果还受到个性化话语创设的影响，可以说个性化的话语创设直接决定了意识形态的传播场域。话语创设是ChatGPT類生成式人工智能的本质特征。在暗箱模式下，ChatGPT类生成式人工智能对多元话语素材进行分类整合和立体构建，生产出具有推测性和预判性的个性化话题，改变了原有传输中的主客体关系，解构了主客体关系的推测性和主体的情感功能。其一，ChatGPT类生成式人工智能模糊了主客体的边界以及主客体间信息真实和信息虚假的边界，可以在不依靠主体的状态下单纯依据客体的话语体系生成新的文本内容。其二，意识形态传播的引领是建立在主客体关系的推测性基础上的，即主体需要推测和判定客体意图才能进行传播引领，而ChatGPT类生成式人工智能的个性化话题创设则在某种程度上撇开了主体的主动性，解构了主客体关系的推测性，改变了意识形态传播引领的场域。其三，ChatGPT类生成式人工智能创设的话语体系是建立在算法推荐的基础上的，这样就大大消解了主体的情感属性，从而减弱了原有意识形态的传播效力。

第四，赋权性的网络传播。ChatGPT类生成式人工智能在传递信息的同时，还依托其强大的数据、算法和算力功能，对信息流进行技术赋权，从而介入到意识形态的传播场域中。传统的意识形态传播强调“把关人”的重要性，要求加强媒介素养，而ChatGPT类生成式人工智能环境下的意识形态在全场域传播中具有异化的风险，从本质上看就是人的“社会属性”被人工智能的“工具属性”所取代。一是人机交互情感异化。传统的情感交互是在人与人之间进行的，而ChatGPT类生成式人工智能诞生之后，人与人的情感异化为人与机器的情感，使得部分网民对机器产生依赖感，希望在虚拟世界获得更多的关注。二是人机交互认知异化。作为一种新兴变量，“机器”正以自己独特的行为方式冲击着社会舆论。（14） ChatGPT类生成式人工智能一定程度上取代了原有的信息来源，还通过自己“生产”的内容来影响人们的认知结构。三是人机底层创新异化。在传统社会，人是创新的重要主体和核心力量。如果ChatGPT类生成式人工智能取代某些行业，势必造成这些行业从业者的失业，从而消解其创新的积极性和主动性。长此以往，这种人机交互将会削弱社会的底层创新能力，而过度依赖于机器的创新。

四、ChatGPT类生成式人工智能介入意识形态传播的潜在风险

ChatGPT类生成式人工智能介入意识形态传播的底层逻辑是运用大语言模型实现海量数据的训练，并逐步产生“有意识”的理解、推理和创造能力。大数据技术赋能生成式人工智能遵循着组织、技术和流程再造的逻辑，集中体现在技术、数据、算法和人机交互四个方面的赋能。必须注意的是，ChatGPT类生成式人工智能介入意识形态传播可能会带来潜在的新风险，集中表现为“算法利维坦”，即算法在社会治理中成为决定性因素。从整体上看，ChatGPT类生成式人工智能的意识形态风险主要是技术风险和伦理风险，具体体现为算法歧视、数据失真、算法监控和算法反噬。

第一，算法歧视导致生产内容倾向的异化。算法歧视是ChatGPT类生成式人工智能所蕴含内容文本的主观聚合表现，有特定的价值取向。算法并不是单一的、静态的，而是复杂的、动态的，其作为大数据、云计算的结合体，属于人工智能时代的个性化与智能化的产物。（15）与传统的信息生成和舆论生成逻辑不同的是，算法规定的生成路径和生产内容由于具有不可操作性而变成“信息茧房”，不受外界介入的干扰，使得其受众的价值观念呈现整齐划一的“一元化”状态，并且在算法推荐的加持下得到持续的强化，迫使受众的意识形态在无意识中被构建起来，从而导致生成内容倾向的异化。从算法歧视生成的内在逻辑来看，算法歧视是以大数据计算实现其功能的，而大数据计算规定着算法歧视的特质，使算法推荐具有可计算性和能计算性。这种遵循着既定规则的可计算性和能计算性必然会使算法推荐被打上重复性、偏好性或价值取向性的意识形态烙印，使得其生产和传播的内容倾向持续输入，加固了原有算法推荐的边界。从算法歧视生成的主观逻辑来看，人的本性就是自身独特本质与共享本质的有机统一，而算法歧视撇开人的共享本质，制造、生产、编辑、推荐有利于自身发展的独特本质内容，以迎合人的利己本性和他人的认同。一旦算法推荐推送的具有歧视性的文本内容和观点与受众的价值观相契合，算法歧视自身就构建了“信息茧房”，这样就严重削弱了人的思辨能力和认知能力，加剧了人的单向度性。

第二，数据失真导致算法意识形态的错位。ChatGPT类生成式人工智能环境下意识形态的传播依托于大数据化受众的多维数据集进行自动整合與分析，在网络空间中投射出一种虚拟身份，呈现出个体的画像，以算法身份的形式参与网络空间的意识形态传播。数据与算法可将受众进一步细分为可分体，并烙上大数据化标签，以满足ChatGPT类生成式人工智能环境下意识形态传播个性化的需求。在ChatGPT类生成式人工智能介入主流意识形态个性化传播的语境下，大数据受众的细分体在网络时空中进行移置，需要先将个体受众转换为数据，再依据大数据标签的属性对细分体进行二次分类，并对细分个体进行受众识别和大数据分析，形成算法推荐可读的数据画像。ChatGPT类生成式人工智能介入下主流意识形态的传播是建立在细分体受众的自我认同和数据画像相匹配的基础上的，因此，细分体受众借助大数据标签的自我意识实现了意识形态契合。细分体受众自我意识的构建过程一方面是大数据和算法进行“求同”与“去个性化”的归类过程，另一方面也是消解细分体主体性的过程，这可能导致细分体受众数据的失真，造成ChatGPT类生成式人工智能模型算法意识形态的错位。

第三，算法监控造成传统职业信仰的崩塌。ChatGPT类生成式人工智能环境下的意识形态在社会各个职业领域传播的效度和信度是不一样的，受到传播主客体所处的环境等因素的影响，而且这些影响因素也构成算法推荐的条件。传统职业由于门槛较低，对从业人员的技术能力要求不高，很容易被新兴的人工智能所取代，这就会造成人们对传统职业信仰的崩塌。随着大数据技术和人工智能机器人的广泛应用，人工智能环境下的工作被算法监控起来，这进一步造成了人们对算法推荐生成的内容难以理解沟通和意识形态传播的障碍。比如，ChatGPT的广泛应用势必会取代传统的程序性、重复性的工作，而算法监控生成的内容又会进一步强化这一趋势，这就导致人们急于发声，表达对算法推荐的不满。当人们表达心声的正常渠道被阻塞时，他们就会转而利用门槛较低的自媒体平台发声，以宣泄自己的愤懑，并以所谓的“公平正义”反制人工智能的应用。这样，原有传统职业所具有的自由变成了生成式人工智能的自由，社会的创新动力被无限压制，也使得传统职业的工作失去了创新意义。长此以往，当抛弃了传统职业的累积性和源动力的时候，科技创新便具有偶发性和不可确定性，这势必造成人们对传统职业信仰崩塌的风险，也会对ChatGPT类生成式人工智能环境下的意识形态传播构成风险。

第四，算法反噬造成人机互动关系的变异。ChatGPT类生成式人工智能的运用表明机器也可以作为意识形态传播的行为主体广泛参与人机交互的建构活动，这就使得人机交互活动具有“革命性的变化”，即ChatGPT类生成式人工智能的认知在某种程度上超越了人的认知，带来人机互动关系的变异。算法推荐在ChatGPT类生成式人工智能环境下意识形态的传播过程中起到至关重要的作用，即生成、编排、重构大数据信息，赋予了这些信息流某种意识形态属性，而这些信息流又按照自身的算法重塑下一个信息，造成算法反噬。算法反噬的作用表现为信息流在传递过程中真伪难辨，自带意识形态倾向，影响人的认知，甚至操控人的心智，造成人的思想扭曲，以至于人们不禁要问究竟是人在操控机器，还是机器在操控人。算法反噬作用还体现在人机交互情感上，表现为人与人之间的情感传播异化为人机交互情感。在ChatGPT类生成式人工智能环境下的意识形态传播过程中，算法推荐与算法反噬相互作用，形成基于人机交互驯化的传播模式，在很大程度上影响着主流意识形态的传播。

五、ChatGPT类生成式人工智能环境下意识形态风险的防控策略

在任何一个完整的系统中，风险和规制永远是相伴而生的。ChatGPT类生成式人工智能意识形态风险的防控重点是将数据、算法和算力作为一个整体，以大数据为元素、算力为支持、算法为程序，进行生成式人工智能的数据规制和算法规制。唯有建立一个各算法相关主体均应遵循的“数据规范”和“算法向善”的人工智能完整体系，才能精准地将ChatGPT类生成式人工智能的意识形态风险控制在一定范围之内。为此，要从ChatGPT类生成式人工智能介入意识形态传播的技术路径入手，设计主流意识形态算法，实现数据、算法和算力的有机统一，在源头上平衡算法推荐与人的意识的统一，构建技术理性与算法伦理兼顾、算法内容自主生产与算法监控嵌入动态平衡的意识形态风险防控策略。

第一，统筹科技伦理规制算法推荐，坚定社会主义意识形态的思想引领。ChatGPT作为一种生成式人工智能，理应遵循科技伦理的规范，坚持用科技的价值理性规制工具理性，坚定社会主义意识形态的思想引领。“如果我们在教给强大的智能机器基本伦理标准之前，在某些标准上达成了共识，那一切就会变得更好。”（16）在科技伦理的各项指标中社会责任是最为重要的，科技的研发方和使用方均应秉持高度的社会责任感，坚持科技发展为社会主义事业服务。ChatGPT类生成式人工智能环境下的意识形态传播要坚持用社会主义意识形态的科技伦理规制算法推荐，在程序研发、设计、运行中嵌入社会主义意识形态大数据，构建符合社会主义主流意识形态价值观的算法推荐。ChatGPT类生成式人工智能在介入意识形态传播的过程中，算法推荐在某种程度上创新了自身的话语体系，实现了话语内容和话语传播的双重赋权。在这种情况下，必须坚持社会主义主流意识形态话语对ChatGPT类生成式人工智能的算法引领，运用社会主义主流意识形态规训ChatGPT类生成式人工智能的算法，防止ChatGPT类生成式人工智能在话语构建和话语传播过程中制造意识形态风险。

第二，设计主流意识形态驾驭算法，提升主流意识形态传播主体的能力。针对ChatGPT类生成式人工智能介入意识形态传播的技术路径以及带来的算法风险，设计主流意识形态驾驭算法是解决主流意识形态传播困境的有力武器。算法推荐的本质是基于算力的能量储备和基于大数据算法的技术设计，也就是说，ChatGPT类生成式人工智能介入下的意识形态传播并非随意扩散，而是依据事先设计的编码程序展开的。在算法的技术设计中，算法推荐通过对网络行为和心理的大数据挖掘和分析，对传播受众打标签，赋予其特定的意识形态倾向，引导传播者的认知和判断，依据大数据关联性进行优先等级排序和匹配，最终实现影响意识形态传播的目的。在此意义上，当下“深度学习和数据的有效积累在长远来看已不仅是信息的集合，更可能是一个机构的价值观和意识的体现”（17）。若要实现主流意识形态的价值观和意识，就需要设计主流意识形态话语引领下的算法推荐规训技术。为此，信息传播主体既要在输入和输出端训练话语体系和话语技术，又要探寻传播过程中主流意识形态引领下的话语逻辑和规律。设计主流意识形态驾驭算法使得“传播的意义将在很大程度上由信息传播转变为价值和意义传播”（18），这种传播机制既遵循主体的意志，又提升主体传播主流意识形态的能力。

第三，协调传播主体与客体的价值需求，实现算法式能动性的个性化传播。算法式个性化传播，是运用大数据的算法技术，針对受众特征展开个性化描述、匹配和传播的过程。数据和算法使得ChatGPT类生成式人工智能环境下意识形态传播的主体对传播环境和传播客体的认知以量化形式呈现，便于协调传播者和受众的价值需求，实现整个传播体系中主流意识形态的一致性。在意识形态传播过程中，如果能够协调传播主体与传播客体的价值需求，就很容易推进算法式能动性的个性化传播。协调传播主体与传播客体的价值需求，主要是指依据传播平台的算法价值取向施以个性化服务、精准化服务和能动式服务。在此基础上，大数据的多维性和标签化、算法式智能个性化和算力的增强，将有力地推进社会主义主流意识形态的个性化传播，将传播主体与传播客体的独特性和差异性融入传播内容的生成中，实现意识形态传播全流程的统筹协调。

第四，强化大数据技术检测与治理，约束意识形态传播中的算法推荐。因为ChatGPT类生成式人工智能环境下的意识形态传播充满不确定性，所以，加强生成式人工智能全场域的大数据技术检测和治理成为其健康发展的必然要求，这样可以约束意识形态传播中的算法推荐。强化大数据技术检测和治理，有助于推进主流意识形态的精准传播、针对性监管，约束生成式人工智能意识形态传播中的算法，构建大数据技术检测反向规训意识形态传播机制。大数据技术检测，可以从源头上检测信息的可靠性。同时，以大数据挖掘技术对信息作二次分析，从话语体系、信息共性、网络环境等多方面开展分析，有助于依据媒体性质推荐不同的算法，进行区别化、精细化的治理。算法推荐应该根据媒体平台性质的不同，进行内容生产和信息传播的算法分类，明确党媒与商业化媒体的算法差异，做到事前监督、事中检测和纠错、事后反馈和治理，检验算法推荐的可信度，制定分级分类标准，以约束ChatGPT类生成式人工智能环境下主流意识形态的传播偏失。在研发新型生成式人工智能算法模型时，要立足中国国情，以社会主义主流意识形态为指导，构建多方参与、多元协同、共享共治的治理算法监管范式，实现新型生成式人工智能算法模型与国家治理范式相匹配的良性治理模式，为中国式现代化建设筑牢意识形态防火墙。

注释：

（1） Nigel Walton， Bhabani Shankar Nayak， Rethinking of Marxist Perspectives on Big Data， Artificial Intelligence （AI） and Capitalist Economic Development， Technological Forecasting and Social Change， 2021， 166（c）， Article 120576.

（2） 代金平、覃杨杨：《ChatGPT等生成式人工智能的意识形态风险及其应对》，《重庆大学学报》（社会科学版）2023年第5期。

（3） 李昂、汪洋：《ChatGPT的政治倾向初探：表现、成因及意识形态风险》，《实事求是》2023年第4期。

（4） 温晓年：《ChatGPT的意识形态风险审视》，《西北民族大学学报》（哲学社会科学版）2023年第4期。

（5） 李舟、易华勇：《ChatGPT介入意识形态安全治理的逻辑、风险及应对》，《阅江学刊》2023年第4期。

（6） 孙会岩：《新一代人工智能技术的网络意识形态问题及其应对——以ChatGPT为例》，《毛泽东邓小平理论研究》2023年第5期。

（7） 王延川、赵靖：《生成式人工智能诱发意识形态风险的逻辑机理及其应对策略》，《河南师范大学学报》（哲学社会科学版）2023年第4期。

（8） 方旭：《从ChatGPT看人工智能时代意识形态领域运作表征与风险防范》，《毛泽东邓小平理论研究》2023年第5期。

（9） 王少：《ChatGPT介入思想政治教育的技术线路、安全风险及防范》，《深圳大学学报》（人文社会科学版）2023年第2期。

（10） 《马克思恩格斯文集》第10卷，人民出版社2009年版，第43页。

（11） 喻国明、曲慧：《“信息茧房”的误读与算法推送的必要——兼论内容分发中社会伦理困境的解决之道》，《新疆师范大学学报》（哲学社会科学版）2020年第1期。

（12） 付安玲：《推进大数据时代红色文化数字化建设》，《中国社会科学报》2020年6月30日。

（13） ［英］维克托·迈尔-舍恩伯格、肯尼思·库克耶：《大数据时代：生活、工作与思维的大变革》，盛杨燕、周涛译，浙江人民出版社2013年版，第71页。

（14） 张洪忠、王競一：《社交机器人参与社交网络舆论建构的策略分析——基于机器行为学的研究视角》，《新闻与写作》2023年第2期。

（15） 许加彪、王军峰：《算法安全：伪舆论的隐形机制与风险治理》，《现代传播（中国传媒大学学报）》2022年第8期。

（16） ［美］迈克斯·泰格马克：《生命3.0：人工智能时代人类的进化与重生》，汪婕舒译，浙江教育出版社2018年版，第444页。

（17）（18） 孙萍：《“数据新能源”下的传播新机制》，《中国社会科学报》2020年1月2日。

作者简介：向继友，安徽大学马克思主义学院讲师，安徽合肥，230601；吴学琴，安徽大学马克思主义学院院长、教授、博士生导师，安徽合肥，230601。

（责任编辑 刘龙伏）