论ChatGPT的意识形态属性

何晓颖,袁 芃

(同济大学 马克思主义学院,上海 200092)

ChatGPT是美国Open AI公司于2022年11月30日推出的基于GPT3.5的大规模语言模型,它是“以技术为支撑的一种语言模式的迭代产品,通过扫描数量庞大的互联网信息,生成模仿人类语言模式的回应文本”[1],可以撰写论文、创作小说、编改代码、翻译文章等,基于GPT4.0的ChatGPT Plus还可以在输入图像的基础上完成图像与语言相互转换的任务。不可否认,ChatGPT为人类的日常生活带来了便利,并使普通人直接体验到人工智能的魔力与魅力,也仿佛把人们带到了超越国家、超越政治、超越意识形态的智能环境中。但值得注意的是,由于资本逻辑主导的无止境的规训与异化,以大数据、算法、算力为核心的ChatGPT在改变人们工作生活的同时,也在不知不觉中塑造着意识形态。进入人工智能时代以来,我国学者持续关注人工智能领域的意识形态问题,他们普遍认为人工智能在提高意识形态传播的力度和精准度的同时,也会带来主流意识形态凝聚力、引领力降低的问题。ChatGPT作为对话式话语生成的人工智能技术,它以西方语料为基础,以西方的价值体系为指引,以西方逻辑为框架,实现了与西方经济、政治、文化的耦合,在所难免地具有意识形态属性,成为“意识形态国家机器”,并在一定程度上冲击着我国主流意识形态。“意识形态关乎旗帜、关乎道路、关乎国家政治安全。”[2]因此,剖析ChatGPT的意识形态属性,深刻认识资本主义意识形态在ChatGPT中的隐性渗入,对于维护我国意识形态安全、提升社会主义意识形态引领力具有重要的战略意义和现实意义。

一、关于人工智能与意识形态关系的思想论争

从表面上看,ChatGPT是一款聊天机器人,但实质上它是生成式人工智能。生成式人工智能是弱人工智能向强人工智能演化过程中衍生出的一种新兴技术,旨在以高效率创造高质量的内容。随着人工智能技术的不断发展,其与意识形态的关系愈发紧密。人工智能不仅仅是意识形态的载体,而且已然具有意识形态属性。当前,学界对人工智能与意识形态的关系争论不休,大致有“对峙论” “本体论”两种看法。

“对峙论”认为人工智能不属于意识形态。“对峙论”认为:人工智能与意识形态分属不同的领域,人工智能不具有意识形态属性,更不是意识形态本身;人工智能是一种先进的科学技术,从属于生产力范畴,与意识形态毫不相干,与意识形态处于“平行面”;人工智能是新兴生产力,它融合多种前沿技术,加速了劳动力、资本等要素的流动,推动了人类社会生产方式的变革。持此种观点者以马克思对生产力与科学技术的内涵论述为理论基础。关于生产力与科学技术的内涵,马克思曾指出,“一般的社会知识,已经在多么大的程度上变成了直接的生产力”[3]198,“生产力中也包括科学”[4]。马克思自然地将科学技术与意识形态区别开来,指出意识形态属于上层建筑的范畴,是社会物质现实关系的反映,遵循着价值理性的原则,而科学技术属于生产力领域,遵循工具理性的原则;同时,马克思也指出科学技术与意识形态是相互联系的两个整体,科学技术在一定程度上会影响意识形态的内容,而意识形态对科学技术也有反作用。由此可见,持“对峙论”的学者只看到了人工智能与意识形态在内涵上的不同,而忽视了二者之间的联系,片面地运用了马克思的观点。

“本体论”认为人工智能是一种意识形态。这种观点认为,人工智能是人类理性设计的成果,其中必定承载着某种特定的价值观,因此人工智能本身就是一种意识形态。这种观点明显受到法兰克福学派“科学技术即意识形态论”的影响。法兰克福学派看到了二十世纪六七十年代西方发达工业社会中科学技术快速发展带来的负面影响,并批判了科学技术在资本主义社会所显现出来的消极政治作用。但是,科学技术生来并不是意识形态,只是在资本主义追求永无止境的资本增殖的过程中具有了意识形态属性与功能,正如马克思所指出的,这种属性“是从机器的资本主义应用产生的”[5]。

其实,人工智能与意识形态之间既有本质区别又有天然关联,把二者割裂开来或者完全等同都不属于辩证的思维。人工智能是人类创造的物质文化与精神文化的一部分,人工智能也具有一般文化所具有的器物、制度和观念,而这三个结构层次都与意识形态有关。器物层面的人工智能是生产和传播意识形态的载体,表现为人工智能的意识形态功能;制度层面的人工智能是发展人工智能意识形态属性和功能的重要战略部署;观念层面的人工智能是工具理性和价值理性的统一体,具有意识形态的特征。所以,只注意到人工智能的技术属性而忽视人工智能的价值因素,或者照搬照抄科学技术意识形态论,夸大人工智能的作用,将意识形态与人工智能完全画等号,这两种思想都是不可取的。当前,我们无法想象完全脱离以人工智能为代表的科技革命的意识形态,但人工智能并不是意识形态,在一定的社会制度下,人工智能不只是单纯的“科技化”的物质产品,也是具有意识形态属性的精神文化产品。人工智能不能“独善其身”并做到“价值无涉”,它参与了意识形态的建构,从而具有了意识形态属性。“要学会把机器和机器的资本主义应用区别开来”[6],在具体的社会制度中以客观理性的态度分析人工智能所具有的意识形态属性,从而推动人工智能与社会主义意识形态的良性互动。

二、ChatGPT的意识形态属性剖析

ChatGPT是一种先进的生产工具,它不仅是采纳了人类交互对话模式的聊天机器人,而且还是具有语义查找和辨别能力的搜索工具与具有数字孪生能力、数字编辑能力、数字创作能力的文本创造工具。目前,ChatGPT作为一种由大数据、算法、大算力构成的智能模型已经被应用于医疗保健、金融商业、法律服务、创意写作等领域,嵌入人们的日常工作生活中。“社会控制的现行形式在新的意义上是技术的形成。”[7]ChatGPT已然超越了其本真的技术属性,体现出操纵社会生活、形塑个体认知的意识形态功能,具有无可置疑的意识形态属性。

(一)数据的意识形态性

数据和算法是构成ChatGPT的重要基础,而数据又是算法的基础。数据和算法中都暗含着偏见,而数据偏见会进入到算法中,因而数据的意识形态性集中表现为偏见性。在信息传播过程中,数据作为人类思维的物化形式似乎总是以“技术中立”的姿态彰显着客观性和准确性的“在场”。人们总是忽视数据加工与阐释过程中的主观性,并忽略了数据的劣根性即偏见。“偏见可以被定义为对某一社会群体及其成员的一种不公正态度,它是一种事先或预先就有的判断。”[8]数据偏见是指数据在生成、采集、处理、运用等阶段产生的与人类偏见类似的观点与信息,其实质是在貌似客观中立的数据库中内嵌主体的价值喜好、偏见,进而对大众的认知产生影响。

数据库和语料库是ChatGPT进行预训练的基础,ChatGPT只有通过抓取海量数据才能完成训练任务。目前ChatGPT已经完成了1750亿个模型参数的预训练,这些数据中都暗含了隐形的偏见。

第一,ChatGPT的数据库是由美国Open AI公司掌控的,它隶属于西方的权力逻辑体系并且无法规避西方价值体系的植入。在资本主义早期,资产阶级主要通过政治权力维系社会稳定。随着数字技术的飞速发展,数据已然成为新的生产资料,成为最为关键的生产要素之一,而数字社会的权力有可能转移至生产资料的所有者手中。西方国家可以利用其掌握的数据来强化ChatGPT数据库中的意识形态内容,并对数据进行有选择性的采集,从而对大众的思想观念施加影响。此外,由于ChatGPT数据库的数据大多来自西方国家,ChatGPT在与用户交流时难免会表达出具有明显意识形态偏向的内容。

第二,ChatGPT的海量数据以人的情感、喜好、价值观为运作前提,在所难免地会嵌入特定的意识形态立场。“每一种工具里都嵌入了意识形态偏向。”[9]作为一种高新技术,ChatGPT的数据库并不是独立存在物,它从属于其拥有者所代表的资产阶级,其中必然也渗入了资产阶级的意识形态偏向。在西方资本主义社会中,资产阶级既控制着物质生产又控制着精神生产。资产阶级试图为自己的意识形态穿上华丽的外衣,并将其意识形态以难以察觉的方式投射至ChatGPT的数据库中。数据并不是凭空产生而是人为创造的,它并不是超然于人的主观价值之外的事物。ChatGPT的数据是由Open AI雇佣并培训的数万标注人员以手工撰写的方式注入的人类偏好知识,亦即人类的日常表达习惯和人类评判是非好坏的标准。这些标注人员并非生活在意识形态的真空中,他们都具有先验的意识形态;而意识形态是人类主体性活动的产物,它总是展现出一定阶级或集团的价值偏好。

第三,ChatGPT的数据偏见表现为话语权偏见。作为人类社会重要的交流中介,语言文字是意识形态的载体。马克思认为:“‘精神’从一开始就很倒霉、注定要受物质的‘纠缠’,物质在这表现为震动着的空气层、声音,简言之,即语言。”[10]来自维基百科、Common Crawl语料库、WebText语料库的语料构成了ChatGPT高质量的语料基础,而这些海量的语料大都是以西方国家的语言为主体的,这就导致了ChatGPT在识别其他语言的语料时容易出现“选择性失明”,使得其他语言的语料被边缘化。譬如,ChatGPT中的中文语料占比较少,它与中文用户交互时能提供的信息就较少,并且它对中文的语言表达习惯不太了解,有时会出现张冠李戴的情况,这就在一定程度上使中文成为话语表达的“他者”。不是所有语言都有机会成为ChatGPT话语表达的主体,这在一定程度上挤压了非英语国家的话语表达机会,这类国家的话语权因此相对较弱;同时,ChatGPT也牵制着世界范围内话语表达的规范,这在一定程度上为西方国家意识形态的传播增加了筹码。

(二)算法的意识形态性

算法是ChatGPT的基本结构与中枢系统,其意识形态性表现为算法操纵。算法操纵是互联网信息服务提供者运用算法在人们无意识的情况下对其言论、思维进行控制。取得、抢占、处置用户数据信息是算法运行的实质,平台基于以上三个过程会生成全新的数据信息,以此来预测并控制用户的选择和行为。在算法方面,ChatGPT借助人类反馈强化学习的训练模式而拥有完成语言及其相关任务的能力,凭借其高隐蔽性、强专业性等特点建构用户在平台上的认知,形成一种隐性的操纵力量。ChatGPT逐渐成为提供网络信息服务的一个重要工具,并搭建了一套新式的内容生成、信息分发、效果反馈规则。

从内容生成环节来看,ChatGPT设计的初衷是追逐价值增殖与流量变现,在这一前提下ChatGPT的价值判断与价值选择必然带有自己的偏好。同时,ChatGPT的算法提升了预训练模型的“人格化”水平,但这并不意味着它可以像人一样筛选信息。实际上,它难以分辨信息中蕴含的意义,从而产生操控性的结果。例如,利用ChatGPT进行文章写作,设定一个或多个带有价值观偏向的文章关键词,那么形成的文章就会体现出一定的价值观偏向,这样就会隐蔽地塑造公众舆论。

从信息分发环节来看,ChatGPT的算法可以在庞大的数据信息中发现规律,并自动生成用户熟悉的自然语言,从而实现与用户的沟通交流。除此之外,ChatGPT的算法技术还可以对用户的情感进行分析以实现信息服务的“投其所好”。作为ChatGPT的核心技术之一,“算法程序在信息生产与分发过程中失去客观中立的立场,造成片面或者与客观实际不符的信息、观念的生产与传播,影响公众对信息的客观全面认知”[11],从而对用户的思想观念产生影响。

效果反馈是ChatGPT隐蔽地规训用户的最终环节。ChatGPT通过收集用户的回复、评价等内容为下次生成并分发数据提供依据。表面上,用户的提问决定着ChatGPT的数据选择与呈现,但实际上,算法已通过精准的用户画像控制了用户的选择,就这样用户在不知不觉中丧失了获取不同知识的想法并对ChatGPT的依赖愈来愈深。ChatGPT可以与用户开展多轮的对话互动,了解用户的需求与表达习惯,并根据用户的指示完成五花八门的与语言相关的任务。ChatGPT好似在完成用户下达的任务并尊重用户的选择,但实际上算法在有意识地引导着用户的选择。

除此之外,ChatGPT具有强大的自然语言处理能力和多模态转化能力,使得用户易于在沉浸式的交互中乐而忘归。用户沉迷在与ChatGPT的虚拟交往中容易丧失其自我意识,并将自我选择让渡出去。由此,ChatGPT的算法技术在掌握用户需求的基础上控制了用户本身具有的超越性自由和可能性力量,而用户在一定程度上丧失了其主体性。

ChatGPT凭借算法技术在汇集意识形态信息的过程中逐渐掌握“行动者地位”,并逐步优化语言模型来满足用户需求,精准把握用户情感,掌控用户的想象空间,进而对用户的情感认知、价值信仰等产生重要影响。算法的意识形态属性日渐凸显。

(三)算力的意识形态性

算力是ChatGPT发展的动力。算力是指在分析处理海量信息的基础上输出目标结果的计算能力,是数据和算法的运行平台。目前,平台算力、基础算力、服务算力构成了算力的多层次系统,而以GPU、FPGA、ASIC为代表的芯片是人工智能算力的基础。在算力方面,ChatGPT的“背后英雄”是由微软Azure云业务提供的、由数万个A100 GPU组成的大型人工智能超级计算机。强算力支撑着ChatGPT大型语言模型的训练和推理运算过程。

算力的意识形态属性体现在其蕴含的计算性思维上。计算性思维就是把整个世界都视为可量化的、可计算的,而凡是可以计算的都是可以记录其发展进程的。ChatGPT的算力通过符号化处理与数字化表达,使其输出的信息具有可计算思维的抽象化、形式化特征。在与用户交互的过程中,ChatGPT的计算性思维借助强大高速的计算能力和海量的数据存储能力,对文本进行精准翔实的分析,实现ChatGPT拟人化地回答问题的功能。ChatGPT凭借其算力在用户输入文本信息的基础上将其转换为编码再进行计算,对文本信息中隐藏的感情偏向、价值取向进行精准剖析,再通过算法输出最终结果,这就是计算性思维的胜利。“计算已不仅成为人们认识自然、生命、思维和社会的一种普适的观念和方法,而且成为一种新的世界观。”[12]ChatGPT的算力将用户输入的数据同等视作可以计算的内容,抹平了一切存在质的差异性,只将其看作可以计算的东西,这貌似使用户处在平等的地位上。但是这种“平等”只是一种虚幻的平等,只有资产阶级才能从这种形式的“平等”中获得利益,这只是资本主义用于掩盖矛盾的手段之一。

算力的意识形态属性是创造与运营ChatGPT背后的资本逻辑所推动的。从诞生之日起,ChatGPT的算力就与资本紧密相连。相关研究表明,训练一次ChatGPT的计算量约为3640petaFLOPS-days,所耗费的成本约为1 200万美元。目前可以提供超级计算能力的设施价格都十分昂贵,这已经不是草根的游戏,而是资本的全面比拼。在马克思看来,商品拜物教是塑造资本主义意识形态的力量。在进入人工智能时代后,资本依旧塑造了资本主义意识形态,不同的是,“智能技术商品”成为最新的资本形式,“技术拜物教”成为最新的拜物教表现形式。在工业经济时代,社会财富的主要表现形式是“庞大的商品堆积”;在进入人工智能时代后,社会财富的表现形式转变为“庞大的智能技术堆积”,智能技术商品化、资本化,成为新的物神,智能技术具有了支配人和人类社会命运的神秘属性。商品具有神秘的属性,而这种神秘的属性就来自商品交换中把质抽象为量的过程,这实际上就暗含着抽象化、形式化的计算性思维。在智能技术抽象化为商品的过程中,资本的抽象统治更加隐蔽并在所难免地导致人及其生活的异化。正如卢卡奇所言:“每一种异化都是以一种社会经济为基础的现象……这种基础上的每一种异化又首先是一种意识形态,这种现象的结果从许多方面牢牢地包围着每个当事者的个人生活。”[13]ChatGPT凭借其算力将一切都抽象化、数据化,甚至将用户的立场、情绪、想法等量化为可分析的数据。长此以往,用户很容易成为单向度的人,并且在无意识的情况下积极主动拥抱这一异化,很有可能放弃意识形态斗争。

三、应对ChatGPT的社会主义意识形态建设策略

ChatGPT在一定程度上推动了社会生产力的发展和人类文明的进步,但是我们不能无视其背后的意识形态属性。意识形态正在以更加隐匿的方式渗透到社会生活中。“如果从观念上来考察,那么一定的意识形式的解体足以使整个时代覆灭。”[3]170因此,我们要客观理性审视ChatGPT的意识形态属性和功能,做到因势利导、顺势而为。通过加强教育、精准驾驭、主动创新,理性辨识资本主义意识形态渗透,进一步提高社会主义意识形态凝聚力、引领力。

(一)加强相关教育,构筑强大的意识形态共同体

ChatGPT实现了与人的双向交流互动,并展现出超人的技能和才干。在ChatGPT的应用场域中,人类对ChatGPT的过度依赖会造成人的主体性下降,ChatGPT反客为主并发挥其意识形态功能,试图操控人们的思想、情感。所以,有必要针对受众开展教育,提高其反“规训”能力,发挥其在双向互动中的主导作用,为维护ChatGPT中我国主流意识形态安全构筑强大的意识形态共同体。

第一,通过意识形态教育提升受众对异质意识形态的辨别力。意识形态教育是我国国家安全教育的重要一环。针对ChatGPT的受众开展意识形态教育,其目的是用马克思主义科学的世界观和方法论武装他们的头脑,促使他们树立正确的价值观,增强他们辨识和抵制各种异质意识形态的能力。在ChatGPT非政治化面貌的掩饰下,西方资本主义意识形态渗透更加隐匿,冲击着我国主流意识形态安全防线。为此,要在加强主流意识形态教育基础上,提高ChatGPT受众的信息整合与批判能力,从而提高其反渗透能力。

第二,提高受众运用ChatGPT的素养。一是培养受众正确对待ChatGPT的态度。目前,学界对科学技术的态度大体有两种:科技乐观主义和科技悲观主义。要引导受众审慎对待ChatGPT,即不能过于乐观也不能过于悲观,正确认识其优势和劣势;并且要认识到科学技术本身并没有善恶之分,它是行善还是积恶依赖于其幕后力量的意图和我们的使用方法。我们要使ChatGPT“为我所用”,将技术优势转化为工具优势。二是通过线上与线下相结合的方式举办ChatGPT理论学习等活动,积极面向受众普及ChatGPT的工作原理,使广大用户知晓ChatGPT的数据、算法、算力都暗藏着意识形态性,从而提高受众反渗透的觉悟。三是提高受众运用ChatGPT的能力。在掌握ChatGPT的技术逻辑和运行逻辑之后,最为重要的就是将其运用到实践中。受众要运用所学不断挖掘ChatGPT发现、分析、解决问题的功能。此外,受众在使用ChatGPT的同时,ChatGPT的数据库会自动更新,这就为ChatGPT的数据库增加了符合我国主流意识形态的内容,促进了ChatGPT的自我净化。

(二)打破技术壁垒,完善顶层设计

科学技术的进步不以人的意志为转移,我们不能因为ChatGPT暗含的意识形态性就放弃发展ChatGPT的同源技术。我们要将核心技术牢牢掌握在自己手里,集中力量解决“卡脖子”问题。除此之外,技术的革新离不开顶层设计的支持;顶层设计在给予技术支持的同时,也要符合技术发展的规律和特点。

第一,坚持独立自主,打造中国版ChatGPT。ChatGPT是一款对话类语言模型,语言本身就含有意识形态的色彩并代表着一种话语权力,ChatGPT的普及在一定程度上隐藏着话语权的渗透。同时,ChatGPT与资本紧密联系,资本和话语双重因素的作用很容易导致新的霸权主义。归根结底,ChatGPT是由美国掌握的一项技术,美国利用ChatGPT进行意识形态渗透是轻而易举的事情。我们要想摆脱受制于人的局面,就必须加强科技创新,打造中华民族自己的“ChatGPT”。虽然我们已经拥有了百度研发的文心一言和复旦大学研发的MOSS等对话式大型语言模型,但是在数据、算法、算力等方面与ChatGPT有一定的差距。所以,我们要继续加强人工智能核心技术的研发及资金投入,进一步布局建设国际领先水平的数字化基础设施,继续实施“东数西算”工程,发挥第三方机构的技术研发作用,要从意识形态领域出发,加快对ChatGPT同类技术在意识形态场域中的落地开发。我们要坚守技术自主权并发挥在人工智能领域的比较优势,坚持走独立自主的中国式现代化道路,维护我国国家安全。

第二,建设完备的法律法规体系,加强对ChatGPT大模型的监管。一是完善法律法规,织密有关ChatGPT及其同源技术的法律网。在激烈的市场竞争中,ChatGPT及其同源技术往往只在意如何通过提高流量、增加用户来增加企业利益,而忽视了自己在凝聚社会共识、维护意识形态安全方面的责任,致使各种错误思潮趁机泛起。因此,针对ChatGPT可能引发的意识形态风险,亟需建构ChatGPT及其同源技术的准入制度,进一步完善有关ChatGPT及其同源技术的法律法规,严格审核ChatGPT中的数据和算法,确保我国意识形态安全。二是加强行业监管,协同开展ChatGPT治理。应对ChatGPT带来的意识形态风险,要充分发挥互联网及人工智能行业自律组织的监管作用,构筑以政府为主,第三方机构、社会公众等多元主体参与的ChatGPT平台内容协同治理格局;加强对ChatGPT内容的检测、分析与评估;严格ChatGPT平台的资质监管,不断夯实主体责任,促使ChatGPT平台更好地履行社会责任,为我国主流意识形态的传播提供良好的拟态环境。

(三)强化价值导向,推动主流意识形态与ChatGPT同源技术的良性互动

在资本主义社会,ChatGPT发挥了为资本主义辩护的作用。但是,在社会主义意识形态下,ChatGPT同源技术可以成为促进人自由而全面发展的力量,因此我们必须充分发挥主流意识形态的引领作用。

第一,强化社会主义核心价值观的导向作用。ChatGPT的意识形态性内嵌在其技术逻辑之中,暗藏着资本、权力、制度等秘密。要辨析ChatGPT及其同源技术是推进社会主义意识形态建设的,还是与其相反,则需要“落实在具体的、历史上特定的社会-政治分析上,同时把意识形态的批判的基础置于政治冲突实际上所发生的语境里”[14]。只有在特定的社会-政治语境中,才能把握ChatGPT同源技术蕴含的价值属性。为此,要以社会主义核心价值观为导向,精准把控ChatGPT同源技术运转的方向盘,避免ChatGPT同源技术误入歧途,使ChatGPT同源技术成为助力社会主义意识形态建设的力量。在ChatGPT同源技术的设计和运行中嵌入社会主义核心价值观,并且将社会主义核心价值观的引领作用贯穿ChatGPT的应用全过程,为ChatGPT同源技术装上行驶的指示灯,以价值理性规正ChatGPT同源技术演进方向,使ChatGPT同源技术更好服务于社会主义意识形态建设。

第二,利用ChatGPT及其同源技术及时掌握大众诉求,增强大众对主流意识形态的认同度。ChatGPT及其同源技术的语言生成功能独步天下,它可以实现人机语言交互,整合人类已有的文本内容,这就为分析、发现、预测大众的心理特点、兴趣爱好、利益诉求提供了工具。恩格斯指出:“一个行动纲领,如果不同人们的实际需要相结合,即使它在理论上是基本正确的,那也毫无用处。”[15]要善于利用ChatGPT及其同源技术掌握大众需求并及时作出回应,了解“网言网语”,“让党的创新理论 ‘飞入寻常百姓家’”[16],实现主流意识形态话语表达“接地气”“入人心”,从而提升大众对主流意识形态的认同度。

第三,充分利用ChatGPT及其同源技术实现主流意识形态传播路径的更新换代。ChatGPT的出现开启了崭新的以算法和数据为驱动力的智能传播时代,以数据操控公众的深度认知成为可能。ChatGPT拥有庞大的数据库,这就为主流意识形态的传播提供了信息支撑,可以掌握用户偏好,并向用户精准供应主流意识形态。除此之外,新推出的ChatGPT Plus可以使用并输出声音、图像等多种模态数据,这就为主流意识形态感性传播提供了可能。