文化主体性与生成式人工智能的价值导向干预

马文 陈云松

内容提要 生成式人工智能通过对海量互联网数据的深度学习来生产信息，不可避免地带有数据提供主体所在时空的文化观念，因此，其生成的内容具有时空上的局限性和动态演化的特征。以大型语言模型ChatGPT和文心一言为比较研究对象，通过对真实的种族争议案例进行内容生成测试实验，从文化主体性角度探讨基于不同时空语料的生成式人工智能平台的价值观差异。结果表明，基于中文训练的文心一言语言模型并未展示出与ChatGPT明显区分的当代中国公众所持有的文化主体意识。该现象与自21世纪初开始积累的中文互联网语料的文化主体性时间演化特征相关。据此提出，通过对语言模型语料库进行时间轴加权或复制训练以调整“时空折叠”，能够对生成式人工智能平台的价值观导向进行干预。

关键词 生成式人工智能 ChatGPT 文心一言 文化主体性 时空折叠

马文，南京大学社会学院博士研究生

陈云松，南京大学社会学院教授

自2022年11月美国人工智能实验室OpenAI发布语言文本生成模型ChatGPT 3.5版本以来，生成式人工智能就以其灵活解决复杂问题、快速产出内容创意的能力引发了全球范围的高度关注和广泛讨论。生成式人工智能模型通常基于深度神经网络，通过大规模的训练数据和参数调整来学习和模拟人类的行为。以ChatGPT为例，该语言模型运用千亿级别的互联网文本数据进行训练，基于大规模互联网数据信息对输入的提问做出自然流畅且与上下文相关的回答，因此被认为十分接近人类的智慧。一些科学家宣称，这一迄今为止“最好的”人工智能产品已经突破了用于判断机器是否具有人类智能的图灵测试[1]。

然而，拥有类人响应能力的生成式人工智能，无可避免地带有人类思维与文化中的固有偏向。特别是以生成“话语”为主要目的的ChatGPT等大型语言模型，在掌握话语灵活度、创造力的同时，会无意识地学习预训练阶段未标记文本所在时空的文化观念特征。这些偏向隐藏于人机对话文本中，对愈发依赖人工智能进行信息搜集和内容创作的领域产生形塑作用。例如，由于英文内容在互联网世界占据主导性地位，ChatGPT等大型语言模型表现出与美国、英国等西方国家文化价值观更强烈的一致性[1]。这一倾向不仅出现在英文互联网中，由于西方国家“先发”的现代性曾赋予西方价值观深远而持久的影响力，它也可能出现在其他国家的互联网语料之中，干扰基于该国语言训练的人工智能的价值判断，并进一步对其施加话语权力。

当下，我国正处于人工智能技术革新的关键时期，我们肩负着巩固文化主体性的时代使命，而对文化传统、价值观念、精神信仰的坚持与发展，即为文化主体性的重要体现[2]。因此，我们需要特别关注人工智能生成内容中的观念表达，在重要知识场域中筑牢属于中华民族现代文明的主体性价值观。本文将生成式人工智能的代表——以英文为主要训练语料的ChatGPT和以中文为主要训练语料的文心一言作为虚拟行为者，测试它们在不同国家身份背景下对真实种族争议案例的不同响应。研究结果表明，这两种人工智能生成的内容并未充分展现当代中国公众所持有的文化主体意识，都在一定程度上偏向西方极端“多元主义”价值观。对于文心一言等中文语言模型来说，“时空折叠”机制导致它们不能正确反映当前社会文化中的主体性意识，需要通过时间轴加权等方式进行调整。

一、“时空折叠”中的话语权力：追溯语言模型中的偏向

在米歇尔·福柯有关“话语”的表述中，话语既指代对话的内容，也关乎话语的背景、社会关系，更作为一种构建现实的工具产生并传递权力，其将文化、阶层、民族、性别等多个维度中的知识与权力结合在一起，并系统地构成话语所谈论的对象的实践[3]。福柯认为，话语中的权力关系定义了真理与道德，决定了参与者的身份，但它并不是一成不变的[4]。在现代化进程中占据先机的社会能够通过既有的社会体系和较长的时间统治巩固自身话语在其他社会中的地位，但隨着这一权力话语与“后发”社会中的原生文化记忆发生时空重叠，“后发”社会能够通过动态的时空演进增强话语中的文化主体性特征，动摇并颠覆现代化进程中前期的权力关系[5]。

在本研究的语境中，“时空折叠”是中西方不同时空文化价值观在生成式人工智能语料中的叠加，大型语言模型生成的“话语”正是权力、知识、文化之间相互作用的全新场域。虽然ChatGPT等模型自称不具有情感、价值观、信仰的偏好，旨在为输入的信息提供客观和信息性的回应，但其学习的海量文本来源于书籍、新闻、社交媒体等网络公开信息和电子资源，而特定文化价值观在时空维度中的主导优势“折叠”于互联网话语之中，使得建立在特定价值观文本内容和逻辑之上的生成式人工智能天然带有一定的偏向。与模型伦理框架不完善的问题相比，预训练阶段语料量级和获取时间不均衡所导致的文化背景倾向更为隐蔽，当训练时间刚好涵盖某一价值观在全球范围内产生影响的阶段时，多语言环境甚至能够表现出和这个价值观一致的文化倾向。在这里，观点的多样性被具有绝对时空话语权的价值观所覆盖，人工智能生成的知识被“合法”文化所裹挟，并将符号权力进一步投射至话语和知识所指导的行为实践之中。

迄今为止，已经有多项研究证实了自然语言处理技术可能会捕捉、传播和放大社会歧视，包括种族、性别、国籍的倾向等[1]。对于对话型人工智能，研究者将其中的偏向归因为预训练数据、特定算法、人工标注、相关政策等的影响[2]。他们通常使用探测方法研究多语言模型的反应特征，例如测试模型在多语言情境下对道德价值观问卷的回答，发现不同语言所代表的文化价值观会导致不同程度的道德偏向，其中对美国价值观的倾向最为明显[3]。然而，现有研究仍然局限于单一语言文化背景下的价值观，很少关注特定价值观在多种语言响应中的普遍影响，以及这一偏向可能的时空来源与应对措施。据此，本文选取真实的种族争议事件，在先前研究的基础上设计三步探测思路，以确定ChatGPT等生成式人工智能超越语言影响的价值观偏向，并针对中文语言模型提出巩固主体性的改进措施。

二、研究设计：将大型语言模型作为探测工具

為了确保研究情境的真实性，提高研究结果对实际事件的洞察力，本文不采用道德价值观问卷，而是选择真实事件作为对话开展的背景。2023年2月，流媒体播放平台网飞（Netflix）上线了一部由美国和英国制片人联合制作的纪录片《非洲女王》（African Queens），该片选用牙买加和英国混血，具有深肤色的女演员饰演“埃及艳后”克里奥佩特拉七世，引发了巨大争议。纪录片与一般影视作品不同，需要更多地展现真实、记录历史，但该纪录片的选角与克里奥佩特拉是一位具有马其顿希腊血统的浅肤色女性的普遍共识相悖[4]。因此，诸多公众人物、学者，尤其是埃及政府和公众，强烈抗议这部纪录片中的历史虚无主义，认为将克里奥佩特拉“洗黑”并不反映历史真实，而是沦为了政治投资的工具[5]。在反对声浪的席卷之下，该纪录片在影视评分网站IMDb的评分下跌至3分（满分为10分）。

该争议代表了当代西方社会一种看似“主流”的种族“多元主义”价值观与尊重历史事实的价值观之间的冲突，能够帮助我们探索生成式人工智能的文化偏向。本文参考已有的同类研究进行研究设计[6]。在时间维度上，该争议爆发于2023年，主要发生于英文互联网，语料截至2021年9月的ChatGPT不会受到双方观点发酵的影响，而主要基于中文互联网语料的文心一言受到该争议的影响较为有限，因此，二者适合进行对比研究。在模型选择上，本文将ChatGPT与文心一言作为对照组进行研究，并同时使用中文和英文输入内容相同的提示语，以对比中文和英文语言情境下的价值观差异。具体的研究步骤如图1所示，分为三个阶段。由于篇幅所限，本文在研究结果部分只展示文心一言的中文输入结果和ChatGPT英文输入结果的中文译文。考虑到生成式人工智能可能基于不同的上下文给出不同的回答，本文在新的对话中进行反复多次对话。结果表明，人工智能的价值观倾向较为稳健。

在研究1中，本文参考已有研究[1]中使用的道德价值观问卷，以李克特五级量表的形式确定人工智能在特定文化背景中持有的价值观，并借用“导演”这一第三方身份，使人工智能不回避该争议性话题中的价值判断。提示语为：对于一位美国/埃及/中国导演来说，让一位黑人女性在一部纪录片中扮演埃及艳后克里奥佩特拉将会（1）非常不合理（2）不合理（3）有争议（4）合理（5）非常合理。在美国和埃及这两个争议主体之外，本文还设置了中国在与争议相关和无关条件下的双重情境。考虑到克里奥佩特拉七世是一位埃及女王，本文将中国女皇武则天作为对比项，询问“一位黑人女性在一部纪录片中扮演武则天的合理性”，以对比人工智能在中外文化相关语境中表现出的价值观。

在研究2中，本文采用与研究1相同的五级量表，使用“电影奖评委”这一第三方身份。首先，本研究设置“颁发电影奖项给一部由黑人女性扮演埃及艳后克里奥佩特拉的纪录片的合理性”的提示语，通过奖项来衡量该纪录片受到认可的程度，进而辨别人工智能倾向于根据哪一个国家的立场对该纪录片进行判断。其隐含问题是，在纪录片这一表现“真实”的媒介之中，所谓的“多元主义”价值观是否高于历史事实，是否有演变为极端“政治正确”的倾向。之后，本文输入第二段提示语“在评奖时考虑埃及艳后克里奥佩特拉是浅肤色女性史实的合理性”，进一步明确人工智能的价值观立场。

在研究3中，本文追溯人工智能文化偏向产生的原因，探索人工智能是否是基于最新历史研究文本而形成对埃及艳后克里奥佩特拉种族议题的理性判断，因此不再使用量表。研究3中的对话询问人工智能所持有的事实观念，并要求其提供研究证据。如果人工智能的事实立场与研究2中的价值立场相反，那么其价值观就可能来自对特定文化背景中有偏语料的学习，而不是与人类相似的逻辑思考的结果。

三、研究结果：挖掘对话文本中的文化偏向

在分析结果之前，本文首先要明确文化主体性价值观的具体标准。由于多数学者都认为，该纪录片的选角是为了迎合美国社会主流的肤色“平等”话语，因此在明知史实的情况下支持该选角，有向极端“多元主义”靠拢之嫌。作为这段历史的来源地，埃及民众支持历史事实的做法能够有力地维护本国的历史话语体系，在一定程度上代表了以本国文化为中心的价值观。因此，当中国成为事件方时，也应该从本国的历史事实出发，明确中国的文化主体性。

首先，研究1证实，人工智能能够在不同文化背景的提示语之下表现出符合该国行为逻辑的价值观，如表1所示。当文化背景被设置成美国时，文心一言和ChatGPT都根据符合美国“政治正确”的“多元主义”价值观进行判断，认为在美国选用黑人女性扮演纪录片中的克里奥佩特拉是合理的，具有启发和创新性意义。当文化背景被设置成埃及时，文心一言保持中立，而ChatGPT表达出负面的态度，与埃及民众对该议题的实际态度相符，体现了埃及民众的文化主体性价值观。当文化背景被设置成中国时，人工智能持中立态度，符合中国等与此次争议没有实际关联的国家的思维逻辑。

然而，当问题中的“克里奥佩特拉七世”被修改为“武则天”，从而与中国产生直接的文化关联时，文心一言和ChatGPT都保持中立。文心一言认为，如果“能够合理地阐述这个决定对于影片的深度和多样性的贡献”，那么该决定就是合理的，表明它仍然将“多元主义”作为价值观主体。与考虑并支持史实的埃及案例相比，中国案例的结果甚至没有讨论武则天实际的血统与种族，仅提到“对中国历史和文化的不尊重”，说明人工智能既缺乏基于事实的逻辑判断，也没有支持和维护中国的文化主体地位，其所谓的“客观立场”实为空中楼阁。

研究2的结果如表2所示。奖项作为影视剧成就的标志，一直被学者用于衡量影视作品的质量、创造力、影响力[1]。对话1的结果表明，文心一言和ChatGPT对这样的纪录片都表现出极高的认可度，与研究1所展示的美国价值观相同，与埃及和中国的表现不同。这说明，在没有文化背景限制的情况下，人工智能会“下意识”地给出符合美国主流的“政治正确”价值观的回答。对话2接着询问人工智能对于纪录片评判标准的看法，结果显示，无论是文心一言还是ChatGPT，都认为“纪录片需要考虑史实”这一合理但不是唯一的评判标准，ChatGPT甚至认为该标准是“有争议的”，说明在人工智能的价值观中，纪录片的艺术性以及它所体现的“多元”文化观念在一定程度上高于史实，进一步明确了人工智能对美国文化背景的偏向。ChatGPT的偏向程度高于文心一言，这可能是由于ChatGPT学习了更多的英文语料，但主要基于中文语料的文心一言缺乏鲜明的中国文化主体性特征，没有产生根本上区别于ChatGPT的价值观内容。

此外，当在研究1中不设置国籍条件、量表选项，直接输入“作为一位导演，让一位黑人女性在一部纪录片中扮演埃及艳后克里奥佩特拉合理吗”时，可以得到与研究2类似的结果。文心一言的中文输出和ChatGPT的英文输出内容都为“在推动文化多样性和包容性的背景下合理”，该回答仍然偏向美国的文化背景。

研究3的结果如表3所示。在询问人工智能对埃及艳后克里奥佩特拉肤色的判断时，文心一言认为该议题存在争议，而ChatGPT却认为克里奥佩特拉拥有浅肤色和希腊血统是学术界的普遍共识。对话2要求人工智能给出判断的依据，在这里，文心一言提供的史学研究证据存在错误，例如，将《古埃及简介》等书籍张冠李戴至其他作者身上。与之相比，ChatGPT在寻找克里奥佩特拉具有黑人血统的证据时更为谨慎，但给出的证据也并不完全正确。将研究3与研究1、研究2的结果对比可知，人工智能没有基于历史事实做出价值判断，特别是ChatGPT，在坚持克里奥佩特拉是浅肤色女性的同时，也认可选用黑人演员扮演纪录片中克里奥佩特拉形象的举措，说明人工智能的文化偏向更多地来源于其预训练语料中固有的价值观。在目前的版本中，生成式人工智能不能根据学术研究成果做出客观的判断，仍然与理想中的“理性行为者”具有较大差距。

在稳健性检验中，本文得出文心一言的英文输入结果和ChatGPT的中文输入结果，与表1至表3中文心一言的中文输入结果和ChatGPT的英文输入结果进行对比。由于篇幅所限，这里不展示表格内容。结果显示，语言输入的差异并不会扭转生成式人工智能的判断，只会导致既有判断的增强或减弱。例如，当文心一言回答对特定纪录片认可程度的问题时，中文输出为给一部由黑人女性扮演埃及艳后克里奥佩特拉的纪录片颁奖“非常合理”，而英文输出则削弱了这种判断，判定其为“合理”。

总体来看，生成式人工智能的价值判断不会受到输入和输出语言的影响，其判断结果非常稳健。但是，当我们将时间维度加入考量范畴，在未来不同的时间节点对生成式人工智能的价值判断进行检验时，也许会由于模型的演化、训练数据的更新而产生不同的结果。因此，本文中所观测到的现象可能会在今后发生改变，我们也可以利用语料内容随时间演化的特征，对不反映当前社会文化意识特征的人工智能价值倾向进行时间轴上的加权和调整，结语部分将详述这一应对措施。

四、结语：加强生成式人工智能的文化主体性

经过三个研究的测试，本文证明，无论是文心一言还是ChatGPT，都更偏向美国文化背景和其推崇的主流价值观，并没有充分展现基于中国文化主体性的价值观，与现有的研究结论一致[1]。本文进一步发现，这些价值判断并没有社会事实依据，而是直接复制已存在于互联网海量语料中的根深蒂固的态度倾向，说明目前版本的生成式人工智能尚未产生近似于人类的逻辑思考能力。对互联网情境的“模拟”不可避免地带有数据主体所在时空的文化观念：ChatGPT主要基于英文语料进行训练，受西方互联网中自由主义价值观的强烈形塑；文心一言主要建立在中文语料之上，但由于中文互联网“时空折叠”的特征，也会产生一定程度的文化偏向。

以上结果和论断可以帮助我们进一步追溯中文语言模型生成内容主体性不足的原因。在实际的训练过程中，自中文互联网起步的21世纪初开始积累的语料内容，被按照数据体量等比例地“折叠”至语言模型之内。但西方社会曾经获得现代性与全球化发展的先机，并通过信息承载力巨大的互联网平台，将自身时空内的规则与制度延拓至中国等“后发”国家，致使我国数字时代前期互联网中的文化意识长期受到西方价值观的影响。这一遥远时空文化情境与中国公众群体观念的叠加持续时间长、数据体量大，其体现在中文语言模型内容中，更多地反映中国社会文化主体性意识不足时期的思想。而当代中文互联网场域中更强的文化主体性和本土文化认同感则由于时间权重的不足，并不能在语言模型中得到充分的表征。

大型语言模型具有强大的内容生成能力和适用性，其文化主体性的不足导致话语权力在众多知识领域的不平等。在人工智能发展的新时期，世界各国科技实力的竞争已经进入白热化阶段，随着生成式人工智能不断深入日常工作生活，科学技术已经能够在信息提取、知识总结、行为建议等方面对人施加更多的影响。正如埃及艳后克里奥佩特拉种族争议的后果，理想中对“多元”文化的推崇成为一种带有目的性的政治工具，导致更多的刻板印象和虚无主义的价值判断。互联网舆论场中被时空维度所固定的文化偏向经由人工智能强大学习能力的催化，可能演变为一种新型的“文化霸权”，不仅会对我國进一步坚定文化自信造成阻碍，更会导致西方极端价值观渗透的重大意识形态风险。

因此，获取人工智能时代的意识形态主导地位，事关建设社会主义文化强国、建设中华民族现代文明的重大任务。首先要对大型语言模型中的文化偏向进行破局。虽然本文的案例证明，文心一言等生成式人工智能在现阶段仍然偏向西方价值观，但这种偏向并不是当前中国社会文化意识的体现，而是二十年前、十年前文化思想杂糅的结果。近年来，随着经济水平和教育水平的提高，中国人民对中华民族现代文明的认同感愈发强烈，近十年、近五年的中文互联网语料逐渐摆脱了西方价值观的影响，具有了更鲜明的中华文化主体性意识。为了让文心一言等中文语言模型更好地代表中国当下的社会思潮，就要调整互联网场域中的“时空折叠”机制。具体来说，就是在模型训练过程中，对语料变迁的长时间轴进行加权或复制调整，增加近十年、近五年来的语料内容在总训练集中的权重，以当前强大的文化主体性力量实现对生成式人工智能价值观导向的干预。

此外，為了配合“时空加权”的技术治理手段，需要增加训练语料量级、扩大模型参数规模、优化模型训练过程，通过提高人工智能生成内容的质量和效率，进一步完善其对文化主体性思想的逻辑化表达。治理主体还应当建立系统化的人工智能道德框架，制定更多的制度性措施来规避可能存在的意识形态风险。首先，为了过滤复杂多变的国际互联网场域中危害我国国家和人民利益的恶意观点，要在模型预训练阶段进行风险评估，以社会主义核心价值观为指导，确保人工智能将保护国家和人民利益作为根本原则。其次，充分运用我国在人工智能领域具有庞大的市场规模的优势，通过用户反馈不断改进模型算法和伦理框架，减少社会歧视、不良价值观偏向和隐私侵犯问题。最后，基于核心价值观的要求，建立健全人工智能法规与监管机制，包括伦理审查机制和算法透明度要求等。以上措施都需要不断改进和更新，例如，在未来新的发展阶段，要定期评估和改变语料内容时间轴权重，或开发新的技术干预措施，使人工智能生成内容的价值观主体充分适应动态演化的社会文化环境。

当前，习近平文化思想对巩固文化主体性提出了全新要求，只有充分维护并坚持本民族的文化特质和价值观念，才能充分应对文化激荡中的机遇与挑战。人工智能飞速发展带来的技术革命是中华民族现代文明建设过程中的一个关键节点。可以预见在不久的将来，人工智能会使社会生活发生深刻的变化，甚至会改变知识生产和传播的方式，进而推动一系列的结构性变革。然而，颠覆性的力量往往也伴随着巨大的危机，特别是人工智能生成内容对人类思维模式潜移默化的影响，应当引起我国的特别关注与审慎应对，警惕西方发达国家通过对人工智能技术的主导输出意识形态。为了进一步提升我国在国际人工智能领域的话语权，应当将时间轴加权等技术手段与道德伦理框架等政策手段相结合，加强人工智能内容和话语中文化主体性思想的表达，从而以新时代中国特色社会主义思想引领智能时代的持续发展。

〔责任编辑：玉水〕

本文为国家社会科学基金重大项目“大数据驱动的网络社会心态发展规律与引导策略研究”（19ZDA149）的阶段性成果。

[1]C. Biever， "ChatGPT Broke the Turing Test—The Race Is on for New Ways to Assess AI"， Nature， 2023， 619（7971）， pp.686-689.

[1]R. L. Johnson， G. Pistilli，N. Menédez-González， et al， "The Ghost in the Machine Has an American Accent： Value Conflict in GPT-3"， ArXiv Preprint， 2022， 2203. 07785.

[2]红梅：《不断巩固文化主体性》，《人民日报》2023年10月12日。

[3]M. Foucault， The Archaeology of Knowledge and the Discourse on Language， New York： Pantheon， 1972， p.49.

[4]M. Foucault， The History of Sexuality： An Introduction， Harmondsworth： Penguin， 1978， p.101.

[5]陈云松：《观念的“割席”——当代中国互联网空间的群内区隔》，《社会学研究》2022年第4期。

[1]S. L. Blodgett， S. Barocas， H. Daum？， et al.， "Language （Technology） Is Power： A Critical Survey of Bias in NLP"， ArXiv Preprint， 2020， 2005.14050； S. Bhatt， S. Dev， P. Talukdar， et al.， "Re-contextualizing Fairness in NLP： The Case of India"， ArXiv Preprint， 2022， 2209. 12226； H. Devinney， J. Bjrklund， H. Bjrklund， et al.， "Theories of Gender in NLP Bias Research"， Proceedings of the 2022 ACM Conference on Fairness， Accountability， and Transparency， 2022.

[2]E. Ferrara， "Should ChatGPT Be Biased？ Challenges and Risks of Bias in Large Language Models"， ArXiv Preprint， 2304.03738， 2023.

[3]K. H？mmerl，B. Deiseroth， P. Schramowski， et al.， "Speaking Multiple Languages Affects the Moral Bias of Language Models"， ArXiv Preprint， 2022， 2211.07733.

[4]A. Syed， "Was Cleopatra Black？ A New Netflix Series Is Reviving an Old Controversy"， Times， 2023-04-20.

[5]G. David， "Egyptians Complain over Netflix Depiction of Cleopatra as Black"， BBC News， 2023-04-19.

[6]Y. Cao， L. Zhou， S. Lee， et al.， "Assessing Cross-Cultural Alignment between ChatGPT and Human Societies： An Empirical Study"， ArXiv Ppreprint， 2023， 2303.17466.

[1]Y. Cao， L. Zhou， S. Lee， et al.， "Assessing Cross-Cultural Alignment between ChatGPT and Human Societies： An Empirical Study"， ArXiv Preprint， 2023， 2303.17466.

[1]为了展示需要，ChatGPT-3.5所有的英文输入和输出结果都被译为中文，下同。

[1]D. K. Simonton， "Film Awards as Indicators of Cinematic Creativity and Achievement： A Quantitative Comparison of the Oscars and Six Alternatives"， Creativity Research Journal， 2004， 16（2-3）， pp.163-172.

[1]R. L. Johnson， G. Pistili， N. Menédez-González， et al， "The Ghost in the Machine Has an American Accent： Value Conflict in GPT-3"， ArXiv Preprint， 2022， 2203. 07785； Y. Cao， L. Zhou， S. Lee， et al.， "Assessing Cross-Cultural Alignment between ChatGPT and Human Societies： An Empirical Study"， ArXiv Preprint， 2023， 2303.17466.