ChatGPT对我国人文社会领域产生的冲击与应对

唐 权,杨书文,张丽颖

(天津财经大学 财税与公共管理学院,天津 300222)

著名政治学家亨廷顿(Samuel P. Huntington)曾指出,“现代性孕育着稳定,但其现代化过程却容易滋生混乱”[1]。虽然生成型预训练聊天机器人ChatGPT(即Chat Generative Pre-trained Transformer)诞生的时间不长,但其在人文社会领域所产生的影响却举世瞩目。作为新一代人工智能交互技术,它自2022年11月30日由美国人工智能研究中心(OpenAI)正式发布以后就赢得了广大用户的“追捧”。依托其所具有的聊天、翻译、做作业、写论文、参加考试、编写代码、创作诗歌与艺术、辅助教学与科研、检查程序错误等方面的强大功能,它在短短的5天、1周、2个月、3个月就分别吸引了100万、5 700万、1亿、1.23亿的用户,成为全球有史以来用户增速最快的“革命性”“消费级”“现象级”“生态级”应用程序。随之而来的,则是各大科技公司抢先登录与靠岸。2023年2月7日,谷歌公司发布了下一代人工智能聊天机器人Bard;2月8日,微软公司整合ChatGPT技术发布了搜索引擎Bing与Edge浏览器;2 月 24 日,Meta 公司通过发布LLa MA宣布加入硅谷人工智能竞赛;3月16日,百度对标ChatGPT正式推出大语言模型“文心一言”;3月22日,Azure Open AI服务推出 GPT-4预览版;而阿里巴巴、京东、华为、腾讯、寺库、水滴、学而思、字节跳动、网易有道、科大讯飞、360、天娱数科等国内外其他互联网公司也在蓄势待发。基于其所具有的对自然语言输入的理解与响应,微软公司创始人比尔·盖茨(Bill Gates)认为其将“改变世界”,而美国太空探索技术公司 CEO 埃隆·马斯克(Elon Musk)则认为其“厉害得吓人”。虽然目前该技术并未在各个行业领域广泛推广开来,但我们应充分发挥自身的主观能动性未雨绸缪地防范其所带来的风险。钟秉林[2]、周洪宇[3]、喻国明[4]等研究者认为其具有底层性、突破性、革命性、破坏性乃至颠覆性影响,将对人类社会的知识生产产生巨大冲击,并波及教育、科技等诸多领域。鉴于近年来实践领域掀起的“应用风暴”与理论界掀起的“研究热潮”,以及ChatGPT技术有可能在今后对我国各人文社会领域所产生的巨大冲击,本研究将通过采用文献荟萃分析法得出其现实应用、冲击领域、应对策略。

一、ChatGPT在人文社会领域的现实应用

(一)应用逻辑

ChatGPT是由美国OpenAI公司基于人工智能技术及其程序设计推出的一款基于“聊天+搜索引擎”[5],并以“对话+创作”为基础的“智能对话工具”“智能对话系统”“人工智能应用”或“聊天机器人”[4]。它由Chat(聊天)与GPT(Generative Pre-trained Transformer,即生成式预训练转换器)这两部分组成,主要依赖于“类人交互”“海量数据”“处理技术”“内容生成”这4个基本构成要素。对于“类人交互”,沈书生等将其视为一种以模拟人类交互行为,并直接贴近人类最基本的社会交互需求的“内容生成式AI产品”[6];而刘勤则指出它是一种基于自然语言处理,通过运用多种语言以类似人类交际的方式快速应答各种问题的智能人机对话系统[7]。对于海量数据,蒋华林介绍OpenAI 公司为了“培养”它而使用了45 TB数据、1万亿个单词,总计1 351 万本牛津词典的词汇量[8];刘勤认为必须在事前“多方收集大量高质量的文本数据”,并对其进行有效筛选、清洗、预训练、深度学习计算[7];而陆伟则指出其不仅覆盖了历史多轮对话的“海量数据”,而且汇聚全域数据及其推理能力的新型信息源[9]。对于处理技术与内容生成,孙伟平将其内容生成功能归结于大数据、云计算、大模型、大算力和大算法的工程性结合[10];令小雄等将其视为一款通过“GPT-3.5高效设计架构”理解与解读用户请求的主力模型[11];而王佑镁[12]、王树义[13]、焦建利[14]、刘勤[7]、蒋华林[8]等则指出其采用的是内含以人工神经网络、深度学习、人类反馈强化学习(Reinforcement Learning from Human Feedback,RLHF)为主的自然语言处理技术(Natural Language Processing,NLP)、机器学习技术(Machine Learning,ML)、大型语言模型(Large Language Model, LLM)、自然语言生成技术 (Neural Language Generation,NLG) 、人工智能内容生成技术 (AI Generated Content,AIGC),并通过多模态学习与适应、多轮次人机对话理解与会意、大规模公开语料存储与使用、混合Instruct GPT数据集撰写备选答案、几万AI训练师对话与排序、增加学习奖励与自主微调、采取深度学习与不断迭代改进的预训练的“产物”,最终生成符合人类需求与行为习惯的“具有较高复杂度的”“更加细腻与精准的”“近乎人类自然语言”的“高质量回应文本”。在这其中,张爱军还关注到人类理性、算法控制、数字运行规律、存在可计算或能计算对象对人们选用该技术所产生的重要作用[15];而李书宁则更为系统地将其操作步骤归纳为用户需求输入、系统识别语言、进行情感分析、拒绝不当提问、抽取关键特征、命名实体术语、修正错误输入、归类输入文本、定位查询索引、算出最好结果、生成答复内容、选择输出形式等[5]。

(二)本质特性

鉴于其依赖的构成要素,ChatGPT的现实应用具有交互性、技术性、知识性、程序性、自动化、创造性等方面的特征。(1)交互性。该技术的鲜明特点为类人聊天或人机交互,正如邓建鹏将其视为根据用户提问及其处理、模拟人类聊天行为、使用自然语言进行回复的聊天机器人[16]。(2)技术性。蒋华林将其核心竞争力归结为生成式人工智能(AIGC)[8];而钟秉林等则将其“独到技术”归结为采用Transformer 结构和“自回归+Prompting”的训练模型[2]。(3)知识性。Chat GPT所生成的“高质量答案”源自海量数据的知识提取,正如李书宁指出其来源于对“大规模语料库”的分析处理[5];蒋华林认为其具有数据采集、整合与挖掘等方面的高维能力[8];而钟秉林等则指出Transformer 结构的中低层所存储的词性句法、中高层存储的抽象语义与事实概念知识能够“解锁”大型语言模型,从而使得人类的知识生产方式由“手动式”“半自动式”向“自动化”“智能化”方向转变[2]。(4)程序性。该技术及其同类产品以技术员预先的设定程序作为存在前提,正如李书宁指出其“最大特点”在于程序员预先设计的“内容生成规则”[5]。(5)自动化。该程序因为程序设计、智能技术支撑而拥有自动化处理的特性与功能,正如李书宁等认为其因为“无监督”或“自监督”的预训练方式而具有自动理解与文本生成能力[5];喻国明认为其还可自动化生成图像、视频、音频等内容[4];而令小雄等则指出其专有的“自注意力机制”能够产生“情商加智商”的“高逼真文本”[11]。(6)创造性。邓建鹏等认为其“将显著改变人类的工作与交互方式,激发创造力”[16];彭兰指出大众的参与将大大拓展其应用场景,“激发一场全民参与的人机协同创作的运动”[17];张夏恒将其本质归结为依托核心技术处理海量数据和进行深度学习所生成的全新的、原创的数字内容[18];而王佑镁[12]、Taecharungroj[19]则指出其因为采用人类反馈的强化学习训练方法而具有“敢于质疑”“承认错误”“承认无知”“改进答复”的功能。

(三)治理领域

基于其所具有的强大功能特性,该款人工智能程序及其内容生成结果受到不同领域研究者与实践者的“青睐”。基于交互性,姜奇平[20]、卢宇[21]等认为其能像人一样根据上下文进行聊天与互动。基于技术性,钟秉林认为其采用预训练强化模式所生成的文本及其回应更为“善解人意”[2]。基于创造性,陆伟指出其促使过去的“检索+推荐”内容供给方式转变为“感知+检索+推荐+生成”模式[9];而邓建鹏[16]、张夏恒[18]等则指出用户只要输入指令,就能获其所需的文字、图片、代码、音乐或视频等内容。对于其作用领域,沈书生认为其因为与个体发生联系而改变人们的行为方式和学习形态[6];卢宇指出经由该软件可解决人类社会100%的意外迁移任务和85%的意外内容任务[21];而蒋华林[8]、沈书生[6]、李书宁[5]、令小雄[11]等则基于其知识生成性影响关注到它对恋爱、教学、考试、翻译、编码、科研、写作、求职等各个方面的影响,进而影响到人们的日常生活、金融会计、法律医疗、教学科研、传媒艺术等领域。

(四)功能作用

ChatGPT因其多轮强化训练及其内容迭代生成,促使其拥有与以往人工智能不同的强大功能。邓建鹏[16]、孙伟平[10]等认为它与以往功能单一、大多面向特定用户的人工智能系统不同,能够通过智能程序生成“创造性内容”;沈书生认为其不仅可以为用户提供解决问题的对策建议,还能满足用户个性化的需求[6];孙伟平指出其因为大型语言模型的诞生及应用而表现出人意料的语言理解与表达能力,并可在聊天与回答问题方面超过90%以上的人[10];而李书宁则直接将其功能归纳为类人交互、抽取文本内容、编写简历推荐、写作文章意见、绘制图表、语言翻译、编写考题、编写代码及其注释、修复与精简代码、智能推荐信息、进行文本分类、数据与情感分析、实体识别、语义理解、基础计算、支持多轮对话与改进答复、拒绝用户不当请求[5]。在此基础上,朱光辉指出其有望形成“思维革命”,并通过替代人类创作、创意、解答、咨询、翻译和客服等来重塑各行业领域生态乃至整个世界[22];令小雄认为其在“公正客观的文本规训”中养成更好的“理解语境”的能力,而其升级与更新换代则将创造“普遍文字”“超级算力”乃至打造“数字共同体”[11]。

二、ChatGPT对人文社会产生的现实冲击

技术进步是一把“双刃剑”。如运用得当,该技术能够造福人类,正如朱光辉指出其在生产知识方面能够节约资源、创新创造、推动产业升级、大幅提质增效[22];而张夏恒则指出其具有解放生产力、变革生产关系、创新商业模式、驱动产业转型、催生应用场景等功能[18]。虽然如此,现有技术的不成熟、用户使用不当、监管体系不健全也会促使其对教育管理、知识生产、信息安全、商业就业等人文社会领域产生巨大冲击。

(一)影响教育管理

鉴于教育领域生产与传播知识的行业特性,现有的大多数研究者都比较关注其对教育行业产生的影响。(1)正面影响。王佑镁等将其对教育工作的赋能归结为提升教学的完成度与创意、增强数字导师的角色互动、提高自适应学习系统的易用性与精准度、促进教学方式的智慧化与创造性、支持教学反馈评价的生成与个性化[12];沈书生认为它使得师生拥有助推教学、科研评价或解决问题的“复合脑”,也即外加的数脑(存储数据)、汇脑(整合数据)、智脑(创造数据)[6];朱光辉[22]、周洪宇[3]、张志祯[23]等将其带来的“技术红利”归纳为胜任助教学伴、减负增效、设计教学大纲、陈列知识体系、生成课程材料、丰富教学内容、模拟教学课堂、采取游戏教学、敏捷灵活教学、推荐阅读材料、生成学习材料、进行个性化辅导、提供对话练习、支持学生科研、协助创意写作、评估考核测验、翻译语言内容、练习复习备考、帮助解决问题、帮助写作论文、提供职业指导、协助时间管理、协助家庭作业、多元协同创作、给予实时反馈、用于自我反思与评价等。(2)负面影响。现有研究在阐述其正面功能的同时,也关注其“自带风险”。钟秉林[2]、张志祯[23]认为其所提供的信息不准确,不利于建立人际互动关系和培养同理心、创造力、批判性思维;沈书生[6]、周洪宇[2]等更为关注其技术异化风险,也即知识异化、学习主体异化、教学过程异化、数字社会伦理异化、数字教育治理异化等;王树义[13]、焦建利[14]等则指出它很有可能是一种内含“学术抄袭”“考试作弊”“逃避学习”在内的“高科技剽窃”方式。

(二)冲击知识生产

除了影响传播知识的教育管理领域以外,该技术还对内含科学研究、知识产出、产权维护等在内的整个知识生产过程带来巨大冲击。对于科学研究,王树义认为将其应用于科研将产生很多未经思考或检验的数据污染,进而难以确保其答复的真实性与准确性[13];张夏恒则指出将其应用于学术论文撰写之中容易招致抄袭剽窃、数据与实验造假等学术不端行为[18];焦建利认为其有可能因为科研人员的滥用而生成有违学术伦理与诚信的虚假信息乃至骗局[14];令小雄认为它无法解决蕴含其中的大量伦理问题,而其不当使用将导致人们面临着包括道德判断、数据泄漏、学术抄袭等在内的不负责任的伦理风险与社会后果[11];蒋华林认为其在加速科学研究、解放知识生产者、促使知识生产“自动化”“智能化”的同时,也面临着遮蔽学术演化史、影响科研评价、挑战知识产权制度、影响成果权属认定、侵犯学术伦理道德、影响科研评价生态、冲击人才评价标准与客观性等方面的问题[8]。跟随“技术滥用”而来的,则是侵犯知识产权归属或导致版权纠纷。陆伟指出目前国内外并未对其生成内容的所有权做出明确的法律规定[9];朱光辉等认为其有可能因为在未经授权的图片或文字上进行创作而引发“知识产权纠纷问题”[22];丛立先认为数据是其“发动机”和迭代进化的“重要支撑”,而其内容生成很有可能因为对数据的重组与使用面临着数据挖掘、内容生成、内容使用这三个方面的版权风险[24];邓建鹏[16]、张夏恒[18]指出其因为“无监管式”挖掘数据、信息来源与伦理道德过滤机制的缺失,往往面临着知识产权争议、数据来源合法性、生成不良或违法信息等方面的风险;而令小雄则明确指出其有可能引发署名权之争[11]。

(三)影响信息传播安全

除知识生产和传播领域之外,该技术所拥有的强大的算法处理和学习反馈强化能力也对信息传播安全产生至关重要的影响。陆伟等认为其强化学习模型能够过滤掉仇恨、歧视、涉暴、涉恐等不当的内容信息[9];郭全中指出其强大的NLP处理能力能够准确分析与判断语义多元、语法特殊、寓意隐晦的文本内容,而持续的用户互动与不断反馈又能增强其内容理解和生成能力[25];李书宁等认为其会助推馆员成长、提升工作效率、助推咨询服务智能化、推动知识服务深入发展、改善用户检索体验、提升资源检索的准确与有效性[5];而喻国明则认为其将激发传播领域的“生态级”变局,也即基于信息、个体、连接这三个方面穿透社会网络资源壁垒、赋能赋权个体认知与信息传播、推动智能互联转型、实现人类语义智能化和构造数字文明社会[4]。虽然如此,其不当使用也会导致信息安全问题。令小雄[11]、王树义[13]指出它很有可能因为编程偏差等“技术盲区”而传播未经思考的、错误虚假的、侵犯个人隐私的、有失道德伦理的数据信息或决策建议;张夏恒[18]、陆伟[9]等认为其很有可能因为科技伦理道德计算、用户使用保护条款及其警惕性等方面的缺失而生成高可信钓鱼邮件、真假难辨或偏见信息、侵犯与盗取个人隐私、造成社交网络攻击,而经由互联网所产生的大规模数据聚集与跨境流动又容易产生数据外泄乃至失去国家技术主控权;焦建利指出其还有可能生成“不良”或“有毒”信息[14];更有甚者,钟秉林等指出其很有可能是一台一本正经地胡说八道的“聊天机器人”[2]。

(四)改变商业就业领域

ChatGPT基于数据信息这一关键的投入与产出要素,还将极大地改变商业管理与劳动力就业市场的内在结构。对于商业管理领域,张夏恒指出其将拉动人工智能产业的发展、促使生产关系变革、创新创造多种商业模式、不断拓展与丰富应用场景、极大地释放社会生产力,在广告、营销、电商、建筑等领域催生出具有创造性的经营活动,促使生命科学、新型材料、航空航天等新兴科技领域的快速发展,以及进一步加快算力、算法、芯片、集成电路等网络软硬件技术设施行业的发展[18]。对于劳动力市场结构,刘勤指出会计人员可以利用其分析和判断经营活动、快速高效地处理数据、组织和管理会计工作、应对财务风险与提高工作效率[7];而朱光辉等则认为其能节约资源能源、解放数亿劳动力、生产大幅提质增效、提高企业竞争力、拥有更多消费者、满足更多消费需求、实现经济的可持续发展[22]。该技术在催生新的商业领域及其工作岗位的同时,也给现有劳动力市场带来重构、取代甚至消灭性的影响。正如孙伟平[10]、蒋华林[8]等认为基于其高新科技物种、出色完成工作任务与不断迭代升级将导致“技术性失业潮”,并由替代低级重复的体力劳动转变为替代高级专属于人类的脑力劳动,以及逐步表现出超出一般劳动能力的发展趋势。

三、ChatGPT对人文社会冲击的应对策略

组织制度和技术进步是促使现代组织变革和社会变迁的两种主要力量,正如周洪宇等指出:人类社会已经进入精神世界、物质世界、数字世界相互依存、互相合作、共同进化的时代[3]。基于其强大的人工智能机器属性,可采用正确认知和行为规制、技术规训与组织治理、自主规约与制度规治相结合的综合治理策略来应对这场具有“颠覆性”的数字技术变革“洪流”。

(一)树立正确认知

人们的意识决定其行为,我们应正确认知其利弊与治理优劣势。(1)正确看待技术发展及其应用趋势。蒋华林等指出人类社会“信息化”“智能化”发展不可逆转[8];孙伟平指出生产和服务的信息化、自动化、智能化发展浪潮汹涌澎湃[10];而钟秉林则指出,“纵观人类历史,即使技术具有一定风险,但只要是‘可控的’‘能够提高生产效率的’,最后都会被人类社会所使用”[2]。(2)树立积极主动的技术风险应对态度。钟秉林认为我们没必要夸大其“潜能”,将其“神化”或视为“洪水猛兽”皆不可取[2];而蒋华林则指出“人是万物的尺度”,人们应在思想上基于其渗透性、颠覆性采取主动积极面对的态度[8]。(3)正视其技术本质与功能作用。虽然有人担心人类社会因此产生技术“异化”或“物化”的结果,但几乎所有的研究者都认为其本质上是一种为人类所用的技术工具。周洪宇等认为它是由人类创造发明的,其本质是人类改造社会的“产物”[3]; 蒋华林认为其智能水平是人赋予的,而其替代性也只能建立在“数据化”和“逻辑化”人类劳动的基础之上[8];彭兰指出人是机器的“驾驭者”“检修者”或“学习模板”,并拥有更强的“判断”与“纠错”能力[17];钟秉林认为它仅作为教育主体生命的一种外在的“技术形式”,改变不了教育的本质[2]。(4)秉持趋利避害与扬长避短的应用态度。刘勤认为未来我们应该采取合作共生、智能增强、数据驱动、灵活适应、可持续发展的特点的人机协同共生治理模式[7];钟秉林认为人们应充分认识该技术本身所具有的弱人工智能、通过学习训练进行进化、依赖大数据集、支撑模型的功能局限,并在后工业社会打造自身核心竞争力并释放“技术红利”[2];邓建鹏[16]、张夏恒[18]等认为人们应该“谨慎”并“乐观”地拥抱科技,正确对待科技进步背后的潜在风险,并借助其类人性与高智能为人们的生产生活提供便利;周洪宇等指出技术与教育并非对立关系,应在新的人机社会分工体系中找准自身定位,通过教育培训和充分利用数字技术更好地为人类工作“增智赋能”,以及通过人与智能技术的互补协作、双向耦合、共同治理、高度融合来实现技术“适应”及其“超越”的重大使命[3];周洪宇[3]、沈书生[6]等认为学校应该促使学生构建“复合脑”和培养“复合性”人才,并树立“思维比知道重要、问题比答案重要、逻辑比罗列重要”的教学评价思维;而蒋华林[8]、孙伟平[10]、令小雄[11]、张志祯[23]则指出广大教师应该培养学生们的数字意识、独立思考、审慎判断、好奇想象、情感愿望、价值信念、文化素养、灵机应变、解决问题、注重伦理、学习批判、适应合作、创新创造、终身学习的能力,而将那些重复单调、危险有害的工作交给智能系统。

(二)技术干预修正

作为人类创造的智能产物,高技术所产生的应用风险依然可通过研发新技术来防治。(1)通过公开其智能生成逻辑来提高人们的认知。张爱军指出应通过创建公开且透明的算法体制、遵循客观且简洁的推荐准则、打造开放与和谐的算法平台来削弱其算法的“舒适圈”对受众所产生的影响[15];而令小雄[11]、蒋华林[8]等则指出应推动其技术“开源”,通过公开其算法与生成逻辑来揭开技术应用“黑箱”和提高技术认知的可信度。(2)采取技术干预之法进行修正。喻国明指出应在给予其成长空间的基础上进行干预和修正,通过注重智能算法模型的“赋魂”机制来确保其可知、可控与向善发展[4];王佑镁等认为技术企业应通过不断优化升级或加快技术革新来治理其自身所存在的技术缺陷[12];刘勤认为应采取优化工作流程、加强任务有效分配、持续训练和优化机器学习模型、适时调整和优化算法、关注与处理特殊情况的技术管理举措[7];丛立先主张通过研发与使用内含基于密码技术和基于数字水印的版权管理技术(DRM,全 称 Digital Rights Management)来防治其侵权风险[24];张夏恒主张根据技术特点提前布局,通过技术企业研发的AI 甄别工具、内容检测系统及其不断迭代升级来实现以“算法治理算法”“AI治理AI”的技术善治目标[18];而令小雄还认为应该采取提升数据质量、仔细选择训练数据集、更新迭代训练模型、强化专业问题认知、使用正则与交叉验证技术、加强深度学习与理解筛选能力、克服语言文化误差、提高模型道德性与伦理识别能力、促使算法转变为“数字看门人”等举措来防治其应用风险[11]。(3)全面突破技术研发与自主掌控瓶颈。就总的技术研发上看,钟秉林认为其技术瓶颈虽有一定突破,但尚未达到全面程度[2]。就我国技术而言,张夏恒[18]、周洪宇[3]等认为应该通过加大投入、重视产业发展、动员第三方机构自主研发“中国版”的ChatGPT及其可控技术,来夯实我国人工智能技术体系并掌握全球数字竞争主动权。

(三)加强自主规约

鉴于其所拥有的高级思维、主观能动和伦理道德性,人工智能技术用户与企业应自主加强其技术规约性。(1)用户应自主培养其技术使用的道德判断意识。令小雄指出人们应基于其所增加的伦理风险而加强“内部规约”或强化“道德判断”,强化其信息甄别能力[11];(2)着重提升个人的数字技术使用素养。周洪宇指出教学双方应在享受技术便利的同时避免沦为其“附庸”[3]。也即,教师应树立正确的使用观、提高数字意识、增强数字胜任力、提高终身学习能力,而学生则应摒弃技术万能观念、提高其自主可控意识、提高信息筛选与数字应用能力、利用技术优势激发其创新创造能力。(3)秉持扬长避短的原则充分发挥双方特长。钟秉林指出教师比技术更加“智能”并能担负教育伦理的责任,而优秀学生则会利用其查阅资料、解决问题与提高作业质量[2];而周洪宇则认为教师应秉持“当用则用,操纵适宜”的原则利用其探索未知与寻找发现,而学生则应促使其成为个人发展的“义肢”[3]。(4)采取平台或行业自治模式。丛立先认为具有一定自治能力的平台应从“治理受体”转变为“治理主体”,通过采用类似YouTube 平台的内容识别(Content Id)与版权监视(Copyright Watch)工具来筛查其侵权内容[24];邓建鹏等指出技术公司应通过研发自测模型与信息源比照系统、设置用户质疑和辟谣机制、加强伦理道德认知训练以及践行合规经营制度来防治其虚假的、不良的内容信息[16];周洪宇认为应该由“政府”和“行业协会”牵头,以用户作为遵循技术使用伦理的义务主体,通过加强多元利益相关主体的对话交流、务实合作和构建数字命运共同体来抵御其“潜藏危害”[3];而张夏恒则指出各方都应明确其角色、任务与责任,坚守依法使用的思维与道德底线[18]。

(四)加强外部规治

人们的行为选择与外部环境是相互影响、互相作用的,应通过加强组织管理和制度建设来规治理性个体的行为。喻国明指出我们应建立“算法失灵”的社会补充以及“算法脱轨”的干预机制[4];而彭兰则指出人类社会理应在人机同行的征途中始终作为“机器导航”的“核心准则”,通过不时校准其目标和及时踩刹车来防治技术滥用的风险[17]。(1)加快出台防治技术滥用的政策法规。依法治国是党领导人民治理国家的基本方略,几乎所有研究都指出要通过完善现有的法制体系来防治不当信息和抵御技术滥用风险。张夏恒指出欧盟已发布对新型智能系统实施“前瞻性”治理的《人工智能法》,我国也应加快其法制建设进程[18];张夏恒指出应不断完善新一代人工智能领域的立法工作,尽快修订与之相关的著作权法、商标专利法、数据安全法、电子商务法、网络安全法等[18];蒋华林指出应通过不断完善伦理规范和管理制度,以及深入贯彻落实国家发布的《新一代人工智能伦理规范》[8];而令小雄[11]、周洪宇等则认为应在社会层面大力推动数据保护、隐私保密等相关法律法规的不断完善,以及建立健全审核学术不端行为的问责机制[3]。(2)加大技术正当使用的宣传与教育培训力度。令小雄等认为现阶段的解决方案依然是通过加大宣传与教育培训来促使用户认识技术使用的局限性或提高其数字素养[11];而周洪宇则指出应加快制定一般的伦理准则与法律法规来避免“道德失范”,以及通过加强数字伦理研究、将其纳入课程建设、加强数字伦理培育来巩固技术使用的道德自律[3]。(3)通过管理设计来防治技术滥用风险。焦建利认为学校不能“简单粗暴地”禁止学生使用该技术,并指出一些学校已经通过调整教学活动、重新设计教学评估乃至采用 DetectGPT检测程序来防治学生将其用于代写作业和考试作弊[14];王佑镁[12]等指出教育部门应采取宜疏不宜堵的管理举措,例如加大诚信教育、改进教学方式、设定教学期望、明确教学方针、追踪教学进度等;而钟秉林等则指出高校应建立人工智能辅助教学的伦理评价机制,并通过施行代表作制度来坚守科学“正”与“善”的价值。(4)采取法治与多元利益主体合作共治的方式。丛立先等指出司法裁判应合理利用其裁量空间,以及适当发挥其对破坏市场公平竞争的监管作用[24];而张夏恒[18]则指出应加快建设多方及时响应的协同监管系统,以便防治各类应用风险和处置各种违法违规行为。更有甚者,钟秉林[2]、陆伟[9]、令小雄[11]、焦建利[14]、张夏恒[18]、朱光辉[22]等研究者都提及国内外部分学校、学术期刊、教育部门限制乃至禁用ChatGPT的事例。此外,部分学者还关注到建立健全社会保障机制的重要性。例如,陈永伟[26]、张夏恒[18]等认为应该通过提供再就业培训服务、加强青年人职业规划、促进新就业形式发展、建立终身学习与培训体系、借助金融工具减轻失业负担、做好社会兜底保障工作来防治技术性失业带来的风险。

四、结语

鉴于内容生成式人工智能技术“ChatGPT”对人文社会各个领域产生的颠覆性影响,现有研究已对其现实应用、冲击与应对策略作了诸多有益探讨,进而形成了一系列有益的学术成果。未雨绸缪,我们还应正视存在的不足来促使其为人类社会谋福利。也即,该项人工智能技术存在理解有限、形式简单、情感缺失、数据输入局限、系统部署局限、知识结构局限、算法处理限制、缺乏人类互动、以自然语言文本处理为前提、无法培养批判性思维与研究解决问题能力等方面的问题,为此,人们当下与未来的使命在于秉持趋利避害的原则研发各领域切实有效的具体防控举措。