ChatGPT在高等教育应用中的风险审视与应对策略

贾 博，王国桢，郑宏颖

(遵义医科大学 马克思主义学院，贵州 遵义 563006)

2022年末，由OpenAI公司推出的人工智能聊天机器人ChatGPT，一经问世便引起轩然大波，迅速火爆出圈，给各大行业予“未来已来”的神秘错觉。ChatGPT在短短两个月便能俘获一个多亿的活跃用户，成为颠覆性与现象级应用，主要归功于其强大的信息采集力、数据分析力、内容生成力、语言分辨力、心理洞察力以及深度学习力。通过大语言模型(Large Language Model，LLM)、强大算力与算法加持，择取聊天内容上下文中的重要信息，并从庞大的数据库将信息进行细致甄别、深度发掘与系统整合，进而生成符合用户个性化需求的内容与答案。ChatGPT作为人工智能内容生成(AI Generated Content，AIGC)的里程碑式代表性应用，开启了通用人工智能(Artificial General Intelligence，AGI)的新时代与新篇章。目前在编程、教育、医疗、金融、艺术等领域均可见到其广泛应用。《科学》(Science)将人工智能内容生成列入2022年度十大科学突破。比尔·盖茨也称ChatGPT为其一生见到的两项最具革命性技术之一[1]。ChatGPT的强位格降临点燃了全球互联网巨头的竞技热情，谷歌、微软、Meta、百度、阿里巴巴等纷纷拿出“应急产品”加入了这场科技战争。高等教育自然无法置身漩涡之外，有关ChatGPT与教育间的科学研究呈方兴未艾之势，大量国内外专家学者就ChatGPT对教育的利弊影响展开了激烈的讨论与交锋。面对来势汹汹的ChatGPT，杰里米·韦斯曼称其“是对教育的一场瘟疫”[2]，王佑镁等用“阿拉丁神灯”和“潘多拉魔盒”来形容其教育应用的潜能与风险[3]。针对ChatGPT，高校应报以何种态度对待，是封禁还是拥抱？积极抑或消极？如何趋利避害？如何在强人工智能面前保留高等教育中人的尊严？怎样引导师生以“向善”的姿态合理利用新技术进而推动高等教育纵深发展？以上成为高校亟待深入研究的时代之问。

一、ChatGPT应用于高等教育的现实特征

ChatGPT这一趋于临近技术基点的智能应用展现出的卓越性能与巨大潜力，对高等教育领域产生了重大影响。就ChatGPT本身而言，Chat是应用与交互形式，即聊天。GPT为工作模型，目前已迭代升级至GPT-4版本，原GPT-3.5架构的参数量已有 1 750 亿之巨，有消息称GPT-4参数量有望达到100万亿，但OpenAI并未予以公布证实。ChatGPT基于LLM实现情景学习和生成式预训练，通过反馈强化和深度学习实现生成内容的持续修正与完善。目前，ChatGPT可以较高质量地完成诗歌创作、论文撰写、程序编辑、绘画生成、外文翻译、文案编辑等工作内容，并且GPT-4架构最大的革新在于其多模态生成与精准识别，从原本的单一文本形态扩充为视频、音频、图像等多模态输入输出，功能愈加趋于完善。ChatGPT强大的生成能力受到了许多大学生的青睐，甚至私下里被“神化”推崇。例如，计算机系学生用ChatGPT来检查代码漏洞；医学生尝试用其生成诊疗方案；外语系学生用其实现快速翻译与听说训练；金融系学生用其完成财务分析与报表审计等；音乐系学生用其实现歌词创作与曲调伴奏等。凡此种种，ChatGPT表现出了足够的智能化、个性化、定制化特征，确实让大学生体会到了AGI的魅力。

(一)智能化

ChatGPT凭借多模态模型和深度学习力使其智能化在高等教育领域得以充分展现。ChatGPT具备空前强大的信息整合力，能够根据学生几个字符的提问深入大数据库予以充分匹配，而后生成近千字答案，若学生对该生成结果不满意，可以要求ChatGPT重新作答，直至符合学生需求为止。这一特点为学生查找学习资料、整合科研资料、提交学科作业提供了便捷，可助力智能化教学及评估。基于反馈强化机制，ChatGPT也在与用户的不断交互中逐步完善自身算法逻辑，越是与人交谈，它就越能敏锐捕捉人类的思维方式与特定需求，进而优化自身性能，提升用户智能体验。ChatGPT以近乎无所不知的“智者”姿态面对学生提出的数学、英语、生物、甚至量子力学等学科的问题，均可交出“看似合理”的答卷。Study.com调查了 1 000 多名18岁以上学生对ChatGPT的使用情况，结果超过89%的学生承认曾使用ChatGPT帮助他们完成家庭作业。鉴于此，ChatGPT智能化特征和受学生欢迎程度可见一斑。

(二)个性化

ChatGPT在高校师生的个性化辅导与协助等方面具有广阔应用空间。通用大模型在个体的教育生涯中具有明显的赋权效应，能够助力教育水平的提升。综合来看，ChatGPT于高等教育领域的赋权效应主要体现于革新学习方式等方面。无论提问者是高校教师还是青年大学生，ChatGPT均能展现其“得力助手”的个性化一面。每个人作为生存于社会的独立个体，其思想、心理、待人接物、个人需求等方面均存在差异性，ChatGPT凭借分析上下文对高校师生的个性特征予以揣摩，并根据提问者个性化需求匹配相应参数，进而提供符合高校师生预期的个性化内容，该运作模式对于高校师生的个性化自主学习、未来学习与终身学习影响深远。因此，ChatGPT通过个性化生成助力高校师生个性化成长亦是其备受青睐的重要原因。

(三)定制化

ChatGPT的定制化特征凸显于教学辅助及工具支持等方面：第一，ChatGPT数据库及语料库极度丰富，内中含有的知识与信息用海量形容亦不为过。高校师生可利用ChatGPT针对自身知识体系与知识架构进行查缺补漏。ChatGPT也能帮助高校教师针对不同阶段的学生群体合理定制培养细则，进而形成类似于因材施教的培养态势。第二，ChatGPT能够打破既有的时空与技术壁垒，更好地改进人机交互形式，得益于其功能、算法、算力、数据库及LLM的持续提升与不断演进，大幅简化了知识与信息的获取难度，这对于高校师生获取信息与储备知识无疑提供了诸多便利。在此过程中，ChatGPT起到了类似“义肢”“辅脑”般的工具支持功用，为高校师生开展教育研究与科技创新提供了有力支撑。然而，尽管ChatGPT看似十分强大，其便捷与高效的内容生成能力更是为广大师生所推崇，但它自身仍存在一定缺陷，致使部分专家学者对ChatGPT在高等教育中的应用持隐忧态度。

二、ChatGPT在高等教育应用中的风险审视

高等教育是建设人才强国和教育强国的关键环节，亦是实现中国式现代化的重要支撑，如何实现高等教育高质量发展与现代化愿景是近期学术界研究的热点问题。ChatGPT的横空出世为高等教育带来了诸多显性与隐性风险，主要涉及抄袭剽窃、技术滥用、侵犯隐私、功利主义、个人主义、科技伦理道德、意识形态问题等，对高等教育领域造成巨大冲击，引发相关专家学者热议。总的来说，原因有二：一是ChatGPT自身存在局限性；二是高校师生应用ChatGPT存在风险性。因此，葆有时代性和前瞻性地对ChatGPT应用于高等教育的风险加以酌情审视具有合理性与必要性。

(一)颠覆高等教育教学范式风险

ChatGPT开创了人机交互的新局面，创建了人机关系的新样态，呈现出人机共生的新趋势。但于高等教育领域而言，ChatGPT也蕴含教师地位边缘化、学生学习“孤岛”化、知识体系零碎化等隐忧。

1.ChatGPT的迅猛发展极有可能使传统的“人—机”关系转变为“机—师—机”“机—生—机”“机—师—生—机”与“机—生—师—机”。乍一看仍是人与机的交互形式，实则ChatGPT基于Transformer模型、LLM与强化反馈机制，将人类语境有机纳入语料库与数据库，并通过自然语言的形式基于数字语境予以回应。若大学生群体习惯了ChatGPT随时随地作答的应用特性，频繁接受ChatGPT单向度知识灌输与内容生成，则易导致高校教师地位趋于边缘化与透明化。高等教育的开展本身是双向度的实践活动，是既包含教育者引导受教育者对生命意义与学科知识进行学思践悟，又包含受教育者通过内化与外化的形式将所学内容进行深化、所思内容予以呈现，进而反馈于教育者的生动实践，教育主体与客体在该场域内都是鲜活的个体。而ChatGPT仅是冰冷的生成AI，尽管人类语境与数字语境赋能其强大的逻辑推导与内容生成能力，但其终究无法取代教育工作者。

2.高等教育开展过程是人与人之间知识、阅历、情感与思维等因素的交流碰撞，是理论与实践的本质耦合，是对学术能力与文明传承的启迪陶冶。该过程中，技术仅是辅助性工具，而ChatGPT则是以类似全能的“数字导师”姿态直接面向广大高校师生授以所需知识，这意味着ChatGPT作为技术工具直接作用于人，将原本人与人间的关系转变为人与技术的关系。在运用ChatGPT学习时，人们是分散的、原子式的信息接收点，学习者之间几乎没有交流[4]。换言之，大学生在应用ChatGPT进行学习时缺乏群体间的思想交互与情感分享，不利于群体性思想的孕育。久而久之，会导致大学生面临学习孤岛化风险，甚至造成大学生群体间情感疏离。

3.ChatGPT对学习者问题的回答大多是专题性质的[5]。基于数据训练与语料堆砌，大学生向ChatGPT寻求答案时，ChatGPT往往可以合时宜地生成对话，迅速将答案罗列而出，但这种回答往往不够详尽与全面，即“所问即所得”。该回答范式无法激发高校师生延伸与贯通相关知识点的潜力，较难帮助他们确立系统的学科逻辑，不利于高校师生知识体系的脉络梳理与系统建构。长此以往，高校师生将濒临知识体系碎片化的被动局面。

(二)消弭高校师生能力培养自主性风险

人才是高质量发展的基石，高等教育现代化与中国式现代化能否顺利实现，其根本取决于人才的塑造及对其能力的培养。高等教育塑造的时代英才理应具备创新性能力、发展性眼光、前瞻性格局、国际性视野。但综合看来，ChatGPT往往无法培养高校师生高阶思维与自主能力。

1.ChatGPT作为生成式AI降低了知识获取门槛，呈现出知识易获取的技术特点，高校师生提问后仅需短暂等待便可得到单向度投喂。该过程中提问者甚至无需深度思考，仅掌握底层提问逻辑即可实现内容获取，这无疑使高校师生创新性能力与创造性思维的培养面临巨大挑战。大学生若对ChatGPT产生应用依赖，习惯对知识的不劳而获，久而久之，是否会对学习产生惰怠心理？甚至滋生“学习无用”“技术至上”等念头亦未可知。

2.ChatGPT的数据库存在信息滞后现象。如ChatGPT-3.5于2022年底正式发布，但其应用数据仍停留在2021年。换言之，ChatGPT的生成内容是原有数据的复现、拼接和堆砌，其自身并不能独立实现数据更新。

3.高校教师适当运用ChatGPT进行教学辅助与作业批改可有效节省必要劳动时间，提高时间利用效率，然若侧重于使用ChatGPT的便捷性设计教学过程与教学方案，则易使教学形式和内容形成固化，与高等教育创新性高质量发展理念相悖，并且ChatGPT存在严重的“技术黑箱”，其核心数据仍未开源，面对有挑战性的未知问题其答案往往是胡乱拼凑或直接回答“我不知道”。长期接触此类答案，难免会使部分高校师生沾染ChatGPT“陋习”，对学习产生得过且过的消极情绪与错误态度，这对于高校师生培养深度思考能力和攻坚克难精神亦是严峻挑战。

(三)易引发科技伦理问题风险

纵观近现代科技发展历程，历代颠覆性科技产物均对高等教育领域产生强烈冲击，如互联网、计算机、平板电脑与5G等，因此不难推测，作为AIGC里程碑的ChatGPT应用于高等教育领域进而“激起千层浪”是必然与已然事件。鉴于已有研究表明，ChatGPT实会引发层出不穷的科技伦理问题。

1.ChatGPT的信息准确性从根本上无法得到保障。ChatGPT坐拥海量参数，其内容十分驳杂，且数据存在“黑箱”，OpenAI也在官网声明ChatGPT部分数据无真实来源，并且市面上尚未诞生可以检测ChatGPT信息准确程度的相关工具。OpenAI迫于公众施压着手研发ChatGPT检测工具，该工具是一个经过微调的GPT模型，可以推断一段文本由AI生成的可能性，但其并不能检测ChatGPT生成内容的可靠性与准确性。比如，ChatGPT生成过“林黛玉进大观园”“99 999+9=100 000”等让人啼笑皆非的回答。窥斑见豹，ChatGPT的信息传播与内容生成显然值得高校师生仔细推敲与细致甄别。若高校师生滥用ChatGPT，则可能酿成虚假信息于高等教育领域广泛传播的应用风险，甚至引发更为严重的科技伦理问题与教育风险。

2.ChatGPT对高校师生数据隐私安全构成威胁，原因有二：一是ChatGPT可极大降低软件编写成本，可以协助犯罪分子生成木马程序或密码破解程序实施网络攻击[6]；二是高校师生在与ChatGPT交互过程中会通过不断提问的形式表达诉求，该过程可能涉及个人隐私泄漏、个人数据被不法分子非法运用等风险。

3.ChatGPT可能助长抄袭剽窃与侵犯知识产权等不正之风，但其作为生成式AI显然不具备科技伦理意识，无法承担科技伦理责任。

(四)恐诱发意识形态问题风险

技术的动态构成和极速迭代会造成社会生产的转型，并最终影响到教育领域[7]。ChatGPT作为一项源于美国的强大自然语言处理技术，其在我国的应用可能会诱发一些意识形态问题。

1.ChatGPT可能生成与我国的意识形态相悖的内容。由于ChatGPT是基于大量的训练数据深度学习后生成文本，若训练数据集中存在某些与我国意识形态不一致的信息，则ChatGPT生成的文本可能会与我国的价值观和政策相冲突。这种情况可能导致舆论混乱甚至社会不稳定。现有OpenAI训练LLM与数据库的主要语种为英文，因此，ChatGPT生成内容更多映射出的是西方的主流价值观，充斥着较强的个人主义、自由主义、功利主义等不良思潮。我国高校师生运用ChatGPT时难免遭受或显性或隐性的不良思潮渗透，从而增加诱发意识形态问题的可能性与不确定性。例如，对其提问:“中国的民用气球飘到美国，美国可不可以将其击落？”答：“美国军方有权击落该气球。”问:“美国的民用气球飘到中国，中国可不可以将其击落？”答：“如果民用气球飘到中国领空，并未造成危险，那么中国不能击落它。”[8]由此可见，ChatGPT具有意识形态倾向性，而非保持政治中立。

2.ChatGPT技术可能被应用于操纵和误导公众舆论。恶意利用ChatGPT技术可以自动生成虚假信息、谣言或政治宣传，可能加剧互联网信息碎片化和谣言泛滥传播等问题，会进一步削弱人们对真相的判断能力，从而影响高校师生对特定事实的理性认知。尽管目前还没有明确的案例表明ChatGPT技术被用于操纵和误导公众舆论，但有一些相关的案例可以提供借鉴参考。例如，Deepfake技术应用的迅猛发展就曾引起过人们关于虚假视频泛滥的担忧。这种技术可被用于通过将某人的脸部合成到另一个人的身上，从而制作出以假乱真的虚假视频。虽然Deepfake技术和ChatGPT技术不尽相同，但它们都属于新的人工智能技术，都可能被滥用于操纵和误导公众舆论。对此，高校师生应保持高度的思维理性。

三、高校应对ChatGPT应用风险的有效策略

ChatGPT所蕴含的风险与挑战引发了教育界的极度恐慌，一时间众多国际知名高校纷纷制定相关政策，限制师生使用如“洪水猛兽”般的ChatGPT。巴黎政治学院、图宾根大学、香港大学等明文禁止大学生使用ChatGPT或AI工具完成作业，美国纽约与西雅图、澳大利亚的昆士兰州和塔斯马尼亚州等地区所有公立高校亦是严禁ChatGPT进入校园。上述举措“重堵”而非“重疏”，乃滞留问题表相而无拂问题根本之举。习近平指出：“自古以来，科学技术就以一种不可逆转、不可抗拒的力量推动着人类社会向前发展。”[9]简单的“一刀切”式禁用显然放大了ChatGPT的应用风险，而忽略了ChatGPT的技术效用与技术红利。回首科技发展史与人类文明发展史，作为万物之灵的人类面对科学挑战与技术威胁取得了一次次辉煌胜利，此次亦应如是。综上，高校师生不应“谈ChatGPT色变”，不能害怕问题繁琐与泛化就贸然对ChatGPT说不，而应是以动态开放的、葆有思维理性的姿态审慎拥抱ChatGPT。至于ChatGPT携带的诸多风险，高校应从提升师生人工智能素养、增强师生思想政治定力、激发师生科技伦理主动三方面着手予以应对。

(一)聚焦提升高校师生人工智能素养

学术界不乏有关人工智能素养的研究，但目前针对其概念与内涵尚未达成统一共识。结合当今技术特质与时代需求，本文认为人工智能素养应包含但不局限于信息素养、媒介素养、数字素养等要素于一身的一种综合素质，是蕴含AI知识、AI边界、AI规范等要素的AI应用逻辑养成，是人类合理、合情、合法应用AI的重要能力。面对日新月异的人工智能发展境况，尤其是敲响警钟的ChatGPT应用，高校因时因势开设人工智能教育具有必要性与科学性。人工智能教育是指以人工智能技术为教育内容，以培养多层次的、具有人工智能素养的专业人才为目标，设置人工智能专业或课程，让学生学习人工智能技术的相关知识、原理并加以应用的教育形态[10]。人工智能教育应呈现开放、多元与动态等特性，其教育内容应紧随时代与科技发展同步更新。通过人工智能教育培养大学生人工智能素养，提升其对ChatGPT的信息辨析力与应用规范性，营造“人师”与“机师”和谐共鸣的学习生态：一可有效摆脱对ChatGPT内容盲从和技术依赖的桎梏，走出“信息茧房”与“学习孤岛”；二可助力高等教育数字化转型，推动高等教育高质量发展。育人先育己，高校教师肩负为国育才和科技创新的双重职责，更需要充分发挥先锋带头的重要作用，坚守育人初心，着力提升自身人工智能素养，增强抵御ChatGPT风险的自适应能力与岗位胜任力。

(二)坚定增强高校师生思想政治定力

ChatGPT海量参数中呈现出强烈的西方主流价值观，充斥诸多不良思潮，隐含意识形态渗透风险，并且ChatGPT当前处于技术垄断的霸权地位，其应用于高等教育后可能会对既有教育范式构成威胁，对高校师生已构建成的符合我国社会主义现代化强国建设的主流价值观造成冲击。因此，高校有必要充分发挥自身意识形态前沿阵地的引领作用，以思想政治教育为龙头，结合各高校实际情况制定防范策略，以提高师生政治站位，增强师生思想政治定力，培养师生恪守意识形态安全能力。思想政治教育具有凝心铸魂的价值蕴含，能增强高校师生对中国特色社会主义道路、理论、制度与文化的感知认同，有利于高校师生培养科学的世界观与方法论，强调引导高校师生尊重社会公德，坚守公序良俗、培育践行社会主义核心价值观。这为高校师生抵御自由主义、经验主义、结果主义、功利主义等不良思潮侵蚀提供重要精神支撑，为辨别抵制涉及暴力血腥、淫秽色情、侵犯隐私、民族歧视、分裂国家等负面内容提供理论根基与判断依据。帮助高校师生科学认识和理性使用ChatGPT的生成内容，可有效降低高校师生应用ChatGPT引起意识形态问题的发生率与风险性。

(三)着重激发高校师生科技伦理主动

习近平明确指出:“科技是发展的利器，也可能成为风险的源头；要前瞻研判科技发展带来的规则冲突、社会风险、伦理挑战。”[11]中共中央办公厅、国务院办公厅也于2022年印发了《关于加强科技伦理治理的意见》，其中明确指出要鼓励高校开设科技伦理教育相关课程，教育青年学生树立正确的科技伦理意识，遵守科技伦理要求[12]。高校师生滥用ChatGPT无疑会增加学术抄袭与学术纠纷等发生的可能性，这正需要较为健全的科技伦理教育发挥重要支撑引导作用，以降低ChatGPT的入侵风险。

1.科技伦理教育能够提升高校师生守正创新能力。针对ChatGPT，守正不是要求高校师生固守传统高等教育范式、全面禁止应用ChatGPT，而是着重于引导高校师生守正道、走正路、不跑偏，知红线、守底线，合乎要求地酌情应用新兴科技。创新亦不是ChatGPT简单的数据重组与堆彻便足够，而是基于高水平科技自立自强理念，高校师生负责任地应用创新。

2.科技伦理教育讲究前瞻性问题研究，注重塑造学习者未雨绸缪的能力。科技伦理教育通过预先开展ChatGPT的风险研判，清晰界定ChatGPT的应用边界，可有效培育高校师生前瞻思维、批判思维与创新能力等高阶素养，助力高校师生与ChatGPT良性互动，进而对自身的知识体系有所补益。因此，高校亟待以科技伦理教育为抓手，培养高校师生“科技向善”的科技伦理理念，激发高校师生科技伦理主动，引导师生群体负责任地驾驭ChatGPT等AI应用。