生成式AI视域下ChatGPT在高校学生工作领域的应用研究

摘要：以ChatGPT为代表的生成式AI，凭借Transformer神经网络架构，具备人机对话、文本撰写、内容翻译、学习辅导、问题解决、职业指导和科研创新等强大功能，为高校学生工作领域教育管理带来技术机遇和应用风险。文章通过研究ChatGPT在我国高校学生工作领域中的数字化应用场景和所面临的风险挑战，提出高校学生工作领域的教育管理应对策略。结果表明，ChatGPT以其具备启发性内容生成、情境对话理解、序列任务执行和程序语言解析四大核心能力，为高校学生工作领域通过人机信息交互和大数据运算开展思想动态研判信息化、管理等级评估信息化、综合素质测评信息化和思想行为研究信息化带来了技术机遇。同时基于人类反馈强化学习技术潜在的算法霸权、算法掩盖和算法滥用等应用风险，对高校学生工作领域开展学生价值引领、日常管理和学风建设等工作造成冲击和挑战。面对以ChatGPT为代表的生成式AI发展带来的技术机遇与风险挑战，高校学生工作领域应建构信息化正向传播与交互机制，使教育主客体由被动适应转向主动识别，在信息技术发展中准确识变，在“三全育人”格局中科学应变，在立德树人任务中主动求变，精准把握信息化管理水平和科研效率提升的技术机遇，科学应对意识形态裹挟和核心价值观念入侵的应用风险，在信息化应用场景中提升学生教育管理实效。

关键词：生成式AI；ChatGPT；学生工作；高校；教育主体

中图分类号：G647 文献标志码：A 文章编号：1674-8883（2024）10-0071-04

课题项目：本论文为2023年度四川旅游学院课题资助项目“三全育人视域下高校辅导员应对ChatGPT教育管理风险的策略研究”成果，项目编号：2023SCTUFD27

一、序言

ChatGPT等生成式AI自推出以来，吸引了全球数以亿计的用户使用[1]74，并受到思政教育领域[2]的广泛关注。其中ChatGPT凭借Transformer神经网络架构（GPT-3.5架构），具备人机对话、文本撰写、内容翻译、学习辅导、问题解决、职业指导和科研创新等强大功能[3-4]，广受高等教育领域的关注。ChatGPT以其具备启发性内容生成、情境对话理解、序列任务执行和程序语言解析四大核心能力，为高校教师通过人机信息交互和大数据运算开展混合式教学、信息化数据管理、科学研究和信息化测评等工作创造了可能[5-8]。研究表明，以ChatGPT为代表的人工智能技术能为高校学生工作教育管理带来便利[9-10]，同时其在意识形态裹挟、道德伦理缺失、安全隐私泄露和知识产权侵权等方面存在的风险与挑战也广受学者关注[11-13]。

高校学生工作肩负着学生价值引领和日常管理的重要职责，面对生成式AI带来的技术机遇与风险挑战，应建构信息化正向传播与交互机制，使教育主客体由被动适应转向主动识别。牢牢把握新技术发展为学生日常教育管理带来的技术机遇的同时，也要科学认识ChatGPT在基于人类反馈强化学习技术（下文缩写为“RLHF”）开发下存在的算法霸权、算法掩盖和算法滥用等潜在风险。要正确认识和科学应对信息化人机交互对高校学生信息化管理、思想价值引领和学风建设等工作造成的风险与挑战。要科学把握人工智能技术应用下学生成长规律和思想行为变化，准确认识新变化、科学应对新变化、主动掌握新变化，提升育人实效。

二、ChatGPT在高校学生工作领域的应用

高校学生工作部门主要由学校学生工作部和院系分团委、学生科构成。在“大思政”工作背景下，共青团组织、保卫处和公寓管理中心等职能部门也被纳入“大学工”范畴，下文统称为“高校学生工作领域”。其主要工作可根据职责划分为育人、管理和科研三类。ChatGPT所具备的四大核心能力，为思想动态研判信息化、管理等级评估信息化、综合素质测评信息化和思想行为研究信息化提供了技术可能，其应用场景如表1所示。

（一）思想动态研判信息化

ChatGPT为高校开展学生思想动态信息化研判提供了技术支持。思想动态研判是高校防范化解学生教育管理风险的重点和难点工作。近年来，高校因早期介入学生思想动态不及时所导致的网络舆情事件甚至校园危机事件屡见不鲜。究其原因是高校学生工作领域的信息化建设力度不均，以教育主体“人防技术”为主、“技防技术”辅的现象屡见不鲜。对学生思想行为的动态监测，在一定程度上受到信息化建设水平的限制。随着人工智能技术在高校学生工作领域的应用，人工智能“技防”与传统“人防”管理能达到相辅相成的效果。在符合国家法律规定的前提下，高校网络舆情监管部门能通过动态采集学生上网数据等信息，分析数据的消极和积极因素并反馈至学生工作部门。针对负向数字化行为，教育主体可通过早期介入，及时消除影响，树立正确价值观念，培养健康数字素养；针对正向数字化行为，教育主体要及时总结规律，创新数字化教育模式，巩固育人成效。若学生在社交APP高频率浏览或传播负面信息，要及时了解学生思想状况，对倾向性、苗头性问题做到早期介入，及时干预，防止危机事件和网络舆情传播；若学生通过ChatGPT高频率了解乙肝疾病信息，可能预示学生罹患传染疾病，教育主体应及时跟进了解情况，引导学生及时就医，研判是否存在因身体变故引发心理问题的风险等；在家庭经济困难学生认定工作中，教育主体可通过在ChatGPT中输入学生诚信申报材料和校园消费数据，对个人家庭收支、疾病、欠债、消费等情况进行综合分析，对申报人进行纵横对比，以信息化技术提升资助育人的精准性。

（二）管理等级评估信息化

以四川旅游学院学生工作为例，学生工作部门将学生基本学情划分为思想、个人、家庭、心理、生活、身体和学业7个维度。教育客体定期通过学生工作信息化系统诚信申报，教育主体定期记录学生思想行为表现，并通过7个维度信息化研判，得出由高风险至低风险的4个管理等级，实现基本学情数字化管理。系统从7个维度全面记录学生综合情况，并以管理等级评估方式辅助教育主体实现“一生一策”教育管理。由于各维度评价指标无法从技术层面做到绝对量化，需凭借教育主体通过质性分析后评估等级，其结果的准确性在一定程度上受到教师工作经验、主观认知和逻辑思维等个体差异的影响。例如，从医学病理上表现为抑郁症的学生，同时可能存在家庭变故和学业预警等多项高危指标，要准确定义该生是处于3项高危指标叠加状态，还是处于家庭因素导致抑郁症、抑郁症导致学业问题的“1项主因+2项诱因”状态。学生工作领域可应用ChatGPT的序列任务执行功能，将学生基本学情划分维度录入系统后利用统计学原理、扎根原理等展开质性分析，输出评估等级，为提高学生管理等级评估的有效性和科学性提供技术支撑。

（三）综合素质测评信息化

以四川旅游学院为例，其应用综合素质测评系统对学生开展综合评价，并将其作为学生评奖评优的重要指标。系统通过赋予不同事项不同分值，对学生思想表现、第一课堂学习、第二课堂成绩和奖惩等事项进行综合评价。为了确保评价有据可依，测评过程更倾向于成果导向。例如在评价“热心帮助身边同学”方面，对“拾金不昧捡到钱包默默归还同学”申报事由的评价和对“拾金不昧捡到钱包，通过社区归还同学，并被社区书面通报表扬到学校”申报事由的评价，存在由于是否获得“组织机构通报表扬信”而产生不同评价结果的现象。学生工作领域在非量化评价方面的局限性，将对客观、公正评价学生产生影响。通过ChatGPT启动固定算法程序对同一维度不同行为展开质性评价，可最大限度排除人为因素干扰，提升评价结果的科学性和合理性。例如，通过ChatGPT读取“热心帮助身边同学”的信息，通过数据运算和信息整合，整合姓名、事件、次数、类别等数据，以便教育主体纵横对比和量化评价。

（四）思想行为研究信息化

高校辅导员是从事学生工作的直接教育主体。根据普通高等学校一线辅导员1∶200的师生配比，结合学生个性化思想行为特征，学生工作领域开展学生思想行为数据收集、统计和分析的体量较大。ChatGPT的四大核心能力为高校学生工作领域高效、精准开展科学研究提供了技术可能。一方面其强大的数据整理能力，为大大提升学生思想行为特征数据的整合效率提供了可能；另一方面其强大的对话理解能力，为初步总结学生思想行为特征，搭建学生工作领域研究的理论框架和揭示思政教育的现象本质提供了可能。例如，利用ChatGPT读取某专业学生学期请假数据和学业成绩数据，可分析请假频率对学业成绩的影响，从而进一步研究请假频率对优良学风生成机理的影响。

三、ChatGPT在高校学生工作中的应用风险

ChatGPT四大核心能力的实现得益于RLHF技术的加持。底层算法在“通人性”方面表现出巨大效率和逻辑优势的同时，也衍生出算法霸权、算法掩盖和算法滥用等一系列问题，一旦在高校学生工作领域中实现全面应用，将可能产生裹挟意识形态、冲击学风建设、弱化人性主体等风险。

（一）算法霸权裹胁意识形态

RLHF技术作为一种改变生产、生活方式的科技力量，其本身并没有价值取向，更不具备权力属性。但由于开发者具有价值取向，技术对人的思想和行为造成直接影响和控制，从而使得技术具备了权力属性的特征[14]，这是一种新形势下的现代化权力范式。作为西方资本控制下的产物，ChatGPT或将可能成为西方霸权向他国渗透意识形态的权力载体，其隐蔽性、复杂性对大学生正确价值观形成造成潜在威胁，必将加大学生工作领域开展日常教育和管理的难度。

（二）算法掩盖冲击学风建设

因ChatGPT使用不当可能导致抄袭等行为，纽约一些高校已明令禁止学生使用ChatGPT完成课后作业[15]，并以制定新的教学评价方式防范风险。美国《自然》杂志和香港大学、暨南大学等高校明确表示拒绝接受包括ChatGPT等在内的AI语言模型署名的学术论文[1]77。由于算法掩盖下的剽窃等学术不端行为具有极强的隐蔽性，学生工作领域的学风建设受到冲击。例如，通过ChatGPT搜索考试题目答案将导致电子设备作弊概率提高；使用ChatGPT撰写学术论文、完成课堂作业等将导致学术不端等诚信问题出现。

（三）算法滥用弱化人性主体

ChatGPT的核心功能为学生日常学习、科研提供了便利。原本需要花费大量时间检索、统计和分析的信息被快速检索和行文，大大提升了学习效率，但算法滥用易导致学生学习主体身份被弱化，甚至导致教育客体奋斗精神削弱、深度学习能力降低等情况发生。例如，原本学生需耗费5个小时完成的数据统计、分析和整理工作，ChatGPT可在10分钟内完成，使得学生训练信息检索、统计和分析的机会大大减少。学生可能用余下的4小时50分钟做与学习无关的事情，导致学习自主性和深度学习能力不同的学生的学业差距被拉大。

四、学生工作领域应用ChatGPT的策略

在高校“三全育人”格局中，学生工作领域既要正确应用ChatGPT等生成式AI来提升工作的信息化工作水平和育人能力，又要从策略层面做好风险防范。既不能在思想上故步自封，将人工智能技术拒之门外，又不能放任学生在数字化传播空间中迷失自我。学生工作领域教育主体应全面把握应对ChatGPT机遇和挑战的策略，提升识变、应变和求变能力。

（一）在信息技术发展中准确识变

ChatGPT在学生工作领域的应用同时存在技术机遇和风险挑战。一方面要准确认识新技术提升学生工作信息化水平的作用。ChatGPT为学生工作领域开展信息化管理教育提供了应用场景，能提升工作的精准性、科学性和高效性。另一方面要准确认识新技术衍生的风险与挑战。由于ChatGPT在技术入侵、文化入侵和意识形态入侵等方面存在可能，因此学生工作管理部门应针对系统进行本土化二次开发，从技术层面加强人机互动监管，形成技术保护屏障，同时将学生理想信念教育、诚信价值观培养和健康数字素养养成作为价值引领教育的必修内容，提升学生自觉抵御风险的能力。

（二）在“三全育人”格局中科学应变

学生工作领域教育主体要不断拓展“三全育人”的物理空间，把ChatGPT作为全方位育人的数字化育人空间，融入“大思政”格局。一方面要充分挖掘ChatGPT所具备的育人元素，如将社会主义核心价值体系融入生成式AI的情景对话和思维启发功能中。另一方面要坚持将解决思想问题和解决实际问题相结合。例如通过了解学生对ChatGPT等人工智能工具的使用需求，将数字素养培养融入培训课程，这既满足了学生使用信息化工具的需求，又能帮助其形成正确的价值观念。

（三）在立德树人任务中主动求变

面对新技术带来的机遇与挑战，高校学生工作领域教育主体要紧紧围绕立德树人根本任务，学会主动求变。一方面要增强自身学习应用新技术的能力，提升落实立德树人的本领。要深入研究人工智能技术在学生工作领域中安全应用的方法和路径，通过本地化应用场景二次开发，提升ChatGPT应用的安全性。另一方面要置身于混合式学习管理空间，以健全大学生健康数字素养培养体系推进立德树人根本任务的落实，充分利用主题班会、第二课堂活动和党团建设等提升学生数字素养，在主动求变中提升抵御风险的能力。

五、结语

本文从高校学生工作领域视角研究了以ChatGPT为代表的生成式AI在思想动态研判信息化、管理等级评估信息化、综合素质测评信息化、思想行为研究信息化方面的应用机遇。同时指出因RLHF技术客观存在的算法霸权、算法掩盖和算法滥用等问题，对高校开展学生日常管理、价值引领和学风建设等工作造成冲击与挑战。面对技术机遇与风险挑战，高校学生工作领域应准确识变、科学应变、主动求变，建构信息化正向传播与交互机制，使教育主客体由被动适应转向主动识别，提升育人实效。

参考文献：

[1] 邹开亮，刘祖兵. ChatGPT的伦理风险与中国因应制度安排[J].海南大学学报（人文社会科学版），2023，41（4）：74-84.

[2] 赵霞霞，张波.主客体的重塑与建构：以ChatGPT介入思想政治教育为例[J].运城学院学报，2024，42（1）：83-88.

[3] 郑世林，姚守宇，王春峰. ChatGPT新一代人工智能技术发展的经济和社会影响[J].产业经济评论，2023（3）：5-21.

[4] 朱光辉，王喜文. ChatGPT的运行模式、关键技术及未来图景[J].新疆师范大学学报（哲学社会科学版），2023，44（4）：113-122.

[5] 卢宇，余京蕾，陈鹏鹤，等.生成式人工智能的教育应用与展望：以ChatGPT系统为例[J].中国远程教育，2023，43（4）：24-31，51.

[6] 陈永伟.超越ChatGPT：生成式AI的机遇、风险与挑战[J].山东大学学报（哲学社会科学版），2023（3）：127-143.

[7] 张耀天，游君宜，王杰. ChatGPT赋能大学思政教育：何以可能、内涵转变及逻辑演变[J].齐鲁师范学院学报，2024，39（1）：9-15.

[8] 黄欣荣，刘亮. ChatGPT赋能思想政治教育：技术路径与可能问题[J].江西财经大学学报，2023（6）：104-113.

[9] 焦建利，陈丽，吴伟伟.由ChatGPT引发的教育之问：可能影响与应对之策[J].中国教育信息化，2023，29（3）：19-32.

[10] 王天恩. ChatGPT的特性、教育意义及其问题应对[J].思想理论教育，2023（4）：19-25.

[11] 付姝菊.生成式人工智能视域下的人权：张力、威胁与中国因应：以ChatGPT为例[J].湖南科技大学学报（社会科学版），2023，26（3）：126-134.

[12] 冯雨奂. ChatGPT在教育领域的应用价值、潜在伦理风险与治理路径[J].思想理论教育，2023（4）：26-32.

[13] 王少. ChatGPT介入思想政治教育的技术线路、安全风险及防范[J].深圳大学学报（人文社会科学版），2023，40（2）：153-160.

[14] 张凌寒.算法权力的兴起、异化及法律规制[J].法商研究，2019，36（4）：63-75.

[15] 李志民. ChatGPT本质分析及其对教育的影响[J].中国教育信息化，2023，29（3）：12-18.

作者简介 唐唯，助理研究员，研究方向：教育信息化技术、高校教育管理。