智能聊天工具在教学中的应用前景和风险思考

●高梦琪 龚文全

2022年11月，美国OpenAI实验室发布了一款基于大语言模型LLM(Large Language Model)的人工智能聊天工具ChatGPT，并且在不久前又发布最新版本ChatGPT-4，由于其卓越的智能文本生成能力和人性化的问答风格，在全世界范围内掀起了智能聊天工具对话热潮。[1]智能聊天工具版本迭代迅速，一路高歌猛进，吸引了各界的关注，得到了很多专业人士的赞扬。在感叹ChatGPT智能化水平的同时，不少人也纷纷发出各种疑问，就教育领域而言，对智能聊天工具的使用更是充满了争议，特别是当发现有学生或者科研人员利用类ChatGPT工具生成作业和论文之后，甚至有不少知名大学明令禁止学生使用类ChatGPT智能工具，其中香港大学成为我国第一个跟进的高校。[2]意大利日前宣布全国范围内禁止使用ChatGPT[3]，Nature期刊更是直接禁止将类ChatGPT智能工具作为共同作者，否则会被认定为抄袭或者学术不端行为[4]。但是也有人认为，作为智能科学发展的阶段产物，类ChatGPT工具的出现是必然之势，大可不必视为洪水猛兽，一禁了之，教育界反而应当加快对类ChatGPT工具的了解和学习。

作为世界上目前最接近人工智能的大语言模型产品，类ChatGPT智能工具对教育教学的影响势必产生重大的影响，了解类ChatGPT智能工具的发展历程，有助于我们理性的认识智能聊天工具的出现，消除对智能聊天工具的抗拒心理，从而正确的看待类ChatGPT智能工具在教育中的应用前景，把这种强大的人工智能转化为帮助教育教学发展和教育信息化建设的工具。与此同时，我们应当认识到智能聊天工具可能存在的风险，以及智能聊天工具滥用的后果。因此，本文以ChatGPT为例，拟结合各界对智能聊天工具的应用与探索，尝试探讨其在教育中应用的潜能与限度

一、ChatGPT工具运作原理和发展现状

在ChatGPT出现之前，社会对人工智能的印象大部分还停留在6年前AlphaGo在围棋比赛中，3比0击败世界冠军柯洁，当时无数人感叹人工智能的强大，并且将其视为人工智能时代的里程碑。AlphaGo和ChatGPT的共同之处，都是采用了大型语言模型(LLMs)，可以说一脉相承，但二者并不完全相同，更重要的是，ChatGPT的输出文本之所以表现得如此智能和人性化，所采用的人类反馈中强化学习(Reinforcement Learning from Human Feedback，RLHF)功不可没。

(一)大型语言模型LLMs

大型语言模型LLMs具有文本数据自我监督功能，可以根据前后表述的理解，有一定概率推测出下一个单词[5]。当理解和推测错误的时候，会得到消极信号，当LLMs理解和推测正确时，会得到积极信号，并且相应的机制会被强化，类似巴甫洛夫发现的条件反射定律。因此经过一段时间的训练之后，LLMs根据上下文推测正确单词的概率就会增加。当接入了互联网包含的大规模文本数据之后，LLMs得到大量的训练模型和数据，当训练模型和数据的规模达到一定水平时，LLMs就会表现出良好的理解和预测能力，就用户使用体验来看，会认为LLMs具备了精准的对话理解能力和人性化交流能力。

(二)人类反馈中强化学习(RLHF)

大型语言模型LLMs可以通过大量的训练，对用户的文本输入表现出良好的理解力，并且输出相应的文本内容，但是，输出文本的质量却缺少评判的标准，因为“好”和“坏”是带有主观性的答案，对于不同的提问、表达甚至语气，都可能会产生不一样的评判，而且，不同的人对相同的一份文本输出，评价态度也是不一样的，若是要建立全面的参考数据库，将会是一项非常庞大的工程。因此，有科学家想到了人类反馈中强化学习(RLHF)的优势，并且将人类反馈中强化学习(RLHF)应用到了ChatGPT训练中，通过人类反馈来让模型学习人类评价的复杂。

人类反馈中强化学习(RLHF)大致需要三个关键过程(见下图)。[6]首先要先提供一个实现训练好的模型范本，即预训练模型，确保ChatGPT可以理解用户的输入信息，并且输出相应的回答文本，但未经过人类反馈中强化学习(RLHF)的最初答案，在用户看来可能是比较呆板或者语序不通顺的，如用户预先设定问题“榴莲是什么？”并编写好答案模版“榴莲是一种外壳带刺的热带水果，果肉味道奇特……”，然后向最原始的ChatGPT 版本提问，可能得到不同质量的回答，因此就需要进入第二个过程：用户反馈和训练奖励。用户按照答案质量对ChatGPT的回答进行排序，然后给出更为合适的参考答案。当用户做出评判和反馈之后，ChatGPT会训练自己原来的语言模型，下次用户再提出类似问题时，如果ChatGPT给出了更为自然的文本回答，则会获得奖励，最后，再通过强化学习(RL)持续迭代，优化调整语言模型。

人类反馈中强化学习框图

(三)多模态具象化视觉语言模型(VLM)-PaLM-E

近期，谷歌与柏林工业大学的人工智能研究小组人员推出了一个多模态具象化视觉语言模型(VLM)-PaLM-E，该模型的参数规模达到了5620亿个，集成了用于控制机器人的视觉与语言。[7]研究人员称，这是有史以来规模最大的VLM，无需重新训练即可执行各种任务。得益于多模态具象化视觉语言模型(VLM)-PaLM-E强大功能，最新版本ChatGPT-4的用户不仅可以使用纯文本输入，还可以选择更多种类的输入类型，如音频、图像、视频等，相比于只允许纯文本输入的ChatGPT-3和ChatGPT-3.5，支持多模态输入的ChatGPT-4无疑是质的飞跃，用户的体验感会大大提高。除此之外，多模态输入也将使ChatGPT获得更为严格的语言训练，对用户的输入信息理解以及输出的信息都会更加准确。

从AlphaGo到ChatGPT-4，大型语言模型LLMs和人类反馈中强化学习(RLHF)的结合，使得ChatGPT在用户的不断反馈中，快速地训练自己的语言模型，经过ChatGPT、ChatGPT3、ChatGPT3.5的版本迭代，终于表现出了惊人的人性化智能行为，而多模态具象化视觉语言模型(VLM)-PaLM-E的使用，则进一步拓宽了ChatGPT-4的使用场景。

(四)我国的类ChatGPT智能产品研发现状

几乎和ChatGPT-4发布的同一时期，我国的百度集团宣布旗下国产自研的智能工具文心一言(ERNIE Bot)将在近期开始公测，被认为是对标ChatGPT的同竞产品[8]。而且根据前期内测用户的反馈，文心一言整体虽然还存在文本理解错误，文本输出僵硬等问题，但整体智能水平已经达到了ChatGPT-3版本，业界人士表示，这是语言训练模型的通病，一旦开始公测，大量数据接入后，文心一言模型将被迅速强化，文本理解和输出的正确度也会大幅度提高。目前已经有每日经济新闻、澎湃新闻、封面新闻、广东广电等近200家媒体宣布接入文心一言[9]，而美的集团也在2023年2月20日宣布，在智能家居领域接入文心一言，力图通过生成式AI智能工具，助力用户实现智能家居场景下的自然对话[10]。媒体端的接入，将会向文心一言提供海量的自然语言训练数据，帮助文心一言快速成长，在精确度和人性化方面得到提升。而以美的公司为代表的智能制造业的助力，无疑会使文心一言获得更为广阔的应用空间，帮助文心一言从“猎奇式”的试玩快速成为融入用户智能生活的实用工具。除此之外，讯飞公司、腾讯AI实验室、华为云部门等也先后发文，表示正在研发或者即将推出基于大语言模型的生成式对话产品[11]，由此可见，类ChatGPT智能工具在未来的发展和应用势必会更加强劲，影响到人类社会的各个层面。

二、智能聊天工具在教育行业应用前景

以ChatGPT为代表的智能聊天工具具备良好的文本理解能力和文本输出能力，它可以根据用户的提问或者命令，短时间内自动生成相应的回答，而且语句通顺自然，内容的正确率很高。这种对话式的释疑和解答颇有对话式教学的内涵，在孔子和弟子的对话语录中，似乎也能寻见其踪影，因此，现阶段不少学生将其视为教育教学中的“虚拟导师”，通过智能聊天工具来帮助自己完成一些重复性的文本工作或者作业，除此之外，智能聊天工具凭借其强大的人工智能，在教育教学中得到更丰富的应用。

(一)智能聊天工具对于学生的帮助

在ChatGPT推出以后，对其最感兴趣的，除了相关的技术人员，当数广大的学生群体，抛开学生们的猎奇心理和试玩心态，ChatGPT工具还将对学生们的学习和生活起到更重要的帮助作用。

1.提供定制化学习

对于绝大多数人受教育经历而言，接受的都是以班课为主的教育形式，班课教育是在教育资源和教育需求相互妥协的产物，随着我国对教育的持续大力投入，大班、超大班现象逐渐减少，小班教学已经在有条件的试行，但仍受到教学资源短缺的制约。而智能聊天工具的出现，则有望助力解决这一问题。作为使用成本低、学习门槛低的智能工具，学生可以很快的掌握并使用智能聊天工具，甚至可以通过自身的实际需求，将智能聊天工具当作一种定制化的“私人助教”，来辅助自己的学习。对于小学生而言，智能聊天工具可以提供如拼音跟读、成语解释、课文分析、古诗词填空、应用题练习讲解等辅助，帮助小学生加强基础知识学习；对于中学生而言，智能聊天工具可以提供如语法测试、真题讲解、实验现象分析、复杂概念形象演示等辅助，帮助中学生理解隐藏在具体题目中的抽象规律，有利于培养中学生的逻辑思维能力和开放性思维，甚至在高中生在填报高考志愿时，智能聊天工具可以快速提供精确而全面的院校数据分析，节约考生和家长查阅资料的大量时间和精力；对于大学生而言，智能聊天工具可以帮助他们完成一些重复性的文本工作和基础的程序编写，也可以在大学生策划社团活动时提供一些富有创意的想法。而且，当大学生需要找工作或者考研时，智能聊天工具可以快速的提供一些关键的信息，如行业前景分析报告、行业薪资待遇、专业研究热点分析、院校专业往年报录比等，同样可以节约学生大量的时间和精力成本。

2.自我评估和反馈

在学习过程中，评估和反馈是非常重要的环节。通过及时的反馈，学习者可以查漏补缺，快速的认识到自己知识体系中的短板，有针对性地强化练习，从而专项突破。但是在实际的学习中，受到多方面的制约，周测和月测才是最常见的评估方式，因此，如何及时并准确的评估自己是否掌握了知识，对于很多学生而言是比较困难的事情。而主打“在线即时对话”功能的智能聊天工具，或许可以帮助学生解决这一难题，利用智能聊天工具快速生成准确文本的能力，根据学生的需要，生成考察对应知识点的测试，帮助学生方便快捷的自我评估，智能聊天工具也会给出解答分析，甚至还有提供多种不同角度的解题思路，帮助学生多方面的理解知识点。

如果单一的知识点已经熟练掌握，智能聊天工具也可以将多个知识点综合起来，或者结合具体的应用场景，提升测试难度，进一步考查学生对知识的理解和应用能力。更重要的是，当学生完成本次测试后，智能聊天工具会对学生表现进行记录，并作为其强化训练的数据库，当学生再次使用智能聊天工具进行测试时，智能聊天工具就会主动提出复习的邀请，帮助学习者进一步巩固知识点。

3.非评判性健康咨询

据统计，我国有38.5%的学生存在睡眠问题[12]，特别是对于有心理健康引导需求的学生而言，由于对心理咨询存在误解，或者担心暴露隐私，还有社会上对心理疾病的“污名化”舆论导向，往往会让那些需要心理健康引导的学生对因自己的状况“讳疾忌医”，也对心理咨询室望而却步，无法得到及时的心理疏导，最后造成更为严重的后果。

而智能聊天工具的出现，可能有助于缓解这一严峻现象。如青春期学生面对身体的生理变化，可能会产生恐慌和羞耻感，不愿意和医生当面交流，此时智能聊天工具可以起到很好的引导效果，让学生可以正确的看待和对待特殊阶段的身心变化，保护青少年健康发育和成长。而且，对于一些感觉自己需要心理咨询却又因为各种原因“讳疾忌医”的学生，也可以通过和智能聊天工具，对自我心理健康情况进行咨询，智能聊天工具可以根据测评或者对话分析的结果，指导学生们了解心理健康状况，给出应对策略和治疗建议，而文心一言则可以识别输入文本的情绪，如当输入“唉，成绩又考砸了，活着真累”之类的表述时，文心一言能够迅速的判断此时学生的情绪状态，并且提供及时的劝导和建议，帮助学生更好了解和管理他们的心理健康。

4.帮助特殊学生群体

特殊学生群体的受教育权一直是不容忽视的教育公平问题，特殊学生的学习环境在被生理缺陷制约的同时，也往往受到内心的自卑感和羞耻感限制，当遇到学习难点时，往往不愿意向老师或者周围同学求助，进一步增加了自身学习的困难。生理上的缺陷、同学们的疏远和学习上的无助，多重压力下，可能会导致学生产生退学意向。

而智能聊天工具则可能在特殊学生教育辅助中大显身手，为学习有障碍的学生提供自适应服务，有助于促进教育的公平性和包容性。如，ChatGPT可以为有阅读障碍的学生提供有声文本的朗读以及自动化的学习方法推荐，也可以准确识别学生的语音输入，对视力障碍的学生无疑是巨大的学习辅助；ChatGPT可以实现用户输入信息的准确理解，快速提供准确的文本生成，降低了残疾学生的使用门槛，提高了他们获取有用信息的效率；而且智能聊天工具具有人性化的互动特点，可以在帮助残疾学生定制化学习的同时，在某种意义上充当“虚拟学伴”的角色，通过人性化的对话和聊天，或许可以一定程度上缓解残疾学生内心的孤独和社交需求。

5.拓宽语言学习途径

语言智能提供了极佳的外语文字应用的实践交互场域，对于中国的外语教育而言，它或许可以解决传统教学中师生互动不够，以及中国外语教育中普遍存在的教师、教材和教学质量等方面的问题[13]。据OpenAI官方发布的文档显示，ChatGPT可以根据用户的语言水平和需求，提供个性化的服务。以ChatGPT-3.5为例，当学生使用英语输入时，如果学生输入的语句中存在单词拼写或者语法结构错误，但基本语句意思清晰，ChatGPT-3.5将会忽略这些问题，继续和学生聊天。但是如果学生事先表示，自己的语言水平不好，而且提出希望ChatGPT-3.5帮助自己检查错误的要求之后，在接下来的对话中，如果学生输入语句出现了上述的错误，ChatGPT-3.5就会首先指出对应的单词拼写错误和语法逻辑问题，并且生成相应的例句，帮助学生理解和记忆。而且，根据OpenAI最新发布的ChatGPT插件来看，ChatGPT可以以插件形式，连接到第三方应用平台，而且拓展更多的功能，如查询世界各国语言词汇、短语意思等。而文心一言则可以根据用户要求，生成不同地方话语音输出，如输入文稿后，要求文心一言用四川话读出来，文心一言则可以很快的输出语音，目前支持四川话、东北话、广东话和台湾话，对于学习者而言，这是一个充满乐趣的学习过程，极大地丰富了学生学习语言的途径，由此可见，智能聊天工具可以为学生学习语言提供有效支持，拓宽语言学习途径。

(二)类ChatGPT工具对于教师的帮助

1.减少重复工作

对于一些文稿类型的工作，智能聊天工具具有良好的生成能力，据网友测评，ChatGPT-3.5可以根据指定主题撰写诗词，也可以短时间内生成一篇小说，甚至对《红楼梦》进行续写，而且文本质量非常高。因此，在需要进行活动策划、宣传设计时，教师可以通过精准的提问，让智能聊天工具短时间内生成相应的文本，从而节约大量的时间。而且，智能聊天工具具备上下文语句理解能力，可以对输入文本的语句逻辑进行评判，因此，教师可以使用智能聊天工具对学生的作文、简答等主观性答案进行评估，也可以完成作业批改、习题生成等教学工作，实现学生作业智能批阅、诊断和点评。因此，智能聊天工具可以极大地减少教师的重复性工作，将教师从繁重的重复性劳动中解放出来，让教师可以把更多的精力投入到课堂和学生中，可以帮助教师高效备课。

2.提高课堂质量

课前充分的备课是上好一堂课的基本条件，为了吸引学生的注意力，教师们往往会选择插入丰富的图片或者动画到课件中，不过这些资料的搜集和筛选是较为费时的过程。而智能聊天工具可以理解用户的要求，快速搜索或者直接生成教师需要的图片，如在文心一言中，输入“帮我画一朵水墨画风格的茉莉花”，文心一言就可以迅速生成符合条件的图片，也可以生成充满趣味的藏头诗、小寓言故事等，但是暂时不支持视频生成，其他的智能工具也具备类似的功能。除此之外，教师也可以整理学生可能的提问，然后和智能聊天工具进行模拟对话，如果智能工具有更恰当的答案时，教师则可以吸收借鉴，更加充分的备课，为课堂讲授做好相应准备。在课程导入环节，使用智能聊天工具可以很快的生成较为恰当的知识指导思路，丰富多样，既能结合备课内容，又可以有效的吸引学生注意力。在课堂互动环节，如果学生没有很好的回答问题，教师也可以使用提问智能聊天工具，让智能工具做出回答，然后对答案进行分析，不仅增强了课堂的趣味性，也更有利于增强学生对知识的复习。

3.增强医护服务

据调查[14]，我国中小学校医配备率为17.27%，学生与校医人数配备比例为3457：1，校医配比达标率仅为1.94%，相对于近3亿的在校学生而言，学校能够提供的健康咨询服务很难顾及到每一个学生，某些疾病可能无法得到及时的诊断。

智能聊天工具可以作为校医/保健教师们的辅助工具，对学生基础、常见的疾病提供快捷的护理方案，从而缓解校医/保健教师的工作压力。据专业团队测试[15]，在肠胃疾病的诊断中，ChatGPT获得了医学专家的高度认可，这意味着ChatGPT可以担任某些常见疾病在线诊疗的角色，当学生感觉到身体不太舒服时，可以先自行咨询ChatGPT，反馈自己的相关症状，ChatGPT可以给出适当的诊疗建议，并且将咨询过程以摘要形式发送给校医室，最后由校医做出诊疗判断，这样学生诊治的效率将会大大提高。

(三)类ChatGPT工具对于教育环境的帮助

1.推动教育改革

在现代教育中，始终强调学生是教育的主体，而智能聊天工具的出现，很可能强化学生的主体地位，加速学习中心的转向，推动教育现代化建设。当智能聊天工具引入教学后，由于其门槛低、响应快、准确度高的特点，可以打破时间和空间的限制，为学习者提供灵活的学习情景，随时随地为学习者提供所需的教学指导，而教师在知识传授上的传统主导地位将会弱化，学生的自主学习地位得到强化，有望真正实现“以学生为主体”的现代化教育愿景。

而且，随着智能聊天工具文本生成能力的持续提升，传统的作业和考核形式将受到代谢冲击，学生评价体系也将迎来变革，逐渐从结论性评价转向过程性评价，更加注重考核任务的多样性和创造性，强调学生的参与度和协作性，更加重视学生批判性思维和创造性思维的培养。

另外，为了促进教师职称体系健康发展，教育部一直在推动破五唯，但是唯论文主义仍然难以根除，而智能聊天工具的出现，则可能加速破除教师职称评审现状的困境。智能聊天工具具备文本生成能力，国外已经有利用ChatGPT-3.5生成学术论文的案例，据相关报道，虽然创新程度不足，但理论水平已经可圈可点，甚至到了真假难辨的程度。由此可见，未来富有独特见解和创新的论文会依然保持较高的认可度，而普通水平论文的价值将会迅速降低，从某种意义上而言，智能聊天工具的出现会迫使大量的教师放弃一般水平的论文创作，把更多的经历投入到学生管理、企业实践等指标上来，有利于教师职称评审体系健康发展。

2.整合教育资源

随着我国教育信息化工程的推进，大量的教育教学产品出现，如常见的慕课网、自学网、接龙管家、作业助手等，但是这些产品出自不同的公司，相互存在信息壁垒，而且标准不一，各种账户和登录密码让人头疼，但是根据OpenAI最新推出的ChatGPT插件来看，有望解决这一难题。ChatGPT插件目前已经有超过5000款应用软件接入，涵盖在线会议、电子图书、网络课程、购物、社交、游戏等应用领域，未来很可能会出现教育信息资源一站式搜索的情况。当不同平台的教育资源被有效整合之后，我国的教育公平建设也将得到实质性的提升。对于农村和偏远地区的学生和教师而言，通过一站式资源访问，就可以便捷的获得教育资源支撑；对于残障学生和病休的学生而言，可以获得自适应的学习指导，在学习上和同班同学能够做到齐头并进，增强他们的信心和收获感，教育资源的均衡化和包容性进一步提升，我国的融合教育也将有更为广阔的开展途径。

3.提升家庭教育

家庭教育是“三全育人”的重要支撑，有效的亲子沟通可以强化家校合作，形成教育合力，共同促进学生的健康成长。但是在很多时候，由于缺少相关的理论知识和沟通技巧，家长往往难以和学生进行有效的沟通，特别是对于青少年阶段，学生的自主意识开始萌芽，试图挑战家长的权威，但家长缺少科学的应对措施，往往对话刚开始，就变得剑拔弩张，而孩子那些隐含挑衅性的对话则更为棘手，处理不当往往会导致亲子关系僵化甚至破裂。而智能聊天工具具有的聊天模式，应该能够为苦于亲子交流的家长们提供一些帮助。当发现孩子出现了某种新变化时，家长可以先咨询智能工具，对孩子表现出来的行为表象进行分析，挖掘隐藏在孩子内心的行为逻辑，可避免止家长因太过关心而产生认知误判。如果确认孩子需要进一步的谈话，家长也可以选择适当的主题，预先猜测孩子可能会提出的问题，甚至包括一些充满抗拒的质疑，输入到智能聊天工具中，然后参考智能工具的回答，做好充足的对话准备，不仅可以帮助家长事先做好情绪调整，也可以防止亲子对话中断，更能够把控谈话方向，让对话产生实际的意义。除此之外，班主任或者辅导员也可以参考这种处理方式，在和学生对话时，通过智能工具的预先演练，避免师生冲突，提高教育效果。

三、智能聊天工具在教育行业风险思考

作为大型语言模型LLMs最先进的应用产品，智能聊天工具在教育教学中的应用前景是值得期待的，然而由于推出时间较短，应用尚未大面积推广，很多隐藏的问题和潜在的风险，仍然值得我们思考和防范。

(一)学术诚信问题

ChatGPT采用了指示微调(Instruction Tuning)技术，该技术可以辅助ChatGPT等系统生成高质量的文本，甚至连程序编写也可以自动完成，引起了业界对学术诚信的担忧：学生可能利用ChatGPT完成布置的作业，而某些教师则可能在创作学术论文的过程中，参考甚至抄袭ChatGPT生成的文本，造成学术不端。而且，更有争议的是，由智能工具生成的文本资料版权应该属于谁？是属于提问者，还是属于智能工具所参考的文献，或者属于智能工具本身？如在2022年美国科罗拉多州博览会的一项艺术比赛中，参赛者Jason Allen利用AI智能绘画工具，完成了作品《太空歌剧院》，并且获得了第一名，此消息一出，在绘画界引起轩然大波，有人认为AI作品应该得到承认，但是更多的画家表示，AI绘画软件并不能凭空创作，其绘画素材和逻辑都是对现有绘画作品的模仿和训练结果，未经画师同意，就将搜集到的绘画作品当做资源库来进行人工智能训练，明显就是侵犯原创者的版权行为，更有画师公开表态，严禁人工智能工具把自己的作品加入到学习数据库。出于对学术道德和版权归属的担忧，美国纽约教育局全面禁止学生在校内使用 ChatGPT，以应对可能泛滥的用人工智能抄袭作业的局面，随后有更多的高校跟进该决定，我国香港大学副校长何立仁也向全体学生发出通告，除非学生获得书面许可，否则使用ChatGPT辅助完成作业或者论文，将被学校视为抄袭[16]。

(二)路径依赖问题

学生对智能工具的依赖问题一直存在，在智能聊天工具出现之前，曾经有搜题工具的滥用问题，而智能聊天工具也具备类似的功能。学生通过智能聊天工具可以快捷的得到答案，如果学生依赖智能工具完成作业，那么作业布置和作答很可能会变成教师和智能工具之间的对弈，而在这个过程中学生自身的知识和思维并未得到锻炼，一旦智能聊天工具滥用，不仅不会对学生提供帮助，反而弱化学生的学习效果。更重要的是，如果学生依赖于智能聊天工具，将会导致学生忽视教师的主导作用和育人作用，在课堂中不专心听讲，甚至不愿意参与课堂互动，不愿意和老师交流，反而把智能工具当做提高学习的主要平台，出现喧宾夺主的情况。另外，由于智能聊天工具所生成的文本是依据互联网数据组合而成，自主创作新知识的能力较弱，如果教师一味的把备课、作业布置、作业批改等任务依赖于智能聊天工具来完成，也将会缺乏与学生的教学互动，自身的创造性和因材施教能力受到限制。特别是随着智能工具的引入，对传统的习题、作业和考核都将产生巨大的冲击，因此，教师更应当更新考核理念，创新考核方法，健全考核机制。

(三)信息误导问题

智能聊天工具可以生成答案，但生成答案的过程，本质上可以认为是对互联网数据的精准搜索和二次组合。由于互联网数据本身存在着很多错误信息，如术语概念模糊、专业名词混淆、地域偏见、性别歧视等言论和信息，因此，当数据库出现信息污染时，智能聊天工具所提供的答案自然也就会出现信息误导甚至错误问题，这也是所有基于内容生成智能工具的通病。如果某一个模型是在对某些人群有偏见的数据上训练的，它可能会在对这些群体的表述上出现歧视的回答，如网络上关于“玉林人吃狗肉”“河南人偷井盖”“女人应该包揽家务”等话题，由于此类话题在互联网上引发了大量且持续的讨论，因此必然会形成不容忽视的数据信息，一旦智能聊天工具抓取了相关信息并且以此完成训练，那么它生成的回答则很有可能是不公正不客观的，甚至是虚假的错误的。对于用户而言，如果不能理性的认识到智能聊天工具的局限性和工具性，主动做出区分和辨别，自身的认知则可能会受到影响，甚至会成为虚假信息的传播者。从某种程度上而言，智能聊天工具很可能会放大网络偏见，传播网络暴力。

(四)信息滥用问题

相比于ChatGPT-3.5版本，最新发布的ChatGPT-4的智能化和人性化再次获得极大的提升，除了技术上的进步之外，更多的是由于前期全球的数亿用户在使用ChatGPT-3.5的过程中，为ChatGPT-3.5提供了大量训练数据。而文心一言官方的简介则直言不讳的描述文心一言是“持续从海量数据和大规模知识中融合学习具备知识增强、检索增强和对话增强”的产品[17]。因此，从技术层面看，智能聊天工具的发展需要海量数据支持，自然也包含用户在使用过程中提供的亲友关系、教育背景、职业身份等领域的敏感信息。

由于学生涉世未深，对个人隐私信息的保护意识不强，因此，在和智能聊天工具聊天的过程中，很可能会主动或者被动的泄露个人信息。如果此类信息在对话结束后没有被立即销毁，反而被存储或者泄露给第三方，那么学生信息滥用的情况就会更加严重。如，培训机构可以轻易地获取学生的家庭背景和学科成绩情况，针对性的向家长们推送广告；医疗医美机构也可能会把目标盯向有容貌焦虑的学生，诱导他们去办卡消费；甚至一些诈骗团伙也可以在实施犯罪的过程中，设计更为真实的骗局，让学生和家长真假难辨……信息泄露和滥用，关乎每一个学生和家长的切身利益，更关系到我国的信息安全建设。但是由于智能聊天工具相关技术的复杂性和不透明性，可能会为信息保护领域的工作平添不少阻力。

(五)信息公平问题

教育资源公平包含教育信息公平，从相关测试结果来看，目前ChatGPT并不能很好的保证这一点[18]。三位研究人员在确保无历史对话影响的前提下，以完全相同的网络和问题，与ChatGPT进行了一次新的对话。对于“请列举10种可以用于教育的聊天机器人模型，并且把开发者、开发时间、目标受众、优点、缺点和未来前景进行比较”这一相同的问题，ChatGPT却给出了不同的答案。A研究者得到的答案参考了互联网上最新的研究数据，答案的结构和表述都比较容易理解，而且足足有10个版本的回答，此时ChatGPT的表现相当令人满意。但是B、C两名研究者得到的答案的质量就差强人意，引用的数据时间滞后，逻辑结构不明显，而且ChatGPT只对他们提供了7个答案版本。由此可见，智能聊天工具确实存在信息不公平的问题，而且更令人担心的是，现阶段推出的智能聊天工具都是各大互联网科技公司，公司推出新产品肯定要以盈利为目的，所以很难保证未来这些智能工具会不会出现用户分级的情况，如不同用户等级，所拥有的权限不同，或者得到的回答质量不同等情况，甚至会引导或者强迫用户充值提升等级。如果真的出现，智能聊天工具的使用成本将会大大提高，无疑会进一步加大家庭和学校的开支，信息不平等的情况会更加严重。

四、对策与建议

党的二十大报告中表示，我国必须坚持科技是第一生产力，要深入实施科教兴国战略，开辟发展新领域新赛道，推进教育数字化建设，建设全民终身学习的学习型社会、学习型大国[19]。而以ChatGPT为代表的新型人工智能的出现，无疑又为教育信息化发展注入了新的活力，但在探索高效便捷的应用场景时，也应当慎重思考智能聊天工具可能带来的消极影响。

(一)堵不如疏，积极拥抱新型技术

历史经验表明，每次的科技进步，终将会促进教育的发展。教师们与其视人工智能工具为洪水猛兽，倒不如主动接触，学以致用，积极利用智能聊天工具在教学、工作和学术研究上的便利功能，学会正确的使用智能聊天工具，努力做到与时俱进，拥抱新兴技术，切身的践行终身学习观念。

(二)加强教育，引导学生正确认知

智能工具可能会在知识传授方面大放异彩，但绝对不可能取代教师的育人地位。通过先进的算法和强大的算力支持，或许智能聊天工具可以在“智育”上大展身手，但是对于教育领域同样重要的“德育”与“美育”，就很难取代教师的独特作用。因此，教师应当更加注重育人职责，秉持教育初心，坚持立德树人，引导学生区分如何认识智能工具，如何正确使用智能工具，在使用的过程中保护自己的隐私安全，以及怎样区分智能工具所生成答案的好和坏，避免自己成为网络暴力的传播者。同时，应当重视对学生价值观的引导，明辨自己为什么要学习，认清重复练习和独立思考对知识掌握的重要性，强调学术诚信概念，避免人工智能对人的“物化”和“异化”。

(三)活用善思，促进教育教学改革

从工具性而言，大可将智能聊天工具视为性能更佳的搜索工具，教师要善于使用智能聊天工具，完成重复性的文稿项目，减轻自己的工作负担，从而把更多的精力投入到班级管理、学生关怀和教学研究等方面，革新学生管理理念，创新教学评价和考核方法，减少学生直接使用智能聊天工具“作弊”的机会。如，增加团队项目，增加团队协作的评估权重；过程性评价和结果性评价相结合，或者要求学生对所提交作业进行发散性论述；突出批判性思维和创新性观点的价值，减少复述或整理性作业的布置，等等。

(四)价值引领，塑造终身学习观念

科技的进步日新月异，而关于“人工智能取代人”的言论也会始终存在。因此，教师可以在学生面前公开演示智能聊天工具的强大功能，分析智能聊天工具的强项和劣势，让学生切身体会科技的进步，并且让学生认识到，未来的社会必将是人工智能应用更为普遍的社会，而且在某些行业“人工智能取代人”正在发生，但人类独具的创新精神和批判能力，是人工智能无法取代的，而创新精神和批判能力，来自于不断的学习、思考和实践。只有保持包容和谦虚的学习态度，不断地学习新知识，并且认真思考和实践，才能不落后于时代的进步。

(五)加强监督，健全平台监督机制

个人隐私和版权侵犯问题，是智能聊天工具必然要回答的问题。政府作为公民权益和公共利益的监管者和保护者，应当尽早的介入人工智能产品的监督，出台法律条例，对智能聊天工具使用过程中的信息收集和使用做出限制，对智能聊天工具创作产品的版权问题做出界定，对违反相关规定行为的产品和公司做出明确处罚。区分“法”和“不法”，划定“行”和“不行”，不仅有利于保护个人用户的利益，也有益于产品公司的长期发展。

五、结语

基于大语言模型LLM(Large Language Model)的人工智能聊天工具凭借其强大的上下文对话理解能力和精准文本输出能力，在教育界引起了广泛的热议。智能聊天工具不仅可以增强学生的学习体验，还可以支持教师的工作，更能在家校共育和心理健康咨询等方面提供一定的引导。然而，智能聊天工具也可能会在作业练习、学术创作、版权和信息保护等方面造成新的问题。因此，虽然笔者对智能聊天工具在教育中的应用持有乐观态度，但为了更为充分发挥其教育潜力，仍然呼吁要强调智能工具的工具属性，避免智能聊天工具滥用，并且建议政府部门应当加快介入人工智能领域，认真调研及时立法，以确保智能聊天工具可以在我国教育现代化、信息化建设的过程中，发挥更为积极的作用。