生成式人工智能教育应用的价值与潜在风险

李艳燕

过去几个月，以ChatGPT为代表的生成式人工智能热潮席卷全球，引发了各级各类教育工作者的高度关注，也再次激发了人们对于智能技术赋能教育变革的新思考。

生成式人工智能是指一类基于深度学习的人工智能技术，能够自动生成新的文本、视频、音频、图像等多模态内容。与传统人工智能专注于解决特定任务或问题不同，生成式人工智能着重在海量数据的基础上生成新的信息。它具有四大功能特性：一是自然语言和代码生成。基于大規模深度学习模型，它能以自然、流畅和结构化的方式，完成文章创作、连续对话、机器翻译和代码生成等各种文本生成任务。二是个性化生成。根据用户的偏好和需求，它可以生成符合用户兴趣和认知特点的定制化内容，实现个性化的智能服务。三是上下文理解。它能基于对话内容和情境，进行语义理解与推理，生成符合上下文逻辑的连贯性回复。四是多模态的理解和生成。它可以识别文本、图像、音频、视频等多模态的信息输入，加以分析、集成后生成相应的多模态内容。

生成式人工智能融入教育教学将催生人机协同的教育新样态。一是助力个性化学习。它可以根据学生的需求和学习风格生成定制化的教育内容与学习资源，并针对学生的回答或提问，提供适应性的教学支架与反馈，实现个性化的学习服务。二是支持自主学习。它能够回答问题、给出反馈，帮助学生管理学习时间、完成学习任务等，如学生可通过与ChatGPT的多轮对话开展自主学习，获得更好的学习体验。三是提供学习资料。它能够生成丰富的学习材料，如英语写作范文示例或数学解题思路指导等，帮助学生快速学习和掌握课程内容，提高学习效率。四是辅助教学设计。它还能为教师提供多样化的教学服务，如基于教学目标生成创新性的教学设计与教学活动，在教学过程中为教师提供交互式的教学支持，以及生成适应性的教学方案与个性化的随堂练习等。五是赋能教学评价。通过与学生对话，它能够了解学生的学习水平以及是否真正理解了所学内容，识别学生的长处、弱点和学习偏好等特征，实现对学生的个性化诊断，帮助教师实施精准教学与评估，使教学更具吸引力、参与性和有效性。

但是，以ChatGPT为代表的生成式人工智能在教育领域应用时也存在一些潜在风险。一是隐私和数据安全问题。目前我们并不清楚ChatGPT究竟是如何存储、处理其与用户交互的信息的，这导致我们在使用这项技术时对隐私、安全、伦理等问题存在一定的担忧。二是人工智能技术的偏见与歧视。ChatGPT等智能技术无法像人类一样进行复杂思考，所提供的信息是通过大量的训练数据自动生成的，这些由人工智能自动生成的信息可能存在一定的偏见性与攻击性。三是产生过度依赖。ChatGPT能够帮助学生撰写论文、完成作业、通过考试，这些多样化的学习服务可能导致学生产生过分的依赖心理，限制了自主学习和独立思考能力的发展。四是提供不准确或误导性的信息。尽管ChatGPT能够为师生提供大量的学习信息，但是这些信息的准确性仍无法得到充分保证。

因此，为应对这些风险，对于生成式人工智能在教育场景的应用，我们应该采取适当的措施，包括加强数据隐私保护、对模型进行审查和验证、提供准确的用户指导和解释、注重引导学生发展批判性思维和自主学习能力等，通过有效治理确保教育中的人机协同沿着规范有序的方向发展。

（作者系北京师范大学智慧学习研究院教授、博士生导师）