生成式人工智能赋能教育领域的技术优势与风险应对策略

随着人工智能技术的迅猛发展，生成式人工智能（Generative AI）在教育领域的应用日益广泛。探讨生成式人工智能技术在教育中的优势以及相应的风险，并提出有效的风险应对策略成为教育领域亟待关注的技术赋能问题。生成式人工智能具有提供个性化学习支持、实现自适应教学方法和提高教育资源普及性等技术优势，但是其数据隐私与安全性的缺失、人工智能偏见与歧视、人际交流与情感支持的丧失等风险给教育领域带来的可能性风险，需要通过加强数据隐私保护与安全措施、减少人工智能偏见与歧视的影响以及强调人际交流与情感支持等教育性途径加以应对。

生成式人工智能（Generative AI）是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。其本质是一个无监督或部分监督的机器学习框架，并通过使用统计学、概率等生成人工遗迹。[1]近年来，借由通用语言模型不断迭代引发的诸领域变革性讨论正是生成式人工智能创新性引用的体现，OpenAI不断推出的ChatGPT系列更成为介入教育领域的前沿话题。当前，生成式人工智能技术在赋能教育主体、客体、内容、方法、途径、管理、评价等诸多领域均展开实践探究，同时各种前所未有的新兴风险也逐渐涌现。基于此，有必要全面剖析生成式人工智能融入教育领域的技术优势，预判其可能存在的风险，并提出可行的风险应对措施，以期实现生成式人工智能赋能教育领域，以技术推动铸魂育人。

生成式人工智能融入教育领域的技术优势

当前，随着类ChatGPT技术的不断更新进步，生成式人工智能已被广泛应用于人类社会生活的众多领域，并彰显出独树一帜的技术优势。其能够促进教育的个性化、即时化、自适应化和多样化，为教育的改革和发展提供了新的机遇和可能性。

（一）提供个性化学习支持

个性化学习是通过生成式人工智能技术实现的一种教育方法，它能够根据学生的学习风格、兴趣和学习进度，提供定制化的学习资源和教学活动。在学习平台如Khan Academy和Coursera等的应用中，个性化学习已被证明对提高学习效率和成绩有显著影响。这些平台利用生成式人工智能技术分析学生的学习数据，推荐适合其学习风格和水平的课程内容和学习路径，从而为学生提供了个性化的学习支持。[2]这种个性化学习支持可以通过智能教育系统的数据分析和学习算法来实现，例如推荐系统、学习路径优化等。ChatGPT等生成式人工智能所提供的定制化学习体验有助于提高学生的学习效率和成绩，同时也增强了他们的学习动机和参与度。

（二）实现自适应教学方法

生成式人工智能技术还可以实现自适应教学方法，即根据学生的学习情况和反馈信息，自动调整教学内容、难度和节奏，最大程度促进学生个人的学习进步。EdTech公司Squirrel AI在中国的一项研究中展示了自适应教学方法的潜力，他们的智能教育系统利用机器学习算法分析学生的学习行为和表现，根据个人的学习需求和能力水平，动态调整教学内容和难度。这种自适应教学方法有效地提高了学生的学习效果，同时在国内外学术期刊上发表了多篇研究论文支持其效果。生成式人工智能所提供的自适应教学方法依赖于智能教育系统对学生学习数据的实时监测和分析，通过机器学习和数据挖掘技术来识别学生的学习需求和弱点，从而提供针对性的学习支持和指导。

（三）提高教育资源普及性

生成式人工智能技术可以通过在线教育平台、虚拟教学助手等形式，将教育资源和服务扩展到更广泛的学生群体。通过智能教育系统的互动学习环境，学生可以随时随地访问高质量的教育资源，进行自主学习和课程学习。Massive Open Online Courses的兴起为提高教育资源的可及性提供了有力的证据。平台如edX和Udacity等为全球学生提供了免费或付费的高质量课程，通过生成式人工智能技术实现了个性化学习支持和自适应教学方法。这些平台的成功案例表明，生成式人工智能在提高教育资源的可及性方面发挥了重要作用。生成式人工智能通过提供个性化和数字化的教育资源，有助于弥补地区教育资源不足的问题，提高教育的普及性和公平性。

可以预见，生成式人工智能基于在未来极有可能重塑教育者与受教育者之间的互动关系，革新教育内容和方法，提升教育管理和评价的效率，助力建立更加灵活、多样化和普惠性的教育体系。

生成式人工智能融入教育领域面临的风险

生成式人工智能融入教育领域为教育的个性化、智能化发展提供了强大的技术驱动，然而“技术总是同时打开两个相反的可能性”，[3]智能技术作为一把“双刃剑”，在为教育领域带来无限可能的同时，其面临的数据隐私与安全性的缺失、人工智能偏见与歧视以及人际交流与情感支持的丧失等问题也大大增加了教育发展的不确定性。

（一）数据隐私与安全性的缺失

生成式人工智能技术在教育领域的应用需要大量的学生学习数据训练模型，这些获取的和网络爬虫抓取的数据涉及个人隐私和敏感信息。2018年，美国一家在线学习平台Coursera曾因未经许可共享用户数据而面临诉讼。这一事件引发了对在线教育平台数据隐私保护的关注，提醒教育机构和技术提供商加强数据隐私保护与安全措施，确保学生学习数据的合法使用和保护。因此，教育机构和技术提供商需要采取有效的数据保护和安全措施，防止数据泄露、滥用和未经授权的访问。此外，还需要考虑数据共享和转移的合规性，以确保学生数据的合法使用和保护。

（二）人工智能偏见与歧视

生成式人工智能算法可能受到训练数据的偏见影响，导致在教育领域出现歧视性结果和不公平对待的问题。例如，如果训练数据集中存在性别、种族或经济地位等方面的偏见，那么生成的智能教育系统可能会对某些学生群体产生不公平的影响。研究人员曾发现一些在线学习平台的推荐系统存在性别、种族和地理位置等方面的偏见。例如，某些推荐算法更倾向于向男性学生推荐STEM领域的课程，而向女性学生推荐人文科学类课程。这种人工智能偏见的存在引发了对教育平台算法公正性和平等性的担忧。因此，教育机构和技术提供商需要采取措施来检测和纠正人工智能算法中的偏见，确保教育资源和机会的公正分配。

（三）人际交流与情感支持的丧失

生成式人工智能教育系统可能会降低学生与教师之间的实时交流和情感联系，从而影响教育过程中的人际关系和情感支持。虽然智能教育系统可以提供个性化的学习支持和反馈，但它们往往缺乏人类教师的情感理解和情感指导能力。在一些在线学习环境中，学生可能缺乏与教师和同学之间的实时交流和情感支持。研究发现，这种缺乏人际交流和情感支持的环境可能影响学生的学习体验和成就。因此，教育机构和技术提供商需要关注如何在生成式人工智能教育系统中加入情感识别和情感智能技术，加强人际交流和情感支持的建设，以提高教学过程中的人际交流质量和情感支持水平，提高教学质量和学生满意度。

生成式人工智能融入教育领域的风险应对策略

习近平总书记指出：“要加强人工智能同保障和改善民生的结合，从保障和改善民生、为人民创造美好生活的需要出发，推动人工智能在人们日常工作、学习、生活中的深度运用，创造更加智能的工作方式和生活方式。”面对生成式人工智能在融入教育领域过程中的风险，有必要通过加强数据隐私保护与安全措施、减少人工智能偏见与歧视的影响、强调人际交流与情感支持的重要性等措施来保障智能技术在教育领域的良好应用。

（一）加强数据隐私保护与安全措施

生成式人工智能在个人隐私信息的处理过程中，可能存在违法收集、使用个人隐私信息进行不当商业利用等风险，因此在应用于教育领域的过程中，教育机构和技术提供商应建立健全数据隐私政策和安全管理制度，确保学生学习数据的安全存储、传输和处理。同时综合运用多种数据加密、访问控制和身份验证等技术手段，加强对学生数据的保护和监控。2023年7月10日，我国国家互联网信息办公室联合多个部门发布了《生成式人工智能管理暂行办法》，以此规制ChatGPT等生成式人工智能技术的应用风险。在不断制定和完善人工智能法律法规的基础上，科研机构和科技企业也应在国家有关部门的领导与支持下，尽快开发出安全可控、适合师生使用的生成式人工智能技术产品，确保隐私保护及数据安全。

（二）减少人工智能偏见与歧视的影响

生成式人工智能系统的偏见往往源于训练数据源的偏见。因此，教育机构和技术提供商应采集和使用多样化、全面性的数据集，包括不同性别、种族、社会背景的学生群体，平衡样本集合，以确保生成式人工智能系统能够反映各种学生群体的特点和需求，减少训练数据中的偏见，提高生成式人工智能系统的公平性和包容性。同时还要对算法进行定期评估和审查，及时发现并纠正潜在的偏见和歧视问题。此外，促进人工智能与人类教师的协同合作也是减少人工智能偏见与歧视的重要途径。人工智能系统可以提供个性化学习资源和评估反馈，而人类教师可以发挥专业知识和情感支持的优势，为学生提供全面的教育支持。通过人机协同合作，可以有效弥补彼此的不足，提高教育的质量和公平性。

（三）强调人际交流与情感支持的重要性

教育是人的教育，教育的本质旨在回答教育如何使“人”成为人的问题。[4]虽然生成式人工智能技术为学生提供了更加高效、个性化的学习路径，但是人际交流与情感支持对教育“现实的人”的重要性依然不容忽视。为了确保教育的全面性和人性化，在生成式人工智能教育系统中，应设计情感识别和情感表达功能，促进学生与教师之间的情感交流和情感支持。此外，还可以通过在线教育平台提供实时教师支持和虚拟辅导服务，弥补智能教育系统在人际交流和情感支持方面的不足。

聚焦当下，随着谷歌Gemini，OpenAI-Sora等大模型的全面开源和逐渐推广，可以预见的是，技术迭代必将推动教育领域产生深远变革。与此同时，正如联合国教科文组织于2023年9月7日颁布的《生成式人工智能教育与研究应用指南》中所强调：“教育行业从业者必须在未来更进一步考虑伦理原则”，以更好应对学习数据和个人信息被大规模收集和分析的过程中产生的个人隐私泄露问题，技术依赖性增加引发人工智能透明度和公平性问题以及对于教育资源的不平等分配风险等。[5]面对这些风险，我们需要积极探索技术与人文教育的有机结合，强调人的主体地位，将人工智能技术作为教育的辅助工具，而非取代人的角色。同时，建立健全的法律法规和伦理准则，保护学生的隐私权和个人权益，促进技术的可持续发展和社会的可持续进步。只有在充分认识和应对风险的基础上，我们才能更好地把握生成式人工智能技术带来的机遇，实现教育的公平、普及和提升。

参考文献

[1]MLADAN J：《CAMPBELL M.Generative artificial intelligence：trends and prospects》，载《Computer》，2022，55（10）：107-112页。

[2]刘勇、徐佳慧、董跃武等：《高等教育中如何应用ChatGPT类生成式人工智能——联合国教科文组织<高等教育中的ChatGPT和人工智能：快速入门指南>解析》，载《中国教育信息化》，2024，30（02）：71-80页。

[3]张一兵、贝尔纳·斯蒂格勒、杨乔喻：《技术、知识与批判——张一兵与斯蒂格勒的对话》，载《江苏社会科学》，2016（04）：1-7页。

[4]王夏杰、邓淑华：《马克思教育思想及其重要启示——基于“现实的人”研究视域》，载《中共山西省委党校学报》，2020，43（05）：12-15页。

[5]兰国帅、杜水莲、宋帆等：《生成式人工智能教育：关键争议、促进方法与未来议题——UNESCO〈生成式人工智能教育和研究应用指南〉报告要点与思考》，载《开放教育研究》，2023，29（06）：15-26页。

[6]邓建鹏、赵治松：《文生视频类人工智能的风险与三维规制：以Sora为视角》，载《新疆师范大学学报（哲学社会科学版）》，2024-03-25：1-9页。

作者简介

强子言 长安大学经济与管理学院信息管理与信息系统专业学生

杨延庆 西安医学院党委学工部副教授，研究方向为计算机应用技术