生成式人工智能的教育应用及伦理风险探析*

杨俊锋,沈中奇,陈睿宁

(杭州师范大学 经亨颐教育学院,浙江 杭州 311121)

一、引 言

国家高度重视人工智能技术对教育的深刻影响。2017年7月国务院印发《新一代人工智能发展规划》[1],明确指出利用智能技术加快推动人才培养模式、教学方法改革。习近平总书记在2019年5月给国际人工智能与教育大会的贺信中强调“积极推动人工智能和教育深度融合,促进教育变革创新”[2]。人工智能技术在教育领域的应用逐渐深入。人工智能在教育领域的应用推动了教学创新,推进了学习个性化、管理与评价精细化,促进了教育跨领域融合发展。人工智能为教学提供了适切的解决方案,部分替代了教师的重复性工作,使他们能够更加专注于创新性和启发性的教学活动[3]12-19+92。此外,人工智能可以有效推动学生学习方式的个性化与精准化,使教育工作者能够精准诊断学生的学习需求,提供个性化学习资源[4]75-86。基于大数据,人工智能有能力对学生进行全面的学习历程和行为评价,实现实时的精准反馈[5]91-98+107。同时,人工智能也有效减少了由于地域和社会经济差距带来的教育不平等现象,让更多的孩子可以享受到优质的教育资源,让“人人可学、时时可学、处处可学”的愿景成为可能[6]9-12。在教育场域中,人工智能赋能教育,教育赋值人工智能,形成教育与人工智能融合的未来理想形态,促进跨领域融合发展[7]8-15+66。

近期,以ChatGPT(Chat Generative Pre-trained Transformer)为代表的生成式人工智能快速发展,为教育领域的变革注入了新的活力,有着广阔的应用前景。ChatGPT类产品是基于算法、模型、规则自动化生成文本、图片、声音、视频、代码等多模态内容的生成式人工智能[8],其采用了大语言模型、基于人类反馈的强化学习、思维链等技术进行训练,由此获得了强大的自然语言处理能力、多模态信息处理能力、学习与适应能力及逻辑推理与决策能力,基于此,生成式人工智能不仅可以记忆用户对话信息进行上下文分析[9]81-83,快速与精确生成多模态信息,学习不同任务与主题,还可以辅助人类进行逻辑推理与决策。可以预见,以ChatGPT为代表的生成式人工智能将获得更广泛的应用场景并变革人机关系[10]81-90,将成为加速教育系统变革的重要驱动力。

然而,生成式人工智能在深入应用到教与学的过程中产生了诸多问题,使教育工作者产生了困扰,甚至动摇了教育的初心及育人使命[11]19-25。一些教育研究者和实践者陷入技术泥潭,引发了人们对人工智能取代人类的担心及对智能化未来社会的过分想象[12]5-15。现代智能技术呈现的理性化、机械化的逻辑难以完成引领学生体验认识生命意义这一人文性、超理性的使命[13]1-8。教育人工智能在实践中体现出的优势可能引发人机关系的失衡,工具理性与人的发展不匹配引发诸多伦理风险[14]104-112。对此,教育界应关注如何在迎接这场技术革命的同时,保持对教育核心价值的坚持,以及如何在科技发展的巨大冲击下,保证教育的人本精神不受侵害,找到一条科技与教育并进、人与机器共生的新路径非常重要。当下正是审思如何将以ChatGPT为代表的生成式人工智能与教育融合的好时机。因此,本研究旨在深化对生成式人工智能在教育领域应用的理解,以期推动其与教育的深度融合,保证教育的健康和持续发展。为了积极拥抱新技术,本研究探索生成式人工智能在教学、学习、管评、科研等环节的实际运用及其融入方式,深度剖析其应用过程中可能产生的伦理风险,提出有效的策略和措施,以发挥其最大潜力,使风险最小化,最终实现人工智能在教育领域的适度、合理使用。

二、生成式人工智能在教育中的典型应用

生成式人工智能展现了突出的自然语言处理能力、学习与适应能力、多模态信息理解与生成能力、逻辑推理与决策能力。自然语言处理能力源于大数据、高级算法模型和先进技术的共同作用,使得生成式人工智能能够模拟人类的思维,理解和处理语言信息;学习与适应能力则是通过基于人类反馈的强化学习实现的,这种方法赋予了生成式人工智能快速学习新知识和适应不同任务的能力;多模态信息理解与生成能力使得生成式人工智能能够处理图像、音频、视频等多种类型的信息,让其在应对更加复杂和多样化的任务方面更加出色;逻辑推理与决策能力得益于其丰富的数据储备和先进算法技术的协同作用,同时知识图谱使生成式人工智能将学到的知识进行有序组织,并基于此模拟人的思维链,实现更高质量的文本生成。根据生成式人工智能的四大核心能力,以ChatGPT为代表的生成式人工智能在教育中的典型应用包括教学、学习、管评、科研四个方面,如图1所示。

(一)赋能教学:让教师专注于教学改进

生成式人工智能在提升教学效率方面具有优势[15]102-112。教师可以利用生成式人工智能生成、筛选、组织优质教学资源,以满足多样性教学的需要[16]19-25+45。合理地利用生成式人工智能,可以减轻教师工作负担,将教师从机械化任务中解放出来,使其能够专注于改进教学和关注学生。在教学实践中,生成式人工智能通过其自然语言处理能力,能够精确地理解教师的语义,并从中推断出潜在的需求和意图。生成式人工智能凭借学习与适应能力,可以吸收教师提供的教学数据、课程资料,从而设计出针对性的课程,满足教师的特定需求。多模态信息理解与生成能力可以帮助人工智能理解、转换和生成不同模态的信息。在未来的课堂上,教师可以将自己的授课内容实时自动转化为多模态信息,如文字、图像、动画、视频等,将其呈现在教室与学生的电子设备上,使学生可以更加直观地理解和掌握课程内容,进一步提高参与度和注意力。

(二)促进学习:构建个性化学习新方式

随着教育信息化的发展,互联网中各类教育应用充斥着大量未统一分类的学习资源,而学生在选择合适的学习资源时容易陷入信息过载与迷失[16]19-25+45。用智能技术构建新型教育体系,其中重要一步是建立学习者和学习资源的联结[17]137-147。此外,虚拟教学场景构建成本较大,难以规模化发展,而合理应用生成式人工智能可以打破专业壁垒,推动学习场景多元化。生成式人工智能可以为学生提供个性化、定制化的自适应学习体验。学生可以与ChatGPT进行知识问答,ChatGPT可以通过学生画像识别学生学习情境,结合学科专业知识帮助学生获取个性化的学习资源[18]24-31+51。ChatGPT还可以作为学生的外语学习助手,模拟日常场景进行实时对话,依据任务帮助学生进行代码编写。其多模态信息理解与生成能力,可以将数据进行跨模态整合,进行场景构建与生成实验等。在化学、生物、物理等学科中,ChatGPT可以根据学生的学习需求和兴趣,结合学科知识和实验数据,生成一定的实验内容,同时结合图像生成式人工智能生成虚拟实验室中的场景、设备等,并引导学生进行操作和观察。在未来的无障碍学习方面,ChatGPT可以根据特殊人群的需求和特点,结合其他生成式人工智能技术,为特殊人群提供无障碍学习的机会,促进人工智能的包容性发展。

(三)创新管评:优化管理和评价新视角

在教育领域,生成式人工智能的运用正在逐步深化,其对教育管理和评价的改革和创新带来的影响也日益凸显。其突出的自然语言处理能力、逻辑推理与决策能力可以帮助学校与教师优化管理流程,实现精细化管理。生成式人工智能分析各种教学活动的数据,通过进行精确的画像分析、提供学习诊断报告等方式[19]74-80,便于教师实时调整教学策略[20]34-41,为教师定制个性化的教学计划。不仅如此,生成式人工智能可以为教育管理者的决策提供科学依据与生成分析报告[21]247-253+267。通过对学生出勤率、学习表现、教师的教学评价等数据进行深度分析,以此生成学生未来可能的学术表现等预测信息,为教育管理者提供一系列如成绩分布图、教师评价雷达图等可视化的报告[22]26-33,这些报告可以帮助教师了解教学效果等情况,发现可能存在的问题,从而及时调整教学管理策略。

在评价方面,生成式人工智能也将改变传统的考试评价方式,实现更全面和个性化的评价。人工智能在注意的广度、深度与客观程度上都会强于传统的评价方式[23]36-43。生成式人工智能所具有的自然语言处理能力,可以对学生的作业文本进行评分,还可以解释得出评分的原因,以辅助学习者不断提升阅读和写作技巧[24]21-41。除此之外,还可以借助生成式人工智能对学生进行知识水平、思维方式、创新能力等多角度的多元化评价。生成式人工智能可以通过分析学生的测试结果,评估学生特定学科的知识水平;通过分析作业、报告和在线讨论等文本,理解他们的思维方式,如是否能够逻辑清晰地组织和表达思想,是否能够多角度和有深度地考虑问题;通过评估学生的创新项目、作品等,评价他们的创新能力,如是否能够提出独特的想法,是否能够使用新的工具和技术等。

(四)助力科研:塑造学术研究的新模式

生成式人工智能在赋能学术研究方面,通过运用先进的算法与庞大的知识库,能协助研究人员从海量信息中获取相关信息,还可以为研究者提供创新性想法与启示,以提高学术研究的效率。首先,生成式人工智能可以辅助研究人员进行文献搜集与梳理工作。生成式人工智能与搜索引擎相结合,凭借其强大的自然语言能力与处理速度,可以快速检索与搜集相关领域文献,并进行汇总与分析[25]15-25。生成式人工智能还可以辅助研究者进行研究设计。借助与生成式人工智能的讨论,研究者可以获得一定的研究启示,从而进一步明晰和完善研究思路[26]3-12+21。此外,生成式人工智能在提升论文写作质量方面也发挥着重要作用。在论文写作过程中,研究者需要关注语言的表达和组织方式是否清晰明了。此时,他们可以利用生成式人工智能进行语法和句式的修订,以及语言表达的润色,从而更有效地传递知识。

三、生成式人工智能教育应用的伦理风险

生成式人工智能在教育应用中可以为我们提供精准的个性化教学设计、自适应的学习支持、高效的学校管理支持、多元化的考核形式、客观的评价体系以及对学术研究的赋能。但是其在为教育发展带来新的活力的同时,也带来诸多风险隐忧与伦理问题[27]88-94。在教育领域,数据的收集、储存、传递及分析过程中可能产生的违反公认道德和规则的风险,可以被认为是教育数据伦理风险。这包括但不限于数据隐私被侵犯与数据利益分配不均等伦理问题[28]17-25+77。算法风险的存在与否取决于多个因素,如是否遵循教育逻辑,教育过程和相关人员是否能够被准确量化,量化结果是否真实体现教育本质,以及算法和计算模型是否安全、可靠且无滥用风险[29]20-30。在人工智能的运用中,可能存在削弱教师角色、对学生全面发展的潜在限制及无界限的智能教育环境对学生自我认知的影响,此外,还需全面审视教育应用中责任归属不明确的问题[30]47。为引导人工智能的应用与发展,避免人工智能对社会产生负面影响,联合国教科文组织提出一系列人工智能伦理原则,其中包括尊重人权、问责性、公平性和透明度[31]。基于以上分析,本研究提出一种伦理问题分析框架,这种框架旨在帮助我们更深入地理解、分析和解决在教育中使用生成式人工智能可能出现的伦理问题,如图2所示。

按照伦理问题产生的阶段自下而上可将风险分为数据、算法和使用三个部分,从主体及其行为的角度,重点分析可能产生的伦理风险成因:数据生命周期中的数据收集、处理、存储和管理的伦理问题(如隐私侵犯和数据安全等);算法生命周期中的理解问题、算法设计和建模阶段等的伦理问题(如算法偏见与歧视及责任归属等);使用场景中的教学管评研等应用中的伦理问题(如滥用导致学术不端和缺乏人文关怀等)。根据伦理风险的成因,结合教育伦理原则,从个体、人与人之间的关系、教育生态三个维度深度分析可能产生的影响。

(一)数据全生命周期的伦理风险及影响

从数据收集、处理、存储到管理的整个过程中,可能面临多种潜在的教育伦理风险,如数据泄露、侵犯隐私和存在误导性信息等。生成式人工智能在学习和适应过程中需要大量数据,在数据收集中涉及学生、教师等敏感信息的数据安全问题变得尤为重要。此外,受训练数据、模型不完美性等因素影响,生成式人工智能可能产生错误或虚假知识,进而影响教育质量和公平。

1.数据泄露与侵犯隐私:学生权益受损

数据泄露可能导致学生权益受损。ChatGPT等生成式人工智能需要处理和存储大量的数据,在学习、教学和评价场景中,学生、教师与这些应用之间的对话可能会涉及个人隐私信息、学术记录、行为模式、学生成绩、班级信息和答题信息等[32]41-50。

根据伦理问题分析框架,在数据的生命周期中,若在数据处理、存储与管理时,相关的企业技术人员没有采取相应的安全措施,人工智能教育产品存在安全隐患,这些数据若被未经授权的人访问、篡改或滥用[33]35-40,可能会对学生和教育机构带来严重的、持久的负面效应。从对个体的影响来看,如果学校未能妥善保护这些数据,导致数据被利用,就会使学生被诈骗或骚扰,不仅严重影响学生的心理安全感,还会使学生的财产权、隐私权等受损。这种情况会进一步破坏学生与教育机构之间的信任关系,对教育机构的声誉产生负面影响,甚至可能导致家校关系恶化。数据泄露问题对教育生态的影响也是明显的,它可能使人们对生成式人工智能的安全性产生疑虑,进而制约生成式人工智能与教育的深度融合。

2.数据有误与处理不当:虚假知识误导

ChatGPT等生成式人工智能可能会生成错误或虚假知识,影响学生认知发展与教育公平。ChatGPT模型可以模拟人类思维,甚至可以一本正经地“胡说八道”,根据伦理问题分析框架,在数据收集过程中,它可能会受到训练数据有错误等因素的影响,生成有事实性错误的信息。如果企业相关技术人员对收集数据质量不加以把控,学生对其内容不加辨别,教师对学生学习过程不监督、不进行合理引导,就会对个体、人与人之间的关系及教育生态造成破坏性影响。从对个体影响的角度看,错误知识的传授可能导致学生对某个领域或概念的理解产生偏差,影响自身知识体系的构建及其对真实世界的认知;从对关系影响角度看,学生获取了由生成式人工智能产生的错误知识,这些知识与教师所讲授的知识存在偏差或相悖,而教师未发现或不加以引导,则会导致教师在学生心中的“知识权威地位”下降,不利于师生关系的发展;从对教育生态的影响分析,如果有关部门不加以监管,生成式人工智能则可能导致虚假知识泛滥,产生“劣币驱逐良币”的风险[15]102-112。

(二)算法全生命周期的伦理风险及影响

在算法生命周期的不同阶段,也可能存在不同原因导致的伦理问题。在理解问题阶段,可能存在理解偏差和认知偏差;在建模阶段,可能存在将不公平的偏见纳入模型的问题;在算法设计阶段,可能存在将人为价值观带入模型设计的问题;在应用阶段,可能存在导致实践应用阶段模型输出不准确、歧视性输出的问题。

1.算法歧视与训练集偏见:教育不公平加剧

人为价值涉入的算法设计可能会影响教育公平。尽管算法的基础原理是价值无涉的,但算法的各种参数、变换、赋值实际上存在着人为价值介入的可能性[34]12-18。根据伦理问题分析框架,在算法的生命周期中,在设计与建模阶段,设计人员的主观价值观介入可能会导致偏见的产生。此外,在算法的建模阶段,生成式人工智能如ChatGPT在模型训练时,采用了基于人类反馈的强化学习技术,需要获取人类的反馈来不断优化自己,我们无法得知其中是否存在隐含偏见。在算法的数据收集阶段,开发人员采用的数据集代表性不足会导致教育偏见与歧视。ChatGPT的训练数据集中包含来自各个语种的语料库,如英语、中文、西班牙语、德语、法语等[35],但由于英语在全球范围内的广泛使用,所以英语语料占比是较高的。这些语料来自多个渠道的历史数据,包括网络文本、书籍、新闻、论文、对话和其他形式的语言数据。那么这些语料可能存在数据偏差与偏见,例如存在性别、种族、文化和经济等方面的偏见,最终产生“成见叠加”效应[36],甚至会渗透西方的意识形态[37]26-32。部分图形生成式人工智能在测试中也显现了明显的种族偏见,当其被要求生成“CEO”“律师”等高薪白领职业时,输出的图片几乎都是白人形象[38]17。从个体维度分析其造成的影响,若学生与ChatGPT进行知识问答,ChatGPT因存在偏见给出歧视性与不准确的回答,或者以不当的方式引导学生的学习和行为,忽视部分学生的学习需求,可能会使学生感到困惑或沮丧,最终降低学生的学习效果。从关系维度分析,学生可能会对生成式人工智能产生不信任,甚至产生反感,进一步影响生成式人工智能在教育领域的应用和接受度。从教育生态的维度分析,算法偏见和数据代表性不足可能会破坏整个教育生态,因为它们可能导致教育资源的不公平分配,这会加深学生之间的数字技能鸿沟,甚至损害教育的公平性[39]34-39+96。

2.算法不可释与不透明:人机信任产生危机

生成式人工智能如ChatGPT采用深度学习算法模型,其内部结构和运行流程的复杂性使得结果的产生过程通常难以被清晰地阐述[40]131-139。以ChatGPT为代表的生成式人工智能并不会清晰展示其得出答案与决策的推导过程。因此,教师和学生对其算法路径与运算逻辑一无所知[41]61-69。而在算法的主导下,ChatGPT会生成看似有道理的答案,极具迷惑性。如果开发者没有尽力提高算法的可解释性与适当的透明度,师生可能无法判断生成式人工智能提供的答案的正确性、全面性与逻辑性,“知其然而不知其所以然”,这可能使部分学生接受有偏差的知识,从而导致学业成绩下滑。长此以往,批判性思维弱的学生在知识理解上的差距可能被拉大,从而进一步破坏教育公平。对于人机信任关系的影响来说,教师可能会对在教育中生成式人工智能的使用产生疑虑,这可能会降低他们在教学中允许学生使用这种工具的意愿。

(三)人工智能教育应用场景中的伦理风险及影响

生成式人工智能赋能教育首先要满足“合理性”这一基本要素[42]80-89。马克思·韦伯提出了“合理性”的概念。他把合理性分为工具理性和价值理性。工具理性以结果为导向,追求效率;而价值理性以目的为导向,强调动机的纯正和选择正确的手段达到自己的目的,注重个人的价值与意义。在生成式人工智能与教育的融合过程中,如果过度推崇工具理性,可能会掩盖“以人为本”的核心价值[43]34-38+102。教师与学生一味追求完成教学、学习任务的高效率,对其产生依赖,最终可能导致自身主体地位被取代,产生学生思维怠惰、人际沟通能力下降、学术不端等现象以及教师专业发展被抑制等问题。

1.思维惰化与专业能力下降:教师主体地位消解

教育的目的不仅仅是传授知识,更重要的是对人的全面塑造[44]66-72。如果教师在备课时只追求效率,只想要快速进行知识传递,忽视了教学的育人属性,则会产生思维惰化的现象。根据伦理问题分析框架,在教学场景中,教师将自己的教学主体地位全权交给ChatGPT,忽略“育人”本质,教育信念丧失,缺少对教学内容的艺术性设计,思维怠惰以至于直接拿其生成的教学方案进行授课,或是在教育中用人工智能代替与学生的互动[45]52-62。长此以往,教师的教学能力就会因缺少锻炼而退化。当教师被技术主导,其实现自我专业发展的内在驱动力可能会丧失,创新精神可能会被削弱,主体地位可能被消解,成为技术的附庸[46]15-23+33。如果教师对学生的心理状态与学习情况关注不够,将教学权力让渡给ChatGPT等生成式人工智能,从师生关系角度看,会加剧教师与学生的情感疏离。从对教育生态的影响看,当教师群体都追求工具理性时,教师的教学模式逐渐趋同,导致教师群体的同质化发展。

2.过度依赖与使用不当:学生学习异化

过于依赖ChatGPT等生成式人工智能可能会使学生长期处于一种“信息茧房”状态。在ChatGPT这样的AI系统中,虽然它的目标是尽可能提供准确、全面与多元化的信息,但它也可能会根据用户的前序对话和表达的兴趣,提供符合用户已有观点和兴趣的信息,不能完全保证提供的知识是全面和系统的。根据伦理问题分析框架,在学习过程中,如果学生只依赖ChatGPT进行学习,忽视传统的面对面交流和协作学习,且教师未进行适度引导,就可能会导致他们知识理解片面,导致获取信息的广度与思考的深度会受限制,仿佛将自己束缚在蚕茧中,难以形成连贯和深入的理解[47]79-84。若学生习惯于依赖技术工具获取信息和解决问题,沉浸在“信息茧房”中,而不愿意与他人进行交流和互动,爱“人工智能”而不爱“邻人”,会进一步影响人与人之间的关系,如降低学生的人际交往和沟通能力,减弱与教师的情感联系,丧失在真实交往中获取的人文关怀和情感支持。除此之外,人们需要在共同的学习与交往中,增强对国家和民族的历史与文化的感受,人们的集体精神需要互相激发,而非单纯依赖于与ChatGPT的对话[48]102-112+2。从对教育生态影响的角度出发,信息的不完整性可能会使学生在各个学习阶段面临不公平的学习机会,从而导致学生的认知发展不均衡,对此我们必须认真对待。

ChatGPT等生成式人工智能在一定程度上可以帮助学生提升获取知识的效率,但学生若全盘接受其生成的内容,则可能不利于学生的发展。根据伦理问题分析框架,在学习过程中,学生在利用ChatGPT完成系列学习任务时,只获得单向的知识灌输与投喂,只等待答案的生成,不再进行思考[48]102-112+2。从对个体的影响分析,学生若对其呈现的结果不加批判,全盘接受,会导致学生思维的惰化,消弭主观能动性[49]48-56。长期被“机器喂养”的学生的元认知、创新性思维、批判性思维、独立解决问题的能力均可能受到不同程度的损害[50]。从对教育生态的影响来说,这与教育的“培养全面发展的人”目标背道而驰,如果学生沉溺于生成式人工智能提供的便捷环境,而忽视了独立思考和实践,将会导致教育目标的偏离,影响教育质量,对教育的可持续发展造成威胁。

3.评价失衡与决策偏颇:学生全面发展受限

滥用ChatGPT等生成式人工智能还可能引发教育评价的失衡问题[51]5-14。ChatGPT在当前开放测试中的表现可能会对线上考试的学术诚信评价体系构成威胁[52]。根据伦理问题分析框架,在教育评价时,部分学生使用ChatGPT生成的内容提交作业、论文和考试答案,教师将难以准确评价学生的知识水平和能力。对于学生个体而言,首先,长期使用生成式人工智能完成作业与考试,不仅不利于自身的学业成绩提升,还会影响自身的高阶思维发展。其次,这种依赖可能增加教师对学生的不信任感,学生在完成学业时还需要考虑如何自证,增大学业压力[53]113-123。最后,滥用生成式人工智能可能对教育生态产生长期不利影响,可能破坏公平竞争的环境,导致评价机制失衡,影响可持续发展。有学者提出诸如ChatGPT等人工智能为传统的教育评价敲响丧钟。因此,教育者需全面反思,对教学评价方式作出实质性与创新性的改变。

在使用生成式人工智能对学生进行趋势预测时,可能会产生决策偏颇的问题。因为预测趋势只是对可能性的分析,而可能性并不直接转化为必然性。生成式人工智能对数据与学生学业成绩等相关关系的探讨,仅仅是揭示两个数值间的互动关系,这有助于我们洞察更深层的发展规律,然而,相关性并不能取代因果关系,更不能基于此断言两种事物间的必然联系[54]34。根据伦理问题分析框架,作为人类智慧的产物,“方法+工具”必须同人类的智慧紧密相连,不能背离人类的洞见力[55]7-12+20。若一味地盲从采纳其对学生的决策并进行管理,学生的个性化需求和自我发展的可能性被忽视,其未来的学习和发展也会受到相应的影响。长此以往,学校对学生的管理可能会变得机械化,缺乏人性化的温度与人文力量,不利于学生与学校的关系发展。如果整个社会都依赖生成式人工智能的决策来决定教育资源的分配,可能会使教育资源的分配更加倾向于那些有优势的群体,加剧教育资源的不平等分配。

4.学术不端与科研失信:研究可持续发展受阻

不诚信使用生成式人工智能可能会带来学术不端的问题甚至影响科研发展与进步。依据伦理问题分析框架,在科研中,学生在使用生成式人工智能时,为了快速产出成果,追求效率,往往放弃了自身的思考,失去科研的本心,滥用这种技术从而产生学术不端问题,如剽窃、抄袭与数据造假等[56]19-30。从个体角度看,这些行为会使学生不愿认真钻研,只想“不劳而获”,这将损害学生的独立思考能力与科研能力;从关系角度看,破坏诚信将会削弱科研的真实性和可信度,导致研究成果质量下降,使得大众对学术研究的信任和尊重减弱;从教育生态角度看,这些学术不端行为会导致研究成果质量下降,阻碍科学知识的积累和创新,可能进一步影响整个学术界的可持续发展。

四、生成式人工智能教育应用的实施路径

著名的“科林格里奇困境”表明,对一项技术限制得过早,可能会抑制技术的爆发,若限制得过晚,则可能该项技术已成为整个经济和社会的一部分,对它的控制会变得十分困难[57]。当下我们要积极思考应对策略,既不对其放任自流,也不过分限制而扼杀技术的创新,教育与人工智能并非“零和博弈”,我们应积极拥抱新技术,顺势而为。

(一)重新思考教育目标和理念

教育的首要目标是培养能独立思考和有正确价值判断能力的人[58]。以ChatGPT为代表的生成式人工智能浪潮对学生的逻辑思维、提问能力、批判性思维、协作能力、沟通能力等提出了新的要求。只有学习个体的内脑建立高阶思维技能,并通过思维技能驾驭如ChatGPT这样的外脑,才能与ChatGPT等人工智能应用形成良性的人机协同[59]8-15。我们应该重新思索教育理念,加速教师的观念转变,着重培养学生的高阶思维能力,让学生可以更好地应对未来不确定的社会。

(二)优化AI教育应用场景设计

生成式人工智能拥有卓越的内容生成能力,可应用于教、学、管、考、评、研等多个场景。需要进一步优化教育应用场景的设计,明确人工智能技术在育人过程中的价值,从教学全流程、全要素、全业务的视角进行深入探索,实现智能技术与教育教学的深度融合,从提高教育质量和促进教育均衡的角度,破解我国现阶段教育的主要矛盾。通过典型场景驱动的模式,解决教育和教学中的核心问题,探索低成本、可复制、可推广的典型应用,推动教育数字化转型升级。

(三)制定AI教育应用伦理规范

生成式人工智能在为教育带来新的机遇的同时,也带来了如隐私泄露、“信息茧房”、算法偏见和学术不端等伦理问题。为了避免此类问题的发生,教育领域应高度重视生成式人工智能在教育应用中的伦理道德问题,健全相关伦理规范体系,将伦理道德融入人工智能全生命周期[60],确保数据的安全可控与师生的隐私安全,监督审查算法的设计,确保公正无偏见,将伦理道德融入教育应用的相关环节和实践活动,确保人工智能的应用以人为本。

(四)提升智能素养与伦理意识

在当今信息化时代,科技快速发展,提高师生的智能素养是将新一代人工智能技术融入教学的基础,有助于学生更好地适应社会发展。而伦理风险意识则是保证师生安全可靠地应用人工智能技术的前提条件。为提高师生的智能素养和伦理意识,应开发人工智能教育应用与伦理意识相关课程和培训,组织举办各种实践活动,如编程竞赛、网络安全知识竞赛和公益活动等,让师生在实践中提高智能素养和伦理意识。

(五)明确AI教育应用使用限度

在人工智能的应用过程中,需明确其应用限度。第一,在使用生成式人工智能时,要遵循相关法律法规与伦理原则,尊重学生和教师的隐私权,关注弱势群体,保证教育公平。第二,明确人工智能在教育中的定位。人工智能在教育中只是起到辅助作用,不能完全替代教师的工作。教师不能忽略对学生的情感关怀,应关注学生的心理健康和人际交往能力,确保学生不会因为过度依赖技术而削弱人际沟通技能。第三,教师应加强对学生使用生成式人工智能全过程的监督,确保学生正确、适度地使用人工智能,防止学生偏离学习目标、被错误的知识误导、过度依赖而导致思维惰化,最终影响其全面发展。

(六)转变评价方式与考核方法

在生成式人工智能发展越来越快的当下,需要重新思考评价方式,转变评价思路。比如,要强调思维而非知识、关注问题而非答案、注重逻辑而非简单罗列[27]。学校可以采用以下策略来改进评价机制,如设计富有挑战性的项目式任务,让学生进行独立思考和探究,鼓励学生运用高阶思维技能;采用多元化评价方法,结合传统的笔试、面试和作业评价,引入同行评审、自我评价和教师观察等多种评价方式全面了解学生的学习情况和能力水平;强化过程性评价,不仅要关注学生的最终成果,还要重视学习过程中的积极参与、探究和反思。

五、结 语

生成式人工智能在教育领域具有广泛的应用前景,为教育发展和变革带来了巨大的机遇。而技术创新的驱动与伦理风险的规避需求之间形成了一种矛盾,并涉及政策制定者、技术开发者、教育工作者、受教育者等多个群体。科技创新者致力于推动人工智能技术在教育领域的应用,以提高教育质量和效率,但在这个过程中可能忽视伦理风险。教育利益相关者则关心个人隐私、教育公平以及人的全面发展等方面的问题,希望在引入先进技术的同时确保这些伦理问题得到妥善解决。因此,科技创新者与教育利益相关者之间如何找到纳什均衡(1)博弈双方在策略中找到一种平衡,使得一方在知道对方策略的情况下无法通过改变自己的策略获得更大收益。,共同实现人工智能在教育领域的可持续发展是当下亟待解决的问题。

在拓宽教育应用场景的同时,必须高度重视伦理道德的底线,不可忽视其潜在的伦理风险,如数据泄漏、算法偏见、“信息茧房”、人文关怀缺失和学术不端等。在应对生成式人工智能教育应用的伦理挑战时,需要进行多层面、多维度的研究与思考。这包括:完善相关政策法规,引导科技发展方向;变革教育理念,以顺应时代发展;加强教育伦理教育,培养具有高度道德自觉的研究者、开发者与使用者;倡导多学科、跨界的合作研究,以全面深入地探讨伦理问题,促进教育高质量发展。