王帅杰 汤倩雯 杨启光
基金项目:2023年度福建省高等教育改革与研究重大项目“加快福建建设数字高等教育强省战略路径研究”(项目编号:FGJY202301);2023年度江苏省研究生科研创新计划项目“生成式人工智能在初中信息科技教学中的应用探索”(项目编号:KYCX 23_3492)
[摘 要] 面对生成式人工智能技术引发的新一轮教育变革趋势,国际上一些国家与国际组织纷纷颁布与该技术相关的教育政策,研判教育领域面临的风险与挑战,制定和明确生成式人工智能在教育应用中的发展方向和目标指引。通过对相关政策文本内容进行分析,探究生成式人工智能引发的教育争议和伦理风险,以及生成式人工智能在教育应用中的创新方案与促进方法,包括更新教育理念、变革学校教育方式、提升师生能力素养和制定隐私保护的规范措施。基于国际经验,可为我国生成式人工智能在教育中的应用提供相关镜鉴,包括将“以人为本”作为生成式人工智能在教育应用中的核心理念,构建促进教师和学生智能素养的教育培训方案,推动制度化建设增进生成式人工智能在教育运用中的规范性。
[关键词] 生成式人工智能; 国际比较; 人工智能教育; 挑战; 应对
[中图分类号] G434 [文献标志码] A
[作者简介] 王帅杰(1997—),男,河南平顶山人。硕士研究生,主要从事比较教育研究。E-mail:1953344011@qq.com。
生成式人工智能作为一项突破传统人工智能的新技术,在教育中的应用有望推动教育数字化转型、实现教育高质量发展,并促進传统教学模式、教学过程和评价方式的全方位变革[1]。随着当前越来越多国家教育工作者和学习者将生成式人工智能技术融入教育,引发一些国家与国际组织纷纷制定生成式人工智能教育战略,强调应对新技术为教育带来的各种风险与挑战。基于此,阐述国际上一些国家及国际组织将生成式人工智能在教育应用中面临的主要挑战与应对举措,将对我国在制定和完善生成式人工智能在教育应用中的战略行动具有一定的借鉴意义。
一、生成式人工智能在教育应用中的国际影响
自美国OpenAI公司研发的ChatGPT问世以来,生成式人工智能技术迅速得到国际上许多国家学校教师与学生的广泛应用。有研究者通过分析推特平台中全球教育工作者和学习者发表对该技术在教育中看法的相关数据,探讨最多的主题是“ChatGPT的机遇与挑战”,其次是“学生使用ChatGPT进行写作”,其他包括“ChatGPT通过考试的能力”和“教育工作者如何将 ChatGPT 整合到教学中”等主题。数据显示,全球教育工作者和学习者普遍认为,ChatGPT在教育中的运用更具有吸引力,但也需要着重关注其带来的挑战[2]。基于该技术在教育应用中的风险与争议,一些国家与国际组织纷纷颁布教育政策进行规范和引导。
联合国教科文组织(UNESCO,以下简称教科文组织)作为全球教育发展的推动者,在2023年发布了《生成式人工智能教育和研究应用指南》(Guidance for Generative AI in Education and Research,以下简称《报告》)鼓励各国合理运用此技术,并强调制定适当政策的重要性。在英国,教育部发布《生成式人工智能在教育中的应用》(Generative Artificial Intelligence (AI) in Education,以下简称《应用》)明确在教育领域中生成式人工智能合法化发展的立场,强调教育部门应充分利用新技术为学生提供优质教育。2023年2月,德国联邦议院技术评估办公室通过对德国教育领域中关于ChatGPT技术的评估,发布《ChatGPT与相关语言处理模型:技术基础、应用潜力与可能影响》(Chat GPT und andere Computermodelle zur Sprachverarbeitung: Grundlagen, Anwendungspotenziale und M?觟gliche Auswirkungen,以下简称《影响》),从技术背景、潜在威胁和未来发展三个方面对教育领域中的教育者、学习者和教育系统进行综合分析并提出相关计划与建议。在日本,文部科学省初等中等教育局发布了《初等中等教育阶段生成式AI应用暂行指南》(初等中等教育段階における生成 AI の利用に関する暫定的なガイドライン,以下简称《指南》),作为日本学校教育领域相关者判断生成式人工智能在教育中适用的参考依据,明确了该技术在教育实践中的应用方向。通过对相关政策报告进行分析,明晰生成式人工智能在教育领域中应用的关键问题与应对方案,以为我国制定和完善相关政策提供有益借鉴。
二、国际上生成式人工智能在教育
应用中面临的主要挑战
(一)学生接受教育场景面临异化挑战
从知识的本质来看,智能时代的知识是人和人工智能通过所处环境的交互而获得的信息或进行的生成性意义建构[3]。由于ChatGPT具有强大的数据和信息搜集能力,并能够以自然语言形式将答案呈现给学习者,通过与生成式人工智能的对话便能够产生大量知识。因此,从场景上来看,人工智能促使个体知识的学习转变为个体和人工智能所构成的知识网络中进行的联通性学习。但这也可能导致个体不再需要通过和教师与同伴在社会互动和实践中接受教育,从而弱化教育促进学生社会交往和集体学习的重要性,限制学生必要的社会能力获取,如表达技巧、社会协作与问题解决能力。德国在《影响》中指出,鼓励学生参与社会性学习,促使学生负责任地进行社会性交往活动的重要性可能被忽视[4]。教科文组织在《报告》中提出,这将造成学习者缺乏对真实世界的观察,通过实践获取直接经验的能力,以及与他人交流、合作和处理现实世界中问题的能力[5]。因此,由于生成式人工智能所提供的文本反馈代替学习者编排、构思和输出知识的过程,难以促进学习者在现实世界中进行观察和通过科学方法探究的能力,也难以产生真实世界中人与社会和人与技术关系的创新内容,造成受教育者丧失原本教育所需要培养学生的核心能力。
(二)容易加剧作弊与抄袭的伦理风险
当前随着科学技术的发展,人不再是知识生产来源的唯一主体,大量知识都能够通过人机协同的方式生产出来。在教育中,生成式人工智能能够通过与学习者在多轮对话情境下生成具有个性化的知识,但更可能加剧作弊和学术不端的诚信危机。根据在线课程供应商Study.com的调查结果显示,超过89%的学生使用ChatGPT来帮助完成家庭作业、48%的学生用ChatGPT完成小测验、53%的学生用ChatGPT写论文[6]。在《影响》中,德国指出,学生提到“如果想要偷懒或是没有时间而为了尽快完成课业,我会把具有紧迫性任务的相关问题输入ChatGPT中直接生成答案”[4]。因此,在国际上,已经有诸多国家与地区指出智能技术将可能加剧课业、考试的作弊和抄袭风险,并将限制该技术的使用[7]。因为其结果可能进一步导致教育活动难以促进学生的伦理品德、人文道德修养、理性判断能力。由于ChatGPT只能够从重复和随机的数据训练中生成新的数据和语言模型,教科文组织将其称之为“随机鹦鹉”,因为它仅能模仿人的声音但不能理解人说话的内容[5],因而通过其完成作业与考试则容易加剧学生陷入“纯技术化”误区。
(三)生成的知识内容存在偏差风险
当前,已有研究内容指出,ChatGPT所生成内容的主要逻辑是“基于概率性语言的拼凑式写作”[8],也意味着诸如ChatGPT类似的生成式人工智能技术所生成的内容尽管符合基本的人类语言规范,但却很难审视自身所创造内容的局限性。一方面,可能其本身在某一特定领域中由于训练数据不足或算法问题导致答案出现偏差,因为生成式人工智能主要依赖于大量已有数据进行回答,如果这些数据或语料库本身存在错误,那么其回答也可能是错误的。教科文组织指出,当学习者与该模型进行交互时,ChatGPT的输出内容表面上看起来是令人信服的文本,但实际上却存在各种难以识别的错误,还呈现出与事实偏差的信息[5]。
另一方面,生成式人工智能内容还可能存在数据殖民主义风险。例如,ChatGPT此类技术的开发、训练和更新取决于海量的数据和强大的计算能力,而这些技术的操控者大多源自美国、欧洲为代表的著名科技公司和经济体,同时训练的数据大多也是基于英文生成。因此,生成的内容不可避免具有西方国家的知识特点。教科文组织将其称之为“数字贫困”(Digital Poverty),认为这将导致非西方国家价值观、规范、文化和习俗受到西方文化的侵袭,由此产生知识的同质化限制多元化和创造性思维[5]。
(四)可能造成数据隐私泄露风险
生成式人工智能的数据来源往往是从互联网搜集移植,并未获得数据发布者的许可。在教育应用过程中,教师或学生通过与该技术进行有效互动,收集个人信息以提供个性化的教学或学习内容反馈,而这些内容又成为训练该技术与其他人交互的依据,导致个人隐私存在泄露的风险。日本在《指南》中指出,生成式人工智能存在两种担忧:一是AI学习何种数据、如何制作学习数据、基于何种算法回答等“透明性担忧”;二是机密信息泄露、个人信息不正当利用、回答内容带有偏见等“信任性担忧”[9]。因此,如果在教育中应用这些未经许可的数据内容,则容易泄露个人的文化背景、性别年龄、经济水平等方面的信息。此外,尽管世界上部分国家已经制定了人工智能的法律规范,但根据教科文组织的调查,生成式人工智能版本迭代发布速度超过国家监管框架的适应速度,因而大多数国家缺乏最新的生成式人工智能国家法规,难以使用户数据隐私得到保护[5]。
三、国际上生成式人工智能在教育
应用中的主要应对策略
(一)更新教育理念
为了防止教育场景异化导致学生参与教育活动的主体性丧失、可能加剧道德与伦理问题,以及生成的知识具有单一性与数据殖民风险,重视人本主义、重申公平包容理念,以及增进文化多元化价值观成为国际上所提倡的教育理念。
1. 发挥教育过程中人本主义理念
生成式人工智能容易加剧学生过度沉迷于技术幻象下导致社会能力的弱化,預示着教育可能引发新一轮的主体性危机。英国在《应用》中认为,该技术并不能取代教师的专业判断和深厚的学科知识,但前提是需要发挥教师自身主动性,也需要确保学生、教师和更多群体在互动中获得鲜活的教育知识[10]。德国在《影响》中指出,德国正在尝试为教师与学生共同利用生成式人工智能实现新的教学形式做准备[4]。除了能够将生成式人工智能视作“意见主体”激发学生合作兴趣之外,教科文组织提出,可以鼓励教师和学习者以批判性和辩证性的态度审视该技术在教育中的运用过程,通过使用获得信息反馈,并对其进行质疑,审查准确性之后,对错误信息进行批评,以此能够发挥学生在运用该技术时的能动性[5]。
2. 树立包容和公平的教育理念
面对人工智能驱动教育创变,当前国际上普遍强调包容和公平的教育理念作为智能时代的根基。2021年,教科文组织提到,包容和公平的教育理念是基本的人权原则,以保护人类尊严和增进人类共享的知识空间为中心[5]。2022年,教科文组织又提出,人工智能在教育中的运用应当支持个性化和开放的学习选择、扩大学习机会,并关注人工智能运用中的道德问题[5]。2023年,就生成式人工智能话题教科文组织再次提出“以人为中心的教学互动”法,将满足学习者需求、发挥学习者主动性和保障学习者伦理道德三个维度作为其构建包容和公平教育理念的表现[5]。在该理念下,并非强调禁止新技术的使用,而是相信每个学习者均能够基于新技术找到更适合的数据、内容和运用方式,形成面向全民的数字人文主义价值观以应对新技术可能造成的伦理道德挑战。
3. 确保文化多元化的教育理念
生成式人工智能能够根据使用者个体情况生成具有个性化的内容,但这些内容仍取决于算法技术。因此,在教育过程中,需要认识到该技术对一些观点的输出仍具有机械化的特征。对此,教科文组织提出,一方面,教育要以开放式、多样化和探索性为关键目标,将该技术作为教育的辅助工具;另一方面,强调学习者在丰富多彩的现实世界中反复实验,在观察中学习,针对某一问题探索多样化的解决方案[5]。同时,为了人类文明繁荣发展,必须意识到生成式人工智能与文化多样性之间的关系,应尽可能保护语言和文化多样性,要求在数据模型中纳入多种语言数据模块,特别是一些非西方国家或土著语言与文化内容[5]。
(二)變革学校教育方式
基于当前生成式人工智能加剧教育场景异化挑战、生成知识存在偏差风险,以及引发的作弊与抄袭担忧,学校教育需要从教学设计、教学评估,以及作业与考试四个方面进行变革。
1. 实现创新性的教学设计
为发挥学生在教育活动中的主体性,德国《报告》中认为,需要充分发挥教育者的价值,例如,在教学设计过程中,教师可以从生成式人工智能中获取相关建议,针对具体的教学计划进行调整[4]。教科文组织认为,在教学过程中,当教师运用该技术辅助教学时,需要考虑到为学生提供个性化的支持,包括通过人机与多主体互动生成多样化的问题答案,并通过多种方式帮助学习者验证答案的可信度[5]。德国提出,通过利用眼动追踪技术,判断学生运用生成式人工智能是否对学生形成了具有挑战性的任务,并以此对学生个人需求作出回应,增进师生交互[11]。此外,日本在《指南》中提出,在开始阶段,促进学生了解该技术的便利性与风险;在使用阶段,掌握与该技术对话的技巧,并在各学科的学习中利用该技术发现问题,设定课题与开展和他人的交互协作,将不同资料进行整理、比较和深化,形成独立思考能力,教师可以从旁辅助[9]。
2. 增进教学实施的评估与反思
生成式人工智能在教育中的运用能够帮助教师对其所教授学科的理解,优化整个教学过程。但是仍不可避免生成的知识存在偏差风险。为此,教科文组织提出,在教学实施过程前,需要对学习者年龄、能力和预见问题进行评估,并测试生成式人工智能对教学内容的生成是否存在偏见,如果发现有不适当的内容,教师应事先采取相关行动。并且,还应采取跨部门的方式,通过与技术供应商、教育工作者、研究者、家长和学生共同合作,制定评估体系并规划长期的课程框架减少负面影响[5]。日本在《指南》中同样提出,为了应对以上风险,应基于学生发展阶段遵守年龄限制和监护人同意,提出通过丰富教育教学活动内容的方式,确认信息与内容的真伪[9]。
3. 改革课业评价模式
当前,大多学生将生成式人工智能作为完成课业的重要工具,可能引发抄袭与作弊的伦理担忧。教科文组织在《报告》中提出,一方面,开发能够识别生成式人工智能的工具,将其用于监测学生课业完成情况;另一方面,教育机构也需要重新思考作业设计,布置更能够发挥人性、人类价值观和应对复杂世界的作业[5]。相比于此,德国在《影响》中指出,可以首先由学习者完成课业,其次再通过生成式人工智能进行优化[4]。英国认为,并不需要限制学生在课业中使用该技术,但是需要确保并验证所生成资料来源的正确性,清楚地让学生展示如何在课业中使用该技术,区分哪些部分是学生自己所完成的课业内容。并且,提出可以在课堂上留有充足时间监督学生完成作业,让学生就其作品进行口述的方式确定他们是否为独立完成[12]。
4. 变革学校考试制度
目前,全球已有大多国家和地区的大学均明确提出要控制ChatGPT在考试中的运用。例如,新加坡教育部门提出,要根据其使用情况判断该技术是否导致违反考试规则和规定。其次,加强学生考试的监督环境,包括在线考试过程中,也应使用安全的网络环境。最后,在日常教学中,使用多种评估模式对学生进行考察,检测该技术可能在日常教育评估中产生的异常反应并作出事先的警示[13]。但是,德国在《影响》中指出,禁止使用ChatGPT的做法难以实现,无论是通过对文本相似度进行比较以检测作弊行为,还是创建完善的监测环境,效果均不尽如人意[4]。因此,目前有效的应对方式仍更多采用手写或口试的考试方式并加强对学生伦理品德的培养,而未来则可能创新性地将考试与生成式人工智能相结合,但仍需以增进学生素养为主要目的。
(三)提升师生专业能力
为强化抵御教育教学过程中新技术可能引发的以上多重挑战,需要教师与学生进一步更新自身知识,并提出对教师和学生的新的要求,增进师生在教育过程中科学合理地使用新技术。
1. 增进教师的专业素养与技能
提倡教育轴心向“人”之向度转变,更好地促进人机合作,需要教师掌握一定技术操作和素养能力,更好地引导技术促进学生学习观与学习效果。德国在《影响》中指出,教师需要批判性评估生成式人工智能是否为教育带来不平等的能力、将知识应用于新技术的能力、筛选和组织信息并运用于教学中的能力[4]。教科文组织呼吁各国采取以下行动促进培养教师使用生成式人工智能的能力:(1)根据实际情况,帮助教师有能力在特定领域中使用生成式人工智能技术;(2)发挥教师在促进高阶思维、组织人际互动和人文价值观方面展现出的独特作用;(3)基于生成式人工智能技术定义教师知识、技能和态度的三维目标,以此通过该技术实现教师自身专业发展;(4)动态性审查教师使用生成式人工智能进行教学、学习及其专业发展所需要的能力,如伦理价值观、理解和运用等技能,整合到能力框架中以为教师提供指导[5]。
2. 促进学生掌握面向未来的知识和技能
新技术的更新迭代增强了技术风险的内隐性,这也将为缺乏数字素养的学生带来挑战。英国在《应用》中认为,生成式人工智能的兴起促使学生需要增进面向未来的知识和技能,包括了解生成式人工智能的局限性、可靠性和潜在偏见,以及关于数字安全的技能[10]。在教科文组织报告中,详细地列举了学习者使用该技术所要掌握的基本能力,例如在语言、艺术和编码能力获取时,需要发挥批判性能力、创造性和想象能力、计算和逻辑思维等能力,这些应根据具体场景决定[5]。在《报告》中,教科文组织认为提高学生相关能力获取还应采取以下行动:(1)通过学校教育或职业教育为学生提供人工智能课程,包括如何正确使用生成式人工智能技术;(2)加强教育培养人工智能时代所需的人才计划;(3)预测人工智能为全球带来的就业需求变化,在各级教育系统中增加学生适应未来就业市场所需的关键技能[5]。
(四)制定隐私保护的规范措施
面对生成式人工智能在教育中的应用可能存在数据安全和隐私风险,需要完善新的法律规范,以及推动学校教育制度创新,增强教育系统的韧性建设。
1.从国家角度制定生成式人工智能应用于教育的法律规范
教科文组织提出,对于ChatGPT在教育中的运用,所有国家都需要对其进行有效的监管,通过立法保护个人数据隐私[5]。德国在《影响》中提出,德国将欧盟所发布的《教育工作者在教学中使用人工智能和数据的道德准则》(Ethical Guidelines on the Use of Artificial Intelligence and Data in Teaching and Learning)内容作为参考,从法律层面对ChatGPT可能产生的伦理性问题进行重新思考[4]。教科文组织则在《报告》中提供了7个步骤帮助国家完善相关法律规范:(1)比较国际或区域通用的数据保护法规制定国家法规;(2)制定或修订生成式人工智能的国家战略并确保教育在其中的使用规定;(3)实施关于人工智能伦理的具体规定;(4)通过版权法监管生成式人工智能的生成内容;(5)制定生成式人工智能的监管框架;(6)构建生成式人工智能在教育中正确运用的方案;(7)思考生成式人工智能对教育与研究的长期影响[5]。
2.从学校角度制定生成式人工智能应用于教育的规范标准
相较于以往教育实践中的技术变革,生成式人工智能还指向对学校教育领域中教育者和学习者群体的影响。为此,英国在《应用》中指出:(1)学校应根据数据保护法保护个人特殊类别的数据,例如,民族、宗教信仰、性取向和发表过的观点等;(2)未经学生同意,学校不得将学生具有知识产权的作品用于训练生成式人工智能;(3)加强学校网络安全审查;(4)确保学生不会在学校通过生成式人工智能访问不健康的内容[10]。德国在《影响》中提到,德国大学主要采取两种方式进行应对:一是规定教师或学生采取匿名访问的方式,防止个人数据输入系统;二是为教师和学生建立第三方访问账户,该账户符合法律规范,通过在该账户进行访问,并对其中产生的数据进行保护,防止隐私泄露[4]。同时德国提出,学校可以成立专门的数据保护委员会,负责对生成式人工智能的使用、观察、评估、法律咨询等一系列问题进行处理[14]。此外,日本提出,将从38个城市中选择53所学校作为试点,验证有效推行学校中使用生成式人工智能的对策方法[15]。
四、国际上生成式人工智能的教育应对
对我国的镜鉴
(一)将“以人为本”作为生成式人工智能在教育应用中的核心理念
在国际上,“以人为本”的人本主义理念一直以来被视为教育政策制定、教育改革与发展和应对技术带来的伦理风险与挑战的核心价值理念。
首先,“以人为本”是凸显教育活动的核心价值,应对“技术拜物主义”对教育活动异化的关键体现。生成式人工智能具有强大的“准人类”的沟通、创作和传播能力,但却容易导致教育主体思想的同质化,对该技术产生极强的依赖性。为此,当前国际上特别强调学生个性化学习需求,体现技术理性下教育中的人文主义关怀精神。此外,在课堂上对该技术进行批判性和辩证思考,让学生基于自身已有知识经验创造性地回答课堂问题和完成课业。“以为人中心的教学互动”法,旨在通过教师与学生的交互主体性活动,实现技术的辅助作用。在发挥教师与学生和其他群体之间的情感、记忆与人性关怀中实现“以人为本”的价值关怀。
其次,“以人为本”是教育过程中“人—机”关系交互和内容生成的知识边界,主张抽象性与具身性的认知过程。生成式人工智能可能引发学生过度依赖,导致教育系统传递感性与身体的经验性知识丧失。借鉴国际经验,一方面,需要改革教学设计、评估和考试制度,例如,在教学过程中通过人机互动生成内容后,通过多种方式验证答案的可信度,并在评估和考试中重视学生抽象性思维的形塑,不再囿于书本知识的刻板演绎,而是考察与学生自身生活紧密相关的问题。另一方面,借鉴教科文组织方案,为学生提供具有开放、多样和探索性的学习任务,促使学生在现实世界中反复实验,在观察中学习,针对某一问题提出可操作的解决方案。
最后,“以人为本”是生成式人工智能在教育应用过程中,应对各种伦理与价值观风险挑战的重要衡量依据。由于生成式人工智能并不具备人类智能、理解力和思维特性,也难以为其生成的内容负责[16]。因此,一方面,需要关注个体背后的文化与价值观的多元立场,强调教育主体在实践场域中批判性和创造性地吸纳生成式人工智能的有益观点,更需要反观自身以本土生长经验为判断依据,避免掉入技术背后隐匿的价值偏好。另一方面,需要站在学习者立场上,对学习者年龄、能力等问题进行提前评估,预防隐私和数据安全等问题,以保障人的基本权利的实现。
(二)构建促进教师和学生智能素养的生成式人工智能教育培训方案
在教育主体与生成式人工智能的“人—机”关系交互过程中,“以人为本”理念是坚守主体教育实践,发挥主体能动性的核心理念,而实现这一过程,就需要让教育主体主动更新自身的知识、技能与态度,积极与生成式人工智能进行理解与对话。
一方面,强化教师数字素养与技能的培育方案。借鉴教科文组织的促进培养教师使用生成式人工智能技术的能力步骤,提出以下方案:第一,依托我国建立的国家智慧教育平台,为教师搭建在线论坛、数字教育中心与开放式应用程序,通过开展专题培训、建立专业网络机构和平台,以提升教师数字知识和技能,辅助课堂教学、教育评价、教育伦理。第二,鼓励教师积极探索与应用生成式人工智能技术,学会关于生成式人工智能的基本原理和知识,在具体的教学活动中发现该技术面临的各种问题并提出应对方案。第三,利用生成式人工智能技术促使教师反思并优化自身的教学效果,围绕教师专业发展的实际需要打造配套系统程序。第四,以我国2023年发布的《教师数字素养》为依据,在实地调查的基础上,围绕我国教师数字素养有关的课程目标、学习指南与教师可能存在的问题等方面,进行本土化与科学性的评估,将生成式人工智能在教育中涉及的伦理价值观、具体的知识和技能进行更新与完善,为教师提供最新的素養框架标准。
另一方面,强化学生数字素养与技能的培育方案。同样通过借鉴教科学文组织的方案与国际经验,第一,教育管理部门应鼓励开发“以人为本”的人工智能培训体系,包括具体的培养方案、培训课程,抑或将关于生成式人工智能的基本知识和原理同数字教育与信息素养课程共同纳入其中。第二,更新数字素养与技能的评测体系。2021年,中央网络安全和信息化委员会印发《提升全民数字素养与技能行动纲要》,明确了数字素养的基本概念和关键维度。面向未来,仍需进一步将生成式人工智能所涉及的关键知识、技能和态度融入该框架之中,帮助学生更好地获取、评价信息和利用智能工具。第三,教育机构应结合我国颁布的相关课程目标或围绕当地校本课程,深度分析新一代智能技术在教育过程中与学生不同学习任务所需要的认知、学习能力和学习方式相结合,有目的地促进学生创造力、想象力、劳动能力的联结,基于具体情境锻炼学生对该技术的应用能力。
(三)推动制度化建设以增进生成式人工智能在教育应用中的规范性
2023年7月,我国出台了《生成式人工智能服务管理暂行办法》,规定了生成式人工智能服务的基本规范。但是,根据国际经验与教科文组织《报告》所提供的7个步骤,我国仍需要进一步完善生成式人工智能在教育运用中的规范性。
第一,完善我国国家法规并明确法律定位和责任认定,尤其是在后者当中,生成式人工智能涉及算法设计者、数据管理者和访问者,以及包括学校的管理者和教育工作者,因此,需要基于具体的使用场景划分责任主体,同时也要避免采取一刀切模式,遵循多元化原则。第二,生成式人工智能教育应用的相关规范制定可以借鉴日本的方案,通过小范围试点项目测试教育改革的可行性和有效性,基于我国本土现实情况,以“试点—推广”的方案进一步完善相关规定。第三,相关规范制定还可以结合我国数据隐私的相关法律法规,如我国2021年颁布的《中华人民共和国数据安全法》,从而增进该技术在教育领域中保护个人数据隐私和对他人数据的安全。此外,也可以采用德国提出的第三方账户,依托我国国家网信办和以各地区、各行业、各领域为中心建立数据安全中心,以数据安全平台实现该方案。第四,为建立稳定、持久的生成式人工智能法律框架,可以参照英国设立独立的监管机构,明确其职责和范围,包括评估、监督和审查职能。第五,鼓励不同私营机构依据新的法律要求开发值得信赖的数据模型和建设开源生态系统。第六,由于生成式人工智能更新迭代迅速,因此,应采取风险预防的相关措施,对学校教育中使用生成式人工智能的情况制定评估方案,例如,可以以英国为例,制定保护学生个人隐私与知识产权的规范标准,并借鉴德国的举措成立专门的学校数据保护委员会。
[参考文献]
[1] 张绒.生成式人工智能技术对教育领域的影响——关于ChatGPT的专访[J].电化教育研究,2023,44(2):5-14.
[2] F?譈TTERER T, FISCHER C, ALEKSEEVA A, et al. ChatGPT in education: global reactions to AI innovations [EB/OL]. (2023-05-10)[2023-11-17]. https://www.nature.com/articles/s41598-023-42227-6.
[3] 黄荣怀.人工智能正加速教育变革:现实挑战与应对举措[J].中国教育学刊,2023(6):26-33.
[4] TAB. ChatGPT und andere computermodelle zur sprachverarbeitung: Grundlagen, anwendungspotenziale und m?觟gliche Auswirkungen[R]. Berlin: Büro für Technikfolgen-Absch?覿tzung beim Deutschen Bundestag (TAB),2023.
[5] UNESCO. Guidance for generative AI in education and research[R]. Paris: UNESCO publishing, 2023.
[6] Study.com. Productive teaching tool or innovative cheating? [EB/OL].(2023-01-06)[2023-11-27]. https://study.com/resources/perceptions-of-chatgpt-in-schools.
[7] 钟秉林,尚俊杰,王建华,等.ChatGPT对教育的挑战(笔谈)[J].重庆高教研究,2023,11(3):3-25.
[8] 邓建国.概率与反馈:ChatGPT的智能原理与人机内容共创[J].南京社会科学,2023(3):86-94,142.
[9] 文部科學省初等中等教育局.初等中等教育段階における生成 AI の利用に関する暫定的なガイドライン」の作成について(通知) [EB/OL].(2023-07-04)[2023-12-01].https://www.mext.go.jp/content/20230704-mxt_shuukyo02-000003278_003.pdf.
[10] GOV.UK. Generative artificial intelligence (AI) in education [EB/OL].(2023-10-26)[2023-11-28].https://www.gov.uk/government/publications/generative-artificial-intelligence-in-education/generative-artificial-intelligence-ai-in-education.
[11] Technical University of Munich Germany. SARA:Smart AI reading assistant for reading comprehension[EB/OL].(2024-04-10)[2024-04-29].https://arxiv.org/html/2404.06906v1.
[12] Joint Council for Qualifications. AI use in assessments: protecting the integrity of qualifications [EB/OL].(2023-11-21)[2023-11-29]. https://www.jcq.org.uk/wp-content/uploads/2023/04/JCQ-AI-Use-in-Assessments-Protecting-the-Integrity-of-Qualifications.pdf.
[13] Ministry of Education Singapore. ChatGPT and other artificial intelligence technologies—safeguards to ensure the integrity of online exams and assignments [EB/OL].(2023-06-02)[2023-11-26].https://www.moe.gov.sg/news/parliamentary-replies/20230206-chatgpt-and-other-artificial-intelligence-technologies—safeguards-to-ensure-the-integrity-of-online-exams-and-assignments.
[14] Ministerium für Schule und Bildungdes. Umgang mit textgenerierenden KI-Systemen Ein Handlungsleitfaden[R]. Nordrhein Westfalen: SeitenPlan GmbH, 2023.
[15] 教育新聞社は.生成AIパイロット校決まる 授業活用や校務の効率化を検証 [EB/OL].(2023-10-12)[2023-12-01]. https://www.kyobun.co.jp/article/2023101205.
[16] 孫立会,沈万里.论生成式人工智能之于教育的命运共同体[J].电化教育研究,2024,45(2):20-26.
International Observations on the Application of Generative Artificial Intelligence
in Education: Challenges, Countermeasures and Reflections
WANG Shuaijie1, TANG Qianwen2, YANG Qiguang1
(1.College of Education, Fujian Normal University, Fuzhou Fujian 350007;
2.Journalism and Media College, Yangzhou University, Yangzhou Jiangsu 225009)
[Abstract] Faced with the new round of educational reform triggered by generative artificial intelligence technology, some countries and international organizations have issued educational policies related to this technology, examined the risks and challenges faced by education, and formulated and clarified the development direction and goal guidance of generative artificial intelligence in educational application. By analyzing the content of relevant policy texts, this paper explores the educational controversies and ethical risks caused by generative artificial intelligence, as well as the innovative schemes and promotion methods of generative artificial intelligence in educational application, including updating educational concepts, reforming school education methods, improving the competence of teachers and students, and formulating normative measures for privacy protection. Based on international experience, it can provide relevant reference for the application of generative artificial intelligence in education in China, including taking "human-centeredness" as the core concept of generative artificial intelligence in education, constructing training programs to promote intelligent literacy of teachers and students, promoting the institutional construction to enhance the standardization of the application of generative artificial intelligence in education.
[Keywords] Generative Artificial Intelligence; International Comparison; Artificial Intelligence Education; Challenge; Countermeasure