教育人工智能应用场景及其理性审视

娄方园 高振 王娟

摘 要：各国高度关注人工智能在教育领域的应用研究，但更多的是从技术视角开展人工智能，忽略了教育本质的培养。尽快设计出能够有效应对由教育人工智能应用场景所引发的问题的策略，成为一个全新而重要的时代命题。文章首先界定了教育人工智能等相关概念，陈述了教育人工智能的相关应用场景;其次对教育人工智能应用场景进行了理性审视;最后分别从政府、教育组织、产业组织以及个体四个层面提出审慎应对的相关策略，以期为解决教育人工智能应用场景所引发的问题提供思路。

关键词：教育人工智能;应用场景;伦理;审视策略

中图分类号：G4 文献标志码：A 文章编号：2096-0069（2022）03-0026-08

收稿日期：2021-10-08

基金项目：2020年教育部政策法规司课题“在线教育治理研究”（ JYBZFS2020107）;2021年江苏高校哲学社会科学研究重大项目“人工智能视域下在线教育治理机制与路径研究”（2021SJZDA161）;2021年江苏师范大学项目“基于DoPBL模式的中学信息技术课程设计与实践研究”（2021XKT1363）

作者简介：娄方园（1995— ），女，河南商丘人，江苏师范大学智慧教育学院，硕士研究生，研究方向为人工智能、教育治理;高振（1996— ），男，江苏宿迁人，江苏师范大学智慧教育学院，硕士研究生，研究方向为人工智能、在线教育;王娟（1979— ），女，江苏泗洪人，教授、硕士生导师，研究方向为教育理论与教育管理、在线教育。

引言

智能时代，教育人工智能是新一轮科技革命的重要驱动力。2021年4月，联合国教科文组织制定了《人工智能与教育：政策制定者指南》，提出提升公民的人工智能素养，实现教育共同利益以及包容性和可持续性的未来教育。但人工智能赋能教育的同时也面临着师资、课程、教材、人才培养质量、教育结构、伦理、安全、隐私、公平等多方面的挑战。

教育人工智能政策制定者以及教育者如何能更好地利用人工智能为教育提供机遇？如何确保合理、公平地使用教育人工智能产品？如何实现教育与人工智能深度融合？如何应对应用教育人工智能时带来的多重挑战与风险？如何明确权责担当？尽快设计出能够有效应对和解决由教育人工智能应用所引发的问题的策略，成为学术界的重要课题。为此，本研究将理性审视教育人工智能，提出有针对性的解决方案，为促进教育人工智能健康发展提供思路。

一、教育人工智能的内涵及应用场景

智能时代，教育的表征形态、理论基础与研究范式正在发生改变，教育人工智能具备了时代新内涵与新内容。从教育人工智能的定义探究过程中发现，诸多学者更多是从技术视角定义教育人工智能，却忽略了教育本质的培养。基于此，研究从人本主义视角探索教育人工智能的内涵，以期对智能时代教育人工智能应用能够健康发展提供借鉴。

（一）人工智能

人工智能（AI）是指计算机对人类的智能进行模拟、生产和扩展，机器通过模仿人类的感知、学习、推理和决策能力，实现目前必须借助人类智慧才能完成的任务。人工智能经历了三个重要时期，如图1所示。计算智能时代强调符号主义，重视逻辑却忽视了知识。感知智能时代强调控制主义，重视知识却无法实现自主学习。认知智能时代强调联结主义，开始具有自主学习能力，应用场景的开发成为人工智能技术落地最核心的内容。

（二）教育人工智能

人工智能的突出表现以及颠覆性潜力给教育带来了极大的冲击，国内外研究者开始重视教育与人工智能的深度融合发展。将人工智能应用在教育领域中的研究可以追溯到程序性教学[1]。有学者曾指出，人工智能可以根据特定的情境、需求，与个体进行对话，进而帮助其实现某个目标[2]。在之后发展的过程中，渐渐出现了微格教学、沉浸学习、自动测评等领域的相关实践，开始着眼于教育与人工智能的更深层次融合，实现1+1>2的效果。

教育人工智能能够实现人工智能与教育更深层次的融合，不仅仅是技术问题，也是教育理念和组织变革的问题，更需要有人的参與，教育人工智能具备跨越发展的能力，能够提升师生素养和信息思维，创造新型学习条件，促进教育人工智能从技术应用向能力素质的发展。

（三）教育人工智能应用场景

只有当人工智能应用于教育人工智能、建构教育场景、充足教育中的要素或者重构教育过程时，才属于教育人工智能的应用场景[3]，其价值归宿是为教育主体赋能，为教育系统赋能[4]。众多学者根据目前初步应用的教育人工智能应用场景，将其分为面向系统、面向学生和面向教师的人工智能三大类，如图2所示。

1.面向系统的教育人工智能应用场景

面向系统的教育人工智能应用场景基于教育管理信息系统，旨在实现学校管理自动化，为教师和管理员提供信息，为学生提供指导。从教育管理信息系统中提取的大数据也有助于制定教育教学决策。教育人工智能应用场景还显示出其基于学习者个性化需求和学习水平分析来策划跨平台学习内容的潜力。

面向系统的教育人工智能应用场景主要用于监控学生在课堂上的注意力、跟踪出勤率和预测教师表现。人工智能在教育管理和教学中的应用主要有教育聊天机器人、学习分析应用程序和自适应学习平台等。教育聊天机器人是使用云服务和人工智能技术与人进行模拟对话的在线计算机程序，其教育应用包括促进学生入学、提供全天候信息、直接支持学习;学习分析应用程序是由英国开放大学设计的人工智能应用程序，通过分析该大学教育管理信息系统的大数据来预测学生成绩;自适应学习平台系统提供后端人工智能功能支持标准教育技术，分析用户数据，并将其汇总，创建学生互动内容、偏好和成就的心理测量档案。

2.面向学生的教育人工智能应用场景

面向学生的教育人工智能应用场景被誉为“第四次教育革命”的组成部分，旨在为全世界的学习者提供高质量、个性化和泛在的终身学习。主要包括智能辅导系统、基于对话的辅导系统、探索性学习环境、自动写作评估、人工智能驱动的阅读和语言学习、智能机器人、可教的代理，以及教育虚拟现实和增强现实等。

（1）智能辅导系统

教育人工智能最常见的应用场景是智能辅导系统（Intelligent Tutoring Systems，简称ITS），其主要通过结构化科目的主题为学生提供个性化的辅导。一些智能辅导系统虽有利于监控学生学习情况，为教师提供采取行动的进一步的信息，但其设计也引发了一些不良问题。目前，全球有60多个商业智能辅导系统可用。

（2）基于对话的辅导系统

基于对话的辅导系统（Dialogue-based Tutoring Systems，简称DBTS）利用自然语言处理和其他人工智能技术，模拟师生间的口语教学对话，完成在线学习任务。它采用苏格拉底式教学方法，借助人工智能生成的问题，引导学生自己解决问题，旨在鼓励学生参与阐述，达到对主题的深入理解。目前，基于对话的辅导系统有AutoTutor（自动辅导），以及Watson Tutor（沃森导师）商业系统。

（3）探索性学习环境

探索性学习环境（Exploratory Learning Environ-ments，简称ELEs）基于建构主义理论，鼓励学生通过探索学习环境与现有知识建立联系，从而积极建构个人知识，而非遵循诸如智能辅导系统所支持的循序渐进的“知识传递”模式。人工智能在探索性学习环境中的作用是，通过知识跟踪和机器学习，提供自动指导和反馈，最大限度地减少探索性学习的认知负荷。这些反馈有助于消除误解，促进理解，支持学生探索。

（4）自动写作评估

自动写作评估（Automated Writing Evaluation，简称AWE）利用自然语言处理和其他人工智能技术，提供写作的自动反馈。自动写作评估方法包括形成性自动写作评估和总结性自动写作评估。目前，自动写作评估教育应用的示例主要有e-Rater（“写作评分”系统）、Turnitin（“数字图书馆”平台）和Smartmusic（“智能音乐”应用程序）。

（5）人工智能驱动的阅读和语言学习

阅读和语言学习工具越来越多地使用人工智能来增强其方法，如人工智能驱动的语音识别。人工智能驱动的语音识别系统检测并自动分析阅读技能，通常用于将学生声音与母语人士录音样本进行比较，通过提供自动反馈来帮助学生改善发音。人工智能驱动的自动翻译可帮助学生阅读其他语言学习材料，并使受不同文化熏陶的学生能够更容易地相互交流。人工智能支持的阅读和语言学习应用程序包括AI Teacher（人工智能教师）、Babbel（一款语言学习应用的软件）等。

（6）智能机器人

智能机器人在教育中的应用也在探索中，尤其是在有学习障碍或学习困难的儿童环境中的应用。例如，为自闭症谱系障碍学习者创造了具有语音功能的类人机器人，提供可预测的机械交互，旨在发展自闭症谱系障碍学习者的沟通和社交技能。再如，远程呈现机器人为可能因疾病而无法上学的学生提供进入教室服务。

（7）可教的代理

通过教别人可以更深入、更好地记住一个话题。这种效应已被各种人工智能方法所利用。

（8）教育虚拟现实和增强现实

虚拟现实和增强现实是教育环境应用的两个创新，经常与机器学习和其他人工智能技术相结合，增强学生体验。虚拟现实可以为学生提供身临其境的体验，使其感觉仿佛被带入了现实世界或想象的环境。增强现实是基于用户现实世界的视野，将计算机生成的图像进行叠加。

3.面向教师的教育人工智能应用场景

尽管面向教师的教育人工智能应用场景具有增强教师能力的潜力，但相比面向学生的教育人工智能应用场景，面向教师的教育人工智能应用场景的关注度要低得多，主要包括由人类教师和人工智能助教组成的“双师模式”、人工智能驱动的教学助理和讨论论坛监控。

（1）人类教师组成和人工智能助教的“双师模式”

许多教育人工智能都被设计用来取代一些教师任务，而非帮助教师更有效地教学。中国偏远农村地区已采用“双师模式”，即名师通过视频给远程教室里的学生讲课，学生则从当地教师那里获得额外指导。未来，人工智能助教可能帮助人类教师完成许多任务，如提供专业知识或专业发展资源等。教学生什么内容和如何教学生仍然是教师的责任和特权。教育人工智能的作用只是让教师的工作更简单。

（2）人工智能驱动的教学助理

教育人工智能的设计旨在减轻教师费时活动，如考勤、批改作业和回答相同问题。许多人工智能技术有效“接管”了大量教学活动，却干扰了师生关系，使教师沦为“职能角色”。教育人工智能可能会开启教学的新模式，而不仅仅是基于计算机的自动化教学。新的教学模式需要增加教师专业知识，这或许可以通过人工智能教学助理来实现。但若要在实际教育环境中应用，许多人工智能技术和伦理问题仍需克服。

（3）人工智能驱动的讨论论坛监控

教育人工智能可以支持在线教育，特别是帮助教师或辅导员监控异步讨论论坛。学生在论坛上对布置的任务做出回应，向教师询问课程资料，并参与协作学习。这通常會产生大量帖子，所有这些帖子都必须进行调整和处理。人工智能可能会在很多方面提供帮助，例如对帖子进行分类、汇总引发重叠问题的帖子、使用情绪分析来识别消极情绪状态的帖子。总之，人工智能可以让人类教师随时了解学生意见和共同担忧。

二、教育人工智能应用场景的理性审视

教育人工智能不仅仅是一场科技革命，更是引发教育、社会、生命、认知和价值的巨大变革。人工智能赋能教育的同时也面临着师资、课程、教材、人才培养质量、伦理、安全等多方面的挑战。因此，我们必须要理性审视教育人工智能应用场景。如图3所示。

有学者基于人本主义视角指出教育人工智能应用场景忽视了教师和学生的真正诉求[5]，提出面对人工智能教育应用所带来的新的教育问题时应保持教师的主导地位[6];也有学者提出在教育教学中，学生的发展才是目的，人工智能始终只是一种工具或手段，教师既要借助人工智能为学生自主发展提供多种途径，又要更好地承担起人工智能无法承担的责任[7]。

基于已有研究，笔者有如下思考：（1）在开发应用场景时究竟需要何种人工智能？（2）教育的意义和价值何在？（3）在教育人工智能应用场景中必然会使用大量敏感数据，个人隐私如何保障？（4）在教育人工智能应用场景中，谁应该承担责任？（5）教育人工智能应用场景能否保障教育公平？

（一）在开发应用场景时究竟需要何种人工智能？——诉求性审视

人工智能在教育领域引发各种连锁反应，造成一些教育现象的失衡。出现这种现象是因为没有充分考虑教育与技术的关系，是“以技制人”还是“为人谋技”？为解决这一问题，则需明确在开发应用场景时究竟需要何种人工智能以及师生的真实诉求又是什么。

人工智能目前在教育中最大的应用是大量取代人的活动，但在开发应用场景时需要人工智能取代教师吗？人工智能能够取代教师吗？学生又需要什么？很显然，引导学生成功的绝不仅仅是技术环境，更重要的是教师本身独特的人格，如情感、信念等。在低阶思维层面，教师可以将教育教学的部分权利让渡于人工智能;在高阶思维层面，教师不仅可以激发学生更深入的思考，还能够与学生产生情感共鸣。

（二）教育的意义和价值何在？——人本性审视

教育的指向即是人性的教育。教育人工智能的应用应以人的需要为根本，突出人本性的价值取向。任何一种教育的重点都应在于人，教育不是只灌输受教育者知识，更多的应是对受教育者的道德和责任的培养。但随着人工智能技术的使用，教育中的人却越来越被物化，教育主体逐渐被人工智能技术改变，教师和学生作为人的属性逐渐被忽略。人工智能在教育中并不能模拟出真实的情感和人性，很难实现对人的道德、责任的培养，只能作为促进人发展的工具和手段。

（三）在教育人工智能应用场景中个人隐私何以保障？——隐私性审视

人在享受人工智能技术带来的各种便利与福利的同时，个人隐私空间也在不断地被压缩与暴露。在教育人工智能应用场景中，人工智能使用大量数据对算法进行训练，与此同时，师生隐私泄露风险也将增加，个人隐私何以保障成为必须要面临的挑战。

为此，在采集和使用数据过程中，数据主体应有权利知晓数据采集类型、方法以及数据安全保护措施;严禁捏造任何数据主体事件的发生，确保数据有效性;未经数据主体允许，严禁将所得数据用于商业营利性目的，杜绝滥用数据现象;建立教育数据安全问责机制，强化数据安全保护意识。

（四）在教育人工智能应用场景中谁应该承担责任？——责任性审视

人是承担责任的主体。那么，人工智能是否充当了教育角色？是否具有自由的意志？弱人工智能并未被赋予人的教育权利，并不需要承担相应的教育责任，当其造成伤害时，应在人工智能创建者、监测者与使用者之间追责。创建者是否了解用户的需求及差异并基于善良的动机设计教育人工智能产品？是否存在任何形式的伤害或歧视？是否具有安全性、可靠性和透明性？监测者是否确保决策安全、合理、公平？是否能够根据存在的问题提出相关的改进策略及建议？是否具有其作為监测者的职业修养及道德规范？使用者是否能够将其用于善良的目的之中？是否能够做到及时反馈？

强人工智能以及超人工智能具有一定的思维能力，可以突破原有设置，学到新的规则。其创建者只是设置了学习规则但并不具有对其绝对的控制力，无法准确判断其产生的具体影响。那么，此时造成伤害的责任归属于谁呢？有学者指出，人工智能不是与人一样的教育主体，对其施以惩罚意义不大[8]。也有学者指出人工智能可以作为像人一样的教育主体，需要承担一定的责任和义务。例如，“索菲亚”是历史上首个获得公民身份的机器人，机器人成为公民意味着拥有权利和义务，并承担一定的道德责任[9]。

（五）教育人工智能应用场景能否保障教育公平？——公平性审视

教育公平是人们不受各种因素的限制，享有同样的受教育的权利。教育人工智能应用场景的初衷是让更多师生受益，避免教育不公平问题。首先，值得肯定的是，能够通过人工智能技术获得地理信息、教育背景等开放数据，实现教育资源精准投放、按需分配，打破时空的限制，能够为偏远地区、教学资源不充足或有特殊需求的学生提供相对公平的教育机会，促进优质教育资源全覆盖。但是，值得我们思考的是，开发的教育人工智能应用场景能否带来更多的教育公平？算法的黑箱以及信息的不对等是否会加剧数字鸿沟等现象？

三、教育人工智能应用场景的审慎应对

教育人工智能应用场景的本质在于教育教学与人工智能进行的深度融合，应在重视教育本质的基础上抑制技术的“恶”，弘扬技术的“善”。审慎应对教育人工智能应用场景需要多个层面协同完善，研究通过对教育人工智能应用场景进行审视，从政府、教育组织、产业组织以及个人四个层面，提出如下审慎应对的策略。

（一）政府层面：强化顶层设计

教育人工智能应用场景面临着公平、隐私、透明和偏见等诸多问题，为解决教育人工智能应用场景的现存问题，政府是强化顶层设计的重要推动力量，引领着教育人工智能应用场景的发展方向。在制度层面，政府决策部门应采取人文主义方法，制定教育人工智能政策的系统远景和战略目标，加强人工智能素养教育[10]，弘扬技术的“善”，确保在教育中包容、公平地使用人工智能;在机制层面，教育人工智能技术存在信息茧房、算法偏见等现象，为提高人们对知识产权保护、侵权责任认定以及数据财产保护的意识，应设置公平、透明的研发机制，改善技术的评估标准，提高过程的主动性，建立符合伦理的行为规范。

（二）教育组织层面：明确教育需求

教育组织是教育能否得到落实的重要保障，是教育人工智能场景应用与推行的实施者。将人工智能应用于教育时，教育组织需要明确教育与技术的关系，明确教育现状与教学需求，不盲目跟风。教育者有必要在“允许人工智能技术进入教育时，睁大眼睛看它的利弊”，受教育者需要树立正确的技术观，教育主体应始终保持高度警惕，思想不被技术所裹挟，杜绝教育过程中出现人工智能歧视等现象。同时，教育人工智能应用场景要回归并坚持教育的育人功能，遵循技术向善功能，并在教育人工智能应用场景的全过程中凸显人的主体性精神，彰显人文价值[11]，避免因技术至上的侵蚀而造成教育目的的偏离，确保教育人工智能以学习者为中心，可通过围绕教师的日常教学实践开展试点研究，使教育人工智能应用场景促进教学，而非取代核心教师智能。

（三）产业组织层面：明确权责归属

在开发教育人工智能应用场景中，产业组织作为重要的实施主体，为教育人工智能产品市场化和经济化做出了巨大贡献。但产业组织在注重经济效益的同时，也须谨记自身的社会责任，明确自身的创新发展路径，能够了解用户的需求及差异并基于善良的动机设计教育人工智能产品，避免任何形式的伤害或歧视，避免产权纠纷与权责交叉，落实信息安全主体责任，决不实施过度采集用户信息、窃取与出卖用户个人隐私等违法行为，确保教育人工智能产品具有安全性、可靠性和透明性。此外，各产业组织应当加强沟通和联系，推进信息的互联、互通和共建、共治、共享，与教育组织积极合作，深入了解当前教育人工智能产品的现实需求与技术难点，提高教育人工智能应用场景水平，减少在应用场景中可能引发的伦理问题，将更多有益于人们的“善的东西”“符合伦理道德的东西”赋予教育人工智能应用中，以促进其健康发展。

（四）个人层面：提高信息素养

在不远的将来，充分运用人工智能，让自我以及群体的学习能力提升变得非常重要。人工智能以自我学习、机器学习、深度学习的方式不断完善，个人如果无法理解人工智能、算法和数据，将更加难以看懂未来社会发展趋势，难以融入未来社会，进而逐步失去对未来社会再创造的能力。因此，在应用教育人工智能的同时，每个个体都需要具备一定的信息安全意识、良好的信息素养。第一，个人可通过正规渠道学习人工智能专业知识，提升人工智能素养教育，掌握人工智能基础知识，提高计算思维能力，树立人工智能社会责任意识;第二，个人在获取教育人工智能服务时应提高对知识产权保护、侵权责任认定以及数据财产保护意识;第三，个人应提高自身的法律意识，当发现个人数据被用于非法情景时，要敢于拿起法律武器保护自己。

[1]BORKO H.Artificial Intelligence and Expert Systems Research and Their Possible Impact on Information Science Education[J].Education for Information，1985，3（2）：103-114.

[2]MINSKY M L，SINGH P，SLOMAN A.The St.Thomas Common Sense Symposium：Designing Architectures for Human-level Intelligence[J].Ai Magazine，2004，25（2）：113-124.

[3]张坤颖，张家年.人工智能教育应用与研究中的新区、误区、盲区与禁区[J].远程教育杂志，2017，35（5）：54-63.

[4]权国龙，顾小清，汪静.人工智能教育应用的视觉交互“赋能”效应研究[J].开放教育研究，2021，27（4）：111-120.

[5]李芒，张华阳.对人工智能在教育中应用的批判与主张[J].电化教育研究，2020，41（3）：29-39.

[6]谭维智.人工智能教育应用的算法风险[J].开放教育研究，2019，25（6）：20-30.

[7]王旦，张熙，侯浩翔.智能时代的教育伦理风险及应然向度[J].教育研究与实验，2021（4）：34-39，96.

[8]叶良芳.人工智能是适格的刑事责任主体吗？[J].环球法律评论，2019，41（4）：67-82.

[9]謝洪明，陈亮，杨英楠.如何认识人工智能的伦理冲突？——研究回顾与展望[J].外国经济与管理，2019，41（10）：109-124.

[10]徐蕊玥，梁昊楠，周琴.人工智能赋能教育变革：国际经验与未来展望[J].数字教育，2021，7（3）：21-26.

[11]罗万丽，王蕊，范荣.人工智能在教育领域的应用探析[J].数字教育，2018，4（6）：79-82.

（责任编辑 孙兴丽）

The Application Scene of Educational Artificial Intelligence and Its Rational Examination

LOU Fangyuan，GAO Zhen，WANG Juan

（School of Wisdom Education，Jiangsu Normal University，Xuzhou，Jiangsu，China 221116）

Abstract： Various countries pay high attention to the application research of artificial intelligence in the field of education，but most of them carry out artificial intelligence from the perspective of technology and neglect the cultivation of the essence of education.To design a strategy to effectively cope with the problem initiated by the application scene of educational artificial intelligence as soon as possible has become an entirely new and important proposition of times.Firstly，this article has defined related conceptions like educational artificial intelligence， etc.，stated related application scene of educational artificial intelligence;secondly，this article has done a rational examination to the application scene of educational artificial intelligence;at last，this article has put forward related strategy like prudent response from four levels like government，educational organizations，industrial organizations， and individuals，hoping to provide thoughts for the solving of problems initiated by the application scene of educational artificial intelligence.

Key words： educational artificial intelligence;application scene;ethic;examining strategy