智能化教学之下的伦理忧思及其化解

朱炜

摘   要： 人工智能技术在教学中的应用正受到国家层面政策的大力推动。智能化教学具有促进个性化学习和丰富教学过程构成的优点，但在技术主义观念，以及全球化背景下国家间教学质量竞争加剧的影响下，其面临的伦理风险也应受到重视。这主要表现在教学的伦理形式（师生关系）与伦理实质（师生利益）两方面可能受到损害，为此提出相应的风险化解之策，包括在认识上坚守教学的伦理精神，在实践上维系师生伦理关系，基于伦理规范维护师生的相关利益等。

关键词： 智能化教学;伦理风险;化解

传统教学伦理主要体现在教师与学生这两类主体的关系，以及他们所构成的直接的教学交往过程中。但是近年来，随着跨媒体、虚拟现实、大数据等智能技术在教学活动中应用的拓展与深化，出现了新的教学形态和方式。甚至有学者认为，人工智能的创新性应用，“冲击和改变了整个教育系统生态和教育秩序，尤其是教育文化、教育中的人伦关系、教育结构和教育价值等诸多方面”。1 显然，对这种改变的关注已不限于如何代替教师有针对性地指导学生学习的技术范畴，还包括可能影响师生生命体验、人性交融的情感与价值领域。可以说相关的伦理议题，已成为能够决定智能化教学未来走向的重要因素。

一、智能化教学及其特点

尽管科学技术是人类劳动对象化的产物，但是它的力量又常常使人类感到惊异，甚至震撼。当很多教师还在感叹于计算机、多媒体及网络技术极大丰富了教学媒介和手段的时候，基于大数据、云计算、物聯网等智能技术的教育“新势力”已悄然“进场”，在线教育平台、教学机器人、专家知识系统等得到了现实应用。如在线教育，已经成为不少国家开展教育活动的重要形式。在全球化背景下，技术迭代所引发的竞争更加激烈，教育也难以置身事外。近年来各国政府纷纷出台政策以推动人工智能技术在教育中的应用，我国国务院于2017年7月发布了《新一代人工智能发展规划》，提出：“利用智能技术加快推动人才培养模式、教学方法改革，构建包含智能学习、交互式学习的新型教育体系……开发立体综合教学场、基于大数据智能的在线学习教育平台。”2 2019年5月，习近平主席在发给国际人工智能与教育大会的贺信中也指出：“积极推动人工智能和教育深度融合，促进教育变革创新，充分发挥人工智能优势，加快发展伴随每个人一生的教育、平等面向每个人的教育、适合每个人的教育、更加开放灵活的教育。”1 可以说教学的智能化，是近年来教学创新的主要特征，也是教学变革的重要趋势。

智能技术的机理在于模拟人类的逻辑思维，其功能则是代替人类从事某类活动、解决某种问题。目前应用于教学的智能技术主要是以下两类2：一是智能导学系统（Intelligent Tutoring System，缩写ITS），代替教师对学生进行个别化指导，比如北京师范大学余胜泉教授等人开发的“AI好老师”、美国麻省理工学院的Tega教育机器人等，此类系统一般分为专家知识、学生模型、导学三大模块;二是适应性学习支持系统（Adaptive Learning Support System，缩写ALSS），能够依据课程内容为学生定制适应性的学习路径及资源，比如松鼠AI自适应学习系统，这一过程一般经过用户建模、学习资源配置和学习路径推荐三个阶段。

目前智能技术在教育中的应用之所以如此引人瞩目，是因为它“正带来教学环境、教学法和学科知识表示的全方位变革”。3 其对于教学的积极意义在于以下方面：一是推动差异教学，促进个性学习开展。智能技术通过收集学生个人及学习行为的信息，运用一定的算法规则进行大数据分析，可推测出每位学生的学习需求、学习偏好以及学习风格，据此从海量的相关知识资源库中为学生定制特定的学习内容，并向其精准推送。在这种情况下，每位学生所接触的是适合自己的学习内容，这显然对提高其知识掌握效率有积极意义。二是丰富教学过程构成，增强学生学习体验。虚拟现实（VR）、增强现实（AR）及跨媒体等智能技术的应用，使得课堂环境立体化、多维化，能够在教学活动中强化学生感官的全面与深度介入及其和思维操作的融合，有利于教学生成性目标和表达性目标的实现。三是代替教师工作，简化教学流程。智能教学系统能够进行自动出题、自动批改作业、自动诊断学生学习问题等教学任务，并且能够帮助教师整理资料、备课，以及简化教学准备和总结等工作流程。4这就能促使教师在一定程度上从繁琐、机械的教学工作中解脱出来，有更多时间做更复杂、更具创造性的事情。四是改善课堂管理，提高教学效率。将人脸识别技术、镜像技术等应用于课堂教学，可即时识别、收集、分析学生的学习注意力、思维活跃程度、学习行为变化等情况，并反馈给教师，教师据此可更有效地做出课堂管理行为，给予学生适当的指导，促使学生更好地投入到教学过程中。尤其是教师能够在电子设备上观察到以往难以发现的学生的“无形”的行为，这样就能更全面、更准确地识别、分析学生在个性化学习中表现出的有意义的发展趋势。5

正所谓“凡事皆有利弊”，在教育这样一个人文性浓厚的“领地”，技术的“入侵”必然会引起警觉，甚至有学者认为：“人工智能的深入运用将在本体意义上动摇我们原有的对教育的理解、判断和追求，从而产生前所未有的困惑和焦虑。”6 正如上文所说，人工智能给提升教育教学效能带来了许多机会，但“负面评价也会伴随着出现在人工智能的数据分析领域，这通常指向道德上的潜在危害”。7 故而，我们同样需要指明并防范智能化教学之下的伦理风险。

二、教学智能化可能引发的伦理风险

教师和学生在智能化教学过程中的改变是多方面的，涉及认知、情感和行为。我们在享受技术赋能教育带来各种“红利”的同时，也要具有忧患意识，做到未雨绸缪，谨防陷入“技术陷阱”而使教育受到损害。教学是以人（教师）育人（学生）的过程：一方面，其道德内涵有助于确立并实现培养学生全面和谐人格的教育目的;另一方面，一定的道德标准也是衡量教学过程正当与否的重要尺度。因此，教学的伦理之维是除了智识之外，认识、理解其存在与发展变化的基本向度。对智能教学予以伦理审视，探究其可能的伦理风险，可以从伦理形式（人伦关系）和伦理实质（相关者利益）这两个层面展开。

1.在伦理形式上，教学智能化可能解构传统师生关系

伦理，在其现实意义上，是以人际关系为主要形式而体现出来的道德秩序，师生关系是教学过程的基本人际关系，智能技术在教学中的应用对这一关系可能带来以下风险：

一是消解教学主体的风险。传统上，师生伦理关系源于教师与学生两者都作为主体的教学关系。对教师而言，其主体性体现在具备自身的教学观念，主导教学的内容、组织、过程及评价等方面;而且教师的专业发展，是作为教育者的主体意识并在此主导下自主地提升其专业素养和能力的过程。对学生而言，其主体性体现在对自身学习需求、兴趣的觉知，积极、主动、创造性地投入学习活动，同时自主进行心理建构方面。师生良好的伦理关系，一方面，是他们各自作为主体在言语和行为的互动过程中形成的;另一方面，又促使他们在道德情感的体验中深化自身对于主体性角色的理解，从而在教学工作和学习活动中发挥主体作用，并提升师生教学关系的层次。然而，在智能化教学之下，教师和学生可能不知不觉地将这种主体权利让渡给智能机器。首先，智能技术的迅捷性和准确性让教学变得简洁高效，这就容易使教师产生对机器的依赖感，甚至丧失自己对于专业能力的自信，导致自己的专业敏感性和主观能动性的退化。其次，由于数据搜集的瞬时性，数据仅能体现某个人在特定时间、地点的表现，基于历史数据对学生或教师进行分类是不完整且容易出错的。1 身份特征是由学习、工作、交往等多维度构成的复合体，一种数据检测下形成的判断并不能代表完整的个体，学生和教师身份多元化的丧失使师生之间的知识教学、情感互动等多元关系局限在智能机器基于数据分析的单一引导之下。此外，学生在智能系统根据算法规则专门投其所好进行教学“投喂”之下，容易产生思维和行为的惰性，失去学习的积极性和自主权。在以上这些情形下，“师生交往看似是人与人的交往，实则是数据与数据、算法与算法之间的交往，消弭了师生交往的生命之维”。2 显然，智能技术对于师生主体性的冲击，也必然威胁他们伦理关系的维系。

二是弱化师生伦理性交往的风险。智能化教学之下，教师的一些工作将被智能系统或机器人所取代，比如对学生进行个别辅导、出题、批阅作业、学习诊断和评价等，教学关系在一定程度上由传统的人与人之间的师生关系，演变为“教师—智能机器—学生”的关系，至少在一些教学交往场合，学生面对的是机器，而不是教师本人。与教师具身交往的减少，势必弱化学生关于道德性、情感性和精神性的体验。顾明远先生认为：“教育的本质可以概括为：提高生命的质量和提升生命的价值。”3 人的生命性，不仅仅体现在其知识水平和认识能力上面，包括情感、道德、信仰、性格等亦都是构成完整生命的重要组成部分。传统上伴随教学过程，教师在和学生的直接交往中，通过言传身教，能感染学生的向善之心，培育他们的良善之情，引导他们的扬善之行。但是，由于智能技术的介入，这种基于爱和关怀的伦理关系受到侵蚀的威胁。2019年浙江省金华市某小学给学生佩戴监测头环引发广泛关注，该头环能监测学生上课时的注意力情况，产生的数据会实时上传到教师手机，以便其迅速做出反应。显然这使得教师与学生的具身交往在一定程度上受到智能设备的阻隔。

2.在伦理实质上，教学智能化可能损害师生利益

从辩证唯物主义观点来看，人的利益构成了伦理本质的规定性。马克思指出：“感性的印象和自私的欲望、享乐和正确理解的个人利益，是整个道德的基础。”1 我国伦理学家罗国杰也主张：“离开了利益，就无从了解道德的产生和发展，道德的性质、不同类型和社会作用。”2 据此可以认为，一定的利益格局被打破，致使其中一部分人的利益受损，则是触及伦理实质的问题。教学过程中智能技术的應用，有可能使原有的利益关系发生变化，从而动摇教学的伦理基础。

一是侵害学生和教师个人隐私的风险。智能教学系统要实现对个别学生学习资源和路径的精准推送，就必须先对该生的学习需求、学习偏好与学习风格做出准确分析和判断，这就需要以该生的个人信息为基础，包括生理特征、学籍档案、思维风格、认知能力、学习基础以及学习习惯等。这些信息被收集并贮存于联网计算机、实体服务器甚至云端服务器中。这些设施一旦管理不善或者受到黑客入侵，学生的个人信息就可能外泄，从而使得他们的隐私受到侵害。不仅如此，智能系统为与教师相协调，以便更好地做出教学决策、建构虚拟教学环境，需要收集教师的工作风格、教学行为等信息，这使教师的隐私也处于被泄露的风险之中。以开发、生产和销售智能教学系统的教育科技公司为例，它们往往把企业利润和股东回报作为首要目标。这些公司推出的用于教育和儿童服务的商业产品掌握着个人信息与技术使用。虽然商业利益和教育的公益价值可能相一致，但在利润最大化的动机驱动下，这些公司所搜集的个人信息，尤其是儿童的“心智、精神、情绪和情感状态”等数据可能被商品化，用来改善公司产品、创造竞争差异，甚至为课堂外的业务提供服务。3 无论是科技公司出于营利目的主动泄露数据，还是由外部因素导致的被动侵害，在没有相关隐私保护政策法规出台的情况下，都导致学生和教师的私人信息很难得到有效的保护。

二是削减弱势群体受教育权益的风险。技术必须借助一定的仪器设备才能发挥作用，一般而言，越复杂高效的技术，就越需要精密高端的设备，这就使得经济条件成为开展智能化教学的重要因素。我国目前的实际情况是，地区间社会经济发展差异大，居民家庭间的收入差异也大，这就导致智能教学系统所依托的硬件难以在所有地区的学校和所有学生家庭中得到同等配置。2020年上半年，我国为做到“停课不停学”，在全国范围内开展线上教学。由于网络信号和电脑设备等原因，少数学生难以获得完全或稳定的教学服务。在此期间，湖北省五峰渔洋镇一年级学生柯某“在案板下上网课”这一情景曾引发很多人的热议和感慨。由于技术设备的“准入门槛”所限，致使一部分学生无法得到同等教育资源，这势必引发新的教育不公。“教育工作中的技术运用，应该以促进平等、降低壁垒而非拉大差距、挤压弱势为出发点，不能‘不知不觉地’对学习者的受教育权、成长发展权形成侵犯、剥夺。”4

公共领域中相关者的利益受损，往往会引发伦理问责。教师相对学生而言掌握着教学的主导权，这就意味着他应当承担相应的道德责任。理论和现实都可以证明，学校和课堂存在一定的负效应，而教师因举止不当、行为失范使学生受到伤害是其中不容忽视的一种表现，比如体罚、辱骂学生、对学生不公等。一旦碰到这种情况，很明显，谁有违师德，谁就背负道义责任。很多国家明确颁布了教师专业伦理规范，其实就是给教师定规矩、明责任。但是，当智能技术取代教师行使教学主导权后，一旦发生“事故”，损害了学生的尊严、人格或心智发展，该由谁承担责任？比如，在识别、收集信息转换成数据时出现失真甚至完全错误，那么将据此分析出来的结果作为教学决策依据显然就不可靠。再比如，在制定算法规则时，对某类学生群体的无意偏见可能导致对该类群体做出不当的教学诊断与评价。而在目前关于问责的法规体系中，还没有如何处置智能机器“行为失当”的应对措施。如果这种情况发生，该问责教师、学校，还是算法编写人员，又或是定制、提供系统的厂家和商家？

综上，无论在伦理形式还是伦理实质上，智能化教学均存在一些道德风险。教学不仅是知识授受的活动，它还是一项道德的事业，正视其在发展过程中的伦理问题并予以妥善应对，无疑有助于更好实现教学目的，促进学生全面而良好的发展。

三、智能化教学之下化解伦理风险的对策

智能技术本身无所谓善恶，在其被人为应用于教学中，改变了这一活动原有的伦理关系和利益格局，才受到道德的审视。近些年来，教学智能化越来越受青睐，其背后是有一些因素推动的，比如，技术主义“情结”使不少人认为，课堂教学的革命性进步主要取决于技术的迭代更新，而几乎所有的技术都聚焦于学生的学习能力，在这方面取得的成效又反过来强化了技术的“魅力”。此外，全球化背景下出现了衡量教学质量的通用性“标准”，最有代表性的莫过于经济发展与合作组织（OECD）主导的PISA（国际学生评估项目），通过测试各国初中生由其规定的能力和素养，“生成比较数据来推动各国教育政策按照自己中意的方向前进”。1 在这种情况下，智能技术自然被看作是提高学生测试科目（数学、科学和阅读）解题能力，进而提升国家在全球基础教育中的竞争力的利器。而以人力资本理论为基础建构起来的能力框架，难以覆盖学生的全部素养，尤其是那些与“面向人性解放与生命尊严的崇高价值”2 有关的品质。可以说，正是智能技术应用的热潮，驱动了“教学中伦理受到遮蔽”这一忧虑的产生。智能技术在教学中的应用是目前教学改革的重点，也是教育发展的重要趋势，这是毋庸置疑的。我们要做的是正视智能化教学所面临的伦理挑战，及早提出、落实并完善应对之策，真正做到智能技术深度融合于教学之中，使其能最大限度地赋能教育。

1.固守教学的伦理精神，明确智能技术的应用限度

对于智能技术在教学中扮演怎样的角色、发挥怎样的作用、怎样发挥作用，应该有一个基本的认识，这甚至触及教育的本质问题。教育是出于人、为了人、完善人的社会实践活动，教育的本质在于对人的生命价值的维护、彰显和提升。作为教育基本形式的教学，“是个多维存在，不仅具有科学性、艺术性，还具有伦理性，且伦理性之于教学具有首要性，教学是立于科学达于艺术之伦理性活动”。3 智能技术作为一种外部力量改变教学的原有形态和方式，应以不损害教学的伦理精神为限，因为“在本体论意义上，人不可按照物化的方式被对待，人的心智、心灵品质无法被数据估算，人的生命价值不应当被估算”。4 目前来看，智能技术对学生的心智、品质培养起到的作用的确有限，因为学生的品格与性情很难通过学习“尊重”“诚实”“优雅”等抽象的规则加以塑造，而是在运用诸如“做得很好”“太顽皮了”“他做错了”等具体切实的道德判断中形成的。5 这就需要教师融入学生的生活环境，将主流规范内化为自身的道德人格去教育和影响学生。在现有弱人工智能状况下，智能教学系统无法建立起众多与人类相似的真实情境，进而介入学生情感和价值观领域发挥教育作用。在秉承这一基本认识的前提下，应明确智能技术的运用条件，划定其应用范围和限度，使其在目前复杂的教育环境中对教学进行“赋能”和“增值”的同时，不背离教育本质，不损害教学伦理。

2.教师珍视教学主体权利，维系师生伦理关系

智能技术能在一定范围内和一定程度上代替教师从事一些教学事务，而且具有准确性、高效性特点，但教师须知：一方面，智能技术针对并试图解决的主要是学生的知识学习问题，然而，认知水平和能力的发展远远不是学生发展的全部，作为“未完成的人”，学生尚有道德、审美、情感、社会交往态度与能力等方面有待成长，智能技术在这些方面还无法替代教师的作用。大多数教师所运用的信息技术实践是基础性的1，也就是将技术“添加”到现有的课程中，而那些与认知发展有关的人格因素，比如好奇心、探究欲、意志力等，智能技术能施加的影响则是非常有限的。另一方面，教育是一项追求“善”的事业，培养学生成为行善而利他、因善而幸福的人，也是教育的重要目的，而智能技术本身并无善恶之分，关键还是取决于人如何运用它。我们现在所知的一些智能化教学之下学生受到伤害的事例，主要还是人对技术的误用、滥用或使用时不考虑后果导致的。虽然人工智能对每一位学生都有相同程度的同理心和耐心，这在一定程度上使学生免于教师潜在的偏见，以及产生学习疲倦，2 但是教师不应因此而丧失自信心和主观能动性，反而更应该坚守自己作为教育者的主体角色，不向智能系统让渡自己的主體权利，明确师生间的伦理关系才是教学关系的本质，真正担负起对学生的道德责任。

3.建立智能技术应用于教学的伦理规范，维护师生相关利益

从操作层面讲，为智能技术在教学中的应用制定一套伦理规范，是制约其被过度和不当使用，引导其发挥积极作用的可行之道。近年来，经济合作与发展组织、美国计算机协会（Association of Computing Machinery，缩写ACM）、谷歌公司（Google），以及知名劳动力市场分析公司Burning Glass Technologies等机构，都发布了人工智能的伦理准则和指南，确保人工智能以负责任的方式发展，融入了透明、负责、公平与正义以及隐私保护等道德价值观，内容涉及或涵盖了教育行业。3 2019年5月联合国教科文组织在首届“国际人工智能与教育大会”上通过的《北京共识——人工智能与教育》中也指出：“采纳合乎伦理、注重隐私和通过设计确保安全等原则的重要性……制定全面的数据保护法规以及监管框架，保证对学习者的数据进行合乎伦理、非歧视、公平、透明和可审核的使用。”4 因此，国家和地方教育管理机构应尽快着手制定相应的伦理规范：一方面，应将智能技术应用所涉及的一系列伦理问题纳入这一规范体系，尤其是教学领域;另一方面，应充分听取利益相关者，包括教师、学生、学校管理者、教育专家及智能技术专家的意见建议，在取得广泛共识的基础上制定相关伦理规范。与此同时，考虑到相关规范的更新速度可能高于其他领域，应建立相应的问责与审查制度，以保持这些伦理规范实施的稳定性。例如在学校内部，数据安全由信息技术部门负责，通过确定责任主体，对智能技术应用过程进行伦理审查并确定责任范围。5

4.教育学生正确处理与人工智能的关系，培育其应用智能技术的正确态度

智能技术的作用对象是学生，其伦理风险也主要体现在学生身上。一方面，儿童、青少年对新事物具有天然的敏感性和易接受性，人工智能所建构的知识呈现界面和虚拟教学场景对他们具有强大的吸引力，这容易使学生将注意力更多地集中在教学内容之外的交互图片、动画影像和音响音效上;同时，智能技术靠量化的数据识别对学生进行评价，导致学生更加关注如何“取悦”机器以获得积极的评价，而不是关注课堂学习本身。另一方面，智能设备可以准确记录学生包括举手、打盹等在内的一系列行为。随着互动次数的增加，适应性学习支持系统能够更多地了解学生的长处和短处，这使得本具有高度自主性的个体有一种被控制和暴露的感觉，因此对人工智能产生负面的抗拒情绪。1 伴随着智能化教学过程，无形中会形成学生与智能系统（机器）这一新型关系。那么，是在机器面前丧失自己的独立性和自主权、逃避智能技术的多维度分析，还是能保持清醒的头脑，将智能机器作为促进自身学习的伙伴和助手，这取决于学生能否正确分辨和处理与人工智能的关系。目前已出现“人工智能商数”（Artificial Intelligence Quotient，缩写AIQ）这一概念，其既包括利用智能技术的能力，也包括与智能机器沟通协调、彼此友好相处的能力。学生对于人工智能的认知能力源于现实生活和虚构故事中的经验，并基于此确立对人工智能的信任程度，那些了解人工智能的功能和优势的用户会更加信任人工智能，而意识到人工智能潜在风险的用户会对此更加谨慎。2 因此，对教育者来说，自己在合理、正当地运用智能技术的同时，还应帮助、引导学生建立起对人工智能的正确态度，处理好他们与人工智能的关系，使智能技术能在真正意义上促进学生的发展。