教育应该怎样智能化

随着科技的快速发展，以人工智能为代表的新技术正在迅速渗入教育领域，给教育教学带来了变革与创新。但与此同时，由于人们对人工智能的认识尚不全面，对人工智能应用的边界尚不清晰，也面临着过度使用技术所产生的一系列伦理道德问题。

一、人工智能教育应用曾引发的争议

不久前，美国高等教育信息化协会（EDUCAUSE）对人工智能在高等学校中的应用进行了调研。结果显示，人工智能已被广泛用于监测学生及其学业表现，但它们也对学生产生了较大的负面影响，并因侵犯学生隐私而引起争议。同时，该调研报告在“问题与挑战”部分认为，“与人工智能使用相关的伦理道德问题对人工智能的实施构成了重大挑战”^[1]。

在国内，近年来也不乏人工智能应用引发的争议事件。

事件一：2018年，浙江省某中学启用了国内首个“智慧课堂行为管理系统”。该系统通过安装在教室里的组合摄像头定时捕捉学生的面部表情和动作，并将学生表情和动作划分为高兴、反感、难过、害怕、惊讶、愤怒和中性7种，以及阅读、书写、听讲、起立、举手和趴桌子6种动作。经统计后生成学生的课堂专注度数据，当学生的负面表现达到一定分值，系统就会提醒任课教师采取相应的管理措施。该系统启用后引发网络热议，遭到众多网民及媒体的批评^[2]。

事件二：2019年，贵州省某中学的800多名学生穿戴了植入芯片的“智能校服”。该校服可以随时定位学生的位置，并将其每天进出校园的次数发送给教师和家长。若学生在未经批准的时间段离校，“智能校服”就会发出警报声。该校校长称，“智能校服”是为了防止学生失踪或逃学，引入“智能校服”后，学生出勤率显著提高。但学生普遍表现出强烈的抵触心理，引发网络热议^[3]。

事件三：2019年，浙江省某小学引进了“注意力监测头环”。学生戴上该头环后，传感器就能通过检测到的学生脑电波判断其注意力是否集中，上课专注就亮红灯，上课走神就亮蓝灯，并且转化为“注意力分数”发送给教师和家长。虽然这款智能头环的研发方表示，该设备只是“训练学生提升注意力的仪器”，不会对学生实施监控。但由于该事件引发舆情，当地教育局只好停用^[4]。

……

不难发现，上述事件的共同点是，学校在将人工智能相关产品应用于教育教学之前，未进行充分的伦理道德评估及公众态度研判。当出现舆论风波时，学校又不知如何应对。如此应用人工智能，学校师生不仅无法充分享受新技术带来的诸多便捷，反而对人工智能教育应用造成了负面影响。

人工智能进入教育领域，本是一件可能给教育教学带来变革的好事，却在现实中遭遇如此波折。这不禁让我们思考：作为教育工作者，我们应该采取何种策略，才能避免上述负面事件发生呢？

二、人工智能教育应用应进行伦理道德审查

当前，我们还处在人工智能进入教育领域的起步阶段。在此阶段，人们更关注技术本身的研究，而对人工智能可能带来的伦理道德风险缺乏深刻认识和防范意识，因而造成了上述负面事件。面向未来，人工智能大面积进入教育领域将成为不可阻挡的趋势，防患于未然，为人工8prEtnjU9l7s419aVwmfoBVBGr4BEKHfCdEPlEroaR0=智能应用装上伦理道德的“防火墙”已刻不容缓。

首先，我们应尽快完善教育人工智能伦理的原则、框架与具体细则。在涉及教育、教学的人工智能项目或技术方案的审核中加入伦理审核，有条件的地区可将伦理审核机制化。关于教育人工智能的伦理道德原则，目前尚无权威的理论框架。但人工智能自身的伦理原则研究成果甚多。2017年，国际电气与电子工程师协会（IEEE）发布了《符合伦理的设计：人工智能及自主系统最大化人类福祉的愿景（第二版）》，提出了“人权、福祉、问责、透明、慎用”五个核心伦理原则。2019年，欧盟委员会发布了《可信赖的人工智能伦理准则》，提出了“尊重人类自主性、避免伤害、公平、可解释性”等原则^[5][6][7]。2019年，国家新一代人工智能治理专业委员会发布了《新一代人工智能治理原则——发展负责任的人工智能》，提出了人工智能治理的框架和行动指南，包括了“和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作和敏捷治理”八大原则。

其次，区域或学校的技术管理机构应设立伦理委员会，负责教育人工智能项目的伦理审查。尽管这些人工智能伦理原则并非针对教育领域提出，但同样有着很强的借鉴意义。我们可以将其与教育伦理的相关原则结合，提出人工智能教育应用的伦理原则。笔者认为，教育人工智能伦理应主要包含以下原则：（1）人工智能的应用应使学生获得更好的教育，提升学习质量，促进全面和谐发展;（2）人工智能应用于教育教学的目的、过程须事先明确告知学生和家长，以保障学生和家长的知情权;（3）人工智能的应用必须保障所有学生都被公正、平等地对待;（4）人工智能的应用不得损害学生的身心健康;（5）人工智能的应用应保护学生隐私不受侵害;（6）建立对应用人工智能造成负面影响的责任人进行追责的机制。

在完善了教育人工智能伦理原则后，有必要建立人工智能伦理审查机制。伦理道德审查依据相关伦理原则，在不受干扰、影响的前提下，独立审查相关项目、产品是否符合伦理要求，确保使用者的安全、使用者的权益受到保护。在国际上，伦理道德审查是人工智能应用的一道必经“门槛”，Google、Lucid AI、微软等大型公司都拥有自己的“伦理委员会”，使得基于人工智能的伦理道德审查制度化。2021年7月，科技部发布了《关于加强科技伦理治理的指导意见（征求意见稿）》，要求完善科技伦理监管制度，建立科技伦理（审查）委员会。笔者建议，有条件的地区可以成立“伦理委员会”，由相关专业人士组成，将伦理审查制度化。

最后，人工智能伦理知识应纳入学校管理者、教师的教育技术培训体系中。我们应加大人工智能伦理的培训力度，将人工智能伦理作为学校管理者和教师教育技术培训的重要内容。让学校人工智能应用的参与者具有伦理意识，知晓伦理原则，才能为学校的教育人工智能创设安全、健康的应用环境。

三、人工智能教育应用应做好公众态度研判

那么，符合了伦理道德要求的人工智能应用就不会引发问题了吗？事情依然没有那么简单。以本文前述的“事件三”为例，按照产品研发方的说法，“注意力监测头环”的应用初衷只是尝试提升学生的注意力，并无监控意图，似乎并未触及伦理道德的红线，却仍然引发了舆论的轩然大波。近年来，一些出于学术研究目的的人工智能应用，虽然符合伦理道德要求，也同样引发了人们质疑。

其实，这是由不同角度的认知差异造成的，即科学认知与公众认知的差异。对于人工智能教育应用而言，专家、教育工作者对人工智能的认知以及所做出的伦理判断都是在科学层面上进行的。但不论科学上的结论多么严谨，公众也未必认同和接受。

因为，公众认知是从切身利益出发的，他们更关心的是孩子的身心健康以及是否受到了尊重。首先，人们会对那些有可能危害孩子安全、健康，或造成不良影响的科技持排斥态度，甚至零容忍。这从近年来社会对手机、游戏等的排斥可见一斑。正因如此，即使某个产品从科学角度看已经足够安全，公众也会本着“宁可信其有，不可信其无”的态度不予接纳。其次，人们还关注孩子是否被公正对待，是否被歧视。从心理学上说，人们总是不希望被监视、被监控。这导致了公众对智能监控的相关应用存在天然的排斥心理。在我国发布的《人脸识别应用公众调研报告（2020）》中，总结了六类人脸识别技术应用争议场景。其中，“运用人脸识别技术收集学生的抬头率、微表情、上课的姿态”在“最无法接受的场景”中排名第二，足见其被公众排斥的程度^[8]。

我们看到，在医学等领域中，伦理审查委员会除了对人工智能主体进行伦理审查外，还会关注该产品是否符合公众利益，以及如何促进公众参与和扩大透明度，最终的结论是在平衡多方主体利益的基础上做出的，这也最大程度保障了研究方和使用方的合法权益^[9]。

人工智能本身是一个科学问题，但人工智能应用于教育领域显然是一个现实问题。既然是现实问题，就不能不考虑相关利益群体的感受和声音。对教育而言，这里的公众就是社会、家庭的声音。所以，学校在推出人工智能教育应用之前，除了在伦理道德上进行严格把关以外，还有必要事先进行一定范围的调研，调研对象应包括学生、家长、相关社会人士等。

只有提前充分做好公众态度研判，才能全面了解公众对人工智能应用的需求、态度和支持度，才能在兼顾各方需求的基础上开展人工智能应用。

四、人工智能教育应用应循序渐进

我们发现，近年来出现的有关人工智能教育应用的舆论风波，几乎都发生在将人工智能产品应用于学生的情绪、情感领域。反观人工智能应用于认知领域的研究，则显然更为成熟。有鉴于此，我们呼吁，人工智能的教育应用不妨先从教学领域入手，正如《教育信息化2.0行动计划》中提及的若干智慧教育实践方向：在线智能教室、智能实验室、智能教学助手、教育机器人、智能学伴等，它们恰恰都回避了学生心理、生理、情绪、情感等敏感领域。

放眼未来，人工智能在教育领域的应用前景无限广阔。但我们同样需要一步一个脚印，凝聚共识，循序渐进。只要涉及人工智能教育应用，就提前做好伦理道德审查和公众态度研判，让这两道“预警机制”为人工智能的应用保驾护航，让人工智能的教育应用叫好又叫座。

参考文献

[1] BROOKS C.人工智能全面走进高校？来看EDUCAUSE的调研[EB/OL]（2021-07-15）[2021-09-17].https：//www.edu.cn/info/xy/xytp/202107/t20210715_2136256.shtml.

[2] 人工智能进课堂引争议有助于教学？边界在哪？[EB/OL]（2018-07-06）[2021-09-17].https：//baijiahao.baidu.com/s？id=160520040 1352258286&wfr=spider&for=pc.

[3] 姜冠群，黄雪琪.热议：“智能校服”进校园[J].中学时代，2019（6）：4-5.

[4] 李雪钦.“人工智能+教育”不可滥用[N].人民日报海外版，2019-12-02（8）.

[5] 杜静，黄荣怀，李政璇，等.智能教育时代下人工智能伦理的内涵与建构原则[J].电化教育研究，2019（7）：21-29.

[6] 邓国民，李梅.教育人工智能伦理问题与伦理原则探讨[J].电化教育研究，2020（6）：39-45.

[7] 张卫.人工智能伦理的两种进路及其关系[J].云南社会科学，2021（5）：21-27.

[8] 付丽丽.《人脸识别应用公众调研报告（2020）》出炉 六成受访者认为人脸识别技术有滥用趋势[N].科技日报，2020-10-19（5）.

[9] 谢小萍，何晓波，张玲希，等.涉及医学人工智能研究的伦理审查要点分析[J].中国医学伦理学，2021（7）：844-850.

（作者系北京市东城区教育科学研究院教研员）

责任编辑：牟艳娜