近十年国内人工智能教育伦理可视化分析

陈 浩，郑如月

（1.西北师范大学教育技术学院，甘肃兰州 730070；2.张家川第三高级中学，甘肃天水 741000）

人工智能教育事关国家安全和未来社会发展，人工智能教育的可持续发展将加快发展伴随每个人一生的教育、平等面向每个人的教育、适合每个人的教育、更加开放灵活的教育[1]。教育信息化在智能时代发展到智能教育新阶段，智能技术与教育深度融合将赋能教育，然而在重视智能技术在教育中深入应用的同时，还应该重视人工智能技术可能带来的伦理问题。2017年，国务院印发通知：“在大力发展人工智能的同时，必须高度重视可能带来的安全风险挑战，加强前瞻预测与约束引导，最大限度降低风险，确保人工智能安全、可靠、可控发展”。[2]对待人工智能，我们仍旧应当保持“乐观＞焦虑”的态度，让人工智能始终服务于我们的工作和生活，形成造福社会、推动发展、助力改革的无尽活力[3]。

一、数据收集

本文依据中国知网（CNKI）数据库，于2020年12月7日分别以“人工智能伦理”或“人工智能教育伦理”“人工智能”和“伦理”为关键词，检索时间为十年，其他检索条件为默认进行文献检索，共检索出2010-2020年期间“人工智能”和“伦理”共92篇、“人工智能教育伦理”或“人工智能伦理”共75篇，共计165篇，剔除与本研究主题不符合、会议论文、通知等文献后，最终得到有效文献94篇。本文基于科学知识图谱分析软件CiteSpace5.6.R3对文献数据进行分析。

二、研究热点分析

（一）发文统计量

在2010-2020年间，关于我国人工智能教育伦理的研究文献数量如图1所示。关于“人工智能教育伦理”研究在2010-2017年间国内研究匮乏，但自2017年起，国内关于人工智能教育伦理研究的文献迅速上升。是因为2017年开始国家高度重视人工智能教育，例如：2017年《新一代人工智能发展规划》的颁发，将其上升至国家战略层面并由此确立了人工智能教育三步走战略目标；在《教育部2018年工作要点》中采取“人工智能+教师队伍建设行动”等政策文件都高度关注人工智能教育。2020年发文量只统计到12月7日，共发表34篇。由此可以看出，我国高度重视人工智能在教育中的应用，并已逐渐认识到人工智能教育伦理的重要性，相信随着人工智能教育的深入应用，未来会有越来越多的学者开始研究人工智能教育伦理相关领域。

图1 国内人工智能教育文献出版数量

（二）关键词共现图谱

在CiteSpace5.6.R3中，将时间跨度（Time Slicing）设置为2010-2020年，时间切片（Years Per Slice）为1，节点类型（NodeType）中选择“Keyword”，阈值（Top N Per Slice）选择为出现频率最高的50个关键词，最终得到由130个节点，180条连线的关键词共现知识图谱（如图2）。关键词是研究主题的集中体现，也是文献内容的浓缩精华，对论文关键词进行分析可梳理出该领域的研究热点[4]。网络节点的中心度是反映节点核心程度的重要指标之一[5]，节点中心性与其关联的关键词成正比。

知识图谱中，关键词出现的越多，圆圈就越大，代表该关键词是研究者普遍关注的热点。由图2可知，我国近十年内“人工智能教育伦理”的研究热点主要是“技术理性”“教育发展”“伦理原则”“高等教育”“伦理道德”等。

图2 国内“人工智能教育伦理”关键词共现图谱

（三）关键词频次及中心度分析

根据我国近十年内“人工智能教育伦理”研究文献中高频关键词及关键词中心度统计（如表1），“人工智能、伦理、人工智能伦理、技术理性、教育发展、伦理原则、高等教育、伦理道德、教育人工智能、伦理问题”排在关键词前十。其中，圆圈最多的“人工智能”词频出现高达76次。不计主题词，从节点中心度来看，中心度最高的为“伦理原则”和“算法”，均为0.4，其次为“伦理道德”为0.39。从关键词词频和中心度来看，“伦理原则”“伦理道德”和“技术理性”在“人工智能教育伦理”中至关重要。

表1 关键词频次、中心度分布

（四）研究热点主题

根据上述分析结果，本研究进行归纳分析出近十年“人工智能教育伦理”的研究主题分别为人工智能教育伦理的问题研究、人工智能教育伦理的原则构建、人工智能教育伦理的教育体系。

1.人工智能教育伦理的问题研究

依据“技术理性、伦理道德、伦理研究、法律风险、算法、隐私”等的研究，从而使得人工智能教育伦理的研究主题形成。近年来人工智能技术不断发展，使教育的方式发生变化，因此更多的专家学者把目光投入到人工智能教育，并研究其所带来的伦理道德问题。黄荣怀等人在技术悖论视角下审视了人工智能应用于教育的伦理困境包括技术滥用引发的不端行为、数据泄露引发的隐私担忧、智能教学机器的身份与权力边界方面[6]。冯锐等人其在教育中伦理风险主要表现在人工智能与教育主体的权利嬗变、算法推荐与学生个性的发展异化、人工情感与人机互动的情感危机、智能感知与教育数据的价值困境这四个方面[7]。邓国明等教育人工智能面临的伦理问题利益相关者伦理问题、技术伦理问题、社会伦理问题三个方面[8]（如表2）。

表2 教育人工智能面临的伦理问题

人工智能的出现将科技与伦理关系问题的研究推向高潮，探索规避人工智能教育伦理风险的策略也正成为教育理论与实践的前沿问题[9]。随着人工智能技术在教育中的应用，引发了教师对职业的担忧，主要担忧是“人工智能的应用是否会真的取代教师？当教师遇上人工智能，究竟会发生什么？人工智能技术出现后，教师真的会被取代吗？人工智能时代，还需要教师吗？”[10]同时还会引发其他一些伦理问题，如：可能会给用户的私人数据和隐私保护带来潜在的风险；模糊教师、学生和人工智能代理等角色之间的界限等[11]。教育的最终目的是育人，人工智能教育应重点关注教师教学需要、学生学习需求，进而实现精准化教学、个性化推荐等，可见人工智能教育的实施，关键在“人”。因此，在人工智能技术赋能教育发展过程中，应该对人工智能技术理性看待，避免唯技术论；同时使用者要有合乎道德伦理、法律法规的意识，注重保护教育数据不泄露、明确教师与学生的主体地位。

2.人工智能教育伦理的原则构建

依据“人类中心主义、信任度、人类自卫者、伦理性创新、伦理决策、伦理规范”等关键词形成人工智能教育伦理的原则构建主题。推进人工智能教育应用的伦理建构，为人工智能教育应用提供伦理支持，不仅是人工智能技术发展的需要，也是教育规律发展的应然要求[12]。2019年4月，欧盟人工智能专家委员会（Artificial Intelligence High Level Expert Group on Artificial Intelligence）发布了《人工智能伦理准则》，该准则以“可信赖人工智能”为愿景，从“人的能动性和监督”“技术鲁棒性和安全性”“隐私和数据管理”“透明性”“多样性、非歧视和公平性”“社会和环境福祉”“问责”这七个方面，来构建确保人工智能足够安全可靠的伦理准则框架[13]。杜静、黄荣怀等人归纳出面向智能教育的人工智能伦理建构模型—“APETHICS”模型，包括问责原则（Principle of Accountability）、隐私原则（Principle of Privacy）、平等原则（Principle of Equality）、透明原则（Principle of Transparency）、不伤害原则（Principle of Noharm）、身份认同原则（Principle of Identity）、预警原则（Principle of Precaution）、稳定原则（Principle of Stability）八大原则[14]。

人工智能教育的应用涉及技术层面、技术与人之间的关系等问题，人工智能教育是人工智能技术及系统在教育领域的具体应用，需要遵循一般的人工智能伦理原则；它又是一种具体的教育教学实践活动，需要遵循教育伦理原则[15]。随着人工智能教育的发展，对人工智能技术的看法、信任度等直接影响其在教育中的应用，必须制定人工智能教育伦理规则，明晰人工智能教育应用的伦理边界[16]。对人工智能具体能做什么和不能做什么的伦理规定不仅符合当前时代背景下人们对人工智能技术理性使用、客观对待的需求，也可以促进人工智能技术与教育的深度融合，加快教育变革。

3.人工智能教育伦理的教育体系

依据“教育发展、高等教育、教育人工智能、教育伦理”等关键词形成人工智能教育伦理的教育体系主题。通过高等教育研究和发展人工智能，是各国政府解决各自技能差距的主要方法之一[17]。《高等学校人工智能创新行动计划》，明确地提出“构建人工智能多层次教育体系。在中小学阶段引入人工智能普及教育；不断优化完善专业学科建设，构建人工智能专业教育、职业教育和大学基础教育于一体的高校教育体系。”[18]我国人工智能教育体系建设目前处于起步阶段，高等教育在自然语言处理、图像识别、计算机视觉、神经网络等关键技术方面具有坚实基础，利用人工智能技术支撑人才培养模式创新在实现教育现代化、提高教育质量等方面具有重要意义。人工智能教育伦理作为人工智能教育体系中重要组成部分，理应受到重视。教育领域开展人工智能伦理教育的相关研究，并有效实施人工智能伦理教育，可有效减少学生在使用人工智能进行学习时可能造成的对他者的伤害，并教会学生妥善处理好自身与另一智能之间的伦理关系[19]。

三、研究发展趋势

（一）聚类视图分析

CiteSpace依据网络结构和聚类的清晰度，一般而言，Q值一般在[0，1)区间内，Q＞0.3就意味着划分出来的社团结构是显著的，当S值在0.7时，聚类是高效率令人信服的，若在0.5以上，聚类一般认为是合理的[20]。在CiteSpace中，将Time Slicing设置为2010-2020年，Years Per Slice为1，NodeType中选择“Keyword”，进行聚类可视化分析（如图3），得到Q值为0.8477，S值为0.7202，可见聚类结构划分是显著且合理的。

图3 国内“人工智能教育伦理”聚类视图

聚类“#0 人工智能伦理”的特征词有“社会伦理、设计伦理、道德算法、道德哲学”等。聚类“#1 人工智能”的特征词有“道德接受者、智能机器人、道德主体、伦理主体”等。聚类“#2 伦理”的特征词有“人工智能、教育发展、高等教育、技术理性”等。聚类“#3 安全可控”的特征词有“伦理规范、人工智能应用、前瞻研究、伦理道德”等。聚类“#4 伦理建设”的特征词有“知识库、伦理建设、伦理问题、大脑模型、人工智能系统”等。聚类“#5 伦理决策”的特征词有“人工智能、伦理框架、治理规则、伦理原则”等。聚类“#6 技术异化”的特征词有“人工智能、智能教育、教育伦理、教育大数据、人机伦理”等。

（二）研究演进趋势

依据国内“人工智能教育伦理”时区视图，通过运用LIR进行聚类，共得到6个聚类。根据聚类的高频词频及文献研读，将研究演进趋势分为：人工智能教育伦理安全、人工智能教育伦理原则构建。

1.人工智能教育伦理安全

该研究演进趋势包含“#0 人工智能伦理”“#1 人工智能”“#2 伦理”“#3安全可控”“#6 技术异化”。人工智能被广泛应用于教育领域的同时，相应地引发了人们对知识产权保护、数据财产保护、侵权责任认定以及机器人的法律主体地位等教育法律法规问题的探讨[21]。用人工智能进行学校管理能提高决策质量、工作效率和治理体系的精细化，但同时也迎来了人工智能潜在“不可知、不可控、不可用和不可靠”的挑战[22]。人工智能教育要在安全可控的范围内应用，教育的目的是培养社会需要的人，技术在教育中仅仅只是为了促进教育的发展，技术使用者要重视学生以及教师的地位，不能为了技术而技术。可见，人工智能教育伦理安全的研究能够更好地促进人工智能在教育中的应用，进而赋能教育，实现教育的变革。

2.人工智能教育伦理原则构建

该研究演进趋势包含“#4 伦理建设”“#5 伦理决策”。为解决人工智能发展和应用引发的伦理问题，欧盟已将AI伦理与治理确立为未来立法工作的重点内容[23]。人工智能教育伦理原则的构建可以规范人工智能教育应用更好地赋能教育，企业要在人工智能教育产品开发方面重视算法安全、隐私保护等；高校更应该重视人工智能教育伦理方面的教育；政府应完善相关法律体系来维护公民权益。人工智能教育伦理原则的构建在一定程度上能够规范技术的使用，以防止出现突破道德底线的问题。

四、结语

人工智能技术作为近几年发展最快的技术，其在教育中的应用能够更好地赋能教育，变革教育。基于CiteSpace5.6.R3对2010年-2020年人工智能教育伦理文献进行可视化分析，发现国内人工智能教育伦理的研究热点主要为“技术理性、教育发展、伦理原则、高等教育、伦理道德”等，以人工智能教育伦理的问题研究、人工智能教育伦理的原则构建、人工智能教育伦理的教育体系等为研究主题。然而人工智能教育伦理的研究近几年来较为缺乏，具体体现在我国相关政策法律法规还不健全、使用者缺乏相关保护意识、相关教育不全面、研究不深入等。人工智能教育伦理的研究可以让人们更加明确人工智能技术在教育中应该注意的问题，合乎伦理道德的使用相关技术，以此避免出现不符合伦理道德的问题，进而实现技术的使用出现“1+1＞2”的效果。