推动人工智能向善发展：教育与人工智能共同的责任

吴永和 吴慧娜 陈圆圆 周澍云 周子皓 肖玉敏 倪琴

摘要：人工智能的迅速发展正深刻改变人类的生产方式、生活方式和学习方式，对教育产生深度影响，而现阶段生成式人工智能工具在教育领域广泛应用，给教育带来新的道德伦理问题。该文首先从人工智能快速发展引发更加复杂的道德伦理问题和人工智能道德伦理是人类道德伦理价值体系新组成两方面给出人工智能延展人类道德伦理范围。再从人工智能教育应用伦理风险、教育人工智能伦理治理现状、教育人工智能伦理需解决问题等三个层面阐述了教育人工智能应用伦理风险与治理。再次从核心素养培养、规范应用监管、道德伦理框架、技术规范研制等四个维度给出人工智能向善发展的建设路线。最后，给出五条发展建议：加强顶层设计，系统规划总体框架；重视育人为本，创新发展人工智能课程；遵循治理原则，促进技术向善赋能；明确价值准则，助力人机相融共进；加快标准制定，规范教育人工智能实践。以期推动人工智能向善发展，赋能、赋智教育，促进教育数字化转型，构筑智能时代的人类命运共同体。

关键词：人工智能伦理；育人为本；核心素养；应用监管；伦理框架

中图分类号：G434 文献标识码：A

本文系2021年度国家社会科学基金重大项目“面向未成年人的人工智能技术规范研究”（项目编号：21&ZD328）研究成果。

一、引言

人工智能在过去十年中取得了快速而显著的发展，正在越来越多地接管人类任务并取代人类决策，促进效率的提高和成本的降低[1]，然而也带来了许多重大的道德伦理风险。如何应对并解决这些问题，使得人工智能在伦理规范的导向下发展和应用是非常紧迫的。目前全球多个国家已出台了人工智能的伦理原则或指南，联合国教科文组织发布的《人工智能伦理问题建议书》，指出“让人工智能系统可以造福人类、个人、社会、环境和生态系统，同时防止危害”[2]。同年9月，我国新一代人工智能治理专业委员会发布了《新一代人工智能伦理规范》，旨在将伦理道德融入人工智能全生命周期，为从事人工智能相关活动的自然人、法人和其他相关机构等提供伦理指引[3]。尽管人工智能道德伦理已经被多个学科的研究人员广泛讨论，但它仍处于起步阶段，还存在着概念模糊、内容缺失、评估机制与工具不完备等问题。人工智能的两面性更要求我们在大力发展人工智能技术的同时，必须对其进行规范和约束，最大程度发挥其向善的一面。在此背景下，教育领域对人工智能道德伦理的研究至关重要。一方面通过教育，我们可以转变人们的思想观念，拥抱新技术；另一方面我们可以运用人类的智慧和影响力，推动人工智能的发展，实现更良善的社会和伦理价值。基于此，文章立足于构建人类命运共同体视角，提出推动人工智能向善发展的新思路，通过教育和人工智能的融合共生，将人工智能引向正确的道路，再进一步借助人工智能实现科技和社会的可持续发展，为全人类带来福祉。

二、人工智能延展人类道德伦理范围

（一）人工智能快速发展引发更加复杂的道德伦理问题

自20世纪50年代以来，人工智能的发展历程始终与人类的美好愿望紧密相连。最初，科学家们致力于探索如何使计算机具备一定程度的智能，因此研究关注于解决数学和逻辑问题。“早期科学家普遍认为，人工智能与传统计算机程序的本质差别在于它能够进行逻辑推理”[4]，取得突破的主要领域包括定理证明、问题求解以及模式识别等。“人工智能研究者单纯地希望创造出像人类一样，甚至可以比人类更好地执行任务的计算机程序”[5]，然而随着技术的发展和应用的普及，人工智能的发展方向也逐渐多样化，越来越多的研究者倾向于通过让计算机具备类似于人类的认知能力，包括感知、学习、推理、决策等方面，帮助人类完成一些重复性、繁琐、危险或者需要高度专业知识的工作。人工智能的发展逐步涉及到人类对于自身认知和思维方式的探索。

今天的人工智能可以看作机器通过建立在大数据基础上的逻辑推理与感知学习与真实世界互动[6]，在这一过程中，人类可以借助人工智能在广泛的领域提高生产效率和生活质量，期望它让人们有更多的文化探索和自我价值实现的机会[7]。正如博斯特罗姆（Nick Bolstrom）在《超级智能路线图、危险性与应对策略》（Superintelligence： Paths， Dangers， Strategies）中提到的人类在面临不断发展的机器时代的存在危机[8]。人工智能在为人类带来便利的同时，也会带来很多问题风险与挑战：伦理隐私、公平性、自主性、透明性与开放性等问题。这些风险与问题在ChatGPT横空出世之后，变得更加引人注目。因此，无论人类对人工智能的未来持何种看法，都应当谨慎对待并采取行动。

（二）人工智能道德伦理是人类道德伦理价值体系新组成

伦理的概念发轫于我国古代春秋年代，最早在《礼记·乐记》中指明礼乐在道德上的教化作用[9]。道德伦理对人类社会有着不可替代的价值，在人工智能出现之前，人类也一直在探索其重要性和局限性。不过，迄今为止，战争、瘟疫、环境污染、贫困加剧等依然是人类社会面临的严峻问题，人类还不曾找到保证所有这些方面都持续向善发展的完美路径。

人工智能时代的到来，也产生了新的伦理定义。从不同的角度对人工智能道德伦理问题进行探讨，对其定义如表1所示。可以说，虽然人工智能增加了人类面对道德伦理问题的风险维度，但是即使没有它，人类社会也远远不是完美的，所以人工智能引发的人类道德伦理危机说到底还是人类自身的道德伦理困境的一部分，和所有的其他问题一样都需要人类严肃认真、有智慧地对待，权衡利弊，趋利避害。

教育领域作为人类社会中重要的一部分，也受到了人工智能的深刻影響。如图1所示，在人工智能蓬勃发展的今天，教育应该成为引导人工智能服务社会，向善发展的基石；与此同时，人工智能应赋能教育，实现人机相融共生，而道德伦理规范则是两者之间良性互动的必要前提。如何实现相应道德伦理规范，应当从教育出发，秉持育人为本准则，聚焦人工智能领域。

三、教育人工智能应用伦理风险与治理

（一）人工智能教育应用伦理风险

人工智能的发展速度与规模远超政策和监管框架的制定与迭代，在为社会提供强大发展动力和支撑平台的同时，它也带来了一系列伦理问题。本研究从外部安全伦理视角、技术应用风险视角以及教育生态影响层面视角，对现有人工智能教育应用伦理风险现象进行总结分析，逐步理清其风险来源和规避角度，具体如表2所示。

人工智能技术算法的“黑箱”问题使得人们难以追溯挖掘完整的逻辑链条，应用到教育领域中无法提供准确真实的知识和信息，并且不能保证其符合学生认知规律，容易对学生产生误导；而在技术缺陷如训练数据及算法偏见、隐私安全、透明性可解释性差的多重限制之下，学校以及地区教育不公平的现象逐渐增多，蔓延至社会甚至可能摧毁原有的教育价值及伦理体系[22]。在人工智能面临种种困境的当下，仅仅依靠学术探讨是不足以解决问题，还需要具体问题具体分析，采取诸如伦理教育提高全社会科技伦理意识、针对高风险场景特别立法等手段来约束人工智能。

（二）教育人工智能伦理治理现状

为了减少人工智能对人类社会造成的危害，发挥人工智能积极向善的功能，各类重要国际组织、世界各国政府等都出台了一系列与人工智能有关的政策和措施，以推动人工智能的设计、使用遵守人类的道德伦理规范。教育系统作为社会系统的一部分，其人工智能道德伦理问题也一直是人们关注的焦点。教育系统采用的人工智能技术也基于通用的智能技术基础设施和通用人工智能底层技术[23]，故此，人工智能相关政策在教育系统中同样受用。此外，联合国教科文组织也发布了一系列与人工智能在教育中应用相关的文件指南。人工智能伦理相关政策及联合国发布文件如表3所示。

从目前所有的政策和相关文本来看，都强调了人工智能的道德伦理是必须关注的，人工智能应该是安全可靠的、可解释的、公平的和可评估的，是为全人类服务的，人工智能应该被用来为人类谋福利，应以人为中心、负责任、值得信赖，并应始终将能动性交给人并为人所监督。以近期迅猛发展的大语言模型为例，国内发布了《生成式人工智能暂行管理办法》[39]，从技术发展与治理，服务规范以及监督检查和法律责任等方面制定规则，在解决人工智能相关伦理问题方面做出了一些探索，以应对其带来的风险。在教育领域中，也有相关指南从课程角度总结了人工智能建设的国际经验，提出形成政府主导、多元参与的人工智能课程开发模式[40]；利用人工智能加快建设开放灵活的教育体系[41]等建议。目前教育人工智能相关的伦理问题已逐渐凸显，然而可操作性的人工智能教育道德伦理规范寥寥无几，教育工作者、人工智能行业从业者、政府监管部门等多方群体必须意识到，人工智能在教育应用的过程中，存在十分复杂的伦理性问题，并尽快着手就教育人工智能相关的伦理问题做出合适、清晰的标准、规范以行管控。

（三）教育人工智能伦理需解决问题

人工智能改变了人们对于教育的传统观念，师生两环的简单教育生态在融入人工智能之后将变得更加复杂，道德伦理方面将面临更多的问题，如数据泄漏与滥用[42]、学生思考能力弱化[43]、对弱势群体的偏见与歧视[44]、学生不平等差距断扩大等[45]等。而从目前国际国内发布的教育人工智能相关政策和指南来看，缺少合适清晰的标准规范，传统的治理方式已经不能满足其治理风险。面对教育人工智能伦理问题，教育应秉持何种态度，采取何种手段迎接人工智能技术的深度融合，人工智能如何从技术方面进行约束才能更好嵌入教育是我们应该思考的问题。文章将教育人工智能伦理问题归纳为以下四个方面：

1.核心素养缺失，育人性不强

尽管人工智能可以提供大量的学习资源和个性化的学习路径，但它不能替代人与人之间的互动，也不能完全满足学生的社会性需求。部分教育人工智能应用过于注重知识和技能的传授，忽略了培养学生的创新思维、批判思维和解决实际问题的能力等核心素养[46]；此外，随着人工智能的快速发展，使用者并未能够真正掌握人工智能的使用方法，反而很可能被技术裹挟，只关注提高学习效率和成绩，忽视了教育的本质——培養学生的全面素质和人格修养[47]，使得教育异质性风险增加，育人性大大降低。想要构筑良好的人机共生关系，我们应反对将人工智能视为取代教师的概念，强调“共同处于回路中”（Humans-in-the-Loop）[48]。因此，我们在使用人工智能进行教育时，必须注重培养师生的核心素养，强化育人性，教师在教学过程中能够观察到人机互动学习模式，学生在学习的过程中掌握科技知识的同时，也能够形成健康的人格和良好的道德品质。

2.应用监管欠缺，反应力不快

由于缺乏有效的监管机制，许多人工智能应用程序可能会滥用其功能，对学生和教师造成潜在的威胁。一方面，由于人工智能技术本身的复杂性和黑盒性，监管机构难以及时跟进和管理其安全和合规性；另一方面，出现问题时监管机构难以迅速做出响应，给师生带来了很大的困扰。如2023年1月ChatGPT活跃用户已经突破百万，时隔半年只有一个国家发布了相关的法规（即我国7月发布的《生成式人工智能服务管理暂行办法》），同年9月联合国教科文组织为应对ChatGPT的广泛使用推出《教育与研究领域生成式人工智能指南》。当前国内及国际人工智能监管机构都高度重视人工智能相关产品的应用监管，但如前文所说，人工智能技术应用产品更新迭代速度快，新的应用场景层出不穷，应用监管各个环节是否能快速做出反应，协作制定明确的落实路径而非“口号式”的政策与规划。

3.伦理框架缺漏，系统性不足

尽管伦理学已经存在了很长时间，但在当今社会中，我们仍然需要更多的伦理框架来应对日益复杂的教育人工智能伦理挑战。《网络安全标准实践指南——人工智能伦理安全风险防范指引》界定了人工智能治理的相关主体范围，总结了人工智能伦理问题和风险的具体类型[49]；杜静等提出“APETHICS”框架，为教育人工智能伦理问题提供解决模型[50]。但是，当前关于教育人工智能伦理问题的研究仍存在着概念模糊、内容缺失、评估机制与工具不完备等问题[51]。此外，许多伦理决策也需要更系统性的思考和规划，以确保其能够真正解决实际问题并产生积极的社会影响。因此，我们需要加强教育人工智能应用的伦理规范建设，完善相关法律和政策，同时加强对数据隐私的保护和算法公正性的监督，以确保教育人工智能应用能够真正促进学生的全面发展和成长。

4.技术规范缺乏，统筹力不够

我国现有的人工智能技术规范标准均为面向普通大众，专门针对教育的人工智能技术规范标准还未出台，对于面向教育领域的人工智能技术标准研制的机理、影响因素和可能路径等方面都还不明确[52]。然而人工智能技术的规范缺乏和统筹力不够已经成为一个不可忽视的问题：一方面目前的技术应用无法确保符合教育规律和学生的实际需求；另一方面不同的教育机构和开发者之间的教育产品存在互通性和兼容性问题，难以形成有效的合作与交流，限制了人工智能技术在教育领域的应用和发展，也给实际教学带来了不便。针对教育人工智能技术的应用，需要建立跨部门、跨学科的协调机制，形成有效的统筹力量，确保教育人工智能技术的应用符合教育规律和学生身心发展特点，推动教育事业高质量发展。

以人工智能为代表的数字化时代，普遍有效运用智能化工具已成为必然，人工智能将与教育深度融合，催化教育发生全方位的创新与变革。在这种时代背景下，从人类命运共同体的角度出发，加快培养AI高端人才便成为当今社会发展的必然之举，然而如何在现阶段教育系统基础之上，深度融合且扬长避短，充分发挥教育的育人性并构建人机相融共进的道德伦理框架，成为亟需解决的时代命题。因此，我们需要采取一系列措施来推动人工智能技术的向善发展，通过多元主体多层次多维度多样式的合作治理，共同实现人机良性互动，从而促使教育人工智能可持续发展，推动人机和谐共生的教育生态体系构建。

四、人工智能向善发展的建设路线

在教育过程中，应针对具体教育情境中的伦理问题，合理使用技术、规避智能技术对教育伦理产生的某些消极影响。面对人工智能技术所引发的教育伦理危机，要求我们必须适时地调整传统的教育价值理念，综合采用多种措施，推动人工智能向善发展。如下页图2所示，本文从培养学生的人工智能素养、技术赋能、人机相融和技术规范实践四个角度对教育人工智能伦理提出应对措施，通过对学生核心素养的培养、对技术向善赋能的应用监管，促进人与机器相融共进发展。

（一）核心素养培养

应对人工智能的挑战、让人工智能技术充分发挥其变革性力量，离不开对适应智能社会的合格公民的培养。具备人工智能素养的人对人工智能技术持辨证态度，具备一定的人工智能知识基础，能够正确看待人工智能技术的应用和发展、运用人工智能促进个人和社会的发展。因此，有必要开展人工智能教育，培养学习者的人工智能素养。明确学生人工智能素养的现状如何是布局人工智能教学的起点。通过对学生人工智能素养现状进行调查，可以了解目前学生在人工智能各个维度的实际水平和不同地区学生人工智能素养水平的差距，探究影响学生人工智能素养水平的关键因素，从而确定人工智能素养培养的策略和要点。同时，人工智能素养是立足现在、面向未来发展的核心素养之一，鉴于越来越多强大的人工智能技术的出现及其带来的变革性影响，有必要尽早明确并开展人工智能素养的培养。针对人机共生关系提出的新需求，从人-工具-社会的互动分析视角明确人工智能的关键要素，构建面向人工智能素养框架，以期形成学生与人工智能和谐共处的理念，进一步促进对人工智能道德伦理的认识，从而实现人机共融、推动人工智能向善发展。

（二）规范应用监管

人工智能愈发强大的计算能力和对现有社会结构及价值体系的不断侵蚀，可能导致对个体尊严和形象的入侵、算法歧视上的侵害和自身主体价值的消解[53]。如何规范监管人工智能应用，重塑公平正义的社会结构和技术结构，成为亟待解决的问题。在面向学生群体的人工智能负面效应已经渐露声色的背景下，研究面向教育的人工智能的应用监管，促进人工智能向善向好显得尤为重要。因此，我们应首先厘清面向教育的人工智能应用监管的概念，界定其内涵和外延，明确监管内容。其次，在调研人工智能应用监管的风险和监管内容的基础上，进一步探讨面向未成年人的人工智能应用的监管的方法，并对现状进行修改和增强，以实现人工智能的有效治理。再有，我們呼吁教育生态系统中所有利益相关者共同参与，制定一些指南和防护措施[54]，积极实施面向学生的人工智能技术规范研制与政府政策制定接轨，从而最终促进规范应用的广泛实施。

（三）道德伦理框架

人工智能时代下，学生作为学校教育的最直接参与者以及最重要的角色，必须主动起来，成为解决伦理问题的积极实践者。然而，目前针对学生群体的教育人工智能伦理研究几近空白，迫切需要更深入的指标体系构建、测评工具开发、认知现状分析等研究，一方面能够为教师提供参考，更好地在教学中引导学生合理使用教育人工智能，另一方面也可以有针对性地提升高中生教育人工智能伦理的认知水平，为其正确使用人工智能提供重要抓手。在此过程中，我们应该遵循科学性原则，要使得在确定各级维度指标、构建完整指标体系以及确定各级指标权重的过程中，力求全面、保证科学、确保准确、规范合理。同时秉持发展性观点，考虑到学生对于教育人工智能伦理这个新知领域的认知发展，保证学生不但可以通过该指标体系对自我在该领域的认知水平上进行评价，还可以通过该体系对这个领域的基本知识进行了解、学习，从而为学生的知识水平、思维能力提供可能的提升途径，发挥该指标体系作为前沿领域实际应用的实用价值。最后，应以系统性思想构建面向学生的伦理框架，做到层次分明，逻辑自洽，从而整体、全面、综合地反映学生的教育人工智能伦理认知水平。

（四）技术规范研制

人工智能作为数字时代的引领性技术，不断产生大量新的社会创造物，尤其在ChatGPT出现后广泛涌出的大语言模型降低了人工智能使用的门槛，它们从实践层面逐步渗透学生成长的全过程中，只有在科学的技术规范框架的指导下，人工智能才能安全有效地推进学生在人工智能化背景下的智慧教育，开辟面向教育发展的人工智能场景的新格局，为各组织机构进行人工智能的学生培育提供示范和借鉴。总而言之，面向教育的人工智能技术规范以准确识变、科学应变、把握机遇，推动人工智能技术助推学生发展，进一步促进人工智能与人才培养的深度融合，为如何构建一个面向学生的全阶段、系统化的人工智能素养标准体系提供理论与实证的研究路径和方法指导，更好地帮助未成年人迎接新挑战、为他们适应和创造一个更加美好的新时代。

五、人工智能发展建议

（一）加強顶层设计，系统规划总体框架

本研究应从构建人类命运共同体的核心思想出发，遵循和谐友好、包容共享、尊重隐私、安全可控、敏捷治理的原则，厘清人工智能与教育的赋能以及反向赋能关系[55]，从教育人工智能伦理为切入点，重视育人为本，关注人工智能与人才培养的深度融合，实现受教育群体人工智能核心素养的可持续发展，推进治理人工智能技术层面的应用监管，促进人工智能技术向善赋能，从而加快教育领域内人工智能技术规范的落地实践，推动人工智能在教育领域的向善发展提供总体指导框架，为最终实现教育与人工智能技术相融共进的生态系统。

（二）重视育人为本，创新发展人工智能课程

近年来，不断提出的信息素养、数字素养、数据素养、计算思维等概念其实都强调了在如今这个高速发展的科技社会，掌握一些基础技术素养的重要性。更重要的是人工智能对教育领域的渗透决定了培养学生人工智能核心素养的关键性[56]，而课程则是对学生进行教育的主要途径[57]，核心素养的形成离不开优质的人工智能课程设计。目前人工智能课程除了面临被忽视、被限制的问题[58]，还有课程单一、偏向传统技术缺乏创新等缺陷。因此，人工智能课程的设计需要进行相应的调整和改变，从受教育者层面来说，学生应当做好面对未来智能社会的心理准备，尽早转变思想、思考人与人工智能的互动可能性，以便在未来社会中更好地生存和发展。从教育者层面来说，教师对人工智能技术的了解不应浮于表面，高校、企业和其他专业机构应共同参与到人工智能课程的建设中来，协同完成具有创新性的人工智能课程的设计和开发，设计指向学生人工智能素养培养的精品课程。

（三）遵循治理原则，促进技术向善赋能

随着人工智能技术的快速发展，我们面临着如何让AI技术与人类共存、和谐发展的挑战。智能时代，对AI产品的设计开发和应用进行监管，能够从源头上保障学生的心智发展[59]。本研究团队针对当前人工智能应用监管中存在的风险和挑战，提出了面向未成年人的人工智能应用监管善治路径，包括构建应用监管技术体系、提升多样化监测能力、完善应用监管制度、参与国际规则制定和开展社会实验研究五个方面[60]。以上路径从理论和实践两个方面展开，除了明确AI技术的边界和责任，制定相关法律法规和伦理准则外，我们还可以加强公众参与和监督，鼓励各方共同参与到AI技术的决策和管理中来，增强透明度和公正性。同时，积极探索AI技术的多样化应用场景，注重技术与人文关怀的结合，将研发重点放在解决情景问题和增强信任与安全性上，打造更具温度、更人性化的AI产品和技术服务。只有遵循治理原则，促进技术向善赋能，才能让AI技术真正服务于人类，实现有温度的人工智能。

（四）明确价值准则，助力人机相融共进

人工智能融入教育，不断扩展其应用场景，缺陷与风险不断暴露并有成倍放大趋势。为了使学生在与智能系统交互中保有“自主性”，以及正确教育理念引导的成长体验，更加需要有相应的教育与支持。面对机遇与挑战并存的人工智能技术应用，在切实把控教育应用监管的过程中，应秉持育人为本的价值准则。首先，教育人工智能应用应始终在人的掌控下，服务于学生，实现学生个体对于教育人工智能应用的控制。其次，伦理准则应当被植入教育人工智能产品，并贯穿产品设计开发应用全过程。从开发厂商的角度而言，可以从两个方面进行改进，以促进其生产出的教育类人工智能产品更加符合伦理道德规范原则。一是从技术角度而言，可将一些能够清楚描述出的、约定俗成的道德伦理准则以算法的形式植入到人工智能中，使得人工智能在自我学习时自发性拥有在伦理方面的道德底线，不做出违反伦理原则的行为。二是从人本主义出发，提高算法设计师、程序员等技术人员的伦理素养、道德意识。要做到这一点，主观上，需要此类特定人群主动、充分地接受教育学、心理学、伦理学、学习科学等相关学科领域的理论知识，将先进的教育理念中植入到教育类人工智能产品的“思想”之中。而客观上，政府教育部门、教育科研工作者、中小学校等教育主体相关机构也应与开发厂商通力合作，可以通过构建以设计为中心的教育实践共同体[61]，建设有关教育人工智能伦理的学术社区，对伦理原则如何和谐融入产学研一体化过程进行探讨交流，以及利用品牌及教育联盟影响力加强伦理和谐层面的特点宣传，从而源头上加强技术开发者教育人工智能伦理素质，强调产品的伦理友好性，同时也对教育信息化建设做出贡献。

（五）加快标准制定，规范教育人工智能实践

教育人工智能的实践离不开技术规范的制定与落实，辞海释义规范一词为“标准；法式”，所谓技术规范则是技术产品、过程和服务应满足技术要求的文件。本研究团队认为教育领域的人工智能技术规范应包含两种内涵，其一受教育者即学生在学习或使用AI技术、产品或服务时应遵守的道德准则和行为规范，其二AI教育产品研发、制造和部署时应遵循的操作准则和技术标准[62]。由此内涵出发，技术规范的制定应从核心素养、应用监管和道德伦理三个方面开展。首先，受教育者需要具备正确安全使用人工智能的核心素养；其次，技术产品全生命周期的利益相关者都应受到应用监管；再者，伦理道德应融入AI教育产品的全生命周期，增强全社会的人工智能伦理意识，从而达到三位一体共同抵御或避免人工智能技术在教育领域引发风险的效果。

六、总结展望

当人工智能加入到教育生态系统，它的作用和影响力是全方位的，包括教学、管理、学习、思想、态度、价值观等等。促进教育公平与教育包容是教育领域应用人工智能的根本目标，清楚认识到人工智能对于实现教育公平，教育包容的积极影响与消极影响是十分必要的，从教育主体角度来说，学生核心素养的研究助力学生个性化学习，激发动机，使其真正成为技术的使用者而非被技术裹挟丧失主动性；从技术主体来说，教育人工智能应用监管研究约束人工智能技术进入教育的尺度和方式，规定责任分属，为教育与人工智能良好融合保驾护航；从人机融合角度来说，教育人工智能安全伦理框架的研究丰富了人类社会的道德伦理框架，探寻人工智能时代人才培养的未来走向，促进两者的深度融合。核心素养、应用监管、伦理框架的研究呼唤面向教育的人工智能技术规范的制定，以便应对迅速发展的人工智能技术，更好促进通用人工智能大模型在教育中应用；以期推动人工智能向善发展，赋能、赋智教育，促进教育数字化转型，构筑智能时代的人类命运共同体。

参考文献：

[1] Vinuesa R，Azizpour H，et al.The role of artificial intelligence in achieving the Sustainable Development Goals [J].Nature communications，2020，11（1）：233.

[2][28] 联合国教科文组织.人工智能伦理问题建议书[R].巴黎：联合国教科文组织，2021.

[3][27] 中华人民共和国科学技术部.《新一代人工智能伦理规范》发布[EB/OL]. https：//www.safea.gov.cn/kjbgz/202109/t20210926_177063.html，2021-09-26.

[4][6][7] 长铗，梁正等.黑镜与秩序：数智化风险社会下的人工智能伦理与治理[M].北京：清华大学出版社，2022.

[5] [美]梅拉妮·米歇尔.王飞跃，李玉珂等译.AI 3.0[M].成都：四川科学技术出版社，2021.

[8] 尼克.人工智能简史（第2版）[M].北京：人民邮电出版社，2021.

[9] 廉天娇.先秦儒家“乐”思想的伦理审视——以《礼记·乐记》为视角[J].唐都学刊，2019，35（4）：85-90.

[10] 郭胜男，钱雨等.面向未成年人的AI安全风险：风险澄思、根源透析与治理进路[J].中国远程教育，2023，43（7）：39-46.

[11] 王佑镁，王旦等.ChatGPT教育应用的伦理风险与规避进路[J].开放教育研究，2023，29（2）：26-35.

[12] 姜华，王春秀等.生成式AI在教育领域的应用潜能、风险挑战及应对策略[J].现代教育管理，2023，（7）：66-74.

[13] 高琳琦.生成式人工智能在個性化学习中的应用模式[J].天津师范大学学报（基础教育版），2023，24（4）：36-40.

[14] 沈苑，汪琼.人工智能在教育中应用的伦理考量——从教育视角解读欧盟《可信赖的人工智能伦理准则》[J].北京大学教育评论，2019，17（4）：18-34+184.

[15] 王正青，阿衣布恩·别尔力克.ChatGPT升级：GPT-4应用于未来大学教学的可能价值与陷阱[J].现代远距离教育，2023，（3）：3-11.

[16] 冯建军.我们如何看待ChatGPT对教育的挑战[J].中国电化教育，2023， （7）：1-6+13.

[17] 曹辉，赵梓含.ChatGPT的特质研判、教育审思与风险应对——基于“知识—主体—立场”的视角[J].现代教育管理，2023，（7）：75-84.

[18] 张誉元，张海.数据生命周期视阈下教育数据伦理问题及规约之径[J].中国电化教育，2022，（10）：118-125.

[19] 罗生全，谭爱丽等.人工智能教育应用中的伦理风险及其规避[J].中国教育科学（中英文），2023，6（2）：79-88.

[20] 孙立会.人工智能之于教育决策的主体性信任危机及其规避[J].电化教育研究，2023，44（3）：21-27+43.

[21] 朱永新，杨帆.ChatGPT/生成式人工智能与教育创新：机遇、挑战以及未来[J].华东师范大学学报（教育科学版），2023，41（7）：1-14.

[22] 冯锐，孙佳晶等.人工智能在教育应用中的伦理风险与理性抉择[J].远程教育杂志，2020，38（3）：47-54.

[23][41][55] 苗逢春.教育人工智能伦理的解析与治理——《人工智能伦理问题建议书》的教育解读[J].中国电化教育，2022，（6）：22-36.

[24] 国务院.国务院关于印发新一代人工智能发展规划的通知[EB/OL].https：// www.gov.cn/zhengce/content/2017-07/20/content_5211996.htm，2017-07-26.

[25] 中华人民共和国科学技术部.发展负责任的人工智能：新一代人工智能治理原则发布[EB/OL].https：//www.safea.gov.cn/kjbgz/201906/ t20190617_147107.html，2019-06-17.

[26] European Parliament.Artificial Intelligence Act [EB/OL].https：//www.europarl. europa.eu/thinktank/en/document/EPRS_BRI（2021）698792，2022-01-14.

[29] 中共中央办公厅 国务院办公厅.《关于加强科技伦理治理的意见》[EB/OL]. https：//www.gov.cn/zhengce/2022-03/20/content_5680105.htm，2022-03-20.

[30] Daniel Zhang，Nestor Maslej，et al.The AI Index 2022 Annual Report [R]. San Francisco：Stanford University，2022.

[31] Center For Data Innovation.U.S. AI Policy Report Card [EB/OL].https：// datainnovation.org/2022/07/ai-policy-report-card/，2022-07-27.

[32] Centre for European Policy Studies.The AI Act and emerging EU digital acquis [EB/OL].https：//www.ceps.eu/ceps-publications/the-ai-act-andemerging-eu-digital-acquis/，2022-09-14.

[33] 中华人民共和国外交部.中国关于加强人工智能伦理治理的立场文件[EB/OL].https：//www.mfa.gov.cn/ziliao_674904/tytj_674911/ zcwj_674915/202211/t20221117_10976728.shtml，2022-11-17.

[34][39] 国家互联网信息办公室，中华人民共和国国家发展和改革委员会等.生成式人工智能服务管理暂行办法[EB/OL].https：//www.gov.cn/ zhengce/zhengceku/202307/content_6891752.htm，2023-07-10.

[35] United Nations Educational，Scientific and Cultural Organization. Beijing Consensus on Artificial Intelligence and Education [R]. Prais：UNESCO，2019.

[36] United Nations Educational，Scientific and Cultural Organization.AI and education：guidance for policy-makers [R].Prais：UNESCO，2021.

[37] 联合国教科文组织.中小学阶段的人工智能课程：对政府认可人工智能课程的调研[R].巴黎：联合国教科文组织，2022.

[38] United Nation Education，Scientific and Cultural Organization. Guidance for generative AI in education and research [EB/OL].https：// www.unesco.org/en/articles/guidance-generative-ai-education-andresearch，2023-04-20.

[40][48][54] U.S. Department of Education，Office of Educational Technology. Artificial Intelligence and Future of Teaching and Learning：Insights and Recommendations [EB/OL].https：//tech.ed.gov/files/2023/05/ai-future-ofteaching-and-learning-report.pdf，2023-06-13.

[42] 劉进，钟小琴等.教育人工智能：前沿进展与机遇挑战[J].高等工程教育研究，2020，（2）：113-123.

[43] 王佑镁，宛平等.科技向善：国际“人工智能+教育”发展新路向——解读《教育中的人工智能：可持续发展的机遇和挑战》[J].开放教育研究，2019，（5）：23-32.

[44] Holmes W，Porayska-Pomsta K，et al.Ethics of AI in education：Towards a community-wide framework [J].International Journal of Artificial Intelligence in Education，2021，（32）：504-526.

[45] Reiss M J.The Use of Al in Education：Practicalities and Ethical Considerations [J].London Review of Education，2021，19（1）：1-14.

[46][57] 孙伟平.人工智能与人的“新异化”[J].中国社会科学，2020，（12）：119-137+202-203.

[47] 王佑镁，王旦等.“阿拉丁神灯”还是“潘多拉魔盒”：ChatGPT教育应用的潜能与风险[J].现代远程教育研究，2023，35（2）：48-56.

[49] 全国信息安全标准化技术委员会.关于发布《网络安全标准实践指南—人工智能伦理安全风险防范指引》的通知[EB/OL].https：//www. tc260.org.cn/front/postDetail.html id=20210105115207，2021-01-05.

[50][59] 杜静，黄荣怀等.智能教育时代下人工智能伦理的内涵与建构原则[J].电化教育研究，2019，40（7）：21-29.

[51] 王佑镁，王旦等.敏捷治理：教育人工智能伦理治理新模式[J].电化教育研究，2023，44（7）：21-28.

[52][62] 吴永和，郭胜男等.面向未成年人的人工智能技术规范研究：学理阐析与探研进路——面向未成年人的人工智能技术规范研究（一）[J].电化教育研究，2023，44（5）：5-12.

[53] 宫楠.积极预防人工智能负面效应[N].中国社会科学报，2020-04-07（06）.

[56] 朱莎，李环等.面向未成年人的人工智能核心素养构建——面向未成年人的人工智能技术规范研究（二）[J].电化教育研究，2023，44（6）：15-21+53.

[58] 张志新，杜慧等.发达地区中小学人工智能课程建设现状、问题与对策——以某“新一线”城市为例探讨[J].中国电化教育，2020，（9）：40-49.

[60] 倪琴，贺樑等.人工智能向善：面向未成年人的人工智能应用监管探研——面向未成年人的人工智能技术规范研究（三）[J].电化教育研究，2023，（8）：33-41.

[61] 顾小清，白雪梅.教育信息化推进新路径：构建以设计为中心的研究-实践共同体[J].开放教育研究，2019，25（6）：66-74.

作者简介：

吴永和：研究员，博士，博士生导师，教育部教育信息化技术标准委员会主任委员，研究方向为教育数字化转型、智能驱动的教育、模式驱动的教育和数字教育技术标准与国家质量基础设施。

吴慧娜：在读博士，研究方向为人工智能、智能教育与学习分析。

陈圆圆：在读硕士，研究方向为人工智能教育。

Promoting the Ethical Development of Artificial Intelligence： A Shared Responsibility of Education and AI

Wu Yonghe1， Wu Huina1， Chen Yuanyuan1， Zhou Shuyun1， Zhou Zihao1， Xiao Yumin2， Ni Qin3

1.Department of Education Information Technology， East China Normal University， Shanghai 200062 2.Faculty of Education， East China Normal University， Shanghai 200062 3.Shanghai Normal University， Shanghai Normal University 200233

Abstract： The rapid development of artificial intelligence is profoundly changing the ways in which humans produce， live， and learn. It has a deep impact on education， and at the current stage， generative artificial intelligence tools are widely applied in the field of education， bringing new ethical and moral challenges. This article first discusses how the rapid development of artificial intelligence leads to more complex ethical and moral issues and expands the scope of human moral ethics through artificial intelligence ethics. It then elaborates on the ethical risks of artificial intelligence in education， the current state of ethical governance in educational artificial intelligence， and the issues that need to be addressed in the ethical application of educational artificial intelligence. Furthermore， it presents a roadmap for the development of artificial intelligence towards benevolence， focusing on four dimensions： fostering core competencies， regulating ethical application， developing moral and ethical frameworks， and creating technical standards. Finally， it provides five development recommendations： strengthening top-level design and systematic planning of the overall framework， prioritizing student development， and innovating in the development of artificial intelligence curricula. It also emphasizes the importance of adhering to governance principles， clarifying value guidelines， and accelerating the formulation of standards to regulate the practice of educational artificial intelligence. The goal is to promote the benevolent development of artificial intelligence， empower and educate， advance the digitization of education， and build a global community for human destiny in the age of intelligence.

Keywords： Artificial Intelligence ethics； student-centric education； core competence； application regulation； ethical framework

收稿日期：2023年10月17日

責任编辑：李雅瑄