人工智能应用背景下数字教材编制的伦理危机及其治理

● 高思超 奉元圆

人工智能的发展和广泛应用得益于大数据驱动、计算能力的发展以及深度学习算法的演进。同时，人工智能技术的进步又催生了数据和信息的更新迭代。2017 年，国务院发布《新一代人工智能发展规划》，提出要大力发展智能教育，开发“基于大数据智能的在线学习平台”，营造良好的“以学习者为中心”的教育环境和氛围，实现教育信息服务的精准推送。2020年，教育部印发的《国家教材建设重点研究基地管理办法》要求，“加强信息时代新形态教材”的研究与实践。党的二十大报告提出“推进教育数字化，建设全民终身学习的学习型社会”。“教育数字化有利于构建开放性、适应性、永续性的良好教育生态”［1］。

人工智能技术应用于教育领域的广度不断拓展，客观上将加速数字教材编制的改革，为数字教材编制提供新的机遇和手段。然而，我们还需要认识到，数字教材编制同样伴随着较大的伦理危机。诚如乔纳斯所言：“技术可能在某些方面达到了极限，再也没有回头路。肇因于我们人类的技术进步将以它们不可遏止的势头远离我们——奔向灾难。”［2］国内众多研究者同样意识到了问题的严重性。如有研究者指出：“教育大数据的应用要实现教育正价值、消解负价值作为基本追求”［3］，“人工智能的教育应用需观照教育领域中的生命本质”［4］。

一、人工智能应用背景下数字教材编制的伦理诉求

人工智能应用背景下数字教材的编制伦理，主要是指编制主体在将人工智能运用于数字教材设计和建设中应当遵循的道德规范和价值标准。目前，学术界关于人工智能技术应用背景下的教育伦理问题和数字教材编制的问题形成基本共识，即人工智能技术应用于教育的风险消解要以教育伦理价值为导向。

（一）价值诉求：推动技术向“善”和“人”的发展融合

从数字教材编制的实践出发，编制者要重视知识的学科性和学习者的认知特点，力争在编制实践中找到“平衡点”，并按照教材编制规则形成数字教材的体系。但是，在“技术理性”和“工具主义”的支配下，人们往往关注教师编制的“学科知识逻辑”，忽视学习者作为“人”的价值关怀。例如，从传统教材内容的习得方法和范围看，教材编制者主要考量两大逻辑，即“学科知识逻辑”和“课程发展逻辑”，在充分考察学科和课程发展的基础上，确定教材编写的目标，或者根据“经验”了解学习者的发展需求。这导致编写者掌握的学习者的真实学习需要和发展水平呈现“碎片化”和“模糊化”，最终难以真正满足学习者的发展性需要。人工智能技术应用视域下，数字教材的编制可以利用智能技术，将复杂的教育教学场域中的海量数据转化为更具“教育价值和意义”的服务系统。智能技术和平台也提供了范围更广、类型更多、内容更新的云端学习资源，为教师掌握学习者最新的学习动态和更多的学习细节提供支持。诚如有研究者所言，“对数字教材编制的整体把握趋于全面，使得教材研究开始从经验为主的思辨范式向以数据分析为主的实证研究转变”［5］。人工智能融入数字教材编制必须遵循技术向“善”的价值追求，避免“技术主义”导向下教育本质的异化，编制的过程要充分考量学习者的主体性。

（二）关系诉求：促进数字教材编制主体的多元协同和融通

以往教材编制过分关注学科知识体系的完整性，忽视了教材内容编制的主体维度。不同编制者对信息的接收和掌握有较大差异，导致编制者之间的交流和沟通有效性不够。但是，在人工智能背景下，传统教材编制诸多约束将会逐渐破解，有研究者就指出，“智能系统能够轻松、直观地呈现知识之间的关联，帮助学生构建系统、完整的知识体系”。［6］智能技术的数字教材编制应用，要着眼于学科融合和资源利用的开放性，促进教材知识的立体化构建。同时，教材编制是一项多主体参与的实践活动，要求不同的主体要有协同合作的意识和能力，促进教育行政部门、学校管理人员、教师和教材编审人员等多个主体协调联动，打破时间和空间的限制，提升数字教材的编写质量，促使数字教材编制从一维渗透走向多维联动。［7］

（三）内容诉求：坚守数字教材编制体系的“三性”融汇

数字教材编制体系的“三性”，即教材编制的系统性、规范性和个性化。传统教材编制具有系统性、规范性和灵活性，表现在三方面：一是教材内容的编制系统性和逻辑性较强，凸显了教材内容本身的完整和不同层次学习内容的过渡与衔接。二是教材的结构相对稳定，遵循教材编制的普遍标准，例如教材的体例、印刷的标准、图文的选用等都有相对统一的要求。三是教材内容的选择和组织具有一定的灵活性，不仅要体现学科知识体系的“深度”和“广度”，还需要紧跟时代的需要，反映教育教学改革的前沿动态。人工智能应用背景下，数字教材的编制可以充分利用智能技术和平台，进一步创新教材内容的灵活性，要将学习者“生活世界”中的“案例”和“经验”充分融入教材中。根据学习者的个性特点和学习偏好，重构模块化教材内容，促进学习者的个性化学习和创新化发展。当然，人工智能融入数字教材编制并非对传统教材编制的全盘否定，而是在以往教材编制的基础上进行新的探索和实践，赋予教材编制新的意义和价值。有研究者就指出：“教育改革创新必须在既有的教育基地上逐步进行改造，怕麻烦，想干脆利索是不行的。”［8］因此，融入人工智能的数字教材编制在保持教材内容灵活性选择与创新性的基础上，仍要坚守教材编制体系的系统性与规范性。

二、人工智能融入数字教材编制衍生的伦理风险

（一）人工智能技术泛滥致使课堂规范与责任伦理弱化

传统教材对学生的吸引力不断减弱，主要源于传统教材对知识内容的呈现方式仍然以文字叙述为主，教材的形式和内容亟待改革或补充。数字教材的编制，能够借助人工智能技术将“静态”的知识进行“动态”的运用，将其融入相应的动态数字资源中，从而促使教材内容在多平台、多介质资源中的融通，可以有效改变单一的课堂授课方式，促进以学习者为中心的课堂教学方式和模式的创建。但是，我们也需要清醒地认识到，技术至上也导致人文精神的式微和人类责任意识的不断淡化。数字教材的编制在为学习者提供海量的、开放的课程资源的同时，也为教材使用者带来很大的挑战和风险。“信息技术作为一种新型的媒介有它特有的教学优势，但是，脱离实际需求、无的放矢地使用信息技术，不仅不能使教学的意义得到有效释放，反而会极大地浪费师生的精力和时间，从而导致课堂教学与道德之善背道而驰。”［9］技术在数字教材编制过程中的过度运用和介入，将会对学生学习的专注力造成干扰和影响，正如有研究者指出的那样：“教材中过多的超链接，也极易让学生失去段落主线，链接节点越多，‘歧路就越多’，受无关信息干扰的概率就越大，自控力差的学生容易误入‘歧途’。”［10］

数字教材编制如果只注重选用和呈现足够的“碎片化”信息资源的话，那么将会在不同程度上破坏教师的课堂教学设计和教学组织，导致师生“淹没”在海量的信息资源中。另外，教材中设计的各种各样的刺激源，易造成学习者在学习进程中受到诸多无关刺激的影响，进而导致学习者产生浮躁的心态、专注力下降、学习效率降低等不良后果。同时，数字教材编制必将更多地借助多媒体设备，这对学生的学习方式造成冲击，学生在学习过程中可能将更多精力用于多媒体设备的运用，倾向于关注更多与课程学习无关的内容，技术的泛滥可能会消解学习者对学习的责任意识，从而弱化了课堂规范和责任伦理。

（二）人工智能技术的介入解构了系统化教材知识体系

人工智能技术使教材能够通过多样化的新形态进行呈现，教材编制因此具有泛在性、即时性、情境性等特征。数字教材的编制表现为教材内容呈现方式的多媒体化，受此影响，学习者极易关注产品的更新换代，追逐于新教材的外观设计、新颖功能、内容编排的形式，而对教材内容的体系化和结构化却不够重视。从教与学的本质看，教师的教和学生的学都是一个渐进式的过程，知识点安排遵循整体统筹和系统设计才能更为合理，这样也才会保证师生教学过程的循序渐进。

数字教材编制借助于人工智能技术促进了网络资源的开放性，使移动学习和泛在学习不断发生，这可能会导致教材内容的“碎片化”和“分散化”，严重冲击了教材本身的逻辑结构和系统知识体系。“碎片化”的教材内容解构了原有知识结构，“分散化”的知识点又不利于学习者完整知识体系的建构。数字教材编制不可避免地会利用图片、音频、视频和集成性兼容文本等不同形式的信息资源，虽然以多感官的综合运用丰富了教材使用的体验，但海量的信息会加剧教材使用者信息超载，在一定程度上削弱教材使用者的想象空间，破坏学习者持续思考的习惯，丢失思想的深刻性与多元性，限制了知识的识记与建构，以致学习者无法在头脑中形成完整的知识体系。［11］

（三）人工智能技术的加持泛化了教材目标定位

数字教材编制借助于人工智能技术，可以将各个范畴和领域的素材纳入教材编制的系统中。这对丰富教材内容具有积极作用，但是，这样也容易使部分未经科学证实和实践检验的资源进入教材之中。当然，这些资源可能不同程度具有一定的教育意义，但在经济利益驱使下，教材编制容易粗制滥造，缺乏基本规范和科学依据，导致教材角色定位模糊，指向性不够明确。各学段的学生认知水平不同，必然要求教材的科学水平以及内容的广度、深度和难度等有所差异。有研究者认为：“不是科学水平越高越好、教材内容越深越好，教材内容的深度和广度要适应于教学对象。”［12］但是，当下随着信息技术更新迭代的加速，数字教材数量和种类也不断增长，这会激化教材使用对象的模糊性，诸多教材并没有真正充分调研和听取使用者的需求，笼统定位使用者群体，部分数字教材对自身适切的使用者缺乏清晰的定位，导致教材使用对象目标定位泛化。

另外，数字教材编制通过技术手段能够充分满足教材内容的快速更新，这也可能加剧教材内容的相对稳定性和内容灵活性的矛盾。一般情况下，相对稳定的教材内容和知识结构，有利于教师教学实践智慧的生成，从而有效促进教育教学高质量发展。有研究者指出：“教材建设不仅要注重内容和体系的鼎革，还要注重方法和手段的变更，教材内容相对稳定也有利于保障教学的稳步推进。”［13］但是，教材内容的快速更新容易引发教材结构化的知识体系与信息技术时代知识碎片化之间的矛盾，不利于教师系统推进教学设计和总结教学经验，影响教学质量的稳步提升。

（四）数字化资源的运用容易引发法律风险隐患

数字教材的编制改变了传统教材对信息资源的获取和管理模式，教材内容资源的数字化也为大量教材信息资源的共享提供了平台。目前，我国人工智能法治建设还不够完善，对信息技术的规范和个人隐私的保护、数字化资源版权保护等法律法规还没有真正建立，这导致数字教材编制过程中可能面临诸多法律风险。人工智能建基于大数据技术等进行资源采集，很可能会涉及个人的信息安全，尤其是隐私问题，数字教材的编制当然需要采集师生课堂行为数据的合理性问题，虽然目前法律上对这一领域的规定还比较模糊，但从教育伦理的角度看，学校无疑具有保护师生个人隐私与合法权益的道德义务。［14］另外，数字教材编制还面临版权风险，“网络的开放性致使教材中的数字资源易被复制、传播，突破了传统知识产权的时间、空间和区域限制，作为作者无形的智力成果，被他人依托互联网技术侵权使用，知识产权和版权受到挑战”。［15］当前，我国还未完全建立起数字资源出版物版权保护法体系，《中华人民共和国著作权法》对教材中的数字资源版权问题尚无清晰界定，数字教材资源的版权保护和版权纠纷处理等问题缺乏足够的法律依据，导致数字教材中的资源被“共享”变得更为便捷，轻易的复制和随意的分享加剧了版权侵害。长此以往，数字教材编制的生态环境将会不断恶化。

三、人工智能应用背景下数字教材编制伦理风险的化解

（一）明确人工智能教育应用的伦理规范与技术责任

《新一代人工智能发展规划》强调要“制定促进人工智能发展的法律法规和伦理规范，开展人工智能行为科学和伦理等问题研究，制定人工智能产品研发设计人员的道德规范和行为守则”。［16］人类生活的诸多领域已经受到人工智能的影响，人工智能也逐渐成为人们生活世界的重要组成部分。但是，以大数据和云计算等为核心的智能系统的运行过程和机制往往不为人们所知，由此可能会导致在运行过程中存在“数据的设计偏好、隐性的利益算计、主体知情权缺失”等伦理问题。因此，要对于人工智能应用的伦理规范和技术责任进一步明确。

将人工智能运用于教育领域，需要坚持以“实践”为导向，在实践活动中观照真实的价值冲突和伦理困境，坚守“人本主义”伦理立场，统筹智能技术和价值关怀，彰显人工智能伦理规范和教育主体责任的耦合，通过系统分析，建立合理的伦理规范，完善技术发展的监督和责任，促使教材信息创造者、设计者在编制的顶层设计阶段，优先考虑教育主体的切身利益。人工智能融入数字教材的编制，一定要秉承“算法伦理风险无涉”的理念，将学习者的个性发展视为重要追求目标，才能够真正规避智能技术的算法“偏见”。

（二）重拾“以人为本”的数字教材编制教育价值理念

技术在教育教学改革发展和教育生态形塑过程中发挥重要作用，数字教材的编制需要新技术和新工具的介入。但是，智能技术支持下的数字教材必须以合理的教育价值理念为指引，以此规避系统开发者镶嵌于智能算法中的不合理的价值诉求，诚如有研究者所言，“资本逻辑的原生动力决定了智能算法推荐的开发和设计，不可避免地会具有追逐商业利润的强烈色彩”。［17］还有研究者认为，“在算法与数据操纵之下，AI 的渗透使技术日益成为人们思考教育时的基本标准和尺度”，［18］“异化”数字教材追求的教育价值。数字教材编制过程中，智能技术和系统的开发者若盲目追求智能化和信息化，很可能也会走入工具理性的泥潭，将教育视为可以量化的对象，助长工具理性对价值理性的僭越。

数字教材编制要实现持续、健康发展，必须坚持教育性和教育的人文价值追寻。数字教材编制需要从关注技术发展和融入转变为回归教育本质。数字教材编制在关注教材知识的表征和传递基础上，更多的是要“唤醒”课堂教学中学习者的“主体意识”，破除算法的“规训”和“操纵”，彰显“人”的主体意识和内在精神，重拾“以人为本”的教育价值信念。例如，有研究者指出：“数字教材编制过程中，必须将‘以人为本’的价值理念贯穿始终，用‘教育之眼’来透析、挖掘和实现‘计算’的育人价值。”［19］还有研究者认为：“对新技术所构建的喧嚣场域中，要对学生已经或可能产生的价值迷失、行为失范等进行澄清和引导。”［20］因此，数字教材编制必须以价值理性为指引，创新人工智能融入数字教材编制中的算法、设计和传播，消解智能技术教育操控的风险，还必须立足人的发展，彰显人文价值理性的作用，防止对人工智能技术的过度依赖。

（三）动态监控智能技术融入数字教材编制全过程

一般而言，纸质教材编制分为教材内容选择、组织和呈现三个阶段。人工智能应用下的数字教材编制包括“数字教材的目标与设计、数字教材的内容选择与组织、数字教材的智能表征”，涉及数字教材编制的内容维度、数据维度和生成维度等不同层面。做好数字教材编制全过程和全方位的监控，才能不断提高人工智能融入数字教材内容的适切性和交互性，实现深度学习的目标。

首先，从教材的目标与设计来看，数字教材的编制者需要秉持合理和恰当的编制理念，依据理念的指引和对教材应用场景的考量，优化教材编制的目标和顶层设计。教材的设计处于教材编制的“前端”，对教材内容的选择和呈现，甚至教材应用于教学过程都发挥重要作用。数字教材需要秉承“学习者中心”理念，通过将大数据等技术手段融入教材编制，促进学习者“有意义的自主建构”。数字教材编制过程中各个参与者可以利用智能信息平台或技术进行及时交互、充分讨论，提高教材编制的科学化和人文性。其次，在教材内容的选择与组织上，一方面要考量学科专业知识体系的系统性和完整性等，另一方面要观照学习者的内在精神、“生活世界”以及他们的身心成长规律，根据学习认知实际情况，完善教材内容。内容的选择和组织要平衡智能技术带来的教材内容的无限性和学习者精力及时间有限性的冲突。数字教材编制中内容的选择和组织还需要体现“主题模块化”和“跨学科整合”的倾向，使教材内容更具有凝练和元认知效用。再次，在教材内容的呈现上，要充分考虑学习者的学习体验，数字教材中的内容呈现的方式要多样化、立体化，在明确内容的教育目的和价值基础上，充分利用智能技术手段和优势，通过文本、超链接、音视频和虚拟教学等方式呈现，激活学习者的学习兴趣，“唤醒”学习者的主体意识和内在精神。

（四）充分审视智能技术融入数字教材编制的设计机理

数字教材编制的直接目的是通过智能技术融入后实现教材内容的数字化，充分彰显技术服务体系的价值和作用，其最终目的还是在于通过智能技术不断拓展教育教学场域中的信息化变革，促进教师在新的时代背景下进行教学范式的重构和育人水平的提升。技术的驱动能够引发数字教材编制的设计改革，因此，从技术维度审视，结合教学分析、产品设计和制作三方面的内容，可以明晰数字教材编制的设计机理。

其一，遵循学习者的需要，利用智能技术厘清教材各部分内容编制目标，结合学习者的“个性化发展”趋势和教学目标，统筹数字教材编制的顶层设计；其二，基于真实教育教学情境的考量，设计数字教材的文本内容、音视频内容等，遵循教学目标和学习者认知特点，营造深度学习的情境；其三，从教材的开发层面看，“数字教材开发在满足学习者主体不同需求的基础之上，按照知识逻辑体系对数字教材内容进行模块化设计，并选择适宜的数字教材智能终端呈现数字教材内容”。［21］因此，要将人工智能技术伦理规范融入数字教材编制中，强化数字教材的人文价值追求。

（五）强化智能技术融入数字教材编制的制度建设

数字教材编制和智能技术的深度融合，依赖于相关制度的保障和支持。数字教材编制过程中必须完善两方面的制度：一是智能技术融入教材编制后的标准建设，二是数字教材编制过程涉及的相关法律法规。

首先，人工智能介入数字教材的编制，要着眼于教材内容层面的教育价值追寻和技术层面的实践操作，同时还要考虑数字教材编制的特色要求，根据国家的相关政策建立较为完善的质量标准，包括教材教育标准、内容标准和技术标准等。唯有如此，才能确保数字教材利用智能技术编制的合目的性。具体来看，一是要建立教育标准，数字教材的教育标准要遵循教育的价值追求和教育教学规律，充分考量学习者的认知发展特点，对教学实践场域中的教学方法和教学模式等提出有效建议［22］。二是要完善内容标准，确保教材内容选择和组织的科学性和合理性。三是要建立教材编制的技术标准，通过学习借鉴国外先进的数字教育标准成功经验，结合数字教材内容编制实际，探索规范、有效的数字教材标准。四是建立融入智能技术的数字教材编制的版权标准，编制的内容不能存在侵权行为，同时也要加强自身知识产权的保护。其次，从政策、法律和法规层面提供制度支持。针对智能技术融入数字教材后的伦理规范和技术发展的“双重诉求”，应更多关注数字教材编制中可能会涉及的算法、数据的法律依据。同时，还需要通过法律手段，进一步明晰教材编制应遵循的伦理规范，厘清数字教材编制的治理“边界”。诚如有研究者指出的那样，“借助相关法律对算法歧视、隐私入侵、数据安全、数字资源版权等问题进行规制”［23］，促进数字教材编制真正面对和走进人工智能技术的疆域深处，对数字教材编制在智能时代的真实处境进行再认，明晰数字教材编制的要义，避免因为技术的异化使得数字教材编制过程中工具理性的僭越，导致教材编制陷入伦理窠臼，最终实现数字教材编制的价值复归。