人工智能在大学教学中的应用：现状、问题与未来展望

矫怡程，朱晓琳

（青岛大学 师范学院，山东 青岛 266071）

人工智能是指使用计算机系统来完成传统上依赖于人类认知的任务和活动。［1］2019年习近平总书记在给国际人工智能与教育大会的贺信中指出：人工智能是引领新一轮科技革命和产业变革的重要驱动力，正在深刻改变着人们的生产、生活、学习方式。［2］教育人工智能（Educational Artificial Intelligence）即为人工智能在教育领域应用的产物，其实质是通过人工智能技术理解学习是如何发生的、外界是如何影响学习的，进而为学习者创造更高效的学习条件。［3］人工智能被认为是加速高等教育发展的重要技术之一：人工智能是未来引发教育变革的内生动力，对解决教与学中的关键问题、改善教育管理的方法与实践具有重要作用，并将有助于进一步提高教育质量、改善教育公平。为此，世界各国纷纷出台政策加强人工智能在教育中的应用。教育部关于印发《高等学校人工智能创新行动计划》的通知中提出要通过人工智能推动大学教学领域变革，构建智能教学环境、探索智能教学模式、开展多维度综合性智能评价。［4］然而伴随不断发展的技术，人工智能正在越来越接近于人类智能，大学教学中应用教育人工智能的诸多问题引发探讨：人工智能将从何种程度上变革大学教学？又将如何重塑大学教学目标、教学环境和教学内容？甚至有人怀疑人工智能是否会消解学校、取代教师。为解答这些疑惑，本研究将尝试梳理人工智能在大学教学中的应用现状，分析人工智能在大学教学中应用的局限性，以探索未来人工智能在大学教学中的发展趋势，为高等教育工作者提供借鉴和参考。

一、人工智能在大学教学中的应用现状

人工智能产生后不久，研究者们就在不断探索如何将其应用于教育领域特别是教学领域。Pearson报告对教育人工智能进行了整体分析，认为人工智能应用于教学有三个关键模型：学习者模型、领域模型和教学模型。［5］而人工智能在教学领域最前沿的应用——智能导学系统（Intelligence Tutoring System，ITS），有四个关键组成部分，分别是学习者模块、学科领域模块、教学方法模块和互动接口模块。［6］深入分析教育人工智能和智能导学系统的模型机制，结合人工智能在大学教学中应用的具体过程，本研究将人工智能在大学教学中的应用总结为四个关键环节：数据化学习者、学习者建模、领域知识建模和开展精准教学。其中，数据化学习者是前提，学习者建模主要作用是了解学习者的学习情况，领域知识建模主要目的是构建具体学科的专业知识体系，开展精准教学则必须结合教学有关的专业知识、技能和方法。这四个核心环节涉及到认知、评估和理解学习者，制定符合学习者实际需求的学习路径和内容，创设体验式学习情境并指导学习行为等大学教学的主要方面，反映了人工智能在大学教学领域中的具体应用。

（一）通过智能技术收集学习者数据

将人工智能应用于大学教学首先需要建构对于学习者的数据化认知。“量化自我”理念认为，运用可穿戴设备及其他各种带有传感器的仪器，可以监测、量化和记录个人的基本信息，从而形成个人的生命数据，进而可以基于这些数据对个体健康进行评估。［7］基于量化自我的“量化学习”理念认为，可以通过获取学习者外显和内隐的学习行为数据，可以监测、量化和记录学习者的学习活动和成长过程。［8］不论是量化自我还是量化学习，其前提条件都是“数据化”：只有通过数据化的信息采集，才能进行精确化分析，进而提供精确化的建议。

学习者数据化需要考量两个基本问题：第一个问题是对学习者进行数据化需要哪些数据，第二个问题是如何获得这些数据。前者需要理论探讨和分析，包括学习理论对于学习的认识，以及不同来源数据格式的标准，以便互相转化。后者则需要技术支持。学习者数据化的采集离不开智能技术的发展和广泛应用。传统的学习者数据主要是指音频、视频、图片、文本等，随着技术的发展以及可穿戴设备的广泛应用，通过面部表情识别技术识别学习者的情绪、通过眼动跟踪技术识别学习者的注意力、通过运动传感技术识别学习者的身体移动轨迹、使用脑机接口识别学习者情感和注意力水平等都被应用到学习者数据形成中。［9］智能技术的发展，实现了对学习者的基础数据采集由线上数据到线下数据、由外显数据向内隐数据、由行为数据向心理数据的扩充，从而为情境化、多时空、多模态精确了解学习者提供了可能性。

（二）通过分析技术完成学习者建模

人工智能对大学教学的变革首先是通过理解学习者和学习过程实现的。理解学习者和学习过程又称学习者建模，［10］是学习科学领域的重要研究课题。学习者建模依靠学习分析实现，目的是通过对学习者全方位、多层次、多模态的数据的分析，对学习者的知识水平、认知发展、学习状态、学习风格、学习动机等进行精准刻画。事实上，由于数据收集技术和数据分析能力的限制，初期的学习分析主要关注学习者的行为、活动、互动、结果等外在表现。［11］随着感知设备的发展，使得学习者的生理数据也可采集；大数据计算能力的发展，使得复杂数据分析成为可能。因此，当前多模态学习分析在学习分析领域中备受关注。多模态学习分析认为，人类的交流存在多种形态，比如语言、情绪、肢体动作，这些形态之间相互作用、形成互补关系，［12］以准确传达表达者的意图。因此，要理解学习者，就需要对学习者的多种形态进行综合分析，即多模态学习分析。

从分析层面来看，多模态学习分析可以大致划分为九个方面：［13］文本分析、话语分析、笔记分析、草图分析、动作和手势分析、情感状态分析、神经生理标记分析、眼睛凝视分析、多模态整合和多模态界面分析。从分析技术来看，多模态学习分析需要用到机器学习、关联数据挖掘、自然语言理解、认知网络分析等一系列数据分析技术，以实现对学习者的综合理解，完成学习者建模。［14］此外，学习者历史数据的分析对学习者建模也具有重要作用，有助于理解学习者变化的历史轨迹。通过分析数据，可以实现对学习者的学习水平、学习目标、学习动机、学习风格、学习状态等的理解，从而建立有效的学习者模型，为后续教学做准备。

（三）通过知识图谱实现领域知识建模

领域知识建模的本质是将各个领域的知识进行语义化和结构化的表征，从而使学科知识和学习资源有序化。［15］领域知识模型相当于大学教师的专业知识储备。在人工智能中，领域知识建模是通过知识图谱实现的。知识图谱是一种知识管理的手段，其本质上是一种概念网络，包含概念和概念之间的关系两个部分。［16］知识图谱的建构主要有两大路径。一种路径比如传统的“科学知识图谱”，其建构方式是自上而下，即首先建立知识建构的基本模式，然后根据该模式将已有知识分类。这一路径在知识有限、数据分析功能有限的前提下被广泛使用。然而随着信息数量爆炸式增长以及信息获取和分析技术不断发展，知识图谱的构建也出现了自下而上的“谷歌数据图谱”模式。［17］该模式的特点是，基于已有的公开数据，选择其中置信度较高的部分形成数据建构模式，并在后续知识图谱的构建过程中不断完善建构模式。

知识图谱以其结构化、语义化、智能化的特点，正在成为人工智能中领域知识建模的关键技术。［18］以往，掌握扎实的学科专业知识、拥有丰富的跨学科知识面被认为是大学教师必备的专业能力之一。然而教师面对大量的网络化、碎片化知识也容易产生认知负荷超载，这是人类共有的先天性局限。人工智能以知识图谱为基础进行领域知识建模，在应用于大学教学过程中，可以有效拓展大学教师的知识结构、提高大学教师的知识更新速度，无疑对大学教师教学水平的提高具有重要作用。

（四）通过适应性反馈开展精准教学

大学教师开展教学，必须具备一定的教育教学知识，通过一定的教育教学方法，提高学生的学习效果。人工智能应用于大学教学也必须依据一定的教育教学方法，制定相应的教学策略，促进学习者的学习行动。［19］在教育人工智能中，这一过程通过适应性反馈实现——在恰当的时机为学习者提供最适当的反馈。［20］适应性反馈建立在两方面的基础之上：对学习者基本状态的理解，如学习者的指示掌握程度、学习者的元认知状态、学习者的学习能力和情绪状态等；对领域知识的基本理解，如正在学习的内容与其他内容之间的联系是什么、该学习内容的前置知识包括哪些等。通过对学习者和领域知识的理解，从而为学习者提供最恰当的反馈，开展精准教学。

根据适应性反馈内容和形式的不同，研究者将教育人工智能中在教学中的作用概括为以下几种：为学习者提供激励的激励者，帮助学习者解释概念和原理的辅导者，评价学习者学习情况并提供建议的建议者，为学生提供有效学习资源的连通者等。［21］随着人工智能技术的发展，教育人工智能开展适应性反馈的内容和形式也在不断扩展。一方面，人工智能识别、收集、分析和反馈的数据越来越多样化，表现为从文本形式、指示形式发展为自然语音、图形图像等，比如教育人工智能可以通过直接与学习者对话对学习者进行指导。另一方面，教育人工智能的教学策略越来越多样化，体现在其角色从最初的“教师”角色扩展到“同伴”和“学生”。教育人工智能不仅可以直接“教”学习者学习，而且可以通过扮演“同伴”与学习者互动学习、扮演“学生”让学习者在“教中学”。此外，将计算机科学与神经科学、认知科学相结合，例如使用神经网络计算技术开发人工智能教师，还可以使教育人工智能面对复杂不可知的课堂教学环境。［22］

总的来说，将人工智能应用于大学教学可以实现大学教师的解放与创新。一方面，将人工智能应用于大学教学，可以替代教师工作，将教师从简单劳动中解放出来。包括替代教师完成简单体力劳动工作，如搜集资源、控制课件、签到、资源共享等；替代教师完成简单认知工作，如信息采集、批改作业、常见知识点讲解和常见问题解答等；替代教师开展特定的教学工作，如写作指导、学习指导。［23］另一方面，将人工智能应用于大学教学，还可以进一步赋能教师，帮助教师开展更富创造性的工作。比如教师借助于人工智能收集教学数据、监测教学过程，从而进行学情分析和诊断、迅速改善教学策略以提高教学效果等。［24］实证研究发现，将人工智能应用于教学可以有效促进学生的学习。［25］

二、人工智能在大学教学应用中存在的问题

研究者对人工智能在大学教学中的应用前景寄予了较高的期望，但现实中，也同时存在一些理性质疑的声音，认为人工智能在大学教学中应用存在局限性。这些质疑主要体现在以下四个方面。

（一）如何理解人工智能与人的关系

人工智能在大学教学中的应用需要教育教学理论的支撑。面对人工智能的挑战，大学教育教学理论不得不在讨论教育与人的关系、教育与社会关系的基础上，进一步研究和回答教育与机器的关系。［26］现有的教育教学理论在回答人工智能与人的关系时，还存在一定的伦理局限性。教育人工智能通过将学习者数据化来理解学习者，并进一步决定采取何种教学策略促进学习者的学习。这其中需要注意到，学习者是一个复杂的整体，而通过人工智能获取的多层面数据将学习者进行了解构，形成了一组多维多层次的数据。虽然随着技术的发展，学习者的数据会更加丰富和全面，但这些数据是否能够真正反映学习者还有待研究，而且这些数据还可能会标签化学习者，进一步通过教学过程形塑学习者。因此研究者也担心学习者会形成浅表化学习，严重依赖人工智能，最终丧失自主学习能力。［27］如同正在发生的后真相时代，互联网公司基于用户的搜索和点击习惯开发算法，使得用户每次的搜索和点击都会进一步确认自己的偏见，［28］教育者也应当反思未来人工智能应用于教学究竟是促进了学习者的发展还是形塑了学习者。

（二）如何理解智能时代的教学目标

人工智能作为一种先进的技术，可以提高教育效率和教育质量，比如改进教育教学方式、扩展教育教学资源。更重要的是，人工智能也会以“智能思维”的方式，对教育理念、教育目的、教育内容和方法等进行“智化”，使人们重新定义和理解教育。［29］人工智能和机器人的发展，进一步加剧了世界的不确定性、模糊性、复杂性和多变性。［30］这要求未来教育教学的首要目标是培养具有复杂心智的个体，能够面对、理解和处理不确定的世界。然而现有人工智能的教学目标却是通过帮助学生组织知识、了解学生目前所处的水平、推送相关知识点、重复性“刷题”等行为主义学习理论来实现。［31］人工智能的应用虽然一定程度上提高了教学效率，但却造成了教育目标理想与现实的背离。一方面，当前的智育目标倡导知识的迁移能力、逻辑思维能力、批判性思维能力、领导力、沟通力、创新能力和复杂决策能力，而人工智能的教学过程只见知识不见能力，最困难的是无法实现创新能力的培养。而创新能力和想象力被认为是人工智能时代人类最重要的品质。［32］另一方面，将教学目标单纯的理解为“知识学习”与“能力提升”，也就意味着忽视了传统教育中的情感和道德层面，将学习者的学习过程从情感体验和价值观形成的过程中剥离出来。

（三）如何保障教学过程中的数据安全

数据与算法是人工智能的两大技术基础。［33］将人工智能应用于大学教学，其本质是对大学教学过程中产生的大量数据建立算法。［34］人工智能本质上是基于算法进行无数松散数据的分析，因此人工智能在大学教学中的应用离不开大量数据的采集、存储和处理。［35］而教学过程中产生的学校数据、教师数据和学生数据为教育人工智能的发展提供了可能性。从数据角度而言，随着教育信息化的深入，智慧教室和智慧校园的建设，教师和学生的注册信息、浏览痕迹、使用痕迹最终都形成了教育人工智能的数据基础。这些信息数量庞大、覆盖范围广泛。这也造成了教育大数据具有一些容易产生数据安全的特殊隐患。一方面，教育大数据数量巨大，与个体的关联性强，在信息时代这些数据本身具有重要的价值。在大学教学过程中应用人工智能进行学生学习分析和教师教学，需要收集学生和教师多方面的信息，包括基本个人信息、学习数据、教学数据等。在信息时代这些数据本身具有重要价值。如果采用适当的信息挖掘技术，这些信息可能会组合形成更有价值的数据链，产生连学习者都意识不到的隐私。［36］另一方面，教育大数据越来越依靠互联网和云端进行采集、传输和处理，增加了其安全隐患。以慕课为例，其网络教育服务均在云端进行，这种共享、开放、透明的特质使得教育大数据容易在获取、存储和传输过程中被病毒和黑客攻击，被不法分子获取甚至恶意传播，造成数据安全隐患。［37］

（四）如何规避人工智能的算法风险

算法是人工智能的第二大支柱。算法基础则是指人工智能将具体的教育问题抽象为数学问题，进而建立解决问题的逻辑模型和算法。由于基础信息数量巨大、非结构化以及存在隐形知识，因此研究者们在不断寻找数据的新算法，其中神经网络运算法、决策树法和遗传算法被广泛运用在教育人工智能的算法策略中。［38］算法和数据既成就了人工智能在教育领域中的应用，但也因为其本身的一些限制，使得人工智能在大学教学中的应用存在一定的风险。算法模型的高度简约化容易造成学生常识性知识碎片化、丧失缄默性知识、无法发展独立思考的能力等，造成教育的形式化，以及算法更容易量化和计算显性知识，教育中的情感教育、价值观教育等无法被纳入其中，人工智能在大学教学中的应用效果值得怀疑；［39］算法模型的大规模应用意味着看似个性化的反馈背后的逻辑基础是一致的，［40］所以需要质疑人工智能所“教育”的学生到底是个性化还是同质化；算法的输入与输出之间存在着研究者无法控制的黑箱，［41］在人工智能自我学习、自我训练已经成为现实的今天，人工智能的学习过程和学习结果尚不能被人类很好地理解，因此需要质疑将人工智能应用于教育是人在控制人工智能还是人工智能在控制人。

三、人工智能应用于大学教学的未来展望

由于人工智能在大学教学应用上既有优势也存在一定的局限性，研究者普遍认为未来人机协同是教育人工智能的发展方向。在人机协同的教育人工智能应用中，需要建立相关制度保障人工智能的技术安全，师生应当更好地理解人工智能与人的关系，提高自身的创造性和能动性，实现个体的主体性成长。

（一）更好地理解人工智能与人的关系

人工智能与人的关系从根本上说是技术与人的关系，对此，不同的学者有不同的理解。最早人们认为技术物体是物质集合，只具有使用价值。然而随着技术的发展，这种认识被慢慢超越。AndréLeroi-Gourhan提出了技术架空人类论。［42］他认为人类与技术是一种特殊关系——外在化关系，这就意味着，与动物依靠基因记忆进化不同，人类是依靠语言、文字等技术体系，把记忆写入工具和文献等外在物体中实现进化的。人类使用石器、弓箭等使体力外在化，使用红外线设备、超声设备等使感知外在化，使用文字、视频、音频等使意识外在化。当人类机体外在化完全实现时，就会出现技术架空人类的结果。SpaceX创始人Elon Musk曾多次呼吁阻止人工智能研发竞赛，并认为开发人工智能是“召唤恶魔”之举。然而，他的危言耸听并没有使人工智能开发停滞甚至没有使人工智能的发展和应用慢下来。为此他专门建立了“脑机接口”公司，试图使人工智能的发展走向好的一面。［43］Gilbert Simondon反对机器威胁论，认为是人们没有正确理解记忆的本性和本质导致了人们对机器的恐慌。［44］他从人的个性化思想出发提出了技术发展的极限：即使是高度自动化的技术物体，也只是孤立系统，因此必须依靠人类进行信息交换。Bernard Stiegler进一步发展了Simondon的思想，认为人类与技术互为主体与客体：人类发明了技术，技术又塑造了人类，人类与技术是一体两面，无法独立存在，和谐共生。［45］王作冰基于人工智能与人的协作关系提出“人工智能商数”的概念，［46］认为这一概念具有三重含义：一是借助人工智能扩展自我学习和工作的能力；二是通过信息技术和生物技术实现自我与人工智能的深度融合，从而超越肉体、无限制扩展智能；三是人与人工智能结合最终超越了人工智能，进入位置的更高境界。［47］

人机共生的理念被大多数智能教学领域的研究者所接纳。在这一理念指导下面临的第一个实践问题即为“大学教师如何与人工智能共舞”。基于人与人工智能擅长的领域不同，赵勇等人提出人工智能可以完成重复性工作、结构性和程序性工作，教师主要完成批判性思考、社会与情感交互等方面的工作。［48］黄新荣提出人类应该将体力、智力工作教给人工智能，而专注于情感、意志等智慧领域。［49］事实上，人工智能不仅重塑了教师和教学，更重塑了学生和学习。人机协同智能结构的形成将分担学习者大脑的认知任务，甚至改变信息收集和加工过程；学习者多层次、多模态数据收集、分析并建模，有助于促进学习者自我认知的发展，更好的理解自己。［50］不论是人工智能与教师协同还是人工智能与学习者协同，人工智能收集数据、分析数据并据此做出决策的过程使人的存在很容易被异化：一旦教师或者学习者习惯于不再利用数据为“我”服务，而是依赖于人工智能做出的决策，人在教学活动中的主体性就会消失。未来机器可能不再仅仅是载体和工具，而是教育者和受教育者本身。［51］因此，正确理解人工智能与人的关系，并在人机协同中保持自我意识就显得非常重要。

（二）在自决学习中达成学生的主体性成长

随着学习者模型研究的成熟，在未来的学习中，人工智能可以迅速地根据知识图谱和能力图谱分析学习者的知识和能力发展状况，根据学习者的知识和能力薄弱点，为学习者提供个性化的资源；根据学习状态和学习体验数据分析学习者的学习风格和学习偏好，为学习者提供个性化的学习内容；还可以根据学习者的学习动机和学习兴趣分析学习者的学习价值观，为学习者提供针对性的指导和帮助。［52］人工智能的这些“功能”是以帮助学习者的姿态出现的，然而这些智能化的精准帮助反过来恰恰导致学习者失去自我认识和自我监控的能力。面对人工智能的便捷性，学习者只有正确理解学习和成长的内涵，并在将之付诸于具体实践，才能实现真正意义上的成长与成才。

过去工业时代的教育带有明显的统一规格的特点，这是由社会需要统一标准的劳动力所决定的。然而在工业4．0时代，以物联网、智联网、人工智能等技术应用为标志，社会进入了智能机器时代。智能机器已经取代或即将取代很多现有的社会职业，未来“劳动力的标准”是一个无法预测的目标，因此过去的教育模式在应对未来遇到了很大的挑战。这就要求教育者和学习者都重新理解教育的目的和价值。研究者认为未来教育要求学生成为自决的学习者。［53］不同于自觉的学习者，要求学生能够主动学习、完成学习任务，自决的学习者更强调学习者自主确定学习目的、自主选择学习资源、自由选择学习方式，开展以实现自我价值为目标的自我学习。未来教育有几个显著特点：一是学习内容应当以学生为驱动，目的是实现学生自身的价值和能力。这就要求学习者进行自我管理能力的培养和学习，进而根据自身的兴趣和能力选择学习内容，达成自我价值的实现；二是学习目的是为了解决现在的问题，学习是及时性的，不再是为了未来进行预备性的学习；三是学习时间和学习场所都不再固定，学生可以随时随地向全世界的人学习。［54］基于此，面向未来的自决学习者充分享有自主性和选择权，采用自我指导的学习方式，通过参加对个人而言有价值、有意义的活动进行学习，最终实现学习者的自我价值。［55］

（三）在反思与行动中实现教师的主体性发展

未来教育人工智能将走向何处，与人工智能的发展有密切关系。余胜泉等认为随着人工智能进入强人工智能或超人工智能时代，人工智能教师最终会具有较高的智能性和自主性，成为与人类教师同样具有社会性的独立个体。［56］面对人工智能发展的不确定性，教师只有在接纳中反思、在反思中行动，才能把握不确定中的确定性，实现自我价值。

首先，教师应当充分了解并掌握人工智能技术的发展，提高自己的技术能力和技术领导力。［57］作为教师而言，只有以开放的态度，理解人工智能与人的关系，了解人工智能发展的现状，尝试在教育教学中融入人工智能，才能在人工智能时代找到一条个人与专业发展的有效路径。其次，教师应当在应用人工智能的基础上反思人机关系，提高人机协作的有效性。Bernard Stiegler认为人类根据自己的“缺陷”创造形成的“代具”存在于自身之外，人必须借助外在技术而生存。［58］与传统教师相比，专门的人工智能在一些方面表现出自身的教学优势：例如知识面更广、知识更新速度更快；能够及时有效的获得学生反馈，在教学策略选择上有较高的灵活性和针对性。因此，在技术发展足够成熟的前提下，教师应用人工智能会感受到充分的便利性，重复性工作被替代，还能拓展提升教学能力。然而教师在使用人工智能的同时一定要保持反思，反思人工智能应用于教学的新形态，反思人工智能对教学目标、教学环境、教学方法、教学内容的重塑，［59］反思教师在教学工作中的地位和作用。通过教师的审慎反思与实践，不断重新确立人工智能时代教师的价值，实现教师的主体性发展。

（四）建立相关制度保障教育人工智能的技术安全

面对人工智能的技术局限所带来的安全问题，必须通过建立健全相关制度，以保障人工智能应用于大学教学的技术安全。制度是行动者公认的规则、价值和信念。［60］在人工智能应用于大学教学的过程中，存在不同的主体，而不同主体的价值诉求是不同的。从教师和学生角度而言，数据是他们的隐私，算法是为了更好地提升教学；从学校管理者和行政部门角度而言，对于数据的综合分析有助于建立更加有效的教育政策；从商业开发者角度而言，数据本身意味着巨大的商业价值，数据分析又会带来进一步的市场。［61］为了规范不同主体的行为，只有建立系统的政策制度，才能保障教育人工智能的技术安全。

对于数据保护层面的制度，主要应当关注个体隐私与开放共享之间的矛盾问题。［62］教育数据本身来自教师和学生，对于数据的分析会形成师生的数据画像，导致事实上的监控，因此隐私对于师生来说至关重要。但数据只有经过系统的分析才具有真正的使用价值，因此人工智能深度应用于大学教学又需要充分的数据共享。这就意味着在建立教育数据政策方面，应当在注重隐私保护的基础上实现开放共享，建立“对谁开放数据、怎样开放”的具体政策。对于技术保护层面的制度，则需要充分关注教育的模糊性与算法的精确性之间的矛盾。［63］为了建立有效的算法，教育人工智能不得不简化学生、简化学习情境、简化学习目标，使其能够被计算、被测量。后现代教学观认为教学是一个生成的过程，教学目标并不是绝对的真理，而是每个人的探究与理解。［64］因此，在具体的教育领域，还存在着大量无法定义的、或即使定义清晰也无法转换为机器算法的教育规则。［65］因此在使用人工智能时，应当在充分理解和尊重教育规律的基础上，保持算法和计算模型的可理解性和透明性，［66］以降低算法带来的应用风险。