新一代人工智能对高等教育的变革与风险防范

彭建升

（莆田学院，福建 莆田 351100）

1 新一代人工智能与教育融合发展

1.1 新一代人工智能与自主学习

自主学习，是新一代人工智能的技术核心，与传统人工智能解决确定性的问题相比，新一代人工智能通过交互学习和记忆实现解决不确定问题。人工智能发展还不足70年，但已经实现三次较大的跨越发展，根据对数据的处理方式可以简单分为“推理时代”“知识工程时代”和“数据挖掘时代”三个发展阶段。2016年，谷歌AlphaGo通过对庞大围棋数据深度学习击败世界顶级围棋手，成为新一代人工智能数据挖掘时代的标志性事件。人类对世界的认知也经历过三次革命：第一次认知革命是发明语言和文字，使人类的智能可以脱离生命体以文字的形式传承下去；第二次认知革命伴随着工业革命出现，人类可以高效利用物质和能量创造机械化工具解放劳动力；第三次认知革命是近一百年人类开始研究计算机、脑科学、人工智能来延伸人类的智能。

1.2 教育领域新一代人工智能相关概念

教育领域的新一代人工智能通常可以分成两大类：人工智能赋能教育和人工智能学科教育。前者主要是指应用新一代人工智能技术创新教育模式以提高教育质量，后者主要是指发展人工智能学科以培养新一代人工智能技术人才。

1.3 我国教育领域新一代人工智能发展

2018年，教育部印发《高等学校人工智能创新行动计划》，提出我国高等学校要建设成为世界主要的人工智能创新中心和人才培养高地。2019年，教育部再印发《中国教育现代化2035》，明确提出要建成服务全民终身学习的现代教育体系。全国高等学校纷纷响应新时代国家发展对教育领域中新一代人工智能的发展的要求，已有上百所高校设置了人工智能、智能机器人等工程专业，纷纷成立新一代人工智能研究中心，加快建设智慧校园。我国主要从三个维度推进教育领域中新一代人工智能的发展，一是发展人工智能学科，加快培养新一代人工智能高层次人才；二是推动新一代人工智能研究与技术应用；三是建设智慧校园，促进新一代人工智能在学习应用。

2 新一代人工智能对高等教育的变革

以高等教育中的新一代人工智能为研究对象，可把新一代人工智能对高等教育的变革方向聚焦在三个主要方向，分别是师生关系、科学研究、高等学校治理。

2.1 高等教育主体多维延展与局限

新一代人工智能将大力变革以师生为主体的教与学组织模式，个性化需求将更加深入，从而达到对人的教育高质量发展目标。高校教师的作用将更多回归到启发性、引导性教育，而知识的传授将更多依赖新一代人工智能技术支撑。学生学习的知识结构体系、实验演示与操作、学习成果评价等将通过知识互联、海量数据、虚拟现实等技术实现更高效、更个性化、更人性化的学习效果。

2.2 科研组织形式与技术伦理

新一代人工智能由于具有强大的数据挖掘与学习能力，将对科研人员在科研前期准备工作提供强大支持，在文献检索、数据分析、模拟实验、预测结果等方面为科研人员提供帮助，让科研人员很快定位出科学研究前沿动态与研究进展，避免重复无效科研工作。科研人员将有更多时间与精力聚集在所研究的问题，提出创新性方法、开创性思路。传统科研团队的组织形式也将变革，将完全突破学科界限，跨学科将不再是科学研究的障碍，科研团队成员更加聚焦问题的解决路径，提供创新性思路。但是新一代人智能作为一种工具必然面临着技术伦理问题，在科研中涉及隐私、偏见、歧视、公平等伦理问题的管控仍不完善。

2.3 高等教育治理与教育公平

新一代人工智能的应用使得高等教育去中心化趋势将越来越清晰。高等学校将不再是单向地向学生输出教育内容的唯一中心，学生也可反向参与课程建设，高等教育办学将更加开放、自由，能更好地服务学生的个性化发展需求。新一代人工智能对办学质量数据的挖掘与学习，将使对学生、教师的评价更加客观、公正、人性化，更有利于个体的个性化成长。

3 高等教育领域中的新一代人工智能风险挑战

3.1 弱化教育初心风险

新一代人工智能作为一种技术工具，如果不考虑高等教育立德树人的初心与使命，技术手段越高效，其违背育人初心与使命的问题就越突出。高等教育不能像工厂流水线，高效生产数据标准上的合格产品，而必须考虑培养具有专业知识与完整人格的高层次人才。当高等教育过分依赖新一代人工智能技术时，教与学之间容易转变为数据与数据之间的简单交互，造成高等教育向形式化、表层化和同质化发展。因此，必须正视高等教育领域中的新一代人工智能可能存在有智能无智慧的技术应用风险，必须考虑对人的教育存在的不确定性，必须坚守对人的教育的初心与使命。

3.2 高等教育治理伦理风险

新一代人工智能技术应用高等教育的内容将极大丰富，知识更新更快，这可能让教师与大学生感到无所适从，高校同事之间、学生之间的竞争可能被放大，强者更强弱者更弱。由于高等教育个人学习的数据管理机制还不完善，个人隐私掌握的少数人手里，新一代人工智能有可能在大学里构建成一座福柯式“全景式监狱”，学习能力标签化、教育歧视等问题难于避免。高校对人的教育更需要文化、艺术、道德等熏陶，这种独特需求也难于被新一代人工智能技术所胜任。

3.3 教育大数据与算法伦理风险

新一代人工智能技术依赖大数据采集、存储与调用，必然面临可能的数据泄露和信息安全问题，同时数据算法的黑箱、算法歧视等问题也层出不穷，高等教育领域也难于幸免。在大数据时代，高等教育各类数据都有可能被不良公司或个人挖掘、预测、监控，大学生个人存在被侵犯个人隐私的风险，隐私可能变得“透明”。数据收集、存储、调用没有建立统一标准和规范，影响新一代人工智能健康有序发展。同时，新一代人工智能依赖数据算法，可能存在偏见、歧视等一系列伦理问题。一方面，新一代人工智能算法只关注数据的输入和输出，使用者对算法“黑箱”几乎一无所知，即使是算法设计者也无法掌控，这种不确定性算法推送的学习服务忽视了学习者的知情权。另一方面，新一代人工智能算法提供的个性化服务，在某种程度上约束了大学生的选择权，对其成长是否有负面作用尚无定论。

4 高等教育领域中新一代人工智能风险防范

4.1 构建高等教育新一代人智能应用的伦理规范

高等教育的对象是高层次人才，新一代人工智能教育应用不能有违高等教育伦理和高等教育发展规律。必须加强高等教育领域新一代人工智能应用规范的顶层设计，既要符合新一代人工智能的技术要求，又要结合高等教育对人的塑造特殊要求，制定高等教育领域新一代人工智能应用的伦理规范。推动建立新一代人工智能在社会、家庭广泛认可的伦理准则、道德标准，确保高等教育领域新一代人工智能应用健康有序发展。

4.2 构建高等教育新一代人工智能应用有效监管机制

新一代人工智能的技术核心是数据与算法，构建有效监管机制主要在数据和算法两大方向入手。欧盟等出台《统一数据保护条例》，提出具体的数据管理规定，传递出“数据正义”理念，其核心是数据透明和规避数据歧视，这为我国新一代人工智能数据管理提供借鉴。由于高等教育新一代人工智能事中算法黑箱的不可控特点，对其监管更应注重事前和事后监管。

4.3 构建以人的全面发展为目标的高等教育伦理共识

人的全面发展应当成为高等教育的主要目标，高校对高层次人才的培养不应只满足掌握专业知识，而要兼顾道德、人性、人格、尊严、情感、文化素养等多方面培育，而这些是新一代工智能技术的难于胜任的场景。因此高等教育领域的新一代人工智能在强调知识、创造、发明的同时，更要关注增进人的智慧与自身自我成长，使人的全面发展成为高等教育伦理共识，规避人文、艺术、心理、情感、道德教育的缺失，培养具有批判性思维、文化素养、创新精神和同理心的高层次人才，使得培养出的人才在新一代人工智能与人类共同协作的社会中发挥更重要作用。