人工智能研究中的探索空间与伦理界限

邢晶晶

【摘  要】 教育在人工智能的加持下，促进了教与学效率的提高。人工智能在教育领域的应用具有巨大的探索和发展空间，但是也存在着不可逾越的伦理界限。秉持发展“以人为本”的生成性人工智能，要在探索的同时不越界，做到保护隐私、尊重人格等。

【关键词】 人工智能；探索空间；伦理界限

人工智能（AI）是一个技术科学领域，其研究和开发包括理论、方法、技术和应用系统，旨在模拟和增强人工智能。人工智能分为强人工智能与弱人工智能，本质区别在于是否拥有自主意识。人工智能赋能教育的现象比比皆是，比如电子书包、多媒体交互、VR虚拟等技术。以及2022年发布的聊天机器人程序GPT，其功能强大，甚至被学生用来“解放”头脑和双手，代写作业和论文。人工智能研究需要辩证看待。要在将人工智能应用于教育中时发挥其正向的作用，同时避免跨越其反向的边界线。因为在涉及与人相关的研究时，人工智能技术的应用是存在限制的。人工智能随之带来的一系列伦理挑战，我们需要积极应对其隐患。做到发展“以人为本”的生成性人工智能，更好地为人类服务。

一、人工智能的底层逻辑：大数据、算法和算力

我们想要知道人工智能涉及的伦理问题，就需要解开人工智能的“黑匣子”，了解人工智能的底层逻辑。为什么都是设定好的程序，预先写好的算法，还会出问题呢？人工智能因为没有人为因素介入通常被人们认为是公平的。但是实际的情况并却不如人所愿。人工智能中也会出现对种族的歧视和女性的厌恶，也就是说人工智能中也是存在偏见和歧视的。那么，究竟是什么原因导致的？人工智能的偏见主要源于算法和数据。它的算法和数据使得它对某些特定的种族和性别表现出了负面偏见。人工智能和大数据是密不可分的关系，大数据是人工智能的能量来源，而算法则是推动人工智能发展的引擎。算法是计算机根据大数据归纳得出的识别逻辑、解决问题的方法。算力是计算机处理信息的能力。随着互联网的高速发展和信息时代的运转，产生的是一个数据爆炸的结局。计算成本降低与算力进步使得處理和分析海量数据成为可能。例如当你走进一家4S店时，经理似乎对你不感冒，你上前询问理由，经理回答：“当你走进门的那一刻，我们的摄像头已经对你进行面部识别，你的月工资、工作单位、最高消费水平等都一览无余。”可以说，算法在幕后重新建立了一种秩序，几乎所有的经济运行流程或人们的活动都受其影响。算法社会的前提条件是将万物都数据化，包括了人的数据化。

二、人工智能研究中的探索空间

（一）脑机接口技术

脑机接口是可以连接机器外部设备与大脑的技术。目前了解到的脑机接口技术被用来帮助高位截肢的病人开球；帮助渐冻人实现意念打字；以及帮助出车祸的患者实现意念喝水等等。这项与人工智能有关的技术在教育、医疗、娱乐、健康等领域都多有应用。举一个贴近现实的例子：脑机接口中最广泛应用的技术是“人工耳蜗”。它能够将接收到的声音转化为电信号，并将这些信号传输到耳蜗中的电极上。电极通过刺激耳蜗神经来激活大脑的听觉功能。脑机接口技术把一些不可能变成了可能。

脑机接口技术还可以分为两类技术路线：侵入式和非侵入式。脑科学本身就是复杂的科学，收集的脑电信号是十分微弱的且易受噪音干扰。现在广泛应用的是非侵入式技术。但是，当一些高位截瘫患者需要功能恢复时就只能依靠植入脑机接口。利用侵入式技术，可以实现对视听功能的重塑，从而辅助治疗帕金森病和阿尔茨海默病等疾病；而非侵入式技术则可以用于监测和改善睡眠质量等问题。

（二）智能化课堂

当人工智能融入教育，是康庄大道还是荆棘密布的小路？

人工智能已经开始进入教育领域，丰富了人们的教学方式与获取知识的方式。但是过多的碎片知识涌入、眼花缭乱的智慧学习模式，与教育的本质是否一致？AI在学习的过程中，应该扮演什么角色？传统的课堂教学往往是老师和学生之间的互动，学生大多是被动听课，而且教学过程中缺乏实时反馈和互动。通过人工智能技术，可以实现智能化课堂，提高教学质量和效率。例如智能教室通过视频监控、语音识别等技术，对学生的表情、动作、语言等进行实时监测和分析，帮助老师更好地了解学生的状态，调整教学内容和方法，提高教学效果。

目前，一些大学已开始尝试将人工智能引入课堂，与传统教学方式结合，以改进教学主体之间的互动，有效提升学生的主体性，并推动传统教育向智能教育的转变。例如利用智能终端和即时反馈系统改造了智慧教室，为师生提供高效的教学与学习环境，并借助语音识别和图像识别技术为学生提供智能化的自主测评平台等。

现在，智能教育平台的类型有很多，主要包括自动化教学平台、智能化教学平台和在线教育平台。自动化教学平台主要面向教师，帮助教师实现课程的自动化管理和授课；智能化教学平台主要面向学生，帮助学生实现课堂学习的智能化；在线教育平台主要是面向在校学生和在职人员，帮助他们实现远程在线学习。

（三）个性化学习

个性化学习是指收集和分析学生的学习数据，使用人工智能描述每个学生的学习风格和特点，然后自动调整教学内容、方法和节奏，使每个孩子都能接受最适合自己的教育。

虽然教育倡导个性化教学，但教师在面对众多学生的情况下，很难感知和分析每个学生的学习情况。因此，实施个性化教学变得较为困难。现有的在线教学大都不是真正的个性化教学，只是将传统教室移到了手机和电脑等电子设备上，仍无法及时有效地关注学习者的学习状况。然而，随着人工智能的出现，有望有效解决这一问题。

随着人工智能技术的普及和应用，个性化学习资源的获取和利用得以加速。慕课等在线教育平台作为我国教育领域的重要代表，已经积累了大量的教育数据，为广大学习者提供了丰富的学习资源。然而，学生在挑选课程时，往往会依据个人的兴趣和现有的知识水平进行选择，这一现象在一定程度上可能导致信息过载，甚至引发学生的兴趣丧失。通过利用人工智能的机器学习方法，结合学生的知识水准、兴趣喜好、学习习惯和学习情绪等数据信息，可以对学生的行为进行分析，对学生进行个性化的筛选和推荐。因此，大学教育可以使用人工智能来推动学生对具有个性化的专业领域资源的选择，并开展个体化的教学。

三、人工智能研究中的伦理界限

（一）隐私保护的“最后一个堡垒”

脑机接口技术涉及对个人大脑活动的数据采集和分析，如果这些数据被滥用或泄露，将对个人的隐私权产生威胁。因此，在使用脑机接口技术进行教育应用时，必须确保学生的个人隐私不受侵犯，并采取相应的安全措施。目前人工智能的广泛应用已经明显显示出隐私保护问题。首先，教育过程中使用脑机接口来实时监测学生的脑波动并及时反馈，这是否真正有利于教学效率提高，还是会阻碍学生进入高度集中的学习状态？其次，脑机接口是否会取代传统的学习方式，使学生不再需要努力学习？如果我们能够实现知识的直接传输，这无疑会进一步加强教育的机械性和技术化程度。再次，对于脑机接口技术的操作和控制，需要建立一套完善的道德和伦理准则。例如在教育应用中使用脑机接口技术来解读学生的思维和情感状态，需要确保这一技术的使用是基于学生的知情同意，并且尽可能避免对学生产生不必要的伦理压力。此外，教育者需要在利用脑机接口技术时充分尊重学生的选择权，避免过度干预学习过程和结果。最后，脑机接口技术在教育应用中的使用也需要考虑到公平和公正原则。如果脑机接口技术只被少数特定群体所掌握和应用，将会加剧教育资源的不平等分配问题。因此，有必要建立相应的监管机制和教育政策，确保脑机接口技术的应用不会加剧社会不公平问题。

（二）“全景监狱”

首先，个人隐私和数据安全是智能化课堂面临的重要问题。在收集学生的学习数据和行为信息时，需要确保学生的隐私得到保护，防止数据被滥用或泄露。

其次，智能化课堂还可能加剧教育不平等问题。虽然智能化技术可以提供个性化的学习内容，但是对于那些没有机会接触到智能化课堂的学生来说，他们可能会面临学习资源不足的情况，从而进一步拉大教育差距，出现教育鸿沟。

再次，事实上，在智能课堂中，对学生的学习行为数据的采集属于一种外部监控，它涉及監控对象的意愿度、监控事务范围、监控数据的应用去向和监控评价质量等方面的伦理风险。从局限的数据调查，一般情况下会演变为全方位、全过程、全员覆盖的常规化和合法性的数据监督，而调查的对象也会逐步丧失其道德主体的身份，而成为数据透明的客体对象。人工智能技术对学生的学习过程进行实时全过程监控，记录学生的表情、动作、语言，对学生的性格有消极的作用，会对学生造成很大的心理负担，有侵犯学生个人隐私的嫌疑。甚至有可能将学生变为“表演型”人格的人。

最后，智能化课堂的应用也需要谨慎对待。虽然智能化技术可以提高学习效果，但是过分依赖智能化系统可能削弱学生的自主学习能力和创造力。因此，在智能化课堂的设计与实施过程中，需要充分考虑如何平衡智能化技术和传统教学方法，以确保学生全面发展和个性发展的需求得到满足。

（三）个人信息泄露的危机

师生关系冷漠化。比如慕课的大量使用，导致在传统的教育中，教师和学生的二元关系变成了机器、学生、教师的三元关系，在空间上对教师和学生的对话产生了影响，使学生无法直接感受教师的情感、态度、价值观，学生逐渐成为缺少感情色彩的知识接受者。机器是冰冷的，只有具有人文关怀的教师才是学生的引导者。在大数据的推送下，学生接受的信息过量，信息迷航导致学生压力倍增，会损伤身心健康。个性化学习需要收集和分析大量学生的个人数据，也可能涉及敏感信息的获取和使用，如学生的姓名、年龄、学生成绩等。在个人数据的收集和使用过程中，必须确保学生数据的安全和隐私。个性化学习还可能陷入算法偏倚和认知限制的困境。个性化学习系统依赖于算法来分析学生数据并做出学习推荐，但算法的设计和实现可能存在偏倚和错误。如算法可能过分关注学生的某些学科，忽略其他学科的重要性。

人工智能教育的发展促进了大数据在教育领域的拓展。教育机构利用各种数据采集设备和数据分析系统获取学生的各种信息，并利用强大的算法对这些海量数据进行深入分析。不仅可以对学生成绩进行排名，还可以“计算”出一个人的道德品质、政治素养、思维能力、心理健康状况、行为习惯等，甚至可以“读懂”其隐藏的伎俩。可以说，在人工智能时代，一切都有可能被记录，一切都可以成为大数据，智能算法系统比我们更了解自己，人们毫无保留地暴露在数据智能分析之下。

学生在平时使用人工智能应用时，表面是风平浪静的个性化学习，背后却是将学生的所有数据收集起来被数据公司利用，被智能教育商分享和使用，甚至他们已经创建了一个教育用户数据库。这使得数据和个人信息的“所有权”变得毫无意义。

四、结语

文章首先梳理了人工智能的底层逻辑，明晰人工智能是如何实现目标的，讲清楚了人工智能的操作逻辑和基本原理。人工智能在教育中的应用越来越广泛和深入，与教育的融合也越来越普遍。人工智能与传统教育的融合推动了高等教育的改革。人工智能在教育中的应用可以实现跨时空学习，提升学习和教学效率等。在人工智能的时代下，高等教育中的主体，也面临着挑战和不容忽视的伦理问题，我们必须充分利用人工智能带来的技术优势，以推动社会进步和创新发展。然而，我们也要着重关注伦理边界，确保人工智能技术的教育应用不会对人类产生负面影响。同时，应以教育技术的理性态度，客观地评估人工智能技术的效果和潜在风险，以确保其发展符合社会的共同利益和人类价值观。只有在正确的引导下，人工智能才能成为社会发展的强有力支撑，为人类带来更多福祉。

参考文献：

［1］ 孙佳晶，冯锐. 人工智能教育应用的伦理风险研究［J］. 大众文艺. 2020（03）：248-249.

［2］ 郑忠梅. 教育技术理性的伦理意蕴——基于Web2.0的网络教育文化视角的分析［J］. 中国电化教育，2011（03）：8-11+32.

［3］ 董云川，韦玲. 人工智能促进高等教育发展的伦理纠偏［J］. 重庆高教研究，2021，9（02）：51-58.