大模型时代中小学生信息意识培养的挑战与应对

2023-04-18 15:24:57
教育传播与技术 2023年6期
关键词:信息安全人工智能意识

陈 勇

上海市西南位育中学 上海 200235

一、引言

在2022 年底,由人工智能实验室OpenAI发布的对话式大型语言模型ChatGPT 问世。它出众的语言组织能力、文本生成水平和逻辑推理能力引发了全球范围的广泛关注,被视为人工智能领域的重大突破。这一进展推动了全球各行各业特别是互联网和人工智能领域的巨头们加快了研发步伐。例如,谷歌推出了“Bard”,百度发布了“文心一言”,而阿里也紧随其后,推出了“通义千问”等生成式人工智能产品。微软更是宣布将ChatGPT 与其办公软件、“必应”搜索引擎等进行全面整合。这表明基于大语言模型的生成式人工智能的能力正在不断拓展,其应用场景也因此变得更加广泛。随着ChatGPT 这类大模型的应用逐渐拓展渗透到各个领域,中小学生的学习模式、思维模式和行为模式很可能会受到影响。例如,中小学生可能会利用大模型应用来收集资料、完成作品创作或文章写作等任务。这可能对中小学生的学习模式等产生一定的影响。虽然大模型应用能够提供一些信息或回答问题,但是如何评估其提供的答案的价值,以及如何将其合理运用于作品创作或实际问题解决等方面,仍需要培育学生的数字素养和技能,以应对智能社会的挑战。

中小学生是社会主义现代化建设的重要力量。《义务教育信息科技课程标准(2022 年版)》强调了对学生数字素养与技能的培育,包括信息意识、计算思维、数字化学习与创新和信息社会责任四个方面。其中,信息意识被视为数字素养与技能的一个重要组成部分,也是提高数字素养与技能的基础。根据《中国学生发展核心素养》、联合国教科文组织《全球数字素养框架》、美国《K-12 计算机科学框架》、加拿大MediaSmarts“数字素养教育框架”、英国《国家课程:计算课程学习计划》等多家国内外权威机构对学生信息意识的分析,尽管各机构对于信息意识的表述不完全相同,但它们都关注学生在信息意识的关联、应用、价值和安全等方面的发展。在此背景下,本文将从信息关联、信息应用、信息价值和信息安全四个方面,深入分析大模型时代培养中小学生信息意识的现实困境,并提出相应的对策建议。

二、大模型时代中小学生信息意识培养的现实困境

(一)生成式知识窄化了信息关联意识

在人工智能大模型出现之前,人们主要通过相对独立的网页、社交平台和网络媒体等渠道获取信息。随着生成式人工智能的崛起,这些渠道的海量信息被有效地整合和提炼,提供给人们高效且连贯的信息。这些输出的信息是由大模型一体化完成信息收集、处理和输出等环节的结果。生成式人工智能对海量公开信息的有效整合与处理,使得信息的获取变得更为实用和连贯,有利于学生高效地获取知识。然而,与搜索引擎提供的更多信息参考来源相比,学生需要主动认识信息和联系信息,以形成自己所需的信息。这种差异的成因在于大模型省略了学生的信息收集与处理过程,完全不需要学生对搜索列表进行对比。长此以往,这种即问即答直接得出结果的方式,可能会降低学生的信息关联能力。此外,通过算法计算和推理获得的信息在一定程度上为学生定制了个性化的知识茧房,这不仅窄化了学生信息关联的时空,还有可能影响学生对信息价值的判断。因此,学生应认识到大模型的应用优势和潜在风险,发挥其积极作用,并警惕其潜在的安全隐患。

(二)生成式技术弱化了信息应用意识

当大型人工智能模型应用于教育领域时,它们可以为学生提供多方面的支持,如写作、作业、测试等环节。通过减少重复性操作,学生可以将更多精力投入富有创造性的学习内容。例如,在编程学习中,大模型可以自动生成学生所需要的代码;在英语听说读写方面,大模型可以提供自适应服务;在文学写作中,大模型可以帮助学生更好地组织写作内容,使其更加生动。这些应用正在创造新的学习方式。然而,这种便捷的使用也可能导致学生产生一定的依赖心理。特别是一些学生可能会利用这些智能工具高效地完成学业并取得不错的成绩,但这也可能使他们产生心理惰性,过分依赖这些工具提供的结果,而不再主动思考和创新。此外,一些人工智能生成工具也被用于作业辅导、模仿签到等方面,这可能会“反向驯化”学生错误应用工具的习惯。长此以往,可能会导致学生思维浅薄和认识错误。这不仅会削弱学生应用技术的主动性,还可能引发技术应用方面诚信缺失的问题。因此,在信息科技教学中,教师需要引导学生谨慎地使用这些人工智能工具,教育学生正确地应用它们,并培养学生正确的技术应用观念和诚信意识。

(三)依赖感体验淡化了信息价值意识

在学习过程中,知识建构的过程往往是艰巨且复杂的。由于人类倾向于“走捷径”,中小学生如果能够轻易地通过人工智能工具获得所需答案,这就可能导致他们对人工智能产生依赖感。此外,大模型基于算法处理海量数据,算法是其核心要素,但算法自身尚无法核实所训练数据的真实性,因而可能会对貌似正确的错误内容进行分析,并输出存在局限性和误导性的内容。因此,对于大模型所提供的信息的准确性和安全性,教师必须提出更高的价值判断要求。当中小学生轻松体验大模型生成知识的便捷性时,他们的主体地位可能会逐渐被边缘化,他们学习的主体性将逐渐减弱,而随之容易滋生的自满情绪,使其评估信息价值的能力降低。加上“算法黑箱”可能带来的不真实反馈的叠加效应,尚未形成稳定价值观的中小学生容易被大模型生成的虚假信息误导,因难以分辨信源真伪而作出错误决断。由此可见,在使用大模型的过程中,教师应避免学生对其过度依赖,同时应注重提高他们对信息价值的评估能力和对虚假信息的鉴别能力,使其免于被错误的信息误导。

(四)广泛性应用虚化了信息安全意识

大模型具备强大的推理能力,能够根据用户需求编写程序来提升产品体验。然而,当人们与生成式人工智能模型进行交互时,不经意间提供的个人信息可能被用于模型的学习和训练,从而带来个人信息泄露的风险。对于中小学生而言,为了获得更精准、更有效的问题解决方案或解答,他们可能需要输入大量与之相关的数据,但这些数据在大模型的分析和利用过程中存在泄露的风险。例如,ChatGPT 的开源库就曾出现漏洞,部分用户能够看到其他用户的姓名、对话内容等敏感个人信息。随着越来越多的应用接入人工智能生成式大语言模型,数据泄露的风险日益突出,对中小学生来说更难进行风险评估与规避。如果大模型将其与其他数据结合起来进行推理分析,不仅可能推断出个人相关信息,甚至还可能推断出涉及国家安全的敏感信息。因此,对于当代中小学生来说,察觉、识别日益广泛的大模型应用背后存在的安全风险,遵守信息法律法规、社会道德和伦理准则,遵守虚拟空间公共规范,掌握信息处理过程中的安全措施,做好信息安全防护和规避风险显得尤为重要,且极具挑战性。

三、大模型时代中小学生信息意识培养的应对策略

(一)坚持问题场景分析,宽化信息关联意识

关联思维是指从一个事物联想到其他事物的思维方式,它是大脑的基本运作模式。世间万物之间存在内在的关联性,很多领域的创新都源于关联思维。因此,关联意识被认为是一种洞察事物的底层能力。对于中小学生而言,培养其信息关联意识需要重点关注他们的信息感知力和获取力。具体来说,感知力是指学生在获取信息的过程中主动认识和关联相关信息的能力,而获取力则是学生通过一定的信息技术手段和方法获得相关信息的能力。为了培养这两种能力,教育者需要将它们嵌入与信息技术相关的实际社会问题和情境中,例如结合大模型技术应用的情境,或反映大模型技术在社会中的重要应用的情境。

在设计问题场景时,一方面要紧密结合大模型时代的问题解决需求,激发学生的学习兴趣,例如关于人工智能的作用与影响的学习内容。教师可以展示ChatGPT 对“现代人一天中与AI 进行无意识交互的场景”的回答,引导学生围绕各个场景展开讨论,探讨生成式人工智能在哪些方面具有人类所不具备的优势,以及哪些行业将受到较大的冲击等议题。通过问题场景分析与信息关联的讨论,教师引导学生内化信息意识。另一方面,问题场景应有助于学生学习核心概念和主要概念,例如关于人工智能在不同领域的作用、发展方向和影响的核心概念学习内容。在设计ChatGPT 对“现代人一天中与AI 进行无意识交互的场景”的问答时,教师可以有意识地从家居、物流、金融等主要领域进行互动,生成所需的场景实例,引导学生聚焦核心概念开展讨论,感知并获取与核心概念相关的知识。当问题场景契合学生的兴趣爱好,与学生的学习、生活经验产生密切联系时,学生的学习积极性会得到极大的激发,从而他们会积极参与问题场景的解决过程。因此,就问题场景分析的教学引导而言,教师应着眼于学生的“最近发展区”,提供一系列具有挑战性的问题,以调动他们的积极性,使其发挥潜能,促使其超越现有的发展水平,达到下一个发展阶段的要求,并获得活化的知识。当学生再次面临类似或相关的问题场景时,他们能够快速意识到需要解决的问题以及所需获取的知识,形成有效的问题解决方案及策略,成为大模型技术的理性用户,更好地适应大模型时代的发展。

(二)推进“梯度”原理认知,深化信息应用意识

在信息时代背景下,中小学生身处一个瞬息万变的环境,信息的获取、发布和互动都呈现出极其快捷的特征。他们需要应对丰富多样的信息活动,并具备有效运用科学方法进行信息应用的至关重要的能力。信息应用意识可以通过强化处理力、使用力和分享力这三个层面来提升。处理力指的是利用信息技术手段处理原始信息,并形成新的有效信息的能力;使用力关注的是利用数字化工具解决实际问题的能力;分享力则强调利用数字化工具交流和分享信息,以及协同创新的能力。在信息科技课程单元教学中,教师将处理力、使用力和分享力的培养融入其中,能够使每节课的学习内容形成一个系统化、有“梯度”的知识结构。通过各知识点之间的相互关联,学生可以逐步或逐层深入地建立起知识体系。这既能帮助学生掌握基础原理知识,又能引导他们运用所学的知识和技能解决实际问题。在这个建构知识技能体系的过程中,学生的处理力、使用力和分享力将得到逐步提升。

为了实现这个目标,在进行教学设计时,教师需要全面理解各个知识点之间的内在联系和所处的知识层次,并分析这些原理知识产生的背景、发展过程及其蕴含的学科思想方法。例如,教师可以将使用表格处理软件排序数据的学习内容分为三个层次展开。在第一层次,学生使用常见的表格软件分析学校食堂最受欢迎的菜品排行榜,了解排序的作用和特点;在第二层次,学生利用北大博士生团队自主研发的ChatExcel 进行排行榜统计,比较并分析不同工具之间的异同;在第三层次,学生通过小组合作搭建半成品程序来实现排序功能,深入理解排序的原理。通过体验同一问题的三种不同解决方案,学生能更深刻地理解应用效率的差异,并意识到大模型对人们的学习、工作和生活方式的深远影响。通过将问题场景的探索与原理知识学习有机结合,学生将培养自身的处理力、使用力和分享力,积极参与人工智能的优化升级,感受人工智能的便利高效,从而在整体上提升他们的信息应用意识和能力。

(三)创设多样应用迁移,强化信息价值意识

信息价值主要体现在对不同类型信息的筛选以及信息使用的偏好上。在参与信息活动的过程中,不同个体对于信息及其技术的态度和观点可能存在差异。对于中小学生来说,使其形成正确的信息价值观念至关重要,这有助于他们在信息活动中做出有益于他人和社会的行为,并充分承担数字社会责任。在培养信息价值意识时,教师应重点关注学生的评估能力和创新力。评估能力指的是根据学习或生活需求,分析并评估所需信息的来源是否可靠、是否具有时效性;创新力则是根据一定的目的和需求,运用已知条件或信息,通过思维活动和实践生成有意义的新的信息。新标准强调“场景分析—原理认知—应用迁移”的教学方式,即从生活场景中发现问题,探索现象背后的学科原理,然后尝试运用所掌握的原理解释相关现象和解决问题。可见,应用迁移是非常关键的教学环节,要求学生具备综合能力和创新意识,从不同角度理解学科原理,树立正确的技术观,并能够合理评估和生成知识。

在当前的新课程中,存在许多学科原理。这些学科原理对于学生而言往往像是技术的“黑箱”,既抽象又难以直接观察。在应用迁移阶段,教师应该采用多种策略对学生进行引导。一方面,教师可以通过案例分析启发、问题解答释疑等方式来激发学生的思考,引导他们进行提问与讨论,从而提高他们评估信息的能力。例如,在信息收集的学习内容中,学生可以分别使用百度搜索和“文心一言”等工具收集关于“我的家乡”的资料。在应用迁移环节,教师可以引导学生讨论不同工具的信息来源、内容正确性等问题,通过分析搜索模式、响应质量、解答范围等原理性内容,帮助学生提升信息评估能力。另一方面,教师可以借助一些数字化工具,如编程软件、虚拟平台等,开展实践性或非技术性的活动,帮助学生建立与真实情境相关联的多样化技术应用体验,使其能够直观地感受到学科知识的实际应用。例如,在自然语言处理的学习内容中,学生可以通过体验“jieba”工具的分词功能,理解分词在自然语言处理中的重要性。在应用迁移环节,教师可以利用一些AI 开放平台提供的自然语言处理功能,使学生了解自然语言处理的应用场景,如情感分析、文本润色等,进一步感受自然语言处理给人们带来的便利。这些措施将有助于培养学生的创新力。

(四)坚持常态学科实践,实化信息安全意识

信息科技学科中的信息意识培养是将意识教育与技术教育相结合,以促进信息意识的提升。这个过程是潜移默化的,需要长时间的实践与积累。新课程倡导通过学科实践来培养学生的信息意识,这就要求我们将信息意识的培养融入各学科实践中,让学生在日积月累中逐渐提升自身的能力。随着大模型时代的到来,信息安全逐渐受到重视。信息安全已成为影响国家安全的重要因素。提升信息安全的前提在于提升个人的信息安全意识。对于中小学生来说,培养他们的信息安全意识应从道德力和安全力两个角度出发。道德力指的是在获取、识别和处理信息的过程中,学生需要遵守信息法律法规、社会道德和伦理准则,同时也要遵守虚拟空间的公共规范。安全力则是通过学习特定的信息科技知识,学生掌握信息处理过程中的安全措施,懂得如何做好信息安全防护、风险评估和规避风险。为了增强学生的道德力和安全力,教师需要在常态化的学科实践中引导学生正确认识人机协同的价值观和伦理安全问题,将信息意识内化于心、外化于行。

四、结语

基于大语言模型的生成式人工智能,在拓展应用场景广泛性的同时,也改变了人机协同的关系。然而,技术的快速发展带来了一系列挑战和风险。在中小学生应用生成式人工智能时,教师应注意引导学生警惕信息安全的新风险。例如,教师可引导学生学习《生成式人工智能服务管理暂行办法》,了解我国在推进生成式人工智能应用生态发展方面的法律法规,强化他们的道德力。此外,教师还需注意引导学生学会保护个人隐私信息。例如,有些App 在应用过程中存在强制授权、过度收集个人信息等问题。学生需要内化个人隐私保护和信息安全意识,养成在安装App 时主动查看安全和隐私设置的习惯,提高安全力。

总之,在引导中小学生使用生成式人工智能时,教师应注重培养他们的信息安全意识和个人隐私保护意识。学生通过学习相关法律法规,增强自身道德意识。同时,教师还需要引导学生形成尊重数据真实、尊重数字版权等智能社会的优秀品格。这样,学生才能适应大模型时代,在大模型时代中更好地生存和发展。

猜你喜欢
信息安全人工智能意识
人的意识可以“上传”吗?
2019:人工智能
商界(2019年12期)2019-01-03 06:59:05
人工智能与就业
IT经理世界(2018年20期)2018-10-24 02:38:24
保护信息安全要滴水不漏
增强“四个意识”发挥“四大作用”
人大建设(2018年2期)2018-04-18 12:16:53
高校信息安全防护
消费导刊(2017年20期)2018-01-03 06:26:38
意识不会死
奥秘(2017年11期)2017-07-05 02:13:08
数读人工智能
小康(2017年16期)2017-06-07 09:00:59
强化五个意识 坚持五个履职
人大建设(2017年9期)2017-02-03 02:53:39
下一幕,人工智能!
南风窗(2016年19期)2016-09-21 16:51:29