AIGC 对人类智能的冲击与提升公民科学素质的可能路径

[摘 " 要] AIGC存在的一个风险是其对人类智能的冲击，过度依赖AI现象的普遍存在难免引发人们对人类智能退化的忧思。而克服各种AI异化等问题的应对之策在于，一方面，在创新应用的基础上全面认识和理解人工智能；另一方面，走出AIGC时代人类智能忧思的关键是在促进公众理解人工智能的基础上探寻提升每个人的科学素质的可能路径：在AIGC辅助下，进行个性化科学素质提升；利用AIGC补齐科学教育短板；利用AIGC鼓励青少年参加科技活动；建立AIGC的审查机制保护科学精神。

[关键词] AIGC " 智能退化 " 科学素质

[中图分类号] "TP18；N4 [文献标识码] A [ DOI ] 10.19293/j.cnki.1673-8357.2024.02.005

随着人工智能的发展，人工智能生成内容（Artificial Intelligence Generated Content，AIGC）日益成为继专业生成内容（Professional Generated Content，PGC）和用户生成内容（User Generated Content ，UGC）之后的信息内容新形态，由此带来知识自动化生产。在AIGC以其强大的创造力赋能千行百业的同时，也使很多内容创作者的技能优势被消解，这让人们在一定程度上担忧AI（Artificial Intelligence）会不会铸成一代“无用之人”，是否存在导致人类智能退化的风险。换言之，人与技术是一种协同发展的关系，我们可以生活在AI辅助生存的社会，也可能会被AI所取代。因此，为了趋利避害，必须从提升全民科学素质的角度，来防范智能社会人类智能退化的风险，同时保障AI发展以人为本，造福全社会。

1 AI依赖综合征：人类智能忧思的矛盾心理之根源

AIGC方兴未艾，明确其对人类智能究竟会带来怎样的影响，从科学上来讲无疑为时尚早。但人工智能的新近发展可能会导致人类对智能退化的担忧，这其实是常见的人们对新技术的忧思，其根源在于人类与生俱来的与技术相伴而生的关系。理解这种忧思有助于我们认识人工智能发展中可能出现的相对消极的社会心理——对人工智能既爱又怕的矛盾心理，而这实际上也是公众理解人工智能的重要内容，有助于我们更具针对性地从公众科学素质的提升上寻求积极的应对之策。

人是制造工具的动物，其借助工具适应环境，在适应能力提升的同时伴随着身体的变化，例如服饰的发明使得人类逐渐褪去厚厚的皮毛，因此技术的发展与人类的进化息息相关。贝尔纳·斯蒂格勒（Bernard Stiegler）认为，人类制造的技术物是机械与生物之间的一种混杂物，没有生存论意义上的地位；由于物质偶然地获得一种生命行为的记号，所以一个被制造物的系列可以在时间中印证着生命行为的进化[1]。按照斯蒂格勒的理解，进化的是人—技术共生体，人类的肉身停止进化，进化的任务交给了人类的外置器官，即技术，因而技术不仅是工具还是代具（prosthesis），技术学则成为器官学。这也就意味着技术的出现促进了人类的进化，人类制造技术物的行为是人类进化过程中不可或缺的一环。弗里德里希·恩格斯（Friedrich Engels）指出，人类社会区别于猿群的特征是劳动，而劳动是从制造工具开始的 [2]308-309。人类在不断劳动、不断使用工具的过程中发生了进化，人类的四肢变得更灵活，能做出许多高难度的动作，大脑也变得更为发达，更加发达的大脑意味着人类智能的进化，更高的智能意味着人类能制造出更先进的工具，人类社会也就在此过程中逐步从早先的石器时代发展到如今的信息时代。

智能革命兴起，尤其是AIGC时代的到来，使得机器的功能越来越强大，他们能帮助人类做很多工作，人类也能够在AI的辅助下逐渐摆脱繁重劳动，更幸福地享受生活，但这也难免造成了某种AI依赖综合征。劳动是人与猿猴最大的区别，恩格斯在《劳动在从猿到人的转变中的作用》一文中说到：“劳动是整个人类生活的第一个基本条件，而且达到这样的程度，以致我们在某种意义上不得不说：劳动创造了人本身。”[2]303人类在不断的劳动中实现了进化，其灵活的双手正是劳动的产物，人类的肌肉和骨骼也在长时间的劳动中发生了改变，并在漫长的进化进程中遗传给后代，而猿猴就没有人类这样灵巧的双手，也无法进行劳动。随着进化进程的持续，人类能够进行更加复杂的劳动，参与劳动的人数也越来越多，从事不同劳动的社会成员之间如何沟通就成为一个问题，相比于猿猴的吼叫，劳动中的人类需要一种更加高效与便捷的沟通方式，这也促使了人类语言的诞生，语言的出现意味着人类必须提升自己听、说的能力，必须能够理解语言中所蕴含的复杂信息，这就需要一个比猴脑更加智能的大脑。如恩格斯所言：“首先是劳动，然后是语言和劳动一起，成了两个最主要的推动力，在它们的影响下，猿脑就逐渐地过渡到人脑；后者和前者虽然十分相似，但是要大得多和完善得多。随着脑的进一步的发育，脑的最密切的工具，即感觉器官，也进一步发育起来。正如语言的逐渐发展必然伴随有听觉器官的相应的完善化一样，脑的发育也总是伴随着所有感觉器官的完善化。”[2]307在语言的基础上人类又发明了文字，文字的出现意味着人类大脑抽象能力与推理能力的提升，之后人类能够用纸、笔进行书写，将得到的知识进行长时间保存，人类的大脑能处理更加复杂的信息，人类的智能也随之提升，人脑跟猿脑的差别也越来越大。这意味着劳动与智能是一种相互促进的关系，劳动促进人类智能的发展，智能的发展又促进人类进行更加复杂的劳动，在人类漫长的进化进程中，这个过程不断循环往复。

而随着现代科技的发展，人类越来越不需要劳动，大部分事务都可以由机器人代劳，智能调节的人造环境造成人类肉身的退化。无人驾驶、智能家居、机器仆人等科技使得人类不再需要劳动，通过劳动使人类进化的道路因此受到阻碍。在漫长的机器替代劳动的过程中，人类的肉体也会逐渐发生变化。人类近视人数的大幅增长就是一个典型例子，而近视的基因会遗传给后代，人类视力的退化在未来或许会成为现实。这令人们进一步担心，在AIGC时代，机器将从现在的劳动辅助转变到劳动替代，在机器替人类进行劳动之后，人类会不会越来越没有用武之地，会不会成为“无用之人”？甚至担忧最终的结果是人类体能和智能的双重退化。在有的人看来，人类智能的退化似乎并非危言耸听，早在2004年，理查德·林恩（Richard Lynn）和玛丽安·范·考特（Marian Van Court）的研究就指出，美国已经出现智力发育不良的情况，在1932年至1978年间，美国的平均智商每10年增加大约3个智商点，但在1978年至1995年期间只增加了1.7个智商点，如果这种趋势持续下去，美国的平均智商有可能出现负增长，这将对美国社会产生不良的影响[3]。但问题是，智商的测量能不能科学地体现智能本身尚且存疑，而且也没有证据表明美国1978—1995年间的创新能力低于1932—1978年间的水准。实际上，透过这种似是而非的断言，我们应该正视这种忧思，看到人们在遭遇魔法般的新技术时既痴迷又惧怕的矛盾心理。

人类对电子娱乐产品也有类似的忧思，一些人文学者甚至担心人类会不会“娱乐至死”。现代人类的精神世界是被智能调节的精神世界，现代人类世界充斥着大量的电子娱乐产品，例如短视频、直播、元宇宙、数字虚拟人等。离开电子产品，现代人类的娱乐方式将大幅减少，人类已经习惯生活在周围都是电子娱乐的世界中，电子娱乐已经成为现代人类生活的一部分，很多人再也没有阅读的习惯，也无法长时间集中注意力，电子娱乐改变了人类的精神世界。对此，媒介学家尼尔·波兹曼（Neil Postman）不无担忧地指出：“我们的政治、宗教、新闻、体育、教育和商业都心甘情愿地成为娱乐的附庸，毫无怨言，甚至无声无息，其结果是我们成了一个娱乐至死的物种。”[4]

毋庸置疑，这种夸张的批评既有揭示事实的一面，也有夸大其词的成分。波兹曼所言的那个时代距今已经数十载，如果沿用他的叙事风格，难免会得出，娱乐至死的风气不仅没有得到抑制，反而变得更加兴盛。现代人类作为一个娱乐至死的物种，娱乐已成为其精神生活中的主要要素，其他所有一切都给娱乐让步。一旦陷入这种悲观主义的情绪，就很容易附和一些似是而非的论调：进入信息文明之后，人类社会再也没有诞生出一位如列奥纳多·达·芬奇（Leonardo da Vinci）、米开朗基罗·博纳罗蒂（Michelangelo Buonarroti）等人一样的艺术大师，也再没有出现如《蒙娜丽莎》一样的艺术作品。

虽然这种悲观论调并不完全是事实，但反过来看，我们还是要承认这种批评合理的一面。我们看到，目前AIGC时代所产生的艺术作品，很难媲美古代大师们的杰作，这种机器生产的艺术作品正如瓦尔特·本雅明（Walter Benjamin）所言是失去了光韵（Aura）的艺术作品。所谓光韵，即处在一定距离之外，但在人类感觉上却如此贴近之物的独一无二的显现，光韵换一种说法就是原真性（Echtheit），原真性包括它自问世那一刻起可继承的所有东西，包括它实际存在时间的长短以及它曾经存在过的历史证据[5]。AIGC时代的艺术作品就缺少这种人类历史的文化底蕴与人类的情感，过去的每一个时代都有其标志性的美术风格，例如巴洛克（Baroque）与洛可可（Rococo），但很难界定AIGC时代标志性的美术风格，AI绘画的作品也是缺少了“灵魂”的作品。所谓的“灵魂”就是人类不同于人工智能的地方，例如人类的情感、理想信念、宗教信仰、人生经历、价值观等，人类在进行绘画时，将这些东西倾注到作品中，这些作品也就有了灵魂，而AI绘画的作品缺少了这些使人之为人的东西，也没有历史沉淀在其中。但从正面来讲，这种批评可以视为对AIGC时代艺术创作提出的更高要求。

2理解AIGC：应对AIGC对人类智能冲击的关键

AIGC时代，AI介入知识生产的各个环节，以ChatGPT（Chat Generative Pre-trained Transformer）为代表的人工智能已经被应用在论文写作中，许多科学研究也在AI的辅助下完成，包括实验数据的收集和整理、实验模型的建构、图表的制作等。AIGC的使用使人类获取科学知识的效率得到提高，人类也能借助人工智能获取一些人脑计算无法得到的特殊数据，AIGC是人类科技发展的重要利器，在某种程度上可以说，如果完全脱离了现代人工智能的辅助，未来人类的科学研究发展将受到限制。但是如果将一切的研究交给AI，那么就存在人类认知日趋懒惰的风险，最终使AI成为异己的力量，让人担心AIGC时代的智能机器会不会反过来成为人类的主人。

这种担忧让人联想到卡尔·海因里希·马克思（Karl Heinrich Marx）对资本主义条件下科学应用导致异化的批判：“虽然工作机本身仍然由人力来推动，但是，不论是这种力的传送方式，还是机器中这个夹持材料和改变材料形状的部分的直接动作，与工人的体力、他的技巧，与那些在工具承担操作以前要用工人的手作中介来完成的操作再也没有任何关系了。相反，在这里，工人的手只是用来纠正工具的差错。工具变成了纺纱工。”[6]而实际上，马克思虽然揭示了现代工业化大生产中机器异化的现象，但其批判的主要是导致科技异化的不合理的资本主义制度而非科技本身。最近有很多关于人工智能对人类智能的冲击的研究都没有看到这一点，这就难免将对这种批判的片面理解简单地延伸到当下，提出“人的智能会不会只是机器智能的辅助”之类的绝对化担忧。

必须指出的是，技术从来就不单单涉及技术，还涉及复杂的社会选择和制度安排，技术异化的解决之道在于人类在技术系统和制度安排上的主动调适，并对其加以治理。当前，人类在AIGC的治理中主要关注的是安全、法律、伦理等方面的风险，较少关注其对学习、教育、创造等人类智能的巨大冲击。而应对由于AIGC对人类智能的冲击和消解而产生的对人类智能前景的忧思，其关键在于，走出对AI的盲目崇拜或一味否定，转而通过创新应用更加客观地认识人工智能的利弊，更系统、深入、动态地理解人工智能。

当前，AIGC已经在教育行业达成了广泛的创新和应用。一个典型的AI教育系统主要包括以下方面：AI驱动的分步骤个性化教学和对话系统，AI支撑的探索性学习、学生写作分析、游戏环境中的智能代理以及学习支持聊天机器人，AI驱动学生、导师配对系统能够让学生牢牢掌握自己的学习[7]。AI介入学习和教学之中，固然使得对学生科学素质和科学精神的培育变得高效与便捷，但AIGC在教育行业的使用也带来了不少风险，例如黛比·R. E.科顿（Debby R. E. Cotton）、彼得·A.科顿（Peter A. Cotton）和J.鲁本·希普韦（J. Reuben Shipway）等的研究指出，ChatGPT的应用给高等教育（higher education）带去了一些挑战，它会导致教育中的不公平，因为使用ChatGPT的学生比其他学生更能做出高质量的作业，且使教师无法准确评估学生们的真实水平，更为严重的是，有的学生可能会利用ChatGPT作弊和抄袭，这完全违背了高等教育的初衷，长此以往会使学历贬值[8]。

目前相关创新应用实践还表明，ChatGPT在知识生产环节表现不佳，不应盲目崇拜其能力。西蒙·佛瑞德（Simon Frieder）和卢卡·平凯蒂（Luca Pinchetti）等人的研究指出，ChatGPT在高等数学方面的表现不佳，不能始终如一地提供高质量的计算和证明，作者们还幽默地表示，如果你想寄希望于ChatGPT帮你通过大学的数学考试，你不如直接去抄你同学的，ChatGPT只能达到不完美的本科生水平，无法用于研究生水平的教学[9]。由于没有清醒地认识到ChatGPT实际上无法胜任高水平的研究工作，不少学生在论文写作中使用了ChatGPT提供的错误结果，在未经严格审查的情况下完成了论文发表。由此，当下值得反思的是，如果一味地崇拜AI而忽视其缺陷，难免会因为滥用AI而产生大量质量低劣乃至有害的人工智能生成内容，人类的知识库可能会因此被AIGC所污染，人类可能越来越真假不分，走向“AIGC迷信”而失去区分事实与幻觉的对求真的追求和向往。显然，克服这一问题的关键是更科学、客观地理解AIGC，减少滥用，以负责任的创新应用使全社会对其迅猛发展更加信任，更好地促使其向前、向善发展。

3对抗人类智能的退化：AIGC提升公民科学素质的可能路径

根据上述分析，走出AIGC时代人类智能忧思的关键是在促进公众理解人工智能的基础上提升每个人的科学素质。

第一，在AIGC辅助下，使用者可进行个性化科学素质提升。任磊等人的研究指出，通过互联网获取科技信息、使用公共图书馆以及参观科技馆这三种行为对科学素质提升的促进作用较为明显[10]。如果将这三种行为结合在一起，打造出线上、线下相结合的特色模式，能更好地提升公民的科学素质。借助AIGC的强大功能，根据不同人的需求和兴趣点，能够针对个人构建独属于其自身的个性化科学素质提升方案。例如在公共图书馆中，利用AIGC掌握的个人已有知识储备、学习目标和兴趣点等信息，快速找到适合的科学书目，并制定好阅读计划，让AIGC帮助个人快速理解书本中的知识。AIGC还能根据用户的反馈实时修改制定的方案与教学模式，在不断迭代的实践中拿出一套最好的方案来提升用户的科学素质。李秀菊等人的研究指出，目前仍然存在校外资源质量不高、学校教师不熟悉校外资源的利用方式、校内外融合程度不深等问题。“十四五” 期间，进一步促进校内外科学教育深度融合仍然是亟待解决的问题[11]33。AIGC同样可以整合校内外的资源，根据老师与学生的不同需求，定制出高质量的科学资源供师生使用，促进校内外科学教育的深度融合。

第二，利用AIGC补齐科学教育短板。李秀菊等人的研究指出，我国青少年科学素质总体发展情况较好，但仍存在青少年科学素质城乡及地区差异显著的情况，及部分地区、学段男女生性别差异显著，青少年科学相关职业期望普遍较低等突出问题[11]25。因此可利用AIGC弥补相关差距，相比于传统的科学资源，AIGC备有许多天然的优势，例如AIGC可作为高质量的“教师”长时间为国内欠发达地区服务，并且相对于传统科学资源高额的建设成本（如在乡村建造实验室、图书馆、科技场馆等），AIGC建立虚拟实验室等设施的成本较低，其后续使用与维护成本也较低，可以被迅速应用到教学工作中，并且AIGC可以通过互联网在第一时间获取北上广深等发达地区的高质量资源。AIGC不仅可以教育学生，还可以对乡村教师进行培训，提升教师自身的水平。AIGC还可以实时收集学生科学素质提升情况的数据并反馈给后台，后台可根据数据进行优化，不断迭代出更优秀的模型适配欠发达地区的科学教育。

第三，利用AIGC鼓励青少年参加科技活动。郭舒晨等人的研究指出，青少年总体参与科技活动的频次有待提升，仅10.4%的青少年有过3次及以上的科技活动经历，青少年参与科技活动的动机主要依赖自身兴趣和教师动员，青少年对各类型科技活动的参与率总体较低且不均衡，参与度最高的是科学探究实践类活动，其参与率为36.5%[12]。因此青少年科学素质的培育应该着力于推进更多有特色的线下科学探究实践类活动落地，鼓励青少年多去亲近自然、在实践中学习科学，培育其科学精神。除此之外，应该让青少年多去参加线下科技活动，在科技活动中提高重要的社交能力，正如恩格斯所言：“劳动的发展必然促使社会成员更紧密地互相结合起来，因为劳动的发展使互相支持和共同协作的场合增多了，并且使每个人都清楚地意识到这种共同协作的好处。”[2]306科学共同体也是在不断的协作中诞生，人类社会也从小科学时代发展成为现代的大科学时代。AIGC能够生成大量的科学资源用于不同的线下科技活动，并且能够定制个性化的科学活动，提高青少年的参与兴趣，针对青少年缺乏的科学素质提供适配的提升方案。同时，AIGC也是一个锻炼语言与思辨能力的工具，相比于传统的被动倾听式的讲座，带有交流或辩论性质的科技活动更能培育人们的科学精神。

第四，建立AIGC的审查机制保护科学精神。2023年7月10日，国家网信办、国家发展改革委和教育部等部门联合发布《生成式人工智能服务管理暂行办法》，其中第十条写道：“提供者应当明确并公开其服务的适用人群、场合、用途，指导使用者科学理性认识和依法使用生成式人工智能技术，采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务。”[13]依据此文件的指导意见，可从以下几个方面入手保护科学精神。首先，为了避免AIGC的滥用给社会带来负面影响，应该建立一套完整的法律法规体系去约束AIGC的滥用。其次，目前AIGC的检测工具明显滞后于AIGC的发展，现在并没有一种有效的方式检验是否有人利用ChatGPT进行一些非法操作，因此需要发展相关行业，更新学术论文的查重体系。再次，需要加强AIGC的学术诚信教育，让学生意识到学术诚信的重要性，也需要加强教师对AIGC的理解，让教师对AIGC的使用具有一定的辨别能力，能在一定程度上分辨学生是否在学业中使用了ChatGPT等软件。最后，可以通过训练将道德赋予AIGC，使AIGC可以劝导使用者不要进行违规操作，如果使用者不听劝阻，可建立AIGC的自动审查上报机制，使事后追责变得容易。

参考文献

贝尔纳·斯蒂格勒.技术与时间1：爱比米修斯的过失[M].裴程，译.南京：译林出版社，2012：2.

恩格斯.自然辩证法[M].中共中央马克思恩格斯列宁斯大林著作编译局，译. 北京：人民出版社，2018.

Lynn R，Van Court M. New Evidence of Dysgenic Fertility for Intelligence in the United States[J]. Intelligence，2004，32（2）：200.

尼尔·波兹曼.娱乐至死[M].章艳，译. 桂林：广西师范大学出版社，2004：4.

瓦尔特·本雅明.机械复制时代的艺术作品[M].王才勇，译. 北京：中国城市出版社，2001：10-13.

卡尔·马克思，弗里德里希·恩格斯. 马克思恩格斯全集第37卷[M]. 中共中央马克思恩格斯列宁斯大林著作编译局，译. 北京：人民出版社，2019：36.

韦恩·霍姆斯，玛雅·比利亚克，查尔斯·菲德尔.教育中的人工智能：前景与启示[M].冯建超，舒越，金琦钦，等译. 上海：华东师范大学出版社，2021：84.

Cotton D R，Cotton P A，Shipway J R. Chatting and Cheating：Ensuring Academic Integrity in the Era of ChatGPT[J]. Innovations in Education and Teaching International，2024，61（2）：230.

Frieder S，Pinchetti L，Chevalier A，et al. Mathematical Capabilities of ChatGpt[J]. Advances in Neural Information Processing Systems 36，2023：1-10.

任磊，张超，郭凤林.我国公民科学素质变迁的年龄、时期和世代效应[J].科学学研究，2022，40（9）：1551.

李秀菊，李萌，黄瑄，等.中国科学教育新征程：“十三五”发展分析与“十四五”展望[R]//王挺，李秀菊.中国科学教育发展报告（2021）.北京：社会科学文献出版社，2021：33.

郭舒晨，赵芳芳，解凯彬.中国青少年科技活动参与现状与特征调查[M]//王挺，李秀菊.中国科学教育发展报告（2021）. 北京：社会科学文献出版社. 2021：178-180.

国家互联网信息办公室.生成式人工智能服务管理暂行办法[Z/OL].（2023-07-13）[2024-03-12]. https：//www.cac.gov.cn/2023-07/13/c_1690898327029107.htm.

（编辑 "颜 " "燕 " "荆祎澜）