生成式人工智能开源的风险挑战及其未来应对

摘 要： 生成式人工智能是当今时代最具影响力的科技成果之一，而共享基础代码的开源运动在其发展历程中起着至关重要的作用。然而，生成式人工智能开源也引起了极大的争议。一方面，开源符合人工智能技术的创新趋势，能够促进相关产业发展，推动现代文明进步；另一方面，开源亦加剧了模型安全漏洞、知识产权缺失、虚假信息泛滥以及新型技术危机方面的风险。对此，本文基于马克思主义技术批判的理论视角深入剖析了开源背后的资本逻辑，揭露了垄断企业利用共享技术逐利的秘密，并在明确技术加速规律、维护开源正义、辨明人机关系的条件下，探究了人工智能治理的未来方案。

关键词： 生成式人工智能；开源；安全风险；技术治理

中图分类号： TP18；N02 文献标识码： A DOI： 10.3963/j.issn.1671-6477.2024.04.002

近两年来，生成式人工智能发展迅速，其在完全颠覆现有技术的条件下正在逼近科技革命的“奇点”。作为当下最前沿的科技发展成果，生成式人工智能的诞生在为人类文明创造无限可能的同时，也伴随着诸多问题和争议。2024年3月17日，埃隆·马斯克宣布xAI的大模型Grok-1正式开源，所有人都可以在公共软件托管平台上查看其源代码，这一举动随即引发了关于“人工智能开源”的争论。所谓的开源，其实是一种共享底层技术的行为。对于生成式人工智能来说，开源意味着任何网络用户均有机会利用成熟的基础代码开发全新的训练模型，从而创造出更多更高阶的人工智能产品。然而，在马斯克等人极尽鼓吹开源的背后，这种技术开放是否会造成严重的安全风险？以及在盲目的技术加速条件下，开源究竟是普惠大众还是资本逐利的手段？全面开源促进的机器学习再升级是否会进一步冲击传统主体的知识生产架构？这些都是需要我们深入思考的现实问题。

一、生成式人工智能开源的应然逻辑

客观上讲，无限性是人工智能的核心特质，它向我们展现了一个无边无垠且日新月异的技术文明界域。已经实现或可以预见的是，“不计其数的人工智能模块将出现在我们工作的台前幕后，在很多方面改变我们的生活。我们可以用人工智能处理日常琐碎事务，比如从照片库中辨识我们朋友的面孔、推荐我们心仪的产品；也可以用它处理关乎我们工作与生活质量的重要事务，比如在公路上无人驾驶汽车、指导机器人在货仓里搬运货品，以及更恰当地匹配求职者和工作岗位。但这些巨大的进步和人工智能未来的发展潜力相比，还差的很远”^［1］。就此而言，生成式人工智能开源是有积极意义的，因为只有充分调动一切专业人才，才能匹配这项技术迸发的无限前景。

事实上，在马斯克宣布对Grok-1进行开源之前，OpenAI公司旗下的ChatGPT已经在一定程度上实现了开源。可以说，生成式人工智能开源既是高新科技领域的实然状态，又是一个应然的目标要求。首先，从其本身特性上讲，“以ChatGPT为代表的生成式人工智能已经具备通用能力，只要把任务交给生成式人工智能，其他一切都可以由智能机器自动完成，标志着人工智能已从专用走向通用”^［2］。例如，以往的人工智能技术在音乐创作中或许只能满足单一的作曲需求，但是生成式人工智能在明确的指令下可以直接产出完整的音乐作品。多重功能的长效运行以及更高阶的使用需求显然有赖于技术开放共享的维系，因为它使尽可能多的研究人员、开发者乃至日常用户都得以参与生成式人工智能产品的维护升级工作。通过公开源代码及其模型，全社会都可以了解并考察生成式人工智能的运行原理和结构细节，这不仅有助于评估相关服务的影响作用，还为审查其风险弊端带来了便利。在社会化的评估和监督机制下，生成式人工智能的可信度与易用性将进一步提升，从而大幅推动人工智能领域的发展进步。

其次，就网络公司乃至全行业的发展来说，开源AI模型有利于塑造良好的技术生态和商业环境。一方面，基础模型的共享能够带动技术创新，使网络公司开发出更加完善的业务模式。在节省基础研发耗费的前提下，平台得以低成本、高效率地为用户提供丰富多样的产品服务。另一方面，高新技术的普及可以使中小企业进入原本由大公司主导的市场，良性竞争的形成将进一步促进生成式人工智能的多元化，这对于构建健康的数字生态至关重要。同时，开源最新的进展成果也是对跨公司合作的一种鼓励，互利共赢的氛围更有助于专业人才的培育和成长。除此以外，技术碎片化是摆在网络公司面前的兼容性难题，而开源通过透明公示代码模型为建立社会化、全方位、全过程的统一技术标准创造了条件。

最后，站在人类文明的高度上看，开源能够代表开放共享、创新普惠的技术发展方向，这是实现人类文明新飞跃的重要支撑。通过开放共享，来自不同地区和不同社会背景的人们都能接触到先进的人工智能技术。这有助于缩小发达国家和发展中国家之间的技术鸿沟，推动全球范围的均衡发展，实现民主化的技术访问。开放共享的人工智能可以最大程度地滋养全新的经济形式与业务模式，创造更多就业机会，带动经济大幅增长，助推世界经济尽快走出低潮。开放的生成式人工智能应用使教育形态和专业培训更加丰富多样，包括学生在内的全社会成员都有机会通过实际操作增强自身的专业技能，从而有力提升全球人民的数字素养。生成式人工智能开源是走向全球技术治理的必要条件，人工智能是引领新一轮科技革命的“头雁”，只有实现了人工智能创新成果的普惠共享，才能在技术迭代的浪潮中奠定高水平开放的发展基调。总而言之，技术开放共享是合理解决全球性问题，促进现代文明跨越式发展的必由之路，生成式人工智能开源可谓大势所趋。

二、生成式人工智能开源的风险挑战

虽然将生成式人工智能开源确实能够促进技术普及与创新、激发全行业活力、推动人类文明进步，但是这也将带来前所未有的风险挑战。总体上讲，开源的问题考验主要来自以下四个方面：

一是开源软件（OSS）的质量和安全性往往更难得到保障。开源项目通常由全球各地的开发者共同参与，其开发过程高度分散，这种分散性增加了质量控制的难度。每个开发者都具有不同的编码风格、水平和理念，这也会导致代码质量参差不齐。如果核心开发者离开项目或减少投入，加上开发者之间的沟通不畅与协调困难，代码的维护和扩展将变得异常复杂，这些问题不仅影响软件的稳定性，还容易形成严重的安全漏洞。由于开源项目通常依赖志愿者进行维护，更新频率和响应速度往往不如封闭源码软件（CSS），代码中包含着未经充分测试的第三方库，并且涉及无法加密的敏感数据处理流程，这些都是明显的隐患。当发现安全漏洞时，系统可能已经长期暴露在风险之中。Apache软件基金会的Struts开源项目就曾经在2017年遭遇更新维护漏洞而引发重大安全事故，尽管项目组在漏洞被披露后迅速发布了修复补丁，但是代码的自由传播使得无需任何身份验证的攻击者继续扫描并入侵应用该框架的企业组织平台。综上所述，当前的代码审查与测试机制并没有达到严格执行和全面覆盖的程度，开源环境很可能会进一步加大由此引发的安全风险。

二是技术研发人员的知识产权可能更容易遭受侵犯。知识产权是人类智力劳动成果的专有权利，也是社会财富的重要来源，需要全社会共同保护。保护好知识产权，才可以持续激发创造热情，它能够孕育科技创新的种子，支撑人工智能的高质量发展，为普惠共享的技术发展格局保驾护航。随着越来越多的AI项目采用开源模式，如何在开放共享的技术环境中有效保护知识产权已经成为亟待解决的问题。首先，开源项目多方参与贡献的运行模式使得知识产权归属变得异常复杂，每个贡献者的劳动在项目中所占比例不同，导致利益分配方面极易产生纠纷。同时，虽然包括GPL、MIT、Apache在内的开源许可证规定了代码的使用、修改和分发方式，但是诸多开发者都不会主动了解其中的条款细节，所以很可能在无意识的情况下就侵犯了他人的知识产权。此外，某些许可证要求任何基于开源代码的衍生产品也必须开源，这无疑又增添了相关的利益纠纷。其次，由于开源代码可以自由获取，一些网络公司或在未经授权的条件下就将代码用于商业产品之中，这可能会面临专利侵权的指控。对于企业来说，研发AI技术涉及大量商业机密，如果难以明确开源代码的所有权，它们的竞争优势将不再稳固。最后，从某种意义上讲，开源理念与专利保护是存在矛盾的，开源意味着一些未能及时通过专利申请的创新成果会充分暴露在风险环境之下，这有赖于进一步完善开源成果的产权协调和保护机制。

三是训练数据的有效性与信息真实性恐将大打折扣。由于开源数据集的质量和多样性问题，AI模型在训练过程中可能存在偏差，导致模型输出信息的有效性降低。具体来说，模型可能倾向于某些特定的数据类别，而忽视数据集的均衡要求，从而影响模型整体的运行效率。在开源环境中，AI模型会充斥更多噪声数据，它们在训练过程中会干扰模型的学习效果，使得模型难以捕捉真正有价值的信息，并出现大量冗余。除此以外，开源项目的数据更新不及时也会致使模型的反馈和预测偏离当前的实际情况，从而生成大量虚假信息。2024年4月，欧洲数字权利中心就曾向奥地利数据保护中心投诉OpenAI公司传播错误信息的行为。从其拒绝修正的表态来看，ChatGPT的负责人一直在放任人工智能编造信息，这无疑又增加了该模型的隐患。从某种意义上讲，开源代码贡献者的身份动机是无法判定的，一些别有用心之人可能会散布涉嫌违法犯罪的数据信息。此前就有报道指出，黑客组织利用人工智能技术制造虚假身份证件，并通过生成式对抗网络（GANs）从事欺诈活动，这必然会严重破坏开源项目的可信度与支持率。

四是技术创新会衍生出前所未见的社会危机。生成式人工智能作为当前科技革命最先进的成果之一，正孕育着无限的可能，但是在美好愿景的背后也潜藏着新形式的危机，并且技术越是发展，危机的样态就愈是czOG9F/IGl3CL4NvV9Vp+1c9oF5VsJ0YXMH+LkjMEjQ=突显。客观而言，生成式人工智能衍生的技术危机已经开始向社会危机扩展，这无疑构成了对开源目标的新挑战。2023年1月，美国布鲁金斯学会发布了一篇名为《深度伪造与国际冲突》的报告。其中就谈及生成式人工智能的深度学习模型已经能够创造以假乱真的领导人讲话视频，由此出现的伪造命令将严重危害国际社会安全。不只影响国际争端，生成式人工智能的伪造技术同样在冲击日常社会的稳定。从AI换脸到“数字复活”，包括Sora在内的文生视频模型在大众之间引起了极大争议。相当一部分人认为，AI复活逝者破坏了伦理的边界，无条件推广很可能会触犯法律的底线。除间接扰乱社会秩序的风险以外，人工智能也在生成一些直接威胁生命安全的程序。2024年4月，自主武器国际会议在维也纳召开，会上重点探讨了人工智能与武器系统结合的问题。现如今，仅需要输入简单的语言指令，AI便可以为军事行动实时提供战略决策方案。更令人担忧的是，当AI成为战场的主导者，它会根据时间与物料成本，将精确打击转为无差别摧毁，从而造成大量的平民伤亡，巴以冲突与俄乌战场上的一些案例已经暴露了人工智能武器的高度危险性。因此可以说，如果不对人工智能进行适当的管控，那么人类终有一天将无法掌控战争的走向。在开源的环境下，任何一个拥有基本编程知识的人都有条件运用3D打印机制作可能造成大规模伤亡的无人机，现代社会正在迎来属于生成式人工智能的“奥本海默时刻”。

三、生成式人工智能开源的资本逻辑

在综合研判生成式人工智能开源的安全风险后，这种划时代科技成果的双刃剑属性愈发清晰。而马斯克等人一味地推崇开源，其实也显现出资本逐利的本质。当资本家没有技术优势时，他就主张开放共享；一旦获得了核心技术，他又会加固保护壁垒，这就是资本逻辑，它充分暴露了xAI、OpenAI等公司的虚伪性。对于生成式人工智能开源的争议来说，有必要从马克思主义技术批判的角度进行深刻的剖析。

马克思曾经指出，“资本主义生产的根本目的就是利润”^［3］。虽然人工智能技术的定位是造福全人类，但是其知识生产的业务终究要落实到资本积累的需求上。在该领域竞争格局初步确立的阶段，作为第一生产力的核心技术必然成为各方争夺的焦点，公益性的开源代码也会逐渐转化为一种资本。只有掌控开源代码，人工智能公司才有机会获得超额利润，技术共享将成为其扩大再生产的重要保障。从这个意义上讲，当开源代码成为不变资本的一部分，它是很难被再次转移的。在资本主义生产方式的作用下，开源最终一定会走向闭源，阶段性的开放共享实质上贯穿着虚伪的资本逻辑，这也解释了为什么马斯克一直在抨击OpenAI的开源模式以及微软缘何注资OpenAI。

从网络行业的发展趋向来看，生成式人工智能市场极大概率会出现寡头企业，所谓的自由竞争很可能会为集中垄断所替代，而开源的效益将被大资本家尽数攫取。“马克思对资本主义所作的理论和历史的分析，证明了自由竞争产生生产集中，而生产集中发展到一定阶段就导致垄断。”^［4］客观上讲，生成式人工智能依然是一项拥有广阔发展空间的新兴技术。正因如此，无论是已经在网络领域确立一定优势的大企业，还是谋求生存地位的小公司，都在推动技术开源。这也说明了整个市场目前仍处于普遍自由竞争的阶段。但是随着生成式人工智能技术的需求日益增加，其商业价值势必会迸发出来，越来越多的主体将进入这个充满活力的市场。而在经济繁荣时期，垄断是很容易形成的，巨头企业为了规避风险并稳固收益必定会致力于消除竞争。

现如今，谷歌、Meta（Facebook）、微软等美国科技巨头通过平台业务模式将大量用户以及搜索引擎、电子商务、社交媒体的各类型服务汇聚整合，建立了强大的数字生态，在网络行业中占据着主导地位。根据DataReportal提供的数据显示，全球数字经济在2023年的总产值估计为4.7万亿美元，主要科技巨头（GAFAM）在其中的占有比例超过了10%，美国苹果和微软公司的市值已经超过了全球绝大多数国家的GDP。近些年，主要科技巨头强势进军人工智能领域，它们凭借巨额投资，兼并了一众网络公司，在相当程度上垄断了技术资源。不光是微软成为OpenAI的最大股东，谷歌收购了DeepMind，苹果也收购了Turi和Laserlike，几大科技巨头纷纷扩充了其在人工智能应用开发方面的影响力。在庞大资本力量的助推下，文本生成、图像生成、视频创作等技术快速发展，生成式人工智能的业务模式愈发成熟，而其市场份额也日渐收拢在谷歌、微软等少数企业之下。根据最新的估算数据显示，与微软联合的OpenAI占据了约为35%的市场份额，谷歌的DeepMind则占市场份额的25%，通过AWS平台提供CodeWhisperer等产品服务的亚马逊拥有接近10%的市场份额，坐拥Fairseq和BlenderBot两大工具包的Meta也取得了5%的份额，主要科技巨头共同瓜分了生成式人工智能的市场。

综上所述，曾经坚持开源理念的生成式人工智能技术已经开始转向封闭，甚至可以说，这个由资本主导的市场从来都没有真正地开放过。市场的高度集中意味着科技巨头能够攫取大量垄断利润，并借此更大规模地控制科研资源，从而打造技术壁垒。高昂的研发成本、专利保护、技术复杂度、数据资源以及人才储备等，使得新生力量难以与现有的市场主导者竞争，这将限制技术普及、抑制创新动力、遏制数据流通，钳制人才流动，进而形成开源运动的巨大障碍，或者说是技术异化的深层诱因。当生成式人工智能的发展完全由资本市场把控，开源也就转化为一种资本剥削的方式，这就是开源运动异化的逻辑。在这样的条件下，开源代码成为资本积累的工具，其贡献者沦为提供免费劳动的数字劳工。

生成式人工智能公司在商业化过程中依赖开源代码和社区贡献者的无酬劳动，这一现象在OpenAI的GPT模型和谷歌的TensorFlow项目中尤为明显。OpenAI最初是以非营利性组织的身份创立的，旨在创建造福全人类的安全通用人工智能。在开发GPT模型的过程中，该公司依赖了大量开源代码和工具，它们大部分出自全球开源社区的技术贡献者之手。这些开发者持续投入时间精力进行代码编写、调试与文档撰写，他们的劳动成果被准许无偿使用，而OpenAI将其利用到GPT模型的训练优化中，且通过API等商业化途径把不断升级的模型提供给特定的企业用户，并收取相应费用。2020年，OpenAI与微软达成授权协议，这等于是进一步宣告了其商业化的转型目标。与OpenAI的情况类似，谷歌的TensorFlow项目起初也作为开源的机器学习框架提供给全球开发者免费使用。在开源社区的助力下，其代码库实现了显著的扩充，谷歌基于此开发了丰富多元的AI产品，进而赚取了丰厚的收益。除此以外，生成式人工智能市场垄断更是加剧了对开源贡献者的剥削，因为这些垄断企业能够控制访问权限，并部署限制开发环节，这无疑加深了开源的异化色彩。

生成式人工智能开源发端于自由软件运动，其强调维护软件自由应用和用户的自主权益，初衷是为了通过广泛的社会合作与知识共享推动技术创新乃至人类文明进步。与开源运动同向而行的是，数字网络和人工智能事业也谋求构建一个开放包容、平等自由的新世界，这都与每个人自由全面发展的共产主义最高愿景保持一致。然而，资本力量的介入打破了这种平衡，开源人工智能的效益开始向资本增殖倾斜，属于大众的开放空间为垄断资本所占据。如果继续放任资本对开源技术的侵蚀，那么生成式人工智能的贡献模式必然会在利润的诱导下丧失创造活力，甚至在向资本妥协的前提下侵害大众利益。“资本害怕没有利润或利润太少，就像自然界害怕真空一样。一旦有适当的利润，资本就胆大起来……为了100%的利润，它就敢践踏一切人间法律。”^［5］777客观上讲，生成式人工智能的发展目前仍处于起步阶段，还会面临更加复杂的风险挑战，假若没有正确的规制，其未来趋向可能就会被导入与全人类共同价值相背离的邪路，这有待于探索推广符合公共利益的智能科技治理方案。

四、生成式人工智能开源的治理思路

就当前实践而言，生成式人工智能已经在促进产业升级、优化公共服务、丰富教育资源等方面展现了不俗的潜力，以共建共享技术理念为旨向的开源运动更是扩展了它的独特价值。虽然资本逻辑在一定程度上加剧了生成式人工智能开源的风险挑战，但是其推动社会发展的积极作用是不容忽视的。因此，我们需要从学理上研判生成式人工智能的动态演进，并在规范引导的基础上激活开源的最大效益。

首先，开源模式将不可避免地加速生成式人工智能的发展，推动技术社会朝向颠覆性的未来前进。早在上世纪90年代，英国哲学家尼克·兰德就提出，应该无限制地加速技术发展，因为自由流淌的技术流是开创新世界的重要力量。按照他的思路，以知识共享和全球协作带动创新迭代的开源模式显然有助于加速主义理想的实现。然而问题在于，技术加速最终将服务怎样的社会结构，生成式人工智能开放创新的和谐愿景将在何种社会形态下实现。对此，兰德认为资本与技术是一对完美的组合，他坚持在资本主义的框架下构筑以技术解放为核心的社会理想，这相当于表达了对资本控制开源的支持。站在马克思主义技术批判的立场上看，兰德“技术+资本”的加速主义显然是一种反动的思想，完全遵从资本的导引推进科技事业只会加剧社会矛盾。正如马克思所言，“同机器的资本主义应用不可分离的矛盾和对抗是不存在的，因为这些矛盾和对抗不是从机器本身产生的，而是从机器的资本主义应用产生的”^［5］455。从这个意义上讲，求诸于资本势力促进技术开源恐怕将致使生成式人工智能的加速升级异化为畸形发展。为了阻断资本主义对先进科技的腐蚀，唯一的出路就是颠覆资本主义制度，而这同样需要借助生成式人工智能等技术的潜力。加拿大左翼学者尼克·斯尔尼塞克与阿列克斯·威廉姆斯就认为，“通过加速智能化技术的发展，可以使资本主义的矛盾更充分地暴露，进而从内部瓦解其根基，最终迈向后资本主义的未来”^［6］。进一步讲，由积累和剥削勾勒的资本主义生产关系不足于承载科技创新带来的先进生产力。随着科技的不断进步以及科技成果的广泛应用，资本主义生产方式的弊端必然会逐渐扩大，以致爆发终极危机。由此可见，我们不能中断生成式人工智能的创新之路，反而要顺应技术发展趋势，并促进开源运动的进步事业，持续驱动技术加速的革命因素。

其次，智能化技术时代的意识形态领域斗争将更加复杂剧烈，维护开源正义的行动越发紧要。客观上讲，以生成式人工智能为代表的先进科技便利了信息传播及其加工过程，人们不仅能够在很短的时间内接收到海量的资讯，而且还可以获得专业的分析。然而，在这些智能推送的信息数据背后，掩藏着科技公司乃至政府机构操纵布局的身影，它们利用最新的科技手段诱导舆论，影响社会价值观，企图将指定的观念灌输进普罗大众的思想之中，从而维持垄断地位或强化政治统治。换而言之，“后真相时代已然到来，谎言与欺骗愈发成为资本主义社会政治和日常生活的常态”^［7］。从某种意义上讲，后真相现象的泛滥与智能化技术的推广有着直接的联系，生成式人工智能正在塑造跨越人机界限的“超级媒体”。它具有强大的资源优势，能够跳脱时空限制而收集、整理并传播信息，甚至完成从机器语言到目标对象语言的转译工作，这不仅使其得以生成技术自主的错误资讯，还会助长虚假宣传和政治煽动的行为。总之，“不管是人类行动者的‘动机恶’还是非人类行动者的‘技术恶’，都会在转译过程中被超级媒体不断加权，穿透公域与私域的藩篱，形成更大的‘恶’之社会效应”^［8］。归根结底来讲，这体现出意识形态领域正在经历一场围绕智能化技术展开的大变局。以小见大地看，生成式1fi98xXx6AMU3+So2+rakdLoI76JdZ/qytFkSHgkIm8=人工智能VG24G/sf5zl7BGtpvQZwz5amQ9F3J6c3Pvb0U2/4I78=开源之争就是意识形态系统性变化的缩影。正因为生成式人工智能已经展现出主导公共话语的潜力，对其开放向度的把控就显得尤为关键，一旦锚定了技术开源的资本逻辑，未来的智能应用更难以摆脱资本的束缚，网络空间乃至全部生存场域的意识形态话语权有可能都落入寡头资本之手，最初的商业对垒恐怕将演化为数字霸权的争夺。开源本质上是一种合理且正义的运动，但是当它被资本主义的意识形态所裹挟，就会为统治阶级的霸权行径服务。借用马尔库塞的话来说，“技术合理性既向人们显示了它超乎政治之上的中立性，又向人们显示了其中立性的虚假”^［9］。面对智能科技活动对意识形态领域的渗透，我们务必要坚守维护社会公平正义的底线，警惕资本逻辑的持续发酵。

再次，机器学习与传统知识生产方式之间的矛盾日趋尖锐，在开源条件下处理好二者的对立统一关系成为关键。机器学习可以被看作是生成式人工智能的核心技术，简单来说，就是从大量数据中学习生成新的内容，这些新内容可以是文本、图像、音频等各种形式。一方面，AI模型通过对数据进行特征提取，以理解数据的结构；另一方面，AI模型使用概率分布来描述数据的生成过程，这就需要应用到生成式对抗网络。GANs通常由生成器和判别器两个神经网络组成，生成器负责制造与真实数据混合的假数据，它能够不断改进生成策略，以使假数据越来越贴近真实数据，直至判别器无法区分，生成任务就此完成。一般而言，“机器学习是对数据进行学习并做出预测的算法。‘深度学习’是其最新的分支，其算法是基于多层机器学习交互产生的数据”^［10］。具体上讲，深度学习通过模拟人脑的多层神经网络结构，能够自动地从数据中提取更高层次的特征，并完成更庞杂的处理任务。深度学习的过程就好比一棵大树不断地开枝散叶，它已经非常接近人脑神经元的功能，电影《失控玩家》就曾采用艺术手法具象化地呈现了模拟神经网络的发散过程。如果说“延伸大脑能力的技术是推动知识生产发展的方向”^［11］，那么生成式人工智能的出现显然标示了知识生产方式的革新趋向。然而，它所带来的深度学习模式正在冲击传统意义上由脑力劳动者从事的知识生产活动。不只是日常文化内容的创作，甚至专业的科研活动也可以交付智能机器来完成，这无疑形成了对知识生产主体地位的挑战，同时加剧了技术异化的风险。在产权模糊的开源条件下，脱离现实情境的同质化学习资源泛滥，而真正有价值的知识恐怕将被彻底淹没。为此，要辩证看待生成式人工智能的机器学习功能，既要促进其开放发展，又要防范其野蛮滋长的风险，探索谋求人机协作在知识生产中的平衡，使开源智能科技健康引领新一轮的知识革命。

最后，对生成式人工智能及其开源路径实行有效监管和积极治理，是规避科技创新安全风险的必由之路。开源的生成式人工智能发展路径符合人类文明新形态对于科技创新的要求，它本质上是能够为所有人带来科学福祉并实现技术社会共同繁荣的进步方案。但需要明确的是，生成式人工智能开源是一把双刃剑，利用得当效益巨大，开发不当便会加剧技术风险，因而必须采取行之有力的监管举措。2024年5月21日，欧盟理事会正式通过了《人工智能法案》，这是全球首部针对AI的专门规范。该法规建构了基于风险的监管框架，分类管理不同风险级别的AI系统，并设立了专门机构（AI办公室与欧洲人工智能委员会）来监督和执行治理实践。其中，它开创性地引进了人工智能监管沙盒来助力创新，对高风险的开源模型进行严格的可行性评估，并要求模型开发者公开源代码及其生成过程，这种成型保障无疑提振了生成式人工智能开源的信心，有益于尽早达到技术开源的理想状态。除此以外，《人工智能法案》也涵盖了未能遵守透明度要求的违规处罚、对初创科技公司的鼓励支持、对全体用户基本权利的保护等内容，这都有助于限制资本权力对科技创新的渗透，维护普通民众共建共享创新应用的根本利益。因此可以说，《人工智能法案》为积极监管AI开源实践提供了重要的范本，它是标志先进技术治理工程的阶段性里程碑。但是为了最终实现共产主义的技术发展道路，单单出台法规是不足够的，需要在深层次的价值观上确立科技成果普惠共享的原则，而这种价值理性可能更适合在社会主义制度的土壤中培育。有鉴于此，中国式现代化具有发展生成式人工智能的独特优势，更易于激发开源运动的全部活力。当前，全球人工智能发展格局正呈现出中美两国角力的态势，虽然我国的人工智能应用起步相对较晚，但是我们立足技术攻关的新型举国体制，在发展实践中推进技术治理，有望超越资本逻辑主导的技术竞争，化解高新技术衍生的安全风险，并最终开创以人为本的智能未来。

［参考文献］

［1］ 埃里克·布莱恩约弗森.第二次机器革命：数字化技术将如何改变我们的经济与社会［M］.蒋永军，译.北京：中信出版社，2016：126.

［2］黄欣荣.从ChatGPT到Sora：生成逻辑、哲学本质及世界图景［J］.新疆师范大学学报（哲学社会科学版），2024（6）：118-126.

［3］马克思，恩格斯.马克思恩格斯全集：第35卷［M］.北京：人民出版社，2013：87.

［4］列宁.列宁全集：第27卷［M］.北京：人民出版社，2017：336.

［5］马克思，恩格斯.马克思恩格斯全集：第42卷［M］.北京：人民出版社，2016.

［6］Alex Williams，Nick Srnicek.Accelerate：Manifesto for an accelerationist politics［M］// Robin Mackey and Armen Avanessia （eds.），Accelerate：Accelarationist Reader.Falmouth，U.K.：Urbanomic，2014：347-362.

［7］Raju Das.The Post-Truth Condition in Capitalist Society：A Critical Enquiry［J］.International Critical Thought，2023（2）：205-226.

［8］李韬，周瑞春.生成式人工智能的社会伦理风险及其治理：基于行动者网络理论的探讨［J］.中国特色社会主义研究，2023（6）：58-66.

［9］马尔库塞.单向度的人：发达工业社会意识形态研究［M］.刘继，译.上海：上海译文出版社，2014：69.

［10］丹尼尔·富兰克林.超级技术：改变未来社会和商业的技术趋势［M］.黄强，译.北京：中信出版社，2017：77.

［11］孙伟平，刘航宇.生成式人工智能与知识生产方式的革命：从Sora的冲击波谈起［J］.思想理论教育，2024（5）：12-18.

（责任编辑 文 格）

Risks and Challenges of Open Source Generative Artificial

Intelligence and Future Responses：

An Analysis Based on Marxist Critique of Technology

XU Tian-yi

（School of Marxism，Renmin University of China，Beijing 100872，China）

Abstract：Generative artificial intelligence is one of the most influential technological achievements of our time，and the open-source movement，which shares foundational code，plays a crucial role in its development.However，the open sourcing of generative AI has also sparked significant controversy.On one hand，open source aligns with the innovation trends of AI technology，promoting related industry development and advancing modern civilization.On the other hand，it exacerbates risks related to model security vulnerabilities，intellectual property loss，the proliferation of false information，and new technological crises.This paper analyzes the capital logic behind open source from the perspective of Marxist critique of technology，revealing the secrets of monopolistic enterprises profiting from shared technologies.Furthermore，it explores future governance solutions for artificial intelligence under the conditions of clarifying the laws of technological acceleration，maintaining open-source justice，and distinguishing human-machine relationships.

Key words：generative artificial intelligence；open source；security risks；technological governance