数智赋能国家创新体系优化的内在逻辑、可能风险与综合规制

张娟 张翠梅

关键词：生成式人工智能；国家创新体系；法制；数据权；文化安全

当前，人类社会已迈入以人工智能为引领的数智时代，并开始触达数智赋能的前沿。面对数智潮流，国家创新体系各环节与数智技术如何相互融合，加速国家创新体系优化进程，是关乎国家创新事业长足发展的必经之路。数智赋能时代，探索“数智技术+国家创新体系”深度融合的新范式，是对国家创新体系优化的概括提炼。人工智能作为提高新兴科技竞争力的着力点，贯穿于制造强国、科技强国建设。以ChatGPT为代表的新一代生成式人工智能，在技术上突破了以往弱人工智能的不足。我国在相关领域亦布局较早，成效显著，这为我国建设科技强国开辟出新的强劲路径。在应用场景层面，人工智能在行政管理、医疗教育、智慧司法、自动驾驶以及智能供应链等方面体现出强大的创新能力，即人工智能不仅自身具备生成创新性产品的能力，而且能夠推动人工智能使用者的创新，通过在各领域、各层面产出创新产品和创新服务，可以有力地促进国家创新体系的整体优化。应当注意的是，以ChatGPT为代表的新一代生成式人工智能虽然具有较大的应用优势，但其作为一项新兴事物，不可避免地带来应用风险，比如，人工智能技术应用背后所蕴含的意识形态问题。基于此，以ChatGPT为代表的新一代生成式人工智能为例，深入研究生成式人工智能基于何种方式助力国家创新体系优化、深入剖析人工智能应用过程中的风险和隐患，由此提出符合法治规律且具有针对性的解决方案，促进人工智能应用风险的有效化解，充分发挥数智赋能对于创新国家目标实现的重要意义，以期为国家创新体系提质增效和高质量发展提供理论和实践引领。

一、数智赋能国家创新体系优化的内在逻辑

以ChatGPT为代表的新一代生成式人工智能的飞速发展与应用，催生了医疗、教育等多领域的变革。①依据《人工智能生成内容（AIGC）白皮书（2022年）》②，人工智能生成内容具备产生数亿万元经济价值的潜力，随着人工智能生成内容的发展深入，将推动资产服务的跟进，通过对人工生成内容进行合规评估、交易服务、产权保护以及资产管理等形成完整的人工智能生成内容生态链，并对其进行价值重塑，由此充分发挥人工智能生成内容的商业潜力。由此可见，以ChatGPT为代表的新一代生成式人工智能具有巨大的经济价值和广泛的应用场景，可以为优化国家创新体系注入强劲动力。

（一）传统要素的优化：数智赋能国家创新体系整体高效

进入新时代以来，建立健全国家创新体系，需要完善的社会主义市场经济制度予以保障。在国家创新体系优化过程中，以ChatGPT为代表的新一代生成式人工智能可以为其注入强大的市场能动，即人工智能“通过垂直和横向互补性拓展创新与生产率提升空间，对经济持续增长有重要作用”③。具体来讲，主要表现为四个方面。一是，新一代生成式人工智能可以快速推进科技创新。新一代人工智能可以提升人工智能模型与算法，更加准确、高效地完成自然语言识别、语音与图像识别等复杂任务，从而为交通、医疗、科研等领域提供相对完善的解决方案。如此，可以促进各行业、各领域工作人员在实践中的创新，加速科技成果的转化与应用，进而助力国家创新体系的完善与发展。二是，新一代生成式人工智能可以促进数字经济的繁荣发展。在人工智能技术飞速发展的背景下，以数据要素为核心的智能金融、智慧物流、大数据分析等产业迅速发展。以ChatGPT为代表的新一代生成式人工智能可以高效处理并分析海量数据，通过提取海量数据中具有价值的信息，为数字经济的发展注入强劲动力，进而优化国家创新体系在数字化领域中的布局。三是，新一代生成式人工智能可以推进部分产业的转型升级。以ChatGPT为代表的新一代生成式人工智能技术在传统产业中的深入应用，将会引发传统行业的重大变革，推动传统企业向自动化、智能化转型。比如在制造行业，人工智能技术的深入应用能够实现智能物流、智能制造的突破，有效提高企业的产品质量和生产效率，加速劳动密集型产业转向技术密集型产业，实现传统产业的转型与升级。四是，新一代生成式人工智能可以促进人才培养、优化科研环境。以ChatGPT为代表的新一代生成式人工智能的理论与技术研究，需要完善人工智能领域的人才支持政策、加强人才培养与人才引进，为生成式人工智能人才提供强有力的政策、平台与环境保障，充分吸引国内外优秀的人工智能人才，不断壮大国家创新体系的人才队伍。

新一代生成式人工智能介入国家创新体系优化的经济依托主要表现为以下几个方面。首先，提高数字内容的生产质量与效率。所谓数字内容，主要指运用数字技术生产、使用和传播的多类型内容，比如视频、音频、图像、文本等。数字内容不仅是数字经济的重要部分，而且也是支撑国家创新体系的关键。如前所述，结合用户的需求与偏好，以ChatGPT为代表的新一代生成式人工智能可以迅速生成具有个性化定制属性的数字内容，并且数字内容具备较高的准确性、真实性和创造性，可以在很大程度上满足不同行业和领域对知识获取、信息传播以及娱乐消费的需求，有效降低了数字内容的生产成本，从整体上提高了数字内容的生成质量和生成效率。其次，推进数字技术深度融入实体产业。结合实体产业的需求和特点，以ChatGPT为代表的新一代生成式人工智能可以生成与应用场景和目标相契合的数字内容，比如数据、模型、代码等，同时能够与实体产业开展双向的互动交流与反馈。人工智能生成的数字内容不仅够增强实体产业的生产力、降低生产风险、提升产业价值，而且能够助力实体产业向网络化、数字化以及智能化方向转型升级。最后，拓展数字经济发展空间，激发数字经济发展潜力。结合市场需求和变化，以ChatGPT为代表的新一代生成式人工智能可以生成数字产品、数字服务等兼具创新性和竞争力的数字化内容，并且能够实现与用户的智能化交流互动。人工智能所生成的数字内容，不仅能够推动形成新的商业模式、价值链以及生态圈，而且能够推进数字经济领域与其他领域协同发展。

（二）管理要素的优化：数智赋能国家创新体系拓展统筹

“人工智能驱动政务服务创新是数字政府的重要内容”①，在行政管理领域，推进ChatGPT在智能政务领域的应用，能够提高工作效率，降低行政成本，强化科学行政。②以ChatGPT为代表的新一代生成式人工智能的应用，不仅为行政管理的变革带来重要机遇，还为优化国家创新体系提供了新的手段和路径。在行政管理领域，以ChatGPT为代表的新一代人工智能的功能效用主要表现为三个方面。一是，新一代生成式人工智能可以进行数据分析并为相关决策提供支持。在国家创新体系优化过程中，政府部门往往需要处理海量的信息数据，比如技术创新引导、科研项目评估等。政府通过应用以ChatGPT为代表的新一代生成式人工智能，可以对海量数据进行快速、有效的处理和分析，并对具有价值的信息进行提取，从而可以为决策者提供具有科学性、合理性的建议，如此也能够减少主观因素对决策的干扰。二是，在数字领域方面，以ChatGPT为代表的新一代生成式人工智能掀起了重大变革，③即生成式人工智能可以作为智能助手，通过自动完成会议安排、文件整理等具有重复性、繁琐性的行政任务，有效节省行政管理人员的时间成本和人力资源成本，提高行政管理工作的质量和效率。新一代生成式人工智能除了在行政管理领域扮演着重要角色，还在优化国家创新体系中发挥着关键作用。比如，对于科研项目评估和资助决策事项，新一代生成式人工智能基于对海量数据的分析，形成科研项目评估报告，同时对科研项目的创新性和重要性等方面进行全面评估，不仅有效减轻评估人员的工作负担，而且极大增强了评估结果的客观性与公正性。新一代生成式人工智能介入国家创新体系优化的行政优化主要表现为以下几个方面。

首先，新一代生成式人工智能作为“数字运营官”，可以向政府内部提供决策管理支持。结合政府内部的信息数据，以ChatGPT为代表的新一代生成式人工智能可以生成分析报告、工作计划和决策建议等内容，并能够与政府相关工作人员进行智能化交流与协作。生成式人工智能在行政管理领域的应用，不仅可以提高政府内部的数据利用率、增强沟通效果、优化决策流程，而且能够节省人力资源成本、提高文档制作质量和速度，促进行政管理的科学性、高效性和透明度。其次，新一代生成式人工智能作为“数字助理”，可以向政府外部提供公共服务支持。结合政府的外部需求和反馈，以ChatGPT为代表的新一代生成式人工智能可以生成咨询回答、宣传教育、服务指南等内容，并且可以与社会公共进行智能化互动，发挥引导作用。生成式人工智能针对不同的用户和场合，可以生成差异化的语气和表达方式，比如简洁或者详细、礼貌或者亲切等，满足不同用户所期待的情感，如此也可以极大减轻人工客服的工作压力，提高回答的客观性、准确性与多样性。最后，新一代生成式人工智能作为“数字创造者”，可以向社会提供创新资源支持。结合社会的创新需求与潜力，以ChatGPT为代表的新一代生成式人工智能可以生成创业平台、创新产品、创新方案等内容，并且能够与创新主体进行智能化匹配。新一代生成式人工智能不仅能够帮助社会拓展创新空间、提高创新活力、增加创新价值，从而实现开放、协同、多元的创新生态，而且能够针对不同领域和目标，生成代码、音乐、文学等不同类型和风格的内容，以此满足不同主体的创新需求和偏好。

（三）创新要素的优化：数智赋能国家创新体系新着力点

国家创新体系优化的最终目的还是在于促进创新能力和资源向创新成果转化。人工智能的介入赋能了创新主体、新增了创新要素、重塑了創新网络和创新机制，最终都体现为创新成果的持续产出。新一代生成式人工智能赋能国家创新体系优化是一种跨领域、跨行业、跨界别的全面优化，有助于推动国家创新体系全领域的成果转化和价值提升。主要体现在以下几个方面。

第一，在国家战略层面明确创新体系优化的成果转化方向，新一代生成式人工智能能够打破信息壁垒和层级壁垒，为创新成果的研发和转化提供信息支持和决策支持。着眼于国家发展目标和现实需求，新一代生成式人工智能能够收集和分析国内外形势变化情况数据，在此基础上挖掘和预测各个领域的创新方向，自动整合并生成战略规划、政策建议、行动方案等内容；其还可以根据情况变化实时调整战略规划和决策策略，及时沟通相关部门并推动协调配合，从而实现整体战略的动态优化和适应性调整。例如，在科技领域，根据国家科技发展目标和现实需求，尤其是面对西方国家“卡脖子”的情况，新一代人工智能会在收集和分析各国科技领域发展情况的基础上自动生成针对性较强的科技政策建议、科技项目方案，乃至科技战略规划等内容，并在政策、方案、战略规划实施的过程中密切关注国内外科技形势变化和数据反馈，实时调整和更新建议，有助于确保科研创新的方向性。

第二，在产业发展层面提升创新体系优化的成果转化速率，新一代生成式人工智能能够及时、准确地把握产业发展机遇，为创新成果的研发和转化提供市场方向和投入定位。就国家创新体系优化下的全面的产业发展而言，其能够同时容纳和分析的产业数量远超一般人工智能，不仅能根据数字经济发展趋势和市场需求，自动生成数字经济分析、数字经济预测、数字经济建议等内容；还能根据不同产业特点和条件，自动生成某一产业发展的相关分析、预测和建议，包括产品设计、服务方案、营销策略等内容；还可以支撑和维系国家部门与不同产业的企业、产业内外相关企业的智能协作和协调沟通。由此，国家创新体系优化从战略、政策、方案走向产业变革、企业创新、产品创造的流程得到简化，创新思维、能力和资源向创新成果转化的速度提高，创新成果数量也将不断增加。例如，目前有很多自动生成网站、APP、小程序等数字产品已经出现，不同产业的企业都可在相关平台获得设计、营销等服务。

第三，在社会生活层面塑造创新体系优化的成果转化需求，新一代生成式人工智能能够精准地抓取用户的个性化需求和社会的群体化需要，为增强创新成果的衍生价值提供用户粘性和技术支持。新一代生成式人工智能在满足个人服务需求方面具有巨大的潜力，例如，可以根据个人输入和偏好，自动生成文书模板、疑问咨询、服务指南、教育培训等内容，①尤其是教育培训方面，能在相关群体之间进行引导和维持智能互动。②而当这种互动模式出现在创新体系优化之中，一方面，相当于社会民众能直接从需求一侧向国家、政府和企业提出要求，而这供需两端连接过程被压缩进而扁平化沟通模式，对企业创新能力提出了新的要求。例如，面对民众的医疗、旅游、教育咨询等需求，智能系统平台是否能在给出答案的同时链接到相关服务；另一方面，一旦社会民众习惯于这种智能互动和引导，习惯于快速反馈和产出的创新服务或产品，那么其就会期待类似服务出现在更多产业和行业之中。由此，国家、产业和企业都应当遵循技术和经济发展规律，响应社会民众需求，积极加入到这种快速反馈和产出的互动模式中来，让这种供需智能互联的新模式最终成为创新体系优化的关键支撑。

二、数智赋能国家创新体系优化的可能风险

相较于传统的人工智能技术，新一代生成式人工智能展现出了更为强大的创新能力，不仅在技术创新上有着显著的优势，而且其创造或协助人类生产的数字化内容也在多个层面上有助于推动国家创新体系的深度优化和升级。然而，正如许多技术在诞生之初所面临的挑战一样，生成式人工智能在技术上的新颖性所带来的诸多问题也暴露出法律规制的滞后现象，这在很大程度上限制了其发展潜力的充分挖掘。因此，针对生成式人工智能应用于社会生产生活各方面所带来的问题，理应在法律法规的框架下采取针对性措施，在实现生成式人工智能可持续发展的基础上，确保生成式人工智能能够在规范的法治环境下为社会带来更多的福祉。

（一）算法黑箱风险

1.数据权的侵扰

新一代生成式人工智能在应用过程中存在两个重大数据风险——创新数据泄露和创新数据滥用，而这两个风险都会严重危害个人隐私权益，甚至可能对经济社会发展和国家安全构成威胁。在创新数据泄露问题上，以ChatGPT为代表的新一代生成式人工智能在创设之初，就一直笼罩在数据泄露严重和隐私保护不力的质疑之中。①这主要是因为，新一代生成式人工智能的算法需要依赖海量的数据库，而这些数据库中包含的往往是用户在浏览互联网以及在使用移动互联应用过程中遗留的，这使得ChatGPT难以避免地保留了一些真实用户的个人信息，一旦用户的问题触发了ChatGPT的这部分记忆，就可能会透露出一些本不该泄露的隐私内容。需要注意的是，ChatGPT包含大量个人隐私外，也涉及了商业秘密甚至与国家机密相关的信息。以ChatGPT为例，这种新一代生成式人工智能在进行数据处理时，无法判断信息的敏感性和重要性，仅仅将其视为算法的输入，无法对各种私密信息进行有效过滤和保护，从而可能导致这些重要数据在算法模型运算过程中，以算法结果的形式流入到公共社会之中，形成所谓的数据泄露。基于此，中国支付清算协会在2023年4月发布了《关于支付行业从业人员谨慎使用ChatGPT等工具的倡议》，明确指出ChatGPT在隐私保护、数据利用以及跨境数据流动方面存在一定的安全风险，需要采取一定的手段以提升支付清算行业的数据安全管理水平。该倡议的出台表明，监管部门已经高度关注新一代人工智能对金融行业数据安全的潜在影响。这也提醒银行及支付机构必须提前做好应对准备，建立健全数据安全管理制度，采取有效措施降低创新数据泄露风险，保障客户信息安全。

在创新数据滥用方面，以ChatGPT为标志的新一代生成式人工智能在运用数据过程中，面临着合规性和准确性的挑战。这两种风险与此类人工智能应用在处理和使用数据时的复杂性密切相关。具体来说，其一，合规性风险主要体现在知情同意方面。以ChatGPT为代表的新一代生成式人工智能需要对数据库中的大量文本进行训练，通过不断的试错来优化模型，使模型能够对新生事物进行自主判断。但是这一训练过程所用到的数据集可能仍然含有个人或商业机密信息。而这些信息的提供者在最初提供數据时，其知情同意的范围显然不包括允许将信息用于模型的再训练。因此，在未经提供者进一步同意的情况下，将包含个人或商业信息的数据集用于模型训练，可能违反《个人信息保护法》中有关知情同意的规定。其二，准确性风险主要来源于训练数据的局限性。任何训练集的数据都难以做到面面俱到，覆盖所有的应用场景。以ChatGPT为例，其训练数据集主要来源于网络上已发表的各类文字内容，对某些尚未广泛记录的新生事物的理解可能存在局限。在这些领域，ChatGPT的输出可能反映训练数据的局限，无法提供准确可靠的信息。因此，这种准确性风险也会导致模型对新兴事物或场景的判断存在偏差。①基于此，创新数据的泄露可能会为不法分子窥探我国科技创新战略规划、关键数据和涉密领域提供可乘之机，一定程度上威胁我国的数据主权和国家安全。同时，创新数据的滥用可能会为重点行业和关键领域的科技创新进程提供滞后或虚假的数据信息，导致技术漏洞弥补出现错误、关键技术难以实现有效突破，无效甚至错误的科技资源投入不仅会耗费科技创新成本，还会阻碍我国的科技创新进程，严重制约国家创新体系的建设和完善。

2.伦理危机的具体化

尽管新一代生成式人工智能在很多方面都展现出了强大的能力，但由于算法黑箱的存在，使得这些技术在透明性和可解释性方面仍显不足，这也带来了在人类社会中潜在的支配风险。在计算机科学领域，算法被认为是实现特定任务的控制结构。②然而，这些控制结构不仅仅局限于计算机内部的电流和代码，还是由于人类对算法结果的高度依赖性，使得算法对社会生活方式和社会运行结果产生深远影响，这也表明算法具有社会权力属性。③基于此，利用算法以及像ChatGPT这样的新一代生成式人工智能对社会实现支配的风险，很可能通过算法黑箱得以实现。算法黑箱意味着算法内部的工作原理和过程难以解释和理解，这使得人工智能的决策逻辑变得模糊不清。而ChatGPT类生成式人工智能的发展正是源于深度学习的技术逻辑，即通过大规模数据库和反复的数据计算，经历无数次的肯定和否定反馈后逐渐形成了自我判断的能力和意识。在这种识别过程中，以ChatGPT为代表的新一代生成式人工智能的算法采用了模块化控制方式，这种模块化控制方式将一切的运作逻辑都隐藏在算法的“隐层”中，使得人类无法完全洞悉算法的运作逻辑，令人类对算法的控制在某种程度上陷入了“算法黑箱”的困境，④即人类无从知晓算法输入的数据与输出结果之间的实际关系，使得以ChatGPT为代表的新一代生成式人工智能在一定程度上呈现出了不良的支配和控制。算法的深度嵌入无形中会增加创新主体对算法技术的依赖性和信任度，而过度依赖算法则会削弱创新主体的创新意识，降低其参与技术创新和成果转化的积极性，主体性地位意识的弱化和丧失会使技术研发与成果应用之间的关系链条断裂，进而降低创新成果的创造性、新颖性和实用性，甚至会导致某行业、某地区、全国性的创新能力滞后。

ChatGPT类生成式人工智能在展示全新应用前景的情况下，同时也带来了一些应用问题，主要涵盖了算法偏见与歧视、算法模型滥用以及算法的可问责性不足三个方面。其一，就算法偏见与歧视而言，人工智能在训练过程中所使用的数据会直接影响最终的运算结果和行为输出。如果训练数据对某些群体存在偏见，模型运算的结果也会反映这种偏见。例如，如果训练数据中对某个族裔的描述多带有负面色彩，模型生成的内容在提到该族裔时也可能带有歧视。此外，数据采样本身也可能存在选择偏误。如果训练数据对某些群体的代表性不足，模型对这些群体的理解也会受到限制。这种算法偏见和歧视的情况，可能导致人工智能的公正性和公平性受到质疑。特别是在当今逐渐重视平等权益的社会环境下，生成式人工智能在算法上的偏见与歧视问题可能会引发广泛的社会关注和批评。其二，关于算法模型滥用的问题。ChatGPT类生成式人工智能所拥有的强大模仿功能使得其可以复制任何人的语言风格和表达习惯。如果有人恶意将这一功能用于不法行为，例如，利用语言模型生成虚假新闻、利用图像生成技术制作深度假视频、通过语音合成技术进行诈骗等，则可能对社会利益造成严重损害。其三，是在算法的可问责性上，新一代生成式人工智能的复杂性和可解释性不足，使得证明其运行与实际损害之间的因果关系变得极其困难。在现有的法律制度下，对于算法和控制者的问责通常需要证明这一因果关系，然而由于人工智能算法的透明性和可解释性问题，这一证明过程变得十分困难。①另外，由于新一代生成式人工智能仍处于试验阶段，其对社会公众的实际损害也难以证明。即使在确实造成实际损害的情况下，受害者可能也会因为公共利益维护的搭便车效应，而选择放弃寻求救济。

（二）共识缺失风险

1.文化安全的失稳

不稳定且不可控的信息环境，不利于创新与合作。网络空间高度开放自由，AIGC在信息流分析和操作方面的卓越性能，反而使其成为虚假信息传播、舆论操控和网络滥用的潜在源头，②从而对网络空间舆论安全构成潜在威胁。一方面，AIGC应用所需的大规模数据收集和分析，会涵盖敏感的个人信息、商业机密和国家安全等相关信息，这些信息一旦被滥用或泄露，危及到国家安全和个人权利。另一方面，网络攻击组织利用AIGC快速生成的方式，使网络空间中充斥着大量信息，信息真实性和可信度则难以确定；AIGC这种不规则性使这种工具的应用无法被传统舆论控制机制覆盖，而资本则可以轻易渗透其中，这使得网络舆论和信息环境变得更加混乱复杂和不可预测，这样的环境是虚假信息、信息操作和网络滥用的温床，久而久之，其破坏力不仅影响国家创新体系中信息的质量和准确性，进而损害国家创新体系的效率和可持续性，甚至可能对国家信息生态系统和社会稳定造成不可逆的冲击。

进一步地，目前AIGC的使用不受国界限制，这使得国内外敌对势力能够跨越国际界限，通过网络渠道散布有害信息，在互联网上制造和强化意识形态分歧，煽动社会和政治动荡，意在削弱民众对国家法律、政策法规、核心价值观和意识形态的认同，从而瓦解国家创新体系的基础，以达到攻击我国政治制度和法律体系的目的。

除了舆论安全和法律意识形态领域，ALGC在社会文化领域也存在意识形态的解构风险。不同国家的社会文化不同，不同国家对伦理道德、社会规范、审美取向、价值观念等方面都有不同的看法。AIGC算法和数据集可能会反映出某些社会文化意识形态的偏见。一方面，AIGC系统可能会受到开发国家文化的影响，因为许多AI系统的数据集和算法是从这些国家的信息中衍生出来的。这可能导致在全球范围内的文化侵蚀，以及对其他文化的误解或歧视。另一方面，不同国家和社会的伦理观念可能会导致AIGC系统的应用差异。一个国家的AIGC系统可能会在另一个国家被认为违反伦理准则。例如，人脸识别技术在某些国家被广泛使用，而在其他国家则被视为侵犯隐私和人权的手段。这种差异可能引发国际争端，损害国际关系。除此之外，AIGC的算法还可能会体现更大范围内的对性别、种族或社会的偏见，导致不公平的或有争议的结论或决策。

2“. 数字霸权”的扩张

全球科技巨头如谷歌、脸书、亚马逊等公司，目前都拥有巨大的“数字霸权”。这些公司掌握了大量用户数据和包括AIGC在内的先进人工智能技术，使其能够影响人们的信息获取和意识形态传播方式，这实质上是一种“数字霸权”。

“数字霸权”的直接表现，即这些公司在掌握了大部分互联网上的用户交流（包括社交媒体、搜索引擎和新闻平台）后，能够塑造用户的信息获取体验，潜在地影响用户的意识形态。但足以影响用户的意识形态后，这些公司可以选择性地传播或抑制特定信息，从而影响公众的看法、价值观和政治取向，这就进一步对用户的意识形态进行操纵，通过操纵信息传播和意识形态，以符合其商业或政治目标。这种操纵可能导致信息的偏见和极化，甚至可能影响国家的社会和政治稳定。

而“数字霸权”公司的商业目标和政治立场，可能与国家的创新目标和政策并不一致。当这种不一致性附加上滥用“数字霸权”的行为，这种操纵风险不仅包括对信息的过滤，还包括对信息的强化，以满足特定立场或信仰。这就可能导致信息的极端化、偏见和社会分裂，例如，“数字霸权”公司可能会调整算法，以将特定政治或社会观点推送给用户，从而强化這些观点，而抑制反对观点。这种操作可能导致社会对立和极化，影响国家的社会和政治稳定。

创新过程中，AIGC“数字霸权”引发意识形态操纵风险，除了上述AIGC技术提供端通过“数字霸权”操纵造成的信息的偏见极化外，还存在着由数字化社交媒体和互联网信息的使用者，在使用过程中逐渐自主产生的意识形态偏见。

在当下AIGC“数字霸权”环境中，个体在数字化社交媒体和互联网上的信息获取和暴露受到过滤、筛选和个性化定制的情况，往往是由个人使用搜索引擎、社交媒体平台和算法驱动的信息推荐系统，这些系统根据个体的历史行为和偏好向其提供内容。久而久之，个体只看与自己观点一致的信息，而不容易接触到多样化的观点，信息的偏见和极化会削弱个体对不同观点和事实的理解。①

（三）规则失效风险

1.创新成果版权归属较难认定

新一代生成式人工智能的飞速发展，催生了愈发强烈的知识产权保护需求。卢纯昕、杨利华等学者提出，基于促进人工智能创新与产业发展角度的考量，应当对人工智能创造物予以著作权保护，由此实现对人工智能创造者和实施者劳动成果的充分保障。②王迁、易继明等学者持反对观点，认为虽然人工智能技术已经发展到生成式阶段，但并不具备自主意识和独立思维，不能将其生成过程视作创新，因此较难将人工智能生成物归为作品范畴。③但笔者认为，持反对观点学者的理由仍然属于传统工业时代下的认知，随着人类进入数字时代，生产和生活方式也逐渐呈现出数字化趋势，新一代生成式人工智能不仅改变了社会运行模式，而且确实生成了诸多具有价值且传统工业时代不曾具有的新型产品，提高了人类的社会生活水平，具有保护的必要性。此外，从新一代生成式人工智能内容生成的原理来看，其基于反复学习、反复试错，从而得出结论，这一过程本身是创造的过程，符合独创性特征，应当纳入著作权法保护的范畴。著作权法的立法原旨就在于通过完成对版权作品的规范保护实现对于著作权人的创作激励，在此视域下，创新成果版权归属存在争议无疑会降低著作权人的创作积极性，甚至在科技成果转化过程中会将著作权主体和使用主体等关联主体卷入复杂的知识产权纠纷，纠纷解决的程序成本和风险成本大幅增加，不仅会使科技创新成果失去市场优势地位，还会削减科技创新成果的衍生价值，甚至使得相关科技成果夭折，无法成功完成转化应用。

应当注意的是，在现有法律制度框架下，如果将新一代生成式人工智能创作物予以著作权法保护，仍然较难解决著作权的归属问题。具体来看，学界对于人工智能创作物的归属问题主要有以下观点。有学者认为，即使新一代生成式人工智能创作物属于作品，但由于生成式人工智能不具备法律主体地位，因而不具有著作权上的主体资格。还有学者认为，在数字时代背景下，新一代生成式人工智能更新了社会运行模式，具备一定的自主意识和独立思维，可以作为新型法律主体而成为人工智能创作物的权利归属者。此外，还有部分学者持折中主义观点，即不突破现行法律关于法律主体范围之规定，而运用解释论方法对现行《著作权法》进行解释，将新一代生成式人工智能创作物的权利分别归属于相应的生产者、使用者或是提供者。由此可见，当前理论界对现行法律主体资格范围的认知有所差异，使得新一代生成式人工智能创作物的权利归属较难达成共识。

2.创新成果可专利性认定较难

新一代生成式人工智能主要在三个层面冲击了现行专利制度，由此导致其创新成果较难认定为具有可专利性。首先，新一代生成式人工智能技术冲击了“人类发明中心主义”逻辑。我国现行专利法制度是以遵循“人类发明中心主义”为前提，这意味着，只有自然人才可以获取专利授权，行使相关权利并履行相应义务。如果将新一代生成式人工智能认定为专利权主体，则突破了现行专利法之规则。其次，新一代生成式人工智能技术冲击了“劳动理论”观念。依据传统观点，专利权人通过支配身体、付出劳动成果等方式，将其智力延伸到创造领域，而创造出发明成果，故应当予以专利法保护。然而，新一代生成式人工智能技术无需身体上的支配与付出，其主要是基于数字化、电子化的演算而成，并且与身体劳动相比，生成式人工智能的边际成本几乎为零，这与“劳动观念”具有明显差异，因此较难运用“劳动理论”对人工智能生成物予以专利法保护。最后，新一代生成式人工智能冲击了专利法上的“平衡逻辑”。新一代生成式人工智能具备强大的运算能力和极高的生成效率，如果运用专利法予以保护，那么极易造成专利客体数量在市场中大幅度增长，出现“专利丛林”问题，不利于社会公众对相关成果的获取与使用，致使个人利益与公共利益出现失衡。此外，新一代生成式人工智能技术的应用，极大降低了发明创作的研发成本以及市场风险。但生成式人工智能的控制者具有较强的市场激励，使得专利法制度的市场激励作用会降低或者丧失，甚至会导致生成式人工智能控制者倾向于坐享专利垄断利益而怠于科技创新。因此，如果对生成式人工智能生成物过度地予以专利法保护，并不利于促进科学技术的创新，反而会造成一定程度的公共利益损失。

三、数智赋能国家创新体系优化的综合规制

如今，以新一代生成式人工智能為代表的数字经济与数字技术成为现实经验活动最富有价值潜力的部分，因此在促进国家创新体系进一步优化时，应当秉持的原则是通过法律规制，在最小风险条件下利用人工智能技术。这就需要从技术本身出发，从技术运用到产品的生成再至成果的转换，通过法治的方式化解其中存在的风险，加强机制保障，最终实现国家创新体系深度优化的目标。

（一）以数据保护为基础

1.健全人工智能数据安全法律治理

为了进一步完善人工智能数据安全治理的法律规范体系，应当从法律规范和法律实践两个维度并行。从健全法律规范角度来看，要从数据安全和使用标准等方面完善人工智能研发应用的规范化建设。在“科研-商业转化”流程下，从适用范围、环境和算法等不同环节细化人工智能研发应用的数据安全要求。同时，设立数据安全、隐私保护的数据安全标准，以基础的技术要求为参考依据，划分数据的安全保护等级，以分类分级保护的方式细化数据保护标准。比如欧洲议会（European Parliament）通过的《关于“欧洲议会和理事会条例：制定人工智能的统一规则（人工智能法案）并修订某些联盟立法”的提案》就从风险分级的思路，将人工智能技术划分为不可接受的风险、高风险、有限风险和轻微风险四种类型加以管理，且每一类目都有核心的法律追求以保全其清晰度。比如说法案从保护消费者以及用户完整的“心理特征”以及打击数据不公的核心目的出发，精准地将包括人工智能中涉及利用人的潜意识、利用特定群体的脆弱性、社会信用分级以及实时远程生物识别的技术与服务纳入不可接受的风险清单中。而宏观上建立对人工智能技术的分级分类法律管控制度，有利于执法者与人工智能供应商分别在行动时有所凭依，其效果类似于我国国务院所推出的“权利清单”，使得人工智能的法律监管更为清晰明朗。

从具体的法律实践角度看，在制定相关法律法规的过程中，首先，要注意部门行业之间的协同配合。在具体的法律实践上，人工智能的立法及其他法律实践活动必须要合理考量行业性质与要求因地制宜进行调整，同时其整体性的管束办法也必然需要各部门之间的共同参与，比如2023年由国家互联网信息办公室发布的《生成式人工智能服务管理暂行办法》就由网信办、国家发展与改革委员会（发改委）、教育部、科学技术部（科技部）、工信部以及公安部联合发布。其次，要关注具体使用场景的重点立法。人工智能是一种高精尖技术，其应用场景从最开始的文本对话、文案写作，到后来的图像生成、视频创作、音乐创作、特定实验（蛋白质序列）模拟类以及代码编写协助等，使用场景与技术更新是在始终变动中的。因此在考虑使用法律规制人工智能的数据风险时，必须从当下的使用场景作为思考起点。最后，要继续沿用“阶梯式”的法律监管方式，为成熟的综合性人工智能法律法规留出空间。由于当下的生成式人工智能技术尚处于不断探索新领域和内容高速成长的关键时期，距离完全成熟的人工智能业态还存在着很大的差距。因此，法律制度实践也应当为其发展留下一定的空间。具体来说，可以采用阶梯式的法律监管方式，由省部级联合某一行业领域进行先军式的立法试验，在某一行业领域的人工智能技术业态稳定后由中央总结地方和部门经验，再补充上位法。

2.完善以算法监管为核心的安全保障体系

模型监管主要聚焦在训练数据、算法设计和模型生成和优化上，围绕这几个维度，重点关注模型是否存在AI歧视、模型本身存在的风险、知识产权侵权、个人信息侵权问题以及训练数据的真实、准确、客观、多样。

在训练数据方面，生成式人工智能的算法以深度学习模型作为AI的语言预处理手段，其核心的技术特征就在于通过爬取超大规模数据进行训练。超大规模的训练参数数据可能存在以下合规问题：（1）超大规模的数据爬取有较高可能性涉及个人信息侵权或者知识产权侵权的现象；（2）当算法训练数据极端增加，巨大规模的参数虽然的确提高了决策准确性，但由于可能的微调数据的行为，以及对数据清洗的难度增加，这就导致算法可解释的流失。算法本质是为了快速处理数据而准备的一套逻辑步骤，当算法从一种简单的底层规则演变为复杂的计算方式，重新拆解算法合规性的难度就因此增加。尤其生成式人工智能所依托的深度学习模型是典型的黑箱算法，目前的技术条件无法对其进行全面解释，其一定程度上的不可解释性也就在某些方面客观上逃避了应该有的法律追问。

为有效化解算法潜在的技术风险和制度风险，应当从法律规制和技术规制两个角度出发，完善对算法的系统化规制。从技术规制的角度出发，协调增强算法监管制度的体系建构，监管部门应该对算法的数据使用、应用场景、影响效果等开展日常监测工作，感知算法应用带来的网络传播趋势、市场规则变化、网民行为等信息，预警算法应用可能产生的不规范、不公平、不公正等隐患，发现算法应用安全问题。从对算法的主要编制主体——企业入手，应当从法律层面确定企业主体履行算法披露、纠偏、报告的责任，并合理运用审计制度倒逼企业建立内部算法登记制度，部分开放算法开发和修正的信息，从而实现算法的相对透明。

（二）以共识凝练为补充

1.核心价值观条款设置的必要性

对人工智能进行价值规制的必要性在于，权力的实现依赖于对信息传播的控制，通过这种控制进而在最大范围内“制造同意”，而人工智能的算法主导了数字时代的信息传播，进而影响到人们的思想观念和价值属性。①人工智能尽管更多地表现为一种技术手段，但从其功能和效用而言也具备了一定的权力属性。因此，以一定的价值理念对人工智能的设计者及其算法逻辑进行价值塑造，将这种价值理念融入人工智能的设计中就显得尤为必要。党的二十大报告指出，“社会主义核心价值观是凝聚人心、汇聚民力的强大力量”，“把社会主义核心价值观融入法治建设、融入社会发展、融入日常生活”。②通过对人工智能设计者进行社会主义价值观的理论塑造，能够使其立足于中国实际，在程序的逻辑设计上能够以国家和人民利益作为智能产品的出点发，由此能够避免人工智能技术可能产生的思想异化趋势。

2.技术手段条款运用的必要性

以社会主义核心价值观作为规避技术异化的价值基础，对于科技发展而言具有宏观的方向指引作用，但这并不能在具体层面实现对技术异化的规避。从马克思主义的理论视角出发，科学和自然力总是作为资本的力量与工人相对，科学及其应用进入劳動的一切地方，都表现为被并入资本的东西。③因此，科学技术作为一种工具并非是中立的，蕴含了资本的生产逻辑。在我国的现实语境下，一方面，智能化在技术层面的推进往往依赖于私营企业；另一方面，市场经济的大背景又赋予这些企业追求利益的合法权利。因此，缺乏技术监管的人工智能很容易成为企业追求利润的工具，具有更多经济效益的群体的诉求往往会被重视，而老人、孩童等群体在智能化时代的权利往往被忽视。因此，人工智能及其技术赋能的实现要以数智善治为目的，从制度层面加强数据的保护和安全制度建设，从技术保障层面落实数据安全的保障措施，④以此避免技术异化可能带来的消极后果。例如，在数据权利主体的司法救济路径中，可以通过技术手段实现权益侵害风险的识别和证据留存，完成对于数字弱势群体的倾斜保护，降低数据权利主体对因果关系的证明负担，平衡其与算法平台的诉讼地位。通过价值和技术手段两个层面的规制，最大限度避免人工智能可能带来的负面效果。

（三）以知识产权为要点

1.人工智能作为成果产权归属之明确

僵化性和滞后性是法律不可避免的特征。人工智能的发展对法律的影响尤其体现在知识产权领域，具体而言涉及两个层面。一方面是人工智能的主体在知识产权层面的界定。传统知识产权的主体制度一般以自然人为原点进行建构，人工智能的出现及其创造作品的能力对著作权作者、专利发明人等的主体界定产生了规制上的模糊地带，并引发了一系列知识产权主体界定的争议。⑤另一方面是人工智能创造物的知识产权问题。如果对其虚拟作品的生产和运用不加以规制，便会造成海量符合标准却无实际价值的知识产权成果，同时会在知识产权层面对人类主体带来极大的秩序冲击。因此，面对人工智能在作品产出上的特点，应当在知识产权取得标准、设计人工智能创造物的知识产权归属机制及其限制规则等层面设置相应的标准①，弥补法律体系的空缺。

2.注重人工智能成果转化过程的法律构建

人工智能的发展及其成果产出之所以能在人类社会中激起波澜，归根到底源于其成果在实践层面的转化运用。党的二十大报告指出，要“提高科技成果转化和产业化水平”②，这既是国家科技创新体系的关键环节，同时还关涉人工智能领域对社会生产力和生产效率的推动。所谓科技成果转化，“是指为提高生产力水平而对科技成果所进行的后续试验、开发、应用、推广直至形成新技术、新工藝、新材料、新产品，发展新产业等活动”③。要想处理好人工智能科技成果的转化需要处理好两个层面的问题。一是如何提高人工智能的技术转化效率。目前我国科学技术成果的转化面临科技转化主体的能力不强、技术转化的渠道和模式不够通畅以及成果转化激励不足等问题④，这降低了人工智能领域技术创新的积极性，不利于该行业的长期稳健发展。二是要处理好科技成果转化“如何做”的问题，缺乏此方面的规定，科技成果转化在具体操作层面便会陷入无序状态。因此，政府应该发挥好法律制度制定的牵头作用，在尊重市场秩序的前提下完善科技成果转化的规范设计。只有通过健全的法律制度来保障各类主体协作关系的顺畅、科技成果的高效流转，才能推动国家创新体系的良性循环，进而实现以科技创新推动社会经济发展的最终目的。⑤

（四）以产业结构为依托

1.开放交互的制度完善

人工智能技术已成为当今时代国际竞争的重要筹码，作为全球新一轮科技革命和产业变革的风向标，人工智能技术的掌握程度直接决定未来一段时期内国际竞争表现和国内经济发展面貌。世界上主要发达国家纷纷开拓人工智能产业，这也使得人工智能技术创新引来井喷式变革。不过，各个国家对人工智能产业发展的侧重点各有不同。例如作为一直以来全球科技引领者的美国，在人工智能领域主要以企业为创新主体，美国人工智能企业多紧密贴合市场需求，因而在技术创新价值上的重要性程度较高。老牌工业强国德国对人工智能技术的发展囿于其制造业场景，所以在市场利益的转化上不甚显著，但在人工智能理论研究与技术实践方面则具备了较高水平。我国由于一直受科教兴国等战略的支撑，对人工智能技术长期以来极为重视，这也令我国在人工智能赛道上位居世界前列。与美国不同，我国人工智能创新往往由高校作为发起主体，在人工智能专利的申请数量上具备优势地位。但同样受制于高校与企业的联系程度不足的现实，我国人工智能市场创新的价值性还存在较大提升空间。在技术研究领域方面，我国将人工智能技术与互联网紧密结合，深度发展智能汽车、智能无人机等新兴人工智能领域，这比美、德等国重点关注传统人工智能领域具备更强劲的后发优势。鉴于国内外人工智能技术研究与市场化的多样性，我国不仅要更为注重国内人工智能技术的创新和市场培育，也要适时寻找加强对外输出的契机，通过与世界各大经济体之间的技术和市场合作，进一步培养国外市场消费习惯、扩大市场份额以及优化自身关键技术。

2.成果转化的顺畅机制

我国人工智能创新主体主要来自于高校等科研院所，企业对人工智能科技成果创新力提供有限，因此导致我国人工智能科技成果市场化和产业化程度不足的现状。从美国人工智能产业发展经验来看，要想扩大人工智能科技成果的市场转化，根本在于以市场需求为导向。因此，应当充分提升科技企业，尤其是人工智能科技企业的创新能力，通过高校与企业更为密切的联系，提高人工智能科技成果市场转化率。以市场需求为导向意味着将人工智能科技发展方向交由市场引导，在进一步降低交易成本的条件下提升人工智能技术创新的市场转化率。同时，要促进数字创新技术与实体产业的融合衔接，政府可以为以企业为主导的产学研深度融合提供政策扶持和资金支持，政府可以作为中介或桥梁促进资金链、人才链、技术链、产业链的双向衔接和深度融合，促成科技成果的市场化转化，从而反哺科技创新成果研发过程，形成科技研发、转化、运用的产业闭环，螺旋式提升国家整体创新能力。通过建立以高校、政府、企业为主体的三方共建机制，深化产学研的融合进程，推动科技创新成果转化为实际生产力，在完善国家创新体系的同时实现经济总量的稳步提升。

（五）以人才配套为辅助

1.健全人工智能人才培养体系

人工智能人才的自主培养关系到我国工程教育由“大”向“强”的根本转变。当前，我国工程教育规模已居世界第一，但“大而不强”的现状依然成为阻碍我国科技创新的重要掣肘因素之一。人工智能技术作为未来很长一段时期内全球科技变革的主阵地，是实现我国科技发展“弯道超车”的历史机遇。因此，完善人工智能人才培养就成为当下我国人工智能技术发展的核心命题。面对未来的科技趋势，我国必须实现人工智能技术应用人才、技术创新人才以及技术管理人才的三层次培养体系。技术应用人才是人工智能人才的基本需求，其培养目标在于既需要掌握专业的人工智能技术，也需要具备将所学人工智能技术应用于具体产业实践的能力。技术创新人才是我国人工智能技术发展可持续化的根本驱动。在人工智能市场化方面需要充分提供各类人工智能技术的应用方案，以引领产业发展。在人工智能技术创新方面则需要创新融合人工智能技术与传统产业，赋能传统产业催生新业态。技术管理人才是我国人工智能产业市场化的重要推动力。通过培养技术管理人才，可以有效打通人工智能企业和组织上下游的信息交互，提升业务交流、生产销售等效率。另外，鼓励人才的联合培养与对外交流，破解科技创新的难点和瓶颈也构成我国人工智能人才培养体系的重要环节。

2.完善人工智能国际高层次人才引进

前文已经提及，相对于美国，我国人工智能科技成果的市场价值重要性程度存在明显不足，这主要是由于我国人工智能专利的技术重要程度和创新性低，与其它专利技术关联性不强，技术价值偏低所导致的。①因此，从人工智能人才培养的角度来看，除了要加快对本土人才的创新培养，同样应当注重对国际人工智能高层次创新人才的引进。完善对于国际人工智能人才的引进机制，需要营造正向、公正、透明的科技创新环境，提高相关人才的薪酬待遇，加大前沿技术的研发力度，从而吸引全球顶尖人工智能人才加入我国人工智能科技创新的兴趣。政府层面也应鼓励高校、企业、科研机构等单位对国际人工智能人才的引进，为其提供政策支持和资金支持。

结语

新一代生成式人工智能对于国家创新体系具有直接而深远的影响。与个案式考察相比，法学领域长期忽视的重要方面是产业结构、成果转化以及市场完善等更为具体的法律构建。这种具体性不同于个案审查中的抽象玄奥，个案审查往往涉及各种复杂的价值判断，需要借助哲学、伦理学等外部资源，并在整个体系中精妙且小心地运用。在产业、成果和市场等方面的法律构建属于立法论的范畴，而这一方面一直是法学界长期忽略的边缘领域。然而，正是这些方面构成了当前最为紧迫、亟待建设的法学内容。因此，新一代生成式人工智能与国家创新体系的紧密耦合，迫切需要在特定、目前尚未完备但未来必将完善的法律框架下进行审慎考虑和规划。从产业结构的角度看，新一代生成式人工智能的发展需要法律体系对其进行引导和规范。制定相应法规，明确产业发展的方向、步骤以及各方责任，有助于确保人工智能产业的可持续、健康发展。成果转化方面，法律应当为技术成果的转化提供明确的法律途径和保障机制，以促进科研成果更好地服务社会。另外，针对市场完善，法学应当着眼于构建一个适应人工智能发展的市场法规框架，包括知识产权保护、竞争政策、数据隐私等方面的法律机制，以保障市场的公平、透明和有序运行。这不仅有助于激发创新活力，还能够建立起一个健康的市场生态系统。总体而言，新一代生成式人工智能对于国家创新体系来说是一项重要的推动力量，但其蓬勃发展需要一个明确而完善的法律框架的支持。只有通过法律的精准构建，才能够实现人工智能在创新体系中的有序、高效运作，为国家科技发展注入新的活力。