我国发展生成式AI技术的内在逻辑、风险及路径研究

蔡亚天 桂由英

摘  要：生成式AI是一种利用大数据学习、创造全新数据或内容的人工智能技术。我国大力发展该技术，是基于科技创新、制造业升级、商业场景优化等多重因素的综合考虑。然而，该技术也面临着法律、伦理、安全等方面的潜在风险和挑战。我国应在明确生成式AI技术的法律责任、培育生成式AI技术的创新生态、应对AI技术对传统行业就业市场的影响等方面持续加强工作，助推生成式AI技术的高质量发展。

关键词：生成式AI      隐私保护     数据安全

生成式 AI 技术是一种利用人工智能算法让机器不依赖于现有的数据，而通过自身的模型产生新的数据的技术。相较于判别式 AI ，生成式 AI 技术具有以下特点：第一，可以在没有大量已有数据的情况下生成新的数据。第二，可以生成独特的、全新的数据，而不仅仅是基于已有数据。第三，可用于图像、音视频、文字等多种类型的数据生成。随着深度学习和大规模训练数据的出现，生成式 AI 技术得到迅速发展。目前，该技术在创意设计、虚拟现实、视频游戏等领域已经有了广泛应用，可以快速生成大量的音视频。在科学研究中，此技术也正被应用于新材料、新药物的设计和研发中。

一、我国大力发展生成式AI技术的内在逻辑

我国正大力发展生成式 AI 技术，开发了文心一言、通义千问等模型，发展该技术具有深刻的内在逻辑。通过推动该技术的研究和应用，我国可大幅提升在人工智能领域的国际竞争力，更好满足国内外市场的需求。这将为中国带来长期的经济、社会效益，同时也将促进全球AI技术的进步。

（一）科学技术的发展与创新

在科学技术领域，生成式AI技术可以提供灵活、高效的解决方案，让科研人员在数据处理、模拟建模、实验设计等方面获得更多的创新思路。比如，生成式AI可以快速产生大量模拟数据，从而分析某些科研项目的可行性。在设计领域中，生成式AI技术可以帮助设计师更加高效地完成创意工作，在短时间生成大量优质的设计方案，从而满足不断增长的用户需求和市场需求。设计师可通过该技术，不断提升设计质量和效果，从而在市场中赢得竞争优势。

（二）制造业转型升级

近段时间，更多企业开始将生成式AI技术应用于生产链中。首先，它能够在较短时间内准确生成所需的产品和样品，从而提升生产效率。这样一来，中国的制造业就可以更好地适应市场需求，为客户提供更具竞争力的产品。其次，它还可以为企业品控和监测提供有效的解决方案。对于某些需要更高品质和准确性的产品（如飞行器的零部件）， 它提供了基于算法的智能化、预测型品控方法，从而改善生产工艺。最后，它还可以降低人工和生产成本，有助于企业的长效盈利。生成式AI技术对我国制造业的转型升级非常关键，该技术将提升制造业的数字化、智能化、自动化水平。

（三）商业场景的优化

该技术具有广泛的商业应用前景。在图像处理方面，可以实现图像生成、风格迁移、图像修复等功能，这在广告设计、游戏开发、智能家居等领域将得到广泛推广。在音频处理方面，该技术可应用于语音合成、音频增强、音符生成等方面，这将改善语音交互、提升音乐创作水平。此外，该技术还可用于模拟仿真、自动编程、医疗等场景。

（四）提升全球创新竞争力

在全球创新领域中，生成式AI技術已成为一个备受关注的研究方向，这对提升中国在全球的竞争地位至关重要。在电子商务领域，它可以更准确地分析消费者需求、提升市场分析和预测的精准度，从而提高企业的商业水平，推动行业的数字化转型。在智能制造领域，它也可以协助企业完成流程优化、自动化调整，提升企业的生产效率。

在国防和公共安全等方面，生成式AI同样可以提供更好的技术支持。在智能安防方向，此技术可实现人员识别、行为分析和情景感知等功能，从而更好地维护国家安全和社会稳定。该技术还可用于智能交通、城市规划、公共资源管理等领域，提高城市管理、公共安全的效率。

（五）经济需求

面对人口老龄化和劳动力成本上升的挑战，我国迫切需要更多自动化解决方案。生成式AI技术可以帮助企业创建软件代码、促进产品研发和有针对性的营销等，从而减轻员工负担，提高工作效率。

二、我国发展生成式AI技术的优势条件

（一）技术实力

AI技术是综合性的新兴科学，涵盖了语音、图像、文字、思维等多个方面。我国在自然语言处理、图像识别等领域，位居全球领先地位。近年来，中国人工智能企业大量涌现，汇聚了众多优秀AI技术人才。

（二）政策支持

党的二十大报告指出，加快发展数字经济，促进数字经济和实体经济深度融合。2023年4月11日，《生成式人工智能服务管理办法（征求意见稿）》出台并向社会公开征求意见。对比其他国家对该技术的监管，中国无疑走在了世界前列。《意见稿》对生成式AI技术、生成内容、主体责任、数据源和数据处理等方面都做出了相关规定，为我国生成式AI技术高质量发展提供了制度保障。

（三）人才储备

我国拥有庞大的人才储备，特别是在计算机科学、数学等相关领域。我国高等教育体系不仅培养了大批优秀人才，而且部分国内顶尖高校和科研机构在该领域也取得了可观的成就。然而，在高端研究人员、跨领域交叉人才等方面尚存一定短板。为此，我国已出台多项政策和规划，支持AI教育和培训。例如，教育部新增高职（专科）人工智能专业，180所高校也新增相关本科专业。

三、生成式AI技术的潜在风险隐患

（一）数据安全与隐私保护

生成式AI技术在使用过程中，它可能带来数据泄露和个人隐私侵犯的风险。例如，生成式AI模型通常使用大量的公开文本数据进行训练，这些数据可能包含个人信息、敏感数据或不当内容。如果在训练过程中没有对此类信息进行充分过滤和脱敏，模型可能会学到这些敏感信息，并在后续应用过程中将其泄露给其他用户。此外，该技术可能会产生涉及真实姓名、地点和其他个人信息的输出，严重侵犯个人隐私。

（二）信息误导

随着生成式AI的发展，更多虚假信息和误导性内容被生成和传播，这可能对社会公众产生负面影响。部分AI算法可根据一些已有信息，生成看似真实的虚拟内容，甚至可能仿冒现有人物并产生高度逼真的结果。生成式AI技术可能会增加虚假信息的风险，并引发社会舆论的不稳定。这些误导性内容有可能伤害公众权益，导致社会问题的恶化。另外，一些虚假信息可能会与现实世界中的个人数据相似，这可能会误导用户认为自己的个人隐私被泄露，引发用户的担忧。例如，生成式AI算法生成的虚假图像可能深度仿真某一特定人物，如果该人物的隐私信息遭到泄露，就有可能误导社会舆论，并产生严重的负面影响。这还可能导致相关人员陷入不必要的麻烦，进一步影响到社会秩序和国家安全。

（三）伦理问题

生成式AI技术在自然语言处理领域得到了广泛应用。然而，如果这些算法不受适当监管，就有可能产生具有攻击性或歧视性的内容，从而引发社会争议和道德问题。例如，在社交媒体上使用该技术生成的误导性或虚假信息，可能被用于网络欺凌、骚扰、诈骗中。此外，该技术可能会重复和放大现实世界中的偏见和歧视，进一步加剧社会的不平等。

（四）人工智能失控

生成式AI技术的发展也给人类社会带来了挑战。如果不能及时采取有效措施来监管该技术，那么它可能会变得失控。由于该技术的高度复杂性，使得其潜在的危险性也更大。该技术的安全漏洞甚至会对国家安全和生态环境产生不可预知的负面影响。

（五）依赖性问题

生成式AI技术的发展给生活和工作带来了巨大的便利。但如果人们过度依赖该技术，就有可能丧失独立思考力和判断力。首先，此技术可能产生认知惯性和思考惰性。人们会将本该自己思考解决的问题交给AI来完成，从而习惯了简单地接受AI的建议和结果，而不是针对问题进行深入思考。其次，过度依赖生成式AI技术会进一步导致人类社会的人际关系愈加疏离。这会使人们社交互动的机会减少，可能会降低社会凝聚力。

四、我国发展生成式AI技术的主要路径

（一）合理界定生成式AI技术的法律责任

生成式AI技术应用中，法律责任归属的明确界定直接关系到整个行业的发展前景，需引起高度重视。例如，用户没有遵守相关法律法规，滥用生成式AI技术，导致隐私泄露、知识产权侵犯等问题，用户需承担相应的责任。又比如第三方干扰或攻击，导致生成式AI不能正常工作或输出结果不准确，导致严重后果，需综合考虑相关方面进行责任界定。

因此，在界定法律责任归属时，需考虑到多个维度，以确保生成式AI技术应用的合法合规和安全可靠。从技术角度看，我们需要对该技术的整個生命周期进行监管。这包括数据收集、处理、存储和使用等方面，以及算法模型的开发、测试和上线等流程。同时，还需要建立完善的技术评估和审查机制，确保该技术的安全性、稳定性和可靠性。

从法律角度看，我们需要依据相关法律法规和政策规定，明确各方的权利义务和责任。这包括对数据隐私、知识产权、消费者权益的保护，以及对不当行为的惩罚和追责。此外，还需要制定相应的合同条款和协议，规范各方之间的关系和义务。

（二）着力培育生成式AI技术的创新生态

为培育有利于AI创新发展的生态系统，我们应该着力推动学术界与产业界之间的深度合作，共同探索生成式AI技术的潜力与可能性。这种合作应以资源互通和创意交流为基础，在兵分两路的情况下共同致力于推动技术研发和革新。同时，我们也需要加强对相关行业的研究和探索，寻找与其相辅相成的新机遇。只有深耕精细，建立起一个完整的、高效的协同创新体系，才能使生成式AI技术获得更大的成功。

此外，基础理论研究依然是保障技术进步的核心。如今，AI技术正不断渗入到各个行业领域，但真正实现技术的跃升，仍离不开理论基础的研究和积累。

（三）减轻生成式AI技术隐私风险，保障数据安全

在训练生成式AI模型时，应对训练数据进行脱敏处理，移除所有包含个人信息、敏感数据或不当内容的文本，从而降低潜在的隐私风险。技术开发者应通过设置合适的过滤器和约束条件，限制生成式AI产生包含个人隐私或敏感信息的输出结果，降低泄漏风险。服务提供商应明确用户协议和隐私政策，告知用户如何处理他们的数据，以及在与生成式AI交互过程中可能产生的隐私风险。此外，技术开发者及相关各方应采取更严格的数据安全措施，对用户数据进行加密和访问控制，防止未经授权的访问、使用或泄漏。同时要确保在合法合规的情况下处理用户数据。

（四）有效应对AI技术对传统行业就业市场的冲击

生成式AI技术可以自动生成大量内容，这可能导致部分从事简单内容创作的从业者失业。此外，在医疗、金融等行业，部分简单、机械的工作也将被替代。然而，生成式AI技术也给传统行业带来机遇。该技术可以帮助从业者节省时间，提升效率。同时，需要创意的相关工作，AI技术也并不能真正替代人类的价值。

为此，相关从业者需积极转型并提升自身技能，向更有创意和思考性的工作方向转变，从而提升自身竞争力。政府和社会各方也应采取积极全面的技术布局，充分利用生成式AI的技术优势，实现与实体经济的深度融合。

（五）着力发展通用大模型及垂直领域模型

垂直领域模型是指针对特定领域或任务进行优化设计的模型，例如语音识别、自然语言处理、图像分类等。垂直领域模型的优点是可以更好地适应特定场景的需求，提高模型的精度和效率。我国应大力发展垂直领域模型，从而充分利用中国在各个行业和领域的海量数据，打造出具有竞争力和创新力的AI应用。

发展垂直领域模型并不意味着放弃通用大模型。我国应在通用大模型和垂直领域模型上都加大投入，两者相辅相成，从而共同推动生成式AI技术的发展。

参考文献：

[1]杜立平，宋燕红，李晓东，金鑫.GAN在AI领域的应用研究[J].北京电子科技学院学报，2018，26（3）.

[2]芝亭.文心一言，“利刃出鞘”生成式AI时代[J].华东科技，2023，（3）.

[3]顾亚奇，王琳琳.有意义的控制：基于生成对抗网络的AI艺术及其交互方式[J].装饰，2021，（8）.

[4]赵志宏.生成式AI开启生产力新范式[J].银行家，2023，（4）.

[5]生成式人工智能服务管理办法（征求意见稿）[J].中国信息化，2023，（5）.

[6]冯群星.全梳理.180所高校新增人工智能专业，能否填补百万人才缺口？[EB/OL]. 2020-03-06.

[7]李白咏.面对生成式人工智能：与AI结对还是被AI取代？[J].中国电信业，2022，（12）.

（作者单位：1.中共内江市委党校；2.内江市人民政府办公室）

责任编辑：康伟