AIGC在数字文艺创作领域面临的伦理风险

李师哲

摘要：AIGC作为一种新兴的创作形式在网络空间得到广泛应用，不断冲击我国的原创数字文艺创作领域。AIGC的使用正面临归属权不明确、掠夺个人创作成果、造成价值偏颇和虚假信息、违背文艺创作初衷等伦理风险。作为实质是以营利为目的的工业化生产手段，AIGC对于我国文艺创作领域的生产消费产生了消极影响，挤压了原创文艺作品市场，也带来了人类创作可能被取代的隐忧、私人信息泄露和信息造假的威胁，影响了人的主体性。因此，必须通过出台相关的法律法规和行业标准、引入版权许可和收益分享机制、加强对AIGC技术的伦理和道德教育并明确对AIGC内容的标注等路径降低其伦理风险，为新时代我国数字文藝创作领域的健康可持续发展保驾护航。

关键词：AIGC；伦理风险；数字文艺创作

随着人工智能技术的不断发展和应用，AIGC作为一种新兴的创作形式，正在不断冲击原创文艺创作领域。AIGC使用方式便捷，操作门槛低，应用范围广泛，已在我国数字文艺领域掀起新的革命，其来势不可阻挡。但AIGC的兴起也带来了一些对现有生活方式和文化行业的威胁，在互联网空间引发重重乱象。“文化兴则国运兴，文化强则民族强。”党的十八大以来，以习近平同志为核心的党中央强调要大力发展网络文艺。2023年10月，全国宣传思想文化工作会议上首次提出了习近平文化思想，总结了新时代党领导人民群众进行文化建设的实践经验，强调了文化建设的重要性。数字文化是当今时代文化发展的重要场域，为了响应习近平文化思想的号召，推进数字文化产业繁荣发展，保障人民群众享有积极健康的精神文化产品，让AIGC成为人类进步发展的辅助工具而不是奴役人民群众的机器，保证人的主体性不受到侵犯，同时助力 “文化+科技”融合发展，让数字真正赋能文化产业，AIGC在数字文艺创作领域面临的伦理风险必须被正视并警惕。

一、AIGC的运作方式及特点

（一）AIGC的运作方式

AIGC （Artificial Intelligence Generated Content）又称生成式人工智能，以生成对抗网络、大型预训练模型等人工智能的技术方法为基础，学习和训练已有数据，以一定泛化能力生成需求内容。[1]AIGC技术能生成具有一定创新性和实用性的内容，其运作流程包括四个步骤：一是数据收集，即从已有的人类创作中选择符合要求的内容并将之收集形成数据库；二是模型训练，即机器学习过程，通过对数据库中大量资料进行学习模仿并产生 “理解”；三是内容生成，根据用户要求生成相应的创作内容；四是反馈与优化，即程序制作人员根据用户反馈调整训练模型。目前，AIGC仍处于发展初期，尚不具备独立产出逻辑复杂的完整电影或内容繁复的精细图形的能力，面临一些技术限制，不能完全与人类创作媲美，一些批判使用AIGC的群体掀起一场浩浩荡荡的 “鉴AI”活动，通过对文本逻辑的审视和挑剔图像线条结构的不合理来辨识作品是否为AI创作，不过目前许多人仍然沉浸在参与合成创作的趣味之中。

（二）AIGC的运作特点

AIGC运作思路是模拟人类行为逻辑，以计算机为载体创造类人类的 “虚拟思维”，它的运作具有独立性、创造性、高效性和价值中立性四个特点。一是AIGC在一定程度上独立于人类思维，有自我训练和完善功能，可以针对特定任务进行微调，以满足不同研究应用的需求；二是AIGC也不是直白的对过去信息进行简单的复述拼接，而是经由 “算法迭代”和 “代码转换”创造出具有新特点的产出，甚至可以实现对不同模型的转化，还具有海量的数据储存能力，能反刍自己生产的海量内容，并驾驭多种语言，适应复杂文化背景，尽管它还无法充分确证事实知识，但具有基本的社会认知力与社会行动力，也可以通过文本和图像在一定程度上识别和反馈情绪。[2]同时，它本身只是一种信息科技和人造工具，并不谈及伦理、价值和意识形态等上层建筑，只是对具象事实、信息和数据进行实证性处理。

（三）AIGC的广泛应用

AIGC在我国的文艺创作、媒体宣传、自动驾驶、金融风控、健康医疗、物联网、安防监控等领域已获得广泛应用。[3]在数字文艺创作领域，AIGC无疑降低了创作的门槛，提高了创作效率和包容性。它在商业领域展现了极大优势，足以完成大部分设计、写作诉求。大量企业选择把插画文稿、宣传视频交给AIGC，减少了重复性的工作，提高了工作效率。长远来看，AIGC改变了当今社会的生产关系，促使社会生产力产生重大进步，信息数据成为堪比煤电的抢手资源，推进人类社会信息化转型。

AIGC的这些特点无疑带来了一场新的产业革命，但也隐含可能给数字文化产业带来的伦理风险。它不会被具体的个人掌控，具有一定的创新重组能力，且无法真正识别价值对错，只是冷冰冰的机器和代码，无情地生产大批量自身也无法真正道出来龙去脉的 “作品”。

二、AIGC可能涉及的伦理问题

当新型的生产技术的高速更新迭代超越现有伦理架构时，由于人趋利的本性，在新技术使用时会难以避免地产生大量侵害他人权利的行为，造成社会矛盾。AIGC的大规模兴起也已经引起了数字文化领域相当一部分生产者的声讨。为了把握中国特色社会主义基调下数字文化建设的特点和规律，AIGC存在的伦理问题值得持续深入探讨。

（一）归属问题：AIGC归属权不明确

传统的文艺作品由人创作，其著作权和知识产权归属明确，相比之下，AIGC作品的权属难以确证，AI技术模型、程序员、艺术家、作家以及终端用户都会对生成内容产生影响。《中华人民共和国著作权法》明确规定著作权人仅包括 “作者、其他依照本法享有著作权的公民、法人或者其他组织”，因此AIGC的版权不属于计算机本身。赋予AIGC终端用户著作权会导致用户借助AIGC夺取原创作品的市场利润，将AIGC作品的版权无主化则会引发创作者的强烈异议，创作者普遍笃定纳入AIGC训练数据集的作品应当拥有著作权。AIGC的归属权不断引发现实纷争，如一起案件中原告起诉被告将AIGC图片在另一网站无授权使用，北京互联网法院一审判定AIGC图片应当受到著作权法保护，但更多人认为版权不能归属于原告，因为涉案作品实际上是用他人作品融合生成，是 “小偷偷走了另一个小偷的东西”。

AIGC的版权归属至今依然是一个悬而未决的难题，还需追随时代步伐，尽快对AI创作的著作权界定、著作权转让与许可、机器学习数据集的使用版权等法律法规进行修订和完善。[4]部分平台也不得不重视用户诉求而再次审视AIGC的权力边界，为原创作者提供 “NoAI” （拒绝AI）的服务协议，打造更尊重文艺工作者的数字文化交流服务平台。

（二）侵权问题：个人无法抵抗AIGC的掠夺

AIGC的本质是机器学习，通过互联网从现有文艺作品的图文中提取内容进行训练，这些 “灵感”的爬取无须经过原作者的许可，它史无前例的融合能力使证据收集困难，原创作者既无法维权或收回作品，也不能防止AI继续获取，这让更多人注意到AIGC的伦理风险，反抗这场 “不打招呼且规模浩大的掠夺”。

国内数位原创创作者发现小红书官方发布的AIGC图片明显拷贝了自己的作品，认定该平台侵犯了自己的著作权并将小红书及其AI模型库告上法庭。这些原创作者希望该起案件能为我国原创数字文化作品及AIGC行业树立新的法律边界，推进著作权相关法律标准更新，为广大数字文艺创作者提供更有保障的文化生态。除了创作者的权益在AIGC的使用过程中可能遭到掠夺之外，还有个人肖像和隐私信息被无授权获取的问题。如在AIGC合成视频和影像时使用AI换脸或者将数据库中的人物脸谱当成素材挪用至其他场景，AIGC数据库中的面孔来源甚至可能对自己的肖像使用完全不知情，也无法抵抗这种掠夺，其他隐私信息包括声音、行程、地址等信息也是如此，可能会无条件地展现在终端用户眼前。

（三）道德失范：AIGC造成价值失序且生成虚假信息

在AIGC生成过程中，由于输入关键词、风格偏好、限定要求等方面因素的影响，AIGC生成的作品可能出现不符合社会主义价值观的内容，必须关注AIGC应当承担的社会责任，防范其带来潜在的负面影响，目前AIGC引发的较为突出的道德失范问题主要是价值失序和虚假信息。

“对他者心灵的感知，无论是对人类还是人工物，都会对主体的社会行为产生重要影响。”[5]AIGC价值失序包含多种影响社会稳定的有害价值取向，通过终端的集中输出生成可能造成算法歧视，其将良莠不齐的互联网内容不经筛选地作为素材库，经过学习模仿引入性别、地域或其他偏见。[6]在AIGC撰写新闻时也面临类似忽视道德情感、意识形态、社会习俗等价值失序的问题，如果新闻界高度依赖AIGC模型则可能会形成技术型路径依赖，产生追求流量而捏造非正义现象的可能。

AIGC合成的虚假信息更复杂棘手，已经有不法分子利用AIGC合成人脸动态视频、AI换脸、音频进行诈骗、破解身份核验、售卖低俗色情图像视频等犯罪活动。[7]不少受害者发现诈骗视频或低俗视频中出现的形象和音色幾乎就是自己或亲友的，完全真假难辨。这种利用虚假信息的违法犯罪行为给社会治安带来了新挑战，需要相关机构严格限制技术使用的方式和门槛，加强网络安全监管。

（四）违背文艺创作的初衷：以营利为目的的工业化生产

AIGC为所有人提供了输出权利，但这个过程与其说是创作，不如说是工业生产，与文艺创作的独特性相悖。塞尚认为：“一件艺术作品不是从情感开始的，这不是艺术。”创作基于个体对生活的经验感知，是人生感悟的实体化再现，而AI作为一种客观的数据运算，无法真正复现创作中的人类思考。人类的创作作品通常包含个人对人生境遇和时代浪潮的思考，存在现实的灵感来源和完整的构思脉络，而AIGC的作品常呈现出逻辑断裂的问题，即无法阐述完整的创作意图和构思逻辑，人类思考的逻辑性无法在数据运算中得到复现，机器无法推测逻辑思考后事件发展的合理程度，也因此，在文学创作和影视剧生成中AIGC技术运用仍然无法独自运行。AIGC在图文音频领域对现实劳动生产的取代使生产效率达到人类的数百倍，用流水线化的、没有 “灵魂”的作品占据更大的数字文艺市场，此时AIGC的目的不再是 “表达”，而是通过非正当竞争挤压传统创作的市场，达到营利目的。

三、AIGC对我国数字文艺创作产生的消极影响

（一）对数字文艺创作领域的生产消费产生消极冲击

AIGC可能对数字文化产业的生产消费产生一些负面影响。一是它可能使传统创作者失去原有的个人风格和特色，陷入被AI剽窃学习或对AIGC作品的虚假浮夸的创作风格盲目追逐的困境，造成同质化现象，不利于文化产品的差异化发展；二是AIGC的流行使文艺工作者对AIGC技术过度依赖，不正当使用AIGC技术蒙骗消费者，扰乱市场，抑制原创文化创作动力；三是可能使消费者对于艺术作品的评价和接受出现更多的误解和偏见，消费者辨别能力不足受到欺骗，受大量AIGC作品蒙蔽而难以提升文艺鉴赏水平，对集体审美建构和文艺思考产生消极影响，从而整体上影响真正有价值的文艺作品的传播和影响力，不利于我国数字文化话语体系构建。[8]

（二）带来替代原创创作的隐忧

AIGC这一科技革命成果给公众生活带来了诸多福音，但也造成了对人的主体性的挑战。AIGC的应用和发展替代劳动者完成了工作中机械烦琐、技术含量低的部分，但也夺走了不少文艺工作者的努力和成果，让人担忧过度使用AI会被反向驯化为技术的奴隶，创造力退化，影响数字文化领域生态，阻碍文化产业高质量发展。

在马克思看来，“人的主体性就是要通过主观能动性实践来充分张扬人性，凸显人相对于其他一切存在独一无二的特性，并在实践过程中实现人的自由而全面的发展”。马克思认为劳动是构建人类社会性的根本手段。“劳动创造了人本身。”[9]且这种劳动必须是以自然界客体为对象的实际劳动，而非虚拟生产，这体现了马克思对历史唯物主义的贯彻。未来随着我国法规制度的完善和价值引导的加强，公众担忧会有所减轻，但由于AI大规模应用时间较短、易用性高、成本低廉、受到商业市场青睐，著作权法没能及时更新，伦理规范没有得到普及，目前仍有许多创作者感到焦虑悲观。

（三）带来信息泄露和信息造假的威胁

AIGC由于并不能明辨是非判断价值，在学习网络信息之后可能将个人信息融合扭曲，输出给陌生用户，这种个人信息的泄露可能造成人身安全和财产安全等方面的威胁，黑客可能分析作品中隐含的信息，对毫不知情的受害者进行 “人肉”，造成隐私侵害。[10]AIGC生成的价值失范内容对公众的误导、欺骗也会逐渐消减公共领域的理智德行。在信息造假的问题上，公众目前还无法脱离 “有图有真相”的经验思维，对海量真假难辨的信息难以招架，因此可能产生针对个人或集体的诽谤事件，因此及时更新法律、完善行业规范势在必行。[11]另外，AIGC已经开始了对于真实内容数据库的信息污染，在自然人文摄影和科普知识领域，AIGC已经生产了大批足以以假乱真的照片，这些图片流入书籍素材库，对科普摄影书籍的编写造成了巨大的障碍，也无益于历史档案构建和高质量文化产品的输出。

四、减少文艺创作领域AIGC引发的伦理风险的路径

为了贯彻以人民为中心的价值理念，满足人民日益旺盛的精神需要和物质需要，在数字文化领域建设时必须把社会效益放在首位，实现社会效益和经济效益相统一，AIGC生产必须明确边界，成为文艺创作领域繁荣兴盛的催化剂，而不是绊脚石。

（一）尽快制定AIGC相关的法律法规和行业标准体系

对技术应用边界的思考和伦理法规框架的更新不能过迟，否则将会引发技术伦理危机。面对AIGC的兴起，一是要尽快成立专业化监管部门，针对应用AIGC的各个领域精细化商定相应法律法规，应对不同的应用场景，行业标准也要尽可能贴合现实；二是要尽快出台并落实相关的政策，使AIGC在版权方面的义务得到充分体现，如遵循自愿性原则，赋予创作者把作品纳入数据库的知情权和拒绝权，以此尊重和保护知识产权，为数字文艺创作领域的健康发展提供法律保障，也为创作者维护权益提供法律武器，提升建设高质量数字文化的积极性；三是对互联网平台严格监管，互联网是不可或缺的作品分享展示平台，加强监管有利于减少AIGC乱象、避免网络平台针对创作者个人的霸王条款，清明网络生态，维护线上创作分享环境，还公众一个更加理性舒适的公共空间；四是严格对AIGC产出发布之前的伦理审查，减少不符合道德规范的AIGC作品传播，以免造成公共不良影响，目前国内外已经有措施限制AIGC的终端低俗内容的输入以优化其应用领域。

（二）引入版權许可和AIGC收益共享机制

在音乐、电影等领域AIGC技术的引入时间较早，如运用电脑合成与人类艺术家风格技法相似的歌曲音乐、人声和乐器音色，这些AIGC内容已经普遍融入了音乐创作的生产流程，也产生了相对完整的收益共享流程。在其他创作领域也可以适当引入这些先驱经验。例如，在文学绘画创作中引入版权许可和收益共享机制，许诺作品纳入AIGC数据库的原创者以相应的收益分成，确保当AIGC利用原创作品生成新的AI作品时原作者的权益得到保障，让更多创作者在AIGC创作领域发展过程中获益，避免原创积极性降低或原创作品市场萎缩，同时也能激励更多创作者主动共建AIGC领域，在面对版权纠纷时也能依据规则获得合理有效的赔偿。

（三）加强对从业者的伦理和思想道德教育

AIGC作为机器本身不具备判断价值的能力，但从业者可以采用手段引导机器的学习偏好和输出。对于工具输出的价值把控是在新技术风暴席卷时人类掌握自身主体性的重要体现。因此，建设数字文艺创作领域必须强化对AIGC从业者的思想道德素养和工作规范教育。[12]一是通过对从业者进行思想道德教育，通过充分的社会责任引导，确保AIGC技术在数字文艺创作领域的规范使用，如限制终端不符合价值导向的关键词输入，不执行违背公序良俗的要求；二是通过算法优化，提高AIGC对道德法则的鉴别能力，在训练中加入道德伦理实践与德行学习，从而对德性行为、情感与动机进行有效识别；三是要注重数据过滤，严格对失德信息的筛选，抛弃其中可能与公众价值导向相悖的内容，避免其成为AIGC的数据来源，在模型中加入社会主义核心价值的规训；四是除了文艺创作之外，从业者和使用者也要谨慎选择AIGC的应用领域，尤其是在涉及数据记载、学术研究等方面。

（四）明确对AIGC内容的标识

由于AIGC技术飞速发展，当前公众已经没有能力快速精准地辨别AIGC作品，因此也无法可靠辨别内容真实性，对AI作品的特殊标注尤为必要，否则会导致有需求通过文艺作品鉴赏提升审美能力或学习文艺作品的人无从辨别真正的创作逻辑和作品背后的情感哲思。为了引导积极的文化消费，规范文化消费市场的健康可持续发展，必须明确对AIGC作品的特殊标注，严格规范其用途，以防消费者受到欺骗或者价值误导，避免机器对人类审美能力的反向驯化和信息污染，使数字文艺创作市场风清气正，充满活力，创作出更多具有对新时代社会的价值思考和情感认同的精美数字文化作品。

五、结束语

AIGC在各个领域的应用是大势所趋，尽管争议此起彼伏，但时代浪潮滔滔向前，风口已至，新技术也不会因部分人的质疑而停止发展，创作者创造的多种艺术形式和数年磨炼创作的心血成果也不会仅因为一种新兴技术而付之一炬。人类作品所反映的历史文化语境、其中蕴含的情感价值和审美意义是目前AIGC难以企及的，“人是媒介的尺度”，美学脱离人类主体将毫无意义，只要人类还需要创作来传达思想情感，就永远不会被替代。

习近平总书记提出要适应形势发展，抓好网络文艺创作生产。为了践行习近平文化思想，促进文艺创作活力涌现，数字文化产业繁荣发展，网络空间文明交流互鉴，我们应当在数字文艺创作方面谨慎使用AIGC，明晰定位，挖掘潜能，规范内容，挖掘新的创作形式，确保技术为人服务、不会对人类的利益和价值产生消极影响，为人民群众的精神世界创造新的财富。AIGC是一把 “双刃剑”，但技术本质与伦理道德并不背反，不必以二元对立的方式来看待这项新兴技术，只有突破学科边界，建立新的伦理规范，把工具紧握在自己手中，才能彰显人的主体地位，促进中华优秀传统文化创造性转化和创新性发展，打造自信繁荣的数字文化，在新时代彰显 “科技+文化”创新协同力量，书写网络文艺新篇章。

参考文献：

[1] 郭全中，张金熠.AI+人文：AIGC的发展与趋势[J].新闻爱好者，2023（03）：8-14.

[2] 俞鼎，李正风.生成式人工智能社会实验的伦理问题及治理[J].科学学研究，2023（12）：6.

[3] 曹建峰.人工智能治理：从科技中心主义到科技人文协作[J].上海师范大学学报（哲学社会科学版），2020，49（05）：98-107.

[4] 刘嫱.AI绘画：艺术革命还是伦理危机？[N].光明日报，2023-04-02（001）.

[5] 陈巍.拟人化人工智能：神经基础与伦理承诺[N].中国社会科学报，2022-12-13（007）.

[6] 扶暄泽.AIGC元年背景下人工智能绘画的突破、争议与反思[J].新美域，2023（09）：25-28.

[7] 叶桐瑞，刘明洋.生成式AI的技术渗透与新闻业的伦理反思[J].青年记者，2023（16）：89-91.

[8] 杨宇鹤.AI绘画的演化、影响与思辨[J].传媒，2023（17）：52-55.

[9] 马克思恩格斯文集[M].北京：人民出版社，2009.

[10] 胡正荣，李涵舒.颠覆与重构：AIGC的效用危机与媒介生态格局转化[J].新闻与写作，2023（08）：48-55.

[11] 徐畅，杜欣泽，于凯迪.AIGC在设计行业应用中的挑战与策略[J].人工智能，2023（04）：51-60.

[12] 钱佳，康宁.AIGC视域下艺术与传媒专业融合创新与重构研究[J].传播与版权，2023（14）：114-116+120.