AI创作：拓宽眼界 守住边界

杜迈南

AI筛选IP、AI生成剧本、AI配音、AI特效……AIGC技术正迅速渗透影视创作各环节，争议也随之涌现：AI生成内容是否享有著作权？如何界定AI抄袭与侵权？ AI创作的边界在哪里？

AI生成内容的版权争议

近年，AI大模型与各类文本生成、文生图、文生视频工具的发展一路“狂飙”，AI生成内容版权归属问题也随之浮出水面。

去年年底，北京互联网法院针对人工智能生成图著作权侵权纠纷一案，作出一审判决。由于该案是我国首例涉及“AI文生图”著作权的案件，引发网络关注。判决书中，北京互联网法院指出，该案主要涉及三大争议点：一是图片是否构成作品，构成何种类型作品；二是原告是否享有涉案图片的著作权；三是被诉行为是否构成侵权行为，被告是否应当承担法律责任。法院认为，该案中的人工智能生成图片体现了人的智力投入，具备“独创性”要素，并且体现了人的个性化表达，应当被认定为作品，受到著作权法保护。

上海融力天闻律师事务所合伙人、中国电视剧制作产业协会法务委员许超表示，AI生成的影视作品是否具有著作权，无法一概而论。“按照我国著作权的基本理论，我国著作权法奉行的是‘人类中心主义，即著作权法意义上的‘作者只能是‘人，不能是‘动物，也不能是‘机器‘设备‘软件‘模型；即便在创作作品的过程中有‘动物，‘机器‘设备‘软件‘模型的参与和协助，它们只能扮演创作工具的角色。以人工智能模型为例，如果控制人工智能模型的人（人工智能使用者）能够充分证明，其在使用人工智能模型时，投入了创作所必需的‘智力投入，创作完成的作品体现他的个性化表达，现行法律可以认可其是作者，对创作完成的作品享有著作权。”诸如一些影视剧使用AI换脸，综艺启用AI导演、数字人参演等AI应用，AI扮演的更多是工具角色，基本是制作人员先制作素材，再通过AI技术进行内容编辑、替换、演绎，或者通过AI技术完成重复性工作，不涉及第三方版权或肖像权素材的调用，“这些AI的影视应用，通常不会有侵权风险。”

至于经过海量样本学习、模仿，进而生成的AI作品，是否会侵犯在先著作权人的合法权益，许超表示需要个案分析和认定。“司法机关判定是否侵犯在先作品版权，要根据是否与在先作品构成‘实质性相似来认定。如果AI学习海量样本后，生成的是全新作品，在先作品著作权人无法证明AI生成作品与其作品存在实质性相似，就无法主张AI生成作品构成侵权。”如AI输入“生成一张奥特曼打怪兽的图片”，AI生成的图片与日本圆谷株式會社创作的奥特曼和怪兽的美术作品主要特征基本一致，那这份AI生成作品就是侵权作品。

加强监管治理

为了更加规范、合理、安全、高效应用人工智能，国家互联网信息办公室、国家发展和改革委员会、教育部、技术部、工业和信息化部、国家公安部、国家广播电视总局七部门去年联合发布《生成式人工智能服务管理暂行办法》（以下简称《办法》），旨在促进生成式人工智能健康发展和规范应用维护国家安全和社会公共利益。这也是我国首个针对生成式人工智能产业的规范性文件。

《办法》提出坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管，明确了提供和使用生成式人工智能服务总体要求。同时，《办法》提出促进生成式人工智能技术发展的具体措施，明确了训练数据处理活动和数据标注等要求。规定了生成式人工智能服务规范，明确生成式人工智能服务提供者应当采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务。按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识，发现违法内容应当及时采取处置措施等。此外，《办法》还规定了安全评估、算法备案、投诉举报等制度，明确了法律责任。

根据国家法律、行政法规及相关管理规定，各大网络视听平台结合自身实际，陆续出台了相关规则和管理措施。

芒果TV积极参与AIGC技术安全保障与相关标准制定：在技术安全方面整合图像识别、自然语言处理、音频识别等相关算法；针对生成式AI应用中的内容素材和生成结果，执行一系列安全审核措施，包括色情内容检测、暴力和敏感内容识别等十数个审核维度，全面增强大模型应用中的内容信息安全与意识形态安全保护；研发通用型数字版权管理（DRM）保护方案；成立科技伦理（审查）委员会等。

B站以技术赋能效率提升，持续优化包含AI智能审核和人工团队审核在内的双重审核机制，自主研发的AI审核系统——阿瓦隆社区自净系统，利用AI模型自动拦截负面互动，提升用户社区体验。通过多重回查机制加强审核力度，对监管重点方向加强审核。2023年，B站利用人工智能技术，对内容审核模型迭代升级，模型准确率提升55%，进一步扩大对低俗、色情等有害内容的识别范围，同时针对高风险内容优化审核通道，提升审核效率及审核质量。

去年5月9日，抖音发布了关于人工智能生成内容的平台规范暨行业倡议，以及《抖音关于人工智能生成内容标识的水印与元数据规范》（以下简称《规范》），要求创作者、主播、用户、商家、广告主等平台生态参与者，在抖音应用生成式人工智能技术时，应对人工智能生成内容进行显著标识并负责。《规范》中还提到，虚拟人在平台注册需要实名认证；禁止利用生成式人工智能技术创造、发布侵权内容，包括但不限于肖像权、知识产权等；同时禁止用户利用生成式人工智能技术创作、发布违背科学常识、弄虚作假、造谣传谣的内容。

许超表示，对于平台来说，《生成式人工智能服务管理暂行办法》就是平台的合规指南。今年年初，广州互联网法院作出我国首例AIGC平台著作权侵权判决，在判决书中明确认定由于平台没有尽到《生成式人工智能服务管理暂行办法》规定的“建立便捷的投诉举报机制”“使用用户协议等方式充分提示潜在风险”“生成内容中体现显著标识”等平台义务，因此平台需要承担赔偿责任。

互联网分析师丁道师认为，AIGC技术应用的前提必须是遵守法律法规、行业标准及道德伦理要求，坚持主流价值导向，生成式AI将进入强监管时代。“除了国家，民间力量也应积极参与人工智能治理体系的构建，在各自职责范围内，制定安全、可靠、值得信赖的人工智能监管及治理办法。”

AI创作要坚守“边界”

作为平台方，面对生成式AI可能带来的内容虚假和侵权等问题，芒果TV智能研究中心负责人宋施恩表示，“如果生成式内容技术和服务提供方都能严格遵照《生成式人工智能服务管理暂行办法》规定，同步完善生成内容的检测与审核技术，相关问题内容出现的数量和频率将持续下降。”

许超建议影视工作者注意以下几点：一是尽量以“工具”形式使用AI软件，提高效率，而非纯粹地生产内容，如果需要使用AI生成内容，则要确保素材来源合法合规。二是使用市场上公开的AI软件生成内容时，要做好充分的准备工作，包括对自己的智力投入做一些证据的收集、固定工作（即对证据采取措施加以固定并提取），确保后续产生“创作”争议时，可以拿出充分的证据证明“虽然是AI参与创作，但AI只是工具，作者有充分的智力投入”。要对“提示词”“参数”充分规划、设计、布置，而非简单输入，确保自己的动作能够上升到“智力投入”的程度。要对生成的内容进行必要“查重”检索，避免低级的“实质性相似”。“不过，由于大模型数据来源无法确定，AI的智能程度无法评估，AI创作者要做好第三方找上门维权的思想准备。”许超提示。

丁道师表示，“AI技术可以大幅提升視频制作效率和内容质量，降低制作成本，使得更多创意和故事被呈现。同时，通过与人工智能的合作，影视行业可能会催生全新的艺术形式和表达方式，满足观众多样化需求。”但正如每枚硬币都有两面，AI创作在带来诸多好处的同时，也存在滥用风险。“人工智能创作也要受到法律和道德规范的约束，这是不能丢掉的边界和底线。只有坚守‘边界，AI创作才能真正为影视行业赋能。”

《生成式人工智能服务管理暂行办法》

第一章  总 则

第一条  为了促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益，根据《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《中华人民共和国科学技术进步法》等法律、行政法规，制定本办法。

第二条  利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务（以下称生成式人工智能服务），适用本办法。

国家对利用生成式人工智能服务从事新闻出版、影视制作、文艺创作等活动另有规定的，从其规定。

行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术，未向境内公众提供生成式人工智能服务的，不适用本办法的规定。

第三条  国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。

第四条  提供和使用生成式人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德，遵守以下规定：

（一）坚持社会主义核心价值观，不得生成煽动颠覆国家政权、推翻社会主义制度，危害国家安全和利益、损害国家形象，煽动分裂国家、破坏国家统一和社会稳定，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情，以及虚假有害信息等法律、行政法规禁止的内容；

（二）在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视；

（三）尊重知识产权、商业道德，保守商业秘密，不得利用算法、数据、平台等优势，实施垄断和不正当竞争行为；

（四）尊重他人合法权益，不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益；

（五）基于服务类型特点，采取有效措施，提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性。

第二章  技术发展与治理

第五条  鼓励生成式人工智能技术在各行业、各领域的创新应用，生成积极健康、向上向善的优质内容，探索优化应用场景，构建应用生态体系。

支持行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等在生成式人工智能技术创新、数据资源建设、转化应用、风险防范等方面开展协作。

第六条  鼓励生成式人工智能算法、框架、芯片及配套软件平台等基础技术的自主创新，平等互利开展国际交流与合作，参与生成式人工智能相关国际规则制定。

推动生成式人工智能基础设施和公共训练数据资源平台建设。促进算力资源协同共享，提升算力资源利用效能。推动公共数据分类分级有序开放，扩展高质量的公共训练数据资源。鼓励采用安全可信的芯片、软件、工具、算力和数据资源。

第七条  生成式人工智能服务提供者（以下称提供者）应当依法开展预训练、优化训练等训练数据处理活动，遵守以下规定：

（一）使用具有合法来源的数据和基础模型；

（二）涉及知识产权的，不得侵害他人依法享有的知识产权；

（三）涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形；

（四）采取有效措施提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性；

（五）《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》等法律、行政法规的其他有关规定和有关主管部门的相关监管要求。

第八条  在生成式人工智能技术研发过程中进行数据标注的，提供者应当制定符合本办法要求的清晰、具体、可操作的标注规则；开展数据标注质量评估，抽样核验标注内容的准确性；对标注人员进行必要培训，提升尊法守法意识，监督指导标注人员规范开展标注工作。

第三章  服务规范

第九条  提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务。涉及个人信息的，依法承担个人信息处理者责任，履行个人信息保护义务。

提供者应当与注册其服务的生成式人工智能服务使用者（以下称使用者）签订服务协议，明确双方权利义务。

第十条  提供者应当明确并公开其服务的适用人群、场合、用途，指导使用者科学理性认识和依法使用生成式人工智能技术，采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务。

第十一条  提供者对使用者的输入信息和使用记录应当依法履行保护义务，不得收集非必要个人信息，不得非法留存能够识别使用者身份的输入信息和使用记录，不得非法向他人提供使用者的输入信息和使用记录。

提供者应当依法及时受理和处理个人关于查阅、复制、更正、补充、删除其个人信息等的请求。

第十二条  提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。

第十三条  提供者应当在其服务过程中，提供安全、稳定、持续的服务，保障用户正常使用。

第十四条  提供者发现违法内容的，应当及时采取停止生成、停止传输、消除等处置措施，采取模型优化训练等措施进行整改，并向有关主管部门报告。

提供者发现使用者利用生成式人工智能服务从事违法活动的，应当依法依约采取警示、限制功能、暂停或者终止向其提供服务等处置措施，保存有关记录，并向有关主管部门报告。

第十五条  提供者应当建立健全投诉、举报机制，设置便捷的投诉、举报入口，公布处理流程和反馈时限，及时受理、处理公众投诉举报并反馈处理结果。

第四章  监督检查和法律责任

第十六条  网信、发展改革、教育、科技、工业和信息化、公安、广播电视、新闻出版等部门，依据各自职责依法加强对生成式人工智能服务的管理。

国家有关主管部门针对生成式人工智能技术特点及其在有关行业和领域的服务应用，完善与创新发展相适应的科学监管方式，制定相应的分类分级监管规则或者指引。

第十七条  提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。

第十八条  使用者发现生成式人工智能服务不符合法律、行政法规和本办法规定的，有权向有关主管部门投诉、举报。

第十九条  有关主管部门依据职责对生成式人工智能服务开展监督检查，提供者应当依法予以配合，按要求对训练数据来源、规模、类型、标注规则、算法机制机理等予以說明，并提供必要的技术、数据等支持和协助。

参与生成式人工智能服务安全评估和监督检查的相关机构和人员对在履行职责中知悉的国家秘密、商业秘密、个人隐私和个人信息应当依法予以保密，不得泄露或者非法向他人提供。

第二十条  对来源于中华人民共和国境外向境内提供生成式人工智能服务不符合法律、行政法规和本办法规定的，国家网信部门应当通知有关机构采取技术措施和其他必要措施予以处置。

第二十一条  提供者违反本办法规定的，由有关主管部门依照《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《中华人民共和国科学技术进步法》等法律、行政法规的规定予以处罚；法律、行政法规没有规定的，由有关主管部门依据职责予以警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停提供相关服务。

构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。

第五章  附 则

第二十二条  本办法下列用语的含义是：

（一）生成式人工智能技术，是指具有文本、图片、音频、视频等内容生成能力的模型及相关技术。

（二）生成式人工智能服务提供者，是指利用生成式人工智能技术提供生成式人工智能服务（包括通过提供可编程接口等方式提供生成式人工智能服务）的组织、个人。

（三）生成式人工智能服务使用者，是指使用生成式人工智能服务生成内容的组织、个人。

第二十三条  法律、行政法规规定提供生成式人工智能服务应当取得相关行政许可的，提供者应当依法取得许可。

外商投资生成式人工智能服务，应当符合外商投资相关法律、行政法规的规定。

第二十四条  本办法自2023年8月15日起施行。