“深度伪造”音视频传播带来的法律风险及其规制

张秋芳

摘要：“深度伪造”音视频是基于深度学习的一种新型信息篡改与置换技术，是对视频、音频和其他内容进行数字化创作或修改的结果。“深度伪造”音视频通过网络社交媒体的涟漪效应迅速传播，导致法律风险逐渐增多。鉴于此，司法实践中应对深度伪造音视频肖像权侵权标准区别对待；明确制作者传播者的标识义务；采用过错推定原则追究音视频平台民事责任；政府采取多元化的事前事中监管措施，尽可能减少“深度伪造”音视频传播的负面效应，进而寻求技术革新与风险调控之间的最佳平衡。

关键词：“深度伪造”音视频 侵权认定 网络平台责任 监管义务

“深度伪造”音视频是在人工智能发展基础上衍生出来的一种合成技术，该技术使用一种深度学习的自动编码器，可以把一个人的面孔或语音转换成任意其他人的音视频，以迎合大众猎奇心理。深度伪造技术主要应用于娱乐视频的创作，从2015年仅在美国程序员行业之间流行的搞笑“换头”视频，发展到被无限制地应用于电影电视和社交娱乐网站。《深度合成应用十大趋势报告（2022）》显示，2021年深度合成音视频数量与2017年相比增长了10倍以上，其迭代更新的内容也已经达到了连专业人员都难以凭肉眼辨别真伪的程度。高度逼真的深度伪造音视频在社交网络传播中被滥用的可能性迅速提升，由此带来的法律风险也随之增多。面对颠覆性技术异化在网络空间带来的多维风险和挑战，法律理应进行积极应对。

一、深度伪造音视频及其网络传播的法律风险

深度伪造视频作为人工智能换脸技术的应用，其核心原理是利用生成对抗网络或者卷积神经网络等算法将某个视频中的图像替换为其他人物的面孔，并重新合成所谓的假视频。音频伪造是通过“语音克隆”技术，即说话者自适应和说话者编码的方式，将目标对象的语速、语调等声道信息表示成一个声音模型，对标准声道模型进行微调，以模拟出该说话人的声音。随着音频信息的训练样本数量增加，经过多轮的循环学习后，生成器生成的内容极为逼真。从AI换脸到系统地伪造语音、图像和视频，当虚拟化的个人形象在网络传播中被滥用，就可能涉及侵犯公民人格权、知识产权及社会秩序等。

（一）民事风险：侵犯肖像权、名誉权和知识产权

深度伪造音视频在未经许可的情况下，擅自利用某人的面部图像、视频和声音素材逼真地移植到他人身上，侵害了他人的人格权益如肖像权、声音权。现实中通过移花接木将一些明星的面孔替换到色情视频中的演员身上，这种贬损受害人的方式涉嫌侵犯名誉权。另外，利用深度伪造技术将电影、电视剧原素材视频进行歪曲和篡改，可能存在盗版侵权风险。依照知识产权法相关规定，视频作品的作者享有作品不受任意修改的权利，对影视剧中演员进行恶搞、篡改原影视剧作品，作品完整性将遭受侵害；若擅自将换脸后的影视片段在网络上传播，也可能涉嫌侵害著作权人信息网络传播权。

（二）刑事风险：妨害社会管理秩序

美国德克萨斯大学法学教授罗伯特·切斯尼认为，如果互联网上的资讯环境以有害的方式与个体的认识偏差发生交互碰撞，真相将在意识形态领域中慢慢消退，而深度伪造技术将使这个问题变得更严重。深度伪造音视频具有两种否认或歪曲事實的方法：一是欺骗者可以利用网络操纵和散布经加工后的声音和图像来蒙蔽大众；二是通过网络谴责真实的信息是“伪造”的，使公众意见产生偏差。若利用深度伪造音视频诱导公众生成错误的“民意”，将会影响公众、政府乃至司法机关对各类社会事件评估和判断的公正性，造成社会政治危机，妨害社会管理秩序。如果利用深度伪造音视频通过网络煽动民族分离，危及国家安全，则可能构成犯罪。

二、深度伪造音视频及其传播对现有法律的挑战

深度伪造技术的低门槛使侵权人的侵权成本降低，由此助长了深度伪造音视频侵权案件发生，尽管现有的法律规章在宏观方面对此予以规制，但深度伪造音视频侵权界限不明，再加上监管不到位，音视频平台责任划分模糊等问题都加剧了司法认定的难度。

（一）深度伪造音视频侵权认定困难

对于深度伪造音视频侵权行为，《民法典》第1019条予以积极回应，规定不得利用信息技术手段伪造等方式侵害他人的肖像权，但司法实践中就肖像权的可识别性判断、名誉权侵权认定和举证责任方面尚存难题。

1.肖像权侵权认定困难。传统的肖像权侵权行为要求公民肖像未经许可而被适用，且该肖像具有可识别性，其中未经许可使用的肖像和由该肖像识别的对象是一致的，而深度伪造音视频中二者恰恰相分离。如果侵权人只满足其中一个条件，能否认定为深度伪造音视频侵犯某人的肖像权？网络传播中深度伪造视频侵犯肖像权对象的随机性和多重性也使侵权认定更复杂。另外，鉴于侵犯肖像权可能导致被侵权人名誉受损，而现行法律关于深度伪造对名誉权侵权的界定尚不明确。《民法典》有关侵害名誉权的规定适用于文学艺术作品，并未将深度伪造产物纳入其中，如何判断深度伪造音视频的行为是否侵害名誉权也是司法认定的难点。

2.著作权侵权举证困难。深度伪造视频对原始视频进行换脸编辑、修改，可能侵害原作者的知识产权，权利人能够以著作权被侵害为由提起诉讼。然而，如何证明伪造视频在网络传播中对权利人造成的实际损失却相当困难，从而导致被侵权人难以得到充分的法律救济。另外，由于互联网天然具有不受地域限制的属性，深度伪造视频能在网络空间飞速传播，其造成的危害范围更广。面对网络中如此分散的、随机的海量“伪造”视频，著作权方的维权成本无疑不断增加。

（二）音视频平台法律责任难以认定

目前，法律在规制深度伪造技术行为时以过错责任原则追究民事责任容易纵容违法，同时，刑事定性过于严苛又难以收到应有的效果。

1.过错责任认定原则不利于保护被侵权人的权益。依照《网络信息内容生态管理规定》，网络平台服务商如果利用深度伪造音视频进行违法活动，或不履行相应监管义务，应承担民事过错责任。依照《民法典》关于网络侵权中的“避风港”规则和“红旗”规则，当平台服务商违反“通知-去掉”义务和“反通知”义务时都应该承担连带责任。这些规定都表明对平台服务商适用过错责任原则，但科技发展使网络平台对深度伪造音视频甄别检测能力逐步加强，如果依然适用传统民事过错责任原则不利于保护被侵权人的权益。司法实践中应依平台服务商在传播深度伪造音视频中所发挥的不同作用，使其有区别地承担相应的责任。

2.刑事责任追究过于严苛易流于形式。刑法规制网络平台传播深度伪造音视频的行为主要涉及拒不履行信息网络安全管理义务罪，即平台不履行信息网络安全管理义务，经监管部门责令采取改正措施而拒不改正的行为。但该罪在司法实践中的适用率较低，原因是该罪名中的前置性法律对于网络服务提供者的安全管理义务的规定并不具体，从而使司法实践中对于网络服务提供者的不作为行为是否构成犯罪出现模糊性判断。另外，该罪名中行政程序前置化的硬性规定会使刑事司法陷入另一种负面形态：由于事前行政程序正当性的判断对犯罪行为的定性具有决定性影响，但刑法又无法杜绝行政程序中各种形式的不作为主义，这将影响刑事司法的独立性和公平性，导致遭受“深度伪造”技术侵害的权利相关人得不到及时、充分的救济。

（三）行政监管：义务不明，效果不佳

深度伪造技术的核心依然是算法，由于深度伪造音视频的专业性和复杂性，用户很难了解算法技术所隐藏的风险。而《数据安全管理办法》对数据泄露的潜在风险并没有设置政府的算法监管职责，基于“深度伪造”音视频自身特征通过网络平台传播，其社会负面效应会迅速扩大，即使上述行政法规对深度伪造技术的规制发挥作用，但既有的社会影响已成定局，这种事后监督很难保障用户的合法权益。《电子商务法》虽然对网络平台的算法责任进行了规定，某种程度上说明我国立法在规制网络平台方面融入了风险预防，将对算法的监管予以提前，以预防和减少风险的发生。然而，由于相关法条笼统导致实践操作中执法部门对于未履行算法监管义务的网络平台也显得捉襟见肘。《网络音视频信息服务管理规定》（以下简称“规定”）中要求平台服务商对深度伪造音视频审查的义务，但并没有对具体如何审查做出详细的规定，因此难以收到预期的效果。

三、深度伪造视频及其传播风险的法律规制

针对上述法律规制深度伪造视频中存在的问题，应明确制作者、传播者的标识义务、强化音视频平台的审查义务并细化政府监管措施。

（一）深度伪造音视频民事侵权的认定

深度伪造音视频民事侵权主要围绕肖像权、名誉权以及著作权的认定，肖像权侵权的认定因公众人物和一般人物的肖像权可识别性判断标准不同而有所区别，名誉权侵权关键看是否对肖像权人实施侮辱诽谤行为；至于知识产权方面，则需要通过明确深度伪造音视频制作者、传播者的标识义务来加大著作权的保护力度。

1.区别肖像权可识别性的判断标准。基于上述深度伪造视频侵犯肖像权与传统肖像权侵权的差别，深度伪造视频侵权认定的难点是如何判断肖像权的可识别性。通常情况下，只要我们从深度伪造视频中可以辨别出某个人的形象，即当看到一段深度伪造视频，能联系某个特定自然人，就可以推定其满足了肖像权侵权的可识别性特征。深度伪造音视频为了增加网上的点击量，博人眼球，绝大多数牵涉到公众人物的肖像，伊万卡·特朗普、米歇尔·奥巴马等换脸视频都曾经在网络传播，都是深度伪造技术的受害者。我国亦有相似案例，利用深度偽造技术将杨幂的面孔换到94版《射雕英雄传》中演员朱茵身上。这种深度伪造行为不仅侵犯杨幂的肖像权，而且也侵犯受害人朱茵的肖像权。作为一线明星演员，她们的社会知名度相对较高，其肖像的可识别性非常明显。然而“深度伪造”应用APP并不需要很深的专业技术背景，一般人都可以利用该软件制作换脸视频，这就导致“换脸”的对象扩大到身边熟识的普通人。而普通人肖像权的可识别性的判断标准往往局限于其社交朋友圈，能否构成肖像权侵权需要由法官结合其具体的社交范围而确定。

名誉侵权主要指文学作品、行为语言或其他形式等对他人名誉造成负面影响的行为。尽管表面上看不包含深度伪造音视频的行为，但事实上可以将其作为其他形式的一种扩大解释。因此，深度伪造作为名誉侵权的行为方式之一是不违背立法原意的。依照《民法典》，判断某个行为是否构成名誉权侵权，关键是对肖像权人是否实施了侮辱或诽谤，是否对其名誉造成损害。司法实践中通常采取推定的方法，只要有证据证明传播中的深度伪造音视频具有侮辱、诽谤性，并为公众所知，基本就可以推定构成名誉侵权。美国知名网站Reddit将深度伪造色情视频中的角色替换为多位明星演员的面孔，这种以侮辱的方式贬损他人的声誉就可能构成名誉侵权。相反，在“杨幂换脸朱茵”的视频中，二者的社会评价并未因该视频的传播而降低，其名誉没有因此遭受损害，故不构成名誉权侵权。

2.明确规定制作者、传播者的标识义务。由于深度伪造视频的随机性、传播快、外溢的负面效应强等特点，视频内容的制作者应该预料到其行为可能带来的潜在社会风险，在开始利用深度伪造技术编辑视频之初，应征得原视频版权人和相关换脸视频所涉肖像权人的同意。鉴于深度伪造视频通常在网络中传播，对深度伪造音视频应通过嵌入数字水印、文字、语音标识等方式显示合成作品信息或在视频的显著位置标明“深度伪造”字样。网络平台也应保证视频在传播过程中的信息标志不能被去除，这种“自我披露”形式旨在使视频创作者及传播者对其制作、传播的音视频负责，并以此区分伪造视频和原视频，保护原视频作者的著作权。

3.强化被侵权人知悉权以便提供证据。与传统侵权行为不同，由于网络非直接接触性带来的信息不对称的特点，视频伪造者在受害人完全不知情的情况下可以制作虚假音视频，从而导致受害人无法及时确定侵权主体、收集证据来寻求法律救济。因此，明确深度伪造视频制作者的标识义务除了避免涉嫌著作权侵权的风险外，还在一定程度上能够防止他人对信息真实性产生错误认知的几率，保障受害人知情权和同意权，从而可以减少深度伪造音视频所带来的社会危害。司法实践中，只要受害人能够证明伪造视频未经权利人许可，即可确认其构成侵权，由此能够减轻受害人举证负担。

（二）明晰音视频平台义务及法律责任

为强化音视频平台的监管审查义务，应采用过错推定原则使平台承担连带责任。同时，建议消除拒不履行信息网络安全管理义务罪中行政程序的硬性条款，适当补充量刑情节。

1.平台方面：侵权责任认定采用推定过错责任原则。网络平台作为信息交互、数据存储和秩序维护的核心场所，既有可能使深度伪造技术滥用的危害结果持续恶化，也可以将危害程度遏制在萌芽状态，因此明确平台服务商的法律责任是规范深度伪造技术行之有效的方式之一。科技发展使网络平台已由传统中立者转变为集多功能为一体的复合型平台服务提供者，地位变化使其很多情况下不能再以“技术中立”为由规避法律责任。鉴于此，《规定》明确了网络音视频平台应采用技术鉴别方案核查视频内容的真伪，以便及时发现未标识的深度合成作品。该条款强化了音视频平台事前审查义务，排除“避风港原则”的适用，网络平台由“通知—删除”的被动监管处置模式，转为对深度伪造音视频进行内容和权限等方面的事先合法性审查。音视频平台通过开发鉴别伪造音视频的预警软件过滤删除伪造“作品”，有效阻断伪造音视频的网络传播。若音視频平台没有履行上述义务，就应与制作者承担连带侵权责任。同时，侵权认定应采取过错责任推定原则，将受害人的举证责任仅限于证明客观的因果关系，主观方面的举证责任则由音视频平台自己承担，当平台不能证明自身主观无过错时，则推定其构成民事侵权。

2.刑事方面：修改拒不履行信息网络安全管理义务罪。刑法在规制深度伪造技术方面应在遵循谦抑性原则的前提下修改拒不履行信息网络安全管理义务罪，防止行政程序上的问题影响刑事司法的独立。鉴于此，笔者建议该罪中增加网络用户相关主体的通知义务与监管部门责令改正这一行政前置程序平行的私立救济方式，以此赋予权利人更多选择权利救济的途径，从而消除行政程序的硬性限制。同时，由于网络运营商掌握海量个人生物识别信息数据，经常通过“流氓”用户协议轻而易举地永久获取个人信息，所以在司法程序中该罪应实行举证责任倒置才能更公平有效地保护公民权利。此外，司法解释可以对该罪量刑情节进行适当补充，通过富有弹性的量刑情节对打击犯罪和言论自由两种价值进行平衡，不仅可增加一些具体的加重情节进行警示，还可以通过增加减免情节鼓励网络运营方积极履行安全管理义务，避免盲目加重网络运营方的责任导致对用户言论自由的过度限制，这样既保障公民的信息安全，又有利于推动“深度伪造”技术良性发展。

（三）细化政府事前事中监管责任

政府应设置算法监督部门对音视频平台信息资源库运用的监管，通过行政约谈加强对音视频平台的事前事中监督。

1.明确政府的算法系统监管职责。人工智能技术算法本身是中立的，但技术毕竟由人操控，“技术中立”依然体现人的价值观念导向。因此，政府应设置算法监督部门，通过增设平台投诉功能对深度伪造技术所利用的资源库的来源和运用进行监管，指导音视频平台利用过滤技术优化信息推荐机制，对平台滥用个人生物信息的行为予以严厉打击。通过规范平台使用数据的行为，降低个人信息泄露的风险，从根源上减少深度伪造音视频。同时，政府应制定音视频平台行业标准，要求平台通过向监管部门自我申报等方式来实现监管。网信部门可以定期就网络平台和社交媒体对深度伪造技术的应用情况进行排查，将恶意泄露个人用户生物信息的平台拉入黑名单予以警示。

2.利用行政约谈进行事中监督。行政约谈作为一种准行政行为，是政府传递规制信息的一种柔性规制工具，其在规制网络信息方面发挥着举足轻重的作用。目前，行政约谈已经作为规制“深度伪造”技术行为的一种手段规制。《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》明确规定网络信息服务商对舆情影响大的新技术应用有进行安全评估的义务，并对结果负责。据此，音视频平台需要对深度伪造音视频的传播安全性进行评估，如果没有履行相应义务就会被政府约谈。快手、字节跳动等网络平台都曾因怠于履行安全评估义务而被国家网信办和公安部门约谈。政府部门通过事前事中监管，对音视频平台可能的侵权行为进行及时处置和有效应对。

四、结语

“深度伪造”音视频的影响逐渐扩大，网络传播中所伴随而生的一些技术风险自然无法避免，相关辅助检测技术作为对此的回应也在加速迭代，如采用溯源技术对音视频上的水印进行溯源防伪，通过神经网络检测法、眨眼频率分析法对换脸视频进行反向破解等。美国国防研究计划局的“视频鉴别”项目，推出全球首款“反换脸”人工智能刑侦工具。但技术层面的突破不能解决问题的根源，面对深度伪造音视频传播中的风险，更需要来自法律层面的强制力和政府、行业对音视频平台的有效监管。

作者系中原工学院法学院副教授、美国波士顿学院访问学者

参考文献

[1]姜瀛.人工智能“深度伪造”技术风险刑法规制的向度与限度[J].南京社会科学，2021（09）.

[2]深度合成应用趋势报告发布.专家：未来一切都可能被伪造[EB/OL].（2022-02-19）[2022-07-06].https：//new.qq.com/ omn/20220219/20220219A0A64M00.html.

[3]喻国明，梁爽.重构与挑战：“深度合成”的传播影响与技术反思[J].山西大学学报（哲学社会科学版），2021（02）.

[4]赵秉志，袁彬.《刑法修正案（十一）》理解与适用[M].北京：中国人民大学出版社，2021.

[5]黄旭东，林诗晴.深度伪造技术侵权的民事责任认定[EB/ OL].（2022-02-19）[2022-07-06].http：//www.mzyfz.com/ html/1022/2021-04-07/content-1473624.html.

[6]毛宁，杨会.深度伪造技术的监管困境及其法律应对[J].长白学刊，2021（05）.

[7]王禄生.论“深度伪造”智能技术的一体化规制[J].东方法学，2019（06）.

[8]熊波.网络服务提供者刑事责任“行政程序前置化”的消极性及其克服[J].政治与法律，2019（05）.

[9]章琦.深度伪造的刑法规制路径[J].中州大学学报，2022（01）.

[10]贾章范.《民法典》视野下深度伪造技术的法律风险与规则应对[J].东北农业大学学报（社会科学版），2021（01）.

[11]石巍，黄家星.“深度伪造”的风险与法律规制——兼论《民法典》相关规则适用[J].天津法学，2020（04）.

【编辑：王秦】