左荣昌,黄冬玲,余悦文
(1.2.华东交通大学理工学院 文法系,江西 南昌 330100;3.华东交通大学 人文学院,江西 南昌 330013)
人工智能换脸视觉识别类的人工智能技术使用机器学习算法来分析目标对象的照片,从而“习得”相关目标面部特征,并将目标对象的“面部”叠加到某一个视频中,足以产生以假乱真的效果。人工智能换脸是有效融合了视觉、声音等识别类的新型技术。人工智能换脸技术源于2019年国外Reddit网站上发生的换脸视频事件。一个名为“deep fakes”的用户率先将自己制作的换脸视频发布在Reddit网站上。其通过机器学习算法,将多位女明星的脸移接到色情电影演员身上,达到以假乱真的程度。虽然相关视频最终被删除,但该技术的代码随后被开源在全球流通,使得同类应用软件大量产生。
1.技术利用者有自身立场
人工智能技术给人类带来便利的同时也挑战人类社会秩序[1],人工智能换脸技术是否是中立的,关键在于技术的利用者是否中立。第一,人工智能换脸技术的优点。人工智能换脸技术具有娱乐功能和技术创新功能等,例如可创建出一些颇具讽刺性的滑稽视频或在一些影片中加入特效等[2]。第二,人工智能换脸的危害。人工智能换脸降低违法难度,很多人工智能换脸行为并非以娱乐为目的,还关涉人格尊严,包括人的名誉权、肖像权,譬如将他人的脸换到色情网站的图片、视频中,极易致人误认。此外,现行人工智能换脸软件的运行需要收集大量用户的数据,若该类应用的API接口、数据库被黑客攻击,会造成脸部数据泄露,侵害他人的隐私权;在刷脸支付、面容识别开机等场景中,易引发被人冒用及网络诈骗的担忧[3]。
2.人工智能换脸技术本身易被滥用
基于运营考察发现,人工智能换脸技术有着被滥用以创造流量和效益的危险。譬如,人工智能换脸软件ZAO的用户协议规定:一旦上传发布内容后即推定授权ZAO及相关公司、ZAO的所有用户在世界范畴享有永久免费、不可撤销、可转授权等诸多权利[4]。在此种具有滥用的倾向下,任何能够复制面部数据的个人或公司均可使用,这使得用户的面部数据安全受到极度威胁。
3.人工智能换脸技术大规模使用下被滥用的风险加剧
人工智能换脸软件中,用户只需一张正脸照即可将视频中的人脸替换成自己或他人的脸,并达到以假乱真的效果。在虚拟世界,利用美颜等相貌修正技术改变人的相貌,若仅为自我欣赏,那么此种换脸尚属个人自由,无可厚非[5]。若人工智能换脸技术被大规模使用,那么普通公民很容易掌握制作假照片和假视频的方法,这将给社会秩序带来严重的挑战,已超越人的自由范畴。
人格权主要为自然人和法人所固有而由法律直接赋予自然人或法人所享有的各种人身权利。它主要是一种非财产权,是一种支配权,具有排他效力。它是以人格法益为客体的绝对权,任何他人均不能阻碍其行使。其主要包含以下三类:第一,法定人格权,肖像、名誉、隐私、生命健康等权益;第二,发展中的具体人格权,身体权、著作人格权等;第三,争议中的若干人格权,信用权、追思权等。人工智能换脸技术若被不当利用,譬如个人的生物信息在深度换脸过程中被泄露,或被他人不当地收集,或在色情行业中被非法使用,将对人的名誉、肖像、隐私等权利造成严重的威胁。
1.坚持人工智能换脸戏仿行为有限的豁免论
人工智能换脸戏仿行为,即利用人工智能换脸软件进行讽刺模仿、滑稽恶搞等娱乐性的换脸行为。其形式各异,但创作原理单一,即通过换脸,把风格、个性、动作、表情、体态等各不相同的两个人的面貌在图片或视频中相互合成,通过互相比对或衬托,达到对前述人物某个或某些特征的强化或夸张效果。若该戏仿行为未超越必要限度,则应坚持对该行为的“违法性”豁免。首先,人工智能换脸戏仿行为的本质在于表达对原作的态度和观点。利用人工智能换脸的戏仿行为,不过是利用智能工具增加了戏仿效果,并不影响其性质。其次,人工智能换脸的戏仿行为映射着基于自由表达基础上的宪法权利,应平衡他人人格权保护与戏仿者言论自由之利益。故人工智能换脸戏仿行为在言论自由的法理基础上具备一定程度的规则豁免权,即该戏仿行为并不当然损害他人人格权,除非该戏仿行为本身突破戏仿界限。
2.反对固化互联网视野下的“隐私换便利”理论
“隐私换便利”是当前国内互联网业界的普遍现状,在社交平台和支付平台上,公民个人数据不可避免地会被暴露。这部分隐私不可避免地会被服务商收集,其合理性在于公民让渡部分隐私换取生活的便利[6]。但这并非意味着服务商可以通过公民的隐私信息进一步侵犯其合法权利。业界多持“存在即合理”哲学论,并在此基础上意图进一步将其固化并扩大化,但“隐私换便利”与其说是公平等价交换理论的体现,毋宁说是互联网发展过程中过渡性的产物。它本质上是用户与服务商间的信息不对称、力量不均衡致使用户无力保护个人信息的实际状况[7]。然而,在互联网已逐步做大做强的当下,“隐私换便利”理论正进一步弱化其必要性和正当性。在衡平利益时本应对用户的隐私权益逐渐倾斜,但多款人工智能换脸软件试图固化“隐私换便利”理论,并扩大化其正当性的基础,譬如人工智能换脸软件ZAO涉嫌过度收集、过度使用用户信息的霸王条款[8]。该条款虽最终被修改,但也反映了当前部分互联网平台基于自身的优势地位将“隐私换便利”付诸实践,对用户的个人信息进行侵犯的现象。
名誉权是民事主体依法具备的维护其所获得的公众客观评价并排斥他人侵害的权利,具体包含就名誉获益和排除侵害的权利。
1.人工智能换脸技术的“色情使用”
现行人工智能换脸技术完全可就某人的形象及言行捏造出假象,如实践中将某些名人的脸部头像叠加到某些色情视频中演员的身上,并对外公开传播,甚至进行商业牟利,致使该知名人士的名誉受损,造成受害人社会评价降低的情形[9]。
2.超过戏仿限度的侵权行为屡有发生
此外,现实中超过戏仿的限度导致名誉权受到侵害的现象屡有发生。在当下网络作品的制作中,为达到娱乐效果等而更换一些较有特点的脸,特别是公众人物的脸,很可能会构成侮辱、诽谤、侵犯他人名誉而为法律所禁止。
3.民众鉴定能力较弱扩大了侵权后果
现实中多数民众的鉴别能力较弱,在浏览、转发相关信息时更注重内容的轰动性和刺激性,而非可靠性和真实性。在“人工智能换脸”的技术背景下,每个公民都可能成为潜在的受害者,即便是做工、效果都很粗糙的照片或视频,都可能在互联网时代引发规模化的转发和讨论。若为公众人物,则更易引发大众的“关注度”及轰动效应,最终致其遭受极大的名誉侵害。
1.以营利为目的擅自使用他人肖像(1)限于自然人的面部特征。
肖像权是公民就自身肖像所享权益并禁止他人侵犯的权利,包含制作、使用及禁止他人损害、玷污的权利。
(1)营利的边界存在争议。除兜售换脸视频谋利等直接谋利的行为外,其他擅自使用其肖像制作视频、发布视频的行为,如使用者辩称仅出于个人兴趣,未有明显营利行为[10],则很难解释为营利行为。《民法通则》规定,公民享有肖像权,未经本人同意,不得以营利为目的使用公民的肖像,但在实践中难以得到有效维权。
(2)出售换脸视频非法牟利。国内外均出现人工智能换脸视频制作者未经肖像权所有者许可,制作明星换脸视频,出售给粉丝非法牟利的行为。
2.非以营利为目的擅自使用他人肖像
在《民法通则》框架下,除法律另有规定,非经他人授权,利用换脸技术对他人进行拍摄换脸、绘画、图像处理等行为只要没有以营利为目的则都不属于侵犯肖像权。当前,《民法典人格权编(草案)》就人工智能换脸等问题已作规定:若未经权利人同意,禁止制作、利用、公开他人肖像,法律另有规定的除外,禁止任何组织或个人丑化、污损,或用信息技术伪造等方式侵犯他人的肖像权。但在实践中有效维权的难度较大。
3.变相营利行为争议较大
若将明星或他人的头像通过人工智能换脸技术嫁接入色情电影或大尺度的恶意搞笑视频并传播的,除侵犯名誉权,还就是否侵犯他人肖像权存在争议。即便此行为为当事人带来了巨大的流量效应或增加了大量的粉丝数,也很难认定其属于以营利为目的的侵权。
人工智能换脸的技术模式引发他人人脸数据(即隐私权的客体)被侵害的担忧。隐私权是公民享有的私人生活安宁、私人信息秘密等受合法保护的人格权益。公民对自己的隐私公开与否、公开的程度,以及他人可否介入具有决定权。人工智能换脸在社交网络上流行的同时,也引发人们对隐私保护的担忧和质疑。
1.不合理收集用户面部数据等生物信息
当前,仍有诸多人工智能换脸软件不合理地收集他人数据,涉嫌侵害他人隐私权。譬如:人工智能换脸软件ZAO就涉嫌非法收集包含面部数据在内的用户的生物信息隐私权,引发舆论的广泛关注。ZAO软件要求用户须签署授权协议才能使用该软件,协议要求用户授予平台公司和相关方在“世界范畴内免费、非可撤销、永久、可转授权及再许可的权利”。该协议本质上通过契约的方式对隐私侵权进行豁免。
2.数据安全引发担忧
若被收集的用户的面部生物信息被滥用、泄露,抑或被黑客盗用,将严重侵害他人隐私权及其他人格利益。美国对于人脸数据的法律规定较为模糊。2019年,微软主动删除了其最大的公开人脸识别数据库,原因就是担心收集、泄露或遭网络攻击将侵犯公众隐私权、“数据权”。
3.现行立法滞后
由于国内个人信息保护法尚在制定,当前仅能依据《刑法》《民法通则》《民法总则》《网络安全法》等法律规范来保护个人的隐私、肖像、名誉等人格权益。这些法律皆为立法者在不同的立法层面所付出的努力,它们共同构成规范人工智能换脸技术的法律武器。但需要正视的是,在大数据时代,充分保护个人隐私的任务十分艰巨,加之相关的法律、法规众多、零散,导致法律适用上存在诸多困难,甚至引发法律适用上的冲突,加大了保护的难度。
1.民间成立反人工智能换脸联盟
基于对人格权存在极大隐患的担忧,美国部分企业和学界已成立反人工智能换脸联盟,呼吁抵制这种技术。因担心收集、泄露或遭网络攻击将侵犯公众隐私权、“生物信息数据权”等,2019年微软主动选择删除了其最大的公开人脸识别数据库。(2)王心馨.微软悄然删除世界上最大的公开人脸识别数据库[EB/OL].(2019-06-11)[2020-02-18].http://tech.163.com/19/0611/07/EHCFOJ0200097U7T.html.
2.政府临时封禁相关技术
2018年,为抵制“非自愿换脸情色视频”,Reddit上关于Deep-fakes的论坛在美国联邦政府施压下被封禁。Deep-fakes技术也在其国内被封禁,其GitHub开源代码亦被剔除。(3)张田勘.好玩的AI换脸,为何美国智库认定威胁国家安全?[EB/OL].(2019-09-02)[2020-02-18].https://www.sohu.com/a/338156562_114988.该做法得到各大社交平台的认可。
《2019年深度伪造报告法案》赋予美国国土安全部权限,由其负责主导协调司法部、联邦贸易委员会、中情局等组织,共同探究及起草关于人工智能换脸的技术风险和发展的报告,为后续立法夯实基础。(4)沈达.美国深度伪造 (Deepfake) 技术立法动向[EB/OL].(2019-07-09)[2020-02-20].https://www.secrss.com/articles/12113.
4.打击人工智能换脸下的“复仇色情”
美国弗吉尼亚州已出台相关监管法律,打击使用人工智能换脸技术产生和“复仇色情”相关的内容和行为。“复仇色情”是基于各种原因未经图片主人的同意,在互联网上公开女性的裸照,多数目的在于报复、羞辱女性,或制造心理伤害,且图片难以从网络上被有效剔除。弗吉尼亚州立法严禁使用通过人工智能换脸技术(包括Deep-fakes等技术)学习、制作或传播伪造的色情内容等。若有违反,可面临12个月监禁,罚金为2500美元,该法已于2019年7月1日实施。(5)美弗吉尼亚州“复仇色情”法生效:涵盖深度伪造[EB/OL].(2019-07-02)[2020-02-16].https://www.cnbeta.com/articles/tech/863103.htm.
欧盟认为当前人工智能换脸技术存在严重隐患须预先防范。
1.创设用户“被遗忘权”
欧盟在2018年出台并实施《通用数据保护条例》(GDPR),该条例规定公司在收集用户信息包括面部等生物特征数据前,必须征得个人同意,否则将被处以高达2000万欧元,或是其全球营业额的4%的罚金,以高者为准。该条例还规定了用户的“被遗忘权”,即权利方具有要求数据控制方清除关于其个人数据的权利,控制方有责任在法定情况下及时清除。该条例生效后,诸多相关互联网平台屏蔽了欧盟区,或仅对该区用户提供简单的纯文字版服务。(6)腾讯研究院.GDPR生效后的第一张人脸识别罚单[EB/OL].(2019-10-22)[2020-01-18].https://new.qq.com/omn/20191022/20191022A0KQR800.html.
2.出台“用户指南”
欧盟在2019年初出台了应对Deep-fakes(人工智能换脸软件的一种)的指南,以帮助公众分辨某条信息的来源,信息如何产生及信息是否可信。
综上所述,本文主要论述的是在“互联网+”背景下,对连锁企业经营管理创新模式的探索,互联网时代的到来,不仅带动国家的发展和进步,而且还实现了企业的全面更新,面对传统的连锁企业经营管理模式,在“互联网+”的带动下,实现了对传统经营和管理模式的改革,也让连锁企业在不断完善中获得了更大的发展前景。
当前我国对人工智能换脸技术的政策约束仍处于模糊阶段,法律监管明显不足,人工智能换脸技术的应用在我国尚处于灰色地带。规范人工智能换脸,国家法律监管不可缺位。尽管法律的制定出台具有一定的滞后性,但人工智能换脸技术所创建出的视频及其应用仍应由当前法律进行规制,被侵权人将有权获得相应的权利救济。
1.严厉打击人工智能换脸色情产物
(1)采用禁止令进行保护。人工智能换脸色情产物已涉嫌对他人进行侮辱诽谤,致受害人公众评价降低,侵害了他人名誉权。受害者有权要求获得相应的损害赔偿,若情况紧急或事态严重,还可向法院申请禁止令禁止人工智能换脸色情产物的进一步传播。
(2)追究当事人的制作、复制、出版、贩卖、传播淫秽物品牟利罪的法律责任。早期的PS图片等相关技术是将明星的头像置换到各种色情图片上牟利。人工智能换脸技术的发展使得实施这种侵权行为更为便捷,出售公众人物换脸的色情视频已成为黑色产业链。一方只需提供照片,制作方即可将之置换进色情视频中,每分钟视频的制作费用只需20~50元。将明星头像通过AI技术嫁接到色情电影里并上传到网络或是出售牟利的行为,不但破坏公序良俗,更扩大了淫秽视频的传播,若触犯《刑法》第363条,最高可判无期徒刑并处罚金。若不法分子并未牟利,只是购买色情视频后进行传播,情节严重的(如向他人传播300~600人次以上),则涉嫌传播淫秽物品罪,根据《刑法》第364条最高可处两年有期徒刑。
2.坚持戏仿有度
戏仿是基于对原作的观点或评论,它具有宪法上言论自由的法理基础所衍生的违法阻却性,原则上不予处罚。但戏仿并非无界限,利用人工智能换脸软件进行讽刺模仿、恶意搞笑等娱乐性的换脸行为,不得捏造并传播贬损他人人格、损害他人名誉的虚假事实。戏仿若超过该限度,则已冲破宪法中言论自由的范畴,属于丑化他人人格及损害他人名誉的行为。侵害者这些行为已超过戏仿行为本身的界限,涉嫌侵害他人名誉,构成“诽谤罪”,将要承担相应的刑事和民事责任。
3.提高民众掌握鉴别技术的能力
欲解决技术引发的社会问题,除却法律规制、道德调整,技术反制不失为一种良性办法[11]。目前,研究人工智能技术较早,影响较大,成果有较大突破的科研单位是美国加州大学伯克利分校和南加州大学。这两所大学的科研人员利用美国前总统奥巴马的现有视频,使用人工智能换脸技术来训练人工智能寻找奥巴马的“软性生物识别”标签,进而达到识别虚假视频的目的。伴随着人工智能换脸技术的不断“进化”,必将倒逼人工智能虚假视频识别技术的不断升级。在人工智能换脸造假与识别的技术对抗中,科研人员应在动态中不断实现技术升级,且这场技术对抗必将是长期的技术对抗。(7)人工智能虚假视频的生成与识别已成为一场长期的技术角力。目前,人工智能换脸虚假视频技术虽处于弱势,但其发展和改进速度迅猛,预计将会在较短时期内超越虚假视频识别技术,达到可成功欺骗目前的人工智能识别工具的程度。国内政府部门、科研院所、商业公司等主体应加强联合与协调,加快“图片/视频鉴证技术”的更新、迭代和推广,用以识别和对抗人工智能换脸技术,帮助民众有效识别虚假的人工智能换脸信息。
1.打击以营利为目的擅自利用他人肖像的行为
(1)明确以营利为目的的边界。短期内完善相关的民事司法解释,合理界定“以营利为目的”的范畴。实践中,部分法院的判决对“以营利为目的”的法律有扩张适用的嫌疑,缺少足够的说服力。当前迫切需要司法解释明确营利的边界。
(2)打击非法出售换脸视频谋利的行为。基于《民法通则》第100条:公民具有肖像权,未经本人同意,不得以营利为目的使用公民的肖像。此处营利是对他人肖像进行商业性利用,以谋求经济利益,致他人人格产生负面影响。在此法律语境下,出售换脸视频谋利行为,涉嫌侵犯肖像权,或须负法律责任[12]。
(3)打击以换脸视频变相营利的行为。在互联网环境下,对于流量变现及粉丝增加,难属非营利行为,此种变相营利既包括获取财产性的利益,还包括类似网络流量的变相型财产性利益的获取。若因制作、使用人工智能换脸带来了巨大的流量利益,在理论上涉嫌肖像侵权,或应负法律责任。
2.立法规制非以营利为目的擅自利用他人肖像的行为
应加快制定《民法典》。全国人大常委会2019年8月发布的《民法典(草案三审稿)》第799条:任何组织或个人禁止以丑化、污损,或使用信息技术手段伪造等方法侵犯他人肖像权。非经本人同意,禁止制作、使用、公开肖像权人的肖像,但法律另有规定的除外。第800条规定肖像的合理利用制度。综合第799条和第800条,未经本人同意且除却合理使用制度,即便无营利目的和主观恶意,亦构成肖像权侵权。《民法典(草案三审稿)》第803条:对自然人声音的保护,参照适用肖像权保护的有关规定。《民法典(草案三审稿))》表明,立法部门已注意到人工智能换脸技术迫切需要予以回应,并作出规制的尝试。若草案顺利通过,则意味着在我国使用人工智能换脸、换声、制造虚假视频的技术应用,将受到法律明确的管制。
1.强化持续监管与加强行业自律并举
(1)加强对用户面部数据的收集的持续监管。目前,规制以ZAO软件为代表的人工智能换脸科技公司最有效的方式是强有力的持续监管。(8)在我国行政机关介入调查后,ZAO软件所在公司主动取消过度收集和使用面部数据的用户协议条款。加强数据信息立法,强化国家网信办的数据监管职责及对数据监管、保护的领导协调作用。授予国家网信办广泛的数据保护、监管和执法权力,防止企业以协议自由为名,侵犯用户隐私权。
(2)加强行业自律。行业应严守法律底线,企业的营利性致其热衷于追求新技术、创新营利模式,但新技术和营利模式都应建立在遵守法律、不违背商业道德的基础上,任何企业都应严守法律底线。以ZAO软件引发的事件为契机,AI和互联网等应及时树立行业标杆,制定针对本行业的最低治理标准和公约,指引相关企业的合法性及合乎商业道德性审核。
2.提升数据隐私安全
(1)设立侵犯隐私信息惩罚赔偿机制。加快数据、信息立法,针对企业的数据库泄露等严重侵犯个人隐私的行为设立惩罚性赔偿制度。借鉴欧盟在2018年出台并已实施的《通用数据保护条例》(GDPR)第83条规定的分级罚款机制:第一档,1000万欧元(或上一年度全球营业收入的2%)的罚金;第二档,2000万欧元(或上一年度全球营业收入的4%)的罚金两个层次。在惩罚性赔偿的执行中,庭审若要证明大型跨国企业有罪需要进行大量的调查和证据分析,若仍无法对其进行定罪的,可以借鉴美国行政和解协议机制建立中国数据隐私执法行政和解协议机制。我国目前也已初步建立了认罪认罚制度,由检察官或市场监管机构的负责人完成调查,对于降低执法成本,规制不法行为意义重大。
(2)创设用户“被遗忘权”。权利人可要求数据控制方剔除关于其个人数据的权利,后者有责任在法定情形下及时剔除。欧盟在《通用数据保护条例》中规定,公司在收集用户包括面部等生物特征数据前,必须经得个人同意,否则将被面临巨额罚款。
3.强化法律治理
(1)加快立法。《民法典》第813条规定自然人的信息依法受保护。其中个人信息明确包括自然人生物识别信息。第814条规定收集、处理自然人个人信息,应遵循合法、正当、必要的原则,并应取得该自然人或其监护人同意,但是法律、行政法规另有规定的除外。此条还规定收集、处理自然人个人信息须符合公开收集、处理信息的规则,明确收集、处理信息的目的、方式和范围,不违反法律、行政法规的规定和双方的约定。依草案可知,人工智能换脸技术亦引发了我国立法者的高度重视,他们对此进行了积极回应。加快《民法典》和其他专项法律的制定是解决人工智能换脸引发隐私权危机的核心措施。
(2)整合现行法律。我国目前《民法典》《个人信息保护法》虽尚未出台,但应加强整合及适用现行《刑法》《民法通则》《民法总则》《网络安全法》等法律规范中的个人隐私保护条款作为过渡,避免人工智能换脸行为处于法外空间的不合理现象出现。法制部门也应加强普法宣传,提高群众的隐私法律意识,并宣传与之配套的技术规范,通过法律来引导新科技的使用方向和方法。
(3)加强司法解释。目前,国内《刑法》虽尚未有侵害隐私权的专门罪名,但对于利用人工智能换脸技术非法收集、使用人脸信息是否构成“侵犯公民个人信息罪”,还存在概念的边界障碍。加强司法解释,首先需要确定人脸信息属于自然人个人信息。广义而言,公民个人信息包含人脸信息;狭义而言,指公民个人的其他信息,如身份证号码、血型、年龄等信息。人脸信息具有一定的公开性,致其私密性较差,不宜认定为隐私,而正是认识上的差异致使《刑法》难以调整人工智能换脸侵害隐私权的行为,建议通过司法解释予以明确。此外,还应加快制定《数据安全法》和《个人信息保护法》,未来条件具备还应考虑进行AI专项的立法。
尽管目前人工智能换脸技术对公民人格权的侵害尚未出现规模化的实质危害,但国际上对于其潜在威胁的担忧并非“空穴来风”。人工智能换脸技术虽具有中立性,但该性质并非能保障技术利用者的中立性,加之其易被滥用的技术特性已足以引起社会的忧虑。一禁了之虽能治标,但有效的法律规制更能治本。故而,积极应对现代技术与法律的碰撞,有必要在了解人工智能换脸技术的基础上提出更具操作性的政策引导和法律治理措施,这样才能化解被动局面。引导科技的第一生产力推动社会良性发展,将是当下政府政策制定和立法部门加强立法的重点实践方向。