AI换脸技术有多恐怖

常莽

最近，AI换脸应用ZAO的出现，引起了轩然大波。ZAO的最大卖点在于可以将视频中的人脸，通过AI算法PS成另一个人的相貌。只需要把照片上传到ZAO当中，就能够将视频P成相应的脸，可谓是操作简单、效果明了。也因为如此，ZAO一出现就引来了人们的激烈讨论，毕竟谁也保不准自己会不会被P进小电影中，变成奇怪剧情的主人公。

虽然ZAO再次点燃了AI换脸技术的讨论热潮，但是AI换脸引发争议，已经不是什么新鲜事。早在ZAO上架之前，Deep Fakes就已经将AI换脸的恐怖之处刻入人心。为何AI换脸会引起如此程度的惊恐？AI换脸的风行意味着什么？今天就一起来谈谈相关话题吧。

AI换脸技术是如何走向泛滥的

ZAO将AI换脸技术再次放置到了聚光灯下，但这并非是AI换脸首次走上历史舞台。早在2017年底，国外论坛就已经出现了ID为“deepfakes”的用户，发布了通过机器学习来更换视频人脸的AI算法。不过当时该技术的使用门槛还比较高，需要编译代码等操作；而在数个月后，使用管理DeepFakes技术的简易版AI换脸工具FakeApp出现了，就算是普通用户，也能够顺利操作。

FakeApp令AI换脸的使用门槛大幅下降，不过它还是需要一定的准备工作。首先它需要安装额外的运行库，其次它对硬件有需求，需要高性能显卡参与运算，其中对N卡的兼容最好。而FakeApp还需要较新版的Windows 10系统才可以安装，运行起来还得等待一段时间———过程越久效果越好，毕竟机器学习还是需要足够的时长和样本，最后，FakeApp就可以生成几乎以假乱真的AI换脸视频了。

FakeApp的出现令AI换脸视频一度犹如黄河泛滥一发不可收拾，不少名人都深受其害。例如大名鼎鼎的“神奇女郎”，就莫名其妙成为了色情片里的主演；又例如国内很多人都印象深刻的杨幂版小龙女，令人惊叹演员换脸的奇效。

AI换脸目前已经在网络上泛滥到怎样的一种程度呢？我们从几个细节就可以看到。首先是AI换脸色情视频的广为流传，俗语云，色情是互联网的第一生产力，AI换脸技术的出现，令色情内容的制造者们迎来了狂欢。尽管各网站可能是出于法律风险方面的考虑，纷纷声明禁止该类换脸视频的上传，但止不住人多势众，时至今日仍可在这些网站上找到換脸的视频。

而除了色情网站外，网络的多个角落也蔓延着AI换脸视频。例如在国内的视频站，只要用“AI换脸”为关键词搜索，轻松就能找到大量使用DeepFakes技术生成的视频。而如果想要制造AI换脸视频，并不需要钻研代码，甚至不需要安装FakeApp。在淘宝上，就有很多商家提供AI换脸视频制作服务，只需要几块钱或十几块钱，就能够定制一部换脸视频。

简而言之，DeepFakes技术的出现为AI换脸视频的流行打下了基础，而FakeApp的诞生则让AI换脸视频成为了真正意义上的爆款。而现在，ZAO的出现，极有可能将AI换脸视频的风险推到一个新的高度。

和“前辈们”相比，ZAO的门槛进一步降低。首先，ZAO不需要复杂的配置，使用手机APP即可开始制作；其次，它对硬件没有特别大的需求，ZAO将视频制作的运算放到了服务器上，用户不需要准备高性能的硬件；最后，它的生成速度飞快，视频上传后很快就得出结果。

在ZAO当中，AI换脸视频即点即成，制作已然不存在门槛。也正因如此，在AI换脸视频已经泛滥的现状下，ZAO的降临意味着对这股潮流进一步推波助澜，令人平添了几份恐慌。

AI换脸技术会带来怎样的问题

抛开风险来说，AI换脸视频还是非常有趣的。例如用在电影上，就等于换了个演员，想要体验颜值高但演技不在线的演员真正会演戏的样子，可能还真得靠这一技术；又例如把自己或者朋友熟人的脸换到某个视频上，在私密间分享，也不失为一种有趣的玩笑———这可比P表情包欢乐多了。

然而这一切，都是忽视风险后的论调，而凭心而论的话，制作AI换脸视频是没办法不考虑风险的。

首先这对于信息的真实性形成严峻的挑战。PS发明后，有图不再有真相；而AI视频换脸技术的出现，则让视频也开始变得镜花水月了起来———人们普遍认为视频可以担当“实锤”，而现在这把实锤竟可凭空制造，对于本来就假消息满天飞的互联网来说，这无疑会造成进一步的信任崩坏。

其次，这会大大增加侵犯肖像权的可能，正如文章一开头所说，没人愿意自己的脸庞出现在莫名其妙的视频当中。和多用途的PS等修图软件不同，AI换脸技术的功能只有一个，那就是换脸，从这个角度来说它的存在天然就是一种对肖像权的威胁。而网站之所以对AI换脸视频如临大敌，肖像权风险就是一大原因。

再者，ZAO这样的工具还徒增了信息安全的相关隐患。这主要涉及两方面。一是ZAO这样的在线处理机制，流程上必须上传相应肖像，甚至还要填写详细的实名制信息，而服务商是否能妥善保管相关方面信息是个未知数，使用ZAO只是为了娱乐，付出这样的风险代价似乎得不偿失；二是类似技术生成的伪视频，是否会成为一把破解人脸识别大门的钥匙？尽管现在生成的视频有一定局限性，但从机理上来看，假视频的确比假照片更具这方面的可能。

换言之，AI换脸技术或许玩着有趣，然而真正的问题在于，这样风险百出的技术我们到底玩不玩得起？这非常值得大家深思。

AI换脸技术可能仅仅只是个开始

由于上述提到的风险，AI换脸技术已经在相当程度上引起恐慌。也难怪，当得知该技术能够接近完美捏造假视频的时候，担心自己的言行是否会被虚构，是很正常的自然反应。然而，在警惕AI换脸技术的同时，我们或许还需要意识到，AI技术仍在不断发展，目前的AI换脸视频或许远非终点。

当前的AI换脸技术已经达到了惊人的水准，但目前大多数的AI换脸仍只涉及视觉。然而事情正在发生变化———AI换脸已经成为了现实，而AI变声也开始崭露头角。谷歌之前曾经研究过AI变声的相应技术，但并没有大规模实装；而国内厂商则更加激进，不少研究输入法的厂商都已经尝试在产品当中推广AI变声功能。在一些输入法当中，现在就可以找到AI变声的开关，输入一段语音后，等待片刻即可生成特定音调音色的语音，拟真度相当出色。

当然，此类产品限定了AI变声的模版，但声音的自由变换、修改相对于我们来说也并不是那么遥远。例如“Modulate.ai”这个网站，就提供了AI变声服务，甚至连奥巴马的声音都能完美模仿。

Modulate.ai所使用的变声技术和DeepFakes类似，都使用了神经网络机器学习算法来训练模型，所拟真出来的声音真假难辨。另外还有“Lyrebird.ai”这个网站，也提供了类似的服务，而且所提供的模仿对象更加丰富，据悉多达上千种，包括特朗普、奥巴马和克林顿等名人的声音都可以被模仿。

可见，AI变声技术已经逐渐成熟，它和AI换脸技术结合后，会形成威力无穷的组合拳。在之前，就有人结合AI换脸、AI变声，伪造一段虚假的奥巴马演讲视频。视频当中，奥巴马指斥特朗普是个“笨蛋”，令人震惊。这段视频在国外引起了轰动，如果没有特别标注，恐怕很多人会信以为真。

而這仍不是AI换脸的终点。目前的AI换脸、变声仍需要一段时间的运算，难以和真人互动。而当AI换脸、变声可以实时生效时，恐怕连视频电话的真伪都难以分辨，而人脸识别也将面临着严峻挑战。到了这步，AI换脸、变声技术极可能成为犯罪分子的诈骗、勒索利器。

通过大数据和机器学习，AI将特定信息解构后，重构成为难以分辨的虚假信息，当相应的技术成熟后，虚假信息可以源源不断地生成，如此高质量的虚假信息能够大批量生产，在历史上可谓是前所未有。

然而尽管人们对此感到恐慌，但相应的应用、开发却并没有停下脚步。ZAO自不必说，直接把这样高风险的技术做成了娱乐APP，令人们前所未有近距离接触到了AI构建的虚假视频；而行业中的巨头也视此为机遇，苹果、谷歌、Facebook和微软等“大佬”都爆出过利用用户数据训练语音、语言模型的新闻，而近年也可以看到AI自动应答的逻辑性、自动生成语音的拟真度大幅上涨，用AI构建一个完全虚拟的人格，似乎也为期不远。

在未来，我们或许不仅可以看到逼真的AI换脸、AI变声，甚至可能连应答都由AI来完成。当AI能自动生成以假乱真的面容、声音乃至语言的时候，互联网乃至整个社会该如何应对这种身份信息的混乱？现在仍没有一个好的应对方案。

就在不久前，笔者的担心成真了。《华尔街日报》的最新报道显示，2019年3月份，有犯罪分子使用AI技术成功模仿了英国某能源公司在德国母公司CEO的声音，诈骗了220 000欧元（约1 730 806人民币）。仅仅依靠AI变声就能酿造出一宗如此重大的诈骗案，AI骗术的威力可见一斑。

当诈骗短信进化为AI假视频、还能够自动应答的时候，我们是否还有方法防范？对于AI拟真技术的运用，人们应该更加谨慎，这不是一项可以随便曝光于公众视野的技术。