AI的恶搞

邱元阳

在这个看脸的时代，PS技术很受欢迎。有了美颜相机还不够，还希望能自动P图，于是各种最美证件照的APP和自動换装换背景的软件应运而生。PS很容易跟图像造假关联起来，可以让你生如夏花，也能让你生不如死。借助AI，轻则恶搞一下，重则可能触碰法律的底线。利用明星P图的“斗转星移”，大家已见多不怪，图片的说服力也大打折扣。而视频P图就不太容易了，某电视节目就出现过连夜一帧一帧视频P图的情形。但是现在，AI进化了……

2017年，美国社交新闻网站Reddit中一位名叫Deepfakes的用户，发布了一段《神奇女侠》盖尔·加朵的“不雅”视频，将盖尔·加朵的脸，嫁接到了一部成人电影女主角身上。这段恶搞视频以假乱真的程度引起轰动，始作俑者在GitHub上开源了DeepFake的代码，让更多开发者对其算法不断改进，之后，大量如法炮制的明星视频在网络上涌现，并开始贩卖。

DeepFake使用了生成式对抗网络学习算法，生成器用于生成假内容，然后询问检测器，判断内容是否真实，二者不断互动来提高生成的内容质量。利用足够完善的视频源，通过一定时间的机器学习和训练，就能生成非常逼真的假视频，甚至连说话时的口型都能对上。更多的人掌握了这一技术之后，有人已经开始将魔爪伸向普通人，利用能够获取到的某人的视频和照片，嫁接生成相应的假视频。不法人员利用这些视频，不仅可以向特定的人出售牟利，还能对主人公进行勒索，或者实施诈骗。在近年来的电信诈骗中，就已经有利用AI换脸视频获得被害人信任来实施诈骗的。设想一下，技术高超者如果同时利用AI合成逼真的人声（斯坦福大学正在开发能学习人讲话语气和习惯的算法Idiap），这种高科技的诈骗和勒索就更难识别了。

其实视频换脸的技术由来已久。《速度与激情7》的主演保罗·沃克，在电影没杀青之前意外去世，为了让电影顺利拍完，剧组只好采用换脸技术，让保罗得以贯穿全剧。

2016年，就已经兴起一种换脸算法Face2Face，但是当时的换脸技术主要还只是表现在表情和口型的处理上，比较经典的就是普京的讲话视频，虽然有些假，但已经很让人惊奇了，而此后流传的特朗普和蓬佩奥倾情演唱《我爱你，中国》的恶搞视频，无论面部表情、口型还是声音，都令人拍案叫绝。而让爱因斯坦起死回生、在1950年的高清彩色视频中发表对2019年新冠肺炎的讲话，更是精细得无与伦比。

当然，这些恶搞不是AI算法的错。但是有些AI程序，还真是为恶搞而生。2019年6月，程序员Alberto开发了一款名为DeepNude的应用，用户只需要上传一张女性照片，软件就能借助神经网络技术自动“脱掉”主角身上的衣服，生成裸体照片。这个被称为“AI一键脱衣”的APP在网上迅速走红，当然，它所造成的负面效应也使其很快被封杀。

相反，正常的视频AI工具却没有这样的热度。例如，能让人物从墙上画面中走下来的VR程序Photo Wake-up，能直接控制视频中的主角动作进行游戏活动的Vid2Game，却并没有多少人知晓。

流氓不可怕，就怕流氓有技术。技术无罪，有罪的是滥用技术的人。但是，如果AI真的耍流氓呢？细思恐极。

（说明：文中涉及一些应用程序的名称，但我觉得不会因此起到教唆违法犯罪的作用。一方面，这些信息都是公开的，很容易找到;另一方面，有些程序已经不再提供下载，或者使用门槛很高。例如，DeepNude等早已下架，DeepFake类的，连界面都没有，相应的训练和生成操作需要在命令行下完成，还需要有编程基础，普通用户很难利用上。）