“仅需一张照片,出演天下好戏”,凭借这句广告语瞬间走红网络的AI换脸软件“ZAO”获得了海量关注。在大众以娱乐至上的今天,新颖出奇的东西总是备受欢迎。简便的操作,有趣的玩法,你不仅可以和喜爱的明星合影,甚至还可以和他演一出戏,这种似病毒式传播的态势,在热闹的背后引发了人们的忧虑。曾经人们开玩笑说:“你没钱可以刷脸嘛!”而如今,这个玩笑变成了现实。那么,脸就不仅仅是人们的一个器官,还是“银行卡”和“钱包”。
曾几何时,人们寄望于此为社会增添便利。但2017年12月,美国某论坛上的一位用户打破了这种想象。他发布的“deepfake”程序,借助深度学习算法,将色情内容中的演员替换成好莱坞影星。之后“AI换脸”又替很多人伪造了奥巴马、扎克伯格的视频,名人效应让不少“吃瓜群众”接受了虚假视频里的观点。在国内也曾有程序员将明星脸嫁接到其他视频上,造成不小的风波。更有甚者,将人脸替换在一些影音视频图片上,对当事人造成了肖像权和名誉权的侵犯。如今“ZAO”的出现无疑进一步拉低了技术作假的门槛。
随着“ZAO”在其软件协议中表示,“获得用户人脸照片完全免费、不可撤销、永久、可转授权和可再许可的权利”。沉浸在娱乐中的大众们开始仔细琢磨了,一种不安全感包裹着他们,肖像权这样被人掌控在手里,好似财产都被人托管了一样,颇有一种“人为刀俎我为鱼肉”的感觉。
尽管,事发后有业内人士回应称,刷脸支付采用的是3D人脸识别技术,识别前会通过软硬件结合进行检测,能够判断出人脸是否由照片、视频或模拟软件生成。但前不久网上疯传3D打印制作蜡像人头通过支付宝人脸识别系统,成功够买火车票的视频,令人依旧对人脸识别软件的滥用表示担忧。
新技术的出现代表着科技的进步,但它应当扮演怎样的角色而存在,才能够发挥它最大的价值?不能因为它存在被滥用的可能性就将其完全禁止或无端谴责,正如网络安全公司Darktrace全球威胁分析部门主管麦克·贝克所说,“监管者应该公开回答的是公众生物指征的数据是如何被收集以及如何被机构处理的问题。保证数据收集时的安全与第一时间对技术应用软件进行监管同样重要。”
清晰的监管架构能够帮助公众理解技术给人们带来的好处,AI换脸软件应当去娱乐化,比如它在防止贩卖人口并找到失联儿童方面做出一些贡献。技术可以说是一把“双刃剑”。近年來由于深度学习技术的普及,面部识别的准确率得到了显著的改善,但如何让技术的进步在监管的框架下服务好人类和社会经济的发展,这是决策者需要思考的。