可能被AI颠覆的下一个产业

路通

不久前，美国科罗拉多州博览会艺术比赛上，一张夺得冠军大奖的绘画作品，引起了不小的争议。因为，这幅名为《太空歌剧院》的作品，是艺术家使用AI技术生成的。虽然奖金只有区区几百美元，但对于真正“作画”的參赛者来说，没有生命的AI，创作的作品超过了作为人类的自己，确实“伤害不大，侮辱极强”。

这幅由AI技术“创作”的作品，名字就叫“太空歌剧院”。它在2022年8月底美国科罗拉多州博览会艺术比赛上，获得了“数字艺术/数字修饰照片”一等奖。

其实，随着DALL-E，Imagen，Stable Diffusion等开源AI模型的出现，任何人，只要会打字，简单地输入几个单词，就能生成各种风格的绘图画面———不是简单的线条，而是真正“作品”级别的画面。

AI给了你创作的“眼睛”，但总有人要用它来寻找一些更刺激的东西，最近，一个名为pornpen.ai的工具在Reddit上走红。顾名思义，它真的是一个“涩图”界的“神笔马良”———用户都不需要输入单词，只需要选择几个标签，就可以出现一张“大尺度图片”。

从Deepfake到pornpen，AI生成的成人内容已经逐渐“走上台面”，有一些网页甚至开始获得上亿浏览，尝试与传统的成人视频网站和论坛一争高下。未来，AI生成内容会淘汰这些目前还没有任何限制的“限制级内容”吗？

说起pornpen的诞生，Stable Diffusion（Stability AI最近发布的文字转图片生成模型）模型功不可没。Stable Diffusion完全免费开源，它的代码都在GitHub上公开，在遵循原项目采用的CreativeML Open RAIL-M许可证的前提下，任何人都可以拷贝使用，生成任何他们想要的图像，甚至调整系统开发独立的应用或服务。

不可避免，很多用户用它制作Deepfake、暴力、虚假新闻图片等“非主流”内容，从hentai，到电脑生成的名人裸照，再到不存在的人的裸照。

此外，Stable Diffusion的训练数据，来自大规模AI开放网络项目LAION旗下的一个注重“美感”的数据子集LAIONAesthetics。这是一个开源的250 TB数据集，其中包含从互联网上抓取的近59亿张图像。

这些图像中有相对较少的NSFW（Not Safe For Work）图像，但可能正是这个数据集的高视觉质量，使Stable Diffusion特别适合制作成人图片，尤其是名人明星的Deepfake图片。

于是，Stable Diffusion发布不久，pornpen.ai———首批高仿真AI涩图网站之一上线了。以Stable Diffusion模型作为主要支持系统，pornpen.ai的操作界面十分简洁，以菜单栏的形式呈现，用户通过选择一组标签，就可以自主定制生成照片。

pornpen.ai的定制标签涵盖6个维度，分别是风格基调、标签、种族、风格、场景、角度。用户拥有极高的自主权，可以随心组合标签，全方位、多角度地捕捉模型，还可以改变生成照片的风格。值得一提的是，pornpen.ai的创作者明确地删除了pornpen.ai指定自定义文本的功能，以避免产生“有害图像”，正因此，大多时候pornpen.ai生成的图片看起来是令人信服的。但有时，当提示比较模糊，涉及到刻板印象或系统不熟悉的主题时，它生成的是外形奇怪的NSFW图片，通常有多余的四肢，器官在不寻常的地方，以及扭曲的肌肉，看起来令人不安。

pornpen.ai有时还会在没有人的情况下自动生成图像，这可能是系统无法理解提示符造成的。当然，pornpen.ai的算法还会被进一步微调，新的标签将被添加，它将变得更加智能。

随着网友操作日益娴熟，用pornpen.ai生成的图片在各国论坛上不断蔓延。比如，在Reddit上，人们开启了r/pornpen的板块，目前共约1.7万人参与讨论，交流分享自己总结的一系列适合创作图片的标签。

和不少同类网站相比，已经有不少专注于AI生成成人内容的网站，做得相当成功。根据Sensity的数据显示，2018年排名前四的Deepfaked网站的浏览量超过1.34亿次。

还有网站自2022年年初以来已经积累了超过3 800万的点击量。甚至有人将其AI能力变成API接口，开放给合作伙伴，由于搞得太大，以至于加密货币交易所下达命令断掉了它的支付入口。AI生成类成人内容的火爆也不难理解，调查显示，目前在欧美成人网站，用户对AI生成的成人内容主要是持有好奇态度。

正如一位Reddit用户所言：“体验AI产生的NSFW内容是一种新奇体验，知道它是由机器人生成的，看它的时候，会带有一种原始的好奇心。”

新技术开启了“内容的新供给”，但其实它也隐藏了很多问题，而其中不少踩中了道德，乃至法律红线，例如：隐私侵犯。早期pornpen.ai用明星Deepfake合成类数据做训练，以至于最开始时候，pornpen网页还有明星的标签，后来很快就被去掉了。同时，模型的训练数据集还可能包括那些不同意自己的图像被用于此类培训的人。

在现有的盈利性网站上，如OnlyFans和ManyVids，创作者必须验证年龄和身份，这样公司才知道他们是自愿的成年人。但人工智能生成的模特无法做到这一点，因为他们不是真实的。例如，2020年，研究人员发现了一个Telegram机器人，它生成了超过10万名女性的深度伪造图像，其中包括未成年人，这对于社会伦理道德无疑是个巨大的挑战。

不可否认，pornpen.ai引发了一系列道德问题，比如按钮的选择和默认选项都复制了一种非常特别的男性凝视。在pornpen.ai网页上，只有默认输出女性照片一个选择，并没有同样的男性照片。其中一个原因可能是，用于训练的数据集中女性的图片更多，这无疑形成了可怕的“偏见”。

有人认为，AI成人内容的火爆，可能会导致真人成人内容产业创造者“失业”。不过，目前从业者认为“这些内容很有趣”，真的要取代真人演员，可能还需要很长时间。对于成人内容表演者来说，更担心的是如果AI类成人内容过于火爆，可能会引来更严厉的网络监管，殃及自己的事业。

目前，AI产出的成人内容仍处于法律的灰色地带，这类内容的生产和传播都没得到有效的法律制约。Deepfake产生的成人内容几乎总是出于恶意，通常在未经当事人同意的情况下被冲洗出来的，用来威胁和骚扰人们。这种使用算法生成的图像对当事人的名誉权、甚至人权都会带来巨大的伤害。但是，目前还没有合适的法律来限制这类AI产出的内容。在美国，只有弗吉尼亚和加州，有针对Deepfake的内容的限制，但这些规定往往执行不力。

此外，根据《通信规范法（Communications Decency Act）》的第230条，科技平台对几乎所有用户生成的内容都享有豁免权。

这意味着社交媒体通常不需要对平台上传播的AI内容（无论真假）承担法律责任，因此，常常对平台上相关的投诉不予理睬，无形中助长了AI成人内容的传播。

成人内容是推动互联网发展的一个重要动力，流媒体、论坛甚至电子支付体系，都曾受惠于此。现在，反过来，技术尤其是AI技术的发展，也对这个古老的产业产生了“反哺”。

以pornpen.ai的内容来说，AI文字生成图片技术被应用于色情产业几乎是一个必然的过程。

一方面，该产业一直都是最新科学技术应用的“急先锋”；另一方面，AI在图像内容生成技术的发展正好迎来了突破临界点。

但是这样的“进步”，仍然需要足够的限制，可能是法律的，如针对AI模型刑事立法，健全法律体系等；也可能是来自行业自发的，如成立协会，制定业界规范等。

毕竟，自由和限制是相辅相成的，无限制的自由，只会带来混乱，甚至毁灭。