谁才能锁住AI的“潘多拉魔盒”？

格桑

近日，一对中国情侣突然火爆全球。照片里的一男一女，穿着夹克和牛仔裤，坐在凌乱的天台边缘，远处是阳光下显得有些失焦的高楼大厦。同样，这一对情侣，还以相似的打扮，出现在各种不同的场景，甚至不同的时代。

这是怎么回事？原来，这全都是假的。这对情侣在真实生活中并不存在，他们出生于一款软件——Midjourney的V5版本。如今，我们对AI绘图已经见怪不怪了，但是这张中国情侣的照片，其图像质量、纹理、动态范围、纵深感和细节之逼真，实在让人震撼。

与此同时，另一件网暴事件也同样撼动人心。近日，“广州三號线女子不雅照”的谣言在网上疯传。传播者煞有介事地称，“三号线有个美女，把衣服脱了”。然而，这个听上去言之凿凿，还有“事实”为证的图片，背后竟然是使用AI把女子的衣服P掉的不法行为。

这两个新闻在震撼人心的同时，也引发我们严肃的思考：AI能制造出以假乱真的图片，让我们对事情真伪的判断愈加困难，这场21世纪最深刻的“工业革命”，最终会将我们带向何方？

潘多拉的魔盒已经打开

3月18日，美国前总统特朗普在个人自媒体上发布预告称：“我也许在周二（3月21日）被捕。”很快，特朗普被捕的图片，迅速被大量转发。在纽约街上，他被特警反绑扭送，被警察压在地上；还有他穿囚服的和越狱的图片，这些都逼真到让人难以分辨真假。

这些有模有样的“新闻作品”，正是出自Midjourney。Midjourney是一个生成式AI，操作很简单，只需要通过Discord机器人发送消息，向它描述你想要的图片，即可生成。Midjourney于3月下旬迭代至V5版本，图片生产的能力和质量突飞猛进，同时也火出了圈，席卷国内外各大社交媒体。

跟其他AI绘图软件不同，Midjourney在生成一套充满噪点的粗糙蓝本后能多走一步，通过一层特殊处理，将噪点全部去掉，尤其是一直很难攻克的脸部轮廓和手部的清晰度，最终生成一张跟照片无异的图片。

特朗普被“制造”后，诸如美国前总统奥巴马和德国前总理默克尔在海边玩耍、罗马教皇方济各穿着时尚羽绒大衣在夜场当DJ等肆意消费各界名流的图片，也纷纷出炉，全球网友陷入一场Midjourney制造的狂欢。

确实，以假乱真的威力，被Midjourney发挥得淋漓尽致。同时，这场狂欢也引发了人们对其滥用的热议。人工智能ChatGPT的开发者OpenAI公司的行政总裁萨姆·阿特曼就曾表示：“即使我们不研发这样的技术，也会有比我们道德底线更低的人去研发。”对此，他直白地建议：“技术没有错，不让技术被滥用的唯一办法，就是限定社会使用它的边界和底线。”

无论如何，我们已经来到了一个AI生成信息泛滥的时代。不仅是Midjourney，DALL-E2、StableDiffusion等软件，也可以根据用户描述，几秒钟内生产出精美、逼真的图像，且风格多样。

在ChatGPT上，我们可以请AI模仿某个刊物的风格，写一篇文章。GPT-4还被整合进Office，现在，做PPT、写文案、生成可视化数据、邮件撰写和回复等任务，都可以下令让AI自动完成。

当然，视频生成也不在话下。比如，只要输入文字或者导入PPT，只要5分钟，Synthesia就可以帮你制作一段真人出镜的视频，省去了导演、演员、摄影乃至后期制作等一系列人力成本，以及拍摄设备和场地成本。

学生、律师、学术界等也开始使用生成式AI来辅助完成他们的本职工作。美国编剧协会还提议允许使用ChatGPT参与剧本创作。甚至如今，ChatGPT已经学会了即兴创作。

AI的无所不能，已经让许多从业者忧心忡忡。比如，对美术、广告创意行业的从业者来说，“很多人苦学半辈子的绘画或设计技能，可能一下子变得一钱不值。”因此，在社交平台上，出现了“NotoAIArts”（对人工智能艺术说不）这样一个标签。那些高调反对AI制图软件的艺术家认为，依赖大量艺术品原始数据进行人工智能制图，冒犯了人手艺术创作者的版权，算是一种高级抄袭，“这些软件完全建立在侵犯无数位艺术家、摄影师、插画师和其他拥有合法版权者的基础上，根本不算是‘创作过程”。

但毕竟，潘多拉的魔盒已经打开了。

人性才是科技之源

文章开头提到的这位广州女子，是典型的AI技术受害者。伪造内容所产生的谣言，可以很轻易地让一个普通人陷入百口莫辩的境地，也会让许多人受到蒙骗。

有一部分人正用一种低成本的方式，制造这些以假乱真的视频、图片和声音，挑战我们的认知底线。科技滥用、科技作恶的现象，让更多游走于灰色地带的问题越发尖锐。

那么，是不是对AI技术一封了事就好了？当然不是，技术没有错，错的是使用的人。

同样是AI技术，有人用它来作恶，有人却用它来行善。比如，2022年冬奥会上，一批来自天津理工大学的大学生志愿者，就曾给冬奥会AI手语数字人提供语料支持，让听障人士也可以“听见冬奥”；又比如，我国正在实行的AI寻人技术，就曾帮助很多被拐儿童寻亲成功，让许多离散多年的家庭重聚。

最让人感动的是，有人还利用AI技术“复活”逝者。安徽一个小伙就利用AI技术读取逝者生前的照片，将逝者在虚拟世界进行“复活”。“复活”之后，我们不仅可以看到逝者清晰的照片，还能看到他们眨眼、微笑、摆头的动作，许多家属看到后，都感动得泪流不止。

在这些人手里，AI技术并不是恶魔，相反，它是一个温暖的工具。这就是科技向善的魅力。

所有的新科技都具有两面性，这取决于什么人使用它们，以及如何使用。新科技放在好人手里，可能成为一个向善的工具；而在坏人手里，就可能成为害人的帮凶。

曾有人说：我们都是用着手提电脑的山顶洞人。这句话意为，社会和科技在不断进步，时代在发展，但人性没有变，而我们的人性是复杂的。从工业革命以来，“机械性”和“人性”之间的张力一直是人们思考的焦点。这种张力在今天更加激烈，在感受机械性带来的冲击的同时，我们也许应该先深入了解“人性”到底是什么东西。

AI或许会取代部分创意工作和艺术创作，但只要AI一天不代替人性，艺术就一天不会死亡，毕竟真正的创造力源自我们有趣的人性。同样，AI没有情感，也没有道德的约束；但人性中自有其闪光的部分，比如，善良、诚实、正直、谦逊、守信……将AI与我们人性中的闪光点结合起来，才是真正的科技进步。

著名物理学家霍金曾说：“强大人工智能的崛起，可能是人类遇到的最好的事情，但也可能是最坏的事情。”别把人性的恶甩锅给科技，唯有最大程度地抑制人性的恶，我们才能迎来科技进步的善。

（资料来源：“南风窗”“桌子的生活观”微信公众号，图坦图）