张贝
Icons8是一家阿根廷设计公司,出售数字插图和图片,该公司上个月启动了其在线业务Generated.photos,提供“使用AI按需提供的无忧多样化模型”。该公司的创始人伊万·布劳恩说,Icons8首先通过在世界各地的工作室拍摄成千上万张约70个模型的照片来创造自己的面孔。
该网站允许任何人根据调节诸如年龄(从“婴儿”到“老人”),种族(包括“白人”、“拉丁美洲人”,“亚洲”和“黑人”)和情感(“欢乐”、“中性”)的假照片,甚至修改眼睛颜色和头发长度。公司表示,其面部表情对于需要整理宣传材料的客户可能有用,他们可以通过在项目中加入“许多不同种族背景”来“增加多样性”和“减少偏见”。
通过随意地提高多样性的尝试目前也有一些不足,像威斯康星大学麦迪逊分校在大学本科生手册上所做的那样,将一个黑人男子“Photoshop”装进了一个白种人的人群中,或者使妇女成为男子集体照的一员;另外,婴儿设计中唯一可用的肤色是白色。
AI专家担心,这些科技可能让骗子更加猖狂,他们可以利用这些照片来构建虚构的在线角色,掩盖招聘中的偏见并破坏为行业带来多样性的努力。这种软件现在具有商业模式的事实还可能通过虚假信息宣传活动,“深造”视频和其他欺骗性技术,加深Intemet上网友的信任度。
布劳恩的同事们(在美国、意大利、以色列、俄罗斯和乌克兰各地进行远程工作)随后花费了几个月的时间来准备数据库,清理图像,标记数据并按照计算机的精确规格组织照片。
在准备好这些图像之后,工程师随后使用称为StyleGAN的AI系统输出大量新照片,每天生成100万张图像。布劳恩说,该公司在成立的第一周就与三位客户签了约:一所美国大学、一个约会应用和一家人力资源规划公司。布劳恩拒绝透露客户姓名。客户每月最多可以下载10000张照片,起价为100美元。
加州大学洛杉矶分校法学院的人工智能、法律和政策研究员Elana Zeide说:“我们习惯于使用感官来了解世界……但是,对于如何检测网上图片的真实和非真实,没有任何办法,辨别起来太累了。”
除了Icons8.另一家初创企业Rosebud AI也千着同样的事情,这家公司总部位于旧金山,它已经为客户提供了25000张“不同种族的AI定制模型”照片。公司创始人丽莎说她首先将照片推销给小企业在在线购物网站上应用,后者无需昂贵的摄影费用就可以应用这些时尚的模特儿。
丽莎公司的原始图像来自免费和未经版权保护的照片在线数据库,该系统允许客户轻松地将不同的面孔叠加在变化的身体上。她将系统改进为接近摄影师拍摄水准的强大工具,使他们可以轻松地根据观看者的国籍或种族来定制时装拍摄的模型。她说:“面部表情是当下技术可以解决的痛点。”
该系统目前只提供给丽莎有限的客户群,公司会进行单独评估,以期阻止不良行为者,据称等待名单上有大约2000个客户。
两家公司都依靠AI突破,即“对抗性通用网络”,该技术使用决斗算法来完善他们的工作:创建者系统输出新图像,然后评论家系统将其与原始图像进行比较,以告知创建者的下一个设计,每次迭代都倾向于获得比上一次更好的副本。
最近几个月该软件已成为AI研究人员最趋之若鹜,最具病毒性的突破之一,极大地减少了艺术家创建“梦幻般的风景和虚构人物”所需的时间和精力。为了测试人们是否可以分辨出伪造品与真实品之间的区别,华盛顿大学的AI研究人员还建立了一个并行的网站whichfaeeisreal.com。
机器学习技术是“开源的”,几乎任何人都可以使用它并以此为基础。而且该软件一直在不断改进:NVIDIA的AI研究人员今年初发布了新版本的StyleGAN,该版本有望提供更快的生成方法、更高质量的图像以及消除老照片的残缺。
以这种数量创建AI生成的图像价格可能会非常昂贵,因为随着数据量的增加,后期需要高规格的服务器和显卡的计算能力。但是得益于Google和亚马逊之间的云计算竞争,这两家公司都为Icons8提供“信用”,初创企业可以以大幅折扣的价格用于繁重的AI工作.所以布劳恩的公司也得到了“实惠”。
布劳恩说,人们有理由担心AI生成的图像会被用于虚假信息或滥用行为。他说,解决这个问题的方法并不是像他这样的公司的责任:相反,这将需要“社会变革,技术变革和政策的结合”。两位与Icons8合作的模特说,只有在拍摄照片后才告诉她们,她们的肖像将用于AI生成的图像。布劳恩说:“最初的拍摄是为摄影而设计的,后来出现了AI应用程序的想法.我认为其商业目标都是一样的。”