裸奔的脸

2019-04-29 00:00:00吴雪
今日文摘 2019年24期

在北京中关村的一家咖啡馆里,刘嘉正在演示自己的创业项目。只见他上传一张用户照片,几秒内就可自动生成一份长达12页的“事业报告”,报告会对一个人的外形、性格、内在进行分析评价,诊断其职业和管理风格,多次试验后,准确度惊人。

“这绝对不是AI算命。”刘嘉反复向记者强调产品是基于基因学、心理学、医学等科学,并结合了AI和大数据等前沿技术。攀谈中,记者猜测刘嘉的目标很可能是——只需一张照片,就能洞悉你的一切。

惊奇,伴随着恐惧。刘嘉的项目只是人脸识别浪潮中的一朵小小浪花,但不得不承认一个事实,我们的人脸正在成为别人的一门生意。人们在享受便捷红利的同时,也面临安全隐患和伦理道德的双重拷问。

“人家一扫你的脸就支付了,这不相当于一个行走的密码吗?”这位消费者“不敢刷脸”的担忧,正在成为大众拒绝刷脸的普遍理由,校园刷脸会否涉及学生隐私?小区监控的边界在哪里?刷脸失误带来的成本谁来承担?城市管理者怎样将技术用对地方,而又不越界公民的隐私底线?假如我的脸被“卖”了,难道我要去换一张脸吗?

这些问题,都值得探讨,或者给出一个合理的答案。

便捷背后的“乌龙事件”

你是谁?每一天,人们都需要无数次回答这个问题,向各种人、机器亮明身份。路遇警察临检,出示身份证;出入境,护照必须随身扫描,即便是人尽皆知的马化腾,如果手机设置了安全认证,每天一次次向手机证明“我就是我”,也是必要操作。

刷脸的出现,似乎解决了这一繁琐程序。四年前,马云在德国汉诺威参加通信和信息技术博览会时,现场用刷脸支付在淘宝上购买了一枚1948年的汉诺威纪念邮票,正式将刷脸技术推至台前,人们开始意识到,丢掉证件、手机、车票等身外物,凭着一张脸穿行世界,不再是天方夜谭。

位于松江大学城的上海对外经贸大学,一栋宿舍楼前,大三学生许娟正在进行刷脸开门,“我带着眼镜,也能识别得很清楚,不用进门前再翻包找一卡通了。”许娟说,从去年开始,学校率先采用了国际领先算法的“人脸识别”系统,在宿舍刷脸进出、在图书馆借阅图书,靠一张脸就能在校园里畅行无阻。

刷脸系统的上线,确实提升了学校的管理效率,但也存在不足,比如学生的照片久远、像素较低,会影响刷脸识别率,但总体来说是小概率事件。

相比之下,失误率在城市管理中面临的挑战似乎更大。前不久,“丰巢快递柜刷脸漏洞”的话题冲上了微博热搜,浙江嘉兴一所小学四名小学生,拿着一张打印的家长头像,成功打开了小区门口的丰巢快递柜,取走了原本不属于他们的快递。结果证实,丰巢采用的人脸识别是一张2D平面图像,安全级别不够,极易破解。

电子抓拍也难免“乌龙”。一位长年跑福建到汕头线路的大货司机称,有一次,在家休假的他竟然收到了货车在其他省份的违法记录,事后虽证实是人脸识别的匹配有误,但也给他带来了不小的麻烦。“我不可能为了一二百元的罚款,再去交涉,太浪费时间,后来干脆就交了罚款。”

取件刷脸的潦草上线,大货司机吃的“哑巴亏”,难免让公众对刷脸的安全系数持怀疑态度。可怕的是,类似棘手的乌龙事件是不分地域的。曾有机构使用亚马逊公司的面部识别系统扫描了535名国会议员的面部照片,并与相关数据库中的2.5万张罪犯照片比对,结果28名议员被系统识别为罪犯。一旦人脸识别技术应用到司法、执法等关键领域,技术问题所带来的影响绝不只是啼笑皆非的“乌龙事件”那么简单。去年,支付宝推出刷脸支付产品“蜻蜓”,以“现金返还奖励、安装成本降低”作为诚意邀请,仍然遭遇中小商户的摇头拒绝,刷脸的推广实际上并不顺利。

“上帝视角”的边界在哪

目前看来,失误率带来的尴尬,似乎不是技术运用者最担心的问题。对于被监控者来说,在被错误判定为违法者或缺勤打卡人时,最多付出时间和金钱成本,而这些相较于刷脸工具的便捷性,大多数人的态度是可以容忍。

因此,在人工智能不断渗透人类生活的今天,人脸识别的边界就显得特别重要。“上帝视角还是凡人视角”的辩题,业界早已争论多年。大门口考勤、医务室治疗、演唱会抓捕逃犯甚至科学家通过识别情绪传感器作研究,好处自然不必说。但不止一所高校对于人脸识别进课堂有所保留,也是事实。

“只要你进教室那一刻起,系统每隔30秒会对你全程进行扫描。你低头多长时间,玩手机几次,发呆几次,阅读几次,趴桌子几次,全都能感知到,若不专注行为达到一定分值,系统就会向显示屏推送提醒。”关于多家高校启动的学情分析课堂,一位大学教师表达了自己的顾虑,他认为,学生的抬头率并不能精准判断学生的能力和效率,而且教室作为特殊的公共场所,监控下的教师和学生的行为,很可能都不是真实状态。

而一些校园启动的“智慧德育”系统,更易引发伦理争议。设想一个场景,以往老师看到做好事或调皮捣蛋的孩子,如果不是本班学生,根本不知道是谁。现在好了,只要掏出手机,对准学生一咔嚓,屏幕立即跳出他的信息,父母职位、孩子年龄、家庭情况摸得门清儿,结合不同学生家庭信息,老师是否会使用不同处理方式,不好说,但可以肯定,传统的有教无类,学生平等,在类似情形下被“刷脸神器”撬动了。

什么时候该刷脸,刷脸的伦理界限在哪里,关于边界的社会矛盾对冲也越发凸显。一位刷脸系统代理商告诉记者,曾经有一家健身房找上他们,说为了防止实体钥匙丢失,希望在更衣室储物柜上加入“刷脸”系统,他的第一反应是“拒绝”。“你在更衣室的柜子上使用摄像头,本身就是一个非常大的错误,这种涉及公众隐私的场所,应该坚决不允许人脸识别。”

那么,换言之,在公共场所使用人脸识别就变得合理正当了吗?未必。法国巴黎的一家书店,通过分析监控视频,仔细观察购物者的动作,店员会上前做出“心领神会”的服务,但在机器面前,每一个强忍住的哈欠,每一丝恼怒的表情都会被察觉,人际关系可能变得更加理性,也似乎会更加机械而冷漠,试问,这样的上帝视角真的好吗?

此前,公众就对谷歌曾研发的一款装在智能手机上的街景软件,表达过强烈不满,原因是当这个软件扫描街景时,也会对路过的行人进行面部信息采集,最终谷歌妥协并对人脸信息打马赛克。只不过“上帝视角”的按钮一旦触发,谁又会保证不会有“第二个谷歌”出现,偷偷在你走路时,坐在地铁时,不知不觉将你的人脸信息搜集走,而你却毫无察觉。

在人脸识别的圈子,边界至今仍是一个探不到底的“规则黑洞”。

人脸被卖的风险很可怕

那么,问题来了,是不是本人只要不做违法违规的坏事,信息被采集也无所谓。正如苹果公司CEO库克曾说过的话,“技术本身没有好与坏,一切由我们人来决定”。

在人脸识别快速发展的四年,安全隐患与伦理后果,并不是危言耸听。今年9月,有媒体报道,网上有商家公开兜售17万条“人脸数据”,涵盖2000人的肖像,每个人约有50到100张照片,而被兜售者并不知情。

据兜售的商家称,自己平时从事人工智能相关工作,收集人脸数据发售,不过就是“挣个饭钱”而已,在其售卖的人脸样本中,一部分是从搜索引擎上抓取的,另一部分来自境外一家软件公司的数据库等。

以昙花一现的换脸游戏“ZAO”为例,披着“隐形条款”公然搜集用户人脸信息,它降低了AI换脸的使用门槛,但同样可能被爱炫富的微商们用于“和明星总统握手”的虚假宣传,如果马云“亲自代言”的视频很奏效,“马云语录”的鸡血开场白取代也是分分钟的事。试想一下,如果有人把我们换脸成犯罪事件主角、被绑架的人质……或者伪装成我们进行视频通话,对亲友进行诈骗,后果不堪设想。

当然,更可怕的是“有人伪装你的脸”,福布斯记者曾用合成的一张3D头像,打印出一个3D头型,并成功解锁了4款手机,人脸识别被成功骗过,足以证明伪装门槛到底有多低。

“ZAO”下架后的第一时间,支付宝曾站出来回应,“不管换脸软件多逼真,都无法突破刷脸支付。”但在大批用户已开通“刷脸支付”的当下,人们难免战战兢兢。由于面部信息是具有唯一性特征的生物信息,银行卡信息泄露还可以更换银行卡,人脸信息泄露后将是终身泄露。未来,非常可能出现的场景是:当我们走进一家商店,店员立刻就能知晓关于我们的一切:身份、职业、收入、偏好、性格……而当这一天来临时,每个人都将处于“裸奔”状态,甚至戴上面具也无济于事,因为摄像头还能识别你的体型甚至步态。

技术跑在了监管前面

坦白讲,我们除非与世隔绝,否则无法完全拒绝人脸识别。

目前国家还没有一部针对“人脸识别”“刷脸”问题的专门法律,当技术跑在了监管前面,刷脸就该被禁用吗?如果法律跟不上就限制科技发展,是“因噎废食”的做法,不明智也不可取,总体来说,“刷脸”“二维码”“指纹识别”等新技术的发展带给社会的便利显然是利大于弊的。综合目前世界多国的做法,立法强化对人脸信息搜集的应用场景约束已经开始。今年7月,马萨诸塞州的萨默维尔市成为美国第二个禁止人脸识别的城市,但只是禁止了公共场所的使用权,并未涉及商业范畴。

从理论上讲,所有的数据都有泄露的可能。对于个人而言,需要在便利性和个人信息保护上权衡和取舍,对于珍视个人信息胜于便利的人,最好完全不使用任何要求进行人脸识别的App,通过市场机制倒逼企业做好隐私保护。

不过有专家也提醒,现在对于人脸数据的科普还远远不能让人们充分意识到其隐藏的风险,“很多客户根本看不懂那些授权文件里的内容代表哪些具体内涵,但为了使用那些服务,还是同意了授权。”因此,在技术仍存在风险的时候,广泛应用于各种商业领域,应当慎重。

教育部科学技术司司长雷朝滋也曾发出提醒,建议学校慎重使用这些技术软件,关于学生的个人信息,能不采集就不采集,能少采集就少采集。这些警告同样适用于城市管理、商业运作甚至个人生活,关键在于,这些提醒是否能够引起人们的足够重视?“刷脸”时代里,公众能否对自己的安全负责?

有一句话说科技是为懒人而生,越懒越方便越好。据一位智慧社区项目代理商回忆,他们在做智慧社区项目时,有些小区用户希望使用人脸识别系统的同时,保留原来的磁扣门禁等方式,他们照做了,“但体验过刷脸的人基本都把磁扣方式忘掉了,因为他尝到了便捷的甜头”。

(苏润安荐自《新民周刊》)