人脸识别技术与安全风险治理问题研究

许静文

人脸识别,被称为 “21世纪十大人类生活”的革命性技术。仅在2018年,人脸识别技术的市场增幅便达到167%,位列生物识别技术细分市场第一位。其中,72%应用在安防领域,20%应用在金融领域。〔1〕杜峰:《北大弑母案嫌犯被抓背后:看人脸识别有多强大》,载通信信息报,http://www.txxxb.com/yc/yc/2019/0429/214225.shtml,2020年1月20日访问。对于安防领域而言,北京和重庆等地的公租房已开始采用了人脸识别的门禁系统;全国已有近70家知名景区实现了 “刷脸”入园;“刷脸”乘车的正式商用也已逐渐普及到公交和地铁。〔2〕杨金祝:《发现吴谢宇的 “天眼”是只什么眼? 人脸识别已覆盖全国80%以上大型重点机场》,载华西都市报,http://www.txxxb.com/yc/yc/2019/0429/214225.shtml,2020年1月20日访问。对于金融领域而言,“刷脸支付”更成为人们日常生活不可或缺的一部分。支付宝于2018年底推出的 “蜻蜓”和微信于2019年3月推出的 “青蛙”便是代表性产品。值得一提的是,可实现支付宝 “刷脸”支付的国内城市已超过300个,且已实现了部分境外主要城市的市场普及。微信 “刷脸”支付也宣布将投入30亿人民币帮助商家在三年内实现数字化转型。

根据前瞻产业研究院的研究预测,我国人脸识别市场规模将在2021 年达到53.16 亿元。〔3〕同前注 〔1〕。不难预见,人脸识别技术将伴随着社会认同广度和技术的自身成熟度,在不远的将来有更为广阔的应用空间。

一、现状:人脸识别机遇与风险并存

人脸识别又被称为面部识别,产生于上世纪60年代,主要技术原理在于通过人的面部特征来识别或验证某个人身份,包括人脸探测 (face detection)、人脸抓取 (face capture)和人脸匹配 (face matching)三个子过程。〔4〕高富平:《人脸识别的法律风险和规制》,载上海法治报,http://www.sohu.com/a/341722243_289260,2020年1月20日访问。人脸识别技术也被称为 “人体密码”,是生物特征识别的最新应用,已成为继指纹、虹膜扫描、语音识别等之后识别或验证人身份的便捷生物识别技术。

(一)机遇:以 “北大弑母案”为例

正如前文所述,人脸识别已开始广泛应用于与企业和个人相关的方方面面,利用得当还可为政府带来新的机遇。例如,印度警方就曾利用人脸识别技术,在短短4天内就发现了近3000名失踪儿童。〔5〕洪延青:《人脸识别技术的法律规制研究初探》,载 《中国信息安全》2019年第8期。再如我国享誉全球、被外界称为神器的 “天网”系统,可以通过依托于公安网数据库海量的已知人员图像,模拟其在时间、场景、光线和视角变化下的景象,进而与监控视频中捕获的人像进行比对,准确率甚至高达90%。

曾经有BBC记者约翰·苏得沃斯 (John Sudworth)试图挑战中国的 “天网”系统。约翰在贵阳警方处留下了一张正面照片后,就信心满满地开始了自己的 “逃亡生活”,然而从约翰出门到被 “捕”全程只用了7分钟。约翰没有想到的是,当传统意义的摄像头安装上人工智能的翅膀后,其功能和能力远超出他的既有认知。一张清晰的正面照片就仿佛一个搜索引擎中的关键词一样,茫茫人海从此也可以 “天涯咫尺”。

以去年震惊中外的 “北大弑母案”为例,该案嫌疑人吴谢宇于2019年4月20日凌晨进入重庆江北机场,在防爆安全检查区域等待检查期间,被 “天网”系统抓拍了4次,且每次相似度比对都大于或等于98%,最终被机场警方抓获。此时距吴谢宇潜逃已过去了1380天,然而从机场的安检识别到被抓捕,却仅用了十分钟。值得一提的是,重庆江北机场此前于2018年9月刚刚完成了所有安检通道旅客的人脸识别系统升级工作,最为重大的一项升级在于可以回查旅客人脸比对的数据。简言之,在被该人脸识别系统抓拍了一张清晰照片后,便可通过与公安系统的联网,依托于数据共享,通过比对的方式快速找到布控人员并发出警报。由此可以看出,一张被抓拍的清晰照片不仅可以作为机场内的通行证,还可成为公安机关找人、抓逃、布控等的智能化武器。〔6〕黄驰波:《北大学子弑母案嫌疑人落网机场:刚升级人脸识别系统! 可比对报警》,载南方周末网,http://www.infzm.com/contents/148615,2020年1月20日访问。

正所谓 “天网恢恢,疏而不漏”,正义不会永远迟到,科技力量让犯罪分子无处遁形。无独有偶,萧山国际机场也曾基于其先进的人脸识别系统,在一个多月的时间里便成功 “揪”出5名冒用身份证的旅客。苏州火车站也曾依托于其先进的 “人脸识别”系统在候车室内查获一名网上通缉犯。长沙机场磁悬浮车站也曾基于 “人脸识别”警务系统红色预警,抓捕过一名被法院系统列为失信被执行人的 “老赖”。〔7〕同前注 〔1〕。除此之外,为人们所津津乐道的 “演唱会变流动派出所”,很大程度上也要归功于人脸识别技术这个 “逃犯克星”。

(二)挑战:以 “中国人脸识别第一案”为例

2019年11月,浙江理工大学特聘副教授郭兵起诉了杭州野生动物园,该案被广大媒体冠以 “中国人脸识别第一案”的称号并在社会上引起了诸多关注。

本案原告郭兵认为,2019年4月办理动物园年卡时,入园时仅需进行指纹识别和检验年卡,并未要求人脸识别,而半年后因为系统升级,入园方式演变为 “不刷脸无法入园”。郭兵认为其作为消费者的合法权益遭到了侵犯,不愿配合录入脸部数据,经双方协商未果后,郭兵将园方告上法庭,当地法院也已决定正式受理此案。〔8〕谢军:《刷脸商用化离不开法治扶杖》,载中国青年报,http://news.cyol.com/yuanchuang/2019－11/05/content_18224246.htm,2020年1月20日访问。

退而思之,其诉讼价值远高于 “一起违约之诉”,表达的是原告对于 “刷脸”技术潜在风险的焦虑与不安,牵涉到的是该技术应用的权界问题。简言之,从 《合同法》的视角来分析,涉事动物园在合同履行过程中,突然增加人脸识别这一限制性条件,单方面变更合同内容,其明显有违反合同约定、不守契约精神之嫌。与此同时,从 《消费者权益保护法》视角切入的话,动物园之所以能够使用指纹与人脸识别,并非基于动物园自身拥有的权力,而是顾客为了一定的便利性,让渡了自己的部分权利。正如郭兵提起的侵权之诉,即园区收集个人生物识别信息、进行人脸识别,侵犯了其公民个人信息。〔9〕欧阳晨雨:《“中国人脸识别第一案”,用法律为技术运用定边界》,载新京报网,http://www.bjnews.com.cn/opinion/2019/11/03/644895.html,2020年1月20日访问。

换言之,从个人信息安全的角度而言,指纹数据泄露存在一定的危害,无法迅速且直接地与当事人构建联系。如果人像信息被泄露,基于人眼虹膜的独特性,以及人的面部结构能够在被拍摄成图片后进行数据化编辑,一旦动物园留存的其他身份信息也被盗取,则完全可能被他人利用建立起一个立体的身份信息库。换言之,我们的人脸信息一经泄露,很可能就会成为这些 “信息业者”“帮”你开启潘多拉盒子的一把关键钥匙。〔10〕宇多田:《中国人脸识别第一案,来的太晚了》,载虎嗅网,https://www.huxiu.com/article/324525.html,2020年1月20日访问。

二、症结:人脸识别技术引发的法律新话题

生物特征之所以被称为 “安全的最后防线”,是基于其具有终身唯一且无法改变的特点,这也是与数字密码最大的不同之处。人们可以通过频繁更换密码来保证人身和财产的安全,而频繁 “换脸”却很难实现。例如去年引发国内外巨大关注的名为ZAO 的AI换脸软件,在人们寻求 “以假乱真”“换脸”“刷屏”刺激的同时,更是将 “人脸识别”问题推上了风口浪尖。该软件只需要一张正脸照,便可实现对视频中人物的脸进行替换,既可以将别人的脸换成自己的,也可以将自己的脸换成别人的。该软件引发的社会讨论和潜在的法律问题已然超出了软件开发团队的预期设想,更展现了弱人工智能向强人工智能的转化。甚至有声音担忧,一旦自己面部特征的数据被他人所拥有,3D 高清面具加上配合系统指令完成相应动作,他人是否就有可能冒名顶替自己实施各种欺诈。〔11〕李怀瑾:《人脸识别技术风险的法律防范》,载中国社会科学网,http://news.cssn.cn/zx/bwyc/201903/t201 90306_4843411.shtml? COLLCC＝3628982790＆,2020年1月20日访问。影视作品 《变脸》将被现实化,其背后的社会危害性让人毛骨悚然。

(一)人脸识别引发的技术恐慌

前述担忧绝非杞人忧天。人脸识别技术的一个重要特征就是取样方式的非强制性,用户甚至是 “路人甲”并不需要特意去配合相关的人脸采集设备,便可能在无意间被取得了自己的人脸图像。〔12〕参见姜润松:《人脸识别技术在唐氏综合征青少年筛查中的应用》,浙江大学2018年博士学位论文。更让人不安的是,在深度学习的推动下,人脸识别技术在分析、读取和比对环节的功能将愈发强大,不仅能把你 “看个清楚”,通过对面部表情的深度识别,还可以实现对个体内心世界真实情感的计算和分析,甚至还能把你 “想个明白”。〔13〕蔡斐:《以法律堵住人脸识别滥用的口子》,载新京报网,https://m.bjnews.com.cn/detail/15730306931531 3.html,2020年1月20日访问。

在人脸识别技术应用较早的西方,主流学术观点认为,该技术的出现不仅可能侵犯公民隐私权、民主自由和人权,甚至很可能会从根本上影响甚至是改变公民在公共场合的存在方式。〔14〕同前注 〔4〕。简言之,民主权利的有效行使,要求人们自由行动而不受政府监督,但无处不在的受制于政府的摄像头则可能会将人脸识别技术、强大的计算能力和云存储相结合,实现对每一位公民不间断、基本无死角的监视,那么民主活动将会从根本上受到影响。

反观我国既有的法律规定,在十三届全国人大三次会议表决通过 《中华人民共和国民法典》(后文简称 “民法典”)之前,公民的个人隐私与个人信息之间更多地呈现出一种相互交叉的关系。简言之,高度公开的个人信息一般不属于个人隐私,而公民的敏感信息尤其是涉及私生活的敏感信息则属于个人隐私。〔15〕参见张新宝:《从隐私到个人信息:利益再衡量的理论与制度安排》,载 《中国法学》2015年第3期。而在这次的民法典中,我国法律不但把隐私权确认为一项独立的人格权,对公民的隐私权益进行了直接保护,并且对隐私和个人信息两者进行了区分。〔16〕陈昶屹:《私密空间偷拍、AI换脸? 看看民法典人格权编如何回应》,载北京海淀法院公众号,https://mp.weixin.qq.com/s/uJtx Um Hpkr Tr BSU41h_ －nw,2020年6月13日访问。具体而言,在民法典人格权编第六章的标题中,明确区分了隐私权和个人信息保护是两个不同的概念,并明确界定了 “隐私”是自然人的私人生活安宁和不愿为他人知晓的私密空间、私密活动、私密信息;“个人信息”则包括自然人的姓名、出生日期、身份证件号码、生物识别信息、住址、电话号码、电子邮箱、行踪信息等。目前,人脸识别技术已广泛应用于火车站、机场安检通行、手机解锁、面部识别防盗、企业考勤、学校课堂签到等日常生活中。去年4月1日,济南地铁成为国内首条采用人脸识别闸机的地铁线路,更多城市如广州、福州、南昌等都已成功实施刷脸乘车试行站点。随着智慧城市的建设以及刷脸技术的普及,陆续有学者将该技术的迅速普及与2019年8月21日瑞典数据保护机构的首张人脸技术罚单相结合,进行了比较研究并表达了担忧和忐忑的心情。

概言之,目前关于人脸识别技术应用的质疑或负面评价大体上表现为以下三种观点:第一,对伦理、道德层面的担忧;第二,对合法与非法界限的困惑;第三,对基本人权侵害的恐惧。〔17〕劳东燕:《人脸识别技术运用中的法律隐忧》,载爱思想,http://m.aisixiang.com/data/118805.html? click time＝1573531832＆enterid＝1573531832,2020年1月21日访问。

(二)人脸识别引发的法律隐忧

1.人脸上的法律要素需要明确

人脸识别定位到脸部即肖像,其与指纹识别的基本逻辑类似,人脸识别同样是依靠分析人体某个部位的细节特征,从而达到验证和识别的效果。此时得到的人脸信息并非传统意义上的个人信息,而是一组能够定位或指向一个自然人的生物数据。

在“民法典时代”之前,人脸的法律要素对应到我国既有的法律体系内,主要在于下述两个方面:一方面,主要基于我国 《民法通则》和 《民法总则》中有关于肖像权的规定,即公民享有肖像权,未经本人同意,不得以营利为目的使用公民的肖像。除此之外,民事法律中的名誉权,也在相当程度上保护着公民的肖像。肖像与公民的人格尊严紧密相连,对他人肖像的公开侮辱可能会被视为对公民名誉的破坏、尊严的践踏,而因此构成名誉权侵权。另一方面则主要参见 《网络安全法》第76条关于 “个人信息”的具体解释,即认为是能够单独或者与其他信息结合识别自然人个人身份的各种信息,其中也包括个人生物识别信息。据此,人脸除了承载有肖像外,其所包含的个人生物数据同样捆绑有敏感的个人信息,甚至关乎个人信用与财产安全,是自然人珍贵的白金数据。〔18〕刘彦伶:《“人脸识别第一案”:细数你脸上白金数据》,载周公观娱,https://weibo.com/ttarticle/p/show?id＝2309404435938137735258,2020年1月21日访问。

2.技术标准有待明朗

技术的发展日新月异,尤其是现今人工智能的发展又具有与生俱来的不确定性。那么人们不禁开始思考,人脸识别技术究竟已经发展到何种程度,是否每个使用人脸识别技术的机构都拥有着基本衡平的技术精度和操作标准,未来又将是怎样的走向。

美国公民自由联盟在对亚马逊的面部识别软件Recognition进行审计时发现,当把国会议员与2500名罪犯数据库进行匹配时,亚马逊的软件错误地将其中28名议员识别为罪犯。我国也在去年曾有新闻报道称,四名上海的小学生凭借打印出来的父母头像照片,成功打开了需要人脸识别的快递柜。〔19〕唐小丽、轩召强:《奉贤小学生破解刷脸取件 一张照片就能开箱》,载人民网,http://sh.people.com.cn/n2/2019/1018/c134768－33448831.html,2020年6月23日最后访问。

就目前的法律规定看,欧盟通用数据保护条例 (General Data Protection Regulation,后文简称 “GDPR”)可适用于生物识别信息的技术处理。根据GDPR (Art.5－11),对于面部识别技术中涉及的生物识别信息的处理,可适用个人数据处理的公开透明、合法性、目的限制、最小化等原则;根据GDPR (Art.13－23),个人数据主体的知情权、同意权、访问权、可携带权、被遗忘权等的客体也包括个人的生物识别信息。〔20〕靳雨露:《人脸识别技术的法律进路与退路》,载宜律无忧,https://mp.weixin.qq.com/s/QNe74Sy HuqfIsc QqPk RcQ,2020年1月21日访问。根据 《GDPR 执法案例精选白皮书(2018—2019)》统计数据表明 (GDPR 生效以来至2019年3月期间,涵盖了欧洲经济区22个国家的执法案例),〔21〕中兴通讯数据保护合规部、数据法盟联合发布: 《GDPR 执法案例精选白皮书 (2018—2019)》,载未来智库,https://www.vzkoo.com/doc/6111.html? a＝3,2020年6月7日访问。GDPR 自2018年5月25日实施以来,欧洲数据监管机构共开出了约3.7亿欧元的行政处罚。其中引起较大社会反响的有号称 “GDPR 生效以来首张罚单”的针对Anderstorps高中的罚款,该高中因在教室内使用人脸识别相机前未充分征得数据主体的同意,并且违反了数据最小化原则,因此被处罚20万瑞典克朗 (约合人民币14.8万元)。

对于我国而言,在 “民法典时代”之前,统一的个人信息保护立法缺位,这便导致了个人信息与个人数据的范畴、数据使用合法与非法的界限等都一直处于模糊地带。在迈入 “民法典时代”之后,民法典第1019条明确规定了肖像权的消极权能,其中不得 “利用信息技术手段伪造等方式侵害他人的肖像权”的规定,积极回应了当前利用各种网络信息技术手段非法侵害他人肖像权的社会现实。〔22〕同前注 〔16〕。尽管如此,在法律法规的统领下,技术标准的未尽事项和争议问题依旧需要进一步的回应和细化规定。

3.信息使用亟需规范

个人信息被盗取、泄露的情况已经屡见不鲜,人们对于明星等公众人物的行程、航班号、电话号码甚至身份证号码被买卖交易似乎也已经见怪不怪。根据 《2019年网络犯罪防范治理研究报告》,2018年每分钟泄露的可标识信息为8100条;2019年百度累计下线 “涉嫌窃取公民个人隐私”恶意网站46.2万个,累计下线 “涉嫌窃取公民个人隐私”网站230万个。〔23〕百度、公安部第三研究所网络安全法律研究中心联合发布:《2019年网络犯罪防范治理研究报告》,载公安三所网络安全法律研究中心,https://jing.baidu.com/h5/cybersecurityresearch.html,2020年6月23日访问。根据 《GDPR 执法案例精选白皮书 (2018—2019)》统计数据表明,截至2019年3月,共上报281，088例案件,其中近三分之一 (89，271件)是数据泄露通知。〔24〕同前注 〔21〕。据 《GDPR 执法案例全景白皮书 (2020)》统计数据表明 (发生于2019年5月25日至2020年5月期间,涵盖了欧洲经济区19个国家的执法案例),截至2020年5月,已办结GDPR 违规处罚的案件共183起,其中37% (68起)案件是基于 “数据处理的法律依据不足”进行的罚款处罚。〔25〕《GDPR 执 法 案 例 全 景 白 皮 书 (2020)》,载 《数 据 发 盟》,https://www.chainnews.com/articles/407245038958.htm,2020年6月13日访问。

国内外对个人信息的保护方式并不一致,有将其纳入隐私权进行保护的,也有将个人信息单独列为受法律保护的一类对象。采取前一种做法的以美国伊利诺伊州为例,当地公民就曾基于Facebook公司推出的 “标签建议”功能有涉嫌通过用户照片侵犯隐私的嫌疑,对其提起了违反2008年 《生物信息隐私法案》的诉讼。至于后一种做法,欧盟的GDPR 被认为是史上最为严格的个人数据保护条例,不仅明确规定了允许收集个人信息的条件、获取的程序和方式,给予数据主体拒绝权,甚至规定了对泄露数据行为的处罚,如果企业存在数据泄露行为,可能面临高达上千万欧元的罚款。

对于我国而言,一方面,在全国人大常委会法工委2019年12月20日举行的第三次记者会上,新闻发言人、全国人大常委会法制工作委员会立法规划室主任岳仲明介绍,2020年的立法工作计划已经全国人大常委会第四十四次委员长会议原则通过,2020年将制定个人信息保护法、数据安全法等。另一方面,已于今年5月28日十三届全国人大三次会议表决通过的民法典也将于明年1月1日起施行。

(三)问题关键

通常而言,密码被破解了还可以更换密码,而人脸数据一旦泄露却很难进行补救。这是因为人脸被数字化处理后构成了一组与人相关的 “活体数据”,人脸数据的安全问题便由此演变成了生物信息安全问题。如前所述,个人生物信息是个人信息中最具唯一性的识别信息,一经泄露或被不法利用,其风险远高于其他识别性信息。人们的担忧当然并无道理。但是目前来看,人脸数据泄露被直接利用的案例所幸还很少,例如ZAO “假视频制作”等 “换脸”其实目前除了被用来恶搞,尚无可以参考的真实犯罪案例。另据一位安全工程师透露,〔26〕同前注 〔10〕。目前人脸数据泄露尚未产生大规模黑灰产,虽有一些零散的事件发生,但从整体看,人脸识别数据泄露直接导致的案例数量还很少。

著名的人脸识别技术供应商瑞为科技的CTO 曾表示,人脸识别跟指纹并没有本质区别,可将其视为一种精准度与防伪性更高的升级版钥匙。当人脸数据维持一种孤岛状态时,并不会带来太多危害,但如果能同时获取目标人物的身份证、电话、具体消费出行信息以及行为踪迹等其他若干 “关联”信息,那么危害就很直接了。“其实隐私被侵犯,主要是指线上服务和交易系统中对敏感数据采集、存储、使用以及共享等环节出现的问题。这与人脸识别以及其他生物识别技术无关,属于应用系统问题。”〔27〕同前注 〔10〕。概言之,采集和存储数据的 “旁门左道”跟 “人脸识别”技术自身是根本不同的。〔28〕同前注 〔10〕。

由此可以看出,人脸识别本身是一项用来核验身份、确保个人安全的技术,确实可能存在着技术被不法利用、信息泄露和生物信息滥用三重风险。〔29〕高富平:《不让客户“丢脸”才能赢得客户“芳心”》,载法制生活报,http://szb.fzshb.cn/fzshb/20191023/html/page_06_content_003.htm,2020年1月20日访问。然而,前述的质疑和法律边界问题的本质并不在于人脸识别技术,技术本身并不存在价值判断,关键在于人们对技术的利用以及怎样去利用。〔30〕参见高志朋:《人工智能新发展对法律知识生成方式与制度体系的影响》,载 《长白学刊》2019年第1期。

三、方案:用制度刚性确保“科技向善”

人脸识别的本质可看作是一套复杂的代码设计、一套程序,由算法和数据结构共同构成。因此,法律人在讨论作为 “黑箱”的人脸识别技术时,尤其是探讨立法调整时,不妨针对人脸识别算法和数据这两个构成性要素,针对其 “自身专业科技和赋能科技的双重属性”,〔31〕龙卫球:《人工智能立法规范对象与规范策略》,载 《政法论丛》2020年第3期。进行规则的内生性和外生性两个视角的问题分解。按照内生性的商业逻辑视角,对于通常被诟病为“黑箱”的算法及算法控制而言,安排调配生产性资源、授予用户某种权利或 (与)义务的行为主要是基于互联网公司内部规则而非国家法律。而外生性的政治或监管逻辑视角,则集中反映了对于新技术带来的问题与挑战,国家权力试图进行介入和干预的努力过程。〔32〕参见胡凌:《人工智能的法律想象》,载 《网络信息法学研究》2017年第1期。

(一)横向考察:美国和欧盟对人脸识别数据保护模式的比较研究

目前,对于人脸识别数据的保护做法较为先进的主要可分为美国和欧盟两种模式。美国采用的是相对自由的方式,即将数据的规制权限赋予各州,联邦层面并不统一限制面部识别数据的使用;欧盟采用的则是在整体上严格限制生物识别数据的使用,同时赋予欧盟成员国一定的自由裁量权,允许特定情况下的例外情形。

1.美国模式:整体自由,日渐保守

美国人脸识别数据较具代表性的法案为2008年伊利诺伊州颁布的 《生物信息隐私法案》(Biometric Information Privacy Act,后文简称 “BIPA”)。该法案将照片之外的 “脸部结构的扫描”定义为 “生物标识符”(biometric identifier),与其相关的术语是 “生物信息”(biometric information),指的是 “通过用以识别特定自然人的生物标识符所获取的信息”。该法案也被视为美国境内第一部旨在规范 “生物标识符和信息的收集、使用、保护、处理、存储、保留和销毁”的法律。

整体来看,BIPA 的规制范畴并不在于能否使用生物识别数据,而在于如何使用。首先,初次收集某自然人的生物标识符或生物识别信息时,须进行详细告知并获得书面授权。其次,企业须制定书面政策设定生物识别数据的保留时间表,且当收集数据的目的已达到或距信息主体与企业最后一次联络已满三年时 (以先发生者为准),应当摧毁该数据。最后,生物识别数据不得出售,且除非获得相关自然人的同意或如法律规定的特定例外情况不得对他人披露。〔33〕同前注 〔5〕。

当前,国土安全局和FBI等联邦机构若想使用面部数据识别潜在犯罪嫌疑人,是不需要事先获得搜查令的。美国共和党和民主党领导人在去年的一次国会听证会上,共同讨论和表达了对执法部门使用面部识别软件所带来的担忧,认为面部扫描可能侵犯了美国公民的宪法权利。同时,两党还一致认为是时候认真研究这项技术并起草相关的监管法律。此外,专家警告称,由于这项技术推出太快并且存在严重缺陷,可能会导致调查人员对潜在嫌疑人进行误判。〔34〕《刷脸时代的逆行者——人脸识别禁令正在美国全面铺开》,载中美高端人才交流促进会,http://www.sino－ustalent.com/article－item－122.html,2020年1月21日访问。

2019年5月,美国对于人脸识别技术 (尤其是实时运用在公共场所)采取了一项全球瞩目的行政举措,具体而言,美国旧金山市成为全世界范围内的首个禁止面部识别监控的城市,成为美国第一个禁止警察和其他政府机构使用面部识别技术的城市。此后,加利福尼亚州参议院开始考虑一项法案,拟禁止该州的警察使用生物识别技术 (如面部识别)和身体摄像机。马萨诸塞州在成为美国第二个禁止面部识别技术的城市后,国会两党共同提案,拟立法暂停使用人脸识别软件,并且该州立法机构正在考虑由波士顿地区立法者赞助的 “面部监视暂停法案”。〔35〕同前注 〔16〕。目前,美国境内共有七个州或城市制定了与生物识别数据相关的法案,除了前述加利福尼亚州旧金山市以及马萨诸塞州的萨默维尔市,还有伊利诺伊州、华盛顿州、得克萨斯州、俄勒冈州以及新汉普郡。

科技的发展向来就是一把双刃剑,任何一项新技术的应用通常都是喜忧参半的。概言之,美国在人脸识别这项技术的应用方面似乎走向了保守的道路。虽然警方和其他政府部门对使用面部识别协助警务有需求,但受到侵犯隐私、人权,涉嫌歧视等的指责,以及对面部识别的批判越来越多,面部识别技术在美国的推进困难重重。〔36〕同前注 〔34〕。除前述已推广禁令的七个州或城市外,奥克兰、纽约等城市也在考虑类似做法。

2.欧盟模式:愈加严厉的技术立法

美国并非唯一对面部识别技术惶惶不安的国家。2019年4月8日,欧盟发布了一份人工智能道德准则 (Draft Ethics Guidelines for Trustworthy AI),宣布启动人工智能道德准则的试行阶段。起草该准则的欧洲人工智能高级别专家组 (European High－level Expert Group on Artificial Intelligence,“AI HLEG”)同时发布报告提议,“欧洲应该禁止AI进行大规模监视和社会信用评分。”“政府应承诺只部署和采购值得信赖的人工智能系统,其设计宗旨是尊重法律和基本权利,符合伦理原则,社会技术健全。”〔37〕同前注 〔34〕。

截至今日,欧盟保护人脸识别数据的核心法律依旧是GDPR,与美国不同,欧盟规制范畴主要在于能否使用生物识别数据。首先,GDPR 明确规定了面部数据属于生物识别数据(Art.4),并针对照片采取了与BIPA 相似的做法,即对面部识别数据和照片进行了区分。根据GDPR 的规定 (Art.51), “处理照片并不当然地被认为是处理个人敏感数据,仅在通过特定技术方法对照片进行处理,使其能够识别或认证特定自然人时,照片才被认为是生物识别数据”。对于视频影像,GDPR 则未作出明确的说明,但有学术观点认为应当类推适用相同的处理原则,即如果使用 “特定技术手段”来识别或认证特定自然人,则通过照片或视频收集的任何图像均构成生物识别数据。其次,GDPR 明确规定 (Art.9),生物特征数据属于个人数据的“特殊类别”,不得随意处理,除非法律规定的特定例外情况。例如,人脸识别技术的商业应用可适用的唯一例外情形是 “数据主体已明确表示同意”,且同意须 “自由给予、明确、具体、不含糊”。换言之,数据主体任何形式的被动同意均不符合GDPR 的规定。再次,GDPR(Art.9)允许欧盟各成员国在自行规定的特定情况下可以不适用GDPR 中对处理生物识别数据的限制。例如,荷兰的例外情形为 “完成认证或安全需要时”,克罗地亚的例外情形为 “排除适用监控安全系统”。〔38〕同前注 〔5〕。

除了前文提到的针对瑞典高中 “GDPR 生效以来的首张罚单”,2019年7月,英国数据保护监管机构 (Information Commissioner’s Office,后文简称 “ICO”)先后对英国航空和万豪国际进行了1.83亿英镑和9920万英镑的罚金处罚,两笔巨额罚款事项都是基于违反GDPR 导致了信息泄露。〔39〕凌斌:《2019年十大个人信息数据保护事例盘点》,载数据法盟,https://www.chainnews.com/articles/512812613356.htm,2020年1月21日访问。此后,ICO 在8月又对伦敦国王十字车站人脸识别系统的安全性发起了调查。该机构的专员表示,“在日常生活中扫描人脸以识别他们的身份,这种对隐私的潜在威胁值得所有人重视,尤其是在没有经过告知或理解的情况下。”〔40〕李汶龙:《欧美网络法2019年述评之六:人脸识别的合法性争议》,载人民法治网,http://www.rmfz.org.cn/contents/4/264558.html,2020年1月22日访问。该调查发生的一个月后,英国高院作出判决,认定南威尔士警方使用人脸识别技术是合法的。虽然英国权力机关ICO 在人脸识别这一问题上较为审慎,但在现实场景中,尤其是在公共场所,人脸识别技术的数据采集近乎是实时的。尽管从数据保护的角度观察,人脸识别技术主要涉及数据处理的法律基础问题,以及同意能否 (以及在什么情形下)成为有效的法律基础问题,实际上,获得个人的明示同意在操作上是非常困难的。ICO 于是主张在某些情形下,警方使用该项技术不需要明示同意,但需要达到法律设定的 “严格必要标准”(strictly necessary)。

对于ICO 的做法,爱丁堡大学法学院学者Judith Rauhofer表达了强烈不满。根据她的观点,人脸识别技术的违法性非常明显,数据保护机关不应 “沦为政治博弈的砝码”,而应积极实施法律赋予的权力。此外,人权、大数据与技术项目组 (Human Rights,Big Data and Technology)也在其独立报告中指出,英国警方使用人脸识别技术缺乏明确的法律基础。从人权法层面而言,该技术的使用不具有足够的可预见性,一旦启动司法审查并上诉到最高法院,人脸识别技术很有可能被认定为非法。〔41〕同前注 〔40〕。

在此之前,欧盟委员会的高级官员曾透露正在计划出台一项关于人脸识别数据使用的立法,目的在于限制公司和公共机构 “不加区分地使用人脸识别技术”,并且欧洲居民将有权“知道人脸识别数据何时被使用”,即使有例外情况,也应该是基于 “严格限制的例外情况”,以确保适当使用,这项立法同时也将成为欧洲AI监管改革的一部分。此外,据 《金融时报》报道,欧盟还曾提出希望制定一套 “AI监管的世界性标准”,以建立 “足以保护个人的明确的、可预测的、统一的规则”。该标准将在GDPR 的现有义务框架基础上更加严格,将目标锁定为 “带来特定风险”的人脸识别等技术。〔42〕《人脸识别技术触动 “隐私黑盒”,AI 技术应用是否该有 “边界”》,载维识教育科技,http://baijiahao.baidu.com/s?id＝1643643086077715823＆wfr＝spider＆for＝pc,2020年1月22日访问。

值得注意的是,欧盟委员会在布鲁塞尔于2020年2月19日正式发布了 《人工智能白皮书——通往卓越和信任的欧洲路径》。白皮书提出一系列人工智能研发和监管的政策措施,并提出建立 “可信赖的人工智能框架”。其中,白皮书特意针对使用人脸识别等远程生物识别系统提出了严格的限制,规定将不仅适用于欧洲本地企业,在欧盟运营的第三国数字企业也必须遵守相应规定,此举可能会对我国人工智能企业发展带来冲击。〔43〕明书聪、张瑶:《解读欧盟 〈人工智能白皮书——欧洲追求卓越和信任的策略〉》,载国家工业信息安全发展研究中心公众号,http://vlambda.com/wz_w BmC4TJr QM.html,2020年6月14日访问。

(二)纵向推进:“自治＋法治”的整体框架

2017年,微软研究院的首席研究员Kate Crawford和Google开放研究的创始人Meredith Whittaker联合创办了第一家跨领域的人工智能研究所AI Now (AI Now Institute),该研究所还同时与纽约大学的8个院系合作,包括纽约大学法学院和文化、教育与人类发展学院等。研究所联合创始人Kate曾公开表示,在这个时代,AI Now 不止于代码,我们需要的不仅仅是技术上的改进,还应意识到这些工具和技术在发生故障时会造成危险的后果。因此,需要为所有生物识别监视系统提供法律监管,尤其是在提高准确性和入侵性方面。〔44〕Kate Crawford.Halt the use of facial:recognition technology until it is regulated.Nature,https://www.nature.com/articles/d41586－019－02514－7,2019－08－27/2020－01－20.

由此可以看出,尽管人脸识别技术尚处于发展初期,但其暗藏的风险显而易见。我们理应在技术层面积极寻找出路的同时,充分发挥法律的指引和评价功能,并积极鼓励行业自治,形成各种商业使用人脸识别技术的最佳准则,建立人脸识别技术应用的行业规范。

1.政府层面:以数据流转为治理重点

多年来,学者们一直在强调面部识别的技术和社会风险。提高面部识别的准确性并非重点,一旦缺乏有力的管理主体,即使是相对健全的制度也会沦为 “水中月,镜中花”,这项技术最终可能使所有人都变得更不自由。回归到本土化的语境中,除如前文所示,从使用数据源头严格监管的欧盟模式和赋予自由的美国模式外,我国不妨根据实际国情制定相适应的数据规制方案,介于前述两种既有规制路径之间的中间道路也同样值得参考。即以数据流转为治理重点,在处理人脸识别数据的方式上,放置相应的限制措施;对于处理人脸识别数据的重要方面和基本原则,进行同步的统筹规制。〔45〕同前注 〔5〕。一方面,让社会享有人脸识别的主要权利,充分激发以企业为主体的机构潜能;另一方面,形成法律规制责任主体的倒逼机制,促进个人弱保护和科技发展强保护之间的平衡。〔46〕参见李庆峰:《人工识别技术的法律规制:价值、主体与抓手》,载 《人民论坛》2020年第4期。除此之外,还应该兼顾个人信息保护的问题,着力解决信息泄露和滥用问题;关注技术的使用行为方式,建立智能化的人脸识别伦理规范;在法律尚不明确的当下,除了不触碰法律禁止底线外,更要以对人的尊重作为行为准则。〔47〕同前注 〔4〕。

2.行业层面:以伦理和行业自律引导新技术的发展方向

AI Now 研究所联合创始人Kate在创办之初便制定了一个包含四条原则的人脸识别数据保护框架。其一,人脸识别系统只有在经过审查并得到强有力监管的前提下,政策制定者才可对其进行资助或部署。该原则同样适用于禁止私人和政府数据库之间的链接。其二,立法应要求公共机构严格审查生物识别技术的偏见、隐私和民权问题,并在使用之前征求公众意见。但凡有意愿部署这些技术的机构,应该进行正式的算法影响评估 (Algorithm impact assessment,“AIA”)。其三,政府应出面解决科技公司利用商业保密法保护自己免受公众监督的法律 “黑匣子”。其四,技术工作者本身已成为一种强有力的问责力量,应为技术公司员工提供更好的举报保护,以确保其他三项原则正常运作。除此之外,微软副总裁Brad Smith于2018年12月17日在布鲁金斯学会的会议演讲中也明确提出了微软在人脸识别技术应用的 “六项原则”,即公正、透明、负责、非歧视、告知和同意以及合法监控。亚马逊公司也主张应负责任地应用面部识别,面部识别不应该以侵犯个人权利 (包括隐私权)的方式使用,或者对需要人为分析的场景做出自主决策。所有这些均体现了个人信息保护的基本精神——对人的尊重。〔48〕同前注 〔29〕。

习近平总书记在中央政治局以 “网络强国”为主题的学习中指出:“随着互联网特别是移动互联网的发展,社会治理模式正从单向管理转向双向的互动,从线下转向线上线下融合,从单纯的政府监管向更加注重社会协同治理转变。”〔49〕《习近平在中共中央政治局第三十六次集体学习时强调 加快推进网络信息技术自主创新 朝着建设网络强国目标不懈努力》,载人民网,http://politics.people.com.cn/n1/2016/1010/c1001－28763755.html,2020年6月14日访问。概言之,从政府层面规制人脸识别技术的确更为有力,但企业也应充分发挥行业自治的功能。相关企业在使用并制定人脸识别技术和数据的相关政策时不妨考虑一套可以兼顾为收集、使用人脸识别数据提供保护,以赢得用户信任的原则体系。例如用户同意、数据合规使用、透明性、数据安全保护措施、隐私设计、准确性和用户权利和问责制度等原则。〔50〕同前注 〔5〕。

3.法律层面:充分发挥法律评价和指引功能

对于工业社会过度发展而引发的新型社会问题,传统的社会治理体系显得孤立无助,这便是法律的确定性与风险的不确定性发生了背离。〔51〕参见吴汉东:《人工智能时代的制度安排与法律规制》,载 《法律科学》2017年第5期。科技发展是 “第一性”,法律是 “第二性”的。法的 “第二性”原理是法律调整社会生活中已经发生的现实,第二性的法不应该直接干预、影响甚至抑制第一性科技发展。〔52〕同前注 〔13〕。人脸识别的本质是一种中立技术,所以立法过快回应甚至采取 “一刀切”的禁止方式均可能会错过技术创新的黄金期,〔53〕参见蔡士林:《“深度伪造”的技术逻辑与法律变革》,载 《政法论丛》2020年第3期。故而应在现有刑事法律体系中寻求答案。

整体而言,基于现有国际社会的通行规范策略和法律规范经验,人脸识别在法律层面的规范路径主要应遵循合法性原则与比例原则这两项传统法律规范工具。基于合法性原则,规范我国人脸识别技术首先应当解决的问题是增补相应的法律依据。如前文所述,此次民法典在第1019条通过立法的方式在权利保护的技术层面对滥用信息技术手段侵犯肖像权的情况进行了禁止性规定,此条款也被视为现阶段肖像权保护的根本性条款。至于比例原则,则不妨结合个人信息自主权的理论对我国人脸识别技术进行规范。基于隐私所具有的不愿被他人知晓的特性,人脸不属于隐私而属于个人信息。因此,根据个人信息自主权的理论以及民法典第111条和第1034条关于 “自然人的个人信息受法律保护”的相关规定,人脸识别技术在启动之前,理应经过当事人的同意且建立在其充分知情的基础上。即便获得了当事人的同意,也只是非概括性的、针对特定时空下的识别,绝不是概括性的、允许任何时候的识别;其次,当事人的同意只是基于特定的目的,不能用于其他的目的。〔54〕王锴:《人脸识别在治理领域的应用与规制》,载人民论坛网,http://www.rmlt.com.cn/2020/0611/58337 1.shtml,2020年6月14日访问。暂且不论这一理想化场景的现实可行性,仅就公共部门而言,法无授权即不可为。如果政府是人脸识别信息的收集主体,那么需要法律明确予以授权,即目的正当性。在符合了目的正当性的同时,也应注意兼顾手段的正当性,防止技术的滥用。这是因为对个人而言,其生物识别数据个人指向性更为明确,也显然比一般的个人信息更为重要。对此,我国民法典不仅专设 “隐私权与个人信息保护”一章,并且在第1039条中规定,“国家机关、承担行政职能的法定机构对于履行职责过程中知悉的自然人的隐私和个人信息,应当予以保密,不得泄露或者向他人非法提供。”

结 语

历史告诉我们,一旦一项技术变得无处不在,即使安全问题还没有得到充分解决,人们也开始学着去接受它。〔55〕同前注 〔10〕。无论是本文所讨论的人脸识别技术还是其他新型科技,既有规范显然已经跟不上科技进步的步伐。在法律体系尚未成形、潜在隐患未得到评估之时,很多西方学者建议让技术使用的速率降下来。AI Now 研究所联合创始人Kate就曾发文呼吁,在相关的法律机制形成之前,人脸识别技术的使用应当暂缓。类似地,英国数据保护机关专员Elizabeth Denham 在一篇博客中也建言英国警方,不要过早过快地信任和使用新科技,否则会对国民的合法生活造成过度地侵犯。〔56〕同前注 〔40〕。

2019年6月,我国 《新一代人工智能治理原则》正式发布,在提出对人工智能治理的框架和行动指南的同时,呼吁发展 “负责任的人工智能”,即技术的发展应该符合人类的价值观和伦理道德,避免误用,禁止滥用、恶用。〔57〕朱宁宁:《让人脸识别应用以 “必要”为限》,载法制网,http://www.legaldaily.com.cn/IT/content/2019－11/12/content_8044235.htm,2020年6月14日访问。同样,面部识别技术的初衷也是为了便利人们的生产生活。因此,在法律的框架下,我们也应该对人脸识别技术的大规模使用提出 “必要性原则”“比例原则” “正当程序原则”,甚至在某些特殊场景下考虑设立禁用 “黑名单”制度,用制度的刚性来确保 “科技向善”。〔58〕同前注 〔13〕。