他用AI换脸技术瞒天过海
2024-12-31 00:00:00胡俊君阮婷
检察风云 2024年24期
为确保网约车辆规范运营，一些出行平台通过人脸核验等技术对司机开展身份验证，在确保人车一致后再派单，因此网约车司机只能注册本人实名的账号接单。然而，为了实现登录他人账号或者使用多个账号接单，一些不法分子滥用技术，为用户提供专门性的工具用于规避平台监管措施。
近日，静安区人民检察院办理了这样一起提供侵入、非法控制计算机信息系统程序、工具案，刘某某为牟利，应他人要求改装手机，利用AI换脸技术帮助网约车司机避开平台人脸验证，实现随意注册和接单。
一台专门定制的接单手机
陈某某系一名网约车司机，因违规接单其账号被平台封禁。某日，陈某某在搭乘网约车过程中，发现该司机竟然能同时使用多部手机接单，经交谈后才得知原来对方使用的接单手机“内有玄机”。据该同行说这台接单的手机是其找人“专门定制”的，内部安装了一款特殊软件，一旦平台开始验证身份，只要点击确定，手机后台就会自动播放预先准备好的AI视频进行识别验证。陈某某正愁没办法接单，于是在对方的“推荐”下也租借了该款“定制”手机。
2023年11月，平台公司在日常巡查中发现部分账号的人脸识别视频存在异常，怀疑有人利用AI换脸技术进行实名认证，严重影响平台信息系统安全，遂向上海市公安局静安分局（以下简称“静安公安分局”）报案。经进一步侦查，侦查人员发现涉案司机所使用的定制手机系犯罪嫌疑人刘某某制售的，手机内置一款经过改装的“虚拟相机”应用程序。2023年12月13日，刘某某被侦查人员抓获。
2024年3月18日，静安公安分局以非法获取计算机信息系统数据罪将刘某某移送静安区人民检察院审查起诉。在收到案件后，承办检察官结合相关微信聊天记录，围绕手机程序如何运作问题对犯罪嫌疑人刘某某进行针对性讯问，并依托专业鉴定机构对涉案程序的运作原理进行鉴定。
据刘某某交代，他原先在某电商平台经营一家网店，专门为无人直播提供虚拟相机软件及远程调试服务。2023年7月，有人主动联系其询问店铺里售卖的虚拟相机软件能否通过某网约车平台的人脸识别技术。经一番交谈后，刘某某得知对方系网约车司机，因为账号被平台封禁遂想借用他人身份注册账号接单，但在此之前刘某某并未提供过类似的服务，称需要时间进行调试，对方当即表示愿意付费进行测试。
随后，刘某某根据对方提供的网约车账号、人脸验证样本视频、图片等素材，对手机进行刷机并安装相关“虚拟相机”的应用程序，后再结合AI换脸技术将上述图片和视频素材制作合成一段虚假动态验证视频上传，同时通过修改“虚拟相机”应用程序参数的方式，顺利将数据源更改为上述AI合成的验证视频。
就这样经过几次测试后，这部安装了“虚拟相机”程序的手机在遇到平台人脸识别时，摄像机就会自动调用后台预先合成的动态验证视频，实现无真人验证即可登录他人网约车账号，非法获取系统派单。此外，刘某某要求对方提供清晰、不同角度的人脸替换素材，这样做的目的是提高AI合成视频的“真实性”，提高验证通过的成功率。同时，为确保测试结果稳定性，其还使用该手机在多家网约车平台进行测试，结果无一例外都通过平台人脸识别。因上述改装的软件只能在测试手机使用，于是双方经商议后，刘某某决定在手机安装好所需软件，在调试成功后直接将手机出售给对方。
帮助他人逃避人脸识别构成何罪
经审查查明，2023年7月，刘某某应他人要求改装手机，通过修改“虚拟相机”应用程序，劫持手机内相机服务，实现无真人认证即可通过人脸验证、登录他人某平台账号并获取网约车订单的功能。刘某某陆续向他人有偿提供装有上述应用程序的手机11部，违法所得人民币1万余元。
那么对于刘某某制售“改装手机”帮助他人逃避某网约车平台人脸识别监管行为究竟该如何定性？承办检察官认为刘某某的行为构成提供侵入、非法控制计算机信息系统程序、工具罪。本罪指的是自然人或者单位提供专门用于侵入、非法控制计算机信息系统的程序、工具或者明知他人实施侵入、非法控制计算机信息系统的违法犯罪行为而为其提供工具、程序，情节严重的行为。由于涉及计算机类犯罪存在技术门槛，具备相关技术能力的人员制售、提供用于侵入、非法控制计算机信息系统的程序、工具，将造成此类犯罪蔓延，严重侵犯国家对计算机信息系统的管理秩序。
根据法律规定，本罪有两种行为类型，一种是提供专门用于侵入、非法控制计算机信息系统的程序、工具（以下简称“专门工具”），无论他人是否利用该专门工具实施犯罪行为，提供者都构成犯罪；另一种是提供其他程序、工具，同时要求提供者明知他人要利用该工具、程序实施与计算机信息系统相关犯罪，此时提供者才构成犯罪。
承办检察官认为，结合相关司法解释对专门程序、工具作出的细化规定，本案装有“虚拟相机”应用程序的手机可以认定为专门程序、工具。一是从功能上看，涉案虚拟相机程序具有避开计算机信息系统安全保护措施，未经授权侵入、非法控制计算机信息系统的功能，即避开某平台进行人脸验证的安全措施，以他人账号非法获取系统派送网约车订单，使得平台身份核验的功能受到干扰。二是从违法性层面，涉案程序功能用途单一，系嫌疑人刘某某进行刷机、对相关程序进行修改并针对某平台应用进行测试、设计，明显有别于“中性工具”，系专门程序、工具。故刘某某制售的手机属于“专门用于侵入、非法控制计算机信息系统的程序、工具”，符合《中华人民共和国刑法》第二百八十五条第三款之规定，应当以提供侵入、非法控制计算机信息系统程序、工具罪追究其刑事责任。
2024年9月24日，静安区人民法院判处被告人刘某某有期徒刑1年，缓刑1年，处罚金人民币5000元。没收其非法所得及查获的犯罪工具。一审判决后刘某某未上诉，现判决已生效。
人工智能技术飞速发展，为经济发展注入巨大动能，也给人们日常生活带来诸多便利。但技术是一把“双刃剑”，与传统犯罪相比，利用数字信息技术实施的犯罪具有专业、隐蔽、复杂特征。下一步，静安区人民检察院将充分发挥检察职能，始终坚持惩防并举，源头治理理念，依法惩治危害网络安全、数字安全犯罪，在持续加强全链条打击力度的同时，强化“四大检察”融合履职，深挖此类犯罪的规律特点，会同相关职能部门完善常态化治理机制。
编辑：沈析宇 175556274@qq.com
