时代课题：AI语境下的隐私保护

钱世超

AI技术的大量采用存在法律风险

在AI应用中有效保护个人隐私

所谓AI，就是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门科学。其主要应用领域包括：机器视觉、指纹识别、人脸识别、视网膜识别、掌纹识别、专家系统、自动规划等。

中国很重视AI的研究与应用，目前已将其上升为优先发展战略，初步确立了AI发展的领先地区，例如上海。中国的几个特大城市，在计算机视觉、语音语义识别、脑智工程等领域都有了深入的研究和应用。

如果是在5年前，人们或许不会对自己的个人信息如此敏感。但在AI技术被广泛应用于个人信息的采集、存储和应用后，例如人脸特征、指纹特征被用于电子支付、身份认证等，使得个人特征信息变得比货币更为重要。如今，人们通过网络上传一张自己的照片，在无滤镜、无修改的情况下，都难免会有所顾虑——如果这些信息被所谓的“数据采集公司”收集并泄露，其风险之大是令人难以预估的。

目前，AI不仅已经在工业领域有了广泛的应用，而且开始在社会管理中得到广泛应用。有些应用是在人们不知不觉中进行的。这些应用确实方便了社会管理，但由此引发的个人特征信息泄露、隐私泄露问题也令人担忧。比如由于指纹识别技术的应用，很多手机在其功能实现的过程中广泛采集个人指纹;银行也会采集个人指纹;某些区域、机构（例如旅游景点）则利用指纹进行身份识别。

指纹是每个人不可更改的终身识别信息，这种信息被技术系统采集后，如何保管、如何防止泄露，值得我们好好思考。目前手机几乎覆盖了所有的人群，采集指纹已经是一种非常普遍的现象，这会派生出一个巨大的指纹数据库，如果没有采取严格的管理措施和保护措施，一旦有信息泄露，其后果难以想象。

再比如人脸特征识别技术，现在已经被广泛应用于银行、机场、海关、交通管理甚至居民区管理等领域。AI系统采集的人脸特征信息如何保管、如何防止泄露，也是值得我们思考并尽快采取措施加以应对的重要问题。

还有手机定位功能，它可以将每个人的活动轨迹准确定位和记录，这些信息明显属于个人隐私，一旦泄露并掌握在某些有不良企图的人手中，将会对个人的人身、财产及隐私安全造成严重后果。

将AI作为重点发展方向，这个决策是十分正确的。但在AI的开发及应用方面，一定要考虑如何防止个人信息泄露、如何有效保护个人隐私以及如何保护每个人的尊严。这些问题如果不及时考虑并采取措施应对，将会产生难以想象的后果，于国于民都会造成巨大损失。

避免造成“透明人”的幾点建议

AI技术如果应用得好，定会造福国家与社会，但涉及个人隐私的大数据一旦泄露，每个人都有变成“透明人”的危险，感到自己好像“赤裸于这个世界”。这既伤害个人尊严，同时也会给不法者以可乘之机，对国家和社会产生危害。

人们生活在高科技加持的城市中，一定要有安全感。如果有人感到自己是“透明人”，时刻都处在别人的监视之下，那么自然很难有安全感。因此，我们建议在AI技术应用领域，一定要将个人的尊严感和安全感放在重要位置，绝不能因为便于城市管理而牺牲个人的隐私权益。因此，AI技术中的定位、人脸特征识别、指纹识别等技术，一定要慎用。

我们建议政府加快解决AI时代存在的个人信息泄露问题，及时制定出台相关规定，严格限制对个人信息进行采集的单位、行业和采集方法，建立个人特征信息采集的许可制度，规定哪些单位和行业是可以采集个人信息的，哪些单位和行业是不被允许的，并严格执行，一旦发现违规采集者，就给予严厉处罚。

建议政府尽快采取措施，制定对个人信息实施保护的方法，制定严格的防泄露措施和使用规范，明确规定哪些社会管理领域可以应用个人特征信息，哪些领域不能使用这类信息。绝不能让个人信息的应用遍地开花，绝不能为了不必要的高效率而放任对个人信息的滥用。防止个人信息的泄露，保护好每个人的隐私和尊严。

特别建议城市交通管理领域，不要轻易采用人脸特征识别技术，因为一旦采用，看似可以让这个城市的每个人快速形成规范的交通意识，但这将使每个人感觉自己处在监视之下，处于“透明状态”，这有一定的危险。培养交通守法意识，最终靠的是每个人文明程度的提升，而不能只依赖技术手段进行约束。

我们还希望能够有专门针对人脸识别领域的规范条例出台。虽然我国《网络安全法》明确将个人生物特征信息纳入个人信息范围，但对于信息的使用、存储、传输、管理仍要进一步细化。很多人就此呼吁，相关部门应组织专家学者，对人脸识别技术在现实运用中的安全隐患、隐私风险等予以评估，建立行业标准和国家标准;探讨建立相应的监管制度乃至立法，规范人脸识别的信息采集与运用程序和隐私边界。比如，哪些领域可运用人脸识别技术，哪些领域禁止运用，该如何保障公众的知情权、选择权、同意权与信息安全，若有个人信息遭到泄露，如何予以应对和惩处。

关于AI时代公民个人信息的保护，可以从两个方面考虑：一是对于公民自身来说，我们不能对其期望太高，不能把责任完全压在公民个人身上。在这方面，加强宣传不仅很重要，而且也很急迫。

在一些与个人信息泄露有关的案件中，犯罪嫌疑人对侵犯公民个人信息的行为并没有充分认识，甚至完全没有概念。因此，司法机关和媒体需要进行宣传，以避免或减少此类事件的发生。司法机关在办案中可以通过检察建议、司法建议等方式，从法律角度向公众提示风险;可以通过新闻发布会或发布案例等方式，面向社会加大宣传力度。此外，长效的防范还要依靠社会公众一起参与，这是预防的重点。当前，民众对于个人信息保护的意识还比较薄弱，要加强这方面的宣传、教育和引导。

二是要对行业进行有效的规范。相关行业往往可以便捷且大量地获取公民的个人信息，AI加持的高科技手段加剧了这一状况，使行业企业成为信息的主要泄露源。因此，要充分管紧并抓好行业规范这个重点。目前一些网络违法犯罪的防范，并不专门针对侵犯公民个人信息罪或网络诈骗罪，而是一个体系化、全面化的防范体系。

公民个人信息涉及社会的方方面面，公检法机关固然要发挥重要作用，但其根源还在于行业规范的成熟和完备，以及行业协会的监管和预防。这当中少不了运营商、金融机构、银行以及相关的互联网行业协会、互联网头部企业等的参与。首先要想办法将内部的防范体系建好，把数据资源的出口守好;其次，行业内部的从业人员，从其入职培训开始就要加强信息保护意识的培养。