人工智能的暗黑秘密？对数据的需求没有边界

Bart Perkins 陈琳华

人工智能革命渴望获得个人数据。在机器智能和监视活动出现交集之前，美国政府需要遵守联邦隐私立法。

人工智能可能会通过多种方式为人类提供帮助。无人驾驶汽车和智能基础设施有望通过让人们在城市的移动变得更加便捷来减少拥堵;经过改进的诊断和治疗正在增加人类的寿命;在企业中，人工智能可以帮助优化招聘决策，让工厂更加安全，实现日常任务的自动化，生成更为客观的绩效评估，并帮助企业更好地了解他们的客户。

新的工具正在不断涌现。亚马逊已经获得两项手环专利，可以跟踪工人填写订单时和装箱时的手部动作。手环使用射频来精准地跟踪手部的运动，当检测到低效运动时，手环会通过振动指导工人的手部在正确的方向运动。Humanyze研发了一种社交徽章，可以追踪员工在办公室中的活动进而从中分析员工与同事之间的互动交流情况。欧莱雅的UV Sense可追踪佩戴者暴露在紫外线中的情况，然后将数据发送到她们的手机上。Cogito可以在客服代表接听电话时监测她们是否急客户之所急。

不幸的是，要想充分实现这些工具的优势需要大量数据，这些数据也使得对消费者和员工的监控变得更加容易。中国的社会信用体系于2014年启动，预计到2020年全面投入运行。该系统为创建个人档案汇总了支付历史、医疗信息、法律记录以及其他数据。主要城市也都安装了大量的摄像头。

在隐私层面上，We-Vib曾经销售了一款可以通过智能手机控制的蓝牙振动器。2017年，We-Vib尽管没有承认犯有错误，但是还是同意支付375万美元来解决一场集体诉讼，该诉讼认为We-Vib收集了有关性玩具使用频率和使用方式的数据。

确实，大量数据以人们意想不到的方式在让社会受益。2018年4月，Joseph DeAngelo被指控为金州杀手，涉嫌从20世纪70年代和80年代开始犯下了一系列谋杀与强奸案。在方便个人研究家族族谱的网站上，警方将嫌疑人的遗传图谱与网站上的基因图谱进行了对比。最终，警方确定了一个群体与犯罪分子有着相同的遗传物质，并根据年龄、性别以及他们居住的地方排除了一些人。在确定了DeAngelo为犯罪嫌疑人之后，警方从其丢弃的垃圾中提取到了他的DNA，发现与犯罪现场提取的样本相符。

虽然这些基因数据库帮助警方破了数十年的陈年旧案，但是该数据库的使用引发了人们对隐私问题的担忧。很少有人会向存储库提供遗传数据，并希望执法部门对该数据文件进行审查。提供者可能没有意识到自己的行为可能会导致政府掌握那些不同意公开遗传信息的亲属的相关信息，有的亲属甚至不知道家族的遗传信息已经存储在了数据库中。

如今，全球的隐私问题正日益严重。2018年5月，欧盟实施了全面的隐私保护规则，即通用数据保护条例（GDPR）。其他国家也正在进行立法。为了保护数字隐私，加拿大提出了国家网络安全战略。印度的个人数据保护法案的重点是人工智能道德、个人隐私、安全和透明度。它们由一个独立的监管机构监督，并对违法行为进行严厉处罚。据联合国统计，目前已经有一百多个国家出台了数据保护和隐私法。尽管如此，联合国也承认许多立法最近没有进行更新，并且不够强大，不足以让公民相信自己的隐私会得到充分保护。

2016年，许多亚马逊、苹果、Facebook、谷歌和微软的工程师、设计师和其他员工越来越担心他们发表的名为Never Again（到此为止）公开信的监管力。这个名字涉及IBM在第二次世界大战期间扮演的不光彩角色，其利用穿孔卡片和卡片分类技术帮助美国政府管理对日裔美国人的拘禁，以及帮助纳粹追踪大屠杀的受害者。Never Again公开信的签署者承诺拒绝建立任何数据库，以帮助美国政府收集有关个人宗教信仰的信息，因为他们担心此类数据库可能导致大规模的驱逐出境行动。

在2018年10月召开的布鲁塞尔国际数据保护和隐私委员会会议期间，苹果首席执行官蒂姆·库克表达了他对“数据工业综合体”的担忧。他警告说，对个人数据的收集和综合正在创建一个“永久性的数字档案，它们会让企业比你更了解自己。”为此，他支持GDPR并呼吁美国出台相应的隐私立法。

隐私监管的7项原则

库克是对的。现在是时候让美国跟随其他国家制定数字隐私法了。新法规至少应包括以下原则。

1.尽量减少对数据的收集

数据收集应限于手头任务所需的数据。可能在某天会派上用场的额外数据应当被限制收集。个人身份信息应被从用于分析的数据存储中删除。

2.数据收集行为应告知用户

在收集数据时应告知用户，同时告知用户这些数据将被如何使用。个人应当能够决定是否允许在每个活动期间被采集数据。浏览器和网站的条款应当简单并便于理解，以便消费者能够快速做出决定。

3.允许个人访问自己的数据

个人应該能够复制自己的数据并纠正或删除不准确的个人数据。当前，在一些企业中，更正几乎是不可能的事情。最近一位同事试图更新自己的信用报告，将住址更改为新的门牌号。因为她发现开发商变更了街道地址的最后一位数，但是信用部门拒绝修改该条目。

4.实现决策透明

人工智能正通过法律、招聘、大学录取等决策对个人生活产生越来越大的影响。由于人工智能是通过大量的规则来使用海量数据，因此人们通常无法理解人工智能引擎是如何得出结论的。虽然在玩游戏时，人类是否理解人工智能引擎的逻辑并不重要，但是在偏见或意外可能会影响最终结果的情况下，这是不可接受的。

Equivant工具可预测被告人犯下新罪行的可能性。因此在量刑时，使用该工具的法官通常会对高风险评估的被告人更加严厉。不幸的是，由于评分机制具有专属性，因此被告人无法质疑自己的风险评估分数。

ProPublica为一家公益新闻调查机构，其在2013年和2014年对佛罗里达州布劳沃德县的7000名被告人进行了分析。ProPublica将这些被告人在接下来的两年内实际犯下的新罪行为与Equivant的预测进行了比较。他们得出的结论是，Equivant的风险评分并不可靠。该工具预测黑人被告未来重新犯罪的可能性是白人被告的两倍，但是这一预测并不准确。不过，Equivant对此并不认同，他们认为ProPublica的方法存在缺陷。毫无疑问，对个人生活具有如此重大潜在影响的量刑工具需要高度的准确性，并需要有合理的逻辑支撑。

5.确保数据安全

每个收集和存储数据的实体都需要确保数据安全，防止被不适当地访问。万豪酒店和Quora网站最近为一连串的数据泄露事件再添两起，这些事件已导致大量的用户受到影响。

6.强制合规

积极执法并从重处罚对于新法规的效力至关重要。主要的技术公司赚了很多钱，轻微的处罚对于他们来说可以当作业务成本被忽略掉。

7.制定国家法律

新的美国隐私法应涵盖所有收集个人数据的企业，而不仅仅是技术公司。此外，还需要联邦立法，否则其他州将遵循加利福尼亚州做法，制定自己的州法律，届时各个州的法律可能彼此间冲突。

立法对企业的影响

新的隐私法规将迫使一些企业重新考虑自己的商业模式。今天，许多消费者会提供个人数据，以换取免费使用搜索引擎、社交媒体和其他一些工具。关注隐私的消费者可能更愿意支付少量费用以换取真正的匿名。虽然目前理论上可以实现在浏览网页时不留下任何痕迹，但是大多数消费者发现如果没有熟练的技术人员的帮助，根本就不可能实现匿名。

办公室需要进行仔细规划并做出一些妥协，以平衡企业部署新工具的需求和员工保护个人隐私的愿望。新的法规可能会造成员工被迫同意数据被收集的情况。根据新法规中的表述，许多现有工具可能会生成一些被视为个人信息的内容，如果员工拒绝跟踪，那么可能导致工具无法使用。

毫无疑问，遵守新法规会迫使企业更加谨慎地处理员工数据。主管访问权限可能仅限于与个人绩效直接相关的员工数据，分析工具仅可使用匿名数据。运营良好的企业可以为希望提高绩效的员工提供独立指导。

人工智能带来了许多好处，同时还将为我们提供了一些目前无法想象到的其他好处。与所有新技术一样，它们可以用来造福人类，也可以被滥用。当我们解决了如何确保所收集的数据不被用于不适当的监视时，或许Scott McNealy在1999年说过“你没有隐私，忘掉这件事吧”的断言才不会变成真的。