数字社会的法治构型

□ 郑 戈

智慧城市、智慧街道、智慧政务、智慧公安、智慧法院、智慧检务已经成为我们的日常词汇。“智慧”这个高于知识、高于技能的人类精神世界的最高境界，如今被我们赋予了机器。以上所有这些热点词汇中的“智慧”二字，都是指机器智能（或称“人工智能”），而不是人类智能。在越来越依靠机器智能来体现人类社会“智慧”水平的当下，人的价值和尊严如何体现？机器越来越智能，人类越来越愚蠢，这就是我们所能期待的未来吗？ 实际上，只要我们真正了解了这些“智慧”规划背后的政治经济和技术逻辑，就会发现：机器远远不像许多人所想象的那么智慧。“人工智能”从根本上讲是一种计算统计技术，它的核心功能是从海量数据中找出隐藏的模式和规律。只不过，大数据时代之前的统计学操作只能基于有限样本，而万物联网却使得“全样本”统计分析变得可能。这种分析如果被用于科学研究、公共卫生、人口普查等事关公共利益的领域，将为人类带来巨大的福祉增益。然而，由于目前的大数据掌控者主要是互联网平台企业，它们追逐利润的商业行为一方面为我们带来了不容置疑的便利，另一方面也带来了一系列风险、焦虑和实际损害。技术从来不是中立的，它总是特定的人为了特定的目的而运用科学知识的结果。因此，技术本身的发展方向和可能形态总是受制于特定社会的伦理和法律。所以，一旦我们的目光穿透了“智慧”修辞的迷雾，看到了它背后活生生的人，他们的动机和行为，便可以思考如何通过法律来引领技术发展方向、防范技术风险，使技术服务于人类美善生活这样的问题，而不是陷入决定论和宿命论的泥沼。法国思想家雅克·艾吕尔指出：技术具有其自身的自治性，它仿佛控制着自身的发展节奏和方向，它不受任何除效率以外的价值的约束。“智慧”技术实际上就是数字技术，它已经渗透到我们社会生活的方方面面。下面我就从数字经济和数字生活两个方面来勾勒一下我们身处的数字社会的基本特点，然后在第四部分勾勒出这个社会所需要的法治环境的基本轮廓。

一

以互联网和数字技术为媒介的经济形态有很多不同的名字，从数字经济、平台经济、共享经济到零工经济和注意力经济。每一个名称都呈现出它的一个基本特征。20 世纪70年代末，尼古拉斯·尼葛洛庞蒂（Nicholas Negroponte）领导的麻省理工学院媒体实验室提出了产业融合理论（industrial convergence theory），指出在未来20年，数字化技术的迅猛发展将带来信息通讯、 内容服务和计算机产业的深度融合。这在如今已经变成一个基本的社会事实。今天我们所身处的社会环境是一个遍布式计算的环境，我们每个人随身携带的各种可穿戴智能设备每时每刻都在把我们的地理位置数据、网上搜索数据、购物数据、订票数据乃至心跳数据等等个人数据上传到某个服务器，这些海量的数据成为数字经济时代最宝贵的资源，为掌握这些数据的平台企业创造着巨额的财富。但数据是如何转化为财富的呢？

哥伦比亚大学法学院教授吴修铭（目前也是美国总统科技与竞争政策特别顾问）写过一本书，书名叫《注意力商贩》，核心观点是：当我们使用各种网络社交媒体的免费服务时，我们不是用户，而是产品。这些平台会提供各种免费的服务，从日常生活轨迹分享到小游戏，目的是吸引我们的注意力，让我们花更多的时间在上面，生产更多的数据，而这些数据就是让它们赚钱的产品。由于这种商业模式是如此普遍，以至于成为了我们所处的“数字社会”的日常组成部分，所以当下最紧迫的问题不是讨论它是好的、坏的抑或是“必要的恶”，而是用法律去规制它，限定它的应用场景（where）和时间（when），正像广告法对广告的限制那样。

强调数字经济的基本商业模式是通过吸引用户注意力来获取和利用数据，并不是吴修铭的原创观点，这实际上是不代表商业利益的中立学者的共识。吴修铭的洞见在于直接将这种商业模式的核心要素定位到广告。许多人之所以没有意识到这一点，是因为这种商业模式的广告本质被技术、算法和一整套天花乱坠的营销叙事给掩盖了。

就其实质而言，作为平台经济核心叙事的“完美个人化”或“量身定制”其实是一种广告或营销手段。早在我们全面进入网络社会乃至数字社会之前，广告业已经脱离了单纯为产品或服务做广告的阶段，而发展出所谓的“生活方式”广告，试图通过鼓吹消费某些产品或服务可以提升人的档次或阶层来诱导消费。互联网极大地便利了这种广告形式的传播，而大数据和数据分析技术则使得精准定位目标消费群体变得更加容易。到了物联网和平台经济阶段，广告则呈现出弥散化、 互动化、隐形化的特点。一方面，广告商越来越多地以软文、 视频植入和直播带货的方式来影响目标消费者的购买意愿，比如B 站上有一段某知名学者的讲座视频，广告商会将它截取下来，嵌入某个小程序中，加上一个吸引眼球的标题，并在里面植入自己的广告。“标题党”本身虽然不一定是营销界的发明，但却是它最常用的策略。这种将广告、新闻和知识内容混杂到一起的营销方式对内容受众形成了严重的误导，混淆了知识和广告，让人们误以为消费某种商品或服务是专家的意见，甚至是某种真理。另一方面，许多消费者自愿加入到广告商队伍里来，免费为某些商品或服务代言，以显示自己懂生活、有品位或格调高雅。比如小红书、快手、抖音上活跃的大量美妆、时尚、美食博主。在这样的背景下，“行为预测”与“行为诱导”交织到一起，营销目标变成了自我实现的预言，人的“意思自治”和主体性被消解了。

把基于人工智能技术的个性化服务归结为与推销“脑白金”或“小罐茶”并无本质区别的营销术，可能会让很多人感到惊讶。但一组数据胜过千言万语。根据今年8月份的统计数据，脸书每天的活跃用户已达到18.8 亿，这些用户平均每天打开那个蓝色图标的APP 八次，而脸书的美国用户平均每天花在脸书上的时间超过34 分钟。脸书上共有超过1000 万广告商，它们2020年为脸书贡献了840.169 亿美元的广告收益，占脸书当年总营业收入（859.65 亿美元）的97.9%。同样，今年初，微信创始人张小龙分享了一组关于微信使用的数据：每天有10.9 亿用户打开微信，有7.8 亿用户进入朋友圈，1.2 亿用户发布朋友圈，他们会上传6.7亿张照片，1 亿条短视频。点开这个绿色界面的APP，可以在里面完成社交、娱乐、消费等一系列日常活动。张小龙没有提到广告收入。但我们可以很容易查询到，腾讯2020年的总营收是4820.64亿元，其中广告收入823 亿元。广告收入虽然也很可观，但占比只有17%。看起来，腾讯的业务结构更加多元化，比如游戏收入达到1561 亿元，占比32%。但其实这只是把吸引用户注意力的生产性投入也拿来赚钱。腾讯旗下的PUBG（绝地求生）和王者荣耀两款游戏在2020年的全球营收都在25 亿美元左右，分别是全球最赚钱游戏的第一和第二名。

“完美个人化”听起来的确很吸引人，谁不希望拥有为自己量身定制的产品和服务呢？ 但完美个人化所通向的目标其实是标准化，因为无法规模化的操作都无法成为成功的商业模式。借助能够高效率地找出统计学规律的算法，平台企业通过识别、分类和评价将用户贴上各种细分的标签，从而完成市场细分意义上的精准广告投放。这种商业策略既不是完美的，也不是个人化的，但却是规模化的，因此是商业上成功的。

二

从表面上看，这样的数字化生存环境为个人带来了极大的便利，也凸显了用户的尊严和地位。用户成为数字社会的宇宙中心，促生了“唯我独尊的一代”（me-generation）。一个手持智能手机的个人可以一键满足自己的所有需求，从衣食住行到游戏娱乐。数字时代商业图景中的用户是一个个理想化的、 原子式的、 自我管理的新自由主义主体。但这种叙事其实是资本所讲述的故事，是股市中各种故事股或题材股用以说服“韭菜”的神话，它掩饰了背后的生产和分配关系。用苹果公司总裁蒂姆·库克（Tim Cook）的话来说，当你使用网上的各种“免费”服务的时候，你不是用户，而是产品。你的各种个人信息就是你所生产的东西，而平台愿意用各种免费的内容（包括小游戏）来吸引你的注意力，因为这样其实是在诱导你延长自己的生产时间。因此，这种经济形态又被称为“注意力经济”。对此，网飞（Netflix）总裁里德·黑斯廷斯（Reed Hastings）有非常经典的表述：“我们实际上是在和睡眠竞争，而且我们正在节节胜利。”在网飞及其投资者眼中，它的市场就是全世界人们醒着的时间。

2021年10月28日，扎克伯格宣布将Facebook 改名为Meta，提出要把这家人们眼中的社交媒体公司转型成一家“元宇宙”公司，以沉浸式体验、具象化的互联网和深度在场感来将人们的“线上生活”带入一个新的境界。此后，“元宇宙”成为新的资本故事和舆论热点。顺着上文的思路，我们很容易发现这是“注意力经济”的另一种版本，是将人们的精神世界带离“繁星密布的苍穹和心中的道德律” 而沉浸于虚拟现实技术所营造出的网络空间的商业设计，必将进一步削弱人的主体性，强化“元宇宙”公司获取、利用和操控用户行为数据的能力。此外，这还是扎克伯格更大野心的组成部分：在发行加密数字货币Libra 失败之后，Facebook 已经将Libra 计划降维成限于平台内使用的Diem 币，但元宇宙计划实际上又为Diem 找到了一个更大的空间： 你不让我发行超越主权国家发币权的数字货币，我就把线下世界吸进我的线上世界（也就是元宇宙）。如今，我们已经看到“元宇宙”炒房热、NFT（非同质化代币）被炒出天价等现象，这些交易都是用加密数字货币来完成的。未来，我们可以设想元宇宙的用户用包括Diem 在内的加密数字货币在元宇宙买一块地皮，再用这种“货币”购买建筑材料来修建一栋别墅，然后再把用这种“货币”高价购得的NFT 艺术品挂在别墅的墙上。当人们把越来越多的时间花在元宇宙所提供的越来越丰富的体验上的时候，元宇宙的老板们就成了整个世界真正的主宰。

注意力经济的商业模式对我们的日常生活产生着巨大的影响。首先是我们把越来越多的醒着的时间花在微信等平台企业设计出的APP 上，其中最成功的几个整合了各种各样的服务，从新闻、娱乐等内容服务，游戏、视频等娱乐服务，到购物、支付等消费服务。其次是这些APP 会尽可能多地获取用户的个人信息，超出为用户提供其需要的服务所必要的范围，这是它的内在逻辑所决定的。为此，学者祖波夫（Shoshana Zuboff）专门发明了“监控资本主义” （Surveillance Capitalism）一词，她在以此为题的一本畅销书里将数字经济的基本形态概括为通过捕捉和利用 “行为剩余”（behavioral surplus）来获取超额利润。她以谷歌为例，指出行为剩余就是用户所提供的超出谷歌为其提供所需服务的那部分注意力和这种注意力转化成的行为数据。在使用谷歌的“免费服务”的过程中，“我们变成了谷歌的预测工厂从中提取和开发利用原材料的客体”。像谷歌这样的大型平台企业雇佣了市场上绝大多数的优秀数据科学家和人工智能专家，她们的集体智慧“旨在洞开人类经验的大门，将其转化为数据并创造成一个新的巨无霸市场，这个市场通过预测、影响和控制人类行为来创造财富”。第三，也是最潜移默化和不易改变的，是对人们心理和行为的改变。“遍布式计算”概念的提出者马克·威瑟（Mark Weiser）在一篇文章中写道：“最复杂的技术是那些隐而不彰的技术。它们把自己编织进日常生活的纹理之中，直到自己成为其中顺理成章的组成部分。”人工智能技术的商业应用一方面利用心理学知识来促进算法编程，另一方面用计算机科学来促进对消费者心理和行为的理解。两方面的合力使得平台企业得以设计出各种行为预测和行为诱导算法，改变着人们的预期和行为。一切都变得越来越可预测，因为一切都变得越来越可操控。但这并没有使我们的生活变得更美好。

举一个简单的例子，行为科学研究表明，未曾预料的事情比预期之中的事情给我们带来的情感冲击会大很多倍，无论是惊喜还是惊吓。七夕收到男/女朋友的礼物，如果是意料之中的，会很开心但不会惊喜。如果是意料之外，则会是强烈的惊喜。但平台经济的商业模式在完美个人化的名义下剥夺了你惊喜的可能性，一切都在意料之中，一切都符合你过去行为数据中显示出的你的行为模式，因此也符合你的预期。

同时，预期中的完美体验比体验本身能带来更多的快乐感受。比如，计划好一个月以后同自己喜欢的人去旅行，会让你这一个月都感到有盼头，从而增强你的幸福感。但完美定制化的商业模式也消解了你的这种盼头。这种商业模式无非是：基于大数据分析，我们发现您过去一年中反复购买过某某减肥茶，要不要再买一箱？这种商业模式中没有包含任何会带来预期惊奇的因素： 一切未来的体验都注定会是你过去的体验，外加边际效用递减。

之所以会产生这样的效应，一方面是由于数字技术本身的特点。任何技术都是化约主义的，只有将复杂的任务简单化才能找到最优的解决方案。但数字技术简化的是人的认知。运用数字技术的企业并不关心“完整的人”，所以认为它们会系统性地偷窥你的私生活属于不必要的担心。平台背后的算法捕捉和收集的是人的点滴需求、 片段愉悦和瞬间想法，并将无数人的认知碎片融合起来，形成规模经济。另一方面是平台企业本身追逐利润的商业动机。诺贝尔经济学奖得主理查德·泰勒用行为经济学的方法论证了一个完全符合常识的观察： 迎合而不是纠正消费者的弱点更容易赚钱。数字科技最首要的商业用途就是精准利用人的认知偏差和行为弱点。

三

自由意味着责任，社会中所有美好的设想都建立在人们愿意为自由行动承担责任的前提下。在互联网的早期历史上，人们期待它是生成性（generative）的开源系统，每个人都可以按照自己的需要和喜好来打造自己的用户终端，就像无线电爱好者制造自己的通讯装备那样。但后来的发展却远远背离了这种设想，很少有人愿意拿到一台需要自己付出努力才能去使用的电脑，增强用户体验的图形化用户界面很快成为个人电脑的主流，所见即所得才是王道。苹果的口号就是“一切服从于显示”，图标后面的一切技术原理都与用户无关。使机器变得智能而人类变得愚蠢的技术目前已经成为我们时代的主流。市场规律就是最大化地满足人们的主观期待效用，资本的逐利倾向自然把技术带往利用人性弱点而不是诱导人们追求真善美的方向。

现有的法律体系结构是区分私法和公法。私法以民事主体平等和意思自治为首要原则。体现到数字法治方面就是用告知—同意这种合同法模式解决个人信息的权益保护问题。“同意者不能主张受到损害”，这是一句古老的法谚了。公法则为国家维护公共利益和履行对公民的保护义务确立了依据和限度，体现在数字社会治理领域的主要制度安排就是对平台企业履行数据安全、 隐私保护、个人信息保护等方面的责任进行监督。在经济领域，出于尊重市场规律的考量，政府应当尽量减少干预，尊重市场主体的自由选择和契约自由，干预的唯一正当性基础在于矫正市场失灵，比如当垄断破坏了市场竞争的时候，政府展开反垄断行动，维护公平竞争的市场环境。

所谓市场规律并不是一种“客观规律”，而是新古典经济学的发明（当然经济学自称是发现）。这种发明建立在一系列不切实际的假定之上：完全理性的经济主体在充分竞争的市场上追求效用最大化，在这个市场上，没有任何行动者强大到足以决定生产要素成本或商品出清价格，消费者可以在各种可替代效用之间自由选择，进入和退出市场都是没有成本的，生产成本可以合乎比例地传递给消费者，也就是说成本准确地体现到价格中，或者，用经济学家的行话来说，不存在外部性和搭便车者。因为竞争性的厂商面对着竞争性的消费者，所有既不存在卖方垄断（monopoly），也不存在买方垄断（monopsony）。

这种框架一方面忽视了市场主体之间日益加剧的不平等——除了经济处境和谈判能力等早已被揭示出的不平等外，还有算力上的不对等，以及“意思自治”的不可能。前面已经提到，数字技术的商业应用本身就是在精准操控人们的意思形成和意思表示。更不用说，面对冗长繁琐的用户协议和其中包含的隐私政策，很少有用户会从头到尾读完再选择点击同意或不同意，或者说，即使有人耐心读完恐怕也不得不选择同意，否则便无法使用一种急需的服务。

同样是由于数据量和算力方面的不对等（政府明显弱于平台企业），平台责任的有效落实往往成了企业本身的“自律”行为，缺乏有效的外部监管。企业在合规考量之下设计履行平台责任的产品和服务，内置于设计之中的隐私保护（privacy by design）和安全保障（security by design）成为常态。只有发生被曝光的大规模数据泄露事件或明显可见的严重危害结果之后，监管部门才有可能察觉和介入。但企业本身的商业模式决定着它们对待隐私和个人数据的不同态度，也决定着它们是否会专门应对监管而做表面功夫。

比如，苹果公司的蒂姆·库克之所以一贯抨击谷歌和脸书的商业模式，并非因为他是代表正义的钢铁侠，而是因为他的公司不是靠数据吃饭的，而是卖产品的，这种产品恰恰以妥善保护用户个人隐私作为自己最大的卖点。为此，苹果公司不惜利用一切机会为自己做宣传。比如，2015年12月2日，美国加州圣贝纳迪诺发生了美国本土自911之后最严重的恐怖袭击，宣誓效忠“伊斯兰国”的赛义德·法鲁克（Syed Rizwan Farook）和塔什芬·马利克（Tashfeen Malik）在开枪射杀14 人、射伤20多人后被警察击毙。联邦调查局查获了法鲁克的iphone 手机，为了获得犯罪调查和反恐所需要的信息，它在获得法院授权的情况下向苹果公司发出了解锁该手机的要求。但苹果公司拒绝合作，公司总裁蒂姆·库克还在公司网站上发布了一封公开信，谴责联邦调查局的要求“破坏了我们的政府旨在保护的那种权利和自由”。对苹果公司而言，这是一次成功的公众形象宣传。而对于美国的国家安全和公众的生命安全而言，这显然不是件好事。反过来，谷歌和脸书一再被曝光出大规模泄露用户数据或侵犯用户隐私的事件，因为数据就是它们的生命线。

在不激进地改变现有法律结构的情况下，法律上可以做的事情是限制强者，保护弱者，避免“强者为所能为，弱者受所必受”的情况。其实，早在数字化时代到来之前就出现了一系列介乎私法与公法之间的保护市场上弱势一方的法律，比如产品责任法、消费者权益保护法和劳动法。在数字化时代，需要针对数字经济和数字化生活的新特点制定新的规则，比如禁止平台企业过度采集用户个人信息、 在默认设置的设计上以保护用户隐私和个人敏感信息为原则、 在数字环境中保护未成年人（比如要求游戏平台限定未成年人的游戏时间和游戏类型）等等。当然，更加符合数字社会特点的法治结构可能不是这种小修小补就能形成的。

法律是社会的公器，它必须基于对社会上各种元叙事的二阶观察，找到符合公共利益的社会关系调整方式。一方面，我们要看到数据采集、数据融合和数据分析技术的迅猛发展的确给人民的生活和社会公共福祉带来了显著的改进，而这些技术的创新以及基于技术创新而形成的大数据环境主要是平台企业追逐利润的激励机制所促成的。如果没有阿里和腾讯出于投资者和管理者为追求利润而打造出覆盖数以亿计用户信息的支付宝和微信，在疫情期间为防疫抗疫做出不可替代贡献的健康码和行程码就没有了可以依附的关键信息基础设施。同样，没有了这些基础设施和它们背后的算法，人们的生活就会变得十分不便。另一方面，我们也要看到，隐私权和个人信息自主权不是可有可无的，而是过有尊严的人类生活所必须的。过度采集和不加限制地利用个人信息会给无数个人的生活带来负面影响，而且这也不是平台企业实现利润增长所必须的。法律思维就是要防止走极端，要以理性的、科学的方式找到各种权益诉求之间的平衡点，从而引导有助于人们追求美善生活的良好秩序的形成。