数字经济时代算法推荐技术的应用风险与规范进路

张惠彬，仲思睿

(西南政法大学 知识产权研究院，重庆 401120)

引 言

近年来，算法推荐技术的流行成为互联网发展的趋势之一。算法(algorithm)是一种明确定义的计算过程，通过一系列计算步骤将输入转换为输出，借以完成特定的任务。许多人认为算法只是计算机科学的专业术语，和自己完全无关，然而事实刚好相反。算法不仅和所有人息息相关，更是伴随人类生活的隐形力量。互联网平台用户的社交网络、浏览记录、点赞收藏情况，共同摹写出用户的个性化特征。大量相似的、受到普遍欢迎的信息被直接呈现给需要的用户，从而节约了检索时间，降低了搜索成本，又因匹配用户需求而增加了用户粘性，相应地带来了极高的经济效益。

伴随算法推荐技术而来的不仅有便利的生活，也存在着诸多的法律风险，“算法推荐第一案”——爱奇艺诉今日头条侵害作品信息网络传播权纠纷案为此拉开帷幕。电视剧《延禧攻略》在爱奇艺平台独播期间，今日头条APP未经授权利用信息流推荐技术，将用户上传的截取自《延禧攻略》的短视频向公众传播并推荐。侵权视频数量多达1314条，其中单条最高播放量超过110万次，且今日头条APP的连续推荐机制达到了使用户观看完整剧集的替代效果，对信息网络传播权造成了严重损害。(1)(2018)京0108民初49421号判决书。对此法院判定被告知道或者有合理理由应当知道其用户实施了侵权行为，却仍未采取制止侵权的必要措施，并继续提供技术支持。

为了应对算法推荐技术带来的法律风险，各国相继出台了一些措施。欧盟通过《通用数据保护条例》《数字化单一市场版权指令》《数字服务法》《数字市场法案》，美国提出《算法问责法(2022)》草案，都采用立法形式对算法进行规范。我国于2022年3月1日正式实施了《互联网信息服务算法推荐管理规定》。作为全球首部针对算法推荐技术的部门规章，其规定了算法推荐服务提供者的义务，赋予用户算法知情权、算法选择权等权利，针对算法推荐技术制定了监督管理制度，并明晰了违反规定所应负的法律责任。本文以算法推荐技术应用风险及规范进路为主题，首先介绍算法推荐技术在实践中的应用场景及其可能引发的法律风险，继而阐释算法推荐技术侵权行为的新特点，总结发达国家立法规范算法推荐技术的经验，最后提出数字经济时代我国针对平台算法推荐技术的规范进路。

一、算法推荐技术的应用场景与法律风险

(一)算法推荐技术的应用场景

《互联网信息服务算法推荐管理规定》(以下简称《管理规定》)中将算法推荐技术的应用定义为：利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。(2)《互联网信息服务算法推荐管理规定》第二条：“在中华人民共和国境内应用算法推荐技术提供互联网信息服务(以下简称算法推荐服务)，适用本规定。法律、行政法规另有规定的，依照其规定。前款所称应用算法推荐技术，是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。”据此可相应地将算法推荐技术的应用场景分为5类。

1.生成合成类算法推荐技术。生成合成类算法推荐技术根据生成物的种类可细分为：文本内容生成或编辑技术，如写稿机器人“Dreamwriter”“AI小记者”，聊天机器人微软小冰等；语音内容生成或编辑技术，如智影、讯飞快读；音乐或场景音等非语音内容生成或编辑技术，如BandinaBox；人脸等生物特征生成或编辑技术，如AI换脸APP“ZAO”；图像或视频中非生物特征编辑技术，如图像修复技术；虚拟场景生成或编辑技术，如游戏场景、VR、虚拟主播及元宇宙，等等。

2.个性化推送类算法推荐技术。个性化推送类算法推荐技术，由数字平台经营者(以下简称平台经营者)通过智能终端、应用程序接口(API)、软件工具开发包(SDK)、IoT设备、浏览器、传感器等自动收集用户的个人信息[1]，形成用户画像，评估其工作表现、经济水平、健康状况、个人偏好、兴趣爱好、行为方式等，并依此向用户提供不同内容、商品和服务推荐。用户所搜索过、点击过的内容被纳入数据库中，个性化推送类算法推荐据此提供相似内容。这一算法推荐技术的应用增加了用户对软件的使用时间、提升了用户粘性，因此也被应用于广告推送与电商平台的商品推荐。广告商与电商平台可以有选择地向目标群体提供其可能需要的广告与商品，使供给与需求相匹配，提升广告投入的利用率。

3.排序精选类算法推荐技术。排序精选类算法推荐技术，即根据一定标准对序列数据进行排序，形成各种榜单、精选、热搜数据。淘宝店铺及商品排序、百度搜索引擎的检索结果、微博热搜榜单、知乎热榜等，均是使用排序精选类算法推荐技术的结果。这些榜单可以帮助用户和消费者了解大多数人的关注热点与选择倾向，更容易获得用户和消费者的点击与商业转化。

4.检索过滤类算法推荐技术。检索过滤类算法推荐技术包括检索算法与过滤算法。检索算法是指对大容量的非结构化数据的快速查找，并与相似信息进行关联推荐，比如搜索某一关键词，搜索引擎会自动显示该关键词的全称与相关内容。过滤算法，既可以从可行的推荐标的物中将用户喜欢的标的物过滤出来，也可以用于不良信息过滤和敏感字词识别，如网页自动过滤垃圾信息、平台对某些敏感词批量屏蔽。

5.调度决策类算法推荐技术。调度决策类算法推荐技术，即根据一定标准进行资源配置，在供需关系有限的情况下做出最佳决策，包括调度算法、决策算法。调度算法指根据系统的资源分配策略所规定的资源分配算法，如网约车平台司机调度、外卖平台的订单分派。决策算法一般指不确定条件下最优决策的算法，如导航软件对驾驶路线的对比与选择。

(二)算法推荐技术的法律风险

算法推荐技术打破了我们以往对网络平台的认知，技术也成为媒体发展的关键词，所有的变化都是数字时代的极致进化。但是，任何技术应用都必须遵守法律的底线。在算法推荐技术运用的场景下，权利的保护还存在一些难点。

1.算法应用侵犯人格权。AI换脸算法技术的使用在侵害他人著作权的同时，也可能涉嫌侵害公民肖像权、声音权、名誉权等人格权。《中华人民共和国民法典》赋予了公民肖像权、声音权，未经权利人同意对其声音、肖像超过合理限度的使用构成侵权行为。若出于“玩梗”“恶搞”等目的制作换脸视频，可能对公民形象造成丑化和污损，导致其社会评价的下降。公民依据《中华人民共和国民法典》第一千零二十四条享有名誉权，任何主体不得以侮辱、诽谤等方式加以侵害。利用AI换脸技术从事侮辱、诽谤行为同样在禁止之列。2021年8月，演员刘昊然及其工作室向警方报案称有用户通过AI换脸技术对其进行侮辱、诽谤，且生成视频被不断贩售、截图，引起更大范围的传播。早在2019年，即有人因贩卖明星换脸视频获罪，其贩卖的视频被警方认定为淫秽视频。(3)(2020)苏0830刑初106号判决书。

2.算法应用侵犯知识产权。生成合成类算法推荐技术应用中，写稿机器人基于对网络资源的抓取和数据库资源的整理、组合而形成稿件，其对受著作权保护作品的使用可能构成对著作权人复制权、信息网络传播权的侵犯；AI换脸技术所使用的素材可能是受著作权法保护的美术作品和视听作品，由此构成对复制权、保护作品完整权、改编权和表演者权等权利的侵害。在个性化算法的作用下，侵权内容被自动高速地推送给更多的用户，仅仅适用“通知—删除”规则并不足以抑制侵权行为的继续发生，从而导致信息网络传播权持续受到侵害。在爱奇艺诉今日头条案件中，法院即认定今日头条平台具有充分的条件、能力和合理的理由知道其众多头条号用户大量地实施了涉案侵权行为，且在具有及时删除视频能力的前提下放任用户继续发布、传播侵权视频，构成著作权侵权行为。(4)(2018)京0108民初49421号判决书。

3.算法应用扰乱竞争秩序。数字经济时代，互联网、大数据、算法共同作用下的市场竞争存在算法合谋的隐忧，妨碍正常市场竞争秩序的建立。算法服务提供者无需明确订立协议，即可通过数据、算法、平台规则或其他方式，达成协调一致的行为。自主学习类算法更是可以基于对大数据算法的自主学习，达成价格合谋。算法推荐技术普遍应用的环境下，不正当竞争行为也具有了更多的表现形态。例如，利用算法技术研发洗稿软件，诱导用户对网络平台原创内容的聚合、搬运、智能重写[2]；利用算法技术操纵榜单或搜索结果，过度推荐或干预信息呈现，达成不正当竞争的目的。

4.算法应用侵害消费者权益。平台通过算法推荐技术收集消费者网上浏览、搜索、交易等痕迹信息和标签信息的使用行为，可能构成对消费者个人信息权益的侵害。在此基础上，算法推荐技术根据用户画像推算消费者所能接受的最高交易价格，针对不同消费者采取不同的定价策略。这种价格歧视行为对消费者知情权与公平交易权造成了损害，有碍公平交易环境的建立，为《中华人民共和国价格法》《中华人民共和国消费者权益保护法》《中华人民共和国电子商务法》相关条款所明令禁止。司法实践中法院也曾判定携程公司利用算法进行“大数据杀熟”的做法为侵权行为。

5.算法应用侵害劳动者权益。调度决策算法推荐技术的应用涉及对劳动者个人信息的收集、跟踪、分析与决策，对个人信息的过度收集可能构成对劳动者隐私权、通信自由和通信秘密等人格权益的侵犯。由于算法黑箱与算法歧视的存在，可能导致算法对劳动者作出不正当的否定性评价，有损劳动者的平等就业权。如亚马逊算法性别歧视事件中，亚马逊的算法模型通过10年来获得的求职简历给求职者评分。由于男性求职者较多，算法模型自动降低包含“女性”这个词的简历的评分。[3]

二、算法推荐技术规范的困境与立法趋势

(一)算法推荐技术规范的困境

数字经济时代，算法推荐技术应用引起了生活方式、社会文化的巨大变革，其法律风险也给传统法学领域带来了冲击与挑战。算法推荐技术应用的法律风险有其特殊之处，因此传统法律规制路径面临以下困境。

1.侵权主体的特殊性

传统民事侵权行为的双方当事人的法律地位平等，但数字经济时代算法推荐技术应用引发的法律风险，侵权的一方通常是具有优势地位的平台。虽然双方在形式上仍处于平等的法律地位，但实质上的交易能力和交易地位完全不对等。例如，网络平台往往通过网络协议、隐私政策等方式，取得处理用户个人信息的权限，但用户不能对这些条款提出修改和变更意见，而只能概括地表示接受或不接受。[4]网络平台相对于一般的民事侵权行为当事人，应当承担与其优势地位相应的法律义务，以实现实质上的法律平等。

值得注意的是，这一主体特殊性在劳动者权益保护领域的体现又有所不同。劳动关系是一种不平等的法律关系，因此法律对劳动者采取倾斜保护。数智时代，强资本与弱劳动的格局并未发生逆转性改变，反而因智能监控的应用致使劳动从属性增强。[5]平台通过算法对劳动者个人信息进行处理，采取奖惩制度实现实质上的人身控制关系。但司法实践中，法院通常认为劳动者可以自行选择是否接单及接单的时间、数量，进而认定劳动者与平台之间不具备劳动关系的特征，以致劳动者难以依靠法律途径维权。

2.损害事实的隐蔽性

算法推荐技术应用法律风险具有普遍性的同时，其损害事实也具有隐蔽性。算法侵害的因果进程更加冗长、复杂、不透明，导致不仅难以对算法的决策机制作出人类可理解的解释，甚至将侵害结果追溯到具体的行为主体都变得非常困难。[6]例如，传统竞争法律对于数字平台的适用面临着相关市场界定困难、市场支配地位认定困难与数字经营者集中审查困难等问题。通过算法推荐技术所达成的价格合谋难以查明经营者的主观意愿，使得数字经济时代的合谋行为更为隐蔽，难以及时接受审查、监管与监督。又如通过深度伪造算法技术合成的视频不仅对普通公众来说难辨真假，在司法实践中也受限于检材无法证明视频系伪造，使权利人承担举证不能的法律后果。(5)(2017)沪0104民初10824号判决书。平台的隐形歧视也通过算法黑箱更为隐蔽地施加给劳动者与消费者，此种损害事实的隐蔽性愈加促进了侵权行为的普遍存在。

3.侵权行为的普遍性

算法推荐技术应用已然渗透到社会生活的方方面面，公众让渡个人权利换取生活便利的现象数见不鲜，使得算法侵权行为呈现普遍性。侵权行为的普遍易发在损害事实隐蔽性的加持下，使得举证难度大幅提高，维权成本与侵权成本存在严重不对等。比如，当前许多短视频平台APP中存在大量关于电视剧、电影的侵权视频片段，这些平台明知、应知这些内容涉嫌侵权，仍通过各类算法推荐行为向用户提供涉案侵权视频。在《2020中国网络短视频版权监测报告》中显示：2019年1月至2020年10月，在对4894件影视综动漫类作品的监测中，共发现短视频疑似侵权链接1406.82万条。数字设备的广泛应用导致个人信息的私人属性弱化，开放社交平台的分享机制无形中将个人信息的抓取和采集演变成常态[7]，个人信息的滥用、侵犯导致利用算法推荐技术的大数据“杀熟”行为频发。北京市消费者协会发起一份线上调查问卷，结果显示86.91%的受访者认为自己有被大数据“杀熟”的经历，又对16个消费者常用的电子商务平台进行体验调查，32个模拟消费体验样本中有14个样本新老账户的价格不一致。[8]

(二)算法推荐技术规范的欧盟作为

欧盟对于数据、算法规制领域的立法实践一向处于世界前沿，其《通用数据保护条例》(General Data Protection Regulations，以下简称GDPR)赋予数据主体知情权、更正及删除权、访问权、拒绝权和自动化决策自决权等权利。2019年制定的《数字化单一市场版权指令》(Directive on Copyright in the Digital Singles Market)对平台课以一定的内容审查义务。2022年7月5日，欧盟议会通过了《数字服务法》(Digital Services Act, 以下简称DSA)，将保护言论自由置于核心地位，致力于在非法内容控制与言论自由保护之间取得平衡，避免数字服务提供商对平台内容监管不力或过度监管。[9]欧盟《数字市场法案》(Digital Markets Act，以下简称DMA)针对大型互联网平台提出“守门人”义务，意在保证公平与开放的数字市场。

1.GDPR的数据赋权

GDPR对数据主体权利的赋予，使得公众取得对个人数据的控制权。公众可以访问有关如何使用个人数据的信息，访问组织持有的个人信息，删除或更正不正确的个人信息，某些情况下更正和删除个人数据，限制或反对自动处理个人数据，以及接受个人数据的副本。与数据主体权利相对应，GDPR要求收集或处理个人数据的组织遵守六项原则：(1)处理和使用个人数据的透明性、公平性和合法性；(2)将个人数据的处理限制在指定的、明确的和合法的目的；(3)最大限度地减少个人数据的收集和存储，使其达到与预期目的充分相关的程度；(4)确保个人数据的准确性并使其能够被删除或更正；(5)限制个人数据的存储，仅在实现数据收集目的所需的时间内保留个人数据；(6)确保个人数据的安全性、完整性和机密性。

2.DSA的内容审查义务

2019年欧盟制定的《数字化单一市场版权指令》第17条指出，网络服务提供者应为其传播侵权内容的行为承担责任，除非尽到了如下义务：(1)尽最大努力获得授权；(2)对于权利人提供了相关且必要信息的作品和其他内容，已经尽到最大努力来确保特定作品或其他内容不被获得；(3)在收到权利人发出的充分且实质的通知后，已经迅速采取行动，从其网站上移除或断开访问所通知的作品或其他内容，并尽最大努力防止它们将来再次被上传。(6)Directive on Copyright in the Digital Singles Market. Article17.DSA第7条指出中介服务提供者(7)Digital Services Act 2020.Article 2(f)“中介服务(intermediary service)”是指以下服务之一：(1)“单纯的渠道(mereconduit)”服务，包括在通信网络中传输由服务接受者提供的信息，或提供对通信网络的访问；(2)“缓存(caching)”服务，包括在通信网络中传输由服务接受者提供的信息，涉及该信息的自动、中间和临时存储，其唯一目的是在其他接受者的要求下，更有效地将信息转发给他们；(3)“托管(hosting)”服务，包括存储由服务接受者提供并应其请求的信息。不承担监控其传输或存储的信息的一般义务，也没有主动寻找表明存在非法活动的事实或情况的一般义务。(8)Digital Services Act 2020. Article7.中介服务提供者应在条款和条件中包含有关内容审核的任何政策、程序、措施和工具的信息，包括算法决策和人工审查。这些信息应当用清晰明确的语言列出，以易于获取的方式公开，在此基础上，中介服务提供者以勤勉、客观和相称的方式实行内容审核并考虑所有相关方的权利和合法利益。(9)Digital Services Act 2020. Article12.中介服务提供者对其内容审核方式同时存在一种透明度义务，应当至少每年发布一次关于其在期间从事的任何内容审核相关的清晰、易于理解和详细的报告。(10)Digital Services Act 2020. Article13.中介服务提供者虽然没有对非法内容进行主动检测的义务，但DSA第14条指出托管服务提供者应当建立一种易于使用、方便用户的机制，允许任何个人或实体完全通过电子方式提交关于服务中非法内容的通知。平台接到通知后不得无故拖延，应当及时将决定通知该个人或实体，并提供有关该决定的补救可能性的信息。(11)Digital Services Act 2020. Article14.

3.DMA的“守门人”义务

针对传统竞争法律在数字平台的适用中存在的相关市场界定困难、市场支配地位认定困难、数字经营者集中审查困难等问题，DMA设立了“守门人”义务。一些大型的互联网平台在数字经济市场承担着类似“守门人”的角色，DMA对此建立了一套识别标准：(1)具有强大的经济地位，对内部市场产生重大影响，活跃于多个欧盟国家；(2)具有强大的中介地位，将庞大的用户群与大量业务联系起来；(3)在市场上拥有(或即将拥有)根深蒂固和持久的地位，这意味着公司在过去三个财政年度中的每个财政年度都满足上述两个标准。[10]满足以上标准，即可推定平台具有守门人地位。从欧盟的界定看，数字守门人的标准具体、清晰，也就避免了相关市场范围界定、市场支配地位界定等造成的反垄断执法混乱及证明难度大的问题。[11]DMA涵盖了在线搜索引擎服务、在线中介服务、社交网络、视频分享平台、通讯平台、操作系统、云服务、广告服务等8个领域，对“守门人”平台施加了禁止义务以解决不公平交易行为、维护用户权益：(1)禁止守门人平台的自我偏好行为，即在平台上更好地展示自身产品；(2)不得组织消费者与他们平台以外的企业建立联系；(3)不得阻止用户取消任何预装软件或应用程序；(4)在没有得到用户有效同意的情况下，不得在核心平台服务之外，以定向广告目的跟踪终端用户。

(三)算法推荐技术规范的美国趋势

2022年2月3日，美国参众两院议员向国会提交《算法问责法(2022)》，该法案以避免算法歧视、保护消费者权益为规制目标，同时兼顾经营者的商业秘密保护。算法问责制，意味着使用者或控制者有义务报告算法决策，证明其合理性并减轻任何负面的社会影响或潜在伤害。该法案确立了规范算法推荐技术的算法影响评估制度与算法信息公开披露制度。

1.算法影响评估制度

算法影响评估制度是指依据系统制定的衡量标准对自动化决策系统的应用流程、数据使用和系统设计等内容进行系统评判，以明确该系统的影响水平和风险等级的一种算法治理实践。[12]算法影响评估制度反映的是一种风险治理的理念，即聚焦于算法自动化系统对公民自由、隐私和平等权等基本权利的潜在影响。[13]《算法问责法(2022)》中的算法影响评估制度分为算法使用前的评估、算法使用中的评估两部分。算法使用前的评估是指新算法开发前，算法服务使用者应当先自我评估新算法的预期优势、预期目的，以及对原有算法的修正之处。其评估过程需要与雇员、技术团队、受影响群体代表等利害相关方进行磋商，以降低算法设计谬误存在的可能性。算法使用中的评估要求算法服务使用者在仅收集必要的数据的基础上，持续性地评估算法应用的历史表现与是否需要对算法进行限制，并保存其用来训练算法的数据以及数据相关的信息。

2.算法信息公开披露制度

《算法问责法(2022)》通过评估简报制度与信息公开制度来实现算法透明。法案要求算法服务使用者在用于决策的算法部署之前，向美国联邦贸易委员会(FTC)提交一份初始简报，此后每年向FTC提交一份简报。从表述上看，在影响评估报告中法案多要求算法服务使用者提供“细致的描述”；而在简报中，算法服务使用者通常仅仅被要求明确或记录某些事实。FTC对简报信息进行筛选，将部分信息通过其年度报告或公共信息库向公众公开。FTC年度报告需要描述行业的总体发展趋势、整合后的数据、影响评估中获取的经验教训等。FTC有义务建立公共数据库以保障消费者权益，该数据库每季度更新一次，更新内容包括公开简报中的部分信息。据此形成“算法服务使用者自行保留的评估报告——向监管机关提交的简报——公开信息”三层信息披露机制。这种层级披露制度的实施既满足算法监管的需求以保障消费者权益，又防止了算法服务提供者商业秘密的泄露，在公共利益与个人利益之间谋得平衡。

三、算法推荐技术规范的中国现状与建议

(一)算法推荐技术应用的司法争议

目前我国司法实践中已有多起算法推荐技术不当应用侵权的案件，其争议焦点与法律适用难点正是算法推荐技术规范困境的缩影。通过传统法律体系回应这些算法风险的同时，亟待借鉴国外立法思路与可取经验，从而克服算法风险、应对技术变革。

1.算法价格歧视侵权——胡某诉携程公司侵权责任案

携程网站“钻石贵宾”胡某在携程网站上以2889元预订酒店，然而酒店表示仅收到1377.63元房费，故仅愿开具1377.63元金额的发票。胡某据此主张携程公司构成侵权，而携程公司以胡某所定房间是代理商提供而非携程直营为由主张免责。

该案件的争议焦点有三：其一为用户胡某的交易相对方为携程平台，还是平台内经营者捷锐公司。平台经营者既有自营业务又有他营业务，应当以显著标识将二者区分。携程平台对房源信息仅标注“代理”二字，难以认定该字样能直接、准确、清晰地指向“第三方代理”“他营”“非自营”，使普通消费者难以分辨其交易相对方。且与用户进行磋商的是平台客服，交易扣款方与订单发票抬头均为携程公司，因此合同相对方是携程平台。

其二为用户能否以通过携程APP预订酒店的房价远高于门市价为由，主张携程公司构成欺诈。消费者处于天然弱势地位，这种弱势地位在数字经济时代更为明显。因此携程公司未尽到告知义务，导致消费者误认交易相对方而做出不真实意思表示。携程公司怠于履行平台主体责任是产生欺诈的主要原因。对消费者以接受平台服务的价格远高于市场价格为由要求平台公司承担欺诈责任的，应当按照欺诈构成要件对其主张予以审查。

其三为用户要求在携程APP上增加不同意其《服务协议》《隐私政策》也可使用APP的选项之主张能否得到支持。用户虽享有个人信息实体权益及相应诉权，携程也存在不正当处理用户个人信息的行为。但民事责任的承担方式应与侵权行为相适应，《服务协议》《隐私政策》仅有部分侵犯消费者权益，不应全盘否定。此外，依法严格保护个人信息应当平衡信息提供者利益、数据平台使用者利益和公共利益，在保障消费者权益时兼顾数字经济的长远发展。(12)(2021)浙06民终3129号判决书。

2.短视频平台算法侵权——爱奇艺诉字节跳动信息网络侵权案

电视剧《延禧攻略》在爱奇艺平台独播期间，今日头条APP未经授权利用信息流推荐技术，将用户上传的截取自《延禧攻略》的短视频向公众传播并推荐。侵权视频数量多、播放量高，达到了使用户观看完整剧集的替代效果。对于被告字节跳动公司是否构成帮助侵权，需要从两个方面予以判定：

其一为字节跳动公司是否明知或应知侵权行为的存在。被侵权作品《延禧攻略》在首轮播出期间引起公众极大关注，具有较高的知名度和较大的影响力，且爱奇艺公司在开播前与播出期间向字节跳动公司多次、持续进行预警、告知，因此应推知字节跳动公司明知或应知侵权行为的存在。

其二为字节跳动公司是否采取了必要措施。是否采取必要措施需要从形式要件与实质要件进行判断：形式要件为网络服务提供者根据用户侵权行为的方式以及自身所提供服务的性质、技术水平、信息管理能力等，实际采取了包括但并不限于删除、屏蔽、断开链接等方式的措施；实质要件为上述措施的采取产生了制止和预防明显侵权的处理结果。而字节跳动公司采取的措施既没有达到必要的程度，也没有达到制止和预防明显侵权的效果。(13)(2018)京0108民初49421号判决书。

(二)算法推荐技术规范的立法尝试

我国2022年3月1日由网信办、工业和信息化部、公安部、市场监督管理总局四部门联合颁布并正式实施的《管理规定》，乃是全球首部针对算法推荐技术的部门规章。《管理规定》共有六章三十五条，总则明确了算法的治理对象与算法规制原则，其余各章分别规定了算法推荐服务提供者的义务，赋予用户算法知情权、算法选择权，针对算法推荐技术制定了监督管理制度，并明晰了违反规定所应负的法律责任。相较于欧盟与美国算法领域的立法尝试，《管理规定》既有与之契合的部分，也不乏亮点与创新之处。

1.软硬结合，平衡算法规制与产业发展

欧盟对于算法技术的规范长期处于世界立法前沿，GDPR对数据权利的赋予，对平台内容审查义务以及“守门人”义务的施加均具有超前的规范意识。美国《算法问责法(2022)》侧重于算法监管与影响评估，且仍处于草案阶段，尚未正式施行。我国《管理规定》作为部门规章，既可与现有的法律法规、司法解释相呼应，又与各类政策规范、社会规范相衔接。既可以防范算法侵权，又顺应我国数字经济发展潮流，符合产业特征，尊重科技发展规律。

2. 精准治理，分级分类规范算法应用

《管理规定》主张建立算法分级分类安全管理制度，根据算法推荐服务的舆论属性或者社会动员能力、内容类别、用户规模、算法推荐技术处理的数据重要程度、对用户行为的干预程度等对算法推荐服务提供者实施分级分类管理。(14)国家互联网信息办公室、中华人民共和国工业和信息化部、中华人民共和国公安部、国家市场监督管理总局令第9号《互联网信息服务算法推荐管理规定》第23条。欧盟DMA“守门人”义务的施加，同样建立在对大型算法服务提供者与其他算法服务提供者的划分之上。美国算法问责法案中也存在“算法服务提供者—监管机构—社会公众”的层级披露制度。

3.以人为本，注重特殊群体的权益保护

相较于欧盟、美国立法中对于算法用户的概括性表达，《管理规定》将其细分为未成年人、老年人、消费者与劳动者等群体。既赋予了普遍性的算法知情权、选择权，又对特殊群体的算法应用施以倾斜性保护。例如，《管理规定》要求算法服务提供者不得利用算法技术对未成年人提供不良信息、诱导沉迷；要求算法服务提供者按照国家有关规定提供智能化适老服务，便利老年人出行、就医、消费等需求；要求算法服务提供者完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法，保障劳动者权益；将消费者权益细化为“公平交易的权利”，贴合“大数据杀熟”的算法风险。这些对特殊群体的具体规定回应了社会关切，保障了各类主体的算法权利。

(三)算法推荐技术规范的未来展望

1.立“平台义务”，破“算法倾轧”

算法推荐服务提供者的内容监管责任事实上是一种风险责任，有害信息的无序传播会给社会带来巨大的风险，因此其必须承担一定的内容监管责任。要求社交平台对用户内容承担责任还有一个重要原因是在现有的技术条件下，原本中立的第三方平台亦具有了网络内容提供者的部分特征。[14]实践中已有多个平台自愿采取过滤机制，承担一定的内容审核义务，例如百度文库采用的“反盗版DNA识别系统”、搜狐视频研发的“视频基因对比技术”、字节跳动的视频版权保护系统“灵识系统”等。平台义务的建立，会提高算法服务提供者对算法技术应用的责任意识与安全意识。平台主体地位具有特殊性，相对于公众具有优势地位和更强话语权，因此应当承担更多的义务与责任，坚持主流价值导向，追求平台与公众之间实质上的平等地位。

2.立“法治监管”，破“算法黑箱”

算法风险损害事实的隐蔽性，来源于算法技术的不透明与缺乏监管。“算法黑箱”的存在并非是技术变革的新产物，而是歧视行为在数字经济时代的新表现。对算法歧视的规制，需要贯彻算法技术研发与算法技术应用的全过程。《管理规定》提出算法备案制度和安全评估制度，有助于监管机构及时了解算法服务内容与内在运行机制。但备案制度和安全评估制度的具体程序、实施要求和评估标准还有待明确，以期形成事前、事中与事后结合的全流程监管机制，提高算法透明度与可解释性。

3.立“协同共治”，破“算法失序”

算法技术应用风险具有普遍性，涉及社会生活的方方面面，因此算法治理工作不容忽视。《管理规定》虽对各种算法推荐技术的应用风险均作出了相应的规制，但该规定作为部门规章，仅可用于指导部门执法，难以成为法院审判时的裁量依据。囿于法律层级上的欠缺，为落实对算法推荐技术的监管与用户权利保护，亟须将《管理规定》与《中华人民共和国民法典》《中华人民共和国著作权法》《中华人民共和国反不正当竞争法》《中华人民共和国消费者权益保护法》《中华人民共和国劳动法》等上位法结合起来，也需要网信办、工业和信息化部、公安部、市场监督管理总局等部门在算法治理层面的协同合作，形成更为精细化的监管体系。

结 语

平台推崇算法推荐技术、标榜“技术中立”，公众基于对技术的信赖而认为算法技术运行结果必然是公平公正的。然过犹不及，算法推荐技术的不当应用已损害了公民合法权益与社会经济秩序。《管理规定》的颁布与适用顺应时代潮流，体现了国家加强平台监管与规制算法技术应用风险的趋势。数字经济时代算法推荐技术应用的规范，应施加平台义务、规制对用户的算法倾轧；明确备案制度和安全评估制度的具体规定，加强法治监管、规制算法歧视；还应当建立多层次的算法监管体系，形成协同合作的算法治理格局。