算法解释请求权及其权利范畴研究

魏远山

因算法可模式化处理事件降低了事件处理成本而被运用到社会的方方面面，俨然形成了算法社会(Algorithmic Society)。(1)算法社会是Jack M. Balkin提出的概念。其意指算法(人工智能或机器人)不仅制定与社会经济相关的决策，而且该决策的落实也由算法完成，机器人或人工智能的使用只是算法社会的一个实例而已。参见Jack M. Balkin.2016 Sidley Austin Distinguished Lecture on Big Data Law and Policy: The Three Laws of Robotics in the Age of Big Data, Ohio St. L.J.78, 2017, p.1219.算法在带来便利的同时，算法的黑箱属性与算法使用者的刻意遮掩，导致算法决策(Algorithmic Decision-Making)或自动化决策(Automatic Decision-Making)过程及原理难以为人所知悉，使算法使用者处于事实上的支配地位，形成“算法霸权”。算法使用者的“算法暴政”极易损害算法相对人(2)“算法相对人”与“算法使用者”相对应，以审查贷款算法为例，银行为算法使用者，申请贷款的人为算法相对人。的合法权益，加上算法妨害极具隐秘性，导致算法相对人难以获得救济。例如，在State of Wisconsin v. Eric L. Loomis一案中(3)State of Wisconsin v. Eric L. Loomis, 881 N.W. 2d 749 (Wis. 2016).或者参见Iigo De Miguel Beriain.Does the use of risk assessments in sentences respect the right to due process A critical analysis of the Wisconsin v. Loomis ruling, Law, Probability and Risk, Volume 17, Issue 1, 2018, pp.45-53.，被告认为一审法院在量刑期间对COMPAS风险评估报告的认定与采纳违反了正当法律程序，遂向威斯康星州上诉法院提起诉讼。但上诉法院认为一审法院使用COMPAS风险评估报告并无不当，加之Northpointe公司对COMPAS系统算法享有专有权，遂驳回了被告的诉讼请求。为撬开“算法黑箱”，有学者提出应赋予算法相对人“算法解释请求权”(4)有学者提出“通过赋予算法相对人算法解释权来抗衡算法使用者的算法霸权”。参见张凌寒：《商业自动化决策的算法解释权研究》，载《法律科学》2018年第3期；Bryce Goodman. Discrimination, Data Sanitisation and Auditing in the European Union's General Data Protection Regulation, Eur. Data Prot. L. Rev. 2, 2016, p.493; Bryce Goodman & Seth Flaxman. EU regulations on algorithmic decision-making and a "right to explanation", AI Magazine. 38, 2016, p.28.本文以“算法解释请求权”而非“算法解释权”进行阐述，只因“算法解释权”易引起权利主体的混淆，“算法解释请求权”更清晰地表明算法相对人是权利主体，算法使用者是义务主体。(right to explanation)以对抗“算法霸权”，而关于算法解释请求权的定义、是否应独立成权均存在争议，算法解释请求权的权利构造与权利范畴尚需明确，而这正是本文存在的意义。本文第一部分主要梳理算法解释请求权可能的起源及其发展过程，并分析其产生的时代背景与现实必要性；第二部分则尝试构造算法解释请求权的权利内容并划定权利边界；第三部分注重分析算法解释请求权与知情权、访问权的区别，以论证算法解释请求权属于独立权利。

一、算法解释请求权的缘起、发展及必要性

欲合理界定算法解释请求权的权利范畴、科学划定与相关权利的边界，必先知晓其为何物。

(一)算法解释请求权的缘起与发展

有关算法解释请求权的规定最早可追溯到1972年法国颁布的《关于信息技术、数据文件和公民自由1978年1月6日第N°78-17号信息自由法案》(Loi Informatique et Libertes Act N°78-17 of 6 January 1978 on Information Technology, Data Files and Civil Liberties)。该法案第10条、第39条分别规定(5)Commission Nationale de l'Informatique et des Libertés. Act n°78-17 of 6 January 1978 on information technology, data files and civil liberties，https://www.cnil.fr/sites/default/files/typo/document/Act78-17VA.pdf，2019年10月2日最后访问。：无论是政府还是私人作出的涉及评价个人行为的决定，不能仅根据自动化处理的与公民个性或侧写相关的数据做出；基于自动化处理做出的决策对数据主体造成法律影响时，数据主体有权知道该自动化处理的逻辑信息并有权反对自动化处理。随后，1978年《法国数据保护法》延续了此类规定，同时，该规定也被少数欧洲国家所采纳，并影响了欧盟层面的数据保护规则。

欧盟《欧盟数据保护指令》(Directive 95/46/EC)(以下简称《95指令》)第15条规定算法相对人有权拒绝仅基于数据的自动化处理便对其某些个人方面作出的可能产生法律后果或重大影响的评价(6)高富平：《个人数据保护和利用国际规制：源流与趋势》，法律出版社2016年版，第152页。，但并未要求算法使用者就算法决策的相关信息(除个人数据收集和使用目的等之外的信息)告知算法相对人。2012年，欧盟委员会发布的《一般数据保护条例(2012草案)》(以下简称“《12草案》”)第10条在《95指令》的基础上增加了一些条款，旨在提高对算法相对人的保护水平，并在第4款规定要求告知算法相对人“自动化处理的方法及该处理可能对算法相对人造成的影响。”(7)European Commission. Proposal for a REGULATION OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL on the protection of individuals with regard to the processing of personal data and on the free movement of such data (General Data Protection Regulation) (52012PC0011)，https://eur-lex.europa.eu/legal-content/EN/TXT/?qid=1542275232764&uri=CELEX:52012PC0011，2019年10月2日最后访问。随后，2018年5月生效的《一般数据保护条例》(以下简称“《条例》”)承续了《12草案》中“算法相对人有权拒绝完全自动化算法决策”的规定，新增“算法相对人有权要求算法使用者向其提供与非完全自动化算法决策的目的、处理逻辑以及可能产生的影响等相关信息”的规定。(8)丁晓东：《〈一般数据保护条例〉(General Data Protection Regulation)中文版》，http://www.tisi.org/5029，2019年10月2日最后访问。或参见General Data Protection Rule § 13(2)f, § 14(2)g, § 15(1)h and §22(3).

《条例》中的规定旨在规范算法使用者的数据处理行为，要求算法使用者就其作出的对算法相对人(数据主体)具有法律影响或类似严重影响的决策进行解释，避免损害算法相对人的合法权益。(9)参见《一般数据保护条例》序言第71部分、正文第22条。因此，有学者将《条例》赋予数据主体可要求算法使用者提供自动化决策相关的逻辑、自动化决策对数据主体可能产生的影响等有价值的信息的权利，被称为“算法解释请求权”。(10)Bryce Goodman & Seth Flaxman, p.28; Guido Noto La Diega.Against the Dehumanisation of Decision-Making, J. Intell. Prop. Info. Tech. & Elec. Com. L., 9, 2018, p.3.不过，也有学者认为《一般数据保护条例》并没有赋予算法相对人这样一种权利，虽然在《一般数据保护条例》序言第71部分有“a right of explanation”的表达，但是在第22条无法找到，序言的效力并不当然影响正文的适用。参见Malgieri Gianclaudio & Comandé Giovanni. Why a Right to Legibility of Automated Decision-Making Exists in the General Data Protection Regulation, International Data Privacy Law, 4, 2017, p.243; Julia Powles & Hal Hodson.Google DeepMind and healthcare in an age of algorithms, Health Technol, 7, 2017, p.351; Tal Zarsky.The Trouble with Algorithmic Decisions: An Analytic Road Map to Examine Efficiency and Fairness in Automated and Opaque Decision Making, Science, Technology, & Human Values 1, 2016, p.118; Mireille Hildebrandt.”The New Imbroglio - Living with Machine Algorithms”, in Liisa Janssens (ed) ,The Art of Ethics in the Information Society,Noord-Holland, Prov.:Amsterdam University Press 2016, p.57；杭州师范大学孙益武副教授在2019年4月13日于“第二届法律人工智能研究前沿问题国际学术研讨会”中所做“消费者如何打开人工智能算法的黑箱”主题发言认为GDPR中不存在算法解释请求权。不过，2016年欧盟法院依据《95指令》序言审理了Breyer v Bundesrepublik Deutschland一案，可知仅是《95指令》的序言即可作为裁判依据，那么作为《条例》的序言当然可作为审理依据与正文具有同等效力。参见Judgment in Case C-582/14,Breyer v Bundesrepublik Deutschland, Judgment ECLI:EU:C:2016:779, 19/10/2016，http://curia.europa.eu/juris/document/document.jsf;jsessionid=E388B20F46B02C715D82D094A0C1CBF0?text=&docid=184668&pageIndex=0&doclang=EN&mode=req&dir=&occ=first&part=1&cid=5604394，2019年10月2日最后访问。此外，有学者也认为《条例》序言的效力与正文效力相同。参见方禹：《GDPR前言强调个人信息保护与自由流动的平衡》，载《法治周末报》2018年6月24日。由此拉开了算法解释请求权研究的序幕。但不同学者对算法解释请求权的界定略有不同。有学者认为算法解释请求权是“当自动化决策的具体决定对算法相对人产生法律上或者经济上的显著影响时，算法相对人向算法使用者提出异议，要求其提供对具体决策的解释，并要求更新数据或更正错误的权利”。(11)同前注〔4〕，张凌寒文。也有学者认为算法解释请求权就是要求算法使用者解释算法决策或自动化决策机理的权利。(12)Wachter Sandraet al.Why a Right to Explanation of Automated Decision-Making Does Not Exist in the General Data Protection Regulation, International Data Privacy Law, Volume 7, Issue 2, 2017, p.80-82.

虽然学者们对何为算法解释请求权尚未达成共识，但定义中仍具有共性，即算法解释请求权旨在约束算法使用者运用算法及算法决策的行为，以提高算法决策的透明度和可责性。因此，结合算法解释请求权的目的可对其作下如下定义：当算法使用者拟用算法作出对算法相对人具有法律上或者经济上显著影响的决策时，需对该决策的制定原理及相关目的、可能产生的预期影响等作出解释，以便算法相对人知晓算法决策的作用，便于寻求救济。

(二)算法解释请求权的时代背景

算法解释请求权作为新时代的产物，具有独特的时代背景：

算法技术备受青睐且使用广泛。算法技术(13)算法指解决某一特定问题而采取的有限且明确的操作步骤，多用于数学和计算机领域。我们通常指的算法多属于计算机领域。参见(美)科尔曼等：《算法导论(原书第3版)》，殷建平等译，机械工业出版社2013年版，第3页。并不是一种新兴技术，其在上世纪末就已经出现，因数据量等因素的限制历经了“过山车式”的发展。一方面，计算机与大数据等技术的迅猛发展为算法技术打开了技术枷锁；另一方面，进入数字时代后，社会的数字化为算法技术的发展提供了充足的“养料”，使算法技术迎来了发展的黄金期。在技术相对成熟后，算法的优势逐渐凸显，更多地出现在人们的视线中并备受青睐。算法受到推崇的主要原因是算法自身的特征及其与大数据技术结合所具有的优势。一是算法作为一种类型化处理的工具，能够做到“同案同判”和“类似案件类似处理”，在很大程度上节约了事件处理成本。而且，随着机器学习技术，尤其是无监督学习技术的兴起，学习算法可随着数据库的丰富自我优化，减少了编程成本。(14)刘友华、魏远山：《机器学习著作权问题及其解决》，载《华东政法大学学报》2019年第2期。二是利用大数据技术可清楚地对每个人“贴标签”，掌握用户偏好和倾向。这两个特征相结合极大程度上削弱了信息不对称带来的不利影响。在商业领域，算法技术的出现催生了新的商业模式，利用大数据技术可知晓消费者的喜好和购买能力，利用算法做到“千人千面”的推送、选择或行销可带来更大的经济利益和商业成功。在公共政策领域，利用大数据技术可清晰知晓公民对政策的倾向，提高政策的可接受度，避免“劣质”政策与民意相悖。

算法黑箱难被算法相对人理解。算法的复杂性使绝大多数人无法理解算法的工作原理，因而有“算法黑箱”之称。算法不可被理解主要由四个方面因素导致：算法或数据的保密性、技术盲点、算法自身的复杂性以及算法使用者的刻意隐瞒。(15)Joshua A. Krollet al.Accountable Algorithms, U. Pa. L. Rev. 165, 2017, p.633.首先，算法或数据的保密性隔绝了人们的感官。商业秘密制度为算法使用者提供了天然的保护伞，他人难以获悉算法或相关数据信息。其次，计算机技术涉及高等数学、编程语言等专业性知识，一般人在没有接受专业训练的情况下，无法理解数据处理、编程等专业知识，这使算法相关知识成为非计算机领域者的技术盲点。再次，智慧算法的成熟须赖以机器学习技术的助推，而机器学习技术通常被称为“维度的诅咒”(curse of dimensionality)(16)Domingos P. A few useful things to know about machine learning,Communications of the ACM, Volume 55, 10,2012, p.78.，再加上算法规模效应，即使是计算机领域专业人士也未必完全明白算法的工作原理。最后，算法使用者为了自身利益的最大化，可能会故意隐瞒算法决策的存在或营造算法的神秘性。(17)Frank Pasquale. The Black Box Society: The Secret Algorithms that Control Money and Information. Cambridge, MA: Harvard University Press,2015, pp.102-115.

算法霸权加剧了既有的不平衡格局。第一，算法决策改变了算法主体之间的平等关系。在算法被广泛使用之前，算法使用者与算法相对人之间尚处于相对平等的地位。虽格式合同的存在使合同双方之间出现了力量不对等的情况，但《合同法》第41条规定，格式合同的解释需遵照一定的规则(以非格式条款解释优先、通常理解解释规则和不利解释规则)在一定程度上平衡了格式合同双方的权利与义务关系，缓解了二者之间的冲突。但算法决策的出现加剧了这种不平等关系。第二，算法使用者依赖算法决策处理其与算法相对人的事务，获得了事实上的支配权力。再加上算法仅注重相关性而不重合理性，算法运行过程复杂难以被理解，致使业已成熟的人与人之间的互通理论(18)人类文明演化至今，业已出现较为成熟的人类互通理论，能使不同自然人之间能相互理解，意会彼此之意。这些互通理论包括心理学、哲学、伦理学、经济学等学科理论。被搁浅，原有的博弈或磋商难以有实质进展，加剧了算法使用者与算法相对人之间的不对等。另一方面，在公共事业领域，算法决策可能压缩公民权利空间。人类决策虽也呈现出黑箱化特征，但业已成熟的互通理论可帮助人们了解决策制定者的意图。即使未能理解，尚有信息公开、复议等制度辅助解决。但算法决策的复杂性挑战了人类理解能力，使既有制度难以发挥作用，限制了社会公众权利的行使。

算法决策缺乏配套制度的约束。正如巴尔金教授(Jack Balkin)所言，“算法通过分类(Classification)和风险评估(Risk Assessment)来构建身份和声誉，因缺乏透明度、问责机制、监测制度以及正当程序的约束，为歧视、归一化和操纵创造了机会”。(19)同前注〔1〕，Jack M. Balkin文。素有“维度的诅咒”之称的机器学习算法，不仅因自身的复杂性难以被人理解，还因其使用者和开发者的主观意图以及训练数据富含的歧视或偏见而不中立。随着算法技术、大数据技术的快速发展与广泛使用，算法决策的影响范围逐渐扩大，隐藏在算法红利下的风险与侵害已愈发普遍。虽然《宪法》第4条、第33条、第48条等分别规定民族平等、法律面前人人平等、男女平等，但这些规定过于原则化、缺乏可操作性。同时，现行合同法、侵权责任法以及消费者权益保护法等救济规则难以提供有效救济(20)同前注〔4〕，张凌寒文。，算法使用者利用算法打造的算法王国逐渐成为神秘的灰色地带。当算法决策侵害算法相对人的合法权益，或造成其他显著影响时，因必要的配套制度阙如导致算法决策的负外部性难以被控制或消除。

(三)算法解释请求权存在的必要性

算法黑箱难以破除，政策导向性算法(policy-oriented algorithm)(21)政策中立性算法和政策导向性算法的划分是由Tene Omer和J. Polonetsky提出的。笔者认为，结合机器学习类型可作划分，监督学习和半监督学习训练出的是政策导向性算法；无监督学习得到的是政策中立性算法。不过，这两种分类并不是绝对的二元对立型的分类，而是一种范围上的划分。划分的意义在于因人力编码的程度不同，由于政策中立性算法的人力编码程度低于政策导向性算法，因此着重规制的应当是政策导向性算法。参见Tene Omer&J. Polonetsky. Taming the Golem: Challenges of Ethical Algorithmic Decision Making, North Carolina Journal of Law & Technology, Volume 19, Issue 1,2017, p.137-142.的以及数据自身的歧视与偏见，将导致算法决策可能并不像想象中那般中立、客观。算法使用者利用算法处于事实上的支配地位，容易利用算法暗箱操作制定出不利于算法相对人的算法决策。并且，因算法的黑箱化导致算法相对人无法理解算法的工作原理，即使算法决策对算法相对人造成不利影响，算法相对人也难以知道为何会出现这样的算法决策。为此，确有必要科学地构造算法解释请求权，提高算法决策的透明度，以期消减或根除算法黑箱带来的负外部性。

一是保护算法相对人的合法权益。算法不仅受到数据所含偏见或歧视的影响，还因算法开发者的主观价值判断减损算法自身的中立性，容易进行差别对待。再加之算法自身的复杂性和算法使用者刻意将算法黑箱化，算法相对人难以知晓算法决策的制定过程及相关数据的权重，极易导致本处于弱势地位的算法相对人的合法权益受到侵害。从商业算法决策角度看，商业活动中的算法决策加剧信息不对称，易造成交易双方地位不平等。从公共事业领域看，算法决策仍扮演重要角色。比如，福利分配、贫困认定、司法辅助量刑等系统均有算法的介入。倘若算法决策不透明、不公平，那么将严重影响机会公平与社会正义。而且，算法解释请求权关系到公民权利行使的正当性。因此，通过构造算法解释请求权，要求算法使用者就算法决策作出解释，一方面是为了规范算法使用者的行为，避免算法使用者通过算法谋取不正当利益而扰乱社会秩序；另一方面也可保障算法相对人的知情权，来纠正算法使用者与算法相对人之间的信息不对称，重新调适算法使用者与算法相对人的不平等关系，尽量保证算法相对人有足够的力量对抗算法使用者的“暴政”，避免算法相对人的合法权益受到不当侵害。

二是促进算法技术的良性发展与应用。算法技术虽不是新兴技术，但其在当下得到长足发展。因其可将事件处理模式化，极大程度上节约了成本而备受青睐，然算法决策的负外部性，已成为一个重要问题。诸如算法偏见、算法歧视和算法操控等社会问题已频频出现，这些算法妨害将阻碍算法技术的发展与应用。通过构造算法解释请求权，减少算法决策的负外部性，在制度上为算法技术的发展留下必要且合理的空间，以促进算法技术的发展与应用。(22)张吉豫：《司法领域人工智能算法可解释性的促进》，载《中国人工智能学会通讯》2018年第3期。

三是塑造与发展新时代的技术伦理。“科学技术发展既能促进伦理道德进步，也能导致其退步。”(23)朱艳莉：《论科学技术与伦理道德》，载《现代商贸工业》2009年第6期。科学技术是人类社会发展的重要推动力，技术在推进社会发展时，也会影响人类道德演进的基本方向，催化新道德观念的形成；与此同时，社会道德也会影响科学技术的发展轨迹，二者相互作用。在智能时代，人工智能技术、算法技术、机器学习技术造就了与传统技术迥异的新时代尖端技术，超越了既有的技术伦理范畴，出现既有技术伦理无法满足算法技术需求的问题。(24)张吉豫：《人工智能良性创新发展的法制构建思考》，载《中国法律评论》2018年第2期。通过构造算法解释请求权，推演算法技术对应的伦理需求，有助于为算法技术的发展与应用提供伦理指导，避免算法伦理缺失导致技术梦魇。

二、算法解释请求权的内容及其权利限制

作为一项新型权利，算法解释请求权的权利主体、客体和内容至关重要。从算法应用场景可知，算法解释请求权的权利主体较为明确，即算法相对人是算法解释请求权的权利主体，算法使用者是义务主体。算法解释请求权的权利客体是算法使用者的一种积极或消极行为，即算法使用者应算法相对人之请求作出或不作出一定行为，以避免算法妨害的出现。

(一)算法解释请求权的权利内容

虽算法解释请求权的权利主体和客体较为清晰，但算法解释请求权的权利内容具体为何尚有争议。有学者认为算法解释请求权的内容可分为事后解释与更新解释。其中，事后解释主要是算法使用者向算法相对人披露算法决策的意义、逻辑、决策树、可能对算法相对人产生的影响等有价值的信息；更新解释则指当算法存在错误时，算法使用者应优化算法；若决策所依据的数据存在错误，算法使用者或算法相对人有权更新数据，必要时算法相对人可退出算法决策。(25)同前注〔4〕，张凌寒文。也有学者归纳《条例》中的规定，认为算法解释请求权的权利内容可概括为完全自动化决策的拒绝权、有价值信息的获取权。(26)同前注〔12〕，Wachter Sandraet al.文。相较于后一种观点，本文更赞同第一种观点，但应当予以修正，即算法解释请求权分为事前公示、事后解释与错误更正三个方面的内容。

1.事前公示

在智能时代，算法决策作为一种新型技术应用，仍具有工具属性。在弱智能时代，智慧算法无法独立于人存在，算法依旧是人类参与或管理社会事务的工具。人类利用算法来处理事务，旨在提高效率、谋取更大的利益。而且算法的形成或多或少受到人类的干涉。在(半)监督学习算法的设计之初，算法设计者需对拟解决的问题进行定义、确定变量等，这直接关系到算法的走向；在无监督学习算法训练数据的选择上依然体现了人类的价值判断。可知，算法是人类思想的外化，只不过在智能时代因机器学习技术的出现，算法可在人类设定目标后，自行学习和自我完善。但算法的复杂性和难以理解性要求算法使用者对其有较高的注意义务，以防出现算法妨害。

正是因为算法的特质及其工具的属性决定了算法使用者应当事先公示算法决策的应用场景。算法作为人类管理和参与社会的工具，由算法得到的结果只能成为人类行为的延伸，而不能脱离于人类行为单独存在，算法使用者必须对算法运行的全过程负责。考虑到算法的复杂性，提高算法透明度应当事先将算法应用场景向社会公开，比如，在哪些环节或部分会使用算法进行自动化决策、哪些决策可能是算法作出的、在决策中将使用哪些种类的数据等，以保证算法相对人了解其可能受到算法决策的影响并知晓对其具有影响的决策是由算法作出的。

2.事后解释

事后解释是指在算法决策作出后，算法相对人要求算法使用者对算法决策的制作过程予以解释或说明。因算法本就复杂且难以理解，通过算法得到的决策更是如此，其复杂程度非一般人所能理解。这时算法使用者须应算法相对人的请求就算法决策相关的信息进行披露或解释。算法使用者的解释分为以下方面：

第一、算法自身相关信息的解释或披露。一方面，算法的黑箱特征导致他人难以理解算法的具体工作原理，为了保证算法相对人的知情权，算法使用者应当就算法相关信息进行披露或解释。另一方面，算法作为一种数据处理的方法或工具，只关注相关性而不注重合理性，难以保证算法决策的公平性。为此，《条例》第22条第3款(27)《一般个人数据保护条例》第22条第3款规定“……在第2款所规定的(1)和(2)两种情形中，数据控制者应当采取适当措施保障数据主体的权利、自由、正当利益，以及数据主体对控制者进行人工干涉，以便表达其观点和对决策进行异议的基本权利……”。、第13条第2款第6项、第14条第2款第7项、第15条第1款第8项(28)《一般个人数据保护条例》第14条第2款第7项和第15条第1款第8项两项规定相同，即“存在自动化的决策，包括第22(1)和(4)条所规定的用户画像，以及在此类情形下，对于相关逻辑、包括此类处理对于数据主体的预期后果的有效信息。”就自动化算法决策的情形作出了规定，要求算法使用者应当向算法相对人提供与算法相关的逻辑等有价值的信息。鉴于“有价值的信息”的模糊性，算法使用者对算法相关信息进行披露或解释应聚焦于：一是拟解决的问题，即算法要解决的问题或要达到的效果；二是算法决策所需的个人数据类型，旨在告知算法相对人哪些个人数据被用于算法决策；三是数据权重，告知算法相对人不同类别的个人数据所占的比重；四是算法决策树(29)决策树算法是一种逼近离散函数值的方法。它是一种典型的分类方法，首先对数据进行处理，利用归纳算法生成可读的规则和决策树，然后使用决策对新数据进行分析。本质上决策树是通过一系列规则对数据进行分类的过程。，告知算法相对人数据处理的规范和标准；五是其他必要的信息。

第二，算法决策相关信息的披露或解释。算法自身相关信息的披露或解释主要解决算法自身的合理性问题，但无法保证算法决策的合理性，故有必要对算法决策作出一定解释。对算法决策的解释应当从以下几方面进行：首先，算法决策的目的应符合现实需要。对算法相对人进行算法决策，若不是出于平衡算法使用者与算法相对人之间权利义务关系、履行法定义务等目的，应当禁止对算法相对人进行算法决策。其次，修正信息的告知。(30)算法作为一种工具，必然易受到人为控制，为了避免算法被恶意操纵，除非必要应禁止算法使用者对算法决策的结果进行更改；若更改了就应当予以说明。如利用算法进行不正当竞争。某互联网公司的搜索引擎服务主要依赖于两种算法，即“通用搜索算法”(Generic Search Algorithms)和“专业搜索算法”(Specialized Search Algorithms)。该互联网公司的购物比价服务就是专业搜索算法业务之一，通过返回某一请求，可展示不同商业网站的商品供消费者比较。同时，该公司所拥有的一种名为PageRank的算法能够依据跳转至某网页的链接数量与质量来判定该网页的重要性。当该公司购物服务业务进入欧洲市场后，该公司购暗中将自己旗下的商品排除在PageRank算法、X算法(保密信息)和Panda算法等网页排序算法作用范围之外，并将自己旗下产品的信息置于搜索请求返回页面的显眼位置。最终，该公司被处以天价罚单。算法使用者运用算法得到的结果并不一定符合预期，为了追求更好的效果，算法使用者可会对算法决策进行修正。如谷歌公司推出新的搜索功能，若谷歌自有的工具能够直接给出搜索答案，谷歌将取消传统的网页搜索结果。(31)晨曦：《谷歌搜索大调整：如有精准答案不再显示网页结果》，https://xw.qq.com/tech/20181127000114/TEC2018112700011400，2019年10月2日最后访问。在魏则西事件后，联合调查组要求百度采用以信誉度为主要权重的排名算法，在严格限制商业推广信息比例的同时对商业推广信息加注醒目标识，予以风险提示。(32)王嘉源：《网信办公布调查结果百度月底前改变竞价排名》，载《法制晚报》2016年5月10日。在这种情况下，算法使用者应就算法决策修正的程度或原因进行公示，以便算法相对人了解相关的事实，能更好地看待和接受算法决策。

第三，算法决策对算法相对人的影响。当算法使用者欲将算法决策适用于算法相对人时，算法使用者应当就算法决策可能对算法使用人造成的影响或意义予以说明，提请算法相对人注意。

3.错误更正

算法相对人自行发现算法决策存在错误，或经算法使用者作出解释后知道算法决策的错误或瑕疵究竟来自何方时，若导致算法决策错误或瑕疵的原因是可以更正的，那么算法使用者应当为算法相对人提供更正的机会和渠道。

算法决策的生成依赖于算法和数据，故错误原因可能是算法因素，也可能是数据因素。因此，更正的主体分为算法使用者和算法相对人。算法使用者应就算法自身错误或瑕疵进行修正；算法相对人可更新相关数据以完善或修正算法决策。当因算法因素导致自身瑕疵或错误无法被更正时，算法相对人有权拒绝算法决策，并请求自然人处理。

算法解释请求权旨在平衡算法使用者与算法相对人之间权利义务不对等的状态，保护算法相对人的合法权益。当算法决策导致现实损害时，算法解释请求权将难以提供有效的保护，这时需要按照传统维权方式诉诸既有法律以寻求保护。

(二)算法解释请求权的权利限制

算法解释请求权作为平衡算法使用者与算法相对人权利与义务的制度安排，旨在回塑原有的公平状态，重在利益平衡。这就要求算法解释请求权应具有一定的限度，不至于出现利益倾倒的现象。算法解释请求权的行使必须注重算法相对人与算法使用者的利益平衡，具体表现在：

1.算法解释请求权的解释标准

算法解释请求权赋予算法相对人要求算法使用者对算法决策进行解释的权利，这就涉及到算法使用者应当解释到何种程度的问题。对算法来说，一般算法运算的量级越高，算法输出结果的准确率越高；运算的量级越低，准确率越低。(33)Jason Brownlee. “Model Prediction Accuracy Versus Interpretation in Machine Learning”, MachineLearning Mastery，https://www.itread01.com/content/1547268331.html，2019年10月2日最后访问。因此，有学者认为要求算法决策的可解释性是不合理的，算法解释请求权舍本逐末地牺牲了算法的准确性。(34)Joshua New& Daniel Castro. “How Policymakers Can Foster Algorithmic Accountability, Center for Data Innovation”,https://itif.org/publications/2018/05/21/how-policymakers-can-foster-algorithmic-accountability，2019年10月2日最后访问。但算法解释请求权并不是要求完全的可解释性，而是有限度的可解释性。算法解释请求权要求保证算法相对人的知情权，知晓其受到算法决策及其可能带来的影响，当存在错误时可以要求修正或拒绝算法决策。基于上述目的，算法解释请求权要求算法使用者解释的标准应限定在相关性、可理解性和可救济性的范围内。

算法解释标准之相关性。算法解释请求权是具体的算法相对人就与其相关的算法决策要求算法使用者进行解释的权利，这就必然要求算法使用者应当就与具体的算法相对人相关的算法决策进行解释；否则，构成对算法解释请求权课于其义务的消极不作为。

第一，算法解释标准之可理解性。算法解释请求权要求算法使用者的解释应当能够被算法相对人理解，但可理解性并不是要求算法使用者将算法的所有技术细节全部告知算法相对人，而是以算法相对人可理解为限，即知晓算法决策是如何作出的以及其存在的意义。因此，可理解性的要求可细化为：一是可理解性与透明性兼具。算法解释请求权旨在提高算法的透明度，保护算法相对人的合法权益，规范算法的使用行为。可理解性标准应能使算法相对人知晓算法决策是如何作出的以及为何会出现这样的结果。二是保障算法相对人知情，但不必披露全部算法技术细节。可理解性并不要求将算法相关的全部技术细节告知算法相对人，一方面将全部技术细节告诉算法相对人不仅超出了算法决策可理解性的要求，还徒添算法使用者的解释成本；另一方面，告知全部技术细节意味着不特定人将获悉算法技术秘密，打破了算法的商业秘密属性与算法决策透明性之间的平衡，不当降低了算法解释请求权的可行性。

第二，算法解释标准之可救济性。算法解释请求权要求满足算法相对人可寻求救济的要求。救济分为两个层面：第一个层面为前述的错误更正，即若是算法自身存在问题，应当由算法使用者进行完善；若是算法相对人提供的数据存在问题，则由算法相对人更新数据。第二个层面为诉诸现有法律规则，即当算法解释请求权难以有效保护算法相对人的合法权益时，应当为算法相对人诉诸法律提供必要的信息。因此，算法解释应将可救济性作为解释的标准之一，以帮助算法相对人寻求前述两个层面的救济。

2.算法解释请求权的触发机制

算法解释请求权并非一项自然权利，而是一种调适因算法技术导致算法使用者与算法相对人之间权利与义务不平衡的“游码”。基于此，算法解释请求权不仅要考虑到解释标准的问题，还需要重视权利负担问题。这在现实操作中，主要体现在算法相对人可在何时行使算法解释请求权：一方面，随着算法技术的广泛应用，算法决策会出现在各个领域，若允许算法相对人无限制地行使算法解释请求权，会增加算法使用者的运营成本，不利于算法技术的发展与应用。另一方面，若严格限制算法相对人算法解释请求权的行使，不仅无法有效保护算法相对人的合法权益，也无益于算法透明度的提高。可见，算法解释请求权的触发机制涉及到算法解释请求权能在何种程度上平衡算法使用者与算法相对人的权利与义务。为此，算法解释请求权的行使条件必须注重算法相对人的利益、算法使用者的利益和技术发展的平衡，由此衍生出的问题有：

第一，是以“只要有算法决策的存在”为算法解释请求权行使的前提，还是以“当算法决策造成显著影响时”为触发条件？

反思算法解释请求权构造的功能，便可发现，以“只要有算法决策的存在”作为算法解释请求权行使的前提是不合理的。当算法决策被广泛使用时，不特定的用户会成为算法相对人，若每个算法相对人只要经历了算法决策就可要求算法使用者作出解释，虽为算法相对人提供了足够的保护，但不合理划定了算法解释请求权的边界，导致算法使用者将因算法解释耗费大量人力、物力和财力，不合理地加重了算法使用者的运营成本，最终迫使算法使用者放弃算法，阻碍了算法技术的发展与应用。

以“当算法决策造成显著影响时”为触发条件能较好平衡各方利益。算法解释请求权的设置不可导致利益不当失衡，应考虑算法使用者与算法相对人的利益是否均衡或是否相对均衡。从上可知，“只要有算法决策的存在”并不符合算法解释请求权的制度预设，需要对算法相对人的权利予以限制，为算法使用者利益的保护和算法技术的发展留下必要空间。在算法决策未导致算法相对人的利益受损时，算法相对人的算法解释请求权处于“休眠”状态，只有算法决策“可能导致显著影响时”或“算法决策已经造成显著影响时”，算法相对人才可行使算法解释请求权。“可能导致显著影响时”是一种主观判断，以算法相对人的判断为基准，如个人信用评分算法的错误决策可能导致被征信人无法获得授信，这时可认为算法决策“可能导致显著影响”，但应要求算法相对人提供必要的证明材料。

第二，是否应当排除无人为干预的完全自动化算法决策？《条例》第22条禁止完全自动化算法决策(35)“完全的算法决策”是指算法决策完全由算法系统自主作出，没有人为干预。的使用，在有人为干预的算法决策中才可获得解释或说明。对此，需要考虑的是算法解释请求权是否应当区分完全自动化算法决策和有人为干预的算法决策。《条例》将完全自动化算法决策排除在外，是因为即使是精通算法相关专业技术的人士也难以解释该类算法决策。有人为干预的算法决策融合了算法使用者的价值判断，在一定程度上降低了算法的黑箱程度，但算法解释请求权是否要将完全自动化算法决策排除在外呢？其实大可不必。原因有：一是完全自动化算法决策和有人工干预的算法决策的现实区分较难。算法决策本就是算法使用者独立进行的行为，他人难以了解算法决策作出的具体过程，如何识别完全自动化算法决策将是一个困难的问题。而且，算法使用者会伪造人为干涉的迹象导致完全自动化算法决策难以被认定。(36)Frank Pasquale, “Secret algorithms threaten the rule of law”, MIT Technology Review, https://www.technologyreview.com/s/608011/secret algorithms thr eaten the rule of-law/，2019年10月2日最后访问。二是完全自动化算法决策既然无法被完全禁止，那么就应当要求算法使用者对其进行解释。排除完全自动化算法决策的原因是因其难以被理解。质言之，要对完全自动化算法决策进行解释必然要耗费更多的成本。如果不能禁止算法使用者使用完全自动化算法决策，那么应当要求使用者负有更高的注意义务避免妨害发生。算法解释请求权正是限制算法使用者使用算法的一种制度安排，要求算法使用者对完全自动化算法决策进行解释恰好符合更高注意义务的要求，可起到限制算法使用者使用完全自动化算法决策的作用。

从上可知，算法解释请求权的构造与行使应受到比例原则的限制，表现在：在权利构造方面，应当协调算法相对人、算法使用者和社会公共利益的平衡；在解释标准方面，对算法决策的解释应以相关性为前提，以满足算法相对人可理解性和可救济性为限度，而不可一味追求可解释性牺牲了算法决策的准确性；在权利行使方面，应当保证算法解释请求权行使的相对克制，避免为算法使用者造成过重的负担，影响算法技术的发展与应用。

三、算法解释请求权与既有权利的区分

算法解释请求权是否有独立成权之必要尚处争议之中。有观点认为算法解释请求权可被既有权利所囊括(37)王锡锌教授认为，无论是算法可解释性，还是其他新型科技带来的新型法律问题，首先应当将其置放于传统的法律分析框架当中。就算法可解释性而言，其是可以被纳入到现有的法律框架中的，即政策制定者要求算法技术的运行是以理性化的方式展开的，避免运行过程的非理性问题。该观点由王锡锌教授于2018年12月26日在腾讯研究院与对外经济贸易大学数字经济与法律创新研究中心联合举办的第七期C-Law午餐会“算法可解释性治理路径探究”研讨会中提出。相关报道参见腾讯研究院：《第七期C-Law午餐会“算法可解释性治理路径探究”成功举办》，https://mp.weixin.qq.com/s/50zxqRdkz3DeN5r1bVItKw，2019年10月2日最后访问。(如算法解释请求权可被知情权或访问权所囊括)，无需单独设权；也有观点认为算法解释请求权与既有权利不同，应属独立权利(38)同前注〔4〕，张凌寒文；贾章范：《法经济学视角下算法解释请求权的制度构建》，载《黑龙江省政法管理干部学院学报》2018年第4期。。为此，有必要分析算法解释请求权与知情权、访问权之间的关系，以明确算法解释请求权是否应独立成权。

(一)算法解释请求权与知情权

知情权(the right to know或right to be informed)作为特指一种权利主张的法学概念，是由美国新闻编辑肯特·库泊(Kent Copper)在1945年1月的一次演讲中首次提出的，之后美国在20世纪50年代和60年代兴起“知情权运动”中，“知情权”一词被广泛援用并很快被作为公民的政治民主权利得到各国法律确认。(39)黄德林、唐承敏：《公民的“知情权”及其实现》，载《法学评论》2001年第5期。广义的知情权泛指公民知悉、获取信息的自由与权利；狭义的知情权仅指公民知悉、获取官方信息的自由与权利。在公民权利发展史上，知情权概念的主要贡献在于：它以简约、明了的形式及时地表达了现代社会成员对信息资源的一种普遍的利益需求和权利意识，从而为当代国家的公民权利建设展示了一个重要的、不容回避的认识主题。(40)宋小卫：《略论我国公民的知情权》，载《法律科学》1994年第5期。因此，有学者将知情权视为一种由宪法所赋予的基本权利(41)杜钢建：《知情权制度比较研究——当代国外权利立法的新动向》，载《中国法学》1993年第2期；章剑生：《知情权及其保障——以〈政府信息公开条例〉为例》，载《中国法学》2008年第4期。；也有学者将知情权视为一种基本人权，公民只有充分地享有和行使知情权，才能据以合理地安排自己的生活，并最大限度地保护自己的权利和利益。(42)汪习根、陈焱光：《论知情权》，载《法制与社会发展》2003年第2期。步入信息社会后，信息成为人们生产生活所必需的要素，而信息不对称导致人们日常生活工作受到不利影响，尤其是在商品经济交易中，信息不对称导致消费者处于弱势地位且利益易被侵害，甚至威胁到整个商品经济市场，造成劣币驱逐良币的不良后果。(43)董文军：《消费者的知情权》，载《当代法学》2004年第3期。为此，知情权的外延不断扩张，逐渐由公法领域延伸至私法领域，拓展出被确定为塑造消费者人格的基本权利——消费者知情权。

随着社会信息化程度的加剧，知情权外延得以不断扩充，横跨公法与私法之界，诸多权利可由此推演而来。正因此，有观点认为，算法解释请求权可被知情权涵盖而无需单独设权。(44)刘元兴：《智能金融的“算法可解释性”问题》，http://news.hexun.com/2018-07-18/193498271.html，2019年10月2日最后访问。知情权真可囊括算法解释请求权进而保护算法相对人之合法权益？本文认为虽然知情权与算法解释请求权有天然的联系，但知情权仍无法完全囊括算法解释请求权，理由如下：

算法解释请求权是知情权的具体化。为了满足生存和发展所需，公民有权利也有自由获得必要的信息。作为基本人权的知情权应运而生，为人们的生存发展之需提供了保障。“三权说”是知情权的主流学说，即知情权包括知政权、社会知情权、个人信息知情权。(45)张玉兰：《公民隐私权与个人信息知情权的冲突与平衡》，https://www.chinacourt.org/article/detail/2004/03/id/109791.shtml，2019年10月2日最后访问。知政权和社会知情权更多体现一种公法层面的权利与自由，由此催生出政府的信息公开义务与社会公众的信息公平诉求；个人信息知情权则更关注个人层面，强调个人有权知道自己的个人信息。在步入“评分社会”(46)Danielle Keats Citron&Frank Pasquale.The Scored Society: Due Process for Automated Predictions, WASH. L. REV. Volume 89, 1, 2014, p.1.后，决策算法被算法使用者作为商业秘密保护，当算法决策造成或将要造成损害时，算法相对人为了保护自己的合法权益应当有权获知与其算法决策相关的信息。算法解释请求权恰好要求算法使用者以“简明、透明、易懂和易于访问的形式，使用清晰、明了的语言”告知算法相对人与算法决策相关的有意义的信息。(47)《一般数据保护条例》第12条第1款“对于和个人信息处理相关的第13和第14条规定的所有信息、或者第15条至22条以及34条所规定的所有交流，控制者应当以一种简洁、透明、易懂和容易获取的形式，以清晰和平白的语言来提供；对于针对儿童的所有信息，尤其应当如此。信息应当以书面形式或其他形式提供，包括在合适的情况下通过电子方式提供。若数据主体的身份可通过其他途径得到证实，那么控制者可依主体申请以口头方式提供相关信息。”算法解释请求权赋予算法相对人的权利正是知情权在算法决策中的具体体现，或者说算法解释请求权是知情权中个人信息知情权的细化。

算法解释请求权超越了知情权构架。知情权的构造旨在保障公民获得必要的信息来满足生存发展需要。广义上的知情权是更多偏向宣示性的权利，狭义的知情权保证的是公民获取信息的自由。随着社会信息化程度的加深，知情权的重要性日益彰显，尤其是在商品经济发达的今天，信息不对称问题导致消费者合法权益受到不利影响，发展出了消费者的知情权(48)《消费者权益保护法》第8条“消费者享有知悉其购买、使用的商品或者接受的服务的真实情况的权利。消费者有权根据商品或者服务的不同情况，要求经营者提供商品的价格、产地、生产者、用途、性能、规格、等级、主要成份、生产日期、有效期限、检验合格证明、使用方法说明书、售后服务，或者服务的内容、规格、费用等有关情况。”，要求经营者告知消费者所购买的商品或服务的相关情况，重在经营者的告知义务和消费者获得商品或服务信息的权利。而算法解释请求权的构造重在通过赋予算法相对人一种要求算法使用者对算法决策进行解释的权利，告知算法相对人为何会经历算法决策、算法决策的作出过程及可能产生的影响等信息，消弭算法使用者和算法相对人之间因算法使用出现的权利鸿沟。因此，算法解释请求权与知情权略有不同：知情权更多注重公民获取信息的权利与自由，讲求公民知悉信息的状态；而算法解释请求权不仅超越了知情权所要求的信息知悉状态，还要求算法使用者对算法相对人个人数据收集、处理的正当性，保证算法决策的使用不会影响到算法相对人的合法权益，否则应当作出修正或算法相对人有权退出算法决策。

(二)算法解释请求权与访问权

据《条例》第15条规定(49)《一般数据保护条例》第15条数据主体的访问权：1．数据主体应当有权从控制者那里得知，关于其个人数据是否正在被处理，如果正在被处理的话，其应当有权访问个人数据和获知如下信息：(1)处理的目的；(2)相关个人数据的类型；(3)个人数据已经被或将被披露给接收者或接收者的类型，特别是当接收者属于第三国或国际组织时；(4)在可能的情形下，个人数据将被储存的预期期限，或者如果不可能的话，确定此期限的标准；(5)数据主体要求控制者纠正或擦除个人数据、限制或反对对数据主体相关的个人数据进行处理的权利；(6)向监管机构进行申诉的权利；(7)当个人数据不是从数据主体那里收集的，关于来源的任何信息；(8)存在自动化的决策，包括第22(1)和(4)条所规定的数据分析，以及在此类情形下，对于相关逻辑、包括此类处理对于数据主体的预期后果的有效信息。2．当个人数据被转移到第三国或一个国际组织，数据主体应当有权获知和转移相关的符合第46条的恰当的保障措施。3．控制者应当对进行处理的个人数据提供一份备份。对于任何数据主体所要求的额外备份，控制者可以根据管理花费而收取合理的费用。当数据主体通过电子方式而请求，且除非数据主体有其他请求，信息应当以通常使用的电子形式提供。，访问权(Right to Access)是指数据主体从数据处理者或控制者处获知其个人数据是否正在被处理的权利。若是，则有权获知个人数据来源、类型、数据处理的目的、数据接收者的身份等信息。访问权旨在使数据主体获悉其数据处理的情况，以此来审查数据处理者处理个人数据是否合法、合理，若侵权可便于寻求救济。

有学者认为算法解释请求权被包含在数据主体的访问权中，不具有独立成权的必要。(50)同前注〔12〕。这种观点所依据的理由主要是《条例》第15条所规定的要求数据处理者向数据主体说明算法决策可能产生的“预期影响”之规定。“预期影响”意味着面向未来，即对算法决策的解释不是事后解释而是在算法决策作出之前进行，甚至应在收集数据阶段作出。并且，《条例》第15条第1款第8项所规定的算法相对人有权获得与算法决策相关的“有意义的信息”在访问权的权能覆盖范围内。在此意义上，算法解释请求权实质就是要求算法使用者向算法相对人告知数据处理的存在、目的和逻辑，以及这种处理可能造成的法律后果。通过掌握这些信息，算法相对人应当能够审查数据处理的合法性并有助于其寻求法律救济。

算法解释请求权和访问权的权能确有一定的重合，即二者均可从数据处理者处获得相关信息。访问权允许数据主体从数据处理者处获得必要的信息，审查数据处理行为的合法性，保证个人数据的自决。算法解释请求权赋予算法相对人获得必要的信息来知晓算法决策的正当性与合理性，避免因有误或瑕疵的算法决策造成算法妨害。

虽然算法解释请求权与访问权具有一定相似性或存在部分重合，但二者也存在差异，不可混为一谈。首先，二者的目的不同。访问权旨在确保数据主体有权获悉其数据被处理的相关情况，审查数据处理行为是否合法，重在保证个人数据处理的合法性。算法解释请求权的目的在于约束算法使用者的行为，确保算法决策是合理正当的，避免算法决策造成损害，填平因算法导致的算法使用者与算法相对人之间的权利鸿沟。可见，访问权强调数据主体的知情权，保证数据处理的合法性；而算法解释请求权重在保证与数据主体相关的算法决策的合理性和正当性，回塑算法使用者与算法相对人之间的平等状态。其次，算法解释请求权不可忽略事后解释。访问权虽有要求数据处理者应向数据主体告知数据处理行为的“预期影响”，但这并不能涵盖算法解释请求权所要求的事后解释。从算法决策的过程看，只有算法决策被使用方可确定对算法相对人产生的影响，在此之前只能以“预期影响”称之，但并不能以此否定算法解释请求权独立成权的必要性和可能性。此外，在数据收集阶段根本无法确定算法决策将会造成何种影响，要求在数据收集阶段告知数据主体算法决策的“预期影响”是不尊重他人数据权利的表现。

因此，本文认为算法解释请求权是从知情权中衍生出的一个新型权利，并独立于访问权而具有特殊的权利内涵。

结 语

随着算法社会的临近，算法应用场景日益丰富，伴随而来的必然是算法决策的风靡。但算法黑箱隔绝他人感知，使算法使用者享有“算法权力”，改变了算法使用者与算法相对人原有的相对平等的状态。权力的天然扩张属性和算法使用者的利益最大化追求，将使算法相对人遭受算法妨害。为合理限制算法使用者的算法权利，赋予算法相对人算法解释请求权以避免算法妨害的出现，进而平衡算法相对人与算法使用者的利益，最终促进算法技术的发展确有必要。本文粗略梳理了算法解释请求权的起源与发展脉络，并在初步构造的算法解释请求权的权利内容和限度的基础上，对算法解释请求权与知情权和访问权进行了区分，在一定程度上廓清了算法解释请求权的权利范畴。但囿于笔者能力有限，未能对算法解释请求权进行全面细致的雕刻，后续研究仍可对此问题进一步挖掘。