算法应用争议及其治理路径研究

秦文艳 赵泽旭

摘要：随着智能时代的逐渐到来，算法技术几乎开始浸润到互联网场景的每一个角落，与此同时，算法的全面性、系统性规制却一直是世界数字制度建设的空白。目前，我国已在算法治理领域建立了初步的立法体系，但对于算法在新应用领域出现的争议事件，尚且需要在理论和实践中展开进一步探索。“首例算法风控系统侵权案”中法院指出涉案平台在提供算法服务的同时履行了与之相匹配的注意义务，在算法应用侵权责任认定上具有一定指导意义。其中涉及的媒体、平台、相关部门等多类行为主体也展现出算法协同治理的大趋势。本文尝试从媒体、平台、法治等多个角度对算法治理路径展开分析，为实现算法多元共治提供有效实践经验。

关键词：算法；框架理论；风控系统；注意义务

一、案例引入

随着智能时代悄然到来，算法技术几乎开始浸润到互联网场景的每一个角落，逐渐发挥出惊人的作用。但在算法在各领域得到广泛应用的过程中，诸如“算法黑箱”“注意义务”“过错认定” 等一系列问题同样引人深思。截至目前，我国已初步建立起算法治理的立法体系。顶层设计上，《“十四五” 数字经济发展规划》指出加快构建算力、算法、数据、应用资源协同的全国一体化大数据中心体系。各类具体的算法活动也有相应的规范，如算法在风控领域的应用：《互联网信息服务算法推荐管理规定》第九条中明确算法推荐服务提供者需按照网络信息内容生态治理有关规定对不良信息乃至违法信息做出有效处置。但对于平台算法应用等行为的注意义务以及平台参与社会治理的合理边界等，相关政策与法律法规尚未有明确的适用标准和规范，还需在实践中进一步展开探索。

2022年8月29日，北京互联网法院就李某诉某公司网络侵权责任纠纷案作出一审判决。此案主要围绕被告运营的某征婚交友平台展开，争议焦点在于该平台所采取的涉案算法风控行为是否存在主观过错。审理中法院基于被告算法风控行为的相关法律依据并参考其算法逻辑机理、技术水平等情况认定被告设置“预防性风控系统” 算法应用的同时尽到了与之相匹配的注意义务，其系统误判系技术水平所限而非主观过错。本案为全国首例涉及算法风控系统引发人格权侵权纠纷的案件，具有广泛社会影响力和关注度。学界肯定了“首例算法风控系统侵权案” 在算法应用于“风险控制” 领域引发的侵权责任认定上的指导意义，认为其在算法风控方面明确了合理的注意义务标准以及具體认定因素，是平台治理领域的典范。另外，媒体、平台以及相关部门等多类主体在此次案件中的参与无疑也为算法治理路径提供了新思路。笔者认为可以尝试从媒体、平台、法治等多个角度入手，在理论和实践的探索中逐步建立起算法协同治理的良好秩序。

二、理论梳理与文献回顾

（一）新应用领域下的算法争议

相对于以往对表层信息流转的控制，新应用领域中的算法争议进一步地深入到对公众社会生活的规训。对于算法争议，传统研究多围绕算法技术旧有应用中存在的一些问题展开，如算法推荐、信息茧房等。具体到新闻传播领域，相关研究大多集中于算法新闻伦理、算法新闻推荐等方面；对于算法在新兴应用领域所引发的相关争议如算法风控运用误伤用户权益等，还大多停留在对算法内在局限与社会影响的分析上。另外，对于算法争议背后的实质核心，不同学者给出了不同见解：包括算法权力扩张导致媒介伦理困境；[1]传播权力再分配；[2]对工具理性的推崇、信息体验的追逐以及算法技术本身不完善[3]等。

（二）框架选择与把关差异

1974年戈夫曼（Goffman）在《框架分析》中首次将框架（Farming）这个概念引入文化社会学的范畴，将其定义为“一种认知、呈现事物、反映思想的架构”。1980年托德·吉特林（T·Gitlin）在《新左派运动的媒介镜像》中将框架解释为选择、强调和排除。传入我国后，框架理论多被用来对媒体报道内容进行质化和量化分析，借以阐述媒体报道所传播和呈现的意义。其中有部分研究关注到了媒体报道框架之间存在的差异对公众乃至相关公共政策的影响。[4]

媒体的报道框架多体现在新闻报道的标题、导语、引文、重要段落的组织和事实提供的先后顺序上，从而为受众提供不同的视角、思路和评判标准。甘姆森（Gamson）等人认为，媒体框架（mediaframe）意味着媒体对人和事物的意义范围的限制，是人们用以解释社会现象的一套内在结构。媒体对社会事件在报道上的取舍，易受到个体、行业规范、组织、其他社会组织、社会意识形态等因素的影响，最终的把关结果将直接体现在报道框架上的差异。

（三）算法协同治理

算法在新兴应用领域中的诸多争议更多还是技术与社会、政治关系之间的问题，而技术与人文的调和必然要涉及多种行为主体，算法的协同治理已是大势所趋。对此，越来越多学者意识到算法广泛应用背后的系列问题并基于不同角度给出治理路径。袁映雪、陈虹认为可以通过技术路径和传播机制的双重约束，形成多元把关防范和信息互动相辅的算法协同治理趋势；[5]曾白凌认为平台责任在技术“切近性” 到来与面对“信息茧房” 时显得更为迫切与必要；[6]彭桂兵、丁奕雯指出可从法治层面系统性明确平台的法律责任界限。[7]综上所述，当前就算法多角度协同治理展开研究，已具备一定社会背景与理论基础。

三、案例分析及其治理路径

（一）媒体报道

1.框架分析

本文以“算法” 等为关键词对各类媒体报道进行全文搜索，获得样本70篇，多集中于2022年11月到12月，剔除关联度相对较低的文本29篇，有效样本共计41篇。本文对这41篇文本进行框架分析，报道框架涉及三个方面：发布来源、新闻文体以及文本的价值取向。

其中党政媒体关于此案的报道共5篇。作为权威话语主体，党政媒体重点从宏观角度切入，通过对案件意义、政策、相关法律法规的解读以及进一步的指导性建议传达对民众算法相关合理权益的重视与关注，充分体现了其表达国家立场、引导主流价值的官方发言者身份。

政务媒体关于此案的报道共25篇。关注于我国相关法律制定和案件审理的具体过程以及结果，以事实情况为主要报道点。其文本内容与党政媒体有一定的重复内容。相似度较高的部分主要集中于两方面：一是在报道内容中中性词汇的大量使用；二是对与此案相关的法律政策和案件审理结果的着重解读，以此响应党政媒体的权威性解读，达到传播效应上的扩散。与党政媒体不同的是政务媒体增加了法官乃至相关行业专家的针对性分析，在事实情况外又增添了新的解读视角；此外作为政务媒体，其文本内容在体量上要更为简短精练，主题表达上也更直接集中。

市场化媒体关于此案的报道共7篇。注重从多个角度解读案例内容和审理过程，并增加了对案件公正处理以及其意义的评论，如对后续类似案例的样本价值等。

专业媒体关于此案的报道共1篇。主要从算法技术、规则和法律专业的角度深度分析案件审理方向，总结算法治理的相关策略。

自媒体发布的有关文本共3篇。聚焦点更细化，表达形式更多元（包括短视频的使用），主要通过两个方面来表达观点：一是进行信息陈述，对官方传达的案件信息进行复述转发，引导公众关注转向上述媒体的具体报道；二是通过提问的形式，对生活中“算法乌龙”“算法误伤” 的具体现象展开讨论，以期引发公众对算法应用及其争议现象的新一轮热议。

2.问题所在

对于算法在新兴领域的应用乃至因此产生的新型算法争议，媒体的关注度有所欠缺。在仅有的一些相关报道中也存在着报道内容同质化的现象，即使在市场化媒体这一类中也缺乏对于事件本身的觀点输出，整体比较保守。对此，媒体应更有的放矢地进行主流价值的认知引导，提高社会整体的算法认知维度，积极参与到算法协同治理的过程中来。

（二）平台

1.自治前提

平台对算法的应用过程具有披露义务。一方面是“算法黑箱” 的问题。算法应用过程本身就存在技术隐蔽性，其运行决策原理大多隐藏在数据模式的迭代演变与复杂代码之中，而算法设计规则、主体利益和意志导向偏差、使用者隐私权和社会公共利益保护也使得算法在主观和客观上必然会有一定的不透明性。另一方面对算法应用侵权责任认定的重要因素就是判断涉案平台是否有尽到与涉案算法风险相匹配的注意义务，其依据之一就是涉案算法运行的机制机理。本案中，涉案平台积极履行披露义务，针对其算法运用的具体机理予以充分说明，证实涉案侵权行为系算法技术不足所致。但需要注意的是此目的并不在于消除算法本身的不透明性，更多是借此来规范平台的主体行为，使平台的不透明性合理合法合规。

平台需要提高自我监督的责任意识。算法治理的本质在于信息的合理利用，这一点离不开平台的自我监督与责任意识。基于平台的多重属性以及其参与社会治理过程中国家的行政赋权，平台行为混杂着公权和私权的错位与模糊。对此，平台需要提高自我监督的责任意识，保障运营过程的合理合法。而自身行为目的和主观意图、行为手段和性质以及身份特点所附注意义务正是其自我监督所需要关注的重点。

2.自治手段

在本文案例中平台尽到了与涉案算法行为相匹配的注意义务，但平台自治还要求平台及其背后的相关企业以谨慎、专业的态度正确审视算法应用，注重技术可靠性和可控性，在算法开发和设计过程中通过多种手段充分保证算法决策的规范性和有效性；建立算法中的验证纠错机制，不断完善和优化算法设计；及时采取预防侵权的合理措施，在纠纷发生后更要及时处理，对受到权益损害的个体予以相应补偿。

（三）法治：算法多元共治的基础

1.规制前提

虽然我国已经在算法治理领域建立了初步的立法体系，但对于平台算法应用等行为的注意义务以及平台参与社会治理的合理边界等具体方面，相关政策与法律法规尚未完善。对此，本文案例就上述内容做出了一定探索。一是明确标准：包括算法在不同应用情境下的合理注意义务标准及具体认定因素；二是平衡利益：本案中的要点之一在于用户权益的充分保护与网络平台依据法律要求履行打击电信诈骗等治理义务的行为之间的矛盾，法院从两者平衡角度出发做出判决，在保障平台可以继续采取有效措施防范电信诈骗风险的同时又补充了被算法“误伤” 后的救济途径，对于构建共治共享的算法安全秩序具有借鉴价值。

2.法治保障

一方面由于算法的不可预判性，即便当下算法规则审查合理，但随着算法本身外延式的延伸，算法结果依旧不可确定；另一方面算法应用将平台多重属性的对立进一步放大，其公权与私权之间的矛盾与冲突不可避免。因此，在平台自我监督的同时也需要法律角度的调节与规范：在立法上明确平台责任，规范其参与社会治理的过程；强化对平台问责权力的独立性，尝试由有关部门联合相关领域专家以及第三方行业代表共同对平台算法应用情况展开定期审核评估；从法律层面保障算法技术的积极发展与运用，鼓励其正向价值传播，让网络发展成果惠及广大人民群众。

四、结束语

“首例算法风控系统侵权案” 深入分析了算法应用于“风险控制” 领域构成侵权的责任认定因素以及注意义务标准，也展现出算法协同治理的大趋势。应当看到，虽然我国已经在算法治理领域建立了初步的法律体系，但对于算法在新应用领域出现的各类纠纷，尚且需要展开进一步探索补充。对此，媒体应增加对新兴领域算法应用的关注，做好主流价值的认知引导，提高社会整体的算法认知维度；平台应重视自身义务，不断发展技术减少误差、做好自我纠偏和侵权预防；在法治层面明确适用标准，对平台算法应用做出规制与监督的同时平衡好各行为主体的利益。通过多途径、多角度的算法协同治理，实现算法技术正向发展与应用。

参考文献：

[1] 吴飞，李含含.算法权力的获得、运行隐患与规制[J].未来传播，2021，28（5）：2-9+128.

[2] 尤红.媒体融合智能化演进中的算法权力与风险防范[J].南京社会科学，2019（7）：120-125+134.

[3] 尹凯民，梁懿.算法新闻的伦理争议及审视[J].现代传播（中国传媒大学学报），2021，43（9）：64.

[4] 常健，郝雅立.新闻议题框架对公共冲突治理的作用机制及其管理[J].国家行政学院学报，2018，115（04）：63-68+149.

[5] 袁映雪，陈虹.把关人视角下的算法技术认知与治理出路研究[J].新媒体与社会，2022（01）：220–233.

[6] 曾白凌.媒介权力：论平台在算法中的媒体责任[J].现代传播（中国传媒大学学报），2021，43（10）：31–38.

[7] 彭桂兵，丁奕雯.智能传播中短视频平台版权争议及其治理路径：兼评“首例算法推荐案”[J].新闻记者，2022（9）：86–96.