人工智能时代算法权力的隐忧与反思

沈 雪，李 欣

(1.伦敦大学学院人类学学院，英国伦敦；2.浙江传媒学院新闻与传播学院，浙江杭州310018)

互联网、人工智能和大数据的勾连，颠覆了传统新闻传播业的业态、理念和规律，使新闻传播业进入了崭新的智媒时代，并大规模外溢到互联网平台。与此同时，霸权、隐私、偏见、不可控等伦理问题显现出来，升级为智能技术与人类的关系问题，算法伦理成为传播伦理讨论中不能回避的环节。算法以技术的面貌出现，看似与伦理没有关系，但事实上其各个步骤背后都映射着人类思想；在机器深度学习、迁移学习中还会出现超出人的意想，具备更大的决策能力，这些都暗示着算法具有权力。人工智能和大数据的伦理问题，很大部分演变为算法权力(power of algorithms)的产生、运用和效果问题，算法权力成为学术界研究的热点话题。[1]

一、文献综述

在Web of Science文献库中，以algorithm*、algorithmic power、power of algorithms、political of algorithm、algorithmic ethic为检索条件，对新闻传播学领域23种JCR一区SSCI期刊(Clarivate Analytics，2020)进行检索(截至2021年8月18日)，筛选后共有研究算法的学术论文273篇，较早出现的为2007年在JournalofComputer-MediatedCommunication发表的关于谷歌轰炸算法影响的研究论文，[2]其后几年仅零星数篇出现，直到2015年以后大量论文出现，展开了关于算法的全面研究，并持续到当前。对算法权力展开专门讨论的论文有26篇(部)，较早出现的是2012年发表在InformationCommunication&Society的将研究视角从搜索引擎对社会的影响转移到搜索引擎构建中涉及的社会实践和权力关系的论文，[3]90%的相关论文集中在2016年以后发表。

在万方文献数据库中，以“算法”“算法权力”“算法伦理”为检索条件，对12种新闻学与传播学CSSCI来源刊及扩展版(2021)进行检索，筛选后涉及算法的学术论文共有332篇。较早出现的是2005年在《现代传播》发表的关于搜索引擎搜索秩序算法的论文，[4]从2016年开始相关论文大量涌现，每年有60篇左右，对算法权力、伦理展开专门讨论的论文有73篇。中国新媒体传播学年会于2016年针对算法决定论提出有必要从算法伦理等方面展开研究。[5]此后，算法权力、伦理问题在我国成为研究热点。

通过对上述研究文献的综合与分析，发现国内外对新闻传播领域算法运用及其权力、特征、规律等研究在语境、方法、结果等方面不尽相同。国外对算法及其权力研究相对起步早，从一开始就以具体算法实践为研究对象，进行实证研究，提出新的理论或理论化论证，如运用Purer的伦理多层责任体系研究自然语言生成的算法新闻；[6]研究智能手机记忆功能，提出算法部署概念；[7]研究策展算法，提出算法元资本概念[8]等等。采用这样的研究范式是有客观原因的，本轮新闻传播领域的变革由构建在互联网上的人工智能和大数据技术推动，该技术不像以前是以解决一个具体问题为主的硬件技术，规格指标固定，而是一项有复杂中间过程、可编程、有思想性的算法软件，性能性状可变可调，靠一般理性主义的推理演绎、逻辑判断很可能误判。

虽然在互联网算法嵌入的服务决策阶段开始，国内外研究的重点和演进几乎是同步的，但国内研究主要侧重在围绕智媒时代重构技术，人与社会的关系，具体以传播生态、传播伦理和反制对策三条主线在实践运用和理论探究上交织着向前发展。一是新传播技术促使新闻传播本体论和舆论生态发生深刻变化。新的传播时空观、人与技术的主客体界限、“人”的主体性、新生态机制、生态制衡力量、新闻新业态等成为研究重点；二是算法运用及其权力带来的传播伦理问题受到高度关注。数据主义形成、算法机制的逻辑及价值、传播场景的空间正义、算法社会能见度、数字劳动、非真实与低透明度、偏见与极化等研究逐步达成共识；三是算法伦理规制和平台媒体治理及其归责凸显为胶着问题。对算法治理、法律与技术双重保护、算法伦理素养培养、国家主导制、平台媒体责任、技术与用户的伦理责任主体等话语开展多维度研究。[9][10]同时，在这几个方向上，国内外都主要分两个观点展开：一是试图证明一种不透明且难以控制的算法力量是如何违反道德价值观并损害用户的自主性；二是强调这种权力可能存在系统性，算法可能作为更广泛的理性和看待世界方式的一部分被唤起。[11]这两个观点表面上看几乎相反，其实质是从不同视角审视和揭示算法传播和权力与人、社会的关系，以丰实算法传播的研究，为优化治理提供不同依据。

然而，研究中内卷化问题依然存在，跨学科研究成果亮点不多，[9]特别在算法伦理规制和治理实证研究上还有不少空间。如赵瑜指出传播学界需要更为细腻的技术问题逻辑描述，尤其是人工智能技术到底在哪些环节、哪些层面影响新闻伦理。[12]本文从国内外算法权力的传播伦理视角出发，聚焦算法权力对媒介生态的改变，集中表现在对拟态环境的多模态式异化和对用户的霸权及过度动员能力。通过结合算法权力传播伦理的隐忧表现企图凝练出算法权力的治理方案，提出算法权力的现实化、生态化规制策略，促使算法传播和算法权力回归科技向善、人文主义和生态平衡。

二、算法权力传播伦理的隐忧

(一)算法对拟态环境的多模态异化

李普曼提出人们对客观世界形成的特定倾向性图景很大程度上受到新闻传播业所构造的拟态环境(pseudo-environment)的影响。构架在内嵌算法互联网上的新闻传播业存在特征统计、数据过滤、挖掘提取、推理寻优等方法，以及深度学习中的卷积神经网络等仿生算法，实现了机器写作、精准分发、特征挖掘、信息过滤、自适应、矩阵排序等超人工功能，形塑了一个多变、失控和被绑架的多模态拟态环境。

1.算法重塑人们对世界的感知

拟态环境的多样性正在形成，这与智能媒体、聚合类信息和社交平台中算法的信息聚合与实时生产能力不无关系，“算法安置”正参与塑造人们与世界的接触及其对世界的感知。[7]传统的新闻专业生产已被算法生成“(AAC)+PGC+UGC”三者替代，人类对不知疲惫的AAC生产能力望尘莫及，美联社每季度产出约300篇人工财经新闻，而算法机器人每季度可产出4400篇。算法几乎涵盖所有形式的文稿，包括生产结构化稿件与撰写快讯快评、深度报道等。[13]算法更是弥散信息的聚合者，收集、聚合和处理海量内容与即时传播，塑造不同对象、来源、角度的拟态环境。首先，从传播者的角度来看，算法生成新闻拓宽了新闻发布的来源，使新闻发布不局限于新闻记者的工作。其次，从传播内容的角度来看，由于算法的介入，拓展了信息生产中的信息来源，使丰富、海量、形态多样的数据都成为新闻生产的原始材料，信息传播的内容视角也更为多元。再者，从信息接受的受众来看，由于算法技术带来的精准化推荐，受众获取信息的主动性不再唯一，精准推送到受众眼前成为信息传播的新方式，受众从主动接收到“被动喂养”，新受众和边缘受众都可以成为舆论场中的一分子。因此，传播来源、内容角度、受众对象的丰富多样，为构建多变的拟态环境提供了温床。此外，算法实时性和敏捷性实现了新闻的时效性原则，写稿速度最快可达到毫秒级。Facebook的“即时文汇”内容加载速度比普通网站页面快10倍。[14]算法的信息聚合性和实时性为人类社会构建了一个多变的拟态环境，改变了媒体的公共性逻辑，算法成为信息的把关人。拟态环境的多变，进一步使得舆论场失去导向性和媒介生态的失衡。在一个媒体和代码无处不在的社会，权力越来越存在于算法之中。[15]

2.被绑架的拟态环境

《今日头条》的“推荐你喜欢的内容”，《纽约时报》惊呼“头条已不重要”，两者表达了相同的意思——“传统意义上的头条已死”，个性化信息定制时代已到来。[3]这其中，算法的精准匹配和模型自适应奠定了技术基础。

传统媒体“一点对多点”的“内容为王”单维线性生产模式已被算法解构。算法通过处理海量数据，可建立内容特征、“用户画像”、场景关照三者相关联的多维立体结构。新闻客户端“一点资讯”的创始人坦言：“比阅读重要的是阅读者的行为”，“你在看手机时，手机也在看着你”，算法正在悄然收集着用户行为和场景数据，[11]通过特征提取的内容匹配实现精准分发，建立了一个“懂你”的拟态环境。各种不同目的的计算模型使算法具有超强适应能力，实现内容生产个体化、对象化，用户黏性、渗透力实现突破性提高，形成全新的议程动态设置。[4]显然，议程设置权力发生了质变，最终用户通过算法的帮助成为核心的议程要素。[16]然而，算法推荐强调的是技术的强势地位，个性化内容推荐违反了现实环境的客观性，看似为用户定制了一个“懂你”的拟态环境，其实也是一种“被绑架”的拟态环境，用户被拟态环境进一步“绑架”，人的主体性也进一步消解。缺乏主体性的用户仿佛置身于圆形监狱陷阱中，算法权力以一种全方位的监视器和跟踪仪的方法，收集用户的行为习惯，用户沉迷于“精神鸦片”和“安慰奶嘴”带来的满足感当中，失去了批判性和抵抗力，形成了“单向度的人”。算法权力带来的“个性化”或许是一种“伪个性化”，其本质是限制人的自由度。

3.失控的拟态环境

Web2.0的兴起，社交平台成为人们交流、传播的重要渠道，内嵌在社交平台中的算法赋予个体同等价值权重，平等分享传播的互动权力，在用户交互激荡下形成了一个失控的拟态环境。

传统媒体的议程设置、信息把关、传播渠道固化，受众在很大程度上是内容的“解码”者，“知识鸿沟”导致受众狭窄,无法逃脱“木偶”这一角色。[17]相反，算法的权力范式使用户被平等地赋予了媒体主角的身份，并赋能和赋权，感应社会不再是“有文化”人的专利，通过协同和内容过滤算法，每个人都能搭建兴趣角与加入社交群落，构建传播平等。一篇文章被阅读、点评、转发、排序，它的影响力才能真正得到体现。[13]社交平台在算法支持下驱动群体从互动走向合意，算法助长了内容交互、信息挖掘，更助长了观点深化、群体合意，形成传播的高阶性，借助高阶的拟态环境，有了干预事件进程、影响他人行为甚至制造事件的能力，[15]同时也会使传播内容为迎合市场口味而失去其导向性，造成拟态环境的失控，传播权力结构和能力发生了重大变化。失控的拟态环境可以为别有企图的利益团体提供影响现实环境的机会和平台，通过雇佣网络推手、键盘水军、非正规网络公关公司等手段，来达成其操控权力和非合理盈利的意图。近年来，有偿删帖案件频发，造成删除一个负面关键词的价格高达数万元的收费乱象。部分利益团体通过非法删帖发帖业务，制造和放大负面网络舆论，营造了一个失控的拟态环境场，严重损害国家形象和网络信息安全，影响网友的认知、态度及其行为。

(二)算法权力对用户的霸权及过度动员

算法在新闻生产和传播机制中起到颠覆性作用，成为逻辑和规则的“代言人”，社会正在见证算法的权力。[17]权力有两面性，新的权力结构，构建新的正反面。算法可以促进客观性的观点，但大量使用时也和治理相关。新形式的权力产生什么作用并如何产生，这是一个迫切需要关注的问题。[13]

1.算法权力的用户霸权

算法权力具有网络化和弥散性，以至于“无法与生活本身区分开来”。算法权力的这一特性导致了用户个体既是权力的持有者，又是权力的承受者。[12]群体性、外溢性、自发性的“用户霸权”导致了用户的表达任意。Web2.0协作下，“用户霸权”体现在用户表达的任意和外溢。算法把关机制的智能性无法覆盖意识形态、公序良俗、艺术鉴赏等人类思想。用户能突破定位于技术的算法把关而体现表达任意，言论者的结构化失衡更加剧了表达的失衡。微博、微信等社交圈表面为圈内行为，但圈与圈的重叠导致裂变式传播，能在短时间内形成超级舆论场，言论通过社交圈外溢，影响舆论的客观性，带来舆论的误解误读，甚至社交平台可以影响总统大选。[18]

2.算法权力的过度动员能力

在Twitter上，任何人的话都很容易被放大。[19]协同算法权力实现的推荐排名、偏见争议、评论拉踩等高阶行为，导致过度动员，裹挟地进入后真相时代(post-truth)。传播的话语研究聚焦传递、控制、权力等，其主要成分为动员话语。失衡、偏颇的传播，产生过度动员，造成群体极化。粉丝们集体无意识地进入群体偏激、群体极化，这与算法权力的过度动员能力密切相关。情绪分化的置顶排序、定向分发、评论点赞等正反馈机制反向造成了过度的号召力、组织力，算法做出的判断可能会产生强大的后果，导致传播系统失稳和失控。算法权力的过度动员能力将真实与否降低到次要位置，当真相和假象同时呈现，假象并不一定被击碎，有时还会在传播中占据优势，[20]因为在真相传播开始之前就有了情绪和立场，能产生比真相更大的舆论场。社交媒体带来的信息危机，[21]使新闻专业主义渐行渐远。后真相时代的出现，动摇了人们追求真相的信心。

3.算法权力的数字霸权

人们对信息的主导权被“让渡”给了算法。[22]换一个角度看，算法权力是一种数字的霸权。数字霸权易产生垄断性和缺乏透明度，凭一己之力改变议程，产生用户画像的机械性。一种不透明且垄断的算法力量是容易违反道德价值观并损害用户的自主性的。脸谱网以“商业机密”为由拒绝公开某些算法机制，缺乏透明度，使之可靠性受到威胁。[14]算法权力的数字霸权在于程序员、平台改变若干参数即可产生重大影响，而公众很难解码其中的程序设置。Rodis研究了男性算法研制者对有色人种、亚洲女性歧视推特的影响关系，[19]以此证明数字化的算法权力可以被轻易挪用。同时，基于单一算法识别的方式易对用户产生模糊化、简单化定位，容易把用户一次性、偶然性的表面行为解读为用户真实的、深层的兴趣和心理需求，[22]由此造成用户画像的数字马赛克，呈现出数字定性的机械性和片面性，形成数字霸权。同时，数据权利的财产权属性，包括个人隐私权归属、行使限制权等问题，[23]引起公众担忧。

三、算法权力的治理反思

新媒体倚重的算法权力如此重要是因为其影响拟态环境的构建。社交平台是在不同垂直领域的算法积极推动者，[24]聚合类平台是算法的主体行动者，他们凭借其互联网的核心节点地位和大数据资源成为算法权力的掌控者，构建起平台所有者和用户、算法之间的相互依赖关系，[25]资本化、平台化和非专业化是算法权力的特质。因此，算法权力掌控者和算法权力需要规范与治理。但整体来看，目前对这一问题的探讨还远远不够深入。[26]

算法权力规制的现实化。算法权力为主构建的拟态环境大多以网上虚拟社会的形态出现，虚拟社会的实践发展有时超越了当下认知，出现了认知困惑和治理真空，产生了一些社会问题。但从人类本体和人类社会治理的原理看，不管是虚拟社会还是真实社会，其基本准则相通相同，人类社会长期发展积累的治理理念、规律和方法是虚拟社会和真实社会共同的财富，“网络空间不是法外之地”，对社交媒体的治理策略应该摒弃基于“国家—社交媒体”的二元框架。[27]因此，对算法权力掌控者和算法权力的规制应以遵循真实社会基本准则为根本原则，即规制的现实化。依循现实基本准则，可研制发言实名制、围观可视制、身份溯源制、算法公示制、数据档案制等和真实社会治理同理的规则和制度。不少学者进行了这方面的研究，如新闻实践重归人工影响模式[28]、法律介人改善算法传播公平性[29]、采用回溯机制查验事实[30]、算法的生产性资源数据的收集和使用进行合理限制[31]，以及算法抵消算法机制[32]等等。算法权力规制的现实化原则有利于拨开云雾消解虚拟社会的多种不正常行为，确保算法权力扬长避短。

图1 新媒体生态联结关系图

算法权力规制的生态化。智媒系统是一个新的生态系统，不同于传统媒体的单一线性关系，而是网状地联结着核心价值观、平台、传统媒体、市场(市场秩序)、技术、用户(社会群体)等众多要素，互相之间具有方向、大小的影响关系，新媒体生态联结关系(忽略一些弱影响关系)如图1所示。从图中可以看出：代表意识形态、政府治理的核心价值观和代表人工智能、大数据的技术为系统的输入者；代表新媒体主要掌控者的平台媒介为核心节点，并有其明确的输入、输出通道；平台媒介的影响方式主要通过算法。从生态系统的控制论出发，调节系统的输入和输出环节，可以改变生态主体；同时，生态性要求系统维持一定的平衡和可持续，不能过度和偏激。通过调节输入可对算法掌控者进行规制，改变输出可对算法权力产生过滤作用。通过改善市场规则、算法过滤等生态系统输入输出对平台的资本化、平台化和非专业化特质产生规范与控制，形成生态化引导和治理，实现平台特质的抑扬。赵瑜详细分析了人工智能时代新闻伦理的道德行动者：政府、媒体、公众、新增新闻伦理行动者等的伦理行为，提出了调控对策。[33]输出通道是算法权力发挥作用的路径，是隐忧产生的主要环节，是算法权力规制的主阵地。算法权力通过市场规则至用户(社会群体)或直接至用户(社会群体)，进而影响社会的核心价值观。因此，应面向用户和市场两个维度展开算法权力的理论和实践研究，厘清算法权力的利弊两面，形成针对性的规制，建立市场规则和用户群体生态圈，建设生态良好、符合人民利益的媒体环境。

四、结 语

在算法技术的推动下，以平台媒体为头部的智能媒体以颠覆传统媒体的态势横空出世，智能媒体建立了更丰富、更实时、更多样的拟态环境。同时，算法伦理成为智能媒体的隐忧共识，议程把关人改变，新闻专业主义退化，形成用户霸权、群体极化、数字马赛克、隐私经营等伦理拷问。很多学者提出了治理策略，推动了算法伦理的传播话语研究。但总体上，智能媒体的实践发展走在了理论研究和治理认识的前面，理论解释和政策资政以亦步亦趋跟随实践发展为主，引领智媒发展的理论体系研究还有很多空间，主动抑扬算法权力的对策供给也有很多空白，亟待学界作出回答。

在国内外众多学者研究基础上，基于本轮媒体革命为技术推动引起的判断，本文提出算法权力规制的现实化和生态化。从人类本体价值观和社会治理的同理出发，剥去算法权力的技术外衣，回归科技向善本源和人文主义传统；以系统、生态的观点和思路，沿着输入、输出通道，聚焦生态性，构建治理逻辑。由于智能媒体的产生和发展有多学科综合和全球共同面临的特点，未来更多应在新闻传播本体、信息科学、社会学等多学科协同和国际融通方面加强研究和实践，形成系统化的智能媒体理论研究体系和治理方案。