算法平台推荐碎片化信息的隐患与治理

□李红博

算法平台推荐信息的特征

内容偏向简单化。算法平台推荐的信息往往简单易懂，在一定程度上降低了大部分群体的认知障碍，能让他们更轻松地掌握各种信息。算法平台推荐的信息传播也更为高效，人们无论何时何地都可以接收到，加上人们之间的相互传播，进而提高了人们接收信息的数量和频率，在一定程度上降低了认知的时间成本。在感官上，短时间内浏览大量的碎片化信息，很容易让人产生错误的心理。在获取碎片化信息时，人们只是浅层次地关注信息的事实和结果，往往忽视了信息对于自身的价值。没有经过大脑精细加工的信息，在人们眼前转瞬即逝，而人们也不会真正了解到推送信息的知识体系与框架。算法平台可以让人们快速浏览碎片化信息，人脑来不及对这些信息进行深入解析，长期以往，自然会影响人们独立思考与逻辑建构的能力。在人工智能时代，各类算法平台推荐的碎片化信息内容短且更新快，人们在好奇心的驱使下过于追求阅读速度，反而没有获得完整有效的信息，还严重影响到自己的注意力。

观念凸显娱乐性。每个人的时间都是有限的，工作、学习、生活等占据了人们的时间，毫无娱乐放松的余地，但是激烈的社会竞争给人们带来了沉重的压力，人们需要寻找轻松的娱乐信息适当解压。因此，人们需要更多的娱乐信息来缓解身心。基于此，算法平台在商业利益和社会需求的推动下，为了占据更多的市场份额，往往推荐娱乐性质倾向的信息。这类信息最是能够抓住人们的眼球，具有很强的吸引性和刺激性，能使人们在短时间内获得满足感和陶醉感。但是，算法平台推荐娱乐性质的信息时只注重用户的点击率和关注度，致使推荐的信息形式单一，缺乏主流价值导向。当算法平台推荐的信息内容过度娱乐化的时候，用户仅仅是获得了短暂的快感，却忽视了自己真正的需求和目的，只是换了一种方式过度消耗自己的精力。算法平台为了抓住更多的用户也会更倾向于推荐娱乐性质的信息，如此不仅会使用户沉迷眼前的娱乐而失去理智，更会加剧网络环境的混乱，不利于社会主义精神文明建设。在算法平台取悦用户的过程中信息泛娱乐化严重，用户的价值观念取向缺乏正面导向，加强内容治理势在必行。

领域倾向个人化。在人工智能时代，各式各样的信息充斥在生活中，面对纷繁复杂的信息，人们往往更喜欢去接受自己感兴趣的内容，这为算法平台推荐个性化信息提供了市场。基于不同的兴趣和需求，在大数据智能算法的助推下，各个阶层、各个群体的信息需求被精准识别，信息分散到相应的受众群体之中，形成了基于社会热点关注、大众娱乐消费需求、亲情友情倾诉和基层社区单位组织划分的群组和圈子。[1]因此，各类算法平台以大数据精准推荐算法为卖点，为每个用户定制个性化信息推送，导致用户在算法平台的支配下难以享有自己的信息选择权，逐渐被包裹在个人偏好的“信息茧房”中。在算法平台推荐信息的过程中，用户获取的信息是根据个人喜好量身定制的，最终以用户个人的兴趣报告的形式出现，用户每一次感兴趣的关注点都被记录下来，表面上是用户的阅读体验过程，实际上算法推荐已经为用户形成独特的信息推荐体系，在这样的规则下用户很容易陷入个人兴趣点的“信息茧房”，这一结果显然并不是用户浏览信息的初衷。

算法平台推荐信息的隐患

算法平台挖掘个人隐私。算法平台主打的就是推荐个性化的信息，为了实现这一目标，算法平台会充分挖掘用户的基本信息，那么侵犯用户的个人隐私就不可避免，这对用户的信息安全造成了极大的风险挑战。算法推荐信息的过程实际上是一个收集和分析用户个人基本信息和监视用户浏览数据的过程，算法会记录和储存用户在平台浏览信息的痕迹，平台运行程序会在此基础上分析用户的兴趣点，投其所好，从而为用户定制平台可控的媒介拟态环境。为了提升用户对于平台的依赖度，算法也需要获取用户多方面的私人信息，并通过算法推荐定位用户的个人兴趣范围，使用户更多地关注算法平台推荐的信息，实现信息从海量空间到个性化数据、从个性化数据到培养兴趣点的信息推荐模式。总之，算法平台推荐个性化信息，以个人隐私为基础，基于平台算法为用户量身定制海量信息，满足用户的私人兴趣需求，提高用户对平台的关注度。另外，算法平台为进一步盈利必须牢牢把握住用户，就会出现过度挖掘和使用用户个人信息和数据的情况，无疑损害了用户个人信息的保密权益，甚至对用户个人隐私造成极大的威胁和挑战。

算法推荐存在歧视现象。算法推荐信息的运行逻辑主要依靠算法的数据处理功能，算法本身就是人为的产物，不可避免地会带有人的思想观念。此外，算法机制本身也有漏洞，算法平台在为用户推荐信息的过程中同样会存在歧视现象。经过算法的研判，不同用户会接收到不同层面的信息，算法在很大程度上控制了用户信息接收的范围，被算法标签化的用户在一定意义上便是算法歧视的受害者。算法歧视问题不仅使算法无法充分发挥其正面效用，也成为大数据科学及人工智能技术推广中不可忽视的障碍。[2]算法歧视很大程度上源于人类社会的算法歧视，是对既有文化歧视后的归纳或同构，形成数字社会中的文化排斥或社会排斥。传统的社会歧视，如种族歧视、性别歧视，随着算法方法的广泛应用，已经转变为算法歧视。算法歧视总体上反映了社会关系和人们固有观念方面的深度不平等，人类社会观念影响下的算法技术难以避免歧视的发生，特别是原本不太明显的间接歧视现象，在算法推荐的推动作用下发展到了新的程度，以更隐蔽或合法的形式出现。算法推荐为用户定制个性化信息，在一定程度上会产生马太效应，用户困在“信息茧房”中也产生了选择信息的不平等，这种不平等便是算法歧视。这种算法歧视意味着信息匹配和选择的不平等和不公平，算法对用户的标签固化，显然是没有把用户看成一个全面发展的人，这无疑是技术伦理学方面的一项重大课题。算法平台推荐信息的首要条件是对用户数据的标签和划分，这是后续进行量化分析和操作的重要前提，将用户标签、分类，这其实就给算法技术附加了人类社会的偏见思想，容易导致算法的误判，用户最终成为算法技术的受害者。

单一的信息环境造成认知封闭。算法会特别关注用户对信息内容的点击次数和留观时间，目的是为了更精准地了解用户的关注点。在人工智能时代，移动性、碎片化、浅层化是用户阅读信息的主要特征，为满足用户轻松获取信息的需求，算法平台主要通过耸人听闻的标题、离奇夸张的故事、低俗浅薄的内容来吸引用户，用户点击次数越多，算法推荐权重就越大，最终形成娱乐化、低俗化信息湮没具有理性、深度、优质信息的恶性循环局面。算法平台以满足用户需求为主要目标，追求点击量最大化，单纯依靠算法的个性化推荐，只会导致信息传播在个体上的闭环，剩余的优质内容也会失去流量和价值。在这种流量为王机制的作用下，算法平台轻松消解了传统媒体的新闻专业主义精神。

信息获取的同质性是指用户获取的信息内容具有狭隘性和片面性，娱乐与低俗往往如影随形，内容必然也逐渐同质化。处于信息茧房中的用户，被算法平台绑定在一个自认为有趣的小信息场和思维偏颇的程序设计上，用户长期接收单一取向的信息，与现实环境之间缺乏有效互动，获取外界新鲜信息的能力将会减弱。在算法技术的作用下，用户可以拒绝自己不感兴趣的信息，长期封闭在同质化的信息环境中，将失去甄别信息的能力和深度思考的能力，进而就会对现实环境出现认知偏差，最终陷入认知封闭的状态。

算法平台推荐信息的规范与治理策略

落实平台责任。加强算法平台的治理，首先要进行责任的明确划分，算法平台作为信息的推送主体具有不可推脱的责任。在算法平台的规范和治理中，除了监管算法平台推送信息的程序外，还应该包含算法平台问责机制，既要问责算法程序的失当，又要问责算法平台的失范。平台对于算法的应用和信息的推送负有直接责任，平台应该审视算法的开发者和使用者，对于算法应用过程中的歧视现象应当承担相应的责任，以做到责任明确。针对算法平台的主体责任，应完善相应的规则与制度建设，遵守互联网的法律法规，治理过程中坚持问题导向，维护好平台作为第一责任主体的形象。算法平台作为责任主体，应该坚持主流价值导向，促进用户全面发展。算法平台落实主体责任，应增强服务意识，努力为用户服务，推送优秀文化，净化平台环境。算法平台应对信息发布者进行资格审查，对信息来源和价值导向进行科学评估，对资质良好的发布者和内容进行优先推送，谨防非法诈骗与恶意营销，以此促进算法平台信息质量的提升。算法平台应遵守法律，积极配合相关执法部门对于违法内容和违法发布者依法治理，追求相关责任人的法律责任。算法平台应对于违法情况早发现早报告，及时上报相关执法部门。

保障用户权益。算法平台在推荐信息过程中必须保障用户的合法权益，尊重用户在行为中的自主选择权和决策权，不得干涉和诱导用户自主选择信息。除此之外，还应该设计出辅助用户自主选择信息的运行程序，促进用户自我发展。算法平台应该增加用户自主选择的选项，尽可能提供给用户更多的方案去选择，而不是把用户限制在个人封闭的空间。用户在选择后感到不如意，算法平台应支持用户重新选择，并尊重用户的意愿及时接收反馈，使用户获得健康的信息环境。算法平台除了保障用户自主选择信息的合法权益，还要提高用户分辨信息的能力，提高用户的算法涵养，让用户学会审视信息内容。算法在设计时应遵循公平性原则，避免歧视现象发生，保障用户平等接收信息。同时，用户应增强自我防范意识，提高自我算法素养，维护自己在算法平台的合法权益，增强自我保护意识和维权意识，在自身合法权益受到算法监控侵害时主动维权。[3]高质量的信息能够帮助用户更好地进行决策，低质量的信息则加剧了用户信息筛选和理解的难度。[4]因此，算法平台有责任提供高质量信息。算法平台在推送信息时还应加强风险评估，加强风险的评定与监管，坚持公开透明原则，以此避免算法推荐机制带来负面影响，切实保障用户的合法权益。

加强内容监管。算法平台推荐信息时严格审核内容，保证内容合乎道德和法律，要弘扬真善美，传播正能量，引导良好的社会舆论。对于违反法治监管规定的内容，算法平台应禁止用户访问并及时移除，并限制和屏蔽该发布者的账号，配合相关部门展开法治行动，肃清信息环境。算法平台推荐信息时不能仅考虑用户个人的兴趣，而是要基于用户的兴趣偏好科学合理地推荐正能量和主旋律的信息内容，要让用户实现正向、积极、健康、全面的发展。在信息的真假辨别方面，平台应该配备专业水准的人工去审核，加大审核力度，进行人工干预控制舆情话题的正确走向，对于已经发布的具有虚假和错误诱导倾向的信息，要及时向用户解释，时刻提醒用户谨防上当受骗。算法平台应加强系统建设，对信息科学划分，自主过滤低俗违规的内容，对于算法难以辨别的内容，可提交人工审核以提高平台处理的准确性；对于算法平台上投放的广告，应合理评估其真伪和价值导向，发现问题及时解决；研究用户对内容进行反馈的便利渠道，对用户的反馈认真对待，落实平台服务用户的责任；充分尊重算法主体、公众等力量的地位和作用，调动多元主体参与治理的积极性。[5]总之，对于算法平台推荐信息的把控与治理，需要多方参与，共同发力传播主流价值观。