社交媒体平台的信息失序风险与治理路径

○陈晓佳 陈力钧

一、研究背景及意义

2017 年沃德尔和德拉赫尚欧洲委员会报告中提出信息失序的概念，指出信息失序主要涵盖错误信息（misinformation）、虚假信息（disinformation）与恶意信息（malinformation）三种类型[1]。信息失序现象是不良信息在网络空间传播蔓延，内容生态系统被污染的传播乱象的概括。信息失序风险直接关乎人们获取信息的正确性和可靠性，关乎大众受舆论操纵和观念误导的可能性，关乎网络空间的意识形态安全。社交媒体凭借算法推荐技术成为了当前网络空间如日中天的流量聚集地，然而更加先进的信息分发技术并未使信息失序问题得到妥善解决，而且在算法推荐高效传播机制下波及范围更加广泛、负面效应更为严重，社交媒体平台的推荐系统甚至充当了负面信息引发舆情漩涡的导火索与推手。根据何塞·范·迪克（José van Dijck）等学者对当下平台社会的观察，由互联网巨头所创建的基础设施平台与行业平台的合力已经实现了对公共生活的全方位渗透[2]。社交媒体平台的信息秩序研究，已经成为了网络内容生态、意识形态秩序治理的重要议题。

从社会生活层面看，社交媒体平台上的信息秩序研究具有重要的现实意义。随着社交媒体平台的发展，信息的真假性、合法性成为了影响人们思维认知、行为交往、生产生活的重要因素，如何建立更加准确的信息认证制度、公正的信息标准等也亟待进一步探讨和建构。此外，随着社交媒体平台的应用越来越广泛，人们也开始将社交媒体上的信息作为自己的人生规划和生活决策的参考，因此，在社交媒体上建立更加健康和积极向上的信息生态的重要性日益凸显。社交媒体平台的信息秩序研究旨在维护社交媒体平台上信息的真实性、可信性和公正性，提高社交媒体平台的社会价值和用户体验，治理因社交媒体平台的普及而不断出现的信息难题，具有鲜明的现实导向和丰富的理论价值。

二、社交媒体信息失序的风险表征

（一）恶意内容扩散风险

网络流量是互联网时代大众认可度与话语影响力的影响因素，是信息传播有效性的评判准则，是信息发布者获取经济效益的关键枢纽，是互联网项目的永恒主题与主要目标[3]。社交媒体平台在“流量为王”的规则驱使下，催生了各类博眼球、博流量的操作行为，其中危害性最大的就是恶意内容传播。恶意内容包括虚假、骚扰、欺诈、暴力、仇恨言论、色情、赌博等信息，这些内容的传播对个人和社会产生负面影响。首先，恶意内容的传播容易引发关注和转发，甚至成为热门话题，进而获得更大的传播范围和影响力。这会加剧其对社会的影响，导致社会的公共秩序和社会和谐受到威胁。其次，恶意内容的传播给个人和社会带来心理伤害。对于网络暴力或欺诈等行为的受害者，可能会引起深度的心理创伤，这对一个人的健康和幸福都有负面影响。第三，恶意内容也会伤害企业的声誉。企业如果不能很好地管理在线社区，无法遏制恶意内容的传播，并且不能有效回应和解决与其产品或服务相关的负面消息，可能会导致客户和消费者的不信任和离开，损害企业形象。造成这些恶意内容传播风险的原因有多方面。一方面，社交媒体平台的技术特点使得信息可以随意传播，而平台缺乏有效的审核机制，容易造成不良信息的扩散；另一方面，社交媒体平台的商业模式以用户流量为导向，利用算法推荐，基于用户信息、浏览情况等一些网络行为习惯等数据判断用户感兴趣的内容并进行推送[4]，加之平台可能会对流量进行优化，使得具有极端性、争议性的内容更容易被推荐，随着算法推荐的深度使用，低俗信息泛滥的问题也逐步严重[5]。这进一步加剧了恶意内容的传播风险。

（二）用户隐私泄露风险

社交媒体平台作为一个高度互动的社交平台，涉及大量的个人信息，因此用户隐私泄露风险成为了其中一个重要问题。在使用社交媒体平台时，我们常常会输入个人信息、发布个人照片或视频等敏感内容，这些信息容易被盗取引发隐私泄露风险。社交媒体平台用户隐私泄露的风险主要包括以下几个方面：一是个人信息被非法获取。社交媒体平台是一个集中了大量用户个人信息的场所，这些信息包括姓名、性别、年龄、出生日期、家庭住址、联系方式、职业信息等，其中一些信息可能还涉及账号密码等敏感内容。如果不法分子通过黑客技术、网络钓鱼等手段获取了这些信息，就可能导致用户的个人信息泄露，带来经济损失和个人安全隐患。二是发布的内容被滥用。在社交媒体平台发布的各种内容可能被不法分子滥用，这些内容可能被用来进行网络欺诈、造谣传谣、发起恶意攻击等，给个人和社会带来不良影响。三是精准投放广告的隐私风险。社交媒体平台通过用户行为数据，可以对用户进行精准的广告投放，但这种广告推送方式会涉及用户的个人信息，例如用户的兴趣爱好、购买记录等，如果这些信息被泄露或遭到滥用，就有可能导致用户的隐私泄露。四是账号被盗用。由于社交媒体平台的账号往往需要绑定手机或电子邮箱，如果这些绑定的信息被不法分子获取，就可能导致账号被盗用，不法分子可以通过账号和密码进行各种操作，甚至涉及金钱和安全问题。

（三）平台数据滥用风险

社交媒体平台的出现，为人们的沟通和交流带来了便利。它们让人们可以轻松地与朋友、家人和同事保持联系，同时也成为了人们获取信息和娱乐的主要来源。然而，这些平台所搜集到的大量用户数据，也让它们成为了数据泄露和滥用的风险所在。首先，社交媒体平台数据泄露的风险通常来自于平台自身的安全漏洞或黑客攻击。例如，2018 年Facebook 的Cambridge Analytica丑闻就是因为平台泄露了约5000 多万用户数据，这些数据后来被用于影响美国总统选举结果。[6]其次，社交媒体平台数据滥用的风险也来自于平台本身滥用用户数据的情况。一些社交媒体平台可能出售用户数据以获取更多的营收，或者将用户数据用于广告定位等商业目的。最后，社交媒体平台的数据滥用风险还来自于第三方应用程序的滥用。这些应用程序通常需要用户提供账号授权来使用平台上的数据，但是这些应用程序可能会滥用用户数据。例如，一些应用程序可能会通过收集用户的联系人信息，然后以用户的名义向他们发送垃圾邮件或钓鱼邮件。总体来说，社交媒体平台的数据滥用风险仍然存在，但是用户可以通过关注隐私政策、谨慎选择分享内容、更换较安全的密码和开启验证等措施来减少这些风险。

三、社交媒体平台信息失序风险治理路径

（一）建立健全信息发布规范

发布准则是社交媒体平台维护信息秩序和用户体验的重要手段。它规定了用户在平台上发布内容的标准和限制，旨在防止恶意行为和不良内容的传播，规范用户的发布行为，保护平台的声誉和用户的合法权益。建立健全发布准则是社交媒体平台的重要职责之一。首先，需要制定明确的发布准则，规定不良内容的标准和可接受内容的范围。例如，禁止色情、暴力等内容，并制定相应的处罚措施。同时，需要强调信息真实性，发现虚假信息应及时下架，以避免带来不必要的社会影响。发布准则也应随着平台的发展而不断更新，以适应不同用户群体的需求。其次，社交媒体平台需要积极与用户互动，收集用户反馈和意见，了解他们对平台和发布准则的评价和改进建议。这将有助于加强平台对恶意行为和不良内容的监控，并更好地与相关规章制度结合起来。最后，发布准则应该是透明的，以便用户正确了解和遵守规定，并及时接收到新的发布准则。

（二）完善内容审核机制

社交媒体平台因为其信息传播的广泛性和实时性，难免出现一些不健康的信息。针对这一问题，要坚持正确价值导向，完善内容审核机制，推进算法透明，倒逼平台自律。[7]社交媒体平台的内容审核机制在信息秩序治理中扮演着重要角色，加强内容审核的严格性和高标准对于保障信息的真实性和可信性至关重要。

严格的抽查流程。平台应建立专门的审核小组，针对发布的内容进行抽查审核，及时处理用户举报情况。同时在审核机制的实施上，应加强审核人员的培训和素质提升，加大资源投入和技术升级，提高审核效率和准确性。内容审核标准应尽可能与社会现实相符合，特别是对于敏感内容，在审核时尤其要关注它对公众的影响和破坏程度。此外，应建立全面的投诉处理机制，鼓励用户参与，有效反馈虚假信息和不良内容。这将有助于确保社交媒体平台的内容质量，并为其信息秩序治理提供有效支持。各社交媒体平台之间还应打通壁垒，建立跨平台协作机制。[8]

（三）推进信息监管问责

社交媒体平台上信息的混乱、不良、虚假等问题的增加，会对社会公众、经济发展等方面带来负面影响。因此，需要完善社交媒体平台的监管和问责机制，以确保社交媒体平台上发布信息的合法性和正确性。针对社交媒体平台的法律法规和政策制定应当更加完善和有前瞻性，明确社交媒体平台的责任和义务。对于明显偏离信息传播准则和道德规范的平台和用户进行有效的制裁和处罚。同时，完善政府监管和监察机制，确保公众利益得到充分保障。大众作为社交媒体平台的使用者，也要积极参与和监督。应建立用户举报制度，积极响应用户的举报，加强信息监管。平台应增加用户举报不实信息的奖励机制，提高用户的举报积极性。此外，社交媒体中发布位置及行动轨迹情况导致隐私泄露，也可以通过位置抑制和位置替换技术来保护移动型社交媒体用户隐私。[9]综上所述，在建立健全监管和问责机制以及用户参与和监督的基础上，可以最大程度地减少社交媒体平台上虚假、误导、有害信息的传播。同时，政府部门和相关机构应积极推动社交媒体平台运营规范化，重视社交媒体监管的法律合规性，形成多方合作的管理格局，保障社交媒体的健康发展。

四、结论和展望

社交媒体平台在信息传播和社交互动方面发挥着重要作用，成为现代媒体生态中不可或缺的一部分，但其快速发展也带来了信息失序风险，如恶意内容传播、用户隐私泄露和数据滥用等问题。这些问题对社交媒体平台的生态和用户利益的影响不可忽视。治理社交媒体平台需要社会各方共同参与，从技术、政策和道德规范等多角度入手，实现对平台的有效监管和保护用户权益。政府加强监管和法律法规建设，企业加强自律和技术手段应对风险，社会积极参与监督和管理，共同打造健康、安全、有序的社交媒体生态。

社交媒体平台发展快速，一些问题和风险也在不断涌现和演化。因此，本文所提出的问题和解决方案可能会随着社交媒体平台的发展而产生变化。此外，由于本研究所关注的是整个社交媒体平台的信息秩序，因此研究过程中存在数据来源和覆盖范围的限制，对一些细节问题可能存在局限性。未来的研究可以从以下几个方面展开：首先，需要深入挖掘社交媒体平台中各种问题背后的社会、文化和技术因素，以期提出更加深入和有效的治理方案。其次，需要探讨社交媒体平台治理的多维度性和多层次性，探索各种治理策略的协同效应和优化路径。此外，需要加强社交媒体平台与用户、政府和其他利益相关者的沟通和合作，以建立更加开放、透明和可持续的社交媒体平台生态。最后，需要探索新技术和新方法在社交媒体平台治理中的应用，以提高治理效率和效果。只有通过不断地深入研究和有效治理，才能建立更加健康、可持续和良好的社交媒体平台生态。

注释：

[1]WardleC,&Derakhshan H.Information disorder:Towardan interdisciplinary frame work for research and policymaking[R].Council of Europe Report，2017.

[2]VanDijckJ，PoellT，De Waal M.The plat form society：Public values in a connective world[M].Oxford University Press，2018.

[3]陈力钧,李天丽.互联网时代网络意识形态话语权建构研究——基于内容、渠道与流量三重向度的思考[J].江西理工大学学报，2022（02）：3-4.

[4]韩宇航.社交媒体平台算法推荐的规制方向探究[J].今传媒，2022，30（10）：28-31.

[5]吴卫华.算法推荐在公共传播中的理性问题[J].当代传播，2017（03）：79-81.

[6]黄静茹.社交媒体平台中的隐私关注、披露和保护[D].南京师范大学，2020.

[7]陈力钧，陈志勇.意识形态的算法风险及治理路径研究[J].中共天津市委党校学报，2022（03）：67-75.

[8]孟伦.互联网时代社交媒体平台的文化症候与治理对策[J].出版广角，2021（22）.

[9]刘向宇，刘竹丰，夏秀峰等.一种保持轨迹数据高可用性的隐式位置访问隐私保护技术[J].沈阳航空航天大学学报，2019（02）：66-75.