从屠杀直播看“社交媒体之罪”

本报驻美国、德国、英国特派特约记者 郑琪 青木 穆积山　本报记者 倪浩 ●王会聪

困难——面对不当内容，“删帖”标准不统一让上万审查员头痛；使用人工智能却闹出不少笑话。

争议——因麻烦不断，脸书被美国媒体称作“道歉机器”；批评者称，限制内容与社交媒体的盈利模式相抵触，互联网公司没有“尽力”负责。

解决——德国专家呼吁：社交媒体需要自律，各国也要有严厉法律；中国学者提醒：视社交媒体为矛盾之源，西方在“杀死带来坏消息的信使”。

在新西兰枪击事件发生后，有媒体形容称，整个袭击案似乎就是为了社交网络时代而策划——枪手用相机拍摄作案过程，使用手机应用进行直播，其长篇自白书刻意使用网络用语。这让几大社交媒体连日来遭到各方激烈声讨。对于枪击视频迅速传播，这些“巨头”真的无能为力？面对数十亿用户，社交媒体平台确实难以保证没有疏漏，但它们的商业模式、对流量和点击率等的追逐，也导致其被怀疑没有主动尽力。社交媒体兴起的时间并不长，但它迅速改变人们交往的模式，也让网络放大效应得到前所未有的凸显。新西兰恐袭事件让人们认识到了社交媒体作用的另一面，这是一个代价沉重的提醒。不过，在一片议论声中，被提醒的或许不应只有社交媒体。

社交媒体当“帮凶”有先例

2015年8月26日，美国弗吉尼亚州两名电视记者在直播时突然遭枪击身亡，枪手是一名一直心怀不满的前同事。接着，枪手在推特及脸书账号上发帖讲述这么做的缘由，最后附上近距离射杀前同事的视频。

枪手精心策划了这场行动，他在自己的社交媒体账号广为人知之后才发布了视频。推特和脸书很快封掉这名枪手的账号，但相关视频已经被广泛传播，被人们四处下载和重新上传。“考虑到该事件成功获得广泛关注，它极有可能成为一个被其他人效仿的例子。”美国《纽约时报》当时报道称。

类似事件还有，2017年4月，美国俄亥俄州一名黑人男子在脸书上直播枪杀一名74岁的路人，视频在上传约三四个小时后被删除。同年，芝加哥发生一名15岁女孩被强奸直播的事件；泰国一名父亲在脸书上直播了自己杀死女儿的画面，在视频被删除前，点击量已经达到37万次。

但要说影响力，都比不上最新这起屠杀直播。有媒体称，新西兰枪击案是“首起社交媒体直播的恐袭案”。“网络控制完全失败”，德国《焦点》周刊称，脸书只是在接到警方通知后作出反应，从那时起删除了150万条相关视频，YouTube则是“完全失败”，“未来，社交媒体和网络的重大挑战将是如何控制极端思想的传播”。

在不少媒体看来，新西兰的屠杀直播揭示了一个根本性问题——在互联网上，控制此类暴力视频传播是多么困难。全球目前不仅要防范宗教极端主义，也要防范极右翼分子，而互联网好像正变得“激进化”。

去除网络“污垢”为什么难？

近年来，脸书、推特和YouTube等平台都在努力管控涉暴力内容，例如，脸书专门雇用了超过1.5万名审查员，去除互联网上的“污垢”。美国科技新闻网站“临界点”曾披露这个群体的工作状态——薪酬低廉、要求苛刻。从入职起，他们就要整日面对极具视觉冲击力的内容，很多人因此出现心理问题。但最头痛的是“删帖”标准难以统一。除了受到语言和文字过度复杂的限制，有网络专家提到，各国法律对言论自由范畴的界定不同，“比如德国和泰国对待‘大不敬问题的态度就完全不一样”。

为弥补内容审查员的不足，脸书、推特等公司在人工智能系统上投入大量资金，但人工智能的使用却闹出不少笑话。去年7月，在美国各界欢庆独立日之际，脸书却“误删”美国《独立宣言》的内容，相关语句“无情的印第安野蛮人”被判定为“仇恨言论”。此前，脸书人工智能把一家挪威媒体主页上发布的著名越战裸体少女照片，识别为“色情图片”。

据美国《华盛顿邮报》报道，枪击视频被上传到社交网站时，平台的审查团队通常以该视频创建黑名单，进而阻拦其再次发布。这种算法已有多年历史，最初是用来打击儿童色情内容传播。但这样的算法效果有限。上传者可以通过添加水印、改变视频大小等简单方法绕过拦截。在新西兰枪击案中，后续被转发到YouTube上的枪击视频，很多似乎都有这些改动。

人工智能专家表示，目前还没有一种技术能够确保对流媒体平台上的暴力内容进行万无一失的检测。例如，识别挥舞枪支的人对机器来说就很困难，因为枪支有许多类型，握枪姿势也有多种，电脑很难区分真实的暴力和虚构的电影。

即使主流平台采取了行动，令人不安的内容也常常存在于网络的黑暗角落。例如，上周五晚些时候，新西兰枪击视频还出现在4Chan、Gab等网站上，这些网站深受右翼极端分子和强调言论绝对自由的用户欢迎。此外，一些媒体为了点击率无所不用其极。英国《每日邮报》遭指责公然提供自白书给读者下载，《每日镜报》也承认不应该发布相关视频片段。

没有真心想解决问题？

困难虽然存在，但有分析认为，社交媒体可能并没有真心想解决问题。美国《彭博商业周刊》称，脸书本可以给“网管”们提高工资待遇，雇用更多人力，对用户发帖设置更严格的限制。但所有这些都会影响公司收益，所以公司采取被动反应的模式，在事发后制定规则。

报道称，曾是脸书早期投资者之一的罗杰·麦克纳米认为，如今脸书面临的问题，正是它建立的商业模式所造成的，脸书的获利能力源自收集和处理的巨量用户资料数据，然后提供个人化广告投放，限制不当内容与它的模式是相抵触的。

近年来，流媒体直播服务成为许多社交媒体增长战略的核心，但直播暴力内容的现象也在增多。专家认为，流媒体直播能带来的潜在利润和名声是天文数字，社交平台几乎没有监管内容的动机，因为快捷的分享有助于增加用户、浏览量和广告收入。“脸书从一开始就知道，它的流媒体直播服务有可能鼓励和放大人性中最坏的一面，它必须面对自己手上沾满鲜血的事实。”美国迈阿密大学法学教授玛丽·弗兰克斯称。

问题不止这些。有媒体发现，社交媒体的内部审查体系具有较强的偏向性。据英国广播公司（BBC）报道，英国萨里大学政治学教授夏兰·吉莱斯皮经常使用YouTube，他表示，在打击伊斯兰极端主义内容方面，YouTube做得相当好，但对极右主义思想的打击力度则明显不足。

美国VOX新闻网也称，尽管互联网平台制定了打击“伊斯兰国”（IS）传播内容的解决方案，但在管控白人至上主义相关内容时却手足无措。去年，美国“主板”网站发现，有宣传新纳粹主义的视频在YouTube上流传了数月甚至数年。

不能只靠互联网公司自律

“新西兰恐袭事件是全球网络缺乏控制的新例证。”德国汉堡大学反恐专家泽格勒尔对《环球时报》记者说：“大型互联网公司必须采取更多措施，这是责任。”他认为，社交媒体需更多地动用人员和技术，不能只盯着点击率、流量。他还表示，美国互联网巨头和政客常拿言论自由为借口，反对其他国家进行管制，这恰恰被恐怖分子利用。“社交媒体需要自律，各国也要有严厉的法律。”

去年1月，德国开始执行“网络仇恨言论法”，网民可以在线填写表格进行投诉，司法部门可对平台处以最高达5000万欧元的罚金。这项法律主要针对在德国至少有200万注册用户的社交网络，如脸书、推特等。

英国也在努力解决“非法”传播问题。据BBC报道，英国政府将在未来几周内，公布一份已经被延迟公布的关于“网络危害”的白皮书。由于担心社交网站沦为恐怖分子的平台，英国在几年前决定成立一支网络部队，眼下招募工作已经展开。

然而，社交媒体的麻烦远不止极端内容审查问题。从假新闻到卷入大选，再到信息泄露，特别是自去年3月剑桥分析事件以来，脸书就陷入“惹恼用户——进行道歉”的无休止循环中，以至于美国《彭博商业周刊》称其为“道歉机器”。去年，欧盟《通用数据保护条例》生效，美国《加州消费者隐私保护法》也将在2020年1月开始生效。加州州长甚至开始起草“数据红利”法案，让脸书等公司付费给用户。

《华盛顿邮报》称，多年来，脸书一直鼓励用户分享个人信息，但如今面对汹涌的批评浪潮，该公司正打算打造“私密交流”平台，这一转变凸显其在用户不信任及与各国监管机构的斗争中，走向充满不确定性的未来。

这些都是社交媒体带来和面临的问题，总的来看，社交媒体确实需要加强管理。不过，有学者提醒说，并非所有问题都能简单归咎于社交媒体，比如这次新西兰枪击事件。复旦大学网络空间治理研究中心主任沈逸对《环球时报》记者说，西方对社交媒体的理解出现了偏差，社交媒体揭示出来的问题，应该起到提醒人们认识和解决这些问题的作用，现在不少人却将媒介平台本身当做导致矛盾的原因，“这种思路就是西方经常自己批评的‘杀死带来坏消息的信使”。▲