以科技为驱动，打造智能化的内容风控平台

文/辛瑞佳

作者系人民网信息技术有限公司总经理

当然，依靠大量人审模式会大大降低内容风险，但同时会大幅提升企业对人工审核的投入成本。而A I 技术、区块链技术的发展和运用，会极大提升内容风险管控的能力和水平。在科技的浪潮下，技术和创新是提高审核效率最快的手段，人民网未来也将在科技上发力，研发基于人工智能的“风控大脑”，并向全行业开放使用。

近年来，随着新媒体的发展，传统的传播方式已被颠覆，信息传播门槛大幅降低。这在体现社会进步、彰显个性的同时，也为互联网内容安全埋下了隐患，如谣言、侵权、低俗暴力等不良信息泛滥，涉事平台被约谈、整改、产品下架的消息不绝于耳。在此背景下，人民网率先推出“内容风控业务”，目的是为维护互联网内容安全、净化网络空间趟出一条新路。该业务越来越受到社会重视，目前，人民网已承接了多家国内外著名软硬件厂商的内容审核业务。

何为内容风控？

今年7月25日，人民网发布《深度融合发展三年规划（纲要）》，致力打造“内容科技”领军企业，以人民日报全媒体矩阵为基础，全面汇聚主流媒体、商业平台和社会创作力量，建设平台型传播高地。《深度融合发展三年规划(纲要)》指出，未来人民网业务将瞄准智能化方向，主要围绕着“一二三四”展开：“一”是一条主轴，即坚持内容一个主业；“二”是以技术和资本双轮驱动，孵化产业、积累数据，形成两翼；“三”是打造人民视频、党建云、领导留言板三大移动端产品；“四”是建设内容原创、内容运营、内容风控和内容聚发四个层次的内容业务体系。

可以看到，内容风控业务是人民网内容业务的重要组成部分。而作为新兴业务形态，这一业务受到市场的巨大关注。那么，内容风控到底是一件什么样的事情？内容风控是介于内容生产和传播之间的“闸口”角色，起到承上启下的作用，既要保证内容能够传播，又要保证在传播的过程中不会出现问题。最终的目标是在安全的情况下，最大程度地去传递优质内容。

内容风控业务的意义

内容风控业务是一项具有很高的社会价值和政治意义的工作。互联网是东西方舆论交汇的重要载体，要牢牢掌握话语权，防止不良思想渗透。从这个角度来看，风控工作契合了互联网发展和安全的命脉。作为网上的《人民日报》，人民网有义务、有能力发挥自身优势，发挥党报党网在内容生产、质量管控等方面的政策水平、丰富经验，帮助各种类型的内容平台做好内容风控工作，去粕取精，去伪存真，让广大的网友获得清朗的网络空间，尤其让未成年人拥有一个绿色、安全的网络环境，帮助他们树立正确的人生观、价值观、世界观。

做好内容风控工作是人民网作为上市公司履行社会责任的体现。人民网舆论与公共政策研究中心主任祝华新此前曾表示，当前，主管部门针对互联网内容的各种规章制度陆续出台，为内容市场的发展标明了边界、奠定了基础。在此背景下，互联网企业需要把握政策的边界，绝不能触碰法律和行政监管的底线；新媒体人要了解当下民意的敏感点，避免因为民族、宗教、地域、爱国情感以及环保、女权等诸多敏感因素招惹公众抵触和舆论反弹。目前许多互联网内容平台在政策理 解、把控能力、团队管理能力等方面存在不足，人民网可以作为“桥梁”，“帮新媒体读政策，帮新媒体人读懂世道人心”。人民网将在有效输出主流媒体管理能力的同时，努力做到这项新型业务健康发展。

努力打造智能化风控平台

5G时代已经到来，人工智能审核技术可以高效率进行审核工作，为什么人民网还要做人工审核？确实，目前人工智能技术近年来发展迅速，图像识别、语音识别等审核功能已被许多互联网企业运用。但从整体来看，人工智能现阶段仍处于“弱人工智能”状态，早期的学习还无法满足爆炸式增长的互联网内容审核需求。尤其是涉及时政、财经、文史等深度内容，更需要专业人士的深度介入，才能确保不出问题。同时，每一种技术架构、每一行代码、每一个界面，都代表着选择，都意味着判断，都承载着价值。短视频平台上，“精选”的内容能获得更多关注，然而，什么样的视频可以被“精选”，同样隐含着企业、产品开发者的价值选择和利益诉求。可以说，技术也是人的价值表达。因此，人工干预是目前无法替代的一种审核模式。

当然，依靠大量人审模式会大大降低内容风险，但同时会大幅提升企业对人工审核的投入成本。而AI技术、区块链技术的发展和运用，会极大提升内容风险管控的能力和水平。在科技的浪潮下，技术和创新是提高审核效率最快的手段，人民网未来也将在科技上发力，研发基于人工智能的“风控大脑”，并向全行业开放使用。人民网《深度融合发展三年规划（纲要）》提出，参股人民中科(山东)智能技术有限公司，将中国科学院自动化研究所的人工智能技术与人民网的内容风控能力紧密结合，打造智能设备、系统平台、核心技术三位一体的产品体系，重点为互联网空间上的内容安全管理及信息安全管理提供技术服务，成为未来三年人民网人工智能技术引擎。

要特别提出的是，智能化内容风控平台的原则是各平台对于自己内容的调性标准和最终责任是不变的，同时，将有利于行业主管部门信息传达和贯彻落实，有利于整个行业的内容风险控制水平提高和规范安全发展，有利于各平台降低内容审核的成本，丰富内容供给。

互联网内容风控不是一家企业的独奏，而是多领域企业的合唱。作为以内容生产为主营业务的媒体，人民网愿意与各企业开展合作，围绕平台建设、标准制定、技术研发等多方面共同探索，为净化网络环境贡献力量。