网络视听未成年人准入限制和监管对策研究

曾洁

摘  要  近年来，网络视听行业蓬勃发展，已成为未成年人接受教育、获取娱乐的重要途径。尽管近些年来国家监管部门及行业组织先后制定颁布了网络视听节目管理政策、通則，其中都有涉及对未成年人保护的相关条例，内容监管范围逐渐与传统广播电视保持同一标准、同一尺度，但是因网络行业市场的复杂性，致使网络视听在实际监管过程中仍面临很大挑战。文章对国内未成年人网络视听监管政策进行梳理，并以酷狗直播、虎牙直播、荔枝FM对未成年人准入限制标准化流程作为分析案例，结合实际监管工作经验，对网络视听未成年人监管对策提出建议。

关键词  网络视听;未成年人;准入限制;监管对策

共青团中央维护青少年权益部和中国互联网络信息中心联合发布的《2018年全国未成年人互联网使用情况研究报告》（以下简称“报告”）显示，我国未成年网民规模达1.69亿，未成年人的互联网普及率达到93.7%，明显高于同期全国人口的互联网普及率（57.7%），由此可见，青少年群体正在成为互联网使用的重要媒体受众[1]。

网络世界给未成年人提供了一个开拓眼界、寻求知识途径的快捷平台，但未成年人自我控制和判别是非的能力尚且有限，如接受到未经筛选过滤的不良信息，容易对其思想品德以及行为模式的形成产生负面影响。

近年来国家监管部门及行业组织先后制定颁布了网络视听节目管理政策、通则，其中都有涉及对未成年人保护的相关条例，这些监管政策主要针对哪些方面？网络视听平台又是如何根据政策设置未成年人准入限制？本文梳理国内未成年人网络视听监管政策，并以酷狗直播、虎牙直播、荔枝FM的未成年人准入限制流程作为分析案例，结合实际监管工作经验，对加强网络视听未成年人的有效监管提出对策建议。

1  国内未成年人网络视听监管政策

近年来，国家在为未成年人营造健康的网络环境方面不断完善相关政策法规，加大监管力度。2007年文化部颁布的《网络表演经营活动管理办法》中规定有未成年人参与的网络表演，不得侵犯未成年人权益，可以说是网络视听对未成年人保护的初步探索阶段，其中并未有相关监管细则。之后，国家监管部门及行业组织先后制定颁布了网络视听节目管理政策、通则，其中都有涉及对未成年人保护的相关条例（表1）。

2019年4月，国家广电总局发布《未成年人节目管理规定》，专门对未成年人节目的制作、传播、监管和法律责任作了详细规定，涵盖广播电视和网络视听行业，线上线下标准统一。新规明确了16条未成年人节目禁止的内容，并对未成年人参与节目制作、广告播出等内容明确了细节条款，确立了未成年人节目的价值观导向、提倡节目分级、设立未成年人专区、播前审查制度、强化防沉迷机制等，形成网络视听内容监管的政策生态系统，标志着国家对未成年人在网络传播领域中获得保护的制度化和规范化迈出了重要一步，同时，对未来未成年人节目传播的法治秩序具有重要意义。

2019年12月，中宣部、中央网信办、国家广电总局、国家卫生健康委等12个部门联合下发了《关于印发健康中国行动——儿童青少年心理健康行动方案（2019—2022年）的通知》，该文件关于营造儿童青少年心理健康环境方面，要求新闻出版、网信、广播电视等管理部门要加大对网络内容的监管力度，及时发现清理网上与儿童青少年有关的非法有害出版物及信息，重点清查问题较多的网络游戏、网络直播、短视频、教育类App等，打击网络赌博、血腥暴力、色情低俗类网站和App，为儿童青少年营造良好的网络环境。

2  网络视听平台未成年人准入限制案例分析

对于国家陆续发布的针对未成年人的监管政策，网络视听内容平台如何落实监管条例？广州市广播电视监测中心在对广州地区具较大规模和社会影响力的网络视听平台进行日常监测时发现，荔枝FM、酷狗直播、虎牙直播三家平台通过技术手段对未成年人准入限制设置标准化流程，监管举措相对较为完善，为同行业提供了一定借鉴。

2.1  酷狗直播

酷狗直播青少年模式于2018年上线，并设立儿童专区内容。2019年对青少年模式优化，并开始不断充实儿童内容专属内容池。另从技术视角采用智能算法推荐加信息流的模式，基于青少年爱好，精准推荐内容，构建起青少年与网络有害信息之间的防火墙。酷狗直播在主播签约时、开播前、开播中建立三重防护，通过芝麻认证系统和平台自有系统检测设置未成年人入驻限制。三重防护机制具体如下：

签约时，采用芝麻认证系统，运用OCR文字识别+人脸核身技术，检测注册者和身份证信息是否是本人，并自动识别身份证出生年月信息，未满18周岁无法入驻，不能成为主播。

开播前，采用芝麻认证系统，运用人脸核身技术，检测开播者和注册者信息是否为同一人，防止未成年人用别人账号开播。主播每次开播时均会检测开播日期与注册身份证年龄，未满18周岁限制开播，用户无法看到直播画面。

开播中，运用平台人脸核身技术，系统自动实时检测，当前开播人是否是注册者，非本人将限制或封号处理;系统每5分钟自动监控是否为非本人直播，并人工复审，确认为非本人直播的主播进行限制开播或封房或封号处理。开播中同时开通全民监督渠道，实施全民监管，建立7×24小时用户举报机制，无间断处理用户举报的违规行为。平台提供直播间举报、客服中心订单举报、找客服在线举报三种途径，让全平台用户参与监督，任何非本人直播或未成人直播均为举报处理，一旦确认违规则限制开播或封号处理。

2.2  虎牙直播

目前，虎牙直播青少年模式只支持虎牙直播App及iPad版本。用户可通过App每日启动弹窗，或设置-青少年模式进入，并按引导设置监护密码即可进入青少年模式。

在青少年模式下，用户可以观看未成年人相关的视频内容，但无法进行充值打赏、购买兑换、弹幕评论、视频直播等互动性操作。

虎牙直播还设置了防沉迷设置，每日22时至次日6时将无法使用，单日累计使用时长超过40分钟，需要输入监护密码才能继续使用。虎牙直播同时利用自身研发的AI技术实时监控识别对青少年有不良影响的直播画面，该类技术可以实现对画面中人物的服装、年龄、样貌、动作的高效识别，极大提升了审核效率，为青少年的直播开启另一道保护屏障。

2.3  荔枝FM

荔枝FM于2019年上线了青少年保护模式，通过限制使用时长、限制充值消费、限制使用时段等方式来保护未成年用户的权益。

该模式适用于所有未成年用户或者家里有小孩，需要控制小孩合理使用荔枝App的父母。通过这个模式，未成年用户可培育良好的应用使用习惯，更容易找到适合自己的节目，家长也能更好保护孩子。通过点击我的→设置→青少年模式，可以开关该模式。在该模式下，用户使用荔枝App超过40分钟需要输入监护密码才能继续使用;提现、充值等涉及敏感操作需要输入监护密码确认后才会生效;每天夜晚22：00至次日早上6：00无法使用荔枝App。针对用户自行开启该模式的历史习惯进行分析。客服在已实名的用户中抽调部分进行回访，了解账号使用情况、是否将账号与小孩共享使用，根据回访的情况人工打上标签。

3  加强未成年人网络视听有效监管的对策建议

3.1  消除内容审核中的弹性区域和模糊地带

根据对2019年全年广州市网络视听节目持证网站违规情况统计的分析，发现网站淫秽色情和低俗内容占比高达56.2%，其次恐怖暴力和丑恶行为、危害社会公德和封建迷信内容等。有不少视听网站是没有设置未成年人保护模式，意味着这些网站将成为其接受违规内容的渠道。但是，对于核定该违规范畴的界定标准和尺度并无较明确的统一规定，在监管审核中成为“弹性区域”和“模糊地带”。特别是对于“擦边球”的行为，在审查环境相对宽松时有可能得到允许，反之则会被整顿或禁止。这也是目前政府监管部门以及平台审核的一个困境。因为，目前网络视听内容审核普遍存在问题是平台系统智能审核遗漏。国家现行的审核规则和标准还很难将人工智能审核条件定义精准化，从而影响网络视听内容审核的广度和精度。例如，2019年1月9日中国网络视听节目服务协会发布的《网络短视频内容审核标准细则》中的100条标准里面很多标注“如”的示例都被用“略”字省去，这在政策指引方面无法给网络视听平台提供更精准的指导，也会形成行业监管的模糊地带。

近年来，随着抖音、快手等短视频视听平台的盛起，越发受到未成年人受众关注，根据《2018年全国未成年人互联网使用情况研究报告》，未成年人用户自制的短视频使用比例达到40.5%。因此制定细化的审核标准是消除弹性区域和模糊地带的重要途径。

3.2  监管部门和平台共建共享审核数据库

网络视听行业近年来发展种类多样、增长速度快。面对海量的内容审核，审核监管难度大。目前，监管部门各机构没有建立起行业共享的敏感词库。如实时更新共享词库，及时解释网络敏感用语，就可以防范隐喻、暗讽等高难度的违规问题，不但提升企业审核效率，而且一定程度上会降低政府监管成本。由监管部门与行业组织牵头共建审核词库，确保国家监管与平台自律管理的内容同步、一致，从而形成对违规网络视听节目内容联防联控的数据化高效管理。如去年以来，监测中心几次发现一些平台传播的外文歌曲涉及到导向偏离、而且涉性低俗，如日文歌曲《威风堂堂》是一首情色音乐，歌手Eminem发布新专辑中的一首歌《Farewell》中内容低俗、暴力。随着未成年人接触国外的视音频内容越来越多，其外语能力已不断的提升，平台上有很多低俗涉黄涉性的内容，容易对青少年三观产生负面影响，有的平台因审核时受语言限制，未能有效甄别。如果政府、行业、平台合力构建数据审核库，不断更新违规内容样本，平台AI系统根据样本识别违规内容的精准度和广度将大幅度提升，这将有效建立起过滤不良信息的防火墙。

3.3  加强政府监管的柔性治理

“平台—政府”规制范式下，规制方式由强制执行转向协调实施，更多地采用产业标准、利益引导等柔性治理方式[2]。政府监管的目标是引导与激励视听内容繁荣、产业生态健康，促使视听平台依法从事网络视听服务、管理网络视听节目。因此，监管部门按照政策法规实施监管的同时，要建立起与网络视听机构的有效沟通机制。广州市广播电視监测中心自2019年以来建立起了与市属网络视听节目持证网站机构的沟通例会和整改反馈机制，持证机构对中心发布的监测报告中的违规问题进行及时处理、及时反馈、及时更新敏感词库、督导检查，并对各平台自制传播的优秀正能量内容给予通报肯定，将优秀的经验分享给各平台学习借鉴，在鼓励其生产优质视听内容的同时，促进其提升社会责任感，增强传播正能量的内驱力。同时，加强对持证机构业务培训，除传达最新的政策法规、文件精神，行业发展态势外，还以政策解析、案例剖析的方式，就行业现状、存在问题、解决方案等各方面展开讨论，深入了解网络视听平台亟待解决的问题，以在规制范围内针对性地为其提供指导和支持。

3.4  行业社会助力未成年人网络素养教育

在网络传播机制中，对于网络视听平台的监督，自律与他律是一个有机整体，虽然政府规制逐渐向平台自我规制演化，但是社会各界的全面参与和配合也非常关键。随着网络视听应用的拓展，现已成为未成年人接受教育的一个不可或缺的途径，在2020年新型冠状病毒疫情期间，未成年人依托网络视听平台接受教育更是达到了顶峰。但是在监护人不能现场监控的情况下，未成年人对网络视听平台选择的自由度非常高。在此种情况下，行业社会加强对未成年人的网络媒介素养教育尤其重要，使他们正确认识网络媒体的积极作用和消极影响，增强辨别是非的能力，并让其积极主动地利用网络提高个人素养。平台可以通过技术手段对传播内容进行账户分级设置，尽可能帮助未成年人隔离有害信息，同时指导学校和家庭帮助未成年人正确、合理、积极运用网络视听资源，从而更好地了解社会、了解世界、完善知识，懂知科学知网、安全上网、文明用网。

参考文献

[1]2018年全国未成年人互联网使用情况研究报告[R/OL].（2019-03-26）.http：//news.youth.cn/gn/201903/t20190326_11908130.htm.

[2]范海玉，宋望.论当代中国非政府组织自治与政府规制的法律协调[J].河北学刊，2011（4）：144-147.