人工智能时代网络内容治理面临的新挑战和解决策略研究

曾志毅 田野

摘 要 进入21世紀以来，随着社会的发展和生活水平的不断提高，互联网技术也得到了进一步发展，算法推荐平台应运而生，在满足网民需求的同时，也深刻地影响了我国的互联网内容生态。但是，由于纯粹算法推荐本身的价值陷阱，网络内容建设不可避免地出现了一些新变化和新问题，给政府互联网治理带来了一些新的挑战，主要表现为马太效应、低俗内容泛滥、易受平台操纵、网络水军影响力扩大等等。据此，文章提出，政府应通过法制建设、技术手段建设、优质内容建设、舆情引导等手段加强网络内容建设，以建设一个生态良好的网络空间。

关键词 人工智能；网络内容；互联网治理

中图分类号 TP3 文献标识码 A 文章编号 1674-6708（2019）229-0166-02

近年来，随着大数据、人工智能、云计算等互联网技术的发展，以今日头条、抖音、快手为代表的算法推荐平台迅速崛起，在满足网民需求的同时，也深刻地影响了我国的互联网内容生态。但是，由于纯粹算法推荐本身的价值陷阱，网络内容建设不可避免地出现了一些新变化和新问题，给政府互联网治理带来了一些新的挑战。

1 人工智能时代网络内容建设出现的新变化和新问题

1.1 算法推荐平台迅速崛起

随着互联网技术的不断发展，算法推荐应运而生并且迅速应用于各大平台。新浪、优酷、微博等门户网站、视频网站、社交媒体都会利用用户提供的基本信息，对用户进行内容推荐。随着社会的发展以及各个媒体基础设施的不断更新，人工智能算法已经得到普遍应用和推广。凤凰新媒体总裁岳建雄曾说过，人工智能算法已经成为各个媒体所具备的基础能力，而不是核心竞争力，因此，各媒体在此基础上要不断开发探索具有竞争力的算法。[ 1 ]近年来，迅速发展壮大的今日头条、抖音、快手更是将人工智能算法推荐运用到了一个新的高度。今日头条资深算法架构师曹欢欢2018年1月公布了头条使用的5种推荐算法，包括传统的协同过滤模型，监督学习算法Logistic？Regression模型，基于深度学习的Factorization？Machine，以及DNN和GBDT。据其透露，主要有4类最重要的用户特征，将会输入给算法，影响到头条推荐算法的工作。第一类是关联性特征，根据用户信息来评估与相关内容属性之间的关系。第二类是环境特征，包括地形、气候、时间。第三类是频率特征。主要是指一个话题出现的频率和热度，反映了用户的算法偏向。第四类是协和特征，它可以从旧算法转变为新算法，并将其推广到更广泛的领域[2]。

1.2 算法推荐带来马太效应和低俗内容泛滥等弊端

优秀的算法推荐节省了网民寻找优质内容和感兴趣内容的时间成本，同时也让平台对网民的详细信息有了更加全面的掌握，有助于调整平台发展策略、内容生产定位和广告精准投放，实现了网民和平台的双赢。不过，基于人工智能的纯粹算法推荐的弊端也是非常明显。

1）容易导致平台内容出现较大的强弱差距，使得一部分优质内容无法有效展示。比如，在抖音平台上，某用户拍摄上传一个视频，初期平台会适当给予一定流量，视频上传完成后，会得到其他用户的关注，其他用户根据个人喜好对该视频进行浏览、点赞、评论和转发，通过用户的转发和点赞可以判断出该视频的受欢迎程度，抖音平台会根据视频的受欢迎程度给予第二次流量，同时获得二次传播机会。如果该视频受欢迎程度低，那么抖音平台为了传播质量，不会给予第二次传播机会，这种情况会导致上传的视频失去流量，也难以大火[3]。？也就是说，如果一个视频第一轮表现不佳，也就不会进入下一轮。很多优秀的视频内容可能因此被埋没。

2）平庸、低俗的内容可能获得更多的传播，出现泛滥的情况。以今日头条、抖音和快手等为代表的互联网应用以人工智能的算法推荐，作为主要推荐方式，代替了原有的编辑推荐制，只是根据用户需要推荐相关内容，却不顾内容的真实性和质量，这种方式反而迅速赢得了网民的喜爱，也赢得了市场，但是因为过度商业化的原因，内容低俗、娱乐过度、虚假信息等众多问题也一直困扰着这些平台的发展。尤其是今年以来，各大网络平台的播放质量尤其低下，导致网络平台市场陷入混乱状态，值得一提的是，2018年4月由于各大网络平台为了吸引用户眼球，赚取流量和人气，播放早恋、早孕等视频，甚至这些主人翁通过此次平台传播而成为了网红，使得更多未成年少女为了获取人气争相早恋早孕，带坏了社会风气。针对这些不良事件的发生，国家广播电视总局也对各大平台进行了警告处理，并且勒令其进行全面整改，积极传播正能量事件，坚决杜绝此类事件的再次发生[4]。？这些平台虽然赚足了流量和人气，但是无疑丧失了道德底线。

3）算法推荐下信息存在被平台操控的可能。为了增加用户，获得更大的商业价值，互联网平台往往都在不断地开发和测试新的算法，在这个过程中，不可避免加入人的判断。今日头条资深算法架构师曹欢欢曾经说过，互联网平台的算法推荐并不是只有机器操控，其中还掺杂了许多人为因素，这就容易导致产生算法推荐的信息不够精准的风险。在大数据时代，这个操控可能会更有针对性。因为你所有的数据几乎都在平台的监视之下？[5]。在2016年美国大选中，美国的媒体、意见领袖和民众就纷纷发声，认为Facebook提供了假新闻，对人们形成误导，影响了大选。

1.3 智能写作获得巨大进步和机器人水军泛滥

随着社会的发展和科技水平的不断提高，机器人写作越来越广泛。就写作水平而言，目前计算机能够完成结构比较清晰、格式固定的新闻稿。

随着机器人写作的广泛应用，许多机器人水军为了从中获取利益扰乱网络平台秩序，导致网络平台内容安全受到威胁。“网络水军普遍从事编造虚假信息、诽谤攻击、非法推广等违法活动，严重侵害公民的人身财产权利，并且容易侵蚀网络正能量、破坏网络正常生态。

网络水军成为互联网舆论中一股不可忽视的力量，通过对目标对象进行分析，进行有针对性地发文，通过对帖子的恶意追捧，营造虚假舆论，大量占据网络信息传播资源，快速扩散消极负能量的帖子，引导舆论导向朝着负面方向发展。通过相关调查研究发现，人类观点的转变往往和网络平台播放的内容有关，也就是说，机器人水军在一定程度上影响了人们的观点。

2 人工智能时代政府加强网络内容建设的对策

2.1 加强创新，依法加强网络内容治理

互联网不是法外之地，针对当前网络内容存在的问题，我国必须创新和完善相关领域的立法工作，依法加强网络平台管理，树立积极正能量的网络文化。在网络信息技术快速发展的过程中，可能会出现一些不可抗力因素或者法律之外的情况，因此，我国相关部门应该对于新兴网络技术方面严加管理，详细调查，为了试网络平台更好更健康的发展下去，我国相关部门根据调查情况，结合现有网络信息技术的发展情况，制定顺应社会发展的法律规章制度。

2.2 提升能力，利用新兴技術加强监管

互联网时代，面对数据的爆炸性增长和不断发展的网络技术，网络内容治理也必须不断创新，利用新的技术手段和工具，加强网络内容的管理。通过云计算、大数据、人工智能等新兴信息技术对网络上出现的违法违规内容，做到第一时间的监测发现、分析判断、防范处置，通过新兴技术对网络中的违法乱纪现象进行加强管理，从而提升网络空间治理能力。

2.3 鼓励原创，加强优质内容的版权保护和传播

传媒行业最重视的就是内容质量，随着互联网技术和算法推荐平台快速发展，优质原创内容价值越加凸显，对网络内容版权的保护有必要尽早提上日程。另外，优质内容也应当在网络平台中起到带头作用，通过对优秀网络内容进行平台优选和创作支持，加大对优秀网络内容的传播力度，以此来冲淡负面作品的社会影响，向社会广泛传播正？能量。

2.4 大力发声，把握舆情引导权

目前，网络平台的机器人水军日益增加，对网络平台的舆论导向产生了极其恶劣的影响，针对这一现象，我国相关部门应该对机器人水军进行重点关注，及时掌握其动态，根据机器人水军的运行规则，制定相关解决措施，并且在官方平台积极发声，引领正确的舆论导向，特别是严重损害我国主权完整和国家利益的声音，应该及时予以驳斥和？澄清。

参考文献

[1]中国青年网.“人工智能+新媒体”论坛聚焦媒体智能之道.[2018-11-13].https：//baijiahao.baidu.com/s？id=161 7006460982543973𝔴=spider&for;=pc.

[2]36氪.今日头条用了哪五种推荐算法？资深架构师曹欢欢首次公开揭秘.[2018-1-12]. https：//baijiahao.baidu.com/ s？id=1589381367542792109𝔴=spider&for;=pc.

[3]听潮一哥.从零到万的粉丝，抖音推荐算法是怎样的.[2018-5-17]. https：//baijiahao.baidu.com/s？id=160070107164 1513252𝔴=spider&for;=pc.

[4]观察者网.今日头条、快手被约谈平台回应：全面清查暂停新用户上传.[2018-4-15]. https：//www.guancha.cn/ society/2018_04_05_452733.shtml.

[5]维克托·迈尔-舍恩伯格，尼思·库克耶著.盛杨燕，周涛，译.大数据时代：生活、工作与思维的大变革[M].杭州：浙江人民出版社，2013：195.