人工智能应用于新闻生产流程带来的伦理失范问题及对策

张宏瑜　杨孔雨

【摘   要】相较于传统的新闻生产流程，人工智能为新闻策划、新闻生产和新闻分发等新闻生产环节带来创新，同时也存在着侵犯隐私、偏离新闻价值，缺乏人文关怀、危害新闻真实，塑造权力中心等伦理失范问题。通过出台政策和颁布相关的法律条例，明确技术的使用底线，同时对技术进行革新，改善技术侵权问题；新闻机构和平台要承担社会责任，新闻工作者要发挥主观能动性，共同改善人工智能应用于新闻生产流程带来的伦理失范问题。

【关键词】人工智能；新闻伦理；伦理失范；生产流程

【基金项目】本文系北京信息科技大学2023年“促进高校分类发展-公管传媒学院专业学位点与研究生教育改革”（项目编号：5112311021）项目成果。

大数据挖掘、机器人写作和算法推荐等人工智能技术广泛应用在新闻媒体的新闻生产流程中，比如中国最早从事互联网舆情监测和研究的人民网舆情数据中心能够监测社交平台中的海量数据，反映舆论态势，为新闻工作者提供新闻热点和线索；新华社“快笔小新”写稿机器人30秒内生成一篇有关财经、体育题材的新闻报道；今日头条利用算法推荐为用户提供个性化新闻分发服务。我们在对人工智能技术优势抱有乐观期待的同时，也不能忽视技术在新闻生产各个环节带来的新闻伦理失范问题。对比传统新闻生产流程，使用人工智能技术的新闻生产流程有何变化？出现了哪些新闻伦理失范现象以及出现的原因？如何解决以上问题？这是本文要探讨的问题。

一、人工智能应用于新闻生产流程带来的变化

新闻生产是新近发生的事实经过选择、加工最终形成完整新闻作品的过程。以往的新闻生产流程没有技术的介入，主要经过“编前会、新闻报道策划、实地采访与写作、编辑校对、定稿印刷和发行”这几个步骤，人工智能技术的出现，使得新闻生产流程越来越智能化。

（一）新闻策划和新闻采集：更丰富、更便捷的新闻来源

传统的新闻采集主要是通过自身新闻源（也就是固定“爆料人”）的积累、固定的报社或者记者热线、新闻选题策划、记者自身的新闻敏感发现具有“新闻价值”的新闻事实、相关报道的深度挖掘几种方式，主要建立在人与人的沟通和人与事物的联系上。[1]而使用人工智能技术的新闻生产流程在新闻选题策划方面，可以利用大数据分析受众喜好，推测出受众感兴趣的议题，预测事件的热度，利用受众前馈生产出受众所需的新闻内容。例如，作为国内首个媒体人工智能平台的“媒体大脑”，在2018年全国两会期间从5亿网页数据中梳理出了相关舆情热词，为新华社生成视频新闻《2018两会MGC舆情热点》提供新闻选题。

（二）新闻生产与事实核查：更快捷的新闻生产速度

将“内容为王”作为衡量新闻价值标准的传统媒体，稿件往往需要经过写作者的前期采访、写作以及编辑对包括新闻选题、事实的核查以及稿件排版等内容的“二次加工”，虽然一定程度上保证了稿件的质量，但是新闻的时效性往往打了折扣。机器人新闻写作凭借其超强的算力，在不易出错的前提下能够迅速处理海量数据，生产出新闻稿件。完成事实核查后的新闻稿件也可以第一时间发布到社交媒体上，受到用户的广泛关注。

（三）新闻分发：更高的目标群体抵达率

传统媒体发行一般有代理式分发和直销式分发两种形式，代理式分发指读者通过从发报员手里购买或者订报站订阅获取新闻产品；直销式分发是读者直接通过订阅热线从总社进行按月或者按年订阅，邮局分发员会在固定时间派送到指定地址。[2]不管是从新闻的时效性还是从新闻作品的阅读率、受众群体的抵达率来说，传统媒体的新闻分发相比依托用户阅读兴趣进行算法推荐的个性化新闻分发不具有较强的竞争力，无法实现新闻内容精准投放。

二、人工智能应用于新闻生产流程带来的伦理失范问题

人工智能技术的接入使得新闻生产流程与以往有了较大的区别，具体而言，表现为依靠数据抓取进行新闻策划和信息采集、借助算法程序快速生成新闻报道以及进行个性化的新闻分发。随着技术在新闻生产流程中的应用不断深入，我们在面对新闻生产的不同环节时，都能够发现一些由其带来的伦理失范问题。

（一）新闻策划与信息采集：侵犯用户隐私，偏离新闻价值

能够实时追踪社交平台上海量数据的舆情监测系统和能够获取用户地理位置、移动路线的传感器等有助于新闻策划和信息采集的人工智能技术，由于大数据抓取和筛选的是用户在互联网上留下的浏览痕迹和历史记录，虽然能够获取用户的阅读喜好和兴趣焦点，迅速掌握新闻线索，但是不可避免地会面临源数据泄露，公民数据被迫陷入到非法收集、过度分析的危险之中，[3]侵犯用户的个人隐私。

同时，如果长期使用大数据抓取和筛选来获得新闻线索，也不可避免地会出现新闻价值的偏离。大数据抓取和筛选最终的结果是能够找到受众的兴趣点，而那些能够吸引受众注意力、进行娱乐消遣的暴力、色情、猎奇等题材的信息占据较大的比例，这无疑会损害媒体所承担的社会责任和媒体的公信力，严重偏离新闻价值的娱乐化信息，也会导致受众优先关注个人感兴趣的话题，而渐渐漠视社会公共利益和重要的社会议题。

值得一提的是，人工智能新闻和记者所写新闻在新闻质量上呈现出新闻的信息量擴容、知识量萎缩的发展趋势。基于海量数据的新闻报道没有记者在写作时对新闻事件的举一反三，所产出的新闻很大程度上就是对数据的梳理。我们需要的新闻不是读起来味同嚼蜡的数据堆砌，而是对社会现象鞭辟入里的分析和思考。

（二）新闻生产与事实核查：缺乏人文关怀，危害新闻真实

人工智能在新闻生产过程中表现出强大的生产能力，依赖数据库的数据作为新闻稿件的“原材料”，基于工程师植入其中的算法作为新闻稿件的“模板”，[4]这种拼贴式的写作方法使得人工智能能够快速生成一篇新闻稿件，并由此出现了算法新闻、机器人新闻和传感器新闻等全新的新闻样式。

1.无法感同身受，缺少人文关怀

不可否认，机器人新闻等新闻样式在生成速度方面具有无可比拟的优势，例如，今日头条的新闻机器人“张小明”（xiaomingbot）在2021年里约奥运会上日产30篇以上有关羽毛球、乒乓球、网球的消息简讯和赛事报道。由于新兴新闻多是以数据为基础生成的新闻报道，其程式化的写作特点使它局限于财经报道、地震报道和体育报道上。机器人写作语言的标准化、程式化无法模拟和表达人类的情感，也无法感同身受，这就使得人工智能技术无法像媒介从业者那样自觉地从新闻伦理的角度规约自己的行为。因此在地震等灾难新闻的报道中，很容易造成为了收集到足够的数据而打扰受灾群众，缺少相应的人文关怀。

2.潜在的算法偏见，危害新闻真实

如今互联网的准入门槛较低，Web2.0背景下用户生成内容成为主流，但没有接受过专业训练的用户使其所提供内容的真实性大打折扣，这无疑会增加虚假信息进入写稿机器人信息采集内容的可能性，降低了新闻报道的真实性。

写稿机器人的底层运作逻辑是设计者已经设计好的算法程序，由于设计者对算法程序以及算法程序未来的生成内容有着不可避免的主观倾向性，算法本身在对数据挖掘、整理和分析的过程中也存在着人类能力无法探明的“黑箱”，正如《纽约时报》曾在橄榄球比赛报道中直言不讳：“尽管有大数据作为支撑，但和NFL教练相比，我们的机器人生成的报告更倾向于乐观。”[5]由于写稿机器人无法对新闻现场进行感知，只局限于了解事实真相的表面，不能够挖掘深层新闻事实，也就容易造成新闻真实性的降低。

在新闻事实核查方面，相较于传统媒体新闻经过新闻从业者的层层把关，人工智能时代的新闻把关已经由新闻从业者向智能算法过渡。而智能算法面临的问题就是算法本身也无法保证源始数据的真实性，本质上这也是对新闻真实性的一种偏离。

（三）新闻分发：造成信息茧房，塑造权力中心

以受众兴趣为导向的新闻分发模式将数据、算法、人机有机结合起来，建立用户和资源的个性化关联机制，为用户提供精准的新闻投放与分发。[6]个性化的新闻推送在不断迎合用户个人信息需求的同时，使得拥有同样兴趣的个人聚集成各个分散的小群体，造成网络的“巴尔干化”。并且，精准推送带来的分众化趋势以及受众只注意自己期望获得的东西和使自己愉悦的领域，也造成了美国学者桑斯坦所言的“信息茧房”，受众不再具有主动选择信息的权利，用户对公共事务的关注度逐渐降低，代表着其生活中公共性的不断减少。长此以往，受众的信息接触面愈发窄化，社会认知、责任意识将不断弱化，其所拥有的对社会公共事件的监督权力将成为无稽之谈。

个性化新闻推送主要以算法程序为支撑，对新闻信息进行个性化的匹配。但是，由于算法程序的不透明性和缺乏管制，媒体平台成为个性化新闻推送中“隐藏的权力中心”，信息推送与分发的权利从公共媒体机构转移到使用算法推荐进行信息分发的网络技术公司，用户和社会无法知道新闻是从何而来的，也无法判断这背后是否有人为的操纵。而这样的情况，会使得类似Facebook2016年的“偏见门”事件不断上演。

三、人工智能应用于新闻生产流程带来伦理失范问题的对策

面对人工智能在新闻生产流程中带来的伦理失范问题，我们可以从法与情两个维度来分析应对举措，完善相关法律法规，明确人工智能技术的使用主体责任。我们在享受技术带来便利的同时，也要发挥作为使用者的主观能动性，让技术更好地为我们所用。

（一）政策指引，法律规制，明确技术使用底线

政策的出台影响行业发展的方向，法律条例成为行业发展不可逾越的底线。在面对伦理失范问题时，我们可以双管齐下。

首先，可以邀请国内的知名学者和业界代表，共同商讨全行业统一的管理机制，并完善细节，形成适合于我国国情的行业标准，并对该标准的实施情况进行监督。该标准应该包括数据抓取、提取和使用的边界，人工智能在新闻生产各个环节的社会监督形式等，力图实现其在新闻生产流程中的透明化和公开化。

其次，可以借鉴欧盟对涉及个人信息获取、存储、处理、转移、监督等各个方面进行详细规定的《一般性数据保护法案》，以及美国在2019年《算法问责法案》基础上更新的2022年《算法问责法案》（草案），吸收有益经验，对人工智能进行立法规范。近日，国家网信办等7部门颁布《生成式人工智能服务管理暂行办法》，其中提出了促进生成式人工智能技术发展的具体措施，明确了提供和使用生成式人工智能服务总体要求，规定了生成式人工智能服务规范等，为人工智能技术的应用和发展提供了指南。

（二）新闻机构和平台各负其责，明确责任主体

目前应用人工智能技术的多集中于中央及各地方新闻机构和以今日头条为代表的平台。针对上述出现的“隐藏的权力中心”和危害新闻真实的问题，新闻机构和平台应该担负起应有的社会责任。

首先，媒体及平台应该体现其该有的公共价值，发挥政府规制和企业自治的双重作用，贴合政府对媒体及平台在宏观层面的政策安排，接受外部监督系统的审查机制，避免出现“隐藏的权力中心”。

其次，面对媒体及平台使用人工智能技术产出智能新闻的生产机制应该明确责任主体，实现人机责任捆绑。媒介及平台可以制定智能新闻的问责机制，明确新聞把关责任，为每一板块的智能新闻分配相应的责任人，负责新闻稿件真实性的审查，避免算法把关对原始数据真实性不确定的情况出现。同时媒体及平台应当在日常运营中设置相应的内容发布规则，规范自媒体账号的内容发布，制定惩处措施，如果发布不实新闻，一经查处，即刻查封账号。

（三）人机结合，发挥新闻工作者的主观能动性

在财经类、体育类等消息写作领域，我们应当充分发挥人工智能技术既有的优势和作用，快速产出新闻报道。这在一定程度上缓解了新闻工作者的工作压力，使他们拥有更多的时间进行深度思考并且产出具有深度、引发社会思考的新闻报道。但是，我们不能忽视出现的新闻价值偏离和缺少人文价值报道等带来的问题。

首先，为了解决新闻价值偏离的问题，我们应当推动新闻机构和人工智能技术研发公司实现对技术愿景的沟通，及时了解技术的生产和实际操作过程，进一步明确新闻机构对技术的期待以及预期取得的成效，不断完善技术产品，避免信息采集时完全跟着受众的兴趣走，提高技术对信息的识别能力。

其次，我们应当发挥新闻工作者的主观能动性，在智能新闻中加入人文价值因素，实现技术和人的有机结合。先是主动利用智能算法进行数据分析、敏锐捕捉到热点和重大事件并形成初稿，之后记者在深入调查的基础上逐步完善新闻稿件，最后将新闻报道通过智能推荐的方式送达用户。新闻工作者对新闻事实的深度分析和调查能力能够增加新闻稿件的人文关怀因素，从而提升对人工智能技术的运用与把控，实现“人機共生”，促进新闻业高效、智能发展。[7]

（四）技术革新，改善侵权问题

人工智能技术在新闻策划和信息采集以及新闻分发环节中的使用，能够帮助用户快速获取信息，但这也造就了一批信息时代的“懒人”。他们在为信息的便捷换取欢呼雀跃的同时，却不知道已经陷入了隐私侵犯困境和“信息茧房”之中。

首先，要明确人工智能技术在搜取信息时的界限和范围，不断完善或优化算法，平衡技术应用和内容选择之间的关系，构建更科学合理的算法模型。这样的算法模型不仅能够识别用户的个人兴趣，同时也能基于时下的热点和社会发展的客观现状实时推送分发，避免“信息茧房”的出现。在程序设计中，给用户阅读“用户须知”留出一定的时间，不让“默认勾选”成为侵犯用户隐私的“霸王条款”。

除此之外，技术的使用也能够改善虚假新闻的问题。我们可以通过技术对机器人生产的新闻进行数据来源、内容生成方式的标注，实现新闻真实性的回溯。在技术未完全成熟前，“把关人”这一角色依旧应由新闻从业者来担当，承担数据管理和程序验证的工作职责，以保证源数据真实可用。我们也可以利用区块链技术，保存写稿机器人的稿件生成记录，当出现虚假新闻时能够进行媒体信源的认证。

四、结语

可以预见的是，未来随着人工智能的发展，新闻业与人工智能技术的结合将会越来越紧密，个性化新闻聚合与推送已成为不可避免的发展趋势，如何趋利避害，更好地运用技术以重塑新闻业价值，是值得继续思考和讨论的问题。正如莱文森所言，对待任何一个新型技术手段，必须要谨慎观察，不可盲目地否定。

注释：

[1][2]吴佳洪.人工智能技术背景下新闻生产流程创新研究[D].暨南大学，2019.

[3]李超，李雅林.人工智能技术引发的新闻传播伦理失范问题[J].城市党报研究，2019（12）：31-33.

[4]李晖，刘茂锦.人工智能在新闻传播中的伦理失范与对策选择.转引自新媒体与社会[M].北京：社科文献出版社，2020.

[5][7]靖鸣，娄翠.人工智能技术在新闻传播中伦理失范的思考[J].出版广角，2018（01）：9-13.

[6]苗壮，方格格.人工智能如何“人性化”：新闻伦理失范分析与对策[J].传媒，2021（23）：94-96.

（作者单位：北京信息科技大学公共管理与传媒学院）

责编：姚少宝