ChatGPT的危与机：AIGC对传播的影响研判以及对策建议

摘要：ChatGPT是一款基于人工智能技术开发的聊天机器人，具有智能问答、自然语言生成等多种功能。随着人工智能技术的快速发展和迭代，以ChatGPT为代表的多种AI应用开启了文字、图像、音乐、视频等多模态的内容生产。

文章主要研究以ChatGPT为代表的AIGC应用将给信息传播带来怎样的危机与机遇，将对传播链条造成怎样的影响，政府、产业、大众应如何应对这些变化。文章运用观察法、分析法、例证法，基于对ChatGPT的技术原理、发展现状、应用场景等方面的分析，发现其在信息传播方面的前景广阔，AIGC提升了普通人的内容生产能力，增加了信息传播中的内容供给，提高了信息传播的用户体验，有望进一步打破人机界限，改写传播入口和界面，将给社会结构、人类生存环境、信息传播带来颠覆式影响。但同时，ChatGPT存在虚假回答、信息污染、数据隐私、路径依赖、新型“信息茧房”和“智能鸿沟”等现实问题，AIGC可能给传播带来隐患甚至灾难性的后果。基于对相关现象的分析研究，文章从传播者、传播过程、受众等各角度出发，从发展促进和风险防范两个方面提出对策建议。

关键词：ChatGPT；AIGC；人工智能；信息传播；聊天机器人

中图分类号：TP18；F49 文献标志码：A 文章编号：1674-8883（2023）07-0001-03

一、什么是ChatGPT

麦克卢汉认为，每一种技术都立即对人的交往模式进行重组，实际上造就了一种新环境[1]。美国人工智能研究公司OpenAI于2022年11月30日上推出聊天机器人模型ChatGPT，随后人工智能技术军备竞赛席卷全球。ChatGPT全称为“Chat Generative Pre-trained Transformer”，可译为“聊天生成器”，其具有聊天功能，能帮助使用者开展文本生成、开放域问答、分类、摘要、编写等活动，甚至撰写文案、广告、诗歌、小说、论文[2]。推出仅两个月，其月活跃用户就成功过亿，被称为“史上用户数增长最快的消费级应用”[3]。ChatGPT成为目前最热的低门槛、高效率文字内容生产工具，对传统的内容生产形态造成巨大冲击，产生深远影响。

ChatGPT实际上是一种新型自然语言处理工具。OpenAI称其能根据用户反馈改进输出结果，根据用户反馈持续化更新和学习，实现与真实对话无异的交流，这被称为“从人类反馈中强化学习”（RLHF）[4]。众多企业和风险投资商高度关注，研发类似大模型。谷歌2023年2月宣布推出聊天机器人“Bard”，次月，百度公开类似产品“文心一言”。此外，众多企业纷纷在其应用中融入ChatGPT，如在2023年3月，更加“聪明”的ChatGPT4.0发布后，微软迅速发布融入GPT4的新Office（Copilot）。随着ChatGPT成为广受关注的文字内容生产工具，图像、音乐、视频等多模态的AI内容生产都开始纷纷拓展。

二、ChatGPT等AIGC改变传播

技术的更迭将给社会结构、生存环境、信息传播带来巨大冲击。可以预见，人工智能技术将深入应用于内容采集、内容生产、内容分发、用户互动、内容运营等各环节。传播链上传播者、传播过程、受众反馈等主体和环节都将受到巨大影响。

（一）传播者环节：AIGC赋能普罗大众，科技巨头把握优势地位

传播者是传播过程中信息的主动发出者。互联网时代，传播者已历经了三个阶段：PGC（专业生成内容）、UGC（用户生成内容）和AIGC（人工智能生成内容）。PGC时代，主要媒体是报刊、广播、电视等传统媒体，主要内容生产者是拥有专业技术和设备的媒体人。此时，传播是单向的，互动性不强，时空局限显著。UGC时代，除了拥有专业技术和设备的媒体人，任何拥有移动网络条件并愿意发声的人都可成为传播者，传受双方角色逐渐模糊。AIGC时代，出现了各种“能力”非凡的AI生产者。比如ChatGPT，可以自动完成生成摘要、呈现数据、分析趋势等众多常规任务，这意味着其可以帮助用户克服写作障碍，提供系列有价值的内容。普通用户可在AI帮助下跨越信息传播“能力沟”，迅速掌握表达能力和资源使用能力，进行更加有效的内容生产和传播。

但目前大部分知名AIGC产品是由OpenAI、微软、谷歌、百度等少数公司制作，他们正将AI与自身既有业务融合，以强化自身优势地位。少数国际科技巨头掌控市场，“很可能会强化科技巨头在市场上的垄断”[5]。

（二）传播过程环节：AIGC提高传播效果，传播入口和界面有望改写

在技术层面上，ChatGPT基于自然语言处理、自然语言生成以及机器学习技术，依据用户给定的上下文环境和用户偏好按要求自动生成内容，能在各种时间、场景下提供个性化、多语种的服务，交互式地帮助用户完成信息生成任务，且具备自我反思和评价的功能。

新一代AIGC技术普及后，内容传播将拥有自动化生产、强大的数字分析等特点，大幅提高传播效果和受众体验。互联网的普及使传播渠道更加多样和广泛，ChatGPT等AIGC将进一步赋能现有应用。“AI2.0将带来平台式的变革，改写用户的入口和界面，诞生全新平台，催生新一代AI2.0应用的研发和商业化。”[6]

（三）受众接收和反馈环节：即时反馈强化学习，传受界限进一步模糊

ChatGPT可以迅速分析用户的兴趣和需求，模拟人類语言与人类交流。从传播关系来看，人类在向ChatGPT提出问题、寻找答案时，也形成了对AI的自发投喂。ChatGPT由此进行强化学习，不断获得更好的连接能力和嵌入社会运转系统的机会。传者和受者的界限进一步模糊，实现人机共存、人机融合。

三、AIGC带来的传播风险

在赋能传播者，大幅降低成本提高效率，缩短内容生产周期的同时，ChatGPT的出现也给传播带来了风险，甚至是灾难性的后果。

（一）传播者环节：AI虚假回答导致信息污染

ChatGPT将AI认为最符合受众偏好的答案提供给受众，呈现出“对答如流，无所不晓”的状态，但细究其回答，存在真假难辨、查无出处的情况，有可能导致以讹传讹。例如关于瑞信AT1先于普通股被减记，询问 ChatGPT有关历史案例时，得到回答称，2016年的葡萄牙BCP银行事件中也出现过。有专业人士质疑这一案例系ChatGPT编造，指出其给出的两个信源查无出处[7]。此前关于某地取消限行的消息热传，经查系假新闻，是有受众为展示ChatGPT功能闹出的乌龙[8]。

造假的原因在于AI将语料库中的内容重新组织、生成答案时，如果被虚构的前提引导，或被投喂的语料为假，或语料以错误逻辑组织，其生成内容就丧失了真实性、准确性。虚假答案一旦充斥社交媒体或被误用，便会造成数据的污染。污染数据若进入AI语料库，将形成信息污染闭环。有科技平台提出问题：“如何才能确保AIGC的信源为真？无论是绘画、聊天还是视频，应该标注信息为make up（编造）吗？”[9]

（二）传播过程环节：AI“学习”引发安全隐患

AI也可能被恶意利用，造成不道德甚至违法的信息传播，引发安全风险。面对“ChatGPT有没有提供过假新闻呢”这一问题，ChatGPT回答：“作为AI语言模型，我不会提供假新闻，并且会努力提供准确、可靠的信息。但是，人类可能会因为各种原因故意或无意提供假新闻。”出于多种因素，各种价值导向可能被“投喂”给AI。也有人会通过多步提示、恶意引导AI给出犯罪问题的解答，引发安全隐患。

AI内容创作能力迅速提高，“學习”的数据库愈发庞大，“产生了数据挖掘、内容生成与生成内容使用三个阶段的版权风险”[10]。新闻集团旗下的道琼斯公司今年2月指责OpenAI未授权使用《华尔街日报》[11]。此外，AIGC针对不同需求生产的内容涉及众多领域，如何进行信息监管也是焦点。

（三）受众接受和反馈环节：路径依赖致新“茧房”“鸿沟”

路径依赖是指受众在新媒体环境下因不合理地使用路径而出现的强烈的需求感和依赖感，包括对媒体工具、媒体内容等的依赖。AI参与内容生产给用户带来的快感将加强路径依赖。有调查称，美国超89%的受访学生会使用ChatGPT完成作业。截至2023年1月底，国内社交平台上使用ChatGPT完成作业的讨论已超10万条[12]。

巨大的信息量将淹没用户真正需要的信息，造成信息表面丰富，实则匮乏的局面。受众或将身处新的“信息茧房”[13]。在AIGC浪潮中，应关注主动或被动排斥相关应用的群体，避免形成新型“智能鸿沟”。如何提高所有人的生活质量，给予人们更多选择，而不是被科技所裹挟，这些问题有待研究解决[14]。

四、关于AIGC的发展对策建议

目前我国提出“国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作”，“提供生成式人工智能产品或服务应当遵守法律法规，尊重社会公德、公序良俗”[15]。强调坚持发展和规范并用，在拥抱新技术发展的同时主动思考风险防范策略，前瞻性地规范治理有关技术，采取措施尽量降低潜在隐患造成的损失。

针对传播者环节，在促进发展方面，建议充分认识人工智能的结构性影响，做好正面引导。在风险防范方面，建议行业和企业树立“技术向善”意识，统筹强化技术监管、人工审核与内容治理，引入有道德的数据风险控制模型，健全法律法规，对算法进行必要的节制。

针对传播环节，在促进发展方面，建议政产学研各方协同合作，积极应对科技巨头的“AI军备竞赛”，要努力把握AIGC行业发展规律，在核心技术上实现自主可控，同时加速AIGC模板、工具、应用场景联合研发。在风险治理方面，完善人工智能伦理规范，加强行业自律，保持对个人信息收集的克制，引入隐私保护设计，重视相关法律问题和法律风险。

针对受众环节，AIGC效能的发挥离不开使用者的问题提出、信息甄别和信息查证等能力。在促进发展方面，要利用各方力量帮助受众了解人工智能，展现AIGC未来应用场景。在风险治理方面，建议全社会共同参与，通过制度安排、服务规范、媒体引导等方式，鼓励受众加强学习、提升技能，增强个人风险防范能力。

五、结语

AIGC技术拥有十分广阔的应用前景，既为信息传播的未来展示巨大想象空间，同时也带来了很多现实风险挑战。笔者在与ChatGPT交流时，发现ChatGPT认为人工智能等技术无善恶，“人类则可能通过利用人工智能传播信息作恶”。当前，已有部分国家、教育机构表示禁用相关应用，因此有必要从技术自主和产业自主、意识形态主导权等方面持续关注人工智能发展。在支持AIGC赋能信息传播的同时，有必要在技术自主和产业自主的基础上，实现人工智能算法伦理约束，把控意识形态领域的主导权。同时，引入隐私保护法律法规，不断强化政府对AIGC的平台监管，系统加强开发者的自律和他律，提高全民人工智能素养，营造AIGC良性发展氛围。

参考文献：

[1] 斯蒂芬妮·麦克卢汉，戴维·斯坦斯.麦克卢汉如是说：理解我[M].何道宽，译.北京：中国人民大学出版社，2006：57.

[2] 斯托克尔·沃克.人工智能ChatGPT写智能论文：教授们应该担心吗？[EB/OL].自然，https：//www.nature.com/articles/d41586-022-04397-7，2022-12-09.

[3] 彭茜，黄堃.新闻分析：ChatGPT，变革与风险[EB/OL].新华社，http：//www.news.cn/2023-02/13/c_1129359575.htm，2023-02-13.

[4] 陆伟，刘家伟，马永强，等. ChatGPT为代表的大模型对信息资源管理的影响[J/OL].图书情报知识，https：//kns.cnki.net/kcms/detail// 42.1085.G2.20230224.1136.002.html，2023-02-26.

[5] 陈永伟.超越ChatGPT：生成式AI的机遇、风险与挑战[J/OL].山东大学学报（哲学社会科学版），https：//kns.cnki.net/kcms/detail/37.1100.C.20230303.1549.002.html，2023-03-06.

[6] 邵文.李開复：拐点已至，AI2.0将诞生新平台并重写所有应用[EB/ OL].澎湃新闻，https：//www.thepaper.cn/newsDetail_forward_22290101，2023-03-14.

[7] @来去之间.知道胡扯，没想到连信源也是胡扯的[EB/OL].新浪微博，https：//weibo.com/1111681197/MyhhzghYn pagetype=profilefeed，2023-03-21.

[8] 常正尚.杭州3月1日取消限行？媒体称系ChatGPT所写，警方将发布调查结果[EB/OL].澎湃新闻，https：//www.thepaper.cn/newsDetail_forward_21953693，2023-02-17.

[9] @微博科技.如何才能确保AIGC的新源为真[EB/OL].新浪微博，https：//weibo.com/1864419143/Myh1624IW pagetype=profilefeed，2023-03-21.

[10] 丛立先，李泳霖.聊天机器人生成内容的版权风险及其治理：以ChatGPT的应用场景为视角[J].中国出版，2023（5）：11-16.

[11] 吴天一.媒体指责OpenAI用新闻文章训练ChatGPT：需获授权[EB/OL].澎湃新闻，https：//m.thepaper.cn/newsDetail_forward_ 21991880，2023-02-20.

[12] 刘胤衡. ChatGPT“横扫”校园缘何遭封杀.[EB/OL].中国青年报，https：//s.cyol.com/articles/2023-02/17/content_VYP7dYul. html，2023-02-17.

[13] 韩冰意，苏中.“信息茧房”、隐私外泄，如何应对人工智能带来的伦理风险？[EB/OL].新华网，http：//www.xinhuanet.com/tech/20230119/849d98a850da4e6eba5a1d364f90adc3/c.html，2023-01-19.

[14] 彭兰，安孟瑶.智能时代的媒体与人：2022年智能传播研究综述与未来展望[J].全球传媒学刊，2023（1）：3-18.

[15] 国家互联网信息办公室.关于《生成式人工智能服务管理办法（征求意见稿）》公开征求意见的通知[EB/OL].网信中国，https：//mp.weixin.qq.com/s/2-qP6qc_8NigbP7djv2k0w，2023-04-11.

作者简介 李宏洋，记者，研究方向：新闻传播、网络与新媒体、传媒经营管理。