AIGC赋能媒介生产的机遇、隐忧与应对

周鸿　熊青霞

［摘要］AIGC是AI算法领域的一次重大突破，代表人类真正迈入通用人工智能阶段，人工智能可以像人类一样高效地完成智力任务，不再受限于语音识别、智能推荐等特定功能。在传播领域，AIGC赋能媒介不仅提高了媒介内容生产的效率、内容创作的能力，也延伸了媒介的数字孪生能力，推动了媒介形态的多样化。媒介作为传播的中介，是人与人、人与事物或事物与事物之间产生联系或发生关系的物质。机器学习、机器思考下的人工智能对媒介的深层介入，深刻改变了人类主导的媒介生态体系，在为内容及创作赋能的同时，也引发法律风险、信任危机、智能鸿沟、算法偏见等方面的隐忧。

［关键词］AIGC；人工智能；深度合成；智能生产

AIGC（Artificial Intelligence Generated Content）指人工智能生成内容，它以硬件、算法和数据为基础，是继PGC、UGC之后新的内容生产形式。AIGC基本运行逻辑是利用算法和模型，根据给定的主题、关键词、数据或其他信息自动地生成文本、图像、音频、视频等各种形式的内容。随着2022年11月30日ChatGPT的发布，人工智能进入新发展阶段。目前，国外主要的语言模型有OpenAI推出的ChatGPT、Google推出的LaMDA、DeepMind推出的Gopher以及Meta推出的LLaMA等；国内主要有百度首发的“文心一言”、华为发布的“盘古”、阿里发布的“通义千问”、商汤发布的“商量SenseChat”等。

媒介对技术有高度的依赖性，每一次技术革命都会带来媒介生产的革新。从媒介技术的角度来看，AIGC作为具有强大信息整合能力、自然语言处理能力、多模态交互能力的智能工具，革新了媒介内容的生产手段、呈现方式与审核机制。一方面，基于海量的数据与知识源，AIGC在媒体领域的运用具有极大的优势，被广泛运用于写作、剪辑、监测及互动等传媒运作环节，使得媒介生产效率大幅度提高，为用户带来更优质的视听效果体验。另一方面，AIGC的广泛应用给新闻行业带来冲击，引发一系列的危机。

一、机遇：AIGC赋能媒介生产的机遇

（一）提高效率：AIGC赋能媒体生产能力

AIGC在媒体领域内容创作方面的应用主要集中在文本、图像、音视频三个方面，其不仅丰富了新闻传媒产品，也提高了媒体生产的效率。在文本创作方面，AIGC的参与使得文字生产效率大幅度提高。例如：2014年，美国《洛杉矶时报》的机器人记者Quakebot在洛杉矶发生地震后，仅用3分钟就完成了报道；第一财经“DT稿王”1分钟写1680字。在图像生成方面，AIGC可以通过关键词的输入自动检索并生成图片，如Midjourney、Stable diffusion、DALL-E 2等软件的生成图片与真实画作几乎无异。在音视频制作方面，AIGC的语音转文字使得记者的生产效率大幅度提高，能够自动剪辑并生成完整的视频，极大地赋能新闻生产。例如：2020年，《人民日报》利用“智能剪辑师”软件快速生成视频；2022年，科大讯飞使用智能语音转文字功能实现多语种的语音转文字；2022年北京冬奥会，央视频使用AI智能内容进行生产剪辑。

（二）延伸大脑：AIGC激活媒介创作能力

AIGC在媒体领域成为专业生产者和非专业生产者间共同的智库，是媒体数据库与内容的强大引擎。AIGC对生产者媒介创作能力的提升主要体现在以下三个方面。一是降低了创作门槛，人人皆可以加入媒介创作的队伍，从而使得媒介内容更丰富。例如，2022年8月，杰森·艾伦利用Midjourney创作的《太空歌剧院》在美国科罗拉多州艺术博览会上获得一等奖，但其没有任何的绘画基础。二是拓宽了创作思路，大数据能够在内容生产方面协助创作者生成创作大纲和灵感。例如，自2019年“剧本智能评估”开放合作以来，海马轻帆已累积评测剧集7500余集、电影/网络电影2900余部、网络小说超过500万部［1］，其中不乏《流浪地球》等大热作品。三是提升了作品质效，创作者可以使用AIGC对已有视频的画质进行修复和增强，从而为用户带来优质的感官体验和服务。同时，AIGC也可以帮助设计提效，在商业领域批量生成设计方案，并對方案的价值进行精准的预判。例如，日本株式会社的Package design AI，仅凭所提供的素材就能自动生成上千种包装设计，并计算这些设计的受欢迎程度。

（三）数字永生：AIGC助推媒介孪生能力

数字孪生（Digital Twin）即数字“克隆体”，它是对实体对象的一种动态仿真，数字孪生复刻单元可实现对物理对象的3D可视化，而元宇宙在数字孪生的基础上构建了一个宏大的数字社会。元宇宙作为超现实的虚拟世界，在复刻现实的同时融合现实，实现人机交互。虚拟数字人在AIGC赋能下更加智能，人机共创的价值也使得包含元宇宙在内的新媒介的商业价值大大提升。首先，AIGC解放了媒体工作者的内容生产力，通过数字化手段，人在虚拟世界中同样被复刻出数字化实体。2020年，新华社推出的全球首位3D版人工智能合成主播“新小微”，具有一秒换装、360度播报、实时文本驱动、灵活可控等特征，实现了对物理实体中时间、空间限制的优化。其次，数字孪生技术构建了更庞大的元宇宙世界观。不仅有“新小微”，还有央视网的AI主播“小智”、人民网的“小晴”，澎湃新闻的“小菲”等AI主播共同助阵，人机共生的数字空间在未来有望实现。最后，数字复活赋能传统文化复活，丰富元宇宙文化内涵，助力文化传承。例如：2019年，腾讯利用AI助力敦煌壁画修复，无障碍远程文物会诊；2022年，百度借助文心模型重现《富春山居图》，使传世名画以数字化的形式重现；2022年，在江苏卫视跨年晚会舞台上，邓丽君和歌手周深一同深情演唱，AIGC以数字化的形式重现了人类逝去的巨星。

二、隐忧：AIGC智能媒介生产的社会化风险

（一）法律风险

AIGC生成的内容并非凭空捏造，而是基于现有的数据产生的，这引发了一系列法律问题，包括知识产权、信息安全、个人信息权和隐私权等。在人工智能生成物的知识产权归属方面，其知识产权是属于用户、算法技术的提供者、训练模型的公司、原作者，还是人工内容生成者，都有待商榷。2023年5月，“AI孙燕姿”翻唱的《发如雪》《下雨天》在几天之内便突破百万播放量，那么“AI孙燕姿”生成的作品的知识产权是属于孙燕姿还是属于人工生成机器？另外，类似ChatGPT、Midjourney、Stable diffusion等软件生成的内容因无法溯源而侵犯了原作者的知识产权。正如《华尔街日报》记者弗朗西斯科·马可尼提及：OpenAI公司未经授权大量使用路透社、《纽约时报》、《卫报》、BBC等国外主流媒体的文章来训练ChatGPT模型，但从未支付任何费用。在隐私侵犯和身份盗用方面，网民通过网络的多元互证拼凑出完整的个人信息，用户的个人信息在自身或平台毫不知情的前提下被ChatGPT等大语言模型收集到语料库中学习，导致个人困囿于“全景敞视监狱”［2］式的社会信息场域。

（二）信任危机

信任危机指由于虚伪和不诚实导致的人际关系危机，在这种情况下，AIGC生成的无源消息可能会在人们无法辨识的情况下迅速传播，给社会带来未知的风险，使得人们在真实和虚假共存的网络空间中的信任变得更加脆弱。首先，AIGC生成的内容整合了各类大数据资料，真假难以辨别。比如，ChatGPT生成的看起来正确实际上错误的内容，不仅挑战人们追求真实的价值信条，还可能產生恶劣的社会影响。其次，AIGC的高速发展和便捷化在一定程度上为高智化犯罪的产生提供了方便，如借助AIGC深度学习的能力，伪造音视频，盗用个人身份进行诈骗等。最后，在Web3.0时代，每个人都可以在不同的社交平台发表自己的见解，而应用AIGC生成内容的便捷性会加快“信息垃圾”的产生速度，在污染网络空间的同时造成网络资源的浪费。另外，AIGC对个人数据的无节制采集、虚假信息的传播等行为，也严重侵蚀人们对网络和社会的信任。这些问题引发了一连串的信任危机，进一步加剧了网络极化现象。因此，相关主体需要在保障个人隐私和数据安全的前提下，积极应用AIGC推动网络空间的健康发展。

（三）智能鸿沟

当前，AIGC技术的不断推进使得智能鸿沟［3］问题日益凸显，其中技术沟、知识沟和使用沟共同构筑了智能鸿沟之墙。在技术层面上，AIGC模型的开发与训练需要大量的资金、技术、人才、设施以及高质量的数据，这使得研发的机会集中于少数发达国家和组织，容易形成智能鸿沟的技术壁垒。在知识层面上，优质的教育资源集中于个别区域，不利于更广泛的人群学习、掌握先进科技知识与技能，导致在未来的发展中处于不利地位。在使用层面上，AIGC的广泛应用会重塑媒介行业的产业生态，类似编辑、制作等传统工作可能被自动化机器取代，这对未来的劳动者提出了更高的要求。技术的壁垒、获取知识的渠道、驾驭技术的能力三个层次层层循环，使得智能鸿沟在智能化时代愈演愈烈。因此，相关主体需要采取措施来缩小智能鸿沟，包括推动技术普及、提高教育水平、加强技能培训等。

（四）算法偏见

AIGC大模型的构建基于机器学习，但由于模型训练中存在数据缺乏多样性、代表性和公正性［4］等缺陷，以及算法设计的局限性，因此其形成的决策和推荐结果使特定人群在价值观念上易产生偏见，这种偏见在具体的算法决策中主要体现在就业、信贷和信息三个方面。在就业决策方面，AIGC可能更突出性别、种族、年龄等人口统计学因子，根据OpenAI在2022年4月对自身AIGC生成内容进行的风险测试结果，其输出的图像结果可能具有性别、种族等方面的偏见。例如，在输入“婚礼”“餐厅”等词语时，AIGC程序更偏向于生成西式图景。在信贷决策方面，AIGC可能延续数据偏见给予部分人群不公正的评定，使得部分人群缺乏信息赋权，在社会竞争中处于弱势地位。在信息决策方面，AIGC维持信息推送中留存的用户行为和偏好使得“信息茧房”和“过滤气泡”加剧，让个人困囿于精准推送的数据假象之中，极易产生网络群体极化现象，从而影响社会的和谐稳定。

三、AIGC赋能媒介生产的应对策略：规范、治理与约束

（一）规范：德治法治双管齐下，建立AIGC行业规范

1.伦理规范：以人为本，数字重构信任基石

伦理是法律法规等监管制度的基准和底线，AIGC的决策设计必须符合公认的伦理道德准则，才能获得社会的信任。AIGC在媒介智能生产中的价值观的游移可能会加剧政治、性别、社会地位、财富等方面的偏见，因此相关主体需要建立公认的伦理道德准则。2020年，联合国教科文组织发布《人工智能伦理问题建议书》，强调人工智能应具有四大核心价值：尊重、保护和提升人权及人类尊严，促进环境与生态系统的可持续发展，保护多样性和包容性，构建和平、公正与相互依存的人类社会［5］。

在具体实施层面，国家人工智能伦理体系应参照《人工智能伦理问题建议书》的要点，以社会主义核心价值观为核心，以人为本，以人的尊严、福祉和防止损害为导向，将其贯穿至AIGC的基本环节，积极推进各方利益共同体实现多元对话，探讨AIGC相关伦理问题，并指导个人、团体、组织机构将伦理规范落实到AIGC运行的各个阶段，即数据收集、数据预处理、模型训练、内容生产和评估等环节，推动国际形成公认的价值体系和伦理规范标准。

2.法律规范：明确立法立规，加快人工智能生产监管

新技术的不断涌现和快速迭代导致现行法律法规在科技发展面前存在一定程度的滞后。随着人工智能的快速应用，完善相关立法已成为当务之急。目前，国内外对人工智能立法仍处于初级阶段。2023年5月，OpenAI公司CEO Sam Altman在美国国会的人工智能监管听证会上表示需要建立立法和监管体系来应对人工智能潜在的风险；同年5月，法国国家信息自由委员会（CNIL）也发布了尊重个人隐私的人工智能治理行动计划［6］。

2023年7月，我国正式对外发布首份AIGC监管文件《生成式人工智能服务管理办法》［7］。此外，我国人工智能还受到《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》等法律法规的约束，这些法律法规确定了深度合成服务提供者、深度合成技术提供者、深度合成服务使用者各自的责任与义务。在法律建设方面，相关主体必须立足于AIGC的基本环节，对AIGC研发者、提供者和使用者进行相应规范，促使AIGC良性发展。

（二）治理：落实责任主体，加大惩治力度

1.行业治理：加强溯源管理，明确责任主体

与AIGC相关的企业是人工智能治理的最大配合者，其理应为人工智能治理提供支持。清晰的责任制度是完善治理和内容生产的基础，深度合成服务提供者应制订和公开AIGC管理规则、平台公约，保证管理的透明性。在与媒介相关的各个文化创作领域相关主体应以内容问责为导向，在保障个人信息知识产权、肖像权等权益的同时，落实责任制度。其中，内容责任制的核心在于人，即“谁生产，谁负责”。各个主体要树立责任问责意识，明确规定创作机构和创作者利用AIGC创作的内容一旦发布，必须对内容侵犯知识产权、侵犯隐私权、危害社会安全、传播虚假信息等问题承担相应的法律责任，以此来反向推进行业内责任意识的树立和健康内容生态的建立。

2.技术治理：加强法制管理，重视安全建设

对AIGC的技术治理需要重点关注个人信息共享安全和网络算法安全建设，以防止平台垄断和过度采集个人信息的问题。这需要相关主体制定相应的法律法规和技术标准，并加大监管力度，确保个人信息得到充分保护。在保证个人信息共享安全方面，技术设计者在读取个人信息时要明确信息的主体，以明确的形式标注信息使用范围以及期限，在获取个人隐私信息时必须征得用户明确授权。在网络算法安全建设方面，一方面，相关主体要坚守算法透明性、算法可解释性、算法可问责性、算法可審计性等底层逻辑设计来应用AIGC大模型，以降低其在生成内容时产生歧视的风险；另一方面，相关主体要在法律体系之下建立完善的技术规则制度，详细规定人工智能技术和算法技术的法律义务，落实算法的安全责任，评估算法的安全性，并对恶意内容加以限制。此外，若技术完善与弥补出现问题，除追责以外，企业有义务和责任弥补漏洞和修改，优化AIGC信息源和算法模型，加强测试，确保信息的安全、准确。

（三）约束：理性传播，合法生产

为了营造清朗的网络传播环境，网络媒介的生产者和传播者包括组织和个人，应加强对组织和个人的监管与约束。从组织层面来讲，媒体、机构等传播组织在传递信息和引领公共舆论方面具有显著的影响力。因此，传播组织要积极参与AIGC的治理。一方面，传播组织要坚守新闻专业主义，提供可靠信息，确保一手资料的真实、客观、公正，禁止利用AIGC生成和传播虚假信息。另一方面，传播组织成员应接受AIGC相关技能的培训，严格考核，增强传播效果。从个人层面来讲，个人是生成式人工智能的参与者，个人提升AI素养有利于弥合智能鸿沟，促进社会公平。第一，个人要树立正确的传播价值观念，培养理性传播信息的意识，提升信息鉴别能力。第二，政府要加大对人工智能通识教育的普及，包括对计算编程、数字技术等基础知识的学习，缩小人与人之间在使用AIGC等技术方面的差异，弥合智能鸿沟。

四、结语

马歇尔·麦克卢汉（Marshau McLuhan）指出：“每一种新媒介的出现与应用都标志我们进入了一个新的时代。”AIGC技术的发展正在逐渐颠覆传统的媒介领域，对生产者、生产方式和生产内容都产生了深远的影响。文章探讨了AIGC在媒介生产中的机遇和隐忧。在机遇方面，AIGC提高了媒体生产效率，激活了媒介创作能力，助推了媒介孪生能力。在文本、图像、音视频创作方面，AIGC降低了创作门槛，拓宽了创作思路，提升了作品质效。在数字孪生方面，AIGC助推了元宇宙等数字世界的构建，实现了人机共生和传统文化复活。然而，“任何技术都是一把双刃剑”。相关主体在享受技术所带来的便利的同时，也必须面对人工智能在法律风险、信任危机、智能鸿沟和算法偏见方面的挑战。因此，相关主体需要从规范、治理和约束等多个维度入手，对人工智能方面的问题进行评估和研判，并做出相应的风险准备，使其真正造福于人类社会。

［参考文献］

［1］海马轻帆.海马轻帆推出“剧本智能评估”3.0服务用AI筛选爆款潜力IP［EB/OL］.（2020-05-25） ［2023-11-30］.https：//baike.baidu.com/reference/22432086/6c5c41ohjIsaw1jQ7wsfNn122k1lfyAtakwsOalfz3xWAe15qdIuq0ldF9Cs2xGaZbL5HH35CthFIoGehNNXnLm6BZKd6cEZjwwzsZ7bfJEQgquD.

［2］福柯.规训与惩罚：监狱的诞生［M］.杨远缨，刘北成，译.北京：生活·读书·新知三联书店，1999.

［3］钟祥铭，方兴东.智能鸿沟：数字鸿沟范式转变［J］.现代传播（中国传媒大学学报），2022（04）：133-142.

［4］陈昌凤，张梦.由数据决定？AIGC的价值观和伦理问题［J］.新闻与写作，2023（04）：15-23.

［5］UNESCO.Report of the Social and Human Sciences Commission （SHS）［EB/OL］. （2021-11-12）［2023-11-30］.https：//unesdoc.unesco.org/ark：/48223/pf0000379920.page=14.

［6］Commission Nationale de lnformatique et des Libertes. Artificial intelligence： the action plan of the CNIL［EB/OL］.（2023-05-16）［2023-11-30］. https：//www.cnil.fr/en/artificial-intelligence-action-plan-cnil.

［7］生成式人工智能服务管理暂行办法［EB/OL］.（2023-07-10）［2023-11-30］.https：//www.gov.cn/zhengce/zhengceku/202307/content_6891752.htm.

［作者简介］周鸿（1971—），女，湖北武汉人，武汉理工大学法学与人文社会学院副教授；熊青霞（1998—），女，重庆人，武汉理工大学法学与人文社会学院新闻与传播系硕士研究生。