AIGC在新闻生产中的风险控制

栾轶玫

当下新技术更新迭代、媒介生态巨变，AIGC 给新闻生产带来新可能的同时也蕴含着新风险，媒体在面对AIGC 协助新闻生产过程中应具备风控思维，制定风控策略，使新技术始终能为我所用。

内容质量的风险控制

新闻报道特别是重大主题报道涉及党和政府的重大决策和社会热点问题，在这一类型的新闻生产中需警惕AIGC 基于算法驱动隐藏的政治偏见风险。

首先，控制政治偏见风险。使用AIGC 工具自动生成新闻内容时存在难以察觉的政治偏见，媒体应加强对AIGC 生成内容可能具有政治偏见的认识，警惕并做好风险控制。虽然诸如ChatGPT 等AIGC 工具自称是“态度中立没有任何政治倾向性”“不会试图通过任何方式影响或改变使用者观点”的自然语言模型，但是不可忽视的是当它被广大用户不断投喂、利用之后产生的“驯化性”，要警惕因投喂与驯化带来的政治偏见。另外，数据库和语料库的意识形态将影响AIGC 生成的内容。数据是生成式人工智能的基础，互联网上的大量数据和语料存在多样性、倾向性，并非完全中立，加之ChatGPT 难以百分百只学习其中中立的部分，而完全摒弃具有倾向性的部分，要警惕数据库、语料库的意识形态倾向性。同时，AIGC 生成内容还受到其背后算法工程师意识形态、个人背景的多方因素影响，虽然算法本身可能没有意识形态问题，但其中的参数和赋值等可能会受到人为因素、个人价值观的影响，要警惕算法实践过程中隐蔽的意识形态操控。

其次，控制内容低信度风险。AIGC 模型生成的内容可能存在意想不到的事实性错误，从而带来内容质量风险。客观上，AIGC 生成的内容具有低准确性的可能，AIGC 工具所依赖的数据库客观上可能存在大量虚假信息，加之AIGC 模型对新闻报道所涉及的相关社会情景缺乏准确了解，即使AIGC 工具尽可能寻找正确的信息生成回答，但仍不可能保证生成内容的准确性与真实性。与此同时，AIGC 的设计思路使得它“主观上”倾向于“有问必答”，它会“编造”“虚构”案例、故事等，一些生成的回答具有虚构性特征。例如有学者测试、分析AIGC 生成内容能力时发现，AIGC 提供的相关文献根本不存在，它杜撰了所依据的文献来源，这种生成内容与现实情形完全不符的情况无疑会影响信息生产的真实性。总而言之，无论是“客观”还是“主观”因素带来的AIGC 生产中的低准确性与虚构性，都需要把关人对事实进行深入核实，加强对AIGC 生成内容的质量把关，做好风险控制。

深度造假的风险控制

AI 换脸、克隆合成数字人、虚假图片及视频生成等使AIGC 生成的虚假内容更加难以识别，内容造假进入深度造假阶段。与此同时，媒介技术发展使媒介可供性增强，这使别有用心之人造假成本更低。加之，AIGC 让造假形式更加多样且难以察觉，新闻生成面临深度造假的风险，舆论将更容易被有意操控。

首先，造假传播更广识别更难。在AIGC 工具的“协助”下，内容造假更加容易。AIGC 强大的内容生成能力，让造假者更快地生产和传播虚假内容。此外，AIGC 具有生成多类型、多介质内容的能力，造假者更便捷地生成文本、图像、音频、视频的“多形态”虚假信息，降低了多介质内容的造假成本。与此同时，AIGC 生成的内容自身可能存在的虚假性，加剧了媒介素养不足的群体无意识地造假、传假，从而使得真相越发难得，舆论生态更加复杂。

其次，深度造假识别与公众引导。利用AIGC 生成大量的虚假信息散布于网络中，可能造成三人成虎的现象，即虚假信息传播声量更大，从而使人们更愿意相信虚假信息，而忽视甚至不相信辟谣信息。公众识别虚假信息的难度大大增加，媒体辟谣则需要更完整的证据链条。针对深度造假带来的风险，媒体可通过打造识别造假内容并及时反馈的智能工具，强化智能技术在辟谣中的应用，例如anti-deepfake 技术。此外，还要加强对深度造假及其识别的科普宣传，让公众了解相关技术是如何造假的。同时，大学可通过面向社会的新闻教育，促进公众媒介素养的全面提升。

数据隐私的风险控制

AIGC 对于数据的收集分析还会给新闻生产带来数据隐私风险，管理部门应该加强管理和管制，防止数据滥用。首先，媒体在使用AIGC 协助新闻生产时，势必要向AIGC 工具提供一些包含人脸、声音等敏感性生物识别数据，这些数据的频繁使用将带来数据隐私风险，应加强自身对数据收集、数据隐私泄露可能性的意识，使用AIGC 进行交互时减少对高度敏感信息的使用。其次，算法脆弱易受攻击的特性也会给数据隐私带来风险。保护数据隐私安全需要加强立法、执法的预判性，做到立法先行，从而从根本上做好数据隐私的风险控制。