“人—技”关系视域下AI在出版行业的创新应用

【摘 要】人工智能对重塑内容生产力产生了深远影响，AI在出版行业的选题策划、内容生产、内容审校等各个环节可提供强有力的支持，重构出版流程。新技术的应用引发“人—技”关系错位，技术控制力不足导致内容准确性降低、知识产权保护不力、用户隐私安全受到威胁等伦理问题。对此，应厘清“人—技”关系，从保障人的主导位置、提升内容筛选检测力度、提高知识产权保护能力、强化用户隐私安全意识等方面入手，防范AI应用风险，实现人与技术的同生共进。

【关 键 词】AI应用；人工智能；出版；“人—技”关系

【作者单位】王飚，中国新闻出版研究院数字出版研究所；魏婧，北京语言大学出版社。

【中图分类号】G230.7 【文献标识码】A 【DOI】10.16491/j.cnki.cn45-1216/g2.2024.13.003

人工智能（AI）引领新一轮的内容创作技术革新，深刻改变着内容的生产方式，对重塑内容生产力产生了深远影响。2022年11月，OpenAI引入了一款先进的AI聊天机器人——ChatGPT，其具备与用户实时互动的能力，并能自动生成流畅且逻辑清晰的自然语言回应。ChatGPT功能丰富多样，无论是解答基础问题，还是创作诗歌、故事，编写程序代码，乃至进行语言翻译、编写文本摘要、撰写行业分析与商业计划书，其均能胜任。ChatGPT的推出引发了社会各界对AI的广泛关注，随后，众多AI工具不断涌现，并逐渐成为内容生产的重要基础设施，广泛应用于广告、媒体、教育、艺术等诸多领域。在出版领域，AI主要在内容策划、生产、审校等各个环节提供支持。

值得注意的是，AI给出版行业带来的影响是双面的。一方面，AI简化了出版生产流程，为各环节提供技术支持，将出版从业人员从重复劳动中解放出来，提供更丰富的社会发展信息、科学文化信息、市场信息并进行智能分析，对出版行业生产力提高具有重要作用；另一方面，AI深度介入出版流程，引发“人—技”关系异化的问题，出版行业亟须关注技术应用中的伦理失范现象并予以应对。

一、AI应用：人工智能技术重构出版流程

传统的出版流程包括选题策划、组稿、编辑加工、审校等多个环节，完成整个流程需要耗费大量时间和人力以保证出版物质量。AI技术的应用可重构出版流程，降低出版运行成本，提高出版工作效率。

1．AI在选题策划方面的应用

在选题策划环节，AI可以帮助内容策划者全方位地收集信息，有针对性地进行分析并作出决策，充分、准确地把握用户需求和市场趋势，预测未来市场表现和潜在风险，为出版选题策划提供依据。

第一，AI可以针对选题策划全方位地收集信息。人工智能技术可以采集并分析大量数据，包括消费者行为、相关用户画像、社会热点话题、市场发展趋势、同类内容市场表现、作者信息等。借助这些数据，编辑可以在选题策划过程中更好地确定目标受众、了解受众需求，并快速生成文本、图表等可视化内容以为选题决策提供依据，进而策划出社会效益和经济效益并重的内容选题。

第二，AI可以助力拓展选题内容和拓宽选题思路。在已有选题的情况下，AI可以通过对大量数据进行学习和分析，对已有选题进行深入挖掘和内容拓展，生成潜在的新选题；帮助编辑发现新的视角，拓宽选题思路，增强内容策划的创意性和多样性，从而提高内容的吸引力和受众的参与度。

第三，AI可以对所策划内容进行预测分析。一方面，AI可预测内容的市场表现，帮助编辑提前了解出版物面世后可能达到的效果，然后及时调整内容生产策略，避免资源浪费；另一方面，AI可预测内容潜在的风险和危机，为编辑提前预警或帮助编辑预先准备应对方案，避免可能产生的负面影响［1］。

2．AI在内容生产方面的应用

随着AI对图文声像处理能力和学习能力的不断增强，其可根据用户需求短时间内生成文章、诗歌、音乐、视频、动画等多种内容形式，在使用者的引导下完成多样化的内容创作。基于此，编辑运用AI在内容生产方面可以实现自动内容生成、智能细节优化以及辅助创作等，获得丰富的内容资源。

在语言处理方面，AI能够实现新闻稿撰写、论文写作等专业方面的自动化应用。通过自然语言处理和训练，AI可以快速地分析大量数据，提取关键信息并生成结构清晰、语言流畅的文章［2］。应用在出版领域，如撰写出版物营销广告文字方面，AI可以实时抓取网络信息，结合社会热点话题生成相关文案，还可以根据不同平台需求转换文字风格，快速创作符合互联网传播规律的内容，增强营销文案的传播效果。在出版物辅文等相关内容的创作中，AI可以帮助编辑梳理出版物的主要内容，抓取内容亮点，生成参考样例，提高编辑工作效率。

在视觉处理方面，AI通过语音识别和图像识别，可自动将文字稿转化为视频脚本，并生成相应的画面和音效。这不仅提高了视频制作的效率和质量，还为创作者提供了更多的创意空间。目前，一些研究团队和公司已经利用深度学习和生成对抗网络（GANs）等技术，开发生成高质量的动态交互性3D模型，这对数字出版中的教育、科普、互动故事书等方面的内容制作有很大助益。

在内容生成后，AI可以通过用户反馈，对生成的内容进行自动化、智能化的优化修改。在传统的创作过程中，创作者收到受众反馈后需要手动对作品进行修改和调整，而AI可以通过分析反馈数据，自动识别作品中存在的问题和不足，并给出具体的修改建议。这使得编辑能够更快速地响应受众需求，提高作品的质量和用户满意度。同时，AI还可以作为内容生成的辅助工具。在传统的内容生产中，不会编写计算机语言的创作者无法运用代码制作网页，但借助AI，创作者不再需要自己编写代码，只要能读懂代码，就可以向ChatGPT等AI工具发送制作指令，由AI生成所需代码，并将生成代码粘贴进HTML文件，优化调整后即可完成简单的网页制作，为数字出版的内容生产注入新的活力。

总体而言，AI在内容生产方面的应用已经深入到自动生产、智能优化以及辅助创作等各个环节，这些应用既提高了内容生产的效率和质量，又为出版从业人员带来了更多的创作便利性。

3．AI在内容审校方面的应用

内容审校是出版物生产过程中的一个重要组成部分，对出版物质量把控有着不可忽视的作用。内容审校需要耗费大量的人力和时间，尽管已有自动化工具应用于字词、标点、敏感词等方面的辅助审校，一定程度上提高了内容审校的工作效率，但难以对深层知识性错误进行校核，对数字化时代的多媒体内容也无法准确识别，这增加了编辑审校工作的难度。AI技术的介入构建了更加完善的知识库，在智能审校的语义分析和知识性检测等方面大幅提升了编辑的工作效率。AI可以通过图像识别、计算机视觉、自然语言处理等技术手段，对图片、音频、视频等多种类型的内容进行自动化审核；通过训练模型能识别违规信息，如色情、暴力、虚假广告等，从而实现对违规内容的快速拦截和过滤。

二、伦理失范：技术控制力度引发应用风险

从技术哲学主客二分的理论框架来看，在“人—技”关系中，人应该处于主体地位，是有意识、能思考的存在，技术则应该处于客体地位，是被创造、被统治的事物，是一种为人使用和提供服务的工具性质产物［3］。AI应用中表现出的“人—技”关系异化主要体现在人对技术的控制力度不足，容易产生一系列内容安全隐患。

1．个体自主性问题

AI在内容生成上的广泛应用不仅会对出版内容及相关数据产生冲击，对处于出版流程中的个人也将带来影响，尤其是直接使用AI辅助创作的编辑和作者。越来越多的内容可以通过AIGC完成，生产过程更加快速、高效。这种现象会导致创作者更加依赖人工智能，减少自身的思考和创作，作为创作的主体意识日趋减弱，逐渐让渡自身作为内容创作者的主体地位，让AI从辅助工具发展成为创作主体工具，淡化人的自主性［4］。

2．内容准确性问题

尽管AI生成内容高效便捷，但也可能存在知识性、科学性、事实性等方面的错误。一是由于世界在不断变化发展中，信息也在不断地更新迭代，AI的训练数据往往难以做到实时更新，这就意味着AI生成的内容可能无法及时反映最新的知识、科学成果或事实真相。基于原本数据的生成方式，使得AI在应对快速变化的信息环境时，往往力不从心。因此，AI生成的内容可能在一定程度上存在滞后性，甚至可能误导用户。二是数据质量问题会导致AI生成内容出现错误。AI的训练数据来源于多个渠道，这些数据的质量参差不齐，有的可能存在错误、误导性或偏见。当AI模型基于这些数据进行训练时，就有可能将这些错误或偏见带入生成的内容中，这不仅影响了AI生成内容的准确性，还可能误导公众，对舆论环境和社会稳定造成不良影响［5］。三是AI算法复杂且运行透明度低，生成过程不可控，内部运行机制有时难以被理解和解释。如ChatGPT是通过自动生成的大预言模型来回复用户提问，但其并不具备推理能力，只能根据上下文语境来回答问题，但不对答案的真实性进行验证，导致错误答案的产生。这一过程无法被用户识别和干预，且生成内容看似合理且连贯，容易被用户接受［6］。

3．知识产权保护问题

AI作为一种技术工具，其内容生产活动被视为中立行为，然而，如果AI被用于大规模的内容生产，将面临一系列知识产权问题。这些问题主要包括三个方面。一是AI作品是否符合原创性要求。版权法认定的作品需要具有一定的原创性，而AI创作内容建立在学习了大量现有作品的基础上，这些新作品是否具有独创性有待商榷。二是侵权责任认定。如果AI在内容生产过程中有对他人作品过度引用或模仿行为，侵犯了他人现有的知识产权，侵权责任归属于AI开发者还是使用者，尚无定论。三是AI作品的版权归属。当AI创作出一部作品，如小说、歌曲或画作，传统意义上的“作者”或“创作者”概念变得模糊，AI创作的作品版权归属于AI的开发者、使用者还是AI本身，在法律上的界定尚不明确［7］。

4．用户隐私安全问题

数据隐私与安全问题是AI在应用过程中必须面对的挑战。AI需要处理大量的用户数据，包括个人信息、浏览记录、搜索历史等，这些数据的采集可能未经用户同意，一旦被泄露或滥用，将给用户带来极大的隐私风险。同时，AI模型本身也可能存在安全漏洞。由于人工智能技术的复杂性和不断更新换代的特性，其代码和算法可能存在未知的缺陷和漏洞。这些漏洞一旦被黑客发现并利用，可能会导致AI系统被攻击或滥用，这会给内容生产者带来重大的经济损失。

三、原则规范：出版流程人机协同防范技术问题

在当前技术发展中，基础的伦理问题是人与技术的关系，只有深刻认识这个问题，才能正确处理“人—技”关系，让技术为生产生活赋能。AI应用于出版领域，需要强调人的主体地位，以人为本，以技为用，由人控制技术应用的全过程，加强内容控制，防范技术风险。

1．保障“人—技”关系主导地位

发展技术的目的是帮助人进行自我完善，解决生产生活中遇到的问题，提高工作效率，人工智能技术存在的意义应是为人服务，在技术伦理道德规范下，人要控制技术，在“人—技”关系中处于主导地位。首先，确定人的主导地位。在使用AI的过程中，要明确AI是作为辅助工具延伸人的感知力、强化人的能力，为人的需求服务。其次，维护人的主导地位。AI的不断发展对编辑、作者等AI使用者的科学素养尤其是科技创新能力提出了更高的要求，因此，AI使用者应不断提升素养，追踪和掌握AI相关知识，增强对AI的认知和理解，学会正确应用和控制AI工具，保持对AI的批判性思维。最后，防止技术伦理失范。人在AIGC使用中要增强风险忧患意识，注意防范预警。如英国技术哲学家大卫·科林格里奇在《技术的社会控制》（1980年）提出的“科林格里奇困境”：在技术发展的早期控制其应用方向相对容易，但此时决策者缺少合理控制的专业知识；当技术应用的风险显露时，对它的控制却几近不可能［8］。因此，要时刻保持前瞻意识，尽早识别、预防并制定相应的措施，以应对未来可能引发的新的伦理失范现象。

2．提升内容筛选监测力度

人作为“人—技”关系的主体，要对AI生成内容质量负责，尤其是在对内容质量要求更高的出版领域，需要出版从业人员在内容生成过程中承担数据优化、数据把关的责任，这可以从源头数据筛选和生成结果监测两方面入手。一是进行严格的训练数据筛选。AI生成内容存在导向性偏差和知识性错误等问题，往往是因为训练数据质量参差不齐。因此，为确保生成内容的准确性和可靠性，需要选取高质量的预训练数据进行数据清洗，检查数据的完整性、准确性、时效性、多样性等，并时刻保持其更新状态，防止偏见、误导等信息。这不仅能显著提升大模型的内容生成质量，还有助于防范隐私数据的误用。二是加强对生成内容的监测。既要从数据源头着手，有效防范相关风险，又要加强对AI生成内容的实时监测与检查，如开发自动监测工具，追踪生成内容的来源和生成过程，记录AI工具的版本、数据来源和生成内容的上下文，以及时发现并处理AI运行过程中可能产生的算法歧视、算法偏见等安全隐患，确保生成内容的安全与合规。

3．提高知识产权保护能力

加强AI在内容生产领域的知识产权保护是一项艰巨且复杂的任务，不仅需要出版从业人员的努力，还需要多方共同协作。首先，应完善法律法规，通过制定或修订现行知识产权法律，明确AI创作成果的版权归属、责任划分及侵权处置机制。在此过程中，应着重探讨AI本身是否具备成为版权主体的资格，以及如何界定AI与人类共同创作作品的版权归属问题。其次，应从技术层面出发，提升AI内容生产过程的透明度，或研发新型技术工具以追踪和监控AI生成内容，确保其具备可审计和可审查性。这将有助于确定内容的来源及创作流程，进而在发生侵权事件时能够迅速追溯责任主体。最后，应倡导并鼓励AI生成内容的所有者进行版权登记，以便有效证明其所有权及创作时间，既便于防止AI生成内容被不当使用，又能在遇到法律纠纷时提供确凿证据。

4．强化用户隐私安全意识

加强数据与隐私保护是有效解决用户隐私安全问题的重要措施，这是出版企业应当肩负的责任，也体现了社会的广泛共识。在使用AI进行内容生产的过程中，出版从业人员必须严格遵循数据保护相关的法律法规，建立完善稳健的数据保护机制，如制定详尽且全面的数据保护政策，以明确数据收集、存储、使用以及共享等各环节的规范与要求，确保用户数据的安全性和隐私性得到切实保障。此外，应致力于提升用户的隐私保护意识，加强隐私教育工作。当前许多用户对数据保护与隐私安全的认识尚不足，容易忽视自身的隐私权益，需要通过宣传教育、专业培训等多种途径，深化用户对数据保护与隐私安全的认识，并引导其重视和关注自身的隐私权益，从而营造一个安全、可信赖的数据使用环境。

四、结语

从实用的角度出发，AI技术为内容创作者提供了更丰富的信息和更广阔的创作空间。从PGC、UGC到AIGC，越来越多的人加入内容创作领域，互联网内容不仅在数量上实现了指数级增长，其类型和风格也展现出愈发包容与多元的生态格局。如果说AI对普通用户的增益效果是从0到1的跃升，那对专业人士的增益效果可能就是QyiJiJeSsHZj1sj45xECisTWSN7FbMyp1ozvgZuWXj8=实现从1到10的跨越。高效的AI工具使内容生产者能够集中精力处理更为核心、更具价值的工作内容，出版从业人员应当培养自身使用、善用人工智能技术的职业能力，挖掘AI潜能，让AI赋能出版流程。

从长远来看，人工智能技术的深度融合与不断革新为出版领域的内容生产与创新活动注入源源不断的活力，并有望推动其发展进程进一步加速。但我们也应该清醒地认识到，在享受AI带来的便捷与高效的同时，要深刻认识并厘清“人—技”关系，高度重视并强化伦理和法律问题，确保AI的发展和应用始终在可控、合法的轨道上运行。只有打造健康的AI应用生态，注重人与技术和谐共生，才能真正解放创作者的生产力，提高内容生产效率，让技术真正为人类社会的进步贡献力量。

｜参考文献｜

［1］ 王峻峰. 人工智能生成内容（AIGC）及其在图书出版中的应用探讨［J］. 传播与版权，2023（10）：48-51.

［2］ChatGPT之后，AI如何革新数字内容创作［EB/OL］.（2023-05-16）［2024-07-01］ . https：//mp. weixin.qq.com/s/SHzgUvFNXcCWIBN15TpbkQ.

［3］张培. 技术伦理视角下的VR广告“人—技”关系研究［D］. 太原：山西大学，2021.

［4］刘珺. “人工智能+”背景下视听媒体内容生产的创新和隐忧［J］. 中国传媒科技，2024（6）：7-13.

［5］ 矣晓沅，谢幸. 大模型道德价值观对齐问题剖析［J］. 计算机研究与发展，2023（9）：1926-1945.

［6］陈建兵，王明. 负责任的人工智能：技术伦理危机下AIGC的治理基点［J］. 西安交通大学学报（社会科学版），2024（1）：111-120.

［7］ 史鑫鑫，生奇志. 生成式AI：ChatGPT爆火背后的知识产权问题探析［J］. 科技传播，2023（9）：80-83.

［8］卡尔·米切姆，朱勤. 关于技术与伦理关系的多元透视［J］. 哲学研究，2007（11）：79-82.