ChatGPT在编辑出版领域的应用会引发的伦理风险研究

摘要：【目的】探索ChatGPT在编辑出版领域的应用会引发的伦理风险，并给出应对的措施，使用户更规范地使用ChatGPT，从而提高工作效率和写作效率。【方法】通过分析ChatGPT在编辑出版领域的应用，剖析它在应用过程中引发的伦理风险与挑战。【结果/结论】规范使用ChatGPT，既可以提高出版物的质量和生产效率，还可以为读者提供更加智能的阅读体验。

关键词：ChatGPT；编辑出版；伦理风险              中图分类号：G206          文献标识码：A

文章编号：1671-0134（2024）01-079-04         DOI：10.19483/j.cnki.11-4653/n.2024.01.015

本文著录格式：马晓彦. ChatGPT在编辑出版领域的应用会引发的伦理风险研究[J].中国传媒科技，2024，31（1）：79-82.

1.ChatGPT概述

1.1   ChatGPT的优势

ChatGPT（生成式预训练转化模型）是一种利用AI（人工智能）技术进行自然语言处理的应用程序，使用了Transformer神经网络架构，具有语言理解和文本生成能力，尤其是会通过连接大量的语料库来训练模型，这些语料库包含了真实世界中的对话，使得ChatGPT具备上知天文下晓地理，并且能够根据聊天内容与人类进行近乎无障碍的对话和交流的能力。另外，ChatGPT还能够完成人类下达的论文翻译、书稿写作、代码编写等任务。

ChatGPT受到广泛关注的关键在于其引入了RLHF（基于人类反馈的强化学习）技术。该技术有效解决了生成模型的核心问题，即确保AI模型的输出与人类的常识、认知、需求、价值观相契合。[1]因此，ChatGPT在理解对话的语义、语境和生成自然语言方面，相较于其他聊天机器人性能更加出色。ChatGPT极大地推动了AI的发展，AI接近或超越人类的时代或许即将到来，势必对教育、文学、出版、科技等领域产生深刻的影响。

1.2   ChatGPT的发展历程

ChatGPT的发展可以追溯到2015年第一代聊天机器人——小冰的推出，这促使许多科技公司纷纷开始研发并广泛应用这类基于深度学习算法和自然语言处理技术的聊天机器人，例如Facebook、messenger等。2018年，OpenAI公司开发GPT-1，经过如图1所示的三个阶段的发展[2]，终于在2022年11月底，通过采用RLHF技术实现了重大突破，即AI对话聊天机器人ChatGPT推出，它被描述为优化对话的语言模型，是GPT-3.5架构的主力模型。2023年3月15日，OpenAI正式发布了ChatGPT-4.0。这一版本的模型属于多模态大模型，能够同时处理图像和文本输入，具备出色的圖像识别能力，同时允许用户输入的文字数量的限制提升到了2.5万字。

2.ChatGPT在编辑出版领域的应用

2.1   帮助作者生成内容资源

ChatGPT可以为作者提供多种帮助，例如：通过对话交流的方式，激发作者的创作灵感，启发作者的写作思路，并为作者提供多样化的备选方案；通过人机协同创作的方式，提高作者的写作效率，还可以帮助作者完成文本翻译、润色、修改等工作[3]，等等。

ChatGPT-4.0所生成的书稿或文章更加精准、清晰且不失趣味性。此外，相较于早期版本，ChatGPT-4.0在语法复杂性方面有了显著提升，即若将某人的语法风格和错误模式植入ChatGPT-4.0，它便能够模仿并生成相应的文章，并展现出特有的个人风格和语法错误。

2.2   辅助进行图书策划

AI技术能够迅速对海量数据进行分析和处理，让出版社能够更精准地了解读者的需求与市场趋势，在充分考虑市场需求、读者喜好和市场竞争等因素的情况下，对未来出版市场进行更准确的预测，并进行有效决策。出版社在进行图书选题策划前可以借助ChatGPT对历史数据进行分析，推荐具有潜力和竞争力的选题策划方向，确定目标市场和目标客户群，从而为出版社带来更大的市场份额。另外，在选题方向确定后，ChatGPT能够基于图书的目标市场定位，创造性地生成与定位相匹配的内容选题。同时，它还能自动构建具备逻辑性的目录结构或提供有深度的思考路径，从而有效地协助作者优化篇章结构，使图书内容更加清晰有序。[4]

2.3   帮助编辑进行内容资源的审校和编辑加工

对出版社而言，ChatGPT可以帮助编辑和校对人员进行文本审查和校对。使用ChatGPT，编辑和校对人员可以采用编校软件更加高效地进行书稿审查和校对，减少常见错误和工作量，降低差错率。同时编校人员也可以通过信息反馈来逐步完善编校软件的校勘资源库，从而提高编校软件的工作效率和校对准确率。编校人员还可以通过参考文献校对软件来核查参考文献是否正确，包括格式和信息的正误。该软件采用国家标准规定的参考文献格式，通过链接知网、维普等数据库，对参考文献信息和格式进行核实和修改，大大减轻了编校人员的工作量，提高了编校质量和编校效率。[4]

此外，ChatGPT还可以协助编辑进行文本编辑和排版，提高出版物的质量和生产效率。通过ChatGPT的智能算法和自然语言处理能力，编辑或者排版人员可以轻松实现书稿的美观排版，以满足读者阅读的舒适性和愉悦性要求。不仅如此，ChatGPT还能根据不同的文体和读者需求，灵活调整排版风格，使图书更具个性和专业性。

2.4   为读者提供智能的阅读体验

对于读者而言，ChatGPT可以提供更加智能的阅读体验。主要表现在以下几个方面。

（1）个性化阅读推荐。ChatGPT既可以根据读者的阅读记录，又可以通过与作者对话了解读者的阅读兴趣和阅读喜好，从而为他们进行图书推荐。

（2）阅读指南和解读。对于一些有较高难度的作品，读者在理解上有一定的难度，可能需要额外的解释和指导，ChatGPT可以充当阅读指南，为作者答疑解惑。

（3）虚拟阅读伙伴。ChatGPT可以充当虚拟阅读伙伴，与读者分享阅读体验，如讨论书中的情节和主题等，使阅读更有趣。

（4）阅读评价与讨论。ChatGPT可以与读者一起对读过的书发表自己的评论，从而促进与读者之间的交流沟通。

3. ChatGPT在编辑出版领域引发的伦理风险与挑战

ChatGPT只有基于大量的数据训练才能得到较好的结果，因此对于小型出版社和大多数作者来说由于训练数据有限，可能不会取得很好的效果。另外，机器本身无法理解问题的真实含义，无法做出像人类一样的判断。因此，在编辑出版领域，ChatGPT可以辅助编辑出版领域工作人员提高工作效率，但目前不具备完全取代他们工作的能力。随着ChatGPT在编辑出版领域的应用，暴露出很多新的挑战和问题。

3.1   剽窃行为更加隐蔽

ChatGPT是基于大量数据训练的，且数据的串联和使用是随机的，所以在用户分次输入相同指令时，会得到不同的答案。也就是说，不同的用户向ChatGPT输入相同的指令，它会给出不同的结果。因此，在编辑出版领域使用ChatGPT时，不同的作者即使做相同的研究方向，ChatGPT也会高效率地给出不同的学术论文或学术专著，使得剽窃效率更高，更难以被发现[5]。

2022年12月27日，美国西北大学的Catherine Gao领导的研究团队使用ChatGPT来生成研究论文摘要，研究团队要求ChatGPT根据发表在《美国医学会杂志》《新英格兰医学雜志》《英国医学杂志》《柳叶刀》《自然医学》这5个顶级医学期刊上精选的论文来撰写50篇医学研究摘要。然后，研究团队通过论文剽窃检测器和AI输出检测器将这些摘要与原始摘要进行比较，并要求一组医学研究人员找出哪些是ChatGPT所编造的摘要。结果ChatGPT所编写的摘要顺利地通过了论文剽窃检测器的检查，原创性得分为100%。AI输出检测器发现了33篇（识别率为66%）由ChatGPT所编造的摘要，而医学研究人员也只正确识别了34篇（识别率为68%）由ChatGPT所编造的摘要和86%的原始论文摘要。这意味着，ChatGPT在编造研究论文摘要方面，达到了人类专家难辨真假的程度。

3.2   知识产权认定存在难度

用户在使用ChatGPT进行知识问答，或者使用ChatGPT进行著作或者论文代写时，它所使用的涉及不同语种、不同地域、不同学科的知识内容的使用和归属问题值得思考，如是否可以随意使用人类可获得的所有知识，生成的文章和著作的著作权如何界定等一系列问题。[6]例如：国内外多家权威学术期刊纷纷发表声明，在学术论文撰写中全面禁止或严格限制使用ChatGPT等AI机器人，以维护学术研究的严谨性和原创性；代表14万多名作家和表演者的42家德国协会和工会也对欧盟提出强烈建议，要求加强对人工智能（AI）规则草案的监管，因为他们认为ChatGPT等AI工具对他们的版权构成了威胁，需要得到更多的法律保护。可见，在使用ChatGPT进行知识服务时，可能会存在侵权问题。

3.3   知识的准确性和权威性无法保证

一位澳洲国立大学华人留学生在使用ChatGPT代写论文时，由于AI给出了一些不存在的文献，被教授发现并被邀请参加听证会。2023年5月16日，《放射学》出版，加拿大科学家在杂志上刊登新论文称，最新版本的ChatGPT通过了美国放射学委员会的考试，突出了大型语言模型的潜力，但它也给出了一些错误答案，表明人们仍需对其提供的答案进行核查。这些例证说明ChatGPT可能会向人们提供虚假信息。根据美国新闻可信度评估机构News Guard的联合执行官格洛维茨的观点，ChatGPT有潜力演变为自互联网诞生以来最强大的虚假信息传播工具。

首先，使用ChatGPT生成的参考文献可能是假的。由于ChatGPT是基于大量数据进行训练的，而其他文献中的参考文献数据可能本身就是错误的，这样生成的参考文献就是错误的。这样的参考文献不仅会影响信息传播和论文的质量，还可能会被检测出来，导致学术不端的指控。

其次，使用ChatGPT写论文容易捏造事实。[7]由于ChatGPT是基于大量数据进行训练的，如果训练数据中包含错误信息，它生成的内容就有可能会包含错误的信息或者不准确的数据。如果没有进行充分的核实和验证就直接使用ChatGPT写作，可能会影响论文的可信度和学术价值，还可能会使错误的结论或者不实的数据在学术界传播，更有甚者可能会影响社会的进步和发展。

3.4   算法歧视和隐私暴露风险

虽然ChatGPT可以给人类带来更加智能化的体验，但是在理解和应用知识方面的智能化程度依然有限。在首批用户测试中，ChatGPT甚至出现了辱骂用户、诱导用户离婚等言论。可见，一旦训练语料库中包含有害的、错误的言论时，AI习得后所做出的有害行为，将进一步加剧算法偏见和歧视。[8]

另外，ChatGPT在训练过程中，并未对隐私问题、敏感问题、涉密信息等进行标注，所以用户在使用ChatGPT获取知识服务时，它提供的答案可能包括一些受到《著作权法》保护的作品，也可能会侵犯个人隐私，甚至会暴露组织机密和国家机密。

在编辑出版领域，若ChatGPT的训练语料库中包含粗俗语言、负面的价值观引导语言、敏感信息等不当言论，或者侵犯著作权的信息或涉密信息等，出版社或者期刊社在审稿过程中未及时发现，有可能引发政治风险或者触犯国家相关的法律法规。

4.对策与建议

4.1   规范ChatGPT在编辑出版领域的应用

ChatGPT的学术写作功能受到很多学者的青睐，不少学者开始尝试将其应用于学术论文或著作的创作中，但是这一趋势引发了一些关注和争议。在国外编辑出版领域，针对使用ChatGPT等AI工具进行学术写作的情况，美国《科学》杂志明确表示，他们不会接受任何直接由ChatGPT等AI工具生成的文本、数字和图像作为学术论文的内容；在国内编辑出版领域，《暨南学报（哲学社会科学版）》《天津师范大学学报（基础教育版）》等期刊也对此类AI技术制定了相应的规范和说明，以确保学术研究的严谨性和规范性。

党的二十大报告明确提出：“推动战略性新兴产业融合集群发展，构建新一代信息技术、AI、生物技术、新能源、新材料、高端装备、绿色环保等一批新的增长引擎。”可见，ChatGPT作为AI领域的最新成果，如果能够依法合规并正确地使用，将有助于推动形成新的经济增长点。在编辑出版领域，ChatGPT在辅助进行论文和著作文献综述撰写等方面展现出了明显的优势，有观点认为，利用ChatGPT 辅助完成论文和著作写作及相关科学研究可能会成为一种必然趋势。[9]因此，我们应该考虑如何规范ChatGPT 在编辑出版领域的应用，以确保其充分发挥潜力，而不是简单地选择完全禁止使用。在进行论文发表或者著作出版时，可以在出版合同中增加相应的制约条款，即在合同中，作者必须明确标示是否在论文或著作中使用了ChatGPT，以及具体使用方式和使用范围，并承担法律和学术责任，确保研究成果的准确性、原创性和科学性。

4.2   建立相关的制度保障

在2023年5月11日，欧洲议会的内部市场委员会和公民自由委员会以压倒性的84票赞成通过了《人工智能法》的谈判授权草案。这个草案的主要目标是构建一个全面的法律框架，以确保AI系统在欧盟的开发和部署能在受到监督的情况下进行。在内容监管方面，欧洲议会希望通过立法强制AI系统的供应商对非法内容进行管控，并要求公开开发算法过程中使用的受版权保护的数据。

我国政府对AI技术的监管及其在网络传播中的治理高度重视，为了推动GenAI的良性发展和规范应用，确保国家安全和社会公共利益，全面保障公民、法人和其他組织的合法权益，国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局七部门发布了《生成式人工智能服务管理暂行办法》，并于2023年 8 月 15 日起正式实施。[10]该办法为GenAI服务的提供者设定了明确的责任和义务。根据该办法第九条的规定，提供者不仅需要依法肩负起网络信息内容的生产者责任，而且需要严格履行网络信息安全的义务，特别是当涉及个人信息时，他们还需要履行个人信息处理者责任和个人信息保护义务。此外，提供者还需要与GenAI服务的使用者签订详细的服务协议，明确双方的权利和义务，以构建和谐、稳定的服务与被服务关系。这一办法的颁布和实施，无疑会对我国 GenAI产业的健康发展产生积极的推动效应。

编辑出版领域需对ChatGPT 的具体应用及管理规则进行细化，以防止故意剽窃、隐私侵犯、著作权侵犯、传播虚假信息等恶意行为的滋生。同时，也要预防因ChatGPT引发的出版伦理问题而导致出版机构走向“一刀切”的极端做法。虽然 ChatGPT 自身并不能够一概与“剽窃”画等号，但是有剽窃动机的用户能够借助 ChatGPT 来达到自身目的，从而使剽窃行为变得更隐蔽，很难被发现。从著作权的角度来看，ChatGPT的著作权之争在我国尚处于理论探讨阶段，尚未形成一致定论并体现在立法层面。在 ChatGPT著作权归属上没有形成共识、剽窃风险没有得到有效监督的情况下，其应用对出版机构来说可能风险大于效益。因此，现阶段需慎重使用ChatGPT 。

结语

ChatGPT 及以 ChatGPT 为代表的GenAI的快速兴起是AI领域的一次重大变革，给编辑出版领域也带来了新现象和新问题。ChatGPT 的语料库包含大量的数据信息，为论文和著作撰写，或者提供相关知识服务提供了便利，但是其语料库中也可能包括错误信息、敏感信息、涉密信息、隐私信息，以及具有负面价值观引导性的语言等内容知识，使生成的内容可能存在虚假信息、敏感或涉密信息等，从而引发政治问题和侵权行为，甚至可能给科学发展造成负面影响。但是综合来看，ChatGPT在编辑出版领域的应用前景应该是广泛的，它既可以帮助出版社、作者与读者之间实现更好的交流和互动，又可以提高出版物的质量和生产效率，还可以为读者提供更加智能的阅读体验。虽然其在编辑出版领域的应用还存在一些挑战和限制，但是随着ChatGPT在语言模型和智能交互方面的发展，它将更加智能化、快速化和安全化，以上存在的问题也将逐步得到逐步解决。

参考文献

[1] 郭全中，张金熠.ChatGPT的技术特征与应用前景[J].中国传媒科技，2023（1）：159-160.

[2] 尚智丛，闫禹宏.ChatGPT教育应用及其带来的变革与伦理挑战[J].东北师大学报（哲学社会科学版），2023（5）：44-54.

[3] 宋时磊，杨逸云.应用场景、风险与前景：ChatGPT类大语言模型时代的学术出版[J].出版科学，2023（5）：76-84.

[4] 徐敬宏，张如坤.ChatGPT 在编辑出版行业的应用：机遇、挑战与对策[J].中国编辑，2023（5）：116-122.

[5] 匡文波，姜泽玮.ChatGPT 在编辑出版中的应用、风险与规制[J].中国编辑，2023（9）：9.

[6] 王迁.论人工智能生成的内容在著作权法中的定性[J].法律科学（西北政法大学学报），2017（5）：148-155.

[7] 鲍磊，杨静，赵文渲.人工智能机器人ChatGPT 引发的问题及其对策研究[J].河北软件职业技术学院学报，2023（3）：76-80.

[8] 刘霜，张潇月.生成式人工智能数据风险的法律保护与规制研究：以ChatGPT潜在数据风险为例[J].贵州大学学报（社会科学版），2023（5）：87-97.

[9] 焦丽珍.人工智能时代期刊编辑数字素养的内涵、特征及培育路径：基于 ChatGPT 的视角[J].信阳师范学院学报（哲学社会科学版），2023（5）：80-85.

[10] 张琼方，汪齐齐.数字经济时代 人工智能法律问题初探[J].数字经济，2023（5）：17-21.

作者简介：马晓彦（1984-），女，江苏徐州，硕士研究生，中国矿业大学出版社煤炭教育中心编辑、副主任，研究方向为安全管理类、煤炭教育培训类及科技类图书的策划和编辑出版。

（责任编辑：李艳松）