ChatGPT应用于数字出版的伦理风险与伦理原则

刘海明 马皖雪

摘 要：ChatGPT带动了新一轮人工智能革命浪潮，数字出版如何面对技术带来的挑战和机遇成为无法回避的问题。ChatGPT在数字出版中具有重要的应用价值，能够在组织架构、决策管理与内容生态等层面产生积极影响。但在数字出版中嵌入ChatGPT模型，必须综合研判其可能引发的个人层面的角色退化与利益侵犯、行业层面的人才流失与价值失序、社会层面的道德下沉、国家层面的意识形态入侵与数据主权安全风险。建议通过构建必要性、实验性、尊重性与限制性的伦理原则，以更好发挥ChatGPT在我国数字出版中的技术效用，推动数字出版高质量发展。

关键词：ChatGPT；数字出版；人工智能；风险治理；伦理原则

D O l ： 1 0 .3 9 6 9 /j .i s s n .2 0 9 7 -1 8 6 9 .2 0 2 3 .0 2 .0 0 4

党的二十大报告提出“实施国家文化数字化战略”。作为文化产业数字化布局的重要一环，数字出版建设是构建公共数字文化资源、实现数字文化成果共享、落实国家文化数字化战略的关键驱动力。数字技术的推动与赋能，促使数字出版蓬勃发展[1]，互联网、大数据、云计算、人工智能等新一代信息技术的迭代创新，不断为数字出版业带来了新的挑战与机遇。如何有效运用数字化技术拓展出版边界、发展出版新业态，备受业内关注。

被认为是“新一代技术革命”的ChatGPT发布仅两个月，月活跃用户就超过了1亿，成为有史以来用户增长速度最快的应用程序之一。作为人工智能生成内容（AIGC）的一种，ChatGPT在给人类带来“超模拟”惊喜体验的同时[2]，也引发了人们对于技术发展的伦理考量，许多国家对于ChatGPT的引入持审慎态度，有的国家还设定一系列限定规则。

不可否认的是，ChatGPT已经成为人工智能发展从专用人工智能开始走向通用人工智能，从小众应用进入真正的大众化应用的引爆点[3]。基于此背景，ChatGPT被许多行业视为开辟产业新业态的重要支撑，数字出版未来发展与ChatGPT等AIGC相关产品的联结就成为无法回避的问题。

数字出版的发展离不开与时俱进的技术变革，ChatGPT作为人工智能的最新迭代与标志性突破，其深度的语言交互能力、高效的信息驱动能力及精密的算法运行能力[4]，为数字出版行业的组织架构、决策管理与内容生态等层面提供了广泛的应用潜力和想象空间。但ChatGPT模型在与数字出版融合的过程中，也将在不同层面引发新的伦理风险。因此，ChatGPT作为新一轮技术革新，为数字出版未来发展带来了诸多可以讨论的问题：如何搭上新一轮技术快车，开辟“ChatGPT+数字出版”的新模式？ChatGPT技术应用于数字出版存在哪些伦理风险，又如何应对？为此，本文重点分析ChatGPT应用于数字出版的伦理风险，并探讨其技术使用的伦理原则，以期为未来数字出版建设提供有益借鉴。

1 ChatGPT应用于数字出版的伦理风险

ChatGPT的技术优势在为数字出版带来了诸多层面的发展机遇的同时，也伴随着技术应用给多个层面带来了伦理风险，这些隐含的伦理风险将会深刻影响数字出版的变革。因此，对技术应用的伦理风险进行审视具有重要意义。

1.1 主体裂变：技术图景中作者角色的退化

ChatGPT介入数字出版的技术图景中，内容的创作将不再仅以人为主体，而是加入了ChatGPT的技术“代笔”。随着ChatGPT“创作”的书籍涌入市场，作者原先在文学作品中享有的“唯一主体性”地位被动摇[5]。作者的创作速度有限，ChatGPT却能在几个小时内创作完整作品；出版机构一般要为作者支付稿酬（在特定时空范围内买断版权），ChatGPT只需要支付固定的技术成本便可以循环创作。对比之下，未来数字艺术领域中类ChatGPT的产品应用很有可能成为新的创作主体，人的角色逐渐退场为内容的提问者与引导者，失去了传统主体角色的功能意义。作者角色的功能意义是作为专业人士与其他职业进行社会比较的重要属性，是维护职业边界和可持续性的重要基石。如今，作者用来构建角色边界的区隔被消解，面对人工智能技术的飞跃性发展，作者角色的主体地位出现裂变的危机。

然而，内容创作主体的裂变会衍生一系列伦理风险。第一，ChatGPT的内容创作本质上还是在人类创作的数据基础上进行二次创作，这就面临着版权归属问题，即借用的数据是否侵犯作者的权益，机器能否署名成为著作权的保护对象等。第二，ChatGPT内容生成的“提示者”如何进行地位归属，内容审查的主体责任如何界定，这些都是亟须讨论的问题。第三，人类自身的思维与创新存在多维差异，这种差异超越机器的“思想”实验与模拟。如果作者角色的功能意义被ChatGPT等人工智能产品替代，文化的个性化与丰富性发展将受到严重威胁。

1.2 价值裂变：技术决策中编辑身份的消解

嵌入数字出版流程中的ChatGPT产品能与管理者、作者、用户等进行深度交互对话、交换信息、发布指令；搜集整理归纳出版市场的关键信息；通过设置的自动评估系统对作品进行校对、排版、审核把关等。原本应由编辑承担的工作，或许未来在人工智能技术的发展中将逐渐被替代，这种趋势随着ChatGPT的应用开始成为现实。编辑职业身份的消解看似简化了数字出版管理结构、降低了数字作品出版成本，但背后存在专业人才流失与数字文化价值分裂的伦理风险，真正的行业危机也会随之显现。

人才与价值理念是行业可持续发展的支撑。

如果编辑等出版人才被技术取代，一是将会造成大批技术人员代替传统编辑人员的现象，引发行业人才流失与社会就业危机。二是完全智能化、程序化的生产流程将会消解行业的人文价值。缺少编辑价值判断的技术决策可能出现数据与效益层面的偏向，对文学作品意义价值的衡量也将部分转向商品的经济价值，忽视更深层次的数字出版价值。三是ChatGPT的文化作品如果无序生长，当无序度达到系统的极值，便会引发行业的生存危机。当ChatGPT等产品融入数字出版行业时，传统的人才结构如何发挥最大价值，编辑如何在智能生产流程中找寻职业身份价值，成为行业与个人需要思考的问题。

1.3 信任裂变：技术秩序中主体道德的下沉

ChatGPT的技术秩序中重要的是对问题的处理与回答，虽然能够在设定的道德标准中拒绝回答某些问题，但是有关抄袭的指令具有价值指向性不明确、难以被辨别的特点，ChatGPT通常无法自主拒绝相关指令。只需输入指令就可以获取富有逻辑与创意的文学作品，低成本、难辨真伪的内容生成，创作出版就能见收益，这些就像“智慧果”一般诱惑着人类作者，挑战着人类作者的诚实底线，给内容创作带来了信息裂变危机。例如，作者借助ChatGPT创作却标榜内容的原创与独立性，学界借助ChatGPT对大量现有文章进行抄袭、整合与降重，不法分子诱导ChatGPT传递虚假信息等，这些问题都挑战着人与人之间的信任，动摇社会的信任基础。

低成本抄袭挑战作者的诚信道德底线，作者将抄袭来的山寨版作品兜售给读者，加剧了数字出版实践者的道德滑坡现象。如果将ChatGPT的“洗稿”功能应用至科学研究领域，将产生不可预估的后果，引发不可预估的社会信任危机与危害。当ChatGPT的数据库实现联网，算法更精准，内容生成更灵活、更“真实”时，个体将拥有更多的可控资源，道德自觉性更易动摇。在这种背景下，学术界与文艺界获取读者信任的成本增加了，数字出版行业也将面临巨大的信任危机与精准审核把关的考验。

1.4 情感裂变：技术监控中数字资本的入侵

法国哲学家福柯在《规训与惩罚》一书中借用“全景敞视监狱”的概念探讨权力的运作方式和思维逻辑[6]，认为在监控下每个人都处在观看与被观看的机制中，处在“权力的眼睛”中的人们，在被凝视中自我规训。随着数字化时代的发展，“全景监狱”概念被引申为技术背景下的监控，传统的社会权力转换为更隐蔽的数据控制，无所不包的数据催生了一种全新的数据权力，通过对个体生活的追踪与监控，进而通过注意力和思维两个层面的规训实现对整个社会的规制和重塑[7]。ChatGPT等AIGC产品技术实现的背后是海量数据的支撑，这些数据的制定标准与算法运行规则由数字资本规定，这种隐性权力的操控也预示着ChatGPT的潜在威胁。

数字出版产业承担着重要的认知导向功能，ChatGPT的内容生成看似为出版业带来智能体验与便利，也可能因为数据的偏差与不准确而产生具有错误和偏见的内容。同时，ChatGPT是由国外的人工智能研究机构研发的，数据源偏向国外的资源库。使用主体在一问一答中产生认知，情感与思维被数据与算法的规则重塑，不仅可能导致意识形态被入侵，威胁、挑战主流意识形态，还有可能产生数据被窃取与泄漏等风险，这些都给国家数据主权安全带来挑战。

2 C h a t G P T应用于数字出版的伦理原则

善用ChatGPT能够使数字出版行业实现优质发展，而滥用产生的伦理风险则会加速行业的衰落。应及时对ChatGPT在数字出版应用中的伦理风险进行综合研判，构建完善的伦理原则，实现ChatGPT技术应用价值的最大化。

2.1 必要性原则：坚持人的主体性实践

人在社会实践关系中因为价值能动而形成价值主体，价值在文化中的主体意义也会以人的存在方式体现出来[8]。然而，ChatGPT等机器智能体正逐渐深入数字出版的诸多环节，人类创作的特殊性与价值创造的唯一主体性的地位不断受到挑战。关于智能系统是否具备“主体”条件、承担道德主体责任，从目前社会各界的争论来看，并没有统一的定论[9]。虽然不可否认智能系统在某些领域展现出人类所不能及的能力，但是文明成果根植于人类现实的物质实践活动之中，脱离人类生产劳动实践的后人类社会面临着文明异化的风险。康德视“人”是“目的”，强调人的理性与尊严，揭示了人作为有意识的存在者，在任何时候都同时当作目的，绝不仅仅当作手段来使用[10]。坚持人的主体实践，不仅关系着文明发展的向度，也是对理性主体道德能力的尊重。

坚持人的主体性实践对数字出版行业应用层面有着积极的意义，因为ChatGPT最优文本的生成是基于优质数据的“喂养”和高质量的内容提示，这些数据是人类的智慧创新成果，所以人类的内容生成越全面、质量越高，ChatGPT的内容生成就更智能化、更智慧化。ChatGPT数字作品的创作既离不开大量优质作者的原创内容，也离不开作者与编辑的高质量提问和内容筛选。本质上，ChatGPT的内容生成还是以人类为主体的生成机制，机器仍然居于辅助性的客体地位。

伟大的作品最终是由人来判断的，作品判断的标准不仅包括内容层面，还掺杂着写作者所处的社会背景和心境，其中富含不同时代的意义隐喻与生活感悟，一部伟大的作品既需要精妙的内容，也离不开写作者的心路历程。因此，即使有技术加持的作品，人作为创作主体的地位也不能被忽略。一方面，作者应时刻坚持创作的主体地位，创新出技术难以模拟甚至无法模拟的创作思路，而不是迎合机器的创作模型成为“机器作家”。另一方面，数字出版行业应时刻坚持以人为主体的内容创作地位，在对技术保持包容吸纳态度的同时，大力扶持优质原创作者，给原创作品更多的出版机会。

2.2 实验性原则：科学分级探索“ChatGPT+数字出版”模式

技术的发展是科技进步的必然，未来还会出现更多的智能工具，暂停或者完全排斥人工智能的发展并不能解决问题，关键是以何种方式最大化地利用技术。ChatGPT新兴技术的飞速发展，引发了新一轮的技术焦虑，面对即将来临的生成式人工智能时代，各行业如何掌握核心技术、发挥技术优势成了热议的问题。实验性原则为我们提供了很好的技术探索模式，也可将其视为试错原则。该原则要求在智能体系全面应用之前，可以选择先在一个可控的环境里观察相关应用创新， 判断和分析技术效果， 并合理评估创新带来的收益及风险， 从而基于“风险—收益”的比较来调整相应的应用[11]。

就数字出版而言，探究“ChatGPT+数字出版”模式是行业应对技术发展的必然，但在模式探索时应秉持包容审慎的科学态度，遵循实验性原则，在可控环境中由低层次到高层次分级展开。一是因为ChatGPT处于发展阶段，还存在数据不完整、算法不完善等技术漏洞。二是因为ChatGPT技术应用对数字出版行业而言是全新的尝试，目前业内尚未有很好的实证案例，其对数字出版生产模式的影响存在未知性。三是因为出版产业与互联网行业的融合催生了数字出版产业，也促进了数字出版产业分工与细化[12]。不同分工和环节对于技术的需求是不同的，应用的数据范围与算法逻辑也存在差异，隐含的技术使用风险的程度也不同。在此基础上，由低层次到高层次分级实验性的探索既能最大化探究技术的使用价值，也能及时了解不同生产环节可能产生的伦理风险，并适时调整技术的使用规则。

2.3 尊重性原则：强化道德主体意识与智能识别工具

尊重性原则是研究伦理与写作伦理的基本原则，既要尊重技术的价值属性与发展属性，又要尊重创作的原创性与规则性。科学技术的发展对人类与社会的作用和意义是有目共睹的，绝对的技术禁令并不可取，应以尊重技术的价值属性为前提，从技术的发展中寻求解决问题的方法。ChatGPT的开发原理是OpenAI 研发团队利用“人类反馈强化学习”的机器学习机制进行数据训练。从理论层面看，语料库与模型量级的持续提升与更新，能够为社会提供具有积极影响的全面准确回答[13]。因此，在应用AI技术的过程中，技术的规范是一方面，而在技术应用之前强化道德主体意识，形成道德自觉，同样重要。

将Chat GP T模型嵌入数字出版，尊重性原则主要体现在主体的道德自觉与技术应用的开发层面。ChatGPT并不是在任何场景都适用的，尤其是在学术研究中，部分学校与期刊已经明确规定使用ChatGPT的限制与原则。例如，香港大学向全体师生发出禁止在所有课堂、作业和评估中使用ChatGPT或其他AI工具的通告，否则将被视为抄袭[14]。全球知名出版集团施普林格·自然（Springer Nature）的旗舰期刊《自然》公开发表社论，声明了在使用生成式AI时的两条原则：（1）不接受任何LLM工具作为对研究论文有贡献的作者；（2）使用LLM（大型语言模型）工具的研究人员应在方法或致谢部分中声明[15]。目前，各国学术界、出版商对于ChatGPT的应用有着不同程度的限制。不过，对作品进行技术标识或声明是应用ChatGPT或其他AI工具的基本原则，也是任何写作者都应该自觉遵守的原则。

在内容创作中，写作者应该自主强化道德意识，尊重平台对技术使用的规则；数字出版平台与相关部门应尽快发布ChatGPT等工具的使用规则，规范道德主体的行为标准。不过，这些规则实现的前提是相应的智能识别工具的开发与应用，即平台是否有足够识别文本是由人类还是机器撰写的能力，以及平台是否有对应的数据模型。如果没有针对ChatGPT等人工智能技术的识别工具与数据基础，那就难以检验规则应用的效果，因此尽快引入智能识别工具是数字出版平台的重要应对举措。

2.4 限制性原则：完善ChatGPT引入的边界性与平衡性

ChatGPT掀起了以AIGC为代表的大模型的技术“狂飙”，成为国内外企业争相布局的风口。百度上线AI聊天机器人“文心一言”，阿里达摩院、科大讯飞、腾讯、华为、字节跳动、京东、360、快手、网易等10余家中国互联网企业均在AIGC领域有所涉足，开发相关产品[16]。人工智能技术发展具有战略性意义，国内对于人工智能技术的开发关系着经济、科技与国际竞争力等层面的建设。需要注意的是，技术发展之外的无序扩张与滥用将会引发一系列伦理风险，各行业还需要进一步考量技术发展的纵深度与引入的尺度。

数字出版行业的内容布局关乎文化产业的发展，是新时代出版工作的重要使命与任务。数字出版生产对内发挥聚民心、育新人、兴文化的价值导向作用，对外承担展形象、展示文化自信、提升文化话语权的传播责任。如前文所述，技术的使用具有双面性，既不能完全忽视技术的应用，也需要在安全的领域内发挥技术的最大价值，这就需要在引入ChatGPT时及时完善边界性与平衡性。

首先，ChatGPT并不适用于数字出版行业的所有题材，尤其是关涉国家安全的重要数据资源。面对相关领域的内容建设，数字出版行业需要具有数据安全的敏感性，应及时创建防火墙和限制禁令，树立明确的使用边界。其次，在引入ChatGPT产品时应以了解数据标准与算法运作逻辑为前提，并与技术平台合作构建适合国内数字出版领域的数据库资源，平衡数据资源偏差，提升数据准确性，避免数据偏差和算法歧视等问题导致的不良导向的回答与作品。

3 结语

当下，ChatGPT作为人工智能领域的最新技术突破，面临巨大的社会争议，在给人类带来智能体验的同时，也引发了人们对于技术的恐慌，甚至被多个国家和机构下发“驱逐令”。各行业对ChatGPT技术应用存在观望、积极接纳或否定的态度，贸然使用与杜绝都不是最好的选择，客观辩证考量才能让技术更好地服务于人类。

ChatGPT在数字出版领域具有广泛的应用价值，能够在组织架构、决策管理与内容生态等层面产生积极影响，与此同时，也会在个人、行业、社会与国家等层面产生伦理风险，因而需要构建相应的伦理原则进行技术规制，以保障ChatGPT技术应用能够发挥最大价值。因此，在包容接纳新技术的同时，也要保持审慎的态度综合研判技术的应用风险，唯有坚持技术应用的伦理原则，人工智能技术才能真正助益数字出版行业的发展。

Chat GPT只是一个开始，未来Chat GPT技术所引发的新一轮人工智能竞争会对各行业、各领域乃至世界产生何种影响还是未知。不过，以ChatGPT技术为代表的AIGC正在各领域掀起新一轮AI浪潮，激发对AI时代的种种想象。AI究竟会给人类带来怎样的变革？是对时间与空间的进一步压缩或延展，还是思维的进一步升维或退化，抑或是出现新的数字鸿沟？它又会在何种程度上影响人类的劳动实践与社会架构？这些都是需要思考与讨论的问题。

作者简介

刘海明，男，重庆大学新闻学院教授、博士生导师。研究方向：新闻伦理。

马皖雪，女，重庆大学新闻学院硕士研究生。研究方向：新闻伦理。

参考文献

[1] 刘九如.新技术赋能，数字出版呈现新业态[J].出版广角，2022（9）：44-49.

[2] 王建磊，曹卉萌. C h a t G P T的传播特质、逻辑、范式[J].深圳大学学报（人文社会科学版）， 202 3，40（2）：144-152.

[3] 钟祥铭，方兴东，顾烨烨.ChatGPT的治理挑战与对策研究：智能传播的“科林格里奇困境”与突破路径[J].传媒观察，2023（3）：25-35.

[4] 周智博.ChatGPT模型引入我国数字政府建设：功能、风险及其规制[J].山东大学学报（哲学社会科学版），2023（3）：144-154.

[5] 孙伟平.人工智能与人的“新异化”[J].中国社会科学，2020（12）：119-137，202-203.

[6] 米歇尔·福柯.规训与惩罚[M].刘北成、杨远婴，译.北京：生活·读书·新知三联书店，2007：219.

[7] 叶娟丽，徐琴.移动互联网·大数据·智能化：人工智能时代权力的规训路径[J].兰州大学学报（社会科学版），2020，48（1）：46-55.

[8] 徐椿梁.认知·实践·主体：价值在文化存在中的三重意义[J].求索，2020（6）：77-83.

[9] 张晋铭，徐艳玲.智能社会的“劳动”窘境及其化解[J].贵州社会科学，2022（10）：4-13.

[10] 康德.康德著作全集：第4卷[M].李秋零，译.北京：中国人民大学出版社，2005：436-437.

[11] 李瑛.金融科技风险下的监管转型研究[J].当代经济管理，2022，44（2）：87-96.

[12] 池仁勇，阮鸿鹏，王昀.数字出版产业持续创新能力及提升路径[J].中国出版，2019（12）：28-31.

[13] 令小雄，王鼎民，袁健.ChatGPT爆火后关于科技伦理及学术伦理的冷思考[J].新疆师范大学学报（哲学社会科学版），2023，44（4）：123-136.

[14] 港大禁用ChatGPT等AI工具，为全港大学首例 [EB/OL]. （2023-02-19）[2023-04-10].https：//m.gmw.cn/baijia/2023-02/19/1303288091.html.

[15] ChatGPT对学术出版影响几何？出版商已明确几条原则 [EB/OL]. （2023-02-17）[2023-04-10].https：//baijiahao.baidu.com/s？id=1758074768204761293&wfr=spider&for=pc.

[16] 王飚，毛文思.2022年我国数字出版发展态势盘点及2023年发展展望[J].科技与出版，2023（3）：6-19.

A b s t r a c t ： C h a t G P T h a s d r iv e n a n e w w a v e o f a r t if ic ia l in t e llig e n c e r e v o lu t io n . H o w d ig it a l p u b lis h in gf a c e s t h e c h a ll e n g e s a n d o p p o r t u n i t i e s b r o u g h t b y t e c h n o lo g y h a s b e c o m e a n u n a v o i d a b l e i s s u e .C h a t G P T h a s im p o r t a n t a p p l i c a t i o n v a l u e i n d i g i t a l p u b l i s h i n g a n d p o s i t i v e l y im p a c t s o n t h eo r g a n i z a t i o n s t r u c t u r e ， d e c i s i o n -m a k in g ， a n d c o n t e n t e c o l o g y . H o w e v e r， e m b e d d in g t h e C h a t G P Tm o d e l in d ig it a l p u b lis h in g r e q u ir e s a c o m p r e h e n s i v e a s s e s sm e n t o f t h e p o t e n t ia l r o le d e g r a d a t io na n d in t e r e s t s in t r u s i o n a t t h e in d i v id u a l le v e l， t a le n t lo s s ， a n d v a lu e d is o r d e r a t t h e in d u s t r ia l le v e l，m o r a l d e g r a d a t io n a t t h e s o c ia l le v e l， a n d id e o lo g ic a l in f ilt r a t io n a n d d a t a s o v e r e ig n t y s e c u r it y r is k s a tt h e n a t io n a l le v e l. It is s u g g e s t e d t h a t t h e e t h ic a l p r in c ip le s o f n e c e s s it y ， e x p e r im e n t a t io n ， r e s p e c t ， a n dr e s t r ic t io n b e c o n s t r u c t e d t o b e t t e r u t iliz e t h e t e c h n ic a l e f f e c t o f C h a t G P T d ig it a l p u b lis h in g a n d t op r o m o t e t h e h ig h -q u a lit y d e v e lo p m e n t o f d ig it a l p u b lis h in g in C h in a .

K e y w o r d s ： C h a t G P T ; D ig it a l p u b lis h in g ; A r t if ic ia l in t e llig e n c e ; R is k m a n a g e m e n t ; E t h ic a l p r in c ip le