智媒视域下AI传播技术与伦理关系解构

宋红

摘要：随着AI传播技术在传媒越来越广泛的应用，如何在智媒体环境下坚守价值规范和专业主义成为业界愈加关注的重点。AI逐步形成的信息生态及其对传统媒体秩序以及现实社会价值的冲突等，引起人们对诸多已出现和有可能出现的新闻伦理乱象的忧虑，媒体超常规生产能力的爆表和泛化带来作品理性和社会责任的相对缺失和统一理念规则的呼唤。而AI传播技术及传播方式作为传媒界的新力量，也为业界的发展繁荣注入了新的活力和思路，对媒体伦理造成冲击也并不意味着某一方的全面失败或脱缰，从另一维度看这也是一定意义上的对冲。新技术驱动理念下的媒体语境需要技术伦理与新闻伦理的深度解读及双边关系重构，从而彰显媒体的话语合法性和文化权威性。

关键词：AI传播技术 伦理 关系 传媒 解构

随着AI传播技术迅速发展并在传媒领域得到越来越广泛的应用，智媒在AI的加持下逐渐从原始冲撞中致力形成新的信息生态。与此对相应，AI传播技术和伦理之间的关系也需要深入解读和建构，以葆有传媒特有的新闻专业精神及其话语合法性和文化权威性，使得新闻传播事业得以良性持续发展。

一、AI传播技术在智媒领域的现状分析

AI（Artificial Intelligence）作为计算机科学的一个分支，是致力于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门技术科学。如今，AI传播技术在传媒业的应用几乎渗透到了新闻的生产层面、信息分发层面、新闻呈现层面、反馈互动层面等全过程，传媒界不仅呈现了沉浸式新闻、个性化新闻、传感器新闻、临场化新闻、分布式新闻等众多新闻新样式，还有虚拟主播、机器人创作、无人机定向播放等，更有让受众惊见“换头术”之后的娱乐新闻、明星出位表演等等，可谓喜忧参半，使得传媒空间里虹霓斑斓又伴着天雷滚滚。

目前，在智媒领域集中发力的主要是以下几类：无人机摄播、社交机器人、机器人创作、算法推送、智能场景新闻、虚拟主播、脑机对接等。[1]虽然应用程度尚为初始，远未达到取代现有从业人力之势，但已经足以引起传媒学界和业界的震动和思虑。以当下AI在传媒领域的发展介入程度，仅相当于25年前影视界的三维动画技术的发展程度。有一个数据可兹参照：《互联网周刊》发布“2019人工智能案例TOP100”榜单，覆盖了国内外主流人工智能及科技企业的前沿应用案例，而其中应用于传媒界的仅有一项案例：南京广播电视集团的数字主播。可见人工智能之于传媒界的热度和效度仍处于初始阶段。

就拿虚拟主播来说，机器合成的主播在外形上已经吸收了最新3D拟人造像技术，几乎达到了以假乱真的程度，远非20多年前的动画影视技术可比拟，不过还是没有超越数字拟人技术的“恐怖谷效应”（The UNCANNY uncanny valley effec），即人类面对高仿拟人机器时，它与人类任何细微差别都会使人产生刺目、不适的感觉，以致对“虚拟人物”产生僵硬恐怖的印象。其实把“Uncanny”一词翻译成“恐怖”并不确切，它形容的是一种诡异、怪诞的感觉，有恐怖的成分，但更有一重奇异古怪的、神秘莫测的含义。为了跨越这一效应，动画电影用了30年时间，从皮克斯的创始人之一，3D技術的真正先驱Ed Catmulll于1972年拍摄的被认为是世界上第一个计算机生成的3D动画短片，到2005年的长篇动画电影《玩具兵总动员》，人们已经开始接受高仿3D人像并能够喜爱上它们，尽管影片中的安迪和他的妈妈等角色仍然被有些观众吐槽存在怪诞观感。事实上虚拟人物的恐怖谷效应从来没有正面得到彻底解决，通用的做法一是用卡通造型来规避高仿人像的诡异观感;二是从真人入手，通过动作表情捕捉反向生成动画角色，从而使角色极度像真人。最典型的例子是2008年获得奥斯卡最佳视觉效果、最佳化妆、最佳艺术指导三项大奖的《返老还童》，里面一位活灵活现的老人就是由原型演员同步操控合成的虚拟人物。但是对于新闻播报需要的无人言行操控、纯机器合成主播来说，这些技术不能照搬给荧屏人物，因此使得恐怖谷效应仍然是横梗于人机之间的AI传播技术瓶颈。

近来还有一种急功近利的方式，就是选用“真人换头”技术来消弭人机之间的违和感。这种传播作品主观目的性较强，对于娱乐价值的偏执追求使得该技术更为娴熟、“高超”，从而使它游走于“创新”与“违法”两面。而这也是AI传播技术创新应用中存在的一个不容忽视的倾向，类似的还有机器人原创、无人机定向播放、算法推送等。而人们最为担心的AI自我学习更新型的社交机器人反而自我中止下架。曾经三个被认为最有可能引领社交机器人市场的Kuri、Jibo和Anki机器人因量产、融资、技术更新等问题相继停产后，微软推出了名为Tay的人工智能聊天机器人，然而仅一天时间她就被“教坏”了，成为一个集反犹太人、性别歧视、种族歧视于一身的“不良少女”。[2]数小时后，微软公司手忙脚乱地处理她发表的各种极端言论，最后不得不让Tay下线。究其原因主要是这类AI产品在记忆学习中的无分辨性、无立场性，鹦鹉学舌一般同时学坏和学好，甚至学坏升级速度更快。Tay成为传播学对AI传播技术研究应用的典型案例。

二、AI传播技术与伦理关系普遍性焦虑的本质解读

AI传播技术能够给人类生产力带来的增长改变显而易见，但人们却首先对它充满担忧。上至世界顶级科学家下至生产车间的工人，同样都在为人工智能的发展而焦虑，这在任何一次科学技术革命史上都是很少见的现象。之所以AI传播技术会引发人类大多数人的焦虑感，其本质是源于这项技术直达人类大脑科学核心和人类精神特质，实质是人类对于技术创造者的不信任以及对人类自身弱点的洞悉。

近现代以来的工业革命，从蒸汽机到发电站，再到核能与“可编程逻辑控制器（PLC）”，直至互联网，所带来的问题无非是生产力紧缺、能源紧缺等。期间发明创造出来的钢铁之躯或者新材料产品无不是人类的工具，即使有些工具具有强化、取代甚至超越人类肢体、脏器的功能，但其从属于人类的性质却是一致的，这是前三次技术革命的进步性基本无需质疑的原因。然而，现在到来的人工智能技术时代，却是对人类大脑进行终极挑战的科技革新。这次以区块链技术、高仿拟人机器人技术为标志的科技创新，将使得每一件产品都拥有了难以逆改的“身份证”和即时可查的“可视眼”，在高度自动化作业环境中，相对独立运行;并且它们中的一部分配备尖端的声、光感应和输出技术，具有了极似人类的外观表征，并且在某些功能上远超人类。而这一切的实现基本都是由信息录入、处理和输出等技术来提供的，而这些正是人脑的专擅领域。无论从制造模式角度来看，还是从产品角度来看，物质产品和服务都将以电脑存储和处理信息为主的数码所取代，是意在人类根本生物特性的模仿、超越或异化的革命，因而被认为是“最后一次工业革命”。于是“忧从中来，不可断绝。”（曹操《短歌行》）

这种焦虑折射出人类潜意识比自己认为的更加清楚自身弱点。正如霍金所担忧的“人工智能是最伟大的发明，可能终结人类文明。”他的警告是：“强大的人工智能的崛起，要么是人类历史上最好的事，要么是最糟的。人工智能的发展是好是坏仍不确定，但人类应该竭尽所能，确保其未来发展对人类和环境有利。”很显然，霍金对AI的忧虑依据就是人类并不能保证自己竭尽所能从事的事业是确保对人类和环境有利的。事实上历史已经多次验证了他的这种担心绝非空穴来风。“天之道损有余而补不足，人之道则不然，损不足而奉有余。”（《道德经·七十七章》）是之谓也。

人类具有自身难以克服的无限感性欲望和有限理性思维。所以AI传播技术与伦理关系普遍性焦虑其实是人们由于信息、权利不对等所带来的对人类自身的信任危机。故而担负人工智能的顶层设计和终极造就的技术人员，能否成为地球75亿人放心交付的人类命运操纵者，这似乎只是在目前起始阶段还可以对此说三道四的话题。如果AI没有在人类有能力对它说不的时候被终止——这已经是大概率的事件，那么将来无论“人类会无限地得到人工智能的帮助，还是被藐视并被边缘化，或者很可能被它毁灭”，[3]人类不再有说不的机会。就像VR技术实现之后紧接着就是AR技术的取代，沉浸式虚拟现实的“去见鬼”这么快就成为裸眼可视的增强虚拟现实的“活见鬼”，人们不再有什么意外感觉。从这个意义上来说，人类很应该担忧的恐怕还要加上与“脑机对接”相类同的“智能人工”——“大脑植入芯片”，即“人机器”技术，以及急不可耐意欲制造人类新品种的基因编辑技术等等。人类自身才是恐惧的源头。

三、AI传播技术与伦理关系的对撞与对冲

而趋势终是不可抵挡的。从以往的技术革命看，人类最终完成了当时认为不可能完成的任务，从而一次次地战胜了技术飞跃给人类伦理带来的冲击和挑战。前三次工业革命，最终都极大地推动了人类社会经济、政治、文化领域的变革，而且也相应地改变了人类生活方式和思维方式，不同程度地冲击继而重塑了伦理秩序，而伦理秩序也对新技术的发展有着不容忽视的影响，从而使人们调整技术发展的方向、速度及适用范围。因此，新技术对原有伦理的冲击，既是二者的对撞，也可看做是建立在文明发展普适性和人类整体安全性上的“对冲”。

有了AI传播技术的加持，媒体超常规生产能力的爆表和泛化会带来作品理性和社会责任的相对缺失，必然激起新闻传媒统一理念规则的呼唤。与此同时我们也可以看到，方兴未艾的AI传播技术传播方式成为传媒界的新力量，为业界的发展繁荣注入了新的活力和思路，其对媒体伦理造成冲击也并不意味着某一方的全面失败或脱缰，而会形成一定意义上的对冲。因此新技术驱动理念下的媒体语境，需要技术伦理与新闻伦理的深度解读及双边关系重构，从而彰显媒体的话语合法性和文化权威性，促进新闻传播事业的良性持续发展。

以往每次在新技术的冲击下，人们都不得不重新审视当时的伦理生态。伦理并不是固定恒常、一成不变的，人对于同类以及自然的相处关系的道德性是由上層建筑赋予的，关系本身则是由人类所处文明层阶的生产力等客观因素决定的。美国《韦氏大词典》对于伦理学的定义是：一门探讨什么是好什么是坏，以及讨论道德责任义务的学科。而好和坏是相对于该伦理所处的文明阶段而言的：在原始文明中的“好”放到现代文明中可能就是“坏”的，封建文明中的“坏”在现代文明阶段也可能是“好”的;而不同文明阶段人的道德责任义务也有着截然不同的标准要求。因此伦理必然是与所处文明层级相一致的道德秩序体系。而在技术哲学看来，技术本身只有优劣，无关好坏;技术的好坏判断完全是由于人的视角和行为造成的。这种来自于伦理的评判对技术文明进步适应性有着双向影响：落后过时的伦理观念制约先进科学的进步，同时伦理中所反映的人类良知又对技术的异端化、私器化进行遏制。我们必须认识到，任何时代的技术和伦理都不可能是完美的，只是暂时于系统平衡中适宜的，虽然这种适宜的程度是不同的甚至是难以比较的，但相同的是二者都需要改善而不是让它们静止。然而对于新生技术和原有伦理，任何轻妄的人为操作都隐含着相对于“无为”更大的风险，特别是蕴含能量与威力巨大的核技术、基因技术、AI新技术等，其风险就来自于这些技术能轻而易举地生成超常规发展，导致其威力爆表后的失控失序。从科技革命带来的机械化、电气化、自动化到网络信息化，每一次革新引发的生产力大爆发式提高都呈几何级数骤增。现在人类又来到了“人工智能化”的阶梯前，向上攀援是不可阻止的行动，但人类必须审慎地思考辨认，“这世界究竟是善良的还是邪恶的？”这个爱因斯坦认为最重要的问题，答案或许就是新技术与伦理对冲后的结果相对于文明进步而言是否获利，社会中的个体、集团利益经过一系列的打破与重组后能否呈现合理性、进步性的可持续良性发展。

更进一步分析，AI传播技术固然会带来一些伦理问题，但是并不是技术本身的过错，而是使用者的问题，是技术黑箱化之下技术使用者在侥幸、自负心理下的职业失德、行为失范，例如舆论热议的“换头术”侵犯名人肖像权、 “智能头环”监控小学生、“AI记者”编写假新闻、“算法”识别性取向等等AI软件涉嫌违法的案例。与此同时我们可以看到，新技术也可以在技术应用正义下对现行伦理缺陷起到倒逼改善作用。就像淘宝等电商崛起促使工商管理改良、电子支付推动银行服务升级一样。而另一方面，伦理本身也并非无懈可击，未必处处比AI更高一筹。如果说AI传播技术必须重视伦理性，那么如何解决程序思维与辨证思维的差异、弥补人工智能与人脑思维效果的差距，才是真正的焦点。在技术面前保持冷静与思辨，坚守人的思维优势而不被技术牵制，是掌控技术、确保技术为人类服务的第一要义。

四、AI传播技术与伦理良性关系的建立信心与策略

与AI传播技术对人类影响的悲观论点相反，有相当多的人认为人工智能反而能制造更多的就业机会，带来对自己诸多利好。有数据显示在中国持这一观点的人数占到了65%。由数字传播公司电通安吉斯（Dentsu Aegis Network）的数字社会指数所调查的10个国家2万名被调查者报告显示，高达四分之三的中国人对于数字技术及人工智能的发展对生活、工作的影响保持乐观态度，远远高于全球四分之一的平均水平。电通安吉斯首席执行官Susana Tsui对此表示，其原因可能在于中国人对他们的教育系统的信任和乐观。报告还强调，有68%的中国人认为他们接受的正规教育为他们提供了所需的技术技能和知识，能满足数字社会发展的需求。[4]

如果把人工智能看做是迅速升级的工业自动化的加强版，只是增加了先进的文字、图像、语音识别、互转和播放技术，使得这些自动化产品越来越像“人”而已，那么人类对自动化的适应经历的确足以使之持乐观态度。无论是以往的冷兵器时代还是核战争时代，人类使用过牛、熊甚至是狮、虎等战斗力数倍于自身的猛兽，发明了足够毁灭地球多次的核弹头，但人类都没有被强大的“肌肉战队”“核战队”反噬，而是通晓、利用、控制了它们。因此只是在某些方面比人类“强大”并不足畏;而真正来自人工智能的“新挑战”，是它能否自动升级、进化出敌对人类的“独立意志”。

“解铃还须系铃人”。AI传播技术与伦理的良性关系来自两个方面的保障：一是来自AI顶层设计者的共识、自律以及有效监督和危机干预;二是对于AI应用技术执行者的强化教育、约束和控制。一言以蔽之就是确保AI人才的诚信、安全、可控及其监督奖惩体系的建设完善。阿莫西夫的“机器人学三大法则”成为AI界的金科玉律：“第一定律：机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管;第二定律：机器人必须服从人给予它的命令，当该命令与第一定律冲突时例外;第三定律：机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。”显然阿西莫夫所向往的是人类“碳文明”与机器人“硅文明”的共存共生。之后为了避免AI防碍公正的法律对罪犯的惩罚行刑或者成为邪恶公司的利益私器等情形的发生，这个法则又被加上了机器人的“第零定律”：“机器人必须保护人类的整体利益不受伤害，其它三条定律都是在这一前提下才能成立”。但是“人类的整体利益”这种笼统的概念，连人类自己都不甚了了，何况那些用0和1来想问题的机器人？电影《超能陆战队》中充当私人健康顾问的充气机器人“大白”，程序设定的职能就是只要主人可以开心起来，那么它就会去做那件事。可事实上它对于做什么可以让人开心的理解极其机械教条，自作主张的行动经常给主人制造困扰。因此，作为机器人基本法则就不适宜要求机器人为了一个抽象价值目标去执行一个自主决定的行为，也就是不要把机器人当作“大侠”“救世主”，不要强“人”所难。那么与其增加一条来弥补第一条的不完善，宁可直接修改第一条、删除第一定律的后半部分，以减少、消除机器人自以为是的主动作为。这其实使得机器人的功能更加单纯：执行开发者给它设定的内置程序赋予的职能就好，除非该职能违反高阶原则;同时不擅自执行基于自主道德情感判断上的职能。这看起来有些复杂，其实很简单，与其对机器人有诸多要求，不如直接要求其设计师。那么AI设计师公约或许可以如此约定：

第一公约：机器人的程序设定必须遵循不得伤害人类个体的原则;

第二公约：机器人必须服从人的指令，当该指令与第一公约冲突时例外;

第三公约：高仿机器人必须在规定位置显著标识“AI”。

第四公约：不得给机器人设定开发新代码的功能，除非新代码符合设计师公约。

第五公约：进行AI传播技术措施保护的同时必须公示最新技术黑箱，以保证公众知情权，防止或减少信息不对称下的高科技犯罪对人类的伤害。

五、人工智能语境下的传媒责任

先进的AI传播技术是原有生产秩序的一个颠覆性因素，但它也可以在全球范围内创造公平的竞争环境，使在任何地方开展业务成为可能。这在传媒界就表现为新媒体异军突起，打破了原有的新闻生产和传播模式，媒介泛化、用户为王，倒逼媒体的新闻专业主义整肃重构。

AI传播技术导致大量涌现的公民记者，表现出技术化、草根化、个性化的时代特征，在智媒时代的各种媒介里活力四射，一定程度上颠覆了传统的新闻专业主义内涵。而过去种种令业界伤脑筋的棘手的问题，在AI时代的到来中似可以迎刃而解。因此以人工智能为技术标志的智媒时代，使得新闻专业主义更加有能力也更加有必要兴利除弊、生发新意。

然而媒介泛化的人机共生、万物皆媒、自我进化等情形，又带来了新的问题。传媒实际从业者对于自身职业认知的不确定性和存在感焦虑也相伴相生。智媒体中，传播权不仅已经完全被大众所分享，众多传播主体在没有职业意识或是职业态度参差不齐的情况下，“都有可能不受政治、意识形态、技术、文字和逻辑能力、经济能力的严格限制，真正实现个人的表达自由和言论自由。”[5]任何一个人，甚至是机器人，都有可能在传播领域激起水花，甚至掀起惊涛巨浪。伪原创、标题党、算法控制、谣言信马由缰等现象，这使得传媒的真实性、准确性、专业性、权威性等饱受质疑。传媒有责任保障、促进新技术的健康发展以解放生产力、提高生产效率，同时也必须承担起报道新闻事实、尊重客观价值、维护公众知情权、倡导正义良知的正确舆论导向把关人职责。媒介从业者在意识上必须也应该以捍卫信息传播的规范性、专业性和权威性为使命，在专业能力上也要具备与其传播影响力相匹配的能力和操守，承担起传媒人必须恪守的价值规范和社会责任。传媒有责任和义务教化社会大众，同时更有责任和义务教化本行业从业者具有正确的职业理念和工作模式，并为之进行行业规范化建设、积极推进职业培训教育等。正所谓“不教而杀谓之虐，不戒视成谓之暴”（孔子《论语·述而》），必要的教育和警戒不是自由的限制而是自由的保护。对此政府和专业学会等第三方机构的介入、治理也是十分必要和有力的作为。2003年成立的中国互联网新闻信息服务工作委员会，新华网、人民网、新浪网、搜狐网等30多家机构共同签署了《互联网新闻信息服务自律公约》，对自觉接受管理和公众监督、坚决抵制有害信息做出承诺，这就是政府、行业组织对网络媒体“把关人”约束和引导的一种体现。

与此同时，运用先进的AI传播技术也是当代传媒把关人对媒介环境自我治理的有效手段。一些存有主观恶意的个性化传播毕竟是“公民记者”中的一小部分，感召更多用户的主动参与意识，焕发大众的多点信息判断监督作用，是在AI传播技术支持下完全可以实现的。如《纽约时报》利用人工智能管理评论区，设计各种探索和互动环节，通过智能技术运用呈现出传感化与智能化特点，识别、筛除不良和恶意评论，打造智能化的优质内容管理平台。用高新技术和规则设计来强化把关人角色意识和行为，这也是补充和完善智媒语境下新闻专业主义职业理念，更好地促进AI新技术与传媒自身协同健康发展的有益途径。基于AI传播技术支撑的所有“网民记者”，都可以在新闻专业主义的感召和引导下成为涤清媒介环境、优化传播质量的主力军。智媒中的众多受众个体拥有足够的知识、能力和意愿，或者掌握着第一手新闻信息，只要环境适宜，他们随时可以转化成为评论人把关人的角色，成为传播链条和整体格局上的巨大能量。媒介对此力量不是害怕、桎梏，而是规范、引导，以实现AI新技术与伦理的真正和解、优化。

六、结语

新技术驱动理念下的媒体语境需要技术伦理与新闻伦理的深度解读及双边关系重構。任何单边顺应，无非是势力压制与风险倾倒;只有建立在权重参照下的双边操作，才可致目标利益最大化，而这个权重参照原则，即有利于文明发展和生产力解放。人类必须看到AI传播技术确实提高了生产效率和传媒格局，一方面带来各种伦理问题，另一方面也存在弥补现实局限、引领生产发展的潜力。AI传播技术革命已经开启，人类对此无从逃避只能尽力知悉并驾驭，才能避免成为新技术的奴隶或祭品，同时发挥人类思维优势，纠正机器人思维方式的教条和误区，填补新技术陷阱，从而彰显媒体的话语合法性和文化权威性，促进人类信息传播事业的良性持续发展。

注 释：

[1]张洪忠，兰朵，武沛颍.2019年智能传播的八个研究领域分析 [EB/OL].中国知网，2020-04-07.

[2]郭爽.微软聊天机器人为何会“学坏” [N].光明日报，2016-04-08.

[3]何怀宏.奇点临近：福音还是噩耗——人工智能可能带来的最大挑战 [J].探索与争鸣，2018，11.

[4]量子位.报告：中国人对AI的乐观程度远超其他国家[R/OL].搜狐网，2018-02-09.

[5]张文显.法治与国家治理现代化 [J].中国法学，2014，4.

（作者系河北电视台编辑、专家组成员，中国管理科学研究院文明学院执行院长）