人工智能技术发展与新媒体伦理规制研究

郭海威 张守信

【内容提要】人工智能技术在推动新媒体创新发展和迭代升级过程中，不良信息滋生、信息茧房等现象时有凸显。面对纷繁复杂的技术环境，注重新媒体在应用新技术过程中的伦理规制，避免技术滥用误用等问题，对于推动媒体健康发展、切实增强主流价值传播力影响力至关重要。本研究基于对智媒时代新媒体发展逻辑及所面临風险挑战的梳理剖析，探索性提出了人工智能环境下新媒体伦理规制的有效路径。

【关键词】人工智能  新媒体  伦理规制  价值共创

当前，人工智能在新媒体中的应用广泛深入，加之物联网、大数据等技术支持，人类社会进入智媒时代。信息内容生产与传播表现出显著的扁平化、大众化、平等化等特征，多元化社会主体、多样化技术支撑、多媒介形态和内容样态趋势愈发凸显。然而，由于应用过程中技术主导权不断增强，算法黑箱、唯数据导向等所引发的不良信息衍生、信息茧房等问题有所凸显。面对纷繁复杂的技术发展现实，注重新媒体应用过程中的伦理规制，避免滥用误用等问题，是实现新媒体健康发展、切实增强主流价值传播力与引领力的重要前提。

一、智媒时代新媒体的发展逻辑

人工智能的快速发展及在信息传播领域的深度嵌入应用，不仅有效推动着信息传播流程、传播格局与生态的重塑，同时也有力推动着社会变革。智媒时代，新媒体面临着新的发展环境、发展需求，为实现自身不断发展升级，新媒体内在的发展逻辑正在发生深刻变化。

（一）强化技术支撑：推进智能化升级

人工智能旨在依托大数据、算法、深度学习以及相关传感器，对人的核心智能进行模拟、延伸与拓展，表现出高度的逻辑性、学习性和预测性。人工智能结合其他前沿技术应用，使得新媒体的内容采集与生产机制、传播逻辑等都发生深刻变化，驱动信息传播不断走向个性化、移动化、智能化。随着人工智能应用更加成熟，其愈发成为媒体深度融合的技术基石。人工智能有效提升了信息生产与分发效率，以人工智能为支撑的智能编辑部能够融合各类信息数据，并实现快速提取、有机整合、高效制作、精准分发。通过人机协作，信息生产与分发在技术理性和价值理性上将逐渐趋向平衡，驱动媒体生态走向最优化。

从信息采集环节来看，人工智能技术应用将实现全时段、多场景、多模态的内容采集，新媒体的信息来源将不再局限于新闻工作者自主挖掘及用户反馈，其开始更多交由媒体的智能大脑进行挖掘处理，通过连接各类交通信息数据库、环境信息数据库、行业发展数据库等，其将在第一时间获取精准信息数据。从内容生产环节来看，人工智能应用能够实现对已有内容资料的迅速整合制作，基于对媒体已有信息内容的深度学习模仿，人工智能技术能够仿照媒体固有风格和模式进行内容生产制作。从内容分发环节来看，人工智能应用能够实现对信息内容的个性化、差异化、精准化分发。从用户体验方面来看，人工智能在推动媒体融合走向深入的过程中，其所提供的信息内容形态更加丰富，主题更加多样，有助于进一步拓展用户视野，为用户提供多样化、个性化内容产品服务。

（二）坚持人本至上：凸显人性化趋势

目前，我国政府部门对人工智能技术与产业发展的政策较为开放，以促进激励为主，鼓励各类主体积极利用人工智能发展优势，努力成为新一轮技术和产业变革的引领者。在新媒体的应用实践过程中，如何实现对人工智能安全风险的有效管控尚处于摸索阶段，坚持以人为本、探寻具有行业针对性的技术安全框架，推动新媒体更加人性化，是今后人工智能技术应用的发展与研究重点。

智媒时代，无论是技术的迭代升级，抑或是行业的创新演进，归根结底，其最终目标都是服务于人的发展，以满足人的各方面需求为终极目标。具体到信息传播领域同样如此，人工智能应用于新媒体，其对信息内容生产、传播、反馈等的流程革新与再造，显著提升了内容生产效率，变革了新媒体运营模式，但是其价值的根本体现依然在于对用户需求的满足。满足多元化的需求，优化内容获取、接收与交互体验，无论在当前还是今后发展过程中，都是新媒体中人工智能应用的重要价值追求。

随着人工智能在新媒体领域实践程度的加深，媒体将进一步成为人身体的延伸，能够准确感知用户的所思所想所需，并通过多渠道、多模式为用户提供多样化、多模态的内容服务。人工智能驱动下，新媒体的人性化趋势将进一步凸显，在满足用户信息需求的同时，为不同用户制定更加个性化、差异化的服务策略。

（三）创新运营模式：提升市场竞争力

随着我国对媒体领域的市场化运营进一步放宽，一些新媒体依托自有优势资源，加快创新市场化运营模式，展现出旺盛的发展活力，发展潜力不断被释放。在人工智能技术驱动下，新媒体能够充分整合内容资源、用户资源与技术资源，着力提升其自身的核心竞争力，加上逐渐涉足各类商业领域，数字经济时代的新媒体市场规模正在快速增长，并由此反作用于内容产品力的提升，推动打造具有强大竞争力的新媒体平台。

就内容产品而言，智媒时代的新媒体通过提供多样化的内容产品来赢得用户关注，基于内容进行变现是新媒体市场化过程中的基本发展逻辑，用户可以通过对内容产品的订阅、打赏等实现对相应信息服务的付费使用。就内容衍生服务而言，智媒时代的新媒体正在逐渐涉足到信息传播领域之外的商业场景中，以期打通更多盈利渠道，创新盈利模式。

人工智能技术应用为新媒体实现价值变现提供了更多路径选择，今后发展过程中，推动新媒体自身数据要素市场化也是其市场化发展的重要方向，商业模式的创新探索能够为新媒体发展提供经济资本与支撑，是保证其持续输出优质内容产品的基础所在，随着技术支撑更加有力，各种传媒新业态将相继出现，为新媒体赋能，推动更好实现社会价值和经济价值。与此同时，人工智能技术的广泛应用也为新媒体的运营模式变革与创新提出了新的挑战，如何以人工智能技术应用为支撑，将新媒体运营做大做强，实现业务转型、经营拓展，是当下和今后一段时期新媒体发展所面临的重要议题。

二、智媒时代新媒体发展面临的风险挑战

随着人工智能、大数据、云计算等新一代信息技术愈发深刻嵌入到新媒体的运作系统之中，信息传播领域正迎来巨大变革，信息采集、内容生产、传播渠道、用户体验方式等都在不断创新演进，各种新形态、新业态、新体验层出不穷，人类社会正在进入万物皆媒的互联时代。在此背景下，新媒体发展也迎來了更广阔的机遇空间，为基于新媒体内容本身的价值创造创新提供了更开放的舞台。但是在此过程中，一些过度重视经济效益而忽视社会效益、对技术应用监管不力等现象时有发生，新媒体中的人工智能技术应用所产生的滥用用户数据、容易滋生不良信息内容等问题有所凸显，无形中对社会主流价值带来冲击，导致主流价值根基可能被动摇。

（一）算法黑箱冲击社会价值底线

人工智能技术以算法为重要支撑，在新媒体的实践应用中，人工智能以特定算法模型嵌入和影响信息采集、内容生产、内容分发、用户体验等各个环节，算法逻辑愈发在媒体实践中占据主导地位，对于议题选择、议程设置、舆论引导等产生重要作用。然而在此过程中，由于算法本身具有高度的复杂性，其设计机制、计算原理等的透明性较低，其黑箱化特征导致其往往难以被有效管控，继而由算法主导的传播过程存在一定的安全风险。

在新的传播格局下，以往的媒体本位开始让位于算法本位，算法作用于信息传播的全流程、全链条。在此过程中，标榜技术中立的算法很难完全做到价值平衡，从而导致不良信息进入信息传播链条之中，对社会主流价值带来威胁。究其原因，一方面是算法在设计过程中，夹杂进入了设计者自身的价值观，由此导致算法在介入内容生产与传播过程中，表现出一定的倾向性，但是这种算法偏见与歧视又往往难以被外界所察觉，用户作为内容消费者仍具有一定的被动性。另一方面是在算法运作过程中，其通过不断进行学习来实现自主演化，然而，其学习资源来源于互联网这一庞大的数据库，其中掺杂的多元化的价值取向、社会思潮等，使得算法在学习演化过程中不自觉地将其内化为计算规则，进而将其在具体的信息传播操作实践中体现出来，对社会主流价值和意识形态造成干扰。

（二）个性推荐阻碍主流价值传播

人工智能应用于新媒体领域中最为突出的表现就是能够实现个性化、差异化的精准传播，人工智能基于对用户数据、消费场景等的深度学习分析，能够精准识别用户的消费偏好，从而在内容数据库中找寻最相关的内容，向用户进行定向精准分发。简而言之，即人工智能能够准确了解用户看过什么、喜欢什么、想看什么。过去由媒体机构或新闻工作者主导的拟态环境构建逐渐开始交由人工智能主导，为人们提供定制化、类型化的信息内容，但是当人们开始沉浸和适应于由人工智能所构建的拟态环境时，信息茧房效应也逐渐凸显，算法或用户既有的对于事物的认知印象及模式会在人工智能精准推荐的机制下愈发得到强化。在此过程中，算法对用户需求的迎合与满足虽然一定程度上优化和提升了用户体验，但同时却也容易将用户困在自己的兴趣偏好圈子内，固有认知不断强化，圈层化趋势开始凸显，社会思想观念出现极化和分化现象，严重者甚至导致激烈的舆论纷争和社会撕裂。

人工智能主导的精准推荐使得信息茧房、过滤气泡等效应凸显增强，在促进社会观念多元多样的同时，也容易形成价值观对立，尤其在涉及民生、环境保护等各类热点议题时，社会舆论中的多元思潮交织交锋愈演愈烈，严重者可能上升至激烈的意识形态纷争，对主流价值、主流意识形态带来冲击风险。

（三）数据导向造成隐私泄露风险

目前来看，数据导向可能导致的隐私泄露风险主要表现在两个方面。一是算法本身不受限制，在被赋予特定的数据收集与挖掘目标后，并未被指明有哪些信息不能被采集，继而，在强大算力面前，各类隐私数据在用户不知情的情况下被提取出来，并被挖掘应用，服务于下一步的使用目标，导致用户在算法面前完全成为了透明人，没有隐私可言。二是数据使用与保护不规范，人工智能在许可范围内进行数据收集与分析，致力于服务社会价值生产与创造，然而在此过程中，出于特定目的的数据使用或披露容易使数据背后的用户被精准识别，特定用户隐私被暴露在公众面前，同时，由于数据存储安全机制不健全问题，容易导致数据被盗用甚至用于非法交易，对用户带来安全隐患。

在此形势下，推动新媒体实现价值共创极为迫切，只有将多方主体纳入到数据采集、使用执行和监督过程中，才能确保数据导向始终符合主流价值导向。通过多方共同参与，及时查找和不足数据安全漏洞，规范数据使用机制与模式，制定相关的数据安全策略，保证数据创造正向社会价值，助力社会主流价值传播与引领，同时保障用户隐私安全。只有确保数据的收集与处理合理合法合规，才能确保新媒体的价值生产与创造是正确和有意义的。

三、智媒时代新媒体伦理规制的实施路径

面对新媒体在人工智能技术应用过程中出现的问题与挑战，为更好推动技术向善，使新媒体在个体发展与经济社会进步过程中发挥更大建设性作用，更好引领社会主流价值，探索在多主体协同参与的视野下，发挥各自比较优势，强化新媒体伦理规制，具有重要现实意义。

（一）多方协同实现共创共享共治

人工智能技术有效促使新媒体发展逻辑变革转向，新媒体的伦理规制与价值体现超越了传统媒体环境下的价值生成与创造模式，传统媒体作为价值创造的主体地位有所削弱，新媒体、用户等在价值创造过程中的作用和影响力愈发凸显，媒体价值创造从一元主导走向多元协同。在人工智能、大数据、云计算等技术支撑下，价值的创造不仅取决于新媒体，更多取决于多主体之间的协同关系，不同参与者的相互配合程度对于所创造价值的大小、价值实现程度具有重要影响。

就新媒体自身而言，借助人工智能技术，能够对社会热点议题、舆论走向进行准确识别和预测，继而根据特定议题进行内容生产制作，并将主流价值蕴含其中，实现价值创造与引领。就用户而言，随着人工智能在新媒体中的应用趋向广泛深入，满足用户需求、优化用户体验成为新媒体价值创造的重要目标。用户的主动性进一步提升，借助各种技术应用人人皆媒体的时代到来，至此，用户成为价值创造的重要主体。就传播链条中其他主体而言，同样在新媒体伦理规制和价值共创中承担重要角色。技术平台、行业协会、监管部门、商业服务提供商、金融提供商等，新媒体要实现有效的伦理规制和价值共创，这些力量缺一不可。多方力量共同介入，能够形成强有力的共创共享共治系统支撑，在资源整合与互补中，不断探索新媒体伦理规制的新机制、新模式。

（二）依托比较优势形成规制合力

在新传播生态中，得益于技术驱动与各类新型应用支撑，用户对信息内容的选择权更大，选择范围更广，能够基于自身需求和设备基础实现对信息内容的个性化接收与使用，传播渠道、呈现形态、使用场景等都得到有效延伸和拓展，用户能够轻松参与到信息内容生产至传播结束的全过程。用户的各种行为数据都成为新闻选题、内容制作、渠道选择、形态业态创新的重要根据，与此同时，此类数据也是新媒体伦理规制的重要参考和对照指标，为新媒体伦理规制提供新思路和新方向。新媒体自身在内容生产传播过程中的主导角色仍不可撼动，应充分发挥好自我规制、自我约束作用。技术平台、监管部门、行业协会、商业组织等同样应结合自身资源，在新媒体伦理规制中发挥制度、资本、舆论等力量，推动新媒体发展向好向优。

新传播格局下，新媒体的伦理规制是在多主体、多渠道的共同作用下實现和完成的，其中设计多个环节和阶段，整个过程可以被视为围绕信息传播流程管理规制的资源整合与优势互补过程，且伴随参与主体的多元化，新媒体伦理规制作为一项系统过程，复杂性不断增加。在此过程中，资源整合是实现推动新媒体伦理规制顺利推进的基础性条件，调动多方能动性、创新性，为新媒体伦理规制提供支撑，优势互补是新媒体伦理规制高效达成的核心路径，通过发挥比较优势，为新媒体伦理规制提供强劲合力。

（三）开放合作构筑新型价值生态

人工智能在新媒体中的应用推动信息传播在内容形态、传播渠道、接收方式等方面发生变革，构筑形成新传播格局。在此背景下，新媒体的价值创造也置身于新的价值生态系统中，不同于传统媒体时代的价值生态，智媒时代的价值生态在结构上呈现出更加交互化、扁平化的特征，在此生态系统中，价值共创的各方参与主体基于系统结构进行开放合作，形成融合共生的新型价值共创模式。随着人工智能、大数据等技术应用更加深入，价值共创的系统结构也在不断发生变迁演化，参与主体、参与边界、参与效果、参与模式、参与逻辑、参与情境等都在发展深刻变革，但总体而言，结构的变革与创新仍是为价值创造服务，是新传播格局下新媒体伦理规制的重要表征。

在新型价值生态系统中，其结构组成更加复杂，形成多节点、多连接、无边界的价值共创网络。要实现新媒体伦理规制的有力有效，这种开放交互的结构关系应始终坚持以主流价值为引导，遵从共同的价值理念、规范体系，防止突破主流价值框架而滋生不良信息。

融合共生环境下，各传播主体之间的衔接更加紧密，跨界合作成为常态，新媒体的伦理规制也在突破传统视角下的传播规制模式，继而置身于整体社会价值生态系统中，围绕价值共创共享共治，新媒体传播所涉多元主体开放合作，立足更广阔视野进行价值创造，推动提升主流价值传播力、影响力。

【本文系国家社会科学基金重大项目“我国新闻传播业人工智能应用现状与发展趋向研究”（项目号：19ZDA327）阶段性成果】

参考文献：

[1]黄楚新. 避免出现算法推荐乱象[N]. 中国新闻出版广电报，2021-08-31（005）.

[2]黄楚新，许可.当前中国媒体深度融合的热点、难点与机制突破[J].传媒，2021（14）：12-14.

[3]安珊珊.2020年中国社交媒体用户使用行为研究报告[J].传媒，2021（14）：19-22.

[4]狄多华，朱昱熹.移动互联网时代舆情反转特点及对策研究——以2020年国内反转舆情为例[J].传媒，2021（14）：30-33.

[5]黄楚新.技术驱动视域下信息传播生态的变革与发展[J].人民论坛，2021（18）：92-95.

[6]于璇，郭海威.智能算法对意识形态安全的挑战与应对策略[J].科技智囊，2020（10）：33-36.

作者简介：郭海威，中国社会科学院新闻与传播研究所助理研究员;张守信，天津大学新媒体与传播学院副研究员

编辑：白洁