数字内容消费与科技伦理反思

■ 刘欣雨

一、数字内容消费的兴起及其科技伦理困境

在推进文化产业高质量发展方面，数字文化产业建设是重要一环。《中华人民共和国国民经济和社会发展第十四个五年规划和2035年远景目标纲要》中提出，要实施文化产业数字化战略，加快发展新型文化企业、文化业态、文化消费模式，壮大数字创意、网络视听、数字出版、数字娱乐、线上演播等产业。文化产业数字化是以数字技术为支撑，将数据作为关键要素，实现组织系统要素数字化升级、转型和再造，进而重构文化产业生态的过程，其拓展了文化产业的内容形式、生产方式、传播渠道和消费方式，丰富了受众的体验感和消费选择。①参见张振鹏：《文化产业数字化的理论框架、现实逻辑与实现路径》，《社会科学战线》2022年第9期。其中，数字内容产品作为文化产业内容生产与服务的重要组成部分，主要指利用技术手段将文化内容进行信息化、数据化处理，覆盖网络游戏、动漫、软件开发等领域，包括数字阅读、网络视频、直播、数字音乐等文化新业态。

当前，数字内容消费对我国文化及相关产业增加值的贡献率不断提升，数字内容产品与服务几乎涵盖生活的方方面面，以网络游戏、网络视频、网络音乐为主的数字内容市场呈现一片繁荣景象，但随之而来的隐私泄露、网络暴力、数据滥用、信息安全等各种乱象也揭示了其中隐含的科技伦理困境，引发了社会的质疑。近年来，以大数据、算法为支撑的短视频内容平台“抖音”，就曾出现平台主播利用AI 换脸技术招摇撞骗的情况，致使一批中老年用户陷入骗局。除此之外，抖音通过算法而实现的精准推送也容易使用户产生文化产品成瘾问题，甚至会在用户心理、生理、个体社会功能方面产生负面影响。①参见兰玉坤等人：《手机成瘾研究发展现状》，《中华疾病控制杂志》2019年第11期。在此情况下，2022年3月中共中央办公厅、国务院办公厅印发的《关于加强科技伦理治理的意见》（以下简称《意见》）中明确提出：在科技高速发展的背景下，我国在科技伦理治理领域仍存在着一系列问题，难以适应科技创新高质量发展的现实需要。学界也针对人工智能、大数据、虚拟现实等技术对数字文化产业展开深入讨论与分析。随着各界开始深度探讨数字内容消费中隐含的科技伦理困境，我们也需要正视数字内容消费中所面临的科技伦理问题，更好地推动文化产业与数字经济深度融合发展。

二、数字内容消费面临的三种科技伦理问题

（一）算法伦理：算法偏见与信息茧房

随着数字文化产业的发展，算法已然常见于信息匹配、人脸识别、智能推荐等数字内容服务与产品功能之中，其公平性、公正性不容忽视。而数字内容消费中的算法伦理问题主要指因算法自身因素或算法操纵而造成的算法偏见，以及智能推送带来的“大数据杀熟”和“信息茧房”现象。

一方面，算法在生产和应用过程中不是完全客观、中立的，它在自我学习、自我成长的过程中会不可避免地因学习对象及内容自带偏见或因突发性错误造成算法偏见、歧视等问题，并且算法本身也在一定程度上受到算法工程师、设计者等生产方个人主观经验结论与价值观的影响，而这种影响往往是难以察觉与定责的。在我国数字内容产品与服务消费过程中，最为常见而隐蔽的算法歧视现象之一即“大数据杀熟”，即算法利用大数据收集用户的市场行为、浏览频次、消费习惯等信息，由此对其身份进行“生客”和“熟客”的划分，从而进行不公平的价格设置和利益宰割，损害消费者的正当权益。“大数据杀熟”现象在文化电商平台屡禁不止，正如近年来随着在线旅游行业蓬勃发展，线上文旅企业不断增多，它们既是服务的提供者，同时也是电商平台的经营者。在经济利益的驱使下，部分文旅企业违规收集与使用用户信息，利用商家和消费者之间的信息不对称，针对同样的商品和服务，对老客户设置比新客户更高的价格。

另一方面，在信息空前爆炸的当下，信息传播与过滤的权利部分已经让渡给了算法。②参见喻国明等人：《算法即权力：算法范式在新闻传播中的权力革命》，《编辑之友》2018年第5期。种种“猜你喜欢”“智能推荐”虽然带来了信息浏览的便捷化、信息传递的精准化以及信息收集的效率化，但同时也造成了“信息茧房”问题。在算法主导的内容分发模式下，由于渴望博取“眼球经济”以及缺乏监管的双重因素，网络平台极易为用户推荐低俗、虚假、肤浅的劣质信息，一味地追求“流量”，迎合用户的感官愉悦。这不仅在无形中造成了“信息茧房”，并且当过多缺乏深度的内容成为“热点”时，还将引发整个网络平台的媚俗化，甚至削弱整个社会的创新创造能力。也就是说，当算法技术被低俗、猎奇、过度娱乐化的消费倾向所主导时，用户将更容易被缺乏内涵与正确价值导向的信息所包围，如博人眼球的标题、情绪化的文章、夸大其词的广告等，这同时也会导致主流信息、异质化信息以及新兴原创内容的传播质量与效率变得难以保证。2018年，“快手”和“火山小视频”就曾因大量推送、传播低俗不良信息而被国家互联网信息办公室责令进行全面整改，要求其暂停算法推荐功能。

（二）数据伦理：大数据与个人隐私

互联网的广泛运用使得数据日益成为企业提高自身竞争力、占据市场份额的重要资源，各类信息不断被数据化、智能化储存与使用，数据库应运而生，而个人数据的隐私问题也引起了社会的广泛关注。数据库中的个人数据主要有以下三种来源：一是用户自愿提供的数据，如注册信息、用户主动发布的数据等；二是被观测到的数据，即用户在使用软件或信息设备时被记录和观测的数据；三是被推断的数据，即根据用户的各种信息所推测出的个人数据。①参见金元浦：《大数据时代个人隐私数据泄露的调研与分析报告》，《清华大学学报（哲学社会科学版）》2021年第1期。由于数据收集与储存成本低廉，所带来的商业价值却十分可观，大部分文化企业或机构都会海量收集和利用用户个人数据，其中就包括个人的隐私信息，即使有些数据表面上并不包含敏感内容，但经过大量累积和处理之后，也将涉及个人隐私与安全问题。在数字内容消费领域，个人隐私的泄露常见于各大社交媒体与线上交易平台。

首先，社交媒体上的个人信息愈发呈现出“公共化”的特征，即能够对较为陌生、广泛的对象公开，如学校信息、就业信息、家庭地址等。然而，在了解隐私安全问题的前提下，人们依旧热衷于在小红书、朋友圈、微博等各类平台上分享更多的个人信息，“隐私悖论”由此产生。除了有意识的信息分享外，用户在社交媒体与交易平台上的每一次搜索与每一句发言都无意识地在互联网上留下了“数字足迹”，如社交媒体上的发问、在线购物记录、浏览记录等，从而加剧了个人隐私被侵害的风险。

其次，文化企业与机构收集用户个人数据的“知情同意”机制也在大数据时代面临冲击。游戏、阅读、社交等方面的各类软件虽然在用户正式使用之前，都会给予相应的“隐私声明”，但这类声明不仅过于冗长复杂，大多数用户并不会完全阅读甚至理解其中的内容，往往采取直接跳过的方式。甚至在大多数软件的使用过程中，不同意这类声明则无法使用该软件，用户本身并不享有个人隐私的实际控制权。②参见范为：《大数据时代个人信息保护的路径重构》，《环球法律评论》2016年第5期。在此情况下，个人数据安全并不能得到及时、有效的保护。2018年，社交媒体平台Facebook 受到黑客攻击，其间至少5000万用户的个人数据遭到泄露，涉及用户位置、电话、电子邮箱等。这类数据泄露事件不仅会造成用户个人安全隐患，更会造成社会治安隐患，如网络诈骗、电信诈骗等。

（三）人文伦理：人工智能与“虚拟世界”

科技支持下，各类文化新业态的诞生和数字文化内容市场的繁荣也引发了人们对相关人文伦理的思考。从数字内容消费的对象来看，当下人工智能技术全方位进入数字文化内容生产领域，为文化产品数字化、智能化提供了新的动力与方向，诞生出智能向导、虚拟主播、数字偶像等新消费形式与产品服务类型。

人工智能的介入主要可以分为协同模式和独立模式。协同模式指人工智能作为一种工具与人类一同参与到数字文化内容生产过程，以其强大的能力提高文化产品的生产效率，如影视行业的场景合成、新闻行业的AI 智能编写、视频平台的智能剪辑等。而独立模式则指人工智能通过算法和程序独立生成艺术作品，甚至在部分领域成为数字文化内容产品的创作主体。例如，微软公司制造的人工智能“小冰”出版了第一本真正意义上的人工智能原创诗集《阳光失了玻璃窗》，虚拟人“VIVI 子涵”学习创作水墨画，以及牛津大学与利兹大学的科学家联合画廊老板艾丹.梅勒共同开发了首位机器人画家Ai-Da。在人工智能深度介入精神文化产品生产领域的当下，我们也需要对此进行持续性反思。当其作为生产工具时，如何确保其传播主流价值观、如何监督企业利用AI 技术进行优质内容生产而非单纯为了牟利已成为社会难题。当其作为文化产品生产主体时，人类的艺术创作主体身份也不断遭到各界质疑。虽然在弱人工智能时代下，人工智能本身仍不具有创造力，其创作主要来自创作者的编程以及对人类以往艺术成果的参照与学习，但我们仍需把控人工智能介入艺术创作的广度与深度，重视创意主体“人”的参与度与原创水平的提升。

从数字内容消费的主体来看。数字内容消费的升级使得消费者身份“虚拟化”成为可能。正如“元宇宙”，虚拟身份作为元宇宙的核心要素之一，使用户可以借用互联网中的“虚拟形象”与他人进行交互，而虚拟身份的隐匿性、匿名性以及目前仍然存在于网络空间中的“伦理监督漏洞”将会使用户在虚拟空间中的行动较少受到现实社会关系和规范伦理的制约，从而放大人性中的“恶”，最终对真实世界产生负面影响。近年来，网络的匿名环境成为滋生网络暴力的温床，因虚拟身份滥用话语权、侵害他人隐私而造成的网络暴力事件不在少数，为网络空间规则和伦理治理带来了不小的挑战。

三、数字文化产业的科技伦理治理路径

（一）为科技伦理治理提供制度保障

在数字内容消费治理领域，政府是唯一有能力承担潜在伦理风险与法律责任的主体。作为整个治理体系的主要掌控者，政府要充分利用实时知识源网络、大数据和人工智能进行治理信息的收集、整理和数据挖掘，并在此基础上形成相应的政策规则，既对潜在的安全风险与隐患进行动态监测与精准治理，又要聚焦优质艺术内容生产，为数字内容消费的良性发展提供政策基石。①参见解学芳：《人工智能时代的文化创意产业智能化创新：范式与边界》，《同济大学学报（社会科学版）》2019年第1期。

宏观上看，《意见》的发布完善了科技伦理治理的顶层设计，为我国科技伦理治理制定了基本的伦理原则及治理方向。在数字文化产业微观层面，也需要尽快针对其中所隐含的科技伦理问题，设计相关政策及规章制度，凝聚数字文化产业科技伦理建设共识。针对大数据、人工智能等技术中存在的隐私泄露、大数据泄露、人工智能智力成果知识产权以及人工智能介入艺术创作边界等方面的问题，完善相关法律规章制度，如个人信息保护、人工智能伦理法规等等，明确科技伦理治理的底线。正如2020年我国文化和旅游部印发的《在线旅游经营服务管理暂行规定》、2021年国家互联网信息办公室审议通过的《互联网信息服务算法推荐管理规定》等，均对大数据及算法技术的利用提出了相应的治理原则与约束条件。

同时，政府也要继续完善对数字文化产业科技伦理问题的监督框架，明晰科技伦理审查和监管职责，并通过伦理审查、行业监督、设置“黑名单”等方式，督促数字文化产业中的科技活动以及科技使用受到合理的制度约束，并就相关监管部门以及治理领域制定切实可行的监督及应对措施。

（二）发挥数字文化产业的自律作用

数字文化产业中的科技伦理治理不仅需要来自外部的约束，还需要行业发挥自律能力，引导科技向善。

其一，为科技注入伦理准则。科技的发展需要伦理的匡正，《意见》已明确提出了“增进人类福祉、尊重生命权利、坚持公平公正、合理控制风险、保持公开透明”五大科技伦理原则。数字文化产业从业者需自觉遵守科技伦理原则，将其融入科技活动和应用过程中，并通过风险自测与评估等提升产品安全度，同时尊重用户意愿，通过加强数据保护、善用数据等方式保护其隐私安全等，提高其对科技的信任。

其二，加快形成行业共识，发挥数字文化产业对科技产品的算法程序以及运行机制的专业知识，建设或及时更新行业中科技伦理自律组织，通过制定行业公约、进行业内审查以及宣传最佳实践案例等方式促进行业自律，明晰数字文化产业中技术的应用边界和伦理责任主体，以减少潜在的伦理风险。

其三，规范技术进入艺术领域的深度和广度。在数字内容产品的生产与消费过程中，数字文化企业需要利用科技进行数据的收集与处理、信息的识别，甚至参与艺术内容的生产与传播过程，但同时也需要实时监测自身数据利用情况，遵从已有的科技治理原则与社会道德伦理规范。通过培养技术与素养兼备的综合性人才，发挥技术的最大利用价值，既能生产出符合社会主流价值观的优质数字文化内容产品，又能扩宽产品的传播和分发渠道，从而提高自身内容产品生产与传播的效率与水平。

（三）强调科技伦理教育与研究

网络空间作为一个开放、自由的空间，相较于技术本身的不可控性以及网络治理等法律法规的外在控制力，科技伦理的治理归根结底离不开科技伦理的广泛教育与普及。

首先，加强对于科技伦理在大众范围内的客观宣传。鼓励数字文化行业组织、从业人员与社会公众以及新闻媒体搭建沟通的桥梁，加强对科技伦理原则的科普工作和正确的价值引导，正确、客观地传播科技伦理知识，报道科技伦理问题及伦理常识，缩减社会大众对于科技伦理问题的知识盲区以及知识误区，提升大众的媒介素养及消费数字内容产品过程中的信息控制能力、安全防范意识。

其次，支持将科技伦理问题引入高校。展开高校对于科技伦理问题的研究和教育，针对数字文化产业中新技术、新业态、新趋势等展开跨学科研究与探讨。同时，鼓励高校根据自身基础与特点开设科技伦理课程，为数字文化产业培育科技伦理领域的专业人才队伍。

最后，加强对数字文化产业从业人员的科技伦理培训。各大企业可以联合高校、研究院、学术研讨会等对从业人员进行专业培训，将科技伦理原则纳入企业培训规章以及日常培训过程，使科技伦理知识成为数字内容行业专业人员的基础性知识，进而引导全民正视科技问题，引导科技向善。

结语

科技与文化的融合以及文化产业的数字化转型已是不可避免的趋势，数字技术不断激发文化产业的创新活力，丰富文化消费的内容与形式，成为我国文化强国建设的重要推动力。然而，我们也需要客观看待趋势中隐含的算法、数据、人文等种种问题，遵循科技伦理原则与法律法规，坚守科技对文化以及人们日常生活介入的底线，从而激发科技的“向善”潜力，如此才能使科技真正为文化产业赋能，推动数字文化产业的可持续性发展。