大数据背景下伦理失范现象的用户体验设计

□宋清阅

（宋清阅/重庆大学）

本文以大数据伦理失范为现象挖掘的起点，着重对隐私失范、异化失范、信任危机进行分析，进而阐述大数据伦理失范对用户体验产生的影响，寻找用户体验过程中的伦理影响要素，并提出基于信息伦理学的策略框架，最终形成基于伦理策略的用户体验设计。

一、大数据时代的伦理失范现象

随着互联网技术、云计算、人工智能的日益发展，人类社会已经进入大数据时代。大数据是一种基于云计算等新处理模式快速捕捉、处理和分析的规模巨大、种类繁多和更替迅速的信息资源集合。大数据时代的伦理失范现象可以归纳为数据权利、人的异化、信息隐私、信息污染、信息安全、信息欺诈这六大类。本文着重分析的是隐私失范、异化失范、信任危机。隐私失范是指用户隐私数据泄露问题，大数据的应用导致隐私权受到前所未有的挑战。异化失范是指人的主体性丧失和信息焦虑，被动地受制于数据的决策，沉溺于信息海洋，最终被信息的碎片塑造。信任危机是指用户对有关商业伦理的不信任感和背叛感，往往源于数据商业化利用中的一些不道德行为。信任在商业伦理中的界定是一方对公平行为的期待和另一方对权益的接受，双方失衡则产生了信任危机。这三种伦理失范现象会给用户体验带来负面影响，给社会道德带来强烈冲击，给大数据技术带来巨大考验。

二、伦理失范对用户体验的影响

在设计实践中，隐私失范现象具体表现为用户个人数字化信息泄露、个人信息被当成商品交换和买卖、隐私保护弱承诺、用户画像特征化等，例如，莲花公司的软件产品Marketplace:Household 自1990 年4 月公布以来，就遭到了公众的强烈抗议，他们声称莲花公司的所作所为是对公众生活的一种不负责任的侵犯，侵犯了公众的隐私权。这种CDROM 数据库由两个部分组成，Household 部分包括8000 万个家庭成员的姓名、地址、性别、年龄、婚姻状况、购物习惯和收入水平。该产品还有50个心理图案类别，这些类别从“积蓄财富”到“内城区角落”不等。Business 部分则是提供了700 万家美国商社营销信息，销售的对象是对象化直邮的中小型商社，其购买之后就可以无限次地使用这些用户的信息。该产品没有对用户隐私保护做出强承诺，只是给了用户一次从名单上把自己取消的机会，却不能保证传播中的用户个人数字化信息不泄露，并且在用户不知情的情况下生成了个人用户画像进行售卖。

异化失范现象具体表现为用户路径依赖效应、信息壁垒、信息焦虑、数据独裁、数字身份等。例如，在网页个性化推送过程中，用户并不具有决策权，数据决策了你的信息环境，不能人为地停止某项内容的持续推送，也不能阻止大数据对个人信息的窥探与利用。导致异化的根源就是笼罩于晚近现代性的知识权利结构对人的权利的宰制。长此以往，人就形成了信息壁垒，接受不到壁垒之外的信息，随之产生的还会有信息焦虑和过度依赖数字身份，最终被数据塑造，形成人的异化。

信任危机现象具体表现在用户非知情前提下的“价格歧视”、大数据“杀熟”、算法歧视、算法偏见、数据边界扩张、数据权益模糊、数据信息污染、数据准确性质疑、商业伦理公信力缺失。例如，在购买服务或产品的过程中，购买的价格会随着用户的需求急迫程度、经济能力、购物偏好等进行相关分析，对用户制定不同的价格机制。用户本来出于商业信任建立的运作基础会因为感受到由于信息不对等，且反向利用用户赚取超额利润的不道德行为，对服务和产品丧失信任，批判其商业伦理。用户在使用数据的过程中，也会出现因为某一数据不准确导致信息污染和孤立的现象。

用户体验是指用户在使用或预计要使用某产品、系统或服务时产生的主观感受和反应。现今的用户体验设计倡导从生产者利益和设计者角度转向更直接地针对用户价值的实现。大数据伦理失范现象违背了以用户为中心的用户体验的设计理念，过于注重以数据为中心的设计理念，在伦理学中可以解释为人本主义和数本主义之争。大数据失范现象使用户在使用前就开始担忧自己的隐私信息会不会被采集售卖给不负责任的第三方，从而导致个人损失。国内网站中只有少数网站有关于隐私权保护的承诺，但其承诺也是一种弱承诺，不能完全承担责任。用户在使用过程中会忧虑数据决策是否大于个人决策，对其产生依赖，无法阻止被技术异化。用户在使用后会因为信息不对等处于弱势地位，不能保证公平公正地交易。

大数据伦理失范现象会影响用户使用前、使用中、使用后产生的情感、信仰、喜好、认知、印象、生理和心理反应等，最终造成用户体验感逐步下降。由此可见，伦理因素对用户体验的影响如此之大。

三、信息伦理学的策略框架

信息伦理学的定义有广义和狭义之分。狭义的信息伦理学是指信息技术伦理学，广义的信息伦理学是指探讨与信息相关的所有方面的伦理问题，而不局限于信息技术范畴。这是一门具有广泛发展空间的新兴交叉学科，信息伦理学是由信息学、计算机科学、哲学、社会学、传播学、传统伦理学等学科相互交叉、融合，在信息技术和信息社会的土壤中产生的。其研究内容包括在信息生产、信息传播、信息处理和信息利用等过程中出现的各种伦理问题。选用这个学科内容作为本文的理论来源有四点原因：一是学科性质属于应用伦理学科，能解决实际问题；二是研究范围相对于计算机伦理学和网络伦理学来说，广度最大，涵盖了前两者的研究范围；三是研究层次是多层次跨学科的，由解释层次、理论层次、应用层次构成；四是探讨问题表征了虚拟社会伦理和现实社会伦理。

信息伦理学中有三个适用于构建大数据背景下的用户体验伦理策略的方法论，分别是反思平衡法、信息伦理的四维构架、信息伦理的结构化分析框架。

罗尔斯反思平衡法是一种将深思熟虑的判断、普通的道德原则、相关的背景理论进行反复比照，不断调整以达到内在平衡的状态，成为检验公平正义学说的合理性标准。反思平衡法有五个应用程序：（1）收集个体初级判断；（2）形成可信度高的深思熟虑的判断合集；（3）提出遵循的道德原则；（4）合理权衡强原则和弱原则；（5）反思修正达到平衡。反思平衡法五个程序代表着建构策略和辩护道德的全过程，将构建出的用户体验伦理策略作为暂时的逻辑起点，在设计实践中发现问题以校准和修正逻辑起点，考查策略之间和理论实践之间的融贯程度，最终形成整体融贯，证明用户体验伦理策略的可行性和有效性。

信息伦理的四维构架是指信息伦理问题都由要素维、领域维、层次维、利害关系人维所限定和制约，不同的信息伦理问题对应四维架构中的不同坐标位置。其中，要素维包含信息道德活动、信息道德意识、信息道德规范三大基本要素。领域维包含信息生产、信息组织、信息传播、信息利用四大部分。层次维包含个人、组织、国家三个层次。利害关系人维包含信息提供者、信息加工者、信息利用者、其他受信息利用者影响的利害关系人。在用户体验中，设计者除了要分析大数据伦理失范问题对应的四维构架中的坐标，还应添加感知维和交互维。感知维是指用户受到的由于失范问题引发的体验感知，由理性感知和感性感知构成。交互维是指在用户体验设计过程中的战略层、范围层、结构层、框架层、表现层五大交互逻辑。这六个维度互相平衡融贯，最终形成用户体验伦理策略的六维构架，从而达成由去蔽到理论，再到应用的解决大数据伦理失范现象的递进关系。

信息伦理的结构化分析框架以设问的方式提出了解决伦理问题的一般性步骤，分别是：（1）是什么道德问题？（2）你的道德直觉是怎样考虑的？是否正当？（3）道德问题是否关系到规范性原则？（4）伦理学理论考查，将问题纳入理论策略分析。（5）规范性原则和伦理学理论是否指向一种行为准则？（6）你的结论是什么？这种行为准则是什么？（7）所建立的结论策略和行为准则如何确立？

综上所述，用户体验伦理策略的四大原则可概括为：（1）以补充和提升用户体验伦理方面为核心宗旨。（2）符合用户体验伦理策略六维构架的内在关系，促使六个维度伦理达到平衡状态。（3）能够回答解决伦理问题结构化分析框架的七个设问。（4）用户体验伦理策略只作为暂时的逻辑起点，可以根据反思平衡法不断地进行融贯和修正。图1 则具体表示了大数据背景下伦理失范现象的用户体验伦理策略的设计流程。

图1 用户体验伦理策略的设计流程图（作者自绘）

就流程本身而言，它是一个从“策略”到“实践”不断映射往复的过程，X 轴显示了从“思维突破”转为“理念指导”的连续性，Y 轴显示了从“发现现实存在的现象”到“找寻信息伦理学方法”的连续性。通过用户体验伦理策略，我们可以得到一系列相对应的用户体验伦理策略，实践验证该策略的可行性再进行补充修正。

四、基于伦理策略的用户体验设计

数据伦理过滤设计分为三个阶段。一是收集数据阶段，预先过滤那些带有明显伦理问题的数据来源，在数据采集之初就加入人本主义价值观的引导，界定伦理失范的行为。分层分级地进行数据过滤后，数据的层级和系统会形成分级标准和分级服务，一些数据会被标记伦理失范倾向的标签。二是利用数据阶段，界定利用数据的合理范畴，限制第三方对信息的利用，提供证明具有对该信息利用的合理业务需求。三是数据管理阶段，应慎重地权衡，如果对某一信息以某种方式加以公开、传播、重组会给相关利益群体带来什么样的危害。数据伦理过滤设计是关于数据三阶段的连贯性思考，尊重了信息权利伦理规范。

隐私信息通知设计有两个方面的改变。一方面是平台改变。隐私强承诺的签署可了解谁将利用这些隐私数据并如何使用，平台或组织有责任明确用户隐私信息的具体去向，并进行持续性的追踪通知，获得该用户的许可。另一方面是用户改变。当事人在特殊情况下可阻拦大数据技术对个人行为的窥探，可人为选择某项内容的持续性推送，减少依赖程度，防止异化失范的发生。隐私信息通知设计能够改善用户画像特征化，能使用户指定自己接收的信息和数量，改善决策环境，使人的决策和数据决策相结合。

反馈循环机制设计蕴含两种机制的流程。第一个是反馈机制的流程，设计者需要积极主动地和用户沟通关于大数据伦理失范的设计问题，设立专门的伦理委员会和反馈问题的渠道，让相关人员对用户提出的伦理担忧和焦虑设计进行回答和解决。在用户反馈某一数据错误后，系统迅速更正错误，避免因数据错误导致整体信息污染。工作人员要定期发放用户体验问卷，了解产品或系统的伦理方面的设计需要改进之处，对用户体验中的不合理之处一一修正，最终反馈到用户体验伦理策略层面。第二个是循环机制的流程，产品或系统进行用户体验伦理方面的迭代，弥补设计策略中的不足之处，循环往复，最终达到实践和理论之间良好的平衡融贯状态。反馈循环机制设计为用户体验伦理方面的不断优化提供了新途径，也提供了一种在反思平衡中修正策略的新路径。

提高信任的交互设计分为两个角度。一是从商业伦理的角度提升信任，通过人与人之间的信任来增加人与商业组织之间的信任。在消费时，交互设计系统可以通过对比差价、历史成交价、已购买用户等举措提高信息开放的程度，促进用户和商业组织之间建立信息对等关系。二是从信息审查的角度提升信任度，交互设计系统定期地对数据进行监测和更新，实施数据错误来源的支持和恢复机制，提升数据准确度，最大限度地减少安全风险。用户对商业组织的逐步信任会增加用户黏性，不道德行为则会让用户与组织之间的信任崩塌。

本文通过对大数据伦理失范现象中的隐私失范、异化失范、信任危机进行伦理学分析和设计学分析，进而发现伦理因素给用户体验带来的巨大影响，确定信息伦理学中的方法论基础并与用户体验相结合，提出了用户体验伦理策略框架，为解决大数据伦理失范现象提供了新方法。