价值敏感设计与大数据伦理

2019-12-14 12:54:42张贵红

伦理学研究 2019年2期

张贵红

价值敏感设计（Value Sensitive Design，简称“VSD”）是一种以价值理论为基础的技术设计方法，它强调在整个设计过程中以价值为原则，并全面地解释人的价值在技术中的展现。它采用一种综合且递进的三元分析方法，包括概念分析、经验分析和技术分析。VSD的出现是应用伦理学的设计转向、信息伦理学以及大数据伦理等领域飞速发展的结果。本文首先梳理信息伦理学怎样从理论走向实践，即所谓的设计转向，再依据技术哲学的研究，分析价值敏感设计的兴起背景及其三个层面的内容，随后探讨VSD理论在大数据伦理中的应用，进而指出VSD理论在大数据技术与相关领域，具有很高的应用性。

一、从理论走向实践的技术伦理学

应用伦理学，尤其是技术伦理学，在信息伦理学的推动下，正在逐渐超越传统伦理学中寻求普适理论的方法论辩护。在关注规范伦理理论、推理及其应用之后，一些学者正逐渐将研究重点放在与伦理的应用相关的制度、基础设施和技术设计上，因为它们是我们的生活和社会的构成因素。

到目前为止，技术、工程和设计在伦理学或道德哲学中往往被视为是纯理论的或思想实验的提供者，哲学家们更关注伦理推理与理论中的反例，而忽视了具体的技术与经验层面的分析。传统的技术伦理学所关注的道德哲学也经常充满科幻情节，如失控的列车、缸中之脑、安卓机器人和脑外科手术等，这些都会使理论研究和生活现实之间不相契合。让我们详细地看一下在元伦理和规范理论中经常使用的一个思想实验——电车难题。假设你在一条铁路轨道的分叉路口，同时你发现一辆失控的列车正在向前滑行，马上将通过你站立的交叉口，你旁边刚好有一个可以操控的把手。如果你什么也不做，那么列车将直行，并会撞死被绑在轨道上的五个人。如果你拉动把手，列车将转向另一条轨道，而在另一条轨道上只有一个人被绑在轨道上。这个思想实验就产生了一个非常具有争议的悖论：道德观念是否允许你拉杠杆？许多哲学家对这一难题进行了伦理分析与各种推理，然而却没有得出一个让大家都满意的结论。

然而，让我们换一个角度，如果一位工程师在看到这个问题之后，他将会如何进行思考呢？他很可能会想，要想使这个实验在现实中出现，那就还需要一个能让人在列车到达轨道交叉口刚好停下来的条件，同时还需要让这个人能够认识到当前轨道与列车的所有状况，以及能够告诉这个人关于轨道上被绑着的人的信息，最好是两者能巧妙结合。他很可能会说，这么特殊的情况很难出现，所以整个难题是很难出现的。各种干预因素会让我们忽视这个思想实验的哲学观点，然后会认为哲学家只有在理想状态中才是对的，在现实中基本不会出现这样的难题。

电车难题虽然提出了道德理论方面深层次的问题，却忽视了实践层面的问题，然而伦理学并不是以思想实验为基础才发展起来的。这些思想实验并没有关注实验的设计和难题的现实性，它们是从现实中的设计和难题中抽象出来的，所以由思想实验为基础产生的理论在应用到现实生活中就会忽视实践的维度，现实中的技术伦理学应该包含解决方案的实践和设计的层面。

医学伦理学和传统计算机伦理学中的难题和实验也受到类似问题的困扰。专业医疗技术或信息技术常常会面临如下的难题：提供两个选项A和B，然后让你思考和推理，在理想状态下应该做什么？这些理论一开始就在折腾我们的大脑，经过伦理学训练的学者，会尝试使用实用主义或者功利主义的方法，并逐渐形成他们自己独特的解决方案。然而在实际的技术应用中，理想状态是一种很难出现的状态，更多的情况是我们直接面对具体的技术伦理问题，这些问题都是非常现实的。因此当前往往被忽视和混淆的情况，就是将现实和理想状态相等同。在信息技术中，情况尤其明显，信息技术尤其是大数据技术的兴起，使得伦理学越来越从纯理论推理转向实际问题，而不是只关注纯理论层面的探索。信息技术中的情况通常是“计算机支持的协同设计”，这种情况比单独软件或硬件更加复杂得多，专业人员面临的问题是数百个需要经过设计来决定的结果。对每一个设计过程相关的抽象概念进行的道德分析都会受到其伦理学理论背景的影响。技术伦理学家应该不断探索怎样超越特定的技术状态，并询问这种问题是如何产生的，以及它是如何设计和处理的，以及形成设计的决策过程是怎样的。

二、信息伦理学的设计转向

信息伦理学在实践的推动下，正逐渐转向对实际道德问题的分析，而不再对纯理论层面的思想实验着迷，例如许多学者也逐渐转向对道德的制度层面的研究。现在比以往更常见的中心问题是，如果我们希望我们的应用伦理分析的结果在具体实施中取得成功，那么需要实现哪些体制和现实的物质条件。以及如何使我们的道德观点在广泛的反思中保持稳定？在信息技术中，如何设计系统、构件、基础设施和应用程序，在这些环境中用户将能够做他们应该做的事情，并使他们能够防止应该防止的事情。

这种显著的理论转变可被称为“应用伦理的设计转向（design turn）”。Hoven认为，正是罗尔斯的工作首次引发了伦理学中的设计问题[11]（P58）。关于社会正义的思考可以在他的理论背景下，被描述为制定和证明我们应该如何设计社会基本制度的正义原则。 Thomas Pogge、RussellHardin、Cass Sunstein、Robert Goodin、和 Dennis Thompson 等学者已经将应用伦理学向着“设计”这条道路逐渐推进[11]（P59）。他们不仅要提供应用分析，还要考虑经济条件、制度和法律框架以及相关的激励机制。如果这种应用伦理分析能够在实施中保持一定的优势，就会有助于重新考虑现实世界中的道德问题。这些学者对技术设计的关注主要侧重于制度设计，但设计转向清晰地考虑了技术人工物和社会技术系统的设计。如果说20世纪70年代之前的技术，与设计的关联并非十分明显的话，那么随着信息技术的兴起，尤其是大数据技术的出现，设计已经与信息技术紧密结合起来了，与之相关的伦理问题也脱离不开设计。这种现象的出现，可以称之为“信息伦理的设计转向”。

信息技术，尤其是大数据技术之所以与设计无法脱离。原因在于，信息或者数据本身，是被赋予“意义”或者“价值”的，而这种赋予行为是因为人的设计而产生的。如果没有人，信息或者数据就是符号，毫无意义，人的行为是产生意义的关键，人的行为也正是信息或者数据的价值产生的根源。弗洛里迪（L.Floridi）在信息的标准定义（SDI）中指出，信息的基本特性为DOS（可陈述的、客观地、语义的）。最初的信息并未与主体和决策过程相联系，后期的信息论发展中逐渐用语境的观点来解读信息，并将信息定义为：信息=数据+意义。弗洛里迪据此提出信息的语义解释，即语义信息（semantic information），将意义和真理引入信息的解释[21]（P130）。有意义的信息，是从语境或者人的使用的角度来看的，而这个维度正因此与价值相关，可见语义信息也就是价值信息。用信息伦理的话语来讲，就是信息或数据的价值是在设计中体现出来的。

从信息技术本身的历史也可以看出，价值维度正逐渐渗透到信息技术中来，信息技术也越来越需要其他学科、技术组织、人力资源和社会价值的关注。在信息技术发展的第一阶段，即上世纪五十年代和六十年代，社会和用户在IT应用和生产中并不重要，技术人员也不会考虑技术是否需要贴合人的价值和使用要求。几乎没有人想过要询问用户的使用和可用性，以及是否适合用户的环境，计算机技术只是在寻找问题的全新的技术方案。在上世纪七十年代和八十年代的第二个发展阶段，经历了许多失败的项目、无用的应用程序和不良投资后，信息产业逐渐意识到具有需求与愿望的人类用户的重要性，以及具有不同特性的社会组织。当时很多人都认识到，在应用程序开发的早期阶段，尝试适应用户的需求和改善工作条件是明智且有利的。信息技术行业在这个时期得到了社会学和行为科学的帮助，但是，这也只是在最低限度层面考虑到用户、组织及社会的需求和利益，即仅仅作为限制技术系统成功的条件来考虑。在上世纪九十年代的第三阶段，设计的观念逐渐在信息技术行业中崭露头角，实际的社会组织和真实用户的反应与需求，对信息技术的发展开始变得至关重要。人类作为消费者或用户所具有的价值观、道德偏好和理想，以及社会上许多关于责任和道德的公共辩论，关于平等、财产和隐私的问题都开始被加以考虑。当前正进入信息技术发展的第四阶段，在这个阶段，人类用户在使用中的需求、想法和价值观以及人们遇到的某些社会问题的解决都被认为是自己的权利[11]（P60）。这些价值考虑正在推动信息技术的发展，而不再被视为是对技术的限制。这个阶段最大的特征，就是大数据技术正在成为信息技术的核心技术之一，大数据技术也正逐渐成为道德问题与价值问题的多发地，且与我们的生活息息相关。最集中的体现在当前充斥我们世界的网络游戏、短视频APP，以及社交网络。现在我们正发现计算机越来越懂我们，儿童也越来越离不开手机娱乐。甚至我们也可以认为，大数据算法的兴起，正在影响着社会的价值观走向。例如许多网红都是大数据技术的算法设计本身所推动产生的，许多网络热点，也是因为算法而产生的，并非人为加工而成的，而网络热点与网红也正成为社会价值观问题的集中体现。这些信息技术的新发展，正是大数据技术中的价值的设计作用所展示出来的，设计发展到极致就是：通过大数据技术就可以塑造全民价值观。这种状况的出现，与信息敏感设计的理论是一致的，可见VSD理论正体现出当前的大数据技术所具有的伦理与价值维度。

三、VSD何以成为大数据技术的基石

由上文可知，随着应用伦理学和信息技术这两个独立领域的发展，即伦理学层面的“理论—应用—设计”和信息技术层面的“技术—社会心理背景—道德价值”的进展，两方面的研究逐渐集中于90年代开始兴起的价值敏感设计理论或策略。VSD的首次提出与信息和通信技术有关，信息技术依然是该理论的主要应用领域。

Rob Kling（1998）的社会信息学在推动与信息技术相关的社会研究方面发挥了重要作用，并不断强调信息技术的社会形态。在伦斯勒理工学院，温纳提出了著名的口号：“人工物具有政治性”，这意味着通过技术人工物的设计可以达到政治目的。Deborah Johnson则进一步阐明了计算中的具体道德问题。所有这些都为信息技术领域的价值敏感设计理论作出了贡献。VSD假定价值观和规范性的假设可以以某种方式纳入到设计中，弗利德曼（B.Friedman）等人通过三个典型的例子来分析VSD在特点信息技术中的应用[7]（P70-75）。第一项研究涉及网络浏览器中cookies（从客户端的硬盘读取数据的一种技术）的信息和控制、及其所蕴含的知情同意的价值。第二项研究关注在办公室环境中普遍使用的高清晰液晶显示器，它为主体与外界之间提供了一个“窗口”，并暗示了公共空间的身心健康和隐私权利。第三项研究涉及综合土地使用、交通和环境模拟系统，以支持公众对重要的土地使用和交通决策进行公众审议、公平辩论和民主支持的价值，以及高度多样化且由不同利益相关者所持有的价值领域，如环境的可持续发展、商业扩张以及步行街开发等。弗利德曼等人提供了一个在实际操作中可使用的VSD建议。主要包括：从价值、技术或应用环境开始、识别直接和间接的利益相关者、确定每个利益主体与组织的利害关系、对利益和危害赋予对应的价值、对关键价值进行概念分析、识别潜在的价值冲突、将价值考虑融入到组织结构中、将价值观引入到系统设计中、启发性地去调查利益相关者，以及启发性地进行技术分析等。弗利德曼等人在研究中还展示了可在设计中使用的一些人类价值[7]（P90-91）。

几个重要的VSD支持者进行了相关的研究，例如斯坦福大学的Terry Winograd、John Perry、Ben Shneiderman和Helen Nissenbaum在20世纪90年代就开始研究这个领域，他们的研究表明信息与软件本身就可能产生偏见、假设以及制造商的特定世界观，这可能会以各种方式影响到用户的观念。其次，大约在同一时期的部分法律学者发现，社会监管正在通过计算机代码和软件进行。正如Larry Lessig曾指出的，代码开始起作用，因为法律和立法在未来可能会自由地直接被编码（en-coded）。在荷兰和加拿大的数据保护办公室（Data Protection Offices），正在提倡一种被称为隐私增强技术（Privacy Enhancing Technology）的设计理念，鉴于法律和法规数量以及海量大数据的增加，在我们的社会中处理大数据会变得越来越自动化，这可能是当前处理隐私与合规性等问题的唯一方式，因为律师不可能手工检查某些数据使用是否违反或合乎法律。从长远来看，软件必须代替我们处理这一问题，而这种技术的应用也不仅仅只在隐私领域。

由此可见，大数据技术的进展，使得VSD理论越来越重要，同样大数据技术在社会生活领域的应用，需要VSD理论为其提供理论支撑，因为大数据本身具有难以处理与复杂等特性，不可能进行人工处理，这就必然需要利用大数据技术进行价值选择或价值塑造，正如当前已经开始使用的海量新闻信息处理、社会舆论引导和网红塑造等技术。在算法的设计中，必然会将价值与道德体现在技术中，而且应该体现正确的价值观，否则后果将不堪设想。在大数据治理、医疗大数据应用、网络生活，以及社会交往软件中，也需要使用VSD方法来进行价值考量。可以说，想要让用户自主、以患者为中心、隐私和安全不仅仅是一个空洞的承诺，这些价值理念就应该体现在系统的设计、架构和规范中。如果我们希望我们的信息技术及其使用能够实现社会正义、公平和安全，或者要想使技术产品具有这些价值属性，我们必须将它设计地能够实现我们的良好意图。VSD理论说明技术能够具有这些价值或道德特征，并能从价值层面来对不同的技术应用进行比较，并从政治经济与社会的层面进行合理选择。由此可见，VSD理论正伴随着信息技术的进步而发展，VSD理论正在成为对大数据技术进行道德与价值考量的基础。然而，如何将价值和道德维度设计到大数据技术之中，需要从三个层次来考虑。

四、VSD理论与大数据伦理学的三个层级

如何让大数据技术体现价值和伦理维度，应该从价值敏感设计与大数据技术伦理本身的联系与对比中来加以分析。价值敏感设计主要建立在概念、经验和技术相结合的迭代分析方法基础之上。大数据伦理学则主要关注三个相关的层面：大数据伦理的概念、实践和算法。

概念分析主要关注诸如此类的问题：谁是受设计影响的直接和间接的利益相关者？这两类利益相关者如何受到影响？涉及什么价值？我们应该如何在信息系统的设计、实施和使用中，在互相竞争的价值之间权衡自主、安全、隐私与信任等内容？像隐私权这样的道德价值是否比审美这样的非道德价值更重要？通过仔细研究具体价值观的概念可以澄清类似的这些基本问题，并为跨学科的研究团队的不同观点进行比较提供基础。例如，Friedman等人在对在线系统设计中的信任分析后，提出信息技术中的信任概念[9]（P36）。从这样的概念出发，能够明确地定义我们在网上的信任意味着什么。此外，计算机科学与电信委员会在其出版物《网络空间的信任》中使用“信任”和“可信赖”这两个术语来描述信息系统，这些系统具有正确性、安全性和可靠性[18]。这种将“信任”等同于机器性能的使用，明显不同于表示人与人之间关系的信任。

经验分析即对技术人工物所处的人类环境进行实践分析，这种分析也常常需要评估一个特定设计的成功与失败。经验分析可以应用于任何可以观察、测量或记录的人类活动。因此，社会科学研究中使用的全部定量和定性方法都可以适用于此，包括观察、访谈、调查、实验操作和收集，以及用户行为分析和心理学调研。经验分析主要关注如下问题：利益相关者如何在互动环境中理解个人价值？他们如何对相竞争的价值设计进行权衡考虑？他们如何优先考虑个人价值及其可实现性方面的因素？话语实践与行为实践相比，既怎么说与怎么做，两者之间是否存在差异？此外，由于新技术的发展会影响群体和个人，技术组织在考虑价值的设计过程中也会出现问题，例如，什么是价值组织？应该使用何种传播方法，以及组织的激励机制是什么？

技术分析为当VSD适用于某种特定技术时，根据技术特性提供价值适应性的分析，也就是说，分析给定的技术是否更容易支持某些道德价值，同时使其他价值难以实现。技术分析侧重于分析现有技术特性如何支持或阻碍特定的人类价值。例如，一些基于视频的协同系统提供了办公室设置的模糊视图，而其他系统则提供清晰的图像，显示关于谁在场以及他们的行为的详细信息，这两种设计可有差异地区分并对待隐私，并实现特定成员的价值取舍和活动。技术分析还涉及主动设计系统以支持概念分析中的特定价值。总之，技术分析关注技术本身，而经验分析则侧重对使用者的分析。

大数据技术为改善私人和公共生活以及我们的社会环境，提供了巨大的机会，不幸的是，这样的机会也伴随着重大的道德挑战。越来越多的通常是个人的敏感或非敏感的大数据被公开地大量使用，而且越来越依赖算法来分析它们以形成选择并作出决定，例如机器学习、人工智能和机器人技术等。随着人类参与的逐步减少，对许多自动过程的监督也会引起公平、责任和尊重等道德问题，这些技术过程越来越体现出VSD策略的必要性。弗洛里迪在《何为数据伦理》一文中提出可从数据、算法和实践三个维度分析数据伦理问题。大数据技术的价值敏感设计同样也适用这种分析，因此可以结合前文中的三个层面来分析：概念分析层面的数据伦理概念分析，经验分析层面的实践分析，以及技术分析层面的算法伦理分析。

数据伦理侧重于收集和分析从生物医学研究到社会科学的大数据分析[14]，以及开放数据[12]。在这种情况下，关键问题将是设计如何适用于大数据技术的数据挖掘、数据链接、数据合并及其重新使用，来避免“群体隐私”泄露的风险，例如通过重新识别个人而不造成其身份信息的泄露，这就可以避免更严重的伦理问题的出现，避免类似群体歧视和网络群体暴力等问题。而群体歧视在网络上非常容易出现，包括地域歧视、种族歧视和性别歧视等[4]。信任[19]和透明度[20]等概念也是数据伦理分析中的重要话题。例如，提高信息透明度往往被认为是可以促进信任的措施之一，然而数据工程师却不清楚应该透露哪些信息以及向谁透露这些信息。

实践伦理解决数据的流程、策略和制定政策的人员与组织的责任及义务问题，其中不仅包括数据从业人员的职业道德与责任，还包括数据科学家的数据责任。其目标是完成并公布《大数据道德准则》并形成有关负责任的创新、发展和使用的专业规范，这就会确保道德规范能促进数据科学的进步，并保护个人和群体权利等道德内容。在数据技术的实践问题中，有三个核心问题最为重要：即知情同意、用户隐私和二次使用。

算法伦理解决算法技术中遇到的伦理问题，由于信息技术的日益复杂和自主性的提升，大数据的算法越来越复杂，例如人工智能、仿真机器人与网络机器人等，引起越来越多的复杂伦理问题。特别是当前机器学习技术使得机器在某些方面越来越接近人，在这种情况下，关键的难题为算法设计师和数据科学家的道德责任与相应的问责制度[2]。此外，道德设计和评估审核算法的潜在不良结果也需要引起更多的关注。

五、结论