设计对人工智能产品的伦理规约探究

摘要：人工智能的设计伦理研究并非新事，不断发展的人工智能技术为人类带来便利的同时，伴随复杂环境而来的人机矛盾也逐渐显现，反复探究人工智能产品可能埋下的隐患以及如何实现设计阶段的伦理反思是帮助人工智能走向“良善”的应有之举。因此，文章探究设计对人工智能产品的伦理规约，设计行业之善想要最终形成历史进程之善，需要多学科、全行业和政策的共同支持，人机关系和谐背后是人际关系的处理以及人性与资本、科技的博弈，梳理与分析这些问题，是伦理介入人工智能设计环节的前提，它将帮助设计引导人工智能实现“良善”的未来。

关键词：设计之善;人工智能;设计伦理;奇点;人机关系

中图分类号：B82-057 文献标识码：A 文章编号：1004-9436（2022）08-00-03

从1956年达特茅斯会议提出AI（Artificial Intelligence）概念，到1968年菲利普·K.迪克的小说《仿生人会梦见电子羊吗？》中“妄图成为人类”的“生命”进行的抗争，再到人工智能早已不再停留于理论层面的当下，具备智能的机器到底意味着什么，又该如何处理人机关系等，人们从未停止对这些问题的思考。过去只存在于小说、电影中的情形逐渐变为现实，人类需要面对的一系列伦理问题也随之而来。如果人类不能将伦理反思前置到设计阶段，只在问题发生后提出批评，那所做的一切也不过是亡羊补牢罢了。越早将人工智能的设计伦理问题纳入考量，就能越早地处理人机矛盾，从而避免人工智能技术引发严重的人机冲突，并从设计层面实现人工智能的“向善”发展[1]。

1 伦理规约何以由设计伊始

当人们意识到设计已渗透到人类生活的方方面面后，对设计的定义便不再局限于它是一种有限的人类活动。理查德·布坎南曾对设计有如下理解：“当代生活的每个角落都有设计，如规划、实施或作业假设等都是设计的表现，亦构成了目的性活动的目的本身，设计是形塑人类体验（塑造人类经验）的重要因素。”[2]在这里，设计被理解为一种人类特有的思维方式，它是站在更宏观的视角整体、系统地指引人类未来走向。在此意义上，将人工智能产品的应有面貌与未来建构视为一种设计，它有义务不断向自身与周遭发问，并在循环演进之中为人工智能产品明晰思路，提供伦理框架。

2 设计之善的四重维度

在探讨设计伦理如何介入人工智能设计环节之前，有必要理解应该从哪些维度诠释设计之善。设计的善是设计最基本的价值追求，与此相关的设计方法论分支是设计伦理学[3]。张黔先生在《设计方法论的构成谱系》中将设计之善归纳为四个维度，不同维度体现的是对设计之善理解上的层次差异，分别是设计服务对象、设计师的价值尺度、设计效应以及设计评价标准。其中，设计师的价值尺度、设计效应以及设计评价标准是对设计师本人的要求，设计师需要在消费者和生产者之间充当沟通、协调的角色，从双方不同的利益诉求中找到共同的价值尺度。另外，设计师必须充分权衡设计带来的近期效应与远期效应，并使自己的设计与社会的、长期的利益保持一致。

需要注意的是，设计作为动态的存在，其评价标准也处在变动之中，设计之善只是一个笼统的概念，时代变化带来的全新问题会影响设计之善具体的内容。敏锐知悉新的标准，才是实现设计持续的正面价值的关键。张黔先生的这篇文章用凝练概括的语言阐述了设计之善应该从何考量，但也折射出设计伦理本身实施可能遇到的巨大困难与矛盾，他写道：“设计之善，不是一时之善，不是一人或一企业、一行业之善，从根本上是整个人类、整个历史进程之善。”[3]设计师或设计行业，想要贯彻设计之善，往往意味着需要与资本、技术博弈。随着设计跨学科倾向愈发明显，如果设计之善的内核不能够在生产设计环节达成跨学科共识，促成历史进程之善则十分困难。在人工智能技术不断发展的今天，设计所要面对的早已不是简单的节能、环保、可持续发展等评价标准，随着复杂环境而来的是有关身体、控物能力、技术强权等一系列问题，如何解决这些问题，是设计对人工智能产品进行伦理规约的关键所在。

3 被虚构的身体与数字化联结

视频主播是真实存在的人还是繁复代码构成的虚像？虚拟数字人代言的口红，广告词“滋润不拔干”是否值得相信？中央美术学院2022年毕业季虚拟学生元徕的作品能算是“独立人格”进行的创作吗？人工智能技术似乎在不断挑战人们对于“真实”的认知，社会的非物质化进程因人工智能技术而得到了空前加速，它的速度之快、光景之炫目甚至令人们无暇思考——当人们的精神全然赋予虚拟数据，情感的另一端联结运转的光纤，真实世界的身体又该如何自处？

早在20世纪末，第亚尼就在《非物质社会：后工业世界的设计、文化与技术》一书中指出，与过去相比，非物质社会将发生的最根本的改变，即思想观念和思维方式的改变，“多数传统的‘两极对立，如物质与非物质的对立、精神與身体的对立、天与地的对立、主观主义与个人主义的对立等等，眼看着一个个消失了”[4]。对立的消失意味着“边界”将变为“边缘”，而“边缘”是对立双方融合、对话、拼贴、交融的场所。这也许就是为什么在人工智能时代人们依然对“身体”有所执着，尽管人们追求的是“身体”在数字化社会投射的“象”。“当现实与非现实、真实物品与它们的表象之间的界限在人们心目中变得越来越模糊时，当人们再也弄不清真实显现与替代性显现之间的等同时，人类还有没有能力来控制现实？”[4]第亚尼书中的提问仿佛一个清脆的耳光，在光怪陆离的数字世界，人们选择沉沦还是保持清醒，这是不得不思考的问题，也应该是设计提醒人们去思考的问题。不同于张黔先生为设计之善提出的四重维度，第亚尼书中收录的最后一篇文章《从尼安德特人到数字化的人》并未详细描述数字社会中的设计应该是何种样貌，但通过他提出的众多设计伦理问题，人们依然能够为当下人工智能产品应持有的“良善”勾勒出轮廓：将社会中最重要但又最脆弱的社会要素——人始终放在首位，这不是简单的“以人为本”，而应该是跨越设计学、人类学、社会学、哲学等众多学科进行学科交叉研究的成果。

4 奇点启示录

“智能并不是人之为人的全部，人还有一个智慧与意义的世界。”[5]精神世界似乎是人类与人工智能抗衡的最后阵地，可如果失去对现实之物的控制力量，人们对超人工智能来说不过是会思考的“猩猩”。不过，这场未来也许会发生的人机冲突，可能正来自人类控物能力与控己能力之间的失衡，对物的过分追求最终使人类失去对物的控制力。

何怀宏先生在《奇点临近：福音还是噩耗——人工智能可能带来的最大挑战》一文中从哲学角度将人工智能时代人类所要面临的问题极致化，当“奇点”到来时，超人工智能是否会让全人类成为“无用之人”？比人更聪明、更有控制物的力量的超级智能机器，怎么还会继续服帖地充当人类的仆人呢？何怀宏先生更多地持有将“奇点”的可能来临视作一种警讯的观点，并且指出想要从根本上避免人类被超人工智能取代，最根本的出路也许是放慢甚至停止对科技的发展、对人工智能的发展，减弱人类的控物能力。但他也指出，停止对人工智能的发展需要在根本上改变人性和人心，这是几乎不可能达到的，虽然难以达到，但这是人类尚能干预与妥协的领域。这意味着，想要在人工智能设计环节达成设计之善，在处理好人机关系之前，应预先处理好人与人之间的关系，这种关系不必苛求完美，而应追求一种和谐。

“灾难之所以最终没有发生，正是一些人担心和预警而使人们采取行动的结果。”[5]这也是为什么要在人工智能技术为人类带来好处与欢乐的当下敲响警钟，并尽早将设计之善纳入人工智能设计的考量之中。毕竟，“奇点”最终是福音还是噩耗，取决于人类何时反思、如何反思以及采取何种行动。

5 设计的抵抗姿态

上述三篇文献分别从设计之善的认识论基础、非物质社会可能面临的设计伦理问题以及人工智能伦理问题的哲学考量三个角度带来启示，但如何将设计之善贯彻设计的全过程，答案依然是模糊的。周志禹先生则在《人工智能系统及产品设计的伦理问题探究》一文中提出了详尽的设计伦理实施路径。他首先列举人工智能可能带来的包括贫富差距、数据垄断、算法操纵等十大问题，由此提出伦理介入人工智能设计环节的紧迫性，并指出人工智能热潮背后的驱动力——资本，它的增值有时是盲目而不计后果的，需要予以足够的警惕，这是站在更为宏观的视角提出的面向国家、社会的呼吁，需要政府适时出台相应约束资本的政策。而在个人或行业层面，特别是对设计师来说，既要积极掌握人工智能技术，让工具为自身所用，又要形成一种抵抗姿态，避免应用有设计缺陷的人工智能并防止人工智能形成自主的侵犯。

周志禹先生在文章最后一部分指出，负责任的设计一定要询问：设计的目的是什么？但也发现，设计师的主观能动性往往难以与大型的人工智能研发公司相抗衡，而将希望全然寄托于研发公司和科研人员的自觉显然是不负责任的。因人工智能引起的复杂问题，应邀请更多的学科参与讨论，共同营造一个以“人工智能理应良善”为常识的社会环境，消费者也应当积极提出对人工智能产品进行伦理规约的要求，从消费端推动研发公司进行设计规划上的配合。

与何怀宏先生的观点“人机关系背后事实上是人与人的关系”[5]一致，周志禹先生同样认为“在建立设计伦理的时候，警惕的是人：反人道主义科学家或不正当利用人工智能者。来自人工智能的威胁其实也是来自人类本身的威胁”[6]。因此，设计之善对人工智能产品进行的伦理规约，本质上克服的是人性之中的诸多缺陷，追求的是人机关系背后人际关系的和谐，而设计扮演的角色是交流的中介，它要能够帮助人工智能技术所有的利益相关者畅通地互动，并通过利益相关者的参与和反馈进一步完善自身，在此循环演进过程中，不断为人工智能产品的伦理导向提供思路，以达成规约人工智能产品的目的。

6 人性与资本的博弈

周至禹先生在《人工智能系统及产品设计的伦理问题探究》一文中洞察到需要警惕盲目的资本，吴军先生则在《智能时代：大数据与智能革命重新定义未来》一书中认为，将个人隐私泄露等智能时代所带来的问题寄托在数据拥有者的善意上是人们一厢情愿的行为，他的这一观点佐证了周至禹先生对资本的看法。那么问题是，应该如何看待资本的混沌状态呢？吴军先生鼓励人们加入资本一方，拥抱新技术，成为技术革命中受益的那2%的人[7]。但数字鸿沟导致每个人接触新技术的机会并不是均等的，如果按照吴军先生认为的技术革命必然牺牲一部分人的利益，人们要做的是避免自己成为被牺牲的那部分，如此逐利，那么设计之善或者社会之善便失去了实施的土壤。

吴军先生站在技术理性的角度呼吁个人、企业、国家积极面对智能时代的到来，这种态度并没有错，但他的观点难免会被企业家们当成资本利用新技术不计后果谋发展的借口。确实应该发展人工智能技术并充分使用它，可究其根本它只是一种工具，工具不是人肆意使用的理由，也不该是企业为了牟利而抛弃善意的借口。也就是说，即使人工智能产品在设计过程中已经考量了如隐私、信任、知情同意、无偏见等一系列问题，设计师们也只是呈现出了可能达成设计之善的产品，而最终人工智能产品能否被正确使用，其背后仍然是人性与资本之间的博弈。

7 结语

设计对人工智能产品进行伦理规约，为人工智能伦理的建构提供了新的思路，通过设计的方式将伦理价值嵌入人工智能技术中，使人工智能技术表现出“向善”的伦理意图，是设计的责任所在。但是，正如上述文献中提出的，人工智能设计所要面临的是复杂的价值冲突问题，设计既要协调自身与资本的关系，又需要形成完善的设计伦理框架，其间的诸多矛盾，显然仅靠设计行业是难以调解的。设计之善是人工智能产品拥有“善”的内核的基础，而在产品的使用、传播过程中形成良性互动，需要多学科、全行业以及政策的共同支持，如此，方能对人工智能产品构建的未来有所期待。良善方能致远，如果“奇点”将在不久的未来降临，那么今日设计之善或许能成全来日人类的一方乐土。

参考文献：

[1] 于雪，李伦.人工智能的设计伦理探析[J].科学与社会，2020，10（2）：75-88.

[2] 理查德·布坎南，维克多·马格林.设计思维中的抗解问题[M].设计的观念：设计问题读本[M].张黎，译.南京：江苏凤凰美术出版社，2018：25.

[3] 张黔.设计方法论的构成谱系[J].设计艺术研究，2017，7（2）：41-46，57.

[4] 马克·第亚尼.非物质社会：后工业世界的设计、文化与技术[M].滕守尧，译.成都：四川人民出版社，1998：3-27.

[5] 何怀宏.奇点临近：福音还是噩耗：人工智能可能带来的最大挑战[J].探索与争鸣，2018（11）：50-59，117.

[6] 周至禹.人工智能系统及产品设计的伦理问题探究[J].创意与设计，2019（1）：23-30.

[7] 吴军.智能时代：大数据与智能革命重新定義未来[M].北京：中信出版社，2016：237-260.

作者简介：周姣彤（1993—），女，湖北武汉人，硕士在读，研究方向：设计史论。