专家系统信任危机及其重建

高盼 邢冬梅

摘 要： 当代技术风险已成为风险社会最突出的特征。面对高度不确定性的当代技术风险，公众往往依赖专家系统，以专家系统的意见作为行动的参考依据。信任是维系专家系统与公众关系的纽带，然而，信任具有脆弱性，专家系统权威的动摇、工具理性膨胀以及道德约束无力都可能酿成信任危机，致使技术的发明与创造遭遇巨大的社会阻力，进而大大降低全社会共同防范当代技术风险的“黏合力”。获取与维系公众对专家系统的信任成为促进当代技术成果转化与风险防范的关键。弱化知识不确定性的影响、推进工具理性与价值理性的融合、加强专家系统的伦理道德建设是重建专家系统信任的重要路径。

中图分类号： C912.6； N031

文献标志码： A文章编号： 1009-4474（2018）02-0085-06

关键词： 风险社会；當代技术风险；专家系统；信任；信任危机；工具理性；伦理道德

Key words： risk society； contemporary technology risk； expert system； trust； crisis of trust； instrumental rational； ethics

Abstract： The contemporary technology risk has become the most prominent feature of the risk society. Facing the high uncertainty of contemporary technology risk， the public often depends on the expert system，whose opinion is used as the reference basis for the action. Trust is an important link， which ties between the expert system and the public. But， trust has the character of frangibility. Authoritative vacillation， the expansion of instrument ration and moral decline can destroy the trust of expert system， causing the invention and creation of technology to encounter great social resistance， which greatly reduces the “cohesion” of the whole society to jointly guard against contemporary technological risks.Obtaining and maintaining the public trust in the expert system is the key to contemporary technology transformation and risk prevention. In order to rebuild the trust of expert system， we should not only weaken the negative influence of uncertainty of professional knowledge， and get rid of instrumental rationalism， but also strengthen the construction of ethics and establish the right ethical morality.

1986年，德国风险理论家乌尔里希·贝克首次提出“风险社会”理论，引起了人们对风险问题的关注与思考。同年苏联切尔诺贝利核事故与其理论遥相呼应，更应验了“风险社会”的事实。贝克认为，当代技术风险既是风险社会的主要成因，亦是风险社会的重要表征。一方面，当代技术推动着“生产力的指数级增长，使危险和潜在威胁的释放达到了一个我们前所未知的程度”〔1〕；另一方面，切尔诺贝利核事故、英国“普兹泰事件”、日本福岛核泄漏等全球当代技术风险事件此起彼伏。这些风险事实表明：当代社会是一个被各种技术风险“包围”着的、名副其实的“风险社会”。较之于前现代社会、现代社会的技术风险，风险社会语境下的当代技术风险呈现出高度不确定性、不可感知、不可计算、难以预测、后果不可逆、无法补偿、跨越时空界限等新特征，其中高度不确定性是其最主要的特征。当代技术风险的后果超越了公众的认识范围，其高度依赖于专家系统。因而，专家系统一旦失范就会在某种程度上瓦解公众的信任，甚至酿成信任危机。那么，在以当代技术风险为重要表征的风险社会中，专家系统信任危机的根源是什么？如何重塑专家系统？下文将围绕这两个问题展开探讨。

一、专家系统信任危机的三重根源

当今时代，专家系统贯穿社会生活的各个层面。在吉登斯看来，专家系统是指“任何类型的专家知识系统，其所依赖的基础是能够在个体之间加以转换的程序原则”〔2〕。他在《现代性的后果》中进一步将专家系统概括为“由技术成就和专业队伍所组成的体系”〔3〕。专家系统作为一种脱域机制，信任是其运作的核心〔3〕。然而，信任具有脆弱性，专家系统权威的动摇、工具理性膨胀以及道德约束无力都可能使信任受损，进而大大降低全社会抵御当代技术风险的“黏合力”。

（一）专家系统权威的动摇

人们在传统社会敬畏自然和神灵，但伴随启蒙运动的开展，自然逐步“去魅”，技术以惊人的“神力”介入自然和社会，成为人们膜拜的对象。自此掌握专业知识的专家系统成为了“新的上帝”，享有至高无上的权威。然而，这一局面在风险社会被打破了，专家认知的局限性与专业知识的“常识化”逐步消解了专家系统的权威。

1.专家认知具有局限性

“尽管技术专家追求在‘完美的理性概念上进行活动，但其仍然会被有限理性的条件所制约，并不得不在这种条件下工作。”〔4〕也就是说，技术专家认知具有局限性，不仅不同领域的专家具有不同的范畴和见解，而且同一领域的专家也存在不同的观点。进一步说来，即使同一专家在不同阶段也可能得出自相矛盾的结论。第一，不同领域专业的细化造就了专家的“科学无知”（scientifically ignorant）。由于专业不断细分，每个专家只了解其所熟知的领域。温纳指出，大部分基因工程专家不了解他们释放到环境中的基因工程产品的生态学。当然，许多生态学家也不懂基因工程。所以面对某一当代技术，没有人敢保证对其拥有足够的知识基础与驾驭能力。他认为在某种意义上，专家是“科学无知”的。第二，同一领域的专家系统内部存在“变节”〔5〕。所谓“变节”是指专家系统根据研究进展无法确定风险源，结论可能一变再变。“变节”与技术的不确定性呈正相关，技术的复杂性、不确定性程度越高，“变节”的可能性就越大。“变节”深刻反映了专家系统内部不断摸索、试错、纠偏、寻求共识的动态性。第三，同一专家的知识不是一成不变的。通过不断学习，专家的理论知识和实践经验越来越丰富，对待同一问题的思维、研究方法等也有所不同。

2.专业知识逐渐“常识化”

工业社会，专业知识的权威被无限放大——“知识就是力量”。专家系统认为坐拥一定程度的知识，便能以有限的知识解释无限的现象，以确定性解释不确定性。然而，专业知识本身并不具有“不可触及性”。公众受教育程度的提高与技术的进步使其能够快速、便捷地获取信息，尤其在互联网时代，公众也可以随时随地通过各种平台学习专业知识，从而缩小了与专家系统之间的知识“落差”。因此，对公众来说，专业知识不再神秘与触不可及，逐渐趋向“常识化”。专业知识神秘性与专家权威呈正相关，即专业知识越神秘，专家系统也就越容易树立权威，反之亦然。

（二）工具理性支配专家系統

所谓工具理性是指“在工业文明社会（或技术社会）中，以科学技术为核心的一种占统治地位的思维方式，可以称之为一种绝对的理性主义”〔6〕。工具理性与价值理性之间存在一种内在的张力与冲突：前者着眼于回答“是”什么的问题，后者主要回答“应当”如何的问题〔7〕。伴随工业化进程，工具理性与价值理性的关系逐步扭曲，前者的霸权主义地位凸显，不断压制、排斥甚至吞噬后者，使理性丧失了批判功能。专家系统与公众的冲突实质上反映出两种思维模式的差异，前者受工具性思维支配，强调客观和事实；后者则基于人文思维范式，关心生活的意义和价值。“双方都是在绕开对方谈论问题，社会运动提出的问题都不会得到风险专家的回答，而专家回答的问题也没有切中要害，不能安抚民众的焦虑。”〔1〕工具理性支配专家系统的危害主要表现在三个层面：第一，专家系统在设计、创造以及应用技术的过程中凌驾于自然之上，忽视人与自然的和谐关系。在马克思看来，自然具有第一性，人类依附于自然。但伴随工具理性膨胀，自然界退变为人类无节制索取的对象和倾倒废物的“垃圾桶”。人与自然关系的异化使得当前的生态危机愈演愈烈。联合国政府间气候变化专门委员会（IPCC）的评估报告指出，20世纪中叶以来，全球类似百年一遇的小概率极端天气频现，且呈增多、增广、增强之势〔8〕。第二，工具理性在社会层面的膨胀塑造了一个充满技术性话语的、冷漠的社会。布尔特曾深刻地指出：“从前，人们认为他们生活在其中的世界，是一个富有色彩、声韵和花香的世界，一个洋溢着欢乐、爱情和美善的世界，而现代的世界则变成了一个无声无色、又冷又硬的死气沉沉的世界，一个量的世界，一个像在机器齿轮上转动，可用数学方法精确计算的世界。”〔9〕第三，个体逐步沦为单向度的人，异化的劳动关系造就了异化的人际关系。在价值理性式微的社会，个体只是专家系统构建的工业体系中的一颗“螺丝钉”，不仅失去了价值和尊严，而且其创造精神、人文精神以及审美情趣也遭到了全面压制。

（三）专家系统伦理道德失范

伦理道德泛指个人的思想品德、道德修养和精神境界。专家系统在倡导学术自由的同时，也应该受到社会伦理道德的制约。伦理道德一旦约束无力，技术实践就有可能走向危险的境地，甚至演变为反噬人类异己的力量。雪莱夫人所创造的“弗兰肯斯坦”形象就是这种异己力量的写照。

技术价值中立论者关于专家系统是否应该承担一定的伦理道德责任存在一种认知误区，他们认为社会给专家系统设置条条框框，不仅有悖于学术自由的精神，而且不利于技术创新。事实上，专家系统作为技术实践的主体，其伦理道德观决定技术创造的动机、目的以及技术应用的方式与结果。尽管作为知识形态的技术可看作是中立的，但技术研究的方法、过程、成果以及社会应用都渗透着伦理道德问题。比如，技术研究该不该设立“禁区”？具有敏感争议的技术能不能应用？难道只有等到技术风险转化为技术灾害时，才考虑对专家系统加以伦理道德规范和引导吗？“作为新技术的始作俑者，高新技术研发者对该技术的结构和功能最为清楚；同时，作为打开新技术‘潘多拉魔盒的人，他们又是该技术新风险、新危害的最早察觉者，负有不可推卸的道德、社会和历史责任。”〔10〕功利价值观是专家系统伦理道德失范的另一重表现。技术的设计、建构与应用始终服务于具体的目的，其中交织着专家系统的多重价值和利益分配。诚然，对功利的追逐是技术实践的轴心和主旨，但过分强调功利，将其视作唯一的价值目标，使得技术的研发和应用缺乏前瞻性。技术成果弄虚作假、技术滥用等短视行为必将导致技术风险发生的概率以及风险后果的严重程度提高。一些专家急功近利，为了技术成果的快速转化，弱化风险评估、风险沟通等环节，使风险监管流于形式。另外，还有“一些专家成了某些利益团体或政治组织的‘御用专家、‘顾问俘虏或‘利益代言人，为它们办事，同时专家们也从这些政治组织中获益。重大风险决策中专家咨询的‘空洞化和‘符号化，使得公众对专家咨询制度的认可与信任度呈现出明显的下降趋势”〔7〕。

二、专家系统信任重建的三大路径

“公众对专家系统的信任成为现代社会信任的重要内容，专家系统能否取得以及维持公众对其信任，成为整个社会的信任系统稳定与否的‘晴雨表。”〔11〕专家系统失范会不断削弱其权威，进而侵蚀社会信任，甚至酿成信任危机。重建专家系统的信任，一是要弱化专业知识不确定性的影响；二是要推进工具理性与价值理性的融合；三是要加强专家系统的伦理道德建设。

（一）弱化专业知识不确定性的影响

当代技术具有高度的复杂性，它如同集合不同领域专业知识的“技术黑箱”。个体面对“黑箱”很难做出抉择，即使做出抉择往往也是盲目的，所以不得不信任与依赖具有专业知识的专家系统。但是，个体对专家权威过度的依恃同时孕育着潜在威胁。因为在“依赖型”关系中，专家系统处于主动地位，公众处于被动地位，前者可以控制和左右后者的行动。缓解两者的对立与冲突，需要打破这种不平衡的局面。事实上，专家系统与公众的思维模式、叙事方式以及语言符号系统都存在巨大的“落差”。因此，前者不仅要担负起对后者的启蒙教育，对后者多一些理解、包容与尊重。更重要的是，前者需要构建一套适用于不确定性风险的话语体系。专家系统不断“变节”会让公众联想到“搪塞”、“应付”和“推卸责任”等负面形象。无疑，以确定性的话语应对不确定性的风险沟通只会产生一系列“中和作用”①。因此，专家系统在风险沟通时，需要声明技术不确定性之常态，也就是让公众了解技术风险的必然性。与此同时，进一步告知公众目前研究所能确定的部分，而不是在不确定的前提下草率地发布研究结论。

为了降低因认知局限造成的技术风险，专家系统内部需要加强合作。福特沃兹和拉兹洛指出，当代技术风险的规避跨越了学科界限，需要不同领域的专家相互协作、共同应对。他们提出“多元专业内涵”（Diversity of Expertise）范畴，旨在强调专家系统内部合作的重要性，这种合作不能仅限于同行专家之间，还要广纳其他自然科学专家参与讨论，从不同的知识领域设计方案。以转基因三文鱼为例，其风险管控超越了基因工程的知识范围。转基因三文鱼是否产生过量的生长激素？是否会侵占与挤压野生三文鱼的生存空间？是否影响海洋的生态环境？这些问题涉及动物学、植物学、生态学以及遗传学等多个面向。与此同时，哲学、法学、社会学等领域专家的参与也尤为重要，他们不仅能够针对特定问题提供各自的见解，而且能够对专家系统形成有效的监督。

（二）工具理性与价值理性的融合

推进工具理性与价值理性的融合，首先要厘清工具理性盛行的根源及其与价值理性的辩证关系。从技术系统内部来看，工具理性促进了技术的进步，而技术的进步又反过来强化了工具理性的统治地位。从社会层面来看，资本追逐效率和利润最大化的本性与工具理性的目标不谋而合，这成为工具理性猖獗的外部根源。尽管工具理性的僭越与蔓延侵占价值理性的生长空间，但这种不平衡状态具有相对性。工具理性与价值理性是辩证的统一：前者是基础，为后者的发展创造条件与提供保障；后者则为前者提供了精神动力。脱离前者，技术的发展将失去动力；脱离后者，技术的发展可能陷入“铁笼”。

推进工具理性与价值理性的融合，还要处理好专家系统与客观对象的关系。20世纪中叶以来，与生产力的指数级增长相伴随的是潜在生态风险的不断积聚，这迫使专家系统不得不重新审视人与自然的关系。在工具理性支配的工业社会，自然只是人类征服与索取的对象。人类的技术实践超越了生态系统的承载力，导致了生态的恶化，而生态恶化又对人类生存构成了反制，这种“飞去来器效应”推进着技术的生态化转向，在此背景下，绿色技术应运而生。绿色技术是工具理性与价值理性的有机融合，其指对生态系统不产生负效应，或其负效应在生态系统“阈值”以内的技术形态。例如环保技术、再循环技术等〔12〕。绿色技术既追求技术经济效益的最大化，同时又兼顾生态效益、社会效益的最大化，它契合了可持续发展（sustainable development）理念，是对在场与不在场主体的终极关怀。

（三）加强专家系统的伦理道德建设

李醒民强调：“科学家必须增强应有的对社会的道德责任感、对自然和人类的情怀，时时处处胸怀科学良知或科学良心，树立正确的伦理道德观念，对社会的未来和人类的福祉承担自己的责任。”〔13〕具体看来，专家系统伦理道德建设的路径主要包括以下三个方面。

1.加强伦理道德教育，强化专家的伦理道德责任感

专家系统的教育状况呈现“不对称现象”，即专家们基本受过严格的科学训练，但普遍缺乏相应的伦理道德教育。因此，要尽快弥补伦理道德教育的不足，尤其要注重培养青年科研人员的伦理道德素质。

专家系统伦理道德教育的内容具体可概括为两方面：一方面，獻身科学，树立为人类造福的远大理想。专家系统不仅要有“为科学而科学”“为知识而知识”的象牙塔精神，而且始终要把技术造福于人作为研究活动的出发点和落脚点。“以造福于人类的道德规范作为指导，……确实能起到科技成果社会应用的导向作用。”〔14〕另一方面，薄利厚德，维护正义。薄利并不意味着完全不考虑功利，事实上，技术不仅可以使产量、效率提高，而且能够大大降低成本，使企业获得更丰厚的利润，而这些利润又成为驱动技术创新的动力源。薄利实质上要求专家系统不能沉溺于功名。过分地追逐名利与金钱不仅有可能让专家丧失进取心和创造力，而且有悖于伦理道德。与此同时，专家系统还要担负起维护正义的使命，勇于和敢于揭发弄虚作假、权威控制等有损于正义的行为。

20世纪中叶以来，世界各国专家强烈声讨技术的滥用与恶用，并积极捍卫正义。马里奥·居里拒绝参加任何关于原子弹的研究工作，将其毕生精力都投身于原子能和平利用的研究。控制论创始人维纳同样拒绝接受任何美国国防部的科研项目。

2.制定相应的伦理准则与道德标准，引导与规范专家的行为

王伯鲁认为至少要倡导五条伦理道德准则：第一，不伤害原则。当代技术必须以降低对研究者与研究对象的伤害为基本原则，尽量不以损害社会全体成员的健康为代价。因此，当代技术在建构中就要嵌入“善”的目的。第二，审慎原则。当代技术的负面效应需要一段时间的认识和研究，有的技术风险的后果甚至在代际间才有所体现。所以，技术的推广过程要格外谨慎。第三，全面评估原则。全面评估原则是指对当代技术风险发生的概率、发生与持续的时间以及风险后果的严重程度做出评估，并建立相应的预警机制。第四，责任原则。科学研究不是纯粹的“为科学而科学”“为知识而知识”的研究，专家系统需要为自己的行为以及技术应用的后果承担相应的责任。第五，持续跟踪原则。实验室环境与自然条件存在巨大的差别，前者具有可控性，后者具有随机性。技术产品释放至自然界所产生的连锁反应往往难以预测。因此，专家系统要密切关注当代技术研发与应用的各个环节〔10〕。

3.加强立法，约束与监督专家系统的行为

加强伦理道德教育，制定相应的伦理道德准则，有利于提高专家系统的道德自律，但并不能完全杜绝伦理道德失范。湖南“黄金大米事件”就是专家系统伦理道德失范的典型案例。因此，有必要加强立法，从法律层面惩戒有悖于伦理道德的行为。一方面，在立法、执法、守法以及法律监督等各个环节贯穿伦理道德基本理念；另一方面，制定具体的法律法规约束专家系统。例如我国在20世纪90年代制定的《科学技术进步法》、21世纪初颁布的《中国科学院院士科学道德自律准则》等法律法规从宏观上为技术的发展指明了方向，同时规定了专家系统的伦理责任与行为准则。

另外，当代技术领域划分日益精细，从宏观上指导和约束专家系统是远远不够的，立法还要深入至具体的技术领域。例如，我国已颁布了《农业生物基因工程安全管理实施办法》《农业转基因生物标识管理办法》《转基因食品卫生管理办法》《农业转基因生物安全管理条例》等多部关于农业转基因技术的法规，这些法律规范成为了转基因专家的行动指南。

三、结语

有学者指出，在时空压缩的背景下，中国已经进入了风险社会〔15〕。在当前中国，公众陷入了“不信任却又不得不信任”专家系统的“豪猪困境”，专家系统则面临着“无论说什么、无论怎么说，公众都不信”的专家“塔西佗陷阱”〔16〕。专家系统在风险社会中扮演着举足轻重的作用。信任是维系专家系统与公众关系的纽带。专家系统获取与维系公众对其信任，有利于技术政策的制定以及相关技术成果的转化。反之，专家系统失范则可能使其信任受损，进而致使技术的发明与创造遭遇巨大的社会阻力。总之，在此境遇中探究专家系统的信任危机产生的根源以及专家系统信任重建的路径，对于中国技术风险的规避具有重要的意义。

注释：

①宇井纯把以“多数、反复、大声”的策略，发表反对意见来攻击、弱化某项有力说法的过程比拟为化学反应中“中和作用”。滕恒裕子在《透视科技与社会的九道工法》中指出，“中和作用”是一种机械的处理技术风险问题的手段，可概括为：“批判对方理论的弱点，降低其理论整体的可信度。”他进一步指出，“科学的恐怖就在于，即使是听起来多么有道理的理论，仅仅一个反例就足以将其驳倒。”

参考文献：

〔1〕乌尔里希·贝克.风险社会〔M〕.何博闻，译，南京：译林出版社，2004：15，30.

〔2〕吉登斯.现代性与自我认同〔M〕.赵旭东，等，译.北京：三联书店，1998：273.

〔3〕吉登斯.现代性的后果〔M〕.田 禾，译.南京：译林出版社，2011：24，25-26.

〔4〕苏布拉塔·达斯古普塔.技术与创造力〔M〕.李家坤，等，译.沈阳：辽宁人民出版社，2015：204.

〔5〕藤垣谷子.透视科技与社会的九道工法〔M〕.新北：群学出版有限公司，2015：15.

〔6〕赵建军.追问技术悲观主义〔M〕.沈阳：东北大学出版社，2001：40.

〔7〕钱亚梅.风险社会的责任分配初探〔M〕.上海：复旦大学出版社，2014：115，113.

〔8〕李 范，等.全球极端天气研究的情报学分析〔J〕.现代情报，2012，（9）：9.

〔9〕E.A.Burtt.The Metaphysical Foundation of Modern Physical Science〔M〕.New York：Dover Publications，1924：236.

〔10〕王伯鲁.技术化时代的文化重塑〔M〕.北京：光明日报出版社，2014：142，143-144.

〔11〕杨雪冬.风险社会与秩序重建〔M〕.北京：中国社会文献出版社，2006：231.

〔12〕王伯鲁.技术困境及其超越〔M〕.北京：中国社会科学出版社，2011：238.

〔13〕李醒明.科学家的道德责任：限度与困境〔J〕.学术研究，2012，（1）：9.

〔14〕盧 彪.科技与伦理的碰撞〔M〕.北京：中央文献出版社，2006：66-67.

〔15〕夏玉珍，卜清平.高风险时代的中国社会问题〔J〕.甘肃社会科学，2016，（1）：156.

〔16〕郭 喨，张学义.“专家信任”及其重建策略：一项实证研究〔J〕.自然辩证法通讯，2017，（4）：82.

（责任编辑：陈艳艳）