加强科研价值观国际治理合作

2022-11-27 04:34卢阳旭中国科学技术发展战略研究院
科技中国 2022年9期
关键词:伦理价值观人工智能

■文/卢阳旭(中国科学技术发展战略研究院)

近年来,科研价值观成为科技外交和全球科技治理中的一个热点议题,越来越成为影响国际科技关系的重要变量。但在实际使用过程中,科研价值观这一概念还存在诸多模糊之处,存在误用滥用的问题。深入辨析科研价值观的内涵和外延,有利于更好地明确共识、识别问题,进而更有效地指导实践、推动国际科技治理合作。

一、科研价值观的定义

科研价值观指的是科学活动主体在科研活动中应共同遵循的价值理念,在科研活动中发挥价值导向、行为规范和评价标准的作用(罗晖 等,2021)。总体而言,科研价值观主要有两种来源:一是来自科学共同体内部的价值观,它们的主要功能是服务科学的发展、保证科学研究的质量。比如默顿认为科学发展需要有制度化的规范,它们是“用以约束科学家的有感情色彩的一套规则、规定、惯例、信念、价值观和基本假定的综合体”,而普遍主义、公有性、无私利性以及有组织的怀疑则构成了现代科学的精神特质(默顿,2003),为各类科学活动主体所共同遵守和维护。二是来自科学活动主体所处的外部环境,强调作为一种力量和能力的科学活动要服从并服务于所处社会的价值观(目标),比如正义、自由、民主、法治、包容、可持续发展等。对二战期间纳粹暴行的反思,以及二战后关于核武器开发、农药化肥大量施用、基因编辑和人工智能等技术广泛使用给人类社会造成的安全、环境、法律、伦理和社会挑战(中国科学技术发展战略研究院“科技伦理治理研究”课题组,2022),使得人们希望科学研究能够不违背人类珍视的价值观,进而成为帮助人类更好捍卫和延展价值观的强大支撑。需要指出的是,科研价值观的上述两种来源一方面存在位阶差异,即后者高于前者;另一方面它们之间也存在张力,科学研究有很强的专业性和特殊性,一般社会价值观在科学共同体内部的体现经常有别于其他领域。正因如此,我们应该特别重视科研价值观的融合性、内部张力和社会建构特征。以欧盟提出的“负责任研究与创新”(responsible research and innovation,RRI)为例,它将伦理、性别平等、开放获取、公众参与和科学教育作为五大支柱,尤其是它特别关注开放性的“最佳实践”就明显体现出了科研价值观的上述特点。

二、科研价值观争论的类型及其治理

回顾二战以来科研价值观演变历程,特别是围绕它发生的争论可以发现,人们对服务于科研的价值观的争论相对较小,即基本都认可科学发展需要遵循特定的价值观,并以此保证科学研究的质量和可持续发展。但对服务于价值观的科研则经常存在较大的分歧,这种争论既可能源自对科技发展和应用引发的法律、伦理和社会问题的争论,也可能源自价值观分歧向科研领域的延伸。

(一)科技发展和应用引发的科研价值观争论及其治理

科技发展和应用引发的科研价值观争论往往会伴随新技术的兴起和应用而周期性的出现。近年来,大数据、人工智能、基因编辑等新兴技术快速发展并广泛应用到政治、经济和军事等各个领域,引发各国对新兴技术带来的伦理、法律和社会问题的高度关注。以人工智能为例,科技界、政策界、产业界和社会公众围绕人工智能技术广泛应用带来的伦理、法律和社会问题开展了广泛的讨论,内容主要涉及人工智能在军事、政治、经济等领域的应用给安全、平等、隐私、尊严、民主、自由等价值观带来的冲击。比如利用人工智能技术的深度造假,通过精准的信息投喂制造“信息茧房”,以及基于人工智能技术的自动化、智能化进程造成大量现有就业岗位的消失等。

政府、国际组织、企业、民间组织等都参与到了相关价值观的倡议和规则的制定当中。比如,2017年国务院发布《新一代人工智能发展规划》,要求必须高度重视人工智能可能带来的安全风险挑战。2019年国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则——发展负责任的人工智能》,提出和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理等八项原则。2019年欧盟委员会高级专家组发布《可信赖的人工智能伦理准则》(Ethics Guidelines For Trustworthy AI),提出欧盟发展可信赖的人工智能的三项原则,即合法(lawful)、合伦理(e t h i c a l)、稳健(robust)。2017年由霍金、马斯克领衔推动全球联署的“阿西洛马人工智能原则”(Asilomar A.I. Principles),则从科研(research issues)(5项)、伦理与价值观(e t h i c s a n d values)(13项)和长远问题(longer-term issues)(5项)三个维度提出了23项人工智能研发和应用原则和规范。

(二)价值观争论引发的科研价值观冲突及其治理

价值观争论引发的科研价值观争论是从一般性的价值观争论衍生出来的次级争论,它可能发生在不同社会群体之间,也可能发生在不同国家之间。冷战时期,美国和苏联之间有着激烈的意识形态对抗,两国及各自领导的阵营之间的科研价值观在很大程度上服从并服务于意识形态斗争和冲突(罗晖 等,2021)。近年来,美国将中国视为战略竞争对手,并迅速强化了对中国科技创新的围堵和打压,科研价值观正在成为美西方打压中国科技发展的武器:污名化中国科技体制、科技创新领军企业、科研诚信和科研伦理环境等。比如,《2021年美国创新和竞争法案》要求,美国国务院设立跨部门“技术伙伴办公室”,同致力于法治、言论自由和尊重人权的国家建立技术伙伴关系,在5G、人工智能等关键技术领域加强合作,提供“威权国家”有关技术的替代选项,在国际社会促进负责任使用新兴技术。2021年9月,欧美贸易与技术委员会(TTC)发表联合声明,声称将以“共同的民主价值观”为基础,协调解决全球关键技术、经济和贸易问题。

值得注意的是,近年来,一方面科研价值观被继续作为美国打压中国科技创新的武器,另一方面也有很多政界、学界、智库界和产业界人士呼吁各方加强对话,要尊重文化和价值观多样性,避免科研价值观被过度政治化、意识形态化。从这个意义上说,2021年联合国教科文组织发布的《开放科学建议书》(recommendation on open science),提出质量和诚信、集体利益、公平公正、多样性和包容性四项核心价值,就很好地融合了科研价值观的两种来源,也体现了通过开放科学更好发挥科技创新对全球经济社会和文化目标的支撑作用的宏愿,可以作为全球共治由价值观分歧引起的科研价值观争议和冲突的一个重要框架。

三、中国积极参与和推动科研价值观全球治理合作的初步举措

作为新兴科技大国,中国无可回避也理应成为科研价值观全球治理合作的重要参与者。厘清科研价值观的内涵,深入分析科研价值观议题演变背后的结构性因素,理性看待围绕科研价值观的诸种争议甚至冲突,并在此基础上积极参与和推动科研价值观国际治理合作,是为我国科技发展争取更好外部发展环境的题中之意,也能为全球科技创新的可持续发展提供更稳固、更适宜的价值观基础。提出如下建议:

一是在深入研究、广泛讨论的基础上,尽快提出我国的科研价值观,并择机公开发布。通过研究、发布我国的科研价值观,一方面可以改变“无声”的被动状态,另一方面也可以在广泛凝聚共识的基础上推动我国科研价值观研究、教育、宣传和治理机制的完善。

二是完善科技创新国际传播机制,增强国际传播能力。积极宣介中国科技创新政策和创新实践,着力围绕若干符合全球科研价值观共识的方面进行客观、全面的解读,增强中国科研价值观的传播力和影响力。加强科技外交、国际科技交流合作专业人才队伍建设,着力提升国际化视野和专业化能力。

三是积极参与、推动科研价值观全球交流和对话,切实维护我国科技发展的合法权益,着力推动建立更加公正、包容的全球科研价值观。积极推动科研价值观治理国际多边机制建设,倡导区分不同类型的科研价值观议题,差别对待、精准治理;高度重视国际科技组织、企业等多元主体在全球科研价值观治理中的作用。

四是加强科研诚信和科技伦理治理体系和治理能力建设。深入贯彻落实国家关于科研诚信、科技伦理、学风作风建设等方面的相关文件要求,落实各方主体责任,推进治理机制和专业队伍建设,着力降低各类科研诚信和科技伦理失范行为的发生风险,降低被“污名化”的风险,进一步提升中国在科研价值观方面的国际形象。

猜你喜欢
伦理价值观人工智能
《心之死》的趣味与伦理焦虑
我的价值观
图说我们的价值观(三德)
《白噪音》中后现代声景的死亡伦理思考
2019:人工智能
价值观(二)
人工智能与就业
伦理批评与文学伦理学
数读人工智能
下一幕,人工智能!