科技伦理治理：核心要义、面临困局及实现机制

马婉宁，陈亚平，韩凤芹

中国财政科学研究院，北京 100142)

0 引言

科技是引领发展的第一动力，是建设现代化经济体系的战略支撑。应该看到，科学技术具有两面性，是发展的利器，也可能成为风险的源头。ChatGPT的出现彰显了生成式AI技术对人类社会生活的强大重塑力，但与此同时带来的数据泄露、隐私安全、学术抄袭、公共安全等伦理风险引起社会广泛关注，1000多名科技专家共同签署了题为 《暂停大型人工智能研究》的公开信，呼吁暂停大型AI项目，并深入研究和探讨人工智能技术。人工智能等新兴技术的发展亟需进一步加快伦理治理的步伐，通过构建科技伦理治理体系来规范科技创新发展，引领科研创新行为。

20世纪90年代以来，科技部、卫生部等部门在生物医学领域持续出台了相关伦理规则和审查办法，包括1998年出台的 《人类遗传资源管理暂行办法》、2003年制定的 《人胚胎干细胞研究伦理指导原则》、2016年出台的 《涉及人的生物医学研究伦理审查办法》等。近年来，党中央、国务院高度重视科技伦理治理体系建设，党的十九届四中全会提出 “健全科技伦理治理体制”，党的十九届五中全会提出 “完善国家科技治理体系，健全科技伦理体系”，2019年中央全面深化改革委员会审议通过 《国家科技伦理委员会组建方案》，2022年中共中央办公厅、国务院办公厅印发 《关于加强科技伦理治理的意见》 (以下简称 《意见》)，这些决策为中国科技伦理治理工作做出了顶层设计和全面部署。但是，在颠覆性技术迅猛发展的态势下， “从0到1”的原始创新越来越成为国家科技竞争的制高点，一些新技术往往不确定性大、更新速度快，在促进经济社会快速发展的同时，也可能产生危害公共安全、损害公共利益、污染生态环境等负面效应，给新时期科技伦理治理提出了新挑战和新要求。

科技伦理是开展科学研究、技术开发等科技活动需要遵循的价值理念和行为规范，本身属于价值观范畴，核心任务是基于道德原则 (如增进人类福祉、尊重生命权利等)来规范人类的科研行为和活动，并给出价值判断——什么是向善的科学。伦理规范是非强制性的，对科研人员更多是一种软约束，容易产生治理浮在表面、难以落地的问题。为了促进科技伦理治理落到实处，使伦理治理真正体现在科技活动中，仍然需要在顶层设计的指导下，以伦理先行、依法依规、敏捷治理、立足国情、开放合作为抓手，发挥科技活动全过程中多元主体的协同治理能力，真正使得科技伦理治理同科技创新发展相互促进，共同推动科技向善，实现负责任的研究与创新。科技发展促使治理结构变革，本文在重新思考科技伦理治理的核心要义、趋势发展和面临困局的基础上，尝试构建 “一体一基三翼”科技伦理治理机制，以期为完善中国科技伦理治理体系提供思路。

1 科技伦理治理的核心要义与最新趋势

科技创新发展和科技伦理就像是科技的一体两面，二者是相互促进的关系，核心是共同促进向善的科学。在新兴科技快速发展的背景下，科技伦理治理蕴含着引领科技活动、与科学研究相互促进、多主体协同共治的核心要义。

1.1 科技伦理治理的核心要义

(1)引领科技活动。 《意见》在科技伦理治理中指明了 “伦理先行”的要求，要加强源头治理，注重预防，将科技伦理要求贯穿科学研究、技术开发等科技活动全过程。这一要求也道出科技伦理治理本质上是主动牵引型，对科技活动具有一定的引领性。科技伦理治理需要先于科技活动的开展来判定伦理风险，将科技伦理嵌入具体科研项目中，而不只是简单的事后惩戒。正如 《意见》所要求：科技项目 (课题)负责人要严格按照科技伦理审查批准的范围开展研究，加强对团队成员和项目 (课题)研究实施全过程的伦理管理。

中国科技发展长期处于 “跟跑”状态，科技伦理治理在实践中基于 “发展先行”原则形成了 “做了再说”的被动治理模式，在给予科研人员极大自由度的同时也埋下了科技伦理风险隐患。以人工智能技术为例，人工智能和移动互联网、物联网等技术相互赋能，使人类社会快速进入 “智能+”时代，带有认知、预测和决策功能的人工智能算法被广泛应用于众多社会场景，但算法歧视、算法推荐机制等也带来诸多伦理失范问题，造成个体自主权缺失和社会公正失调。因此，需要科技伦理治理来引领科技活动的健康有序发展，以更为主动的源头治理规避风险，形成科技伦理和科技活动良性互动的有机边界。

(2)与科学研究相互促进。传统科技观认为，科学技术追求客观自然规律，科技应该是价值中立的。基于 “价值中立说”，有人担忧将伦理治理嵌入科技活动中会阻碍科技发展。但 “价值中立说”在现实中并不成立，因为科技活动并不等于科学理论本身，科技活动同人类实践联系在一起，科学试验的设计、科研成果的推广应用等都是人参与其中，必然带有人的价值判断，也就存在科技被误用、滥用的风险。因此，科技伦理治理尽早介入科研活动当中，也能尽早避免消极后果的产生，从而让科技创新更可持续。伦理审查也是为了借助审查和监管手段规避科技活动潜藏的伦理风险，让科技伦理治理和科学研究更好地相互促进。科技伦理治理的相关原则、标准、规范是为科技活动服务的，相当于科技活动的 “保护层”，明晰的伦理规则为科技活动提供支持，使得科研人员能够在伦理规则的保障下顺利开展科学研究。比如，生命医学领域签订 “知情同意书”的正当程序，在维护受试者自主权的同时也使研究者获得受试者的支持。

从 “治理”本身来说，治理不同于传统的自上而下的管理，而是各社会行为角色协调、互动、磋商的过程，不同行为者通过正式或非正式的相互作用机制来管理共同事务，表现为一个持续过程[1]。因此，从治理本身的特点来看，科技伦理治理蕴含着伦理商议空间，人们在此空间内讨论和确定伦理治理的科学方向，重构各方责任，共同促进科技向善。比如，欧盟脑科学计划 (HBP)将 “伦理与社会”议题作为子课题纳入研究中，并构建了伦理商议的空间和机制，从其余11个子课题中各提名一人组成伦理调查员团队作为课题间沟通的正式机制[2]，促进识别、分析和解决HBP伦理问题，使HBP符合相关的伦理与法律规范。HBP作为将科学问题同伦理问题有机结合的典型范例，也通过实践验证了科技伦理治理同科学研究相互促进的关系。

(3)多主体协同共治。科技伦理问题包括科学研究本身的伦理问题，以及科技发展带来的伦理问题[2]。自20世纪90年代中期以来，随着疯牛病事件暴发、转基因作物大量上市以及基因治疗、干细胞研究和克隆技术等生物技术的飞速发展，科学技术的不确定性和风险日益凸显，科学技术的误用、滥用所造成的社会风险及伦理问题更加广泛地影响到不同社会领域和群体。在这一背景下，传统的政府单一 “统治”已不足以及时有效应对新技术发展带来的挑战，科技政策亟需与其他领域政策协调配合，扩大政策制定和实施参与开始成为重要议题， “治理”思想也逐渐被引入科技伦理领域。解决科技伦理问题需要新的治理机制，协调政府、科研机构、企业、社会公众等多方利益相关者，发展伦理共识，确保科技造福人类。

随着科技对人类健康、环境生态、社会文化、信息媒介等的深度嵌入，科技决策需要科学知识之外越来越多的 “社会知识”[3]，也愈发需要除了科研人员之外的多领域专家、社会人士所掌握的 “社会知识”支持。国内外学界和政策界也采用多主体协同共治的治理机制，比如，HBP项目的子课题12通过公众和在线专家面对面研讨和辩论的形式展开公共对话，共同讨论人脑计划可能产生的伦理和社会困境[2]；在2015年第527次北京香山会议上，来自自然科学、社会科学等领域的学者针对纳米科学可能带来的安全与伦理问题开展对话交流[4]。此外，一些组织机构的人员设置也映射出多主体共同参与科技伦理治理的现象，比如，联合国于1997年成立的 “世界科学知识与技术伦理委员会” (COMEST)由科学、法学、哲学等多领域权威学者组成，共同致力于科技伦理研究；中国的 《涉及人的生物医学研究伦理审查办法 (2016年)》等政策规定，伦理委员会的委员应当从生物医学领域和伦理学、法学、社会学等领域的专家和非本机构的社会人士中遴选产生。

1.2 科技伦理治理的最新趋势

(1) “负责任的研究与创新”思想指导科技伦理治理。负责任的研究与创新 (RRI)是一个整合性的治理概念，具有充分的国际实践基础，最初在美国国家纳米技术倡议 (NNI)中使用，后被欧盟正式接受，推动着科技伦理治理思想的发展，让科技创新增加对社会需要和伦理的关注。RRI意味着科研人员、社会公众、政府、企业等社会参与者在研究与创新全过程共同努力，其思想价值导向明确，将涉及的公共对话、风险管理、行为规范、研究诚信等科技治理概念整合在一起，应用于微观层面的实验室、中观层面的制度结构和实践、宏观层面的公共政策，可以有效指导整个国家的科技伦理治理体系。RRI通过透明、互动的过程而实现，包含 “预期、反思、包容和回应”四个维度[2]，即在科技伦理治理实践上促使人们分析预期潜在影响，反思和考虑不确定性和风险，接受利益相关者的包容性参与并做出回应，确保科技沿着正确的方向发展。

(2)前瞻性治理体系愈发关键。随着颠覆性技术的迅猛发展，在前瞻性治理体系指导下，运用前瞻的视角，提前进行系统性部署，预见、研判颠覆性技术的未来作用发挥、潜在风险并动态治理显得尤为重要。前瞻性治理体系具有以下四个特征：前瞻性、动态性、系统性和多元性[5]，在部分国家出台的相关监管政策和倡议中也有所体现。比如，2019年英国出台的 《第四次工业革命的监管政策白皮书》涵盖了前瞻性、系统性的监管计划和措施。同年，英美两国主持召开的首次 “国际人类种系基因组编辑临床应用委员会”会议也强调搭建共识框架，使多元主体能有效参与科技伦理治理。

(3)治理迈向全球化。近代科学向现代科学的演进，已经从科学家个人的自由探索演变到国际科研合作，形成了开放科学的新格局，科技发展的全球化趋势不断加速，伴随而来的各类风险和伦理问题也不再局限于某一固定的国家或地区，而是向全球蔓延扩散，科技风险的全球化使得世界各地进入一个跨越时空的 “全球性风险社会”[6]。因此，当下的科技伦理治理也表现出 “全球化治理”的新趋势，需要形成实现人类命运共同体的全球共识，构建共同应对危害人类利益的 “风险共识”，以总体性的全球科技伦理治理框架来降低科技伦理风险。

2 科技伦理治理的分析框架：治理五要素

当前，学者多从某一重点领域和新兴科技的治理实践出发，对科技伦理治理进行研究，或者探讨对治理思想和科技伦理治理的理论认识，或者基于某类方法、工具阐述对科技伦理治理的总体认识。本文在上述学者研究的基础上，将治理目标、主体、对象、手段和模式统一起来进行系统考察，并基于治理五要素构建科技伦理治理的分析框架。

2.1 治理五要素的总体认识

根据系统论思想，系统是一个有机整体，要素则是构成一个系统存在并维持其动态运转的必要因素和基础。系统要素分析是从系统观点出发，将作为系统的要素作为考察对象，将其放在系统所处的特定环境中，分析其同系统以及系统其他要素之间的相互作用[7]。科技伦理治理是一个闭环的互动治理体系，需要系统性认识 “治理什么” (治理目标和治理对象)、 “谁来治理” (治理主体)、 “怎么治理” (治理手段和治理模式)这一系列治理问题，才能有的放矢、真正推动科技伦理治理体系有效落地。在整个科技伦理治理体系中，治理主体在各自专业领域和职责范围内综合运用多种手段进行主动治理，以共同达成科技向善发展的目标。具体来说，科技伦理治理目标应该是推动科技向善发展，治理主体是多主体构成的行为者网络，治理对象是科技活动全过程，治理手段是负责任研究与创新基础上的多种治理方式，治理模式是主动治理 (见图1)。五方面治理要素相互关联、有机互动，共同构成科技伦理治理体系的关键组成部分。

图1 科技伦理治理体系中的治理五要素

2.2 治理五要素的具体阐释

(1)治理目标：推动科技向善发展。科技发展应有其明确的价值取向，旨在促进科技本身和全社会的可持续健康发展，因此科技发展应该是向善的，是不危害人类自身安全的发展。从风险视角来看，科技向善要做到使公共风险最小化，避免科技风险蔓延成为全社会风险。高质量发展是 “十四五”时期乃至更长时期的经济社会发展主题，科技创新则是支撑高质量发展的重要驱动力，未来中国将持续加大科技发展方面人力、物力和财力的投入，因此有必要为快速发展的科技创新划出合理的伦理 “红线”，让政府、科研院校、企业等创新主体投入的各类资源充分发挥其正向效用。

(2)治理主体：多主体构成的行为者网络。科技伦理治理体系中政府、科研院校、企业、科技团体、科研人员、社会公众等多主体共同构成一个行为者网络，在科技活动的不同过程中发挥着各自作用。政府是国家科技战略的布局者、科技计划的资助者以及科技伦理治理体系建设的主导者。科研院校是国家基础研究和应用研究的主要执行部门，是科研人员集中分布的组织部门，其伦理治理水平和伦理教育水平对于提升全国科技伦理治理能力影响重大。企业已经成为创新主体，是研发经费的最大投入部门，也是参与科技伦理治理的重要主体，需要把握好技术开发和应用的伦理关口。科技团体为伦理治理提供重要智力支撑，是促成伦理标准、原则形成和伦理普及的重要组织力量。科研人员直接参与研发设计，对科技伦理负首要责任，科研人员自身的伦理意识直接影响对研发活动是否符合伦理规范和审查范围的判断。社会公众作为支持国家科技活动的纳税人和科技产品的消费者，承接科技发展的最终影响，自然也有权力参与到治理决策中，对相关伦理问题展开公共对话。

(3)治理对象：科技活动全过程。科技伦理治理的对象是科技发展全过程，包括科技战略部署和研究资助、研发活动以及研发成果应用的伦理治理。需要国家科技伦理委员会和科技部、财政部等部委协同做好科技伦理治理的关口前置工作，在科技战略部署和研究资助布局中纳入科技伦理考虑和设计，尤其是对于国家重要领域的伦理与社会问题，做好伦理风险的提前研判和相关政策的规划部署。在研发活动进行过程中，对研究项目的目的、受试对象、试验设计和过程等做好伦理审查，确保符合伦理规范。在研发成果应用时，同样需要借助伦理审查和监督把握好科技伦理治理的 “后门”，避免伦理失范的成果造成社会范围的负面影响。

(4)治理手段：负责任的研究与创新基础上的多种治理方式。科技伦理治理需要遵循整体性原则，在基础性治理手段的基础上注重引入多种新型治理方式。当前国际上广泛接受和采用的RRI思想充分反映了科技伦理治理原则和价值导向，欧盟新的 “地平线2020”议程中RRI思想内含的整体性治理理念能够帮助我们更好地构建国家科技治理体系。在RRI思想指导下，构建伦理商议和对话平台、开展多主体共同参与的伦理和社会影响预见活动、构建汇集并解决伦理问题的互动磋商机制等均是中国科技伦理治理体系可以借鉴采用的敏捷治理方式。

(5)治理模式：主动治理。科技伦理治理的首要环节就是判定伦理风险[8]，提前规避科技成果应用时给个人层面和社会层面带来的潜在风险，这意味着科技伦理治理本质上应该是遵循 “预防原则”的主动治理，通过伦理审查主动把好科技伦理关，应对科技活动的不确定性。 《意见》所提出的 “伦理先行” “源头治理” “注重预防” “风险预警”等要求正是对伦理问题进行主动治理的体现。

3 中国科技伦理治理面临的困局与成因分析

3.1 中国科技伦理治理面临的困局

在治理五要素分析框架下深入剖析中国科技伦理治理面临的困局，发现中国科技伦理治理顶层设计落地难一定程度上表现为治理目标达成度难以确定、各主体认识不统一，治理对象不明晰、不确定，甄别、防控科技伦理风险能力不足，伦理审查力度不足等困局。

(1)治理目标：达成度难以确定。科技伦理治理的最终目标是促进科技向善、造福人类，但在治理过程中，平衡科技发展和科技治理，其合适的度在哪里？也就是说，伦理底线设在何处才能妥善权衡好科技创新的风险收益，达到最佳的治理水平？美国学术界之前讨论过关于科学的一些伦理困惑，包括应该停止科学研究吗？是否应该在科学领先的时候退出？应该给予其他动物权利吗？将其他生命形式的痛苦降至最低是一个值得称赞的目标，但也要考虑人类的福祉。从这些伦理困惑中可以看出，在科技伦理治理解决伦理困境时，常常面临科技伦理治理目标达成度难以确定的困局。不同的目标达成度其治理结果可能不同，或可促进科技健康有序发展，或会抑制科技创新发展。

(2)治理主体：各主体尚未达成伦理治理共识。中国政府在宏观层面对科技伦理治理的认识水平越来越高，近年来不断加快相关伦理规范和政策体系建设，但是企业、科研人员、社会公众等主体认识水平还不够，各主体尚未达成伦理治理的共识。企业同其他主体存在利益差异，成立之初即以盈利为目的，一些科技类企业采用的算法推荐机制一定程度上造成了科技伦理失范的结果，内容推荐机制使同一阶层的人汇聚在一起，加剧了知识鸿沟和社会两极分化，算法歧视使社会公正面临失调，进一步强化了对社会弱势群体的歧视， “大数据杀熟”更是将歧视延伸至每一个人[9]，而且一些企业容易在追逐利益的过程中忽视伦理问题，违法违规收集使用个人信息，造成公民信息泄露。公安部在 “净网2021”专项行动中共侦办侵犯公民个人信息案件9800余起[10]， “净网2022”专项行动侦办案件数量更多，达到1.6万余起[11]。科研人员是科技活动的直接参与者，应该是伦理问题的第一责任人，但是中国科研人员的伦理意识还不够强，部分科技工作者对伦理审查工作存在偏见，对科研项目的伦理考量不足。根据 《科技工作者状况调查年度报告 (2020年)》，2020年约有一半科研人员认为自己对科技伦理规范了解不够，四成左右科研人员认为我国科技界存在有违科技伦理规范的现象[12]。另据统计，有25%～50%的科技工作者表示不考虑潜在伦理风险而继续开展科技活动[13]。科研人员科技伦理意识淡薄不仅影响科技创新高质量发展，还可能在国际合作中开展有伦理争议的科技活动，进而引发 “伦理倾销”[14]。社会公众对科技伦理的认识也不足，公众科学素质不高、参与科技咨询和决策的经验不足，公众权利被忽视，尚未建立合理的公众参与和协商沟通机制，公众参与决策、协商谈判、自主治理的程度较低。医学领域伦理审查已有公众参与的积极尝试，但公众参与多数时候较为被动，且公众参与的范围、方式和程序等内容尚未制度化。例如，一些伦理审查委员会开展伦理审查时，限于公众选择的实际困难，往往只能让本单位的保安等后勤保障人员参与，公众参与的客观性和专业性不足[14]。

(3)治理对象：不明晰、不确定。随着越来越多的科技创新活动步入 “无人区”，研究人员很难准确预测研发行为边界和异常情况，研发过程中具体的治理对象也就更为模糊，充满了不确定性。而且随着人工智能、基因编辑、辅助生殖、大数据等新兴科学技术的深入发展，未曾预知的科技伦理事件在全球频繁发生，科技发展的对象逐渐从 “物”转移到 “人”，使得科技伦理治理对象更难确定，识别科技伦理失范行为更加困难。比如，人工智能发展中产生的智能机器人属性界定问题、无人驾驶交通事故的责任方认定问题等都比较模糊。此外，从现有研究来看，科技伦理治理的研究重点主要集中于概念辨析、原则讨论、机制分析等，而对科技伦理究竟治理什么仍然不够明晰，需要明确治理哪些领域、治理哪些伦理问题这些关于治理对象的关键点[13]。

(4)治理手段：甄别、防控科技伦理风险能力不足。科技创新在给社会释放大量红利的同时，也可能因忽视科技伦理风险而给人类带来不可控的灾难性后果，甄别、防控科技伦理风险的难度往往较大，存在 “能力高位蒙蔽困境”和 “防漏补漏机制困境”[15]。前者主要指低能力者难以识别高能力者有意或无意制造的风险隐患，表现为制造风险和甄别、防控风险不对称，2018年中国发生的震惊中外的 “贺建奎基因编辑事件”就是如此。后者主要指当前的认知还达不到及时识别并确定是否禁止该项研究的预备条件，表现为科技发展和科技伦理治理的进程不对称。比如，当前人工智能快速发展带来的人与智能产品之间的伦理冲突，大数据快速发展带来的 “大数据杀熟”、算法歧视等，这些都给负责任的研究与创新带来挑战，而科技与资本的结合更是加重了防漏补漏的难度，资本对科技的助推使得科技非理性逐利，导致科技发展可能不受控。

(5)治理模式：伦理审查力度不足。从伦理审查相关政策来看，中国仅在涉及人的生物医学研究方面出台了专门的伦理审查办法，其他新兴科技领域还未有对应的伦理审查细则。从伦理审查机构设置来看，中国伦理审查机构采取 “一院一委”的备案登记制，伦理审查委员会属于内设部门，审查效率高，但难以确保审查独立性，也难以真正遵守回避制度，机构内部的利益关联性削弱了审查的制度功能。以医疗机构为例，伦理委员会的负责人一般由机构领导担任，考虑医院发展需要难免会对某些重点科研项目特殊关照，当缺乏外部监管时，伦理审查委员会极易 “既当运动员又当裁判”，影响审查结果的公信力。何光喜等[16]在2020年的调查结果显示，伦理审查发挥不出应有的规制效应，约四分之一 (24.9%)的受访者认为中国科研机构的伦理审查委员会在对科研项目进行伦理审查时， “直接盖章同意和批复”的现象 “非常普遍”或 “比较普遍”，其中医疗机构、高校和企业的这一比例分别为21.1%、31.3%和35.2%。尽管大多数涉及人的科研项目经过了伦理审查，但在一定程度上存在 “走形式”的现象，且企业和高校是科研伦理审查的薄弱环节。

3.2 原因分析

(1)科技活动自身存在较强的不确定性。传统技术相对而言较为直观、目的单一、责任明确，现代技术则表现得较为复杂、目的多样、责任模糊，其不确定性也就更大。人工智能、合成生物等新兴科技多是不同学科领域的融合发展，由不同学科研究人员合作推进，复杂的研发过程蕴含着相比传统科技更多的不确定性。此外，当科技和资本结合时，资本逐利的特性和科技发展的 “初心”可能相差甚远，导致科技发展可能不受控，全球化和跨国发展更加使得这种不确定性被放大。

(2)科技伦理治理相关体制机制仍待完善。中国科技伦理治理体系的建设起步比较晚，尽管当前科技伦理治理体系的顶层设计不断完善，但相关制度体系尚未有效建立，可落地实施的政策体系还不健全，制度的可操作性较弱，伦理审查和社会公众协商发挥的作用有限。较长时期以来的科技伦理治理集中在生物医学领域，但伦理审查形式大于实质的情况也反映出中国在伦理审查工作细化和伦理监管问责方面的工作还不足，缺乏相应的公开透明机制，未能充分发挥社会公众的监督作用。这些问题的解决都需要可实际落地实施的体制机制设计，努力克服科学技术发展的不确定性和伦理滞后性。

(3)科技伦理普及和教育力度不足。2021年中国科协针对全国科技工作者展开的调查显示，只有28.5%的科研人员认为当前高等教育中的科研诚信和伦理教育充足，55.1%认为不充足；另外，51.8%的科研人员不知道自己单位是否有伦理审查机构[17]。说明中国科技伦理教育理念、模式和方法还不成熟，高校和企业针对科技伦理的教育和培训还不足。高校教育是青年学生成为科技工作者之前的关键教育环节，但当前高校之间的科技伦理教育水平参差不齐，多数学校并没有针对科研活动开设专门的伦理教育课堂，也缺乏统一规范的教材。社会伦理环境建设也不健全，企事业单位缺乏主动进行科技伦理培训的意识和机制，各类科技团队在宣传普及科技伦理知识方面的工作还普遍不足。在中国科协重点打造的创新资源融通服务平台—— “科创中国”网站上，仅查询到中国药理学会、青海省科协、无锡市医学会等少部分学会团体开展的相关科研伦理培训信息，未见其他学会团体的伦理培训宣传报道。

4 新时期科技伦理治理的行动取向和实现机制

新时期科学技术发展迅速，科技伦理治理也应紧跟形势，从国家科技安全治理以及实现高水平科技自立自强的高度出发，搭建好科技发展的 “刹车系统”，并推动建立多层次、多主体的科技伦理治理体系，追求科技向善，促进负责任的研究与创新。

4.1 新时期科技伦理治理的行动取向

(1)宏观层面：科技伦理治理同国家科技布局有机结合。从宏观层面来看，新时期科技创新高质量发展需要国家在进行科技布局时同科技伦理治理有机结合，从而使科技发展同高水平安全良性互动。科技伦理治理和科技发展 “互为镜像”，科技伦理治理水平也反映了一个国家的科技水准[18]。 “十四五”时期，中国将科技伦理治理内嵌于科技自立自强发展战略，鼓励自由探索，支持科学前沿拓展。尤其是在国家科技计划布局的量子科学、脑科学、合成生物学等重点新兴科技、前沿领域，未知因素更多，科技伦理风险相对更大，更加需要政府作为治理主体来统筹引领做好科技伦理治理工作，在国家科技布局中体现对科技伦理治理的支持，增加对科技伦理治理的项目研究资助，助力实现高水平科技自立自强。

(2)微观层面：科技伦理治理同具体科研项目有机结合。从微观层面来看，若要将科技伦理治理的顶层设计落到实处，则需要将科技伦理治理嵌入具体科研项目，使项目和治理相伴随。未来中国需要进一步深化科技伦理治理，将治理原则、标准等真正转化成项目实践，推动中国治理从被动应对转为主动预防。科研项目参与人员在需要着重考虑伦理风险的项目中可以运用伦理设计等方法，将伦理内嵌于具体项目中。荷兰学派 “道德物化”理论代表了科技伦理从理论走向实践这一方向，表现为将道德理念通过设计嵌入到物或计算系统中，包括使用加密技术、密钥管理技术、安全多方计算技术等实现个人隐私保护。大数据和人工智能领域流行的隐私计算、公平计算也是伦理嵌入算法的具体实践[19]。此外，还可以借助价值敏感设计 (Value Sensitive Design)这一技术创新方法，在概念分析、经验分析和技术分析三层递进的分析方法中将增进人类福祉、尊重生命权利、坚持公平公正等抽象的伦理原则转为有形的、可操作的技术要求[20]，增强科研项目参与人员的伦理意识和价值敏感性，有效实现其与各个利益相关者的互动，在项目早期设计阶段和项目进展过程中规避伦理冲突。

4.2 新时期科技伦理治理的实现机制

科技伦理治理是一项系统性工程，在科技伦理治理体系下，强调系统考虑科技伦理治理五要素，综合运用科技伦理的价值理念和科技治理的工具和方法来促进科技向善。基于此，本文构建 “一体一基三翼”科技伦理治理机制 (见图2)，治理机制内嵌伦理共治，覆盖科技发展全过程，在各主体协同共治中平衡科技创新发展和科技伦理治理的关系，突破伦理治理困局，从而在规避伦理失范风险时不至于遏制创新。

图2 “一体一基三翼”科技伦理治理机制逻辑

(1) “一体”：完善各层级科技伦理治理制度体系。伦理在科技治理中发挥作用，离不开制度的保障。加强科技伦理治理，应该根据科技发展需要来完善伦理原则、行业标准规范等 “软法”以及部门规章、法律法规等 “硬法”，进而推动形成各层级的科技伦理治理制度体系。

第一，对于一些刚刚步入探索的前沿领域或原始创新 “无人区”，面临着伦理治理空白的挑战，可由科学家、伦理学家、社会学家等多学科专家和公众代表共同商讨形成相对宽泛的伦理原则，以 “粗线条”的解决方案[21]来进行恰当的伦理治理，并为科技创新留出发展空间。

第二，对于发展较为成熟，通过技术成果转化与应用形成产业链的成熟科技领域，应该由具体行业领域的科研人员、技术专家、成果使用者等共同磋商，形成各主体认可的行业规范来指导科技活动。当前中国已发布了 《新一代人工智能伦理规范》，其他重要科技领域、科技细分行业也需加紧推动伦理规范的形成。

第三，对于一些规范性、强制性较高的伦理要求，研发设计中的核心伦理原则与规定应该明确为强制性的部门规章和法律法规，以强制性的程序要求来支持或保障伦理治理的执行和效果，基于底线约束、保障私人权利、兼顾公共利益保护、可行性来实现科技伦理法治[22]。相关立法也要体现 “全过程”的科技伦理治理要求，既要有对 “上游”研发设计的原则性、程序性规制，也要有对 “下游”科技使用违法行为的处罚和纠偏机制，将敏感价值的保护需要作为判断立法优先性和是否提升法律位阶的实质标准，并以科技伦理基本法和科技重点领域专项性立法[23]来构建中国科技伦理治理法律制度框架。

应该注意，要避免将科技伦理问题过度泛化，伦理问题无法全靠法律法规来解决[19]，法律不等于伦理，法律是伦理的底线，很多伦理问题都是不同群体间的价值冲突，需要共同磋商形成互相认可的伦理标准。

(2) “一基”：加强科技伦理普及和教育。树立科技伦理意识是建设科技伦理规范、推动科技伦理治理的前提。全社会各科研单位、科技类企业都有责任进行科技伦理普及和教育，行业组织、社会团体以及高校则是重要的排头兵。

第一，发挥中国科协、地方科协、各研究领域学会在科技伦理普及、宣传教育方面的重要作用，推动完善科技界的伦理自律体系，并助力提升社会公众的科技伦理意识。充分利用现有的各类科技平台，在 “科创中国”平台、科技服务公共平台、技术交易平台及各地、各领域政产学研平台上嵌入科技伦理宣传交流模块，发挥各类平台的科技伦理宣传教育作用。各科研单位、企业应该将科技伦理培训纳入科技人员入职培训体系当中，可主动组建伦理研究团队来完善本单位的伦理自律自治机制。各级科协、各类学会和研究会等行业组织、社会团体应该积极主动作为，借助各类峰会、研讨会、公开演讲和辩论、科普知识讲座、科普读物、专门的教育培训等途径传播科技伦理知识，宣传科技伦理治理相关制度，促进全社会层面形成伦理共识。

第二，强化高校科技伦理教育，将其纳入专门课程，作为相关专业学科本专科生、研究生教育的重要内容，引导青年学生主动遵守科技伦理规范，培养负责任的下一代科研人员，充实复合型的科技伦理专业人才队伍。当前，清华大学正在牵头推动高校科技伦理教育工作[24]，未来需在专题研究探讨、科技伦理课程建设、专业教材建设方面下功夫，还需在课堂之外将科技伦理教育融入科研活动中，以避免科技伦理教育泛化，让科技伦理观念真正内化于心、外化于行。

(3) “三翼”：完善伦理审查机制、多主体互动治理机制和全球合作机制。

一是完善伦理审查机制。第一，保证伦理审查委员会的独立性，提高非本机构社会人士担任委员的比重，吸收所在行业学会的高水平专家担任委员，对于同社会公众密切联系的科研机构或科技型企业，也可以吸收专业水平高的公众代表担任委员，提升伦理审查的客观性。在设立程序上采用 “第三方认证制度”，以保证审查主体拥有合格的伦理审查和监督资质。第二，基于伦理风险评估完善伦理分级审查机制，可以按照省级行政区划建立省内各科技领域的区域伦理审查委员会，完善伦理审查委员会层级。加强前瞻性治理，通过问题清单、伦理悖论推演等多种形式评估风险水平，及时出台分领域的科技伦理高风险科技活动清单。低风险科技活动由机构内部自行开展伦理审查，比如体细胞的基础研究；中风险科技活动在必要时可以引入外部区域伦理审查委员会进行伦理审查复核，比如体细胞的临床试验；高风险科技活动必须经由国家科技伦理委员会逐一进行个案审批，比如生殖系基因组编辑[23]，以最大程度降低伦理风险。第三，基于 “敏感价值+关键领域”合理确定伦理审查范围。敏感价值即人类主体性价值，包括利益与福祉、自由与自主、人性与权利、环境与安全等，关键领域包括国家科技计划重点关注的人工智能、量子科学、脑科学、纳米科学、干细胞、合成生物学等前沿领域[13]，这些前沿领域中涉及敏感价值的部分则是伦理审查的重点范围。另外，还要完善科技伦理应急审查机制，满足特殊时期的科技需求，并做好国际合作研究项目的科技伦理审查，防止将不符合所在国伦理要求的研究转移到伦理监管相对宽松的国家继续进行的伦理倾销行为[8]。第四，在伦理监管问责上，明晰伦理失范的识别方式和具体范围，明确科技伦理治理的底线和失范行为的问责处置。政府在监管科技伦理风险时要注重扩大监管覆盖面，实现对新技术研发应用的全过程伦理监管，让负责任的研究与创新贯穿所有环节。要有底线意识，根据国内外公认的伦理原则和必须遵守的价值理念划出科学伦理治理的底线，形成科技活动严格的道德伦理边界和底线，对严重失范行为实施终身追责，建立伦理失范的科学家黑名单制度，对其申请资助和开展研究项目实施限制，涉嫌违法犯罪的及时移送司法机关处理。

二是完善多主体互动治理机制。在科技发展战略制定、政策形成与实施、研究活动与应用等整个过程中，各个行为主体发挥着不同程度的治理作用。第一，政府方面应该打破科研管理各部门多头管理的困局，促进跨机构协作治理，依托国家科技伦理委员会统一协调推进伦理审查、评估、监管体系建设，依托公开统一的国家科技管理平台，公布科研项目全过程伦理审查等信息，对违反科技伦理规则的项目进行相应的惩处，包括取消资助项目、收回资助项目资金等，发挥财政资助项目的伦理示范效应；政府也要积极转向服务型政府，牵头构建多主体协商机制，搭建国家级的科技伦理综合网络平台，支持不同利益相关者借助平台对话交流，鼓励社会公众通过网络途径参与到讨论和决策中来。第二，企业应该做好自我规约，各类型科技企业应营造良好的企业伦理文化，加强行业自律，根据行业特点制定企业自律原则，做好本企业科研项目伦理风险评估，对照国家发布的重点领域科技伦理高风险科技活动清单做好项目的伦理审查，发布伦理原则遵循情况和伦理审查情况年度报告，主动回应公众诉求，积极承担社会责任。第三，发挥人文和社会科学专家、科技团体、社会公众等的监督和反思作用，畅通事前主动介入伦理治理的渠道，充分表达利益诉求，深度参与到决策过程中；科研人员应该主动遵守伦理治理相关规则，在制度框架内从事科技活动，主动通过伦理设计等方式将伦理原则转化为行动。第四，构建多主体互动协作下的行动者网络[19]，通过选举程序选出各主体代表，组建多主体代表联席商议伦理团体，发挥团体代表的决策咨询作用，以合作研究、互动磋商、头脑风暴等形式将分散的知识协调组织起来，让各主体在透明交互的过程中互相交流、充分反馈科技活动全过程的伦理问题，让应该遵守的伦理底线明晰化，以提升甄别、防控科技伦理风险的能力和水平。

三是完善全球合作机制。历史上的中国是引进模仿型创新， “先做事、后讨论”的模式引发的一些科技伦理问题严重影响了中国科技发展的国际形象，随着越来越多的科技领域由 “跟跑”走向 “并跑” “领跑”，国家科技计划强化原始颠覆型创新导向，必须转变传统的 “先做事、后讨论”策略，积极主动参与国际科技伦理治理合作，在国际科技竞争中掌握科技伦理话语权，防止国际上的科技伦理 “霸权”。同时，新技术的快速发展很快打破了国家边界，科技活动具备全球性，科技伦理风险是全人类面临的共同挑战，加强科技伦理全球对话和商议，推动国际社会形成各个领域的伦理共识是未来各国共同努力的方向。应该注意，不同国家的科技伦理治理水平参差不齐，使得伦理倾销问题可能出现，因此在全球合作中应从 “人类命运共同体”的立场出发，破除狭隘的国家保护主义、民族主义，建立有效的国际信任、磋商机制，构建统一的国际伦理标准和公约，共同促进科技真正造福全人类。