共同富裕示范区科创高地建设关键共性科技伦理风险研判及治理——基于文献综述与案例分析

林思达，姜 慧，张 皓，林 琼，曹梦蕾

（1.浙江省科技项目管理服务中心，浙江杭州 310006；2.杭州师范大学，浙江杭州 311121）

1 研究背景

科技创新在促进我国社会经济高质量发展中发挥着支撑作用，但是科技发展也会产生异化，高风险科技活动如基因编辑婴儿可能给人类社会发展带来长期和广泛的不良影响，因此，科技发展需要道德先行和伦理规制。科技伦理治理的迫切需求引起了我国政府的高度重视，2021 年12 月，我国新修订《科技进步法》，为科研伦理治理提供了法律保障；2022 年3 月，中共中央办公厅、国务院办公厅印发的《关于加强科技伦理治理的意见》则首次在国家层面对我国科技伦理治理工作作出系统部署，明确要求制定科技伦理高风险科技活动清单（以下简称“清单”）。清单的设立是科技伦理治理政策落地的重要举措，科技伦理风险预判是科学建制的基础。目前，国家科技伦理委员会正积极研究、起草清单，并向科技伦理学界、政府相关部门征集意见和建议。

浙江省正高质量发展建设共同富裕示范区，为全国推动共同富裕提供省域范例，拟在2035 年建成“互联网+”、生命健康和新材料三大科创高地，以促进生产力发展和共同富裕。但是，科技发展过程中潜在的伦理风险值得引起高度重视，如信息平权困境、生物资源分配问题等可能对实现社会公平和共同富裕产生阻碍，对相关科技活动的伦理治理必须深刻体现共同富裕的政策伦理价值。

为此，本研究针对《浙江省中长期科技创新战略规划》中列举的“十四五”期间重点发展的“互联网+”、生命健康和新材料科学领域中的代表性科学技术，通过系统查阅国内外相关文献，对上述领域科技活动的潜在伦理风险进行汇总分析，以期为浙江省在共同富裕示范区科创高地建设中科学预判相关科技伦理风险提供基础，为国家制定清单提供参考。

2 文献检索策略与检索结果

以浙江省在“十四五”期间重点发展的人工智能、区块链、胚胎、干细胞、基因测序、基因诊断、基因编辑、生物样本数据库、精准医学、神经生物成像技术、脑机接口、新型结构材料、新型功能材料、新型智能材料等技术为主要研究对象，选取 Web of Science、PubMed、Scopus、中国知网（CNKI）、万方、维普等6 个数据库进行检索，检索时限为建库至2022 年2 月16 日，并根据已检索出文献的参考文献进行拓展检索。检索的关键词为“伦理问题”“伦理风险”“风险与受益”“受试者保护”“自主”“知情同意”“公平”“公正”“安全”“尊重”“责任”等。

遵循代表性和权威性原则设置纳入排除标准，对所检索出的文献进行如下处理：（1）按照代表性原则，尽量选取被引用率高、代表性强的文献，以保证样本质量；（2）按照概念的权威性原则，主要选择有影响力的期刊中的文献，排除公告、声明等文本；（3）按照纳入排除标准，由两名经过培训的研究者各自独立进行文献筛选，如有分歧先通过内部讨论解决，若无法达成统一意见则咨询本领域专家进行裁定。在筛选文献时，首先阅读题目和摘要，删除重复或明显不符合纳入标准的文献；然后全文阅读，删除研究内容不符的文献。按纳入排除标准和人工清洗后，最终获得文本资料143 篇，包括英文学术文献79 篇和中文学术文献64 篇。

3 关键共性科技伦理风险研判

3.1 信息科学领域

数字经济在推动社会发展的同时，数字鸿沟可能会带来信息平权困境，对实现共同富裕带来挑战。信息化催生了新的信息弱势群体，他们可能因为遭到人工智能（AI）技术中的算法歧视而无法公平地获得信息资源，继而损失有关健康、教育等基本权利，滑向社会经济更低层次；同时，数字化技术造成的诱导需求、安全漏洞等问题可能影响相关产品受众群体的自由意志和正当权益，分割信息技术应用主体的责权，破坏公平的市场规律和公共秩序，阻碍共同富裕的进程。因此，需要充分预判防范其中的伦理风险，从而发挥共同富裕的制度伦理价值。

人工智能是以互联网、大数据、云计算为基础，模拟、延伸和扩展人的智能的技术手段，在复杂决策、控制系统、仿真系统等应用中发挥巨大作用，其道德地位、算法公平、社会公正等内容成为了科技伦理的关键议题［1］。人工智能道德地位的界定是科技伦理辩护和法律规制的焦点，但其利益相关主体如设计者、制造者和使用者的责任、义务的界定颇为困难［2］。人工智能算法的不透明性会导致算法歧视，由此催生信息不公平和数据权利失衡［3］。人工智能可能对民众意志产生诱导，通过算法推理、内容推送和图示等影响个体信息接触面，影响受众情绪体验和决策选择，诱导人群作出非真实自我自由的选择［4］，从而破坏市场的公平秩序。机器学习产生的深层假象（deep fakes）给公共安全带来了巨大挑战。深度学习能够通过大数据深度伪造假视频、假文本等假数据集，因此可能威胁公共秩序和市场的公平稳定［5］。此外，与人密切接触的AI 设备的安全性、公平性存疑，如机器人手术往往存在着循证医学证据不足、数据质量不佳、样本量过小等问题［6］，鉴于高昂的费用，其投入与产出比可能不佳，因而导致卫生资源的配置不合理。

区块链通过数据的存储、认证、执行等技术打破跨部门间的数据壁垒，实现区域数据的流动、共享、透明化和溯源，在促进社会治理结构扁平化、公共服务透明化和构建自由开放市场中发挥重要作用［7］，但其中存在的隐私安全、个体主权、知情同意等方面的问题值得重视。区块链智能合约的安全性存在巨大风险：由于智能合约依赖于数字代码，可能因人为侵入、管理失误、系统安全漏洞等无法正常运行［8］。区块链具有去中心化的特点，使得对责任主体的界定极为困难，责任的追溯无法落实［9］。区块链数据具有不可篡改性，基础数据可以追溯个人元数据，造成隐私泄露的风险［10］。此外，智能合约参与者的匿名也给破坏市场规律和金融秩序、妨害公共安全等行为埋下隐患［11］。

3.2 生命科学领域

生命科学新技术对人群健康平权带来巨大考验，而健康平权是实现社会公平、促进共同富裕的重要基石。健康平权的困境主要来自6 个方面：一是生命科学新技术占用卫生资源而导致的分配不公问题；二是生命科学新技术带来的人类基因天赋不公和健康素质差异；三是生命信息所有权归属的公平性问题；四是会聚技术中人机结合带来的公民责任与权利匹配性难题；五是知情同意困境加重弱势群体的风险-受益不合理问题；六是由于基因和神经信息等隐私暴露带来的次生社会歧视。以上这些伦理风险在干细胞、基因技术、神经生物成像技术等中的具体呈现如下：

干细胞技术和基因技术为机体修复、改造提供了机遇，但其带来的卫生资源占用、人类增强、基因歧视等问题可能造成健康权的不公。诱导多能干细胞极大程度缓解了干细胞来源紧缺的问题，但其商业化运作可能使社会经济地位高层次人群占用卫生资源获取健康利益［12］。生殖系基因编辑将造成严重的先天基因天赋不公，从基因编辑婴儿事件可见，科技改造人类的狂热内驱力仍然存在，因此须严格建制约束［13］；虽然体细胞基因编辑的研究可以得到伦理辩护，但基因修饰产生的人类增强也会造成基因天赋的不公，需要格外审慎［14］。基因专利权归属的争议日益剧烈，虽然多个国家已经立法授予基因专利权，但基因密码的所有权应该归属全体人类还是研究者，是应该保护研究者的垄断利益还是维护基因提供者的利益，依然是基因信息权争议的焦点［15］。区别于一般生物信息，基因信息具有高度敏感性，个人、家庭的基因密码如果被暴露，其可能会受到基因歧视，以及影响其有关生育、医保、就业、升学等社会权益［16］。

生物样本数据库有组织地大规模收集生物材料样本并系统保存和利用生物信息，为精准医学、人群基因组学等研究提供了必要条件，但区别于传统临床研究人体安全的第一考量，受试者信息保护应该成为生物样本数据库首要考量的伦理问题，以保证受试者的合理的风险与受益［17］。生物样本数据库的数据安全、知情同意困境有可能增加受试者风险。生物样本信息的存储亟须制定相关的标准，如语义异构、模式异构等［18］，数据保密需要解决数据入侵、数据主体身份被破解的风险等。样本捐赠者实质上只被赋予受试者是否入库的权利，并未被赋予按照自我意志运作自身生物样本的积极权利，因此真实的知情同意难以达成，受试者的风险与受益存疑［19］。由于在生物样本收集时无法精准确定实验内容，因此无法采取经典的和层列式的知情同意程序［20］；在生物数据被调取研究的过程中，研究者可能因新的科学发现而产生新的研究需求，但难以保证其向受试者的主动更新告知［21］，且文化水平较低的受试者因理解力的限制而损失知情同意权。此外，生物样本或信息的共享分配公平问题受到持续关注。生物资源不能作为商品进行交易，应该接受严格的监督，需要建立专家指导委员会、管理委员会、监督委员会实施共同管理［22］。

精准医学以个性化理念为导向开发适合个体特质的诊疗方案，为精确判断疾病、预测诊疗提供路径［23］，但是，基因诊断的疾病并不一定是事实疾病，基因诊断带来的过度诊断可能造成相关个体心理焦虑和医疗资源的浪费［24］。由于精准医疗具有高投入性，其可能挤占基本卫生服务资源，降低卫生体系的总体健康产出价值，拉低卫生资源的投入与产出比，造成实质上的卫生资源浪费［25］。精准医学是一种转化医学，需要独立的伦理审查，且由于其中涉及的科研单位和医疗机构主体多样，审查的内容需要高度相关的专业知识，因此需要成立专门的伦理委员会实施审查［26］。因为精准医学产出的效果极为复杂，因此要严格把控其疗效和安全性，严格评价有关风险与受益比，保证受试者的利益［27］。

神经成像技术突破了传统的结构成像功能，进一步完善了功能成像能力，但该技术的适用范围可能突破了诊断与治疗等传统医学目的，成为窥见受试者的心理、行为甚至遗传模式等隐私的路径［28］。功能成像能够捕捉个体的意识、思维、认知和决策模式等个体内动力素质特征，如果在就业市场、医疗保险等领域中被滥用，那么可能产生严重的社会歧视［29］；语言加工、学习记忆、认知能力等信息也可能成为学生能力天赋筛选的依据，一旦被滥用，可能导致严重的教育不公平。成像技术与基因表达结合，可判断代际遗传和神经性疾病的关系，预测下一代或更远代的发病情况，如果使用不当，那么个体或后代的神经遗传信息隐私权极易受到侵犯并令其遭受社会歧视［30］。此外，由于神经成像技术具有暴露个人脑功能信息、干涉个人精神安全的风险，因而获得受试者的知情同意具有一定难度，受试者的权利保护成为重要的伦理议题［31］。

脑机接口是具有代表性的会聚技术之一，通过收集、分析神经信号并采用算法加以转化，实时操控联结的设备来达到神经康复和人体外部辅助等目的，必须要重视电子元件和人体相连接时的技术安全性问题，因为外部程序能够影响人脑功能、干预自我认识和意志，所以需要高度重视如何预防外部程序违背人类意志、产生危害人类的行为［32］。脑机接口辅助的患者的行为责任界定极为困难，由于受到外部程序的影响，人格同一性的前提难以保证，行为到底是出于人的自我意志还是程序推演难以明确，因此行为追责极为困难［33］。和神经成像技术类似，脑机接口可被用于人类潜意识探测，因此也可能暴露神经隐私、干涉个人精神安全［34］，为社会歧视埋下隐患。更为棘手的是，需要脑机接口辅助的受试者可能无法保持清醒意识，例如闭锁综合征患者，那么就意味着受试者真正的知情同意无法达成［35］。

3.3 新材料科学领域

新型结构和功能材料由于具有独特的结构、形态和表面性能，在能源、光电、生物医学等领域得到了重要运用。生物新材料通过生物合成为机体提供生物材料，新型智能材料因自适应性反馈功能而在生物医药、智能交通等领域具有重要的应用价值，但是新型材料可能带来的人类增强将造成健康权的不公，其高昂价格可能造成卫生资源的不合理配置，其带来的人体危害和环境污染尤其值得重视，须谨防弱势群体沦为新型材料生产风险、环境风险的受害群体。新型结构和功能材料与医学的结合可能打开人类增强之门，威胁社会公正，例如，使用碳纳米管制造的人造肌肉可用于治疗运动系疾病，但如果超出治疗范围应用，使正常机体拥有超常运动能力，这就可能引发新的社会不公［36］。同时新型材料的远期治疗效果尚需要循证依据佐证［37］，如陈黄敬一等［38］、Sethuraman 等［39］的研究表明，纳米材料在激活免疫应答、纳米多糖在修复心血管系统、活性玻璃在创面黏合、特殊载体在靶向药物治疗中应用等方面的研究仍有待深入；而昂贵的费用可能造成患者的沉重经济负担，不确定的治疗效果带来健康风险，因此，卫生资源的投入与产出比可能被拉低。生物合成材料的应用也存在此类问题，如合成生物学将基因、酶等核心生物元件整合为自然界不存在的生物系统，合成体的稳定性往往存疑，毒性生物元件的识别具有难度，因而可能产生生物相容性差、免疫原性大等副作用［40］，影响到受试者或者患者的风险与受益。

新型材料的研发和应用可能存在人体危害和环境污染，需要重点防范，尤其要注意弱势群体保护。新型结构和功能材料的生物毒性及不稳定性可能危害人体健康，如人体吸入纳米材料可引发致命性肺损伤［41］；新型材料在环境中的沉积可能造成生态污染，其生物毒性可能通过土壤、粮食、牲畜的吸收发生富集，并通过生物链传递至人体［42］；生物新材料合成体可能因基因变异、基因逃逸而使特定遗传物质扩散到环境的其他有机体中，形成新的物种甚至新的病原生物，严重威胁生态安全和公众健康［43］；新型智能材料生产过程中使用或产生的材料如石墨烯等也可能造成环境危害，新型智能材料研发水平领跑的国家如英国极其重视智能材料产业环境污染的防控，新型智能材料的环境风险可见一斑［44］。基于以上风险，要尤其注意避免经济不发达地区的弱势群体沦为生产风险、环境风险的承担群体，因此有必要对新型材料的研发和生产的选址、用工等进行严格规定。

4 重点科创领域伦理治理推进路径及案例

4.1 三阶元治理伦理治理路径

基于新兴科技活动的伦理风险，浙江省有必要有针对性地开展科技伦理治理。共同富裕的政策伦理价值在于通过构建公平公正的治理秩序，赋权治理主体共同参与，促进治理主体的自我成长，体现民主的工具理性和社会主义的价值理性，从而指引共同富裕的取向、完善共同富裕的机制。然而，传统的伦理治理模式难以满足这一需求，创新伦理治理模式亟须开拓，需要回答伦理治理的切入点、责任主体和实现路径等3 个核心议题。1975 年美国召开的阿西洛马会议明确将预警性思考作为应对新技术带来的伦理风险的重要原则，呼吁将预判科技伦理风险视为有效治理的起点［45］。这次会议是伦理治理演进的一个里程碑，标志着前瞻性伦理治理新时代的来临。针对科技伦理治理责任的归属问题，中国科学院院士许智宏主张科技伦理问题的防范与治理不只是科学家的个人责任，应该由政府、学术团体、媒体和公众等共同参与，因此，应以多元主体共同参与的伦理治理网络作为框架。由于新兴科技具有前沿创新性、动态变化性和多元互动性，政府科层式治理难以快速回应科技伦理治理需求，因此宜采用强政府、强社会的元治理逻辑。借鉴诺贝尔经济学奖得主奥斯特罗姆的治理理论模型［46］，在元治理中，政府应承担建立上游规则、提供政策保障、促进监督落实的三阶治理责任，科研单位、学术团体、研究者、受试者、社会公众等主体应共同承担伦理审查建制等二阶治理责任以及科技伦理培训、科普等一阶治理责任。多元主体共同参与的元治理路径较好地契合共同富裕的政策伦理价值，通过对多元主体的公平赋权，规避在科技伦理治理决策中的政府失灵现象，以及治理落实中的利益相关者瘫痪，给予社会经济弱势地区、弱势群体共同治理话语权。

4.2 浙江省基于元治理的科技伦理治理实践

浙江省业已开展多元主体共同参与的元治理科技伦理治理路径的探索，其中重要的尝试是进行数字一体化发展的伦理治理。数字化改革是浙江省深化社会经济改革的总抓手，早在2003 年，习近平总书记提出“数字浙江”建设；2014 年，浙江省全面实施“四张清单一张网”，促进信息技术在公共服务中的应用。信息化技术极大程度地提高了浙江省公共资源的利用效率，截至2021 年 6 月底，浙里办APP 为6 900 余万名用户提供了3 642 项政务服务事项［47］；全省电子商务、企业互联网平台2021年实现网络零售额25 230.30 亿元［48］。然而，其中所包含的数字信息安全、隐私保护、数字鸿沟等科技伦理焦点问题已经引起浙江省的高度重视。在科技伦理治理中，浙江省政府作为元治理者行使三阶治理职能，不仅需要推动信息技术伦理治理上游制度的完善，还要为多元主体的共治提供基础治理平台，为此，通过立法保障数据人格权以应对过度采集公民信息、数据隐私保护问题，为伦理治理提供上游保障。《浙江省数字化改革标准化体系建设方案（2021—2025 年）》明确提出要促进数字法治在内的五大系统标准体系的基本建成，为科技伦理治理提供政策指引。同时，浙江省还促进多元主体参与一阶、二阶治理，具体做法有：一是建立良好的领域内自纠自查伦理生态，构建适合信息技术开发群体特点、协作习惯的伦理自查自纠社区机制，推动自我伦理监督；二是建立信息化领域伦理专业指导委员会、审查委员会，制定信息化科技伦理治理的专家共识，开展重大科研项目的伦理审查、追踪、监督和指导；三是依托信息化技术优势，建立特色领域的伦理治理信息化平台，设立公共专家库，采用信息化管理工具降低伦理治理措施落地的技术门槛；四是拓宽民众参与治理的途径，建设民主促民生公共治理平台，开展了“12345”市长热线、民意直通车、民主恳谈会等特色治理实践。

5 总结与展望

浙江省作为我国建设的共同富裕示范区，在促进社会公平、公正和高质量发展中需要重视在“互联网+”、生命健康和新材料技术发展等带来的伦理风险。研判新兴科技的潜在伦理风险是科学建制的基础，这些新兴科技对社会经济发展带来深刻影响，如产生信息平权困境、健康权利的不公等问题，继而可能影响公平公正的市场秩序、造成公共资源的不合理配置，损害社会经济欠发达地区和弱势群体的福祉，最终对共同富裕造成阻碍。对关键技术领域的伦理治理需要构建公平公正的治理秩序，赋权治理主体共同参与，指引共同富裕的取向，完善共同富裕的机制。多元主体共同参与的元治理路径较好地契合共同富裕的政策伦理价值，浙江省政府需要在其中担当元治理者的角色，完善科学技术伦理治理的上游制度，同时为多元主体的共治提供基础治理平台，促进科研单位、学术团体、研究者、受试者、社会公众等主体共同承担一阶、二阶治理责任。目前，浙江省业已探索开展多元主体共同参与的科技伦理元治理路径，在数字一体化发展的伦理治理中促进多元主体伦理治理责任的落实。

综上，来自于共同富裕示范区科创高地建设的科技伦理风险预判，可为国家制定清单提供参考，而多元主体共同参与的元治理模式，可为实现共同富裕政策伦理价值指引下的工具理性和价值理性提供思路。