量子论、量子思维与面向未来的科技伦理＊—钱旭红院士访谈

付长珍 成素梅 刘梁剑

付长珍（以下简称“付”）：钱校长，您好！首先要感谢您在2020 年接受《华东师范大学学报（哲学社会科学版）》 新设栏目“重启科技与人文的对话”的访谈。访谈稿《文明新曙光下的科技人文与大学之道》 刊发之后，学界反响很好。不少学者建议我们把相关内容延展深化下去，推动对当下时代重大问题的思考：在中国文明及世界文明的转折点上，科技改变人文，人文能否应时而变？人文范导科技，科技能否避免异化？

钱旭红（以下简称“钱”）：好，我们就继续一起聊聊相关话题。单独一个人考虑问题不一定能那么深入，而在讨论的过程中，在相互的激荡和启发中，平时想不到的问题，可能就突然灵光闪现了。所以我很喜欢这种对话。我今天对话的聚焦点是：文明要发展，哲学首先要先行。

刘梁剑（以下简称“刘”）：上次访谈涉及文明、思维、教育等诸多内容，核心是科技与人文的关系。就科技重塑人文而言，钱校长讲到，量子论有可能给人文社会科学带来颠覆性的影响。就人文引导科技而言，钱校长特别强调了伦理的重要性。这里有很多值得进一步探讨的问题。比如，如果我们把科技与人文的关系聚焦为科技与伦理的关系，那么，我们就需要追问：量子论、量子思维对科技伦理的未来发展有何启发？

成素梅（以下简称“成”）：我很高兴参与这次访谈。科技与人文的关系是多方面的，就当前而言，随着第四次技术革命的深化发展，科技与伦理的关系越来越成为显学，不再是学者书斋里的学问，而是已经成为治理规范。比如，2021 年底联合国教科文组织的193 个成员国发起签署首份“人工智能伦理全球框架协议”，发布了《人工智能伦理问题建议书》 ，我国科技部在2021 年9 月发布了《新一代人工智能伦理规范》 。在我们关注科技与伦理问题的背后，更基本的问题之一或许是思维方式的转变。不同的思维方式对同一问题可能会提供不同的解决方案。如果说，工业文明的思维方式是建立在经典自然科学基础上的思维方式的话，那么，从工业文明到智能文明的思维方式之转变，可能需要从量子理论的发展中去寻找。

一 量子论与哲学

钱：我们今天的文明几乎百分之九十都是基于量子论的，但是，大多数人“日用而不知”，并不知道量子论对我们生活的巨大影响。普朗克在1900 年提出量子论，20 世纪二三十年代又出现了现代量子论。虽然一百多年过去了，但量子论比其他理论难，不容易普及。我跟潘建伟院士讲过一个观点，他很赞同。中国现在能够教量子论的人和能够讲量子论的人，按人口比例来说远远低于20 世纪80年代。那个时候，刚刚改革开放，人们愿意接受新鲜事物，哪怕是看起来“稀奇古怪”的东西。

成：是的，20 世纪80 年代以来，许多量子物理学家的论著被译成中文，为我们带来新思想和新认识。华东师范大学七十周年校庆之际，在《哲学分析》 杂志发表了《量子思维宣言》 。宣言的发表引起了不小的反响，有赞赏的，也有批评的。有些批评者可能混淆了量子论和量子思维，同时对量子论也不是很了解。因此， 开展量子科技的科普工作非常重要。

付：量子论确实不好理解。它在很多地方“匪夷所思”，挑战人们的日常理解，有悖于我们的常识，甚至不合逻辑，所以就“不可思议”了。波粒二象性，波意味着弥散于无限的空间，粒子意味着集中于空间的某一处，既是波又是粒子，这已经有些难以想象了。两个量子纠缠的光子被远距离分开仍然能够保持纠缠状态，仿佛像“心灵感应”一样，那就更不可思议了。

刘：我国的“墨子号”量子科学实验卫星已成功实现了卫星和地面之间的量子通信。这说明，不可思议的量子论行之有效。有意思的是，先秦时期的墨子提出检验言论是非的“三表”，即三个标准，所谓“有本之者，有原之者，有用之者”。最后一个“用之者”强调学说付诸实践所达到的实际效果。从“用之者”来看，量子纠缠是存在的。

钱：比起量子力学，人们对牛顿力学的接受就容易多了。四百年前产生了牛顿力学，一出来就很轰动，轰动之后人们马上就接受。因为很多人都接受了，没有什么人敢提出异议。那是为什么呢？第一，肉眼所见的和它描述的一样；第二，这和人的惯性思维也完全一样。而量子论出来以后，人们却一直在抵抗，感觉很难接受它。

实际上人们每天都在感受量子的东西。举个简单的例子来讲，我们怎么看见颜色的呢？眼睛中有三种感光色素视锥细胞，各自对不同波长的电磁波敏感。光线就是一种电磁波，不同的光线打到眼睛当中，激发出三种视锥细胞不同的活跃度，信息传递给大脑，于是我们看见了不同的颜色。这就是一个量子过程。因为我们以前不了解这个过程，我们就认为这是理所当然的，就根本不知道这是量子过程。而且就算懂了之后，我们还是会有抵触感，不愿意接受它。

我们不能一直说世界都是量子的，至少有一小部分还是属于经典的，如牛顿力学和经典统计。但我们往往把那个量子退相干之后的状态认为是全部的绝对的真理，把另外一大块全忘掉了。所以为什么很多人会反感听到量子呢，因为他们不知道整个框架是这样的。由量子力学是可以推出牛顿力学的，而牛顿力学是推不出量子力学的，因为牛顿力学是量子力学的一个特例。

成：确实，量子力学与经典物理学完全不同。我们通常习惯于决定论的思维方式，似乎这样才有安全感。玻恩认为，世界本来是概率的，决定论是概论等于1 的一个特殊情况。

钱：所谓的安全感一定程度上就会带来创造性的减退。我们都是把特殊的规律看成了普遍性的规律。这是我们最大的风险所在。

成：前面钱校长讲到，量子论本身有一个发展的过程。我们理解量子论的时候也要注意这一点。我们对量子力学的理解，不能停留在初创时期。当时，普朗克提出的量子概念是特指一个基本的能量单位或一份很小的不变的能量，意指电磁波的辐射不是连续的，而是一份一份地辐射出去的，这样的一份能量叫做能量子。但是，随着量子力学理论体系的建立和量子信息技术的发展，“量子”概念本身的内涵也在最初指最小能量单元的基础上有了很大的扩展。20 世纪20 年代量子力学形式体系的建立，向我们揭示了微观粒子具有波粒二象性、量子测量具有不确定性、量子概率具有根本性、量子态叠加原理蕴含了量子纠缠和非定域性关联等令人震撼的新概念和新认知，带来了第一次量子革命。到20 世纪末，量子力学基本原理的拓展应用，掀起了第二次量子革命。现在，学界普遍将以量子理论为基础发展起来的新学科、新领域以及新的方法，以“量子”二字开头来命名，比如，量子化学、量子生物学、量子通讯、量子算法、量子计算、量子比特、量子哲学等。

钱：对。从1900 年的“量子”到1920 年的“量子”，再到1980 年的“量子”，内涵不一样了。当然，基础是从普朗克开始的。那时候就打开了一个世界的小亮点，慢慢发现，噢，原来世界是这样庞大。成老师熟知量子论和哲学，今天有成老师加入，相信我们的交流会进行得更加深入。

付：量子论和哲学之间天然具有密切关系。有一个细节可以佐证：1913 年，玻尔关于量子理论的三篇重要论文都是发表于英国的《哲学杂志》 。

刘：海森堡也评价玻尔说：在本质上，玻尔是位哲学家而不是物理学家。

成：海森堡在为《玻恩—爱因斯坦书信集》 撰写的序中认为，科学家的哲学态度基本上决定了他们研究的高度。我觉得，当代哲学研究有必要从深入到有思想深度的科学家的著作和前沿科学理论中吸取营养与洞见。钱校长倡导运用量子思维来促进教育改革是有前瞻性的。量子理论摧毁了在“连续性”观念基础上建立起来的理论框架以及传统认知，带来了一系列颠覆性的哲学挑战。在科学史上，还没有一个理论像量子力学那样如此彻底地颠覆了我们对实在的传统认知与理解。在量子领域内，物理学家需要扩展“实在”概念的含义，才能理解与把握量子理论的实在性。自在实在、对象性实在和理论实在分别构成了三个不同层面的实在，如何理解三种实在之间的区别与联系，构成量子科学哲学研究的问题域之一。像康德为理解经典科学的成功进行哲学奠基那样，生活在当代的哲学家，也到了需要主动承担起系统地消化吸收量子理论的历史使命的时候了。

钱：确实，在哲学层面上，量子论给人类带来最大的冲击是对实在世界的认识。观测者、观测仪器和观测对象之间组成了一个相互依存的复杂系统。自在实在、对象性实在和理论实在，三种实在之间是什么关系？《道德经》 讲，“道生一，一生二，二生三”，“三”就呈现出复杂性了，所以紧接着就是“三生万物”了。复杂性就是从“三”开始的。在天文学中有一个“三体问题”，这是一个很重要又很困难的问题。在日常生活中我们也能体会到。为什么《三国演义》 好看？“三”个国之间互动，排列组合，有无穷多的可能性。人眼要能看到光，至少要有三个光子，两个光子就看不见了。

哲学从其诞生之日起，就不是一门单一的学科。历史上的哲学大家，无一不是学贯古今、文理兼修。如果说以牛顿经典力学为代表的近代科学的发展，让哲学从宗教神学回归了自然世界，那么量子力学的进步，有可能以一种全新的方式改变哲学家的思考。如果说在过去的几百年，我们的科技和哲学一直在被动地跟随、追随西方世界，而当今，我们第一次站在了人类科学技术和思想的前沿，并很可能在量子时代站立潮头，掌握自己的命运。

我们与科睿唯安公司合作进行了中国人文社科的国际化前沿研究，运用大数据、智能方法和领域专家集体的融合判断等建立了“数智人”模型方法， 此方法的综合判断表明，我国在哲学领域与全球同行比较，有优势有弱势，有差距也有特色，具体见我们的内部报告。但有两点很值得我们共享，并应该加以注意和改进，一是我们目前的哲学研究还比较传统，与快速发展的科技交叉较少；二是应对和回答重大人类和社会发展问题较少，离在全球建立中国的话语权，相距甚远。这一切告诉我们，前路还非常艰难，还远没到自我满足的时候。

二 从量子论到量子思维

付：前面谈到，我们不能混淆量子论和量子思维。量子论，或者量子力学、量子理论、量子学说，属于物理学理论。量子思维则是我们用量子论中的某些术语和观念来描述一种特定的思维方式、认知方式，而这种思维方式之所以称为“量子思维”，是因为它是建立在量子力学所揭示的世界观之上的。我们可以用量子思维处理物理学之外的问题，包括社会科学及人文学的问题。

刘：《量子思维宣言》 强调，量子思维方式是一种具有量子概率性的思维方式，是一种非定域的思维方式，是一种确认事物间存在不可消除的不确定性的思维方式。

钱：我有本书名就叫《未来无限》 ，我们常常被告知，未来是这样的，如这是唯一正确的道路，要我们沿着这条道往前走。但你怎么知道这是唯一正确的道路？即便过去事实证明了它是正确的，那也只能说，这在过去是正确的道路。如果你要说，将来这也是唯一正确的道路，谁告诉你的？这话本身就是错误的。

成：所以，量子思维的关键是树立一种接受多元的思维方式。运用这种思维方式看问题，自然会看到新的面向，因此，思维方式的改变会激发出创新活力。在传统思维方式框架内进行改革是难以行得通的，改革肯定是要先打破传统思维，才能看到问题的本质。

钱：我们正身处一个伟大的时代，从“知识就是力量”（培根）走向“思维就是力量”。用华东师大哲学系创始人冯契先生常用的话来说，这是一个“转识成智”的时代。在这个时代，给我们带来力量的思维应该首先是量子思维。如果说，过去的一百年，量子学说已经颠覆了自然科学技术和工程；那么将来的一百年，量子思维将可能颠覆人文社会科学和艺术。

刘：从量子论到量子思维，有一个问题还需要说明。量子论关乎微观世界、关乎物质，量子思维则是运用到人文社会科学，而人文社会科学所对应的是一个由人所组成的宏观世界。这里是不是有一个跳跃？

钱：微观世界以量子为主，这个大家都是接受的。但宏观世界、宇观世界是不是适用量子力学？从毫厘尺度的宏观物体到无生命的星球体系，初看起来主要遵循以牛顿力学为代表的经典物理学规律，但实际上，经典规律只是量子力学规律的特殊情形。从宇宙大爆炸到加速膨胀的星系，这些宇观客体都符合量子论的基本规律。和人文社会科学密切相关的是，从单细胞生物到高级哺乳动物，这些复杂的生命体，在相当程度上符合量子论的规律。尽管有关人脑深处的认知和意识在物理机制上是否严格遵循量子论的基本规律，目前尚无定论，但人类的认知和行动模式相当程度上体现了量子思维的特点。宏观世界本来就存在肉眼可以观察的量子现象，生命是一种经典与量子交界处的量子现象，现在有越来越多的相关研究论文发表。

我们做一个思想实验。小孩玩肥皂泡泡，这些泡泡出来后会不断变形，这是由于风和空气的影响，即使你认为没风，但事实是有风的，因为它太微弱你感觉不到眼光压力。现在我们想象，你的眼光是有压力的，眼光是波嘛，你看到他人意识的“肥皂泡”的时候，你的眼压给它造成影响，这个肥皂泡也就因你而变……

刘：社会领域就更明显了，你看别人的时候……

钱：注视就是一种干扰！所谓的最敏感的东西，就涉及一点。这世界是不是物质的？我会认为，世界是物质的，但是最小的物质是你看不见的，因为无法检测，它已经小到无限之小，小到它既是波也是粒子，既不是波也不是粒子，它无处不在，它也可能无影无踪，更可能因被测而定域变现、因你而不同，无不是无，真空不是空。那它是不是灵魂呢？灵魂的就是物质的，无限小接近“无”的物质的就是灵魂的，也就是我们通常所说的“精神”。如果我们这么想，视野就可能很不同。

成：普特南是著名的心灵哲学家，他在晚年转向自然实在论立场时认为，心灵是人的一种能力。这也意味着物质和精神的统一。

付：钱校长前面对“三国”的解释提示了社会领域的复杂性。量子思维提醒我们注意系统的复杂性。社会领域的复杂性，首先就是因为行为主体（agent）的数量多，彼此间的连接就很多，由此产生各种“社会能”，导致或快或慢、或渐或顿的变化。另一方面，社会领域的复杂性也和行为主体的多样性有关。行为主体除了个人之外，还包括形形色色、大大小小不同的群体。不同行为主体之间相互作用带来几乎无量的可能。当代法国哲学家埃德加·莫兰就提出来复杂性思维、复杂性伦理，认为一种复杂性科学思维正在形成，伦理调节和监督已经成为科技发展的当务之急。

刘：我们古人造字也很有智慧。三“木”成“森”，三“人”成“众”，森和众都是复杂系统。

钱：对呀，中国古人在造字的时候就有这个特点。恰恰科学上证明了，一到了“三”以后，事物就发生很大变化。你要研究一个群体，最好的研究方法，就是研究3 个要素。它可能有7 个要素，但你可以精简而保留3 个。你把这三个研究清楚了，基本整体就有了。我们现在做科学研究的方法，很多都是西方传统的，叫分解还原模式，分解还原到最基本元素。与这个相对的是采取整体观的研究方法，用《道德经》 的话来说，就是“以身观身，以家观家，以乡观乡，以邦观邦，以天下观天下”。你要把自己的手研究透彻，不是把手指切开做单独地研究再拼起来，而是找到一个整体的原型中最小的部分，如以“爪”观“手”，然后开始一步步地复杂化。这种思维方式就和分解还原不一样。

付：这更接近量子思维，看到的是一幅整体主义、有机主义的世界图景。量子论影响哲学，既表现在本体论上的量子实在观，也表现在方法论上的量子思维。有怎么样的本体论就有怎么样的方法论，反之亦然。

钱：复杂系统是不确定的，量子思维要求我们尊重这种不可消除的不确定性。尊重不确定性，我们就会在理智上、行动上保持谦卑精神和敬畏之心。我们会发现，人类极容易狂妄，认为我们无所不知。在严格意义上，世界是既可知又不可知的。对于一个开放系统而言，不可知的部分可以不停扩展。你扩展了可知的部分，就会知道有更多的不可知。一切你所看到的规律和你本人也有关系，你需要在与其互动中才能看到。何况事物中存在不少共轭变量，你这个测准了，另一个就测不准了。因此，你不可能全知，更做不到全能。我们经典的思维方式认识不到这一点。一个人很容易认为他掌握了真理。你说他狂妄吧，他还一点也不狂妄，而是顽固坚持错误并相信自己掌握了真理。面对一个真诚的错误者，就很难办了，你还真没有办法。如要他改变观点，就需要从根本上改变思维方式，让他的思维工具箱扩容。

三 量子论、量子思维与科技伦理的未来发展

付：上次访谈我们也提到科技和伦理的问题。一方面科技对伦理提出了挑战，另一方面科技也需要伦理的范导。人类文明面临前所未有的变局，在这样的背景下，伦理学如何面向实践，面向未来获得新的发展动力，这是一个大问题。

钱：面对时代和社会的需要，我们要有敏感性。现在迫切需要发展科技伦理。比如，做脑机接口，我们就要搞清楚很多伦理问题：安装了脑机接口的，是人还是机器？什么时候该装，什么时候不该装呢？要是机器失灵了，伤害人了，这算谁的责任呢？又比如，大数据时代数据最重要，但是，一个数据能不能做，能不能拿出来，这是需要经过伦理检验的，但我们现在没有这个概念啊。人工智能将来最大的问题也是伦理问题。人工智能对人类本身构成了极大的挑战，那我们伦理学还能无动于衷吗？目前许多新的国家科研基地，都迫切需要切实的科技伦理学研究。

成：科技越发展，伦理越重要。

付：从国家战略需求来看，2019 年7 月，我国就通过了《国家科技伦理委员会组建方案》 。2021年12 月，中央全面深化改革委员会第二十三次会议审议通过了《关于加强科技伦理治理的指导意见》 ，进一步明确了我国科技伦理发展的目标、方向和任务。针对科技创新可能带来的伦理挑战，伦理学研究的视野需要拓展和前置，必须前思而不只是反思，要前瞻性地监测和研判伦理风险。因此，伦理学的新发展必须超越纯粹规范伦理的立场，改变理论与实践严重脱节的状况，关注人类生存的全球性条件及长远未来。科技时代的伦理学应该阐发一种新的责任伦理意识，实现负责任的创新。

成：现在国家倡导科技伦理治理要贯穿科技活动全过程，选题、规划、研究、实验、推广、应用，各个环节都要有伦理在场，确保科技向善。

钱：从高校人才培养的角度说，多少行业需要科技伦理方面的人才啊！将来很多公司，特别是高精尖行业的公司都需要伦理顾问。高校培养学生，要站在人类文明和国家战略的高度，要站在最前沿，这样学生也会有一种崇高的使命感。为此，华东师范大学正在探索卓越学术融合卓越育人的人才培养模式，以对接国家战略需求、突破瓶颈问题为导向，以促进学生“全面而自由”发展为目标，尊重学生的多元选择，多维度观测、分析、诊断学生不同知识要素、能力要素、素养要素等融合发展情况，深挖优势潜能，让追求卓越成为学生内在自觉，造就一批“未来领军型的卓越英才”。

刘：现在CEO 一般指首席执行官（Chief Executive Officer），将来也许会出现另一种CEO，首席伦理官（Chief Ethical Officer）。

钱：“首席伦理官”这个提法好。它在将来公司的发展中，甚至可能和首席执行官同等重要。因为往大了说，往往会因为忽略了伦理，造成大量的投资失败。比如说，一些数据不能用，一些技术不能上场。你们真得好好研究。我觉得哲学就要培养首席伦理官，但要从哲学家的高度来予以培养。首席伦理官不能是孔乙己式的，满口之乎者也，或者张口某某哲学家怎么说，而是能够直面活生生的时代问题的，像哲学家那样思维，像工程师那样操作。

刘：刚才成老师提到科技向善。上次访谈钱校长也强调，我们要研究伦理的人工智能，伦理规范不应该是外加的或后加的，而应该是提前内置于人工智能时代科技之中的。这意味着，对科技的伦理制约力量需要从科技内部生长出来。中国传统儒家关于人的本性，有性本善、性本恶、性无善无恶等不同的说法；对人之性善的理解，也有重视内在根据（善端）和外在规范（礼义）的分别。如果有人问，科技是本善还是本恶，绝大多数人凭直觉会说，科技的本性无善无恶，科技的为善为恶取决于你怎么用它。倘若如此，使科技向善的伦理规范更像是外加的，而不是内在于科技的。这样就有一个难题：如果说，对科技的伦理制约力量是从科技内部生长出来的，那么，科技本性就是善的，而不是我们通常直觉到的无善无恶。

钱：上次讨论的时候，我举了一个绿色化学的例子。绿色化学用“绿色”理念重新设计新的路线，取得了一系列成就，使得它在跟传统化学的竞争中胜出。因此，从传统化学到绿色化学，这是化学学科内在发展的需要。“绿色”理念的实质是一种善待自然，实现人与自然和谐相处、共同发展的伦理要求。如果说，“绿色”理念对于传统化学还是外加的话，那么，它对于绿色化学来说就已经是内置的了，如此化学才能长生，实现自身和对象的可持续发展。这里有一个一般性的道理：伦理内置的科技将淘汰没有伦理内置的科技。为什么科技越发展，伦理越重要？因为科技越发展，力量越大，影响越大，如失误，则造成的后遗症越大，所以越需要伦理加以规范。这是一方面。但最根本的原因恐怕还不在这里，根本在于给人类造成负面影响的科技本身违背了向善的初衷，这种科技最终会被抛弃，自身走向灭亡，无法实现可持续。说到底，还是因为伦理是科技的内在要求，通过为他而实现为己，就像老子所说“后其身而身先，外其身而身存”，最终实现各方的永续发展。打一个比方，家里有个熊孩子，家长教他讲道德，为什么要这样做呢？担心他野蛮生长，长大后对外界做坏事、伤害外界世界？也是，也不是。最根本的还是因为，熊孩子如果野蛮不讲道德，他就长不大，至少是不能好好长大，因而作恶而伤害自己，最终被社会淘汰。这样讲道德就成了孩子长大的内在要求。社会淘汰。这样讲道德就成了孩子长大的内在要求。

付：伦理如何内置于科技？钱校长这番话让我们对这个问题的思考往前推进了一大步。前面讲到“知识就是力量”，这也是现代科技的底层伦理：知识就是力量，人通过知识获得征服自然的力量，进而通过征服自然为人类的福祉服务。培根在《新工具》 中讲过一句话：“科学的真正的、合法的目标说来不外是这样：把新的发现和新的力量惠赠给人类生活。”不过在培根的观念里，人与自然的作用恐怕还是单向度的，人可以作用于自然，肆无忌惮地向自然索取，而自然会不会对人的索取进行报复，那是培根几乎没有考虑到的。

刘：那个时代还不需要考虑这个问题。人的力量还没有那么大。

钱：现在就不同了。现在为什么要绿色发展？它的底层逻辑就是量子论啊。这个世界都是有感知的、相互关联的，它知道你违反规律，它不能忍受了，那必定要惩罚你一下，对吧？世界是不可分割的，万物是关联的，所以才要绿色发展。和培根的时代不同，当代科技的底层伦理也要变了。

成：现在是第四次科技革命，智能化时代。人工智能、量子信息、合成生物学、基因编辑、脑科学、再生医学，这些技术的发展都关乎直接改变人自身的生命形态的问题。

刘：能不能这么说：科技不再外在于人的生命本身、人的生存论状态本身。因此，科技不得不成为哲学，不得不成为伦理学。英文词art，既可以表示技术，也可以表示艺术。关于当代艺术，丹托的《寻常物的嬗变》 中提出了一个很有意思的看法：艺术终结了，而且还是终结于哲学。为什么呢？因为艺术史演进为对自身的意识，并在某种意义上成为关于自身的哲学。当然，终结不是停止，终结于哲学的当代艺术仍然在不断发展。与之类似，我们是不是也可以说，当代技术终结了，而且终结于哲学，因为当代技术已经进入人的生存论状态，不得不发展出对自身的反身意识。

钱：我们一切科技的目的是为了人类的福祉。这样还说小了。在更宽广的意义上，科技的发展是为了生态的安全和存续。这需要特别的智慧，我举个例子。大家都很关注转基因问题，因为转基因食品能不能吃是一个非常直接的问题，民以食为天嘛。在我看来，转基因与其说是一个食品安全问题，倒不如说是一个生态安全问题，也是一个伦理问题。转基因技术改变了植物的基因，被改变植物的基因通过花粉被传递到另一个植物上，那另一个植物也被改变了。这是有巨大的生态风险的。从除虫的角度来说，因为植物是转基因的，一般虫子吃了就会死，那些两三年之后还没死的虫子就“无敌”了，因为它们产生了抗体。结果是，你把虫子逼到了绝路，最后反而是把你自己逼到了绝路。生态和社会都是一样的，当你把自认为的敌人逼到了绝路，实际上也是把自己逼到了绝路。用老子的话来说就是“反者道之动”，所谓“反”就是返回的“返”，你若强制压迫，它就会加倍反压迫，甚至更猖狂。那怎么办呢？如果种植转基因棉花，那就需要在旁边种天然棉花。于是一些虫子就可以避开那些可能会让他们死掉的转基因棉花，而转向吃得比较舒服的天然棉。一边是产生吃转基因棉产生抗体而有幸存活下来的几个“无敌”虫，一边是在天然棉花那里找到“避难所”的普通虫，他们一杂交，那这个虫子的抗性就上不去。所以必须要留着天然棉花给虫子吃，即给“敌人”留一条可控的、狭小的活路。

付：这是《道德经》 “反者道之动”的智慧，也是“知止”的智慧。所谓“知止”，我想说的是，科技高风险要有一个“止于至善”的智慧。一方面，至善构成科技活动的目的因；另一方面，科技活动也要知道自身的限度，在适当的地方止步。

刘：宋代哲学家叶适说过：“人以止为本，道必止而后行。”杨国荣老师在他主编的《中国哲学史》中对此有一个很好的解释：这里的“止”，指在道所允许的界限内行动（止于道）；知所“止”构成了一般的原则，而这一原则又与道相联系。

成：中国传统思想中有很多资源可以帮助我们回应科技伦理的挑战。

钱：“知止”就是量子思维所讲的尊重世界不可消除的不确定性，在理智上、在行动上保持谦卑精神和敬畏之心，尊重自然规律。我们可以利用自然规律，但不要超出了自然的容忍度，否则它就会惩罚你了。拿社会治理、生态治理来说，我们只能进行微扰，微扰过了头就很麻烦，你的微扰要尊重它的基本规律。以工程论的方式无止境地改造社会、改造生态是极其危险的。《道德经》 “飘风不终朝，骤雨不终日”就是专门讲这个意思。老子为什么会讲“弱”？社会的变化、生态的变化都是靠慢、靠弱来改变的。

成：自组织理论有一个核心观点：支配系统的是慢变量，而不是快变量。

付：钱校长把绿色发展、“知止”和量子论联系起来，这很有启发。我把它归结为一个一般性的方法论：以量子思维思考伦理问题。

钱：这个我们还需要深入探讨一下。伦理学的问题，是人的问题、人如何幸福的问题。不知这样理解对不对？量子论、量子思维能够帮助我们重新理解人性的底层逻辑。我推荐两本书，一本是薛定谔的《生命是什么》 ，一本是彭罗斯的《皇帝新脑》 ，两位作者都获得过诺贝尔奖。《生命是什么》 认为，生命有关量子力学，生命是处于经典规则和量子规则的交界处。两位科学家沃森和克里克受此启发，提出DNA 双螺旋结构的分子模型。DNA 中的碱基对以氢键维系，而氢键是弱键。弱键用经典的方法根本没办法理解的。它是可以打开的，又是可以连在一起的；说它是连在一起的，但实际上又是分离的；说它是分离，但实际上又是关联的。用量子论的思维就很容易理解。有了弱键，才有了我们所说的“自组织”、复制、遗传等生命现象。生命是量子性的，运用量子化学、量子生物学，很多生命现象就可以得到解释、把握和预测。《皇帝新脑》 引入量子论来解释大脑的意识活动。彭罗斯后来进一步主张意识的产生是由于大脑神经元内微管中的量子振动。如果彭后来没有拿到诺贝尔奖的话，别人会认为他神神叨叨，是个疯子。

付：人有身心两个基本面向，DNA、大脑神经分别触及到了身与心的底层。这显示出，科技伦理可以为思考伦理问题提供新的基础，甚至可以说，科技伦理重塑一般伦理学。这一点非同小可。按照通常的看法，科技伦理属于应用伦理，而应用伦理无非是把一般的伦理学理论，应用于具体的场景和特定的问题。因此，在伦理学内部，应用伦理仿佛处于二阶的位置。但是，如果我们认为，科技伦理重塑伦理学，那事情就完全倒过来了。更一般地说，当代应用伦理学，不应是现成的现代道德原则在具体领域的推广应用，而应是与当代生活世界巨大变迁相应的新的伦理学。

成：前面谈到，海森堡评价玻尔在本质上是位哲学家而不是物理学家。其实海森堡还表达了一个意思：玻尔让他认识到，现代自然哲学家的学说要站得住脚，必须每个细节都经受得住实验的无情检验。这个对于如何做科技伦理、以及一般意义上如何做伦理学也很有启发。如果说自然哲学主要考察天道的话，那么，伦理学则是着重考察人道。在古代，哲学反思建立在日常经验之上。反思日常经验、辨析日常语言、解释经典理论，这些依然是我们现在做哲学必不可少的基本方法。但海森堡也提醒我们，在科技时代做哲学，除了日常经验之外，科学实验也是重要的源头。自然哲学是如此，伦理学恐怕也是如此。一方面，应用伦理学及一般的伦理学思考有必要正视科学实验的成果。另一方面，科学实验也为伦理学研究提供了新的途径。格林（J. Greene）运用fMRI 技术研究道德判断中的情感因素就是一个著名的例子。虚拟现实、大数据、计算机建模、知识图谱，甚至元宇宙，都已经或可能为伦理学研究开辟新的领域。

付：人工智能也构成我们当前思考伦理问题的基本背景。中国传统的儒家思想非常注重人禽之辨，通过追问人和动物的差别来探求人之为人的本质，从而甄定人在宇宙中的位置、挺立人的尊严。在我们这个时代，随着人工智能（AI）崛起，我们就不得不从人禽之辨转向人机之辨。人机之辨，情感、同理心是一个重要维度。从儒家情感伦理学的视角来看，单向度的机器人由于脱离亲身实践的伦常关系，缺乏社会生存的经验累积，机器人的情感—只是面临不同情境的表现状态，而非实有诸己的情感能力。无论机器人如何“人性化”，都难以建立与生命息息相通的同理心与意义世界。因此，无论奇点是否终将来临，人类都应该更加关注人的类本质和尊严，开掘属人的人性能力和情感独特性，守护人与机器人的分际与相际。(1)付长珍：《机器人会有“同理心”吗？—基于儒家情感伦理学的视角》，《哲学分析》 2019 年第6 期，第41—43 页。通过考察人和AI 的差别重新挺立人之为人的尊严，从做科技伦理的角度看，这意味着，伦理基本问题的思考，需要放在科技发展所带来的新情境之中去。

钱：人工智能、基因工程、合成生物学等高科技的发展告诉我们，一个物质极大丰富的时代有可能来临，超人类革命有可能发生。在此过程中，防止人造物异化、人类自身异化的需求也就愈发迫切。让人类成为超越自身局限、地球局限并拥有无限关怀的宇宙物种，就需要人文学的启明，而伦理学在其中又特别重要，就需要由科技滋生新的“先进伦理学”（Advanced Ethics）。伦理学的根本问题是人，科技伦理也不例外。反思人类，反思人在宇宙中的位置，在科技高度发达的时代既要重新“为天地立心”（宋儒张载语），也要牢记“圣人恒无心，以百姓之心为心”（《道德经》 帛书本四十九章），这正是面向未来的科技伦理的神圣使命。