认知增强技术：人文风险与分阶段应对策略

易显飞， 王广赞

(1.湖南师范大学 马克思主义学院， 湖南 长沙 410081；2.湖南师范大学道德文化研究中心， 湖南 长沙 410081；3.南昌大学 共青学院， 江西 九江 332020)

认知增强技术属于增强技术的一个子类，与物理增强技术、情感增强技术、道德增强技术共同构成了新兴人类增强技术。明确提出“认知增强技术”的概念并界定其内涵与外延的哲学研究，是在近几十年逐渐开展起来的。尼克·博斯特罗姆(Nick Bostrom)和安德烈斯·桑德伯格(Anders Sandberg)在将认知定义为“有机体对于信息的组织过程”的基础上，将“认知增强”定义为“对内部或外部信息处理系统的改进或增强的核心能力的放大或扩展”。[1]针对尼克·博斯特罗姆和安德烈斯·桑德伯格的观点，罗兰·基普克(Roland Kipke)提出了“认知增强”的另一种含义，即“改善认知能力的特定增强”[2](P.145)。他认为，“认知增强”应包含于“神经增强”的术语中，并以此为基础从神经增强的角度对药理学、神经科学与心理学方面的技术所产生的认知增强开展研究。[2](P.145)认知增强技术的使用使人自身陷入深度技术化状态，技术保守主义者甚至因“技术恐惧”而提出对增强技术的使用应保持足够的克制。这种消极态度固然不值得提倡，但认知增强技术在对人的认知进行扩增或者延展时，确实产生了种种“人文问题”。因此，对于认知增强技术人文风险及其应对策略的探讨就显得尤为必要。

一、作为个体层面认知增强技术的人文风险

作为个体层面的认知增强技术的人文风险主要集中在技术及制品的安全性、原有认知能力的损害、主体性的解构以及主体权利侵犯等四个方面。

首先，认知增强技术及相关制品存在着安全性风险。在目前认知增强技术的实际应用中，成瘾与人体神经系统的损伤是首要的两类安全性风险。认知增强技术的成瘾风险主要分为药物成瘾与网络成瘾两种。通过服用药物增强自身认知能力，是目前认知增强技术中最为普遍的方式，但任何种类的药物都在某种程度上具有一定的毒副作用。如莫达非尼和安非他明类药物就是通过促进多巴胺分泌提升神经系统的兴奋性，进而提升受体的认知能力的，这是当前最为普遍的一种药物认知增强方式。然而，多巴胺的大量分泌必然会产生强烈的兴奋感和愉悦感，长期使用可能会诱发以获得兴奋感和愉悦感为目的的药物滥用，造成药物成瘾的后果。[3]研究表明，目前所有已知的认知增强类药物，在药理作用上都存在导致成瘾的可能。[2](P.145)网络技术作为另外一种认知增强领域的技术，其引发的“网络成瘾”现象也早已成为学界广泛讨论的一个话题。虚拟世界中的角色扮演能够在主体间构造一种复杂交互的身体政治关系，而高度介入的沉浸式体验则能够将认知主体以“身临其境”的方式将自身“代入”虚拟情境之中。[4]随着虚拟世界的越发真实，虚拟与现实之间的界限也就愈发模糊。于是，在网络世界中极易获得的成就感与满足感会在很大程度上沉迷于网络的诱惑，从而影响正常生活，尤其是对于青少年而言，过度沉迷网络而引发的诸多恶性事件，在某种程度上影响着青少年的自身安全及社会整体秩序的安全。认知增强技术损伤神经系统的风险亦不容忽视。在利用药物增强认知能力时，药物的药理作用直接作用于人体神经系统。若是长期使用药物刺激神经系统，则会降低神经系统的敏感度，使人的反应变得迟钝。而一旦出现成瘾的情况，则证明人的神经系统已经被严重损害，对使用药物而产生的愉悦感与兴奋感的渴望将理智“劫持”，于是使用者便会将自己置于“卖身为奴或永久破坏自己的认知和意志能力”的境地。[5]利用磁颅刺激(TMS)等技术能够通过直接刺激大脑相关区域，快速增强人体的认知能力，但现有研究已表明，颅磁刺激技术的使用可能会导致癫痫的发作，且长期使用是否会产生其他隐患有待进一步验证。[1]

其次，认知增强技术存在着对主体本身“固有能力”损伤的风险。认知增强技术的研究还远未达到成熟阶段，目前绝大多数技术都会对人体自身固有能力造成损伤。现代互联网是大规模社会认知增强的一个典型例子，网络的广泛应用在改变人的记忆方式的同时，也提供了开启“外部记忆”新时代的可能性。[6]然而，网络信息具有海量化、碎片化等特点，长期沉浸其中会导致人体大脑颞叶专注能力的弱化，而“专注力”恰恰是人体形成长期记忆的关键。延展认知技术作为认知增强技术的一个子类，其自治性特征可以通过人与外部认知设备的耦合，充分发挥云计算、普适计算以及深度学习等各类数据处理技术的优势，将对认知信息复杂而枯燥的分析过程合理卸载到外部认知设备之中，以有效减轻主体的认知负担。[7]但在这一过程中，由于依赖于利用认知增强技术的自治性来获取对认知信息的分析结果，所以，即便有机体与外部认知设备的耦合会促进主体的认知，但长期的技术依赖也必定会使主体自身的逻辑分析能力产生退化，因为认知增强技术作为一种人工物，在积极主动地共塑着人在其世界的方式。[8](PP.7～9)神经植入等人机结合的认知增强技术使人能够与互联网相连，大大提升了获取认知信息的效率，而互联网信息的可靠性也因此必然会影响主体判断力的准确性。这里会出现所谓的“回声室效应”，它指的是认知主体在交互过程中往往倾向于吸取自身观点相近的信息，对自身观点的批判性信息则会有所排斥。当人脑与互联网如此亲密接触时，主体在进行认知时的“回声室效应”必然会导致认知主体批判性思维的丧失和认知结果真实性的降低。[7]不仅如此，由于人体大脑区域的极度复杂性，在对大脑认知区域进行直接刺激的过程中，极有可能会导致大脑的情感、语言等非认知区域能力的损伤。[2](P.147)以目前的技术现状而言，认知增强技术的使用是否会对人的其他固有能力造成伤害，尚不能获得较为明确的答案。

再次，认知增强技术存在着对认知主体的主体性解构风险。主体在利用外部技术设备增强自身认知时，往往因其“自我隐蔽”特性而对技术设备自身属性不再注意，进而将注意力全部放在需要进行的认知任务上，以至于忘记正在使用认知增强技术这一事实。[9]然而技术物本身具有其所谓“意向性”，它在“人—世界”的关系中隐蔽地发挥着主动性作用。于是，当主体认知系统与外部设备耦合并共同执行认知实践时，技术的主动性引导会不断“侵蚀”主体的能动性创造。现代信息技术的普遍应用使得计算技术已充分“嵌入”到认知活动的每个部分；越来越“精致”与“普遍”的计算技术也使得这种“嵌入”越发隐秘。随着技术对认知活动的增强效果的不断深化，在无形中加深了主体认知实践的技术依赖，从而不断削弱着认知主体本身的独立性。在利用虚拟技术进行认知活动时，由于真实与虚拟环境间的界限在认知中是高度可渗透的，因而随着虚拟技术增强认知主体临场感的作用不断变大，主体极易混淆虚拟与现实的界限，虚拟技术的持续发展使主体面临迷失在“第二世界”里的威胁。[10]沉浸于虚拟世界中获得的“知觉经验”会冲击主体对真实世界的正确认知，从而导致主体的能动性及改变客体的能力可能会被虚拟环境的设定所取代。随着信息技术增强认知的效果不断提升，认知主体的诸多本质能力也会面临被逐渐削弱的窘境。人机界限的模糊使得心智的界限亦不再清晰，人的“天然的”认知能力的价值也就随之被弱化。不仅如此，由于人体神经区域中认知与情绪之间具有紧密的关联性，所以想要在不改变情绪维度的前提下，通过干预人体神经系统实现认知能力的增强，目前已知的技术手段尚无法实现。[2](P.147)实践作为认知的来源，情感是其中重要的组成部分，而技术干预对情绪、情感的影响却割裂了真实情感与现实实践之间的联系，从而导致主体无法以自身的真实情感面对现实世界，即在认知中失去“真实自我”的可能会对主体人格的同一性产生严重威胁。

最后，认知增强技术存在着侵犯主体权利的风险。认知增强技术在应用时可能会对主体权利造成侵犯，主要集中在对主体隐私权与“被遗忘权”的侵犯上。在主体使用信息技术搜集和处理认知信息、实现自身认知的增强时，一个必要的条件就是需要利用网络进行信息交互。随着现代信息技术的发展，个人的数据信息已经超出了自身的控制范围而成为各类组织间可交易的“商品”。大多数软件由于各方面原因需要使用者提供自身的各种信息，而这些信息却存在着被恶意利用和倒卖的可能，从而泄露认知主体隐私，对主体造成损失。对于用户在认知活动中进行的搜索、访问以及下载甚至社交互动等活动的记录则被搜集整理，以便分析用户的访问兴趣并推送相应内容。于是主体利用技术进行认知活动时，其身份信息、身体需要、社会关系、信息自由等“信息身体”的要素都在不知不觉中被搜集整理并存储下来。[11]在大数据社会背景下，认知主体的隐私仿佛只有一张薄薄的窗户纸，随时有被捅破与侵犯的可能。而在隐私权之外，主体的被遗忘权也面临着被侵犯的威胁。在人类的记忆结构中，技术与人工制品长期以来在我们的认知生活中发挥着极为广泛的作用。[9](P.263)为降低自身的记忆负担，主体经常会选择性地将一部分认知记忆储存于外部云存储设备。相对人脑而言，作为人工制品的云存储设备可以更长久地对相关信息与认知记忆进行储存。在数字经济时代，数据作为一种极为重要的生产要素，在社会生产过程中的作用日益提升，但“数据确权”问题却仍处在探索阶段。[12]主体数据的人格属性与财产属性之间的界定、不同数据间产权的归属等问题，因数据在生产过程中广泛的联系和错综复杂的交织关系，目前尚无一套可以兼顾数据交易畅通与所有权合理分配的科学方案。实际上，目前认知主体对自身数据的所有权似乎并无掌控能力，甚至连自身数据的详细情况都无法深入了解。而主体一旦失去了对自身数据的所有权，也就意味着失去了对自身信息权利的控制，当网络设备的运营者对用户的信息进行不合理的搜集和利用时，是否能够及时发现并行使被遗忘权，就成为一个非常重要的“人文问题”。

二、作为群体层面认知增强技术的人文风险

作为群体层面的认知增强技术人文风险，主要体现在对人类群体的自由、平等、公正、法制等价值方面的阻碍或消减。

首先，认知增强技术存在着妨碍自由的风险。最初，认知增强技术被用于提升认知障碍者的能力缺陷，之后却被用在正常群体身上，进行一种逾越治疗的功能性增强。由此可见，认知增强技术的使用在很大程度上是为了获得相较于其他未增强个体更强的认知能力，进而在某些方面获得比未增强者更大的优势。在对社会资源获取的过程中，与通过大量时间进行学习和训练的传统增强方式相比，认知增强技术具有快速高效地实现预期增强的特点，这在激烈的社会竞争过程中似乎更具诱惑力。而当少数人因使用了认知增强技术从而获得优势后，竞争压力便会逼迫未使用者去使用认知增强技术来缩小二者之间的差距，从而出现主体为在社会竞争中艰难求生而被迫接受认知增强技术的情况。因此在社会竞争背景下，认知增强技术可能会面临“被滥用”或“被迫滥用”的局面。也正是由于认知增强技术快速高效的特点，才可能会导致某些群体因职业需要而被剥夺自由选择权的后果，如士兵因高强度军事任务的需要而可能会被迫接受“技术改造”等情况。除此之外，伴随基因修饰技术的快速发展，可能会出现的对“未来人”自由的剥夺也不容忽视。人的天然禀赋原本具有着某种“神圣性”，而当社会竞争的压力迫使未使用者被迫选择认知增强技术时，不希望自己的孩子在未来“输在起跑线上”的父母们，可能会选择利用基因干预类技术对腹中胎儿的认知能力进行“改写”。在这一过程中，父母对未来胎儿的诸种能力选择，对胎儿而言是带有强迫性质的，被干预的胎儿根本不可能就这些选择是否合理进行“自由表达”。从这方面来说，父母的这种行为似乎并不能被认为是道德的。[13]遗传基因自然组合与表达的偶然性被人为的必然性所替代，而这种替代，即便是出于父母对后代的强烈善意，但谁又能证明这种“善意”最终不会成为“任意”呢？[14]对腹中胎儿的殷切期望，极有可能使得基因干预类认知增强技术在未来成为妨碍自由的“重灾区”。自由应当是每个人都能够按照自身合理意愿，充分享有发展自我、实现自我的机会，但对于胎儿来说，这种“以爱的名义”而强加的“善意的”强迫，或许会成为伴随其一生的痛苦。

其次，认知增强技术存在着阻碍平等的风险。平等分配有赖于机会平等。最初认知增强技术的使用确实帮助认知能力处于劣势的主体在社会竞争中获得了更多的优势。[15]然而优势与劣势的概念是相对而言的，一旦技术手段应用于正常认知水平的主体身上，那么便会更进一步地加剧认知障碍者与认知能力正常者之间的优劣差距，造成不同主体之间机会获取的不平等。同时，对于认知能力正常的群体而言，认知增强技术的不合理应用也会加剧阶层的对立。认知增强技术的使用群体与未使用群体之间会出现一道无法避免的“能力鸿沟”，进而导致认知能力上的强势群体与弱势群体间的分化。除此之外，由于认知增强技术种类繁多，不同技术手段之间在费用、效果以及副作用等方面都存在着差异，效果明显且副作用较小的增强技术伴随着的必然是昂贵的价格和稀少的数量，这对于不同的收入群体而言，在此类技术面前是否能真正平等是需要打问号的。利用认知增强技术快速高效地提升自身的认知能力，可以使使用者在社会资源分配的竞争中取得更大的优势。而社会资源并非是无限的，社会资源的限制使得不同的人群由于自身所处的具体境况不同，所能够获得的认知增强技术也有所区别，故而不同的技术带给使用者的优势也不尽相同。在激烈的社会竞争中，这种优势上的差距则会逐渐演变为社会资源的掌握与准确信息的获取之间的差距，而最终必定会演变为物质财富之间的差距。随着代际间物质财富的继承与累积作用，不同人群之间的差距也将越来越大，阶层固化现象也必将会更加牢固。一个人人期盼的美好社会应当是人人可参与且人人有上升机会的平等社会，如此，其社会成员的地位与收入才不会被高度地“遗传化”。[16]然而，认知增强技术的不合理滥用则会拉大阶层差距，促进社会资源向少数人集中，进而在诸多方面产生阻碍平等的藩篱。

再次，认知增强技术存在着阻滞公正的风险。伴随着会聚技术(NBIC)的出现，认知增强技术对主体认知能力的提升效果也更加显著，然而在快速提升认知能力的同时，对于以勤奋、勇敢、坚强、刻苦、努力、拼搏、乐观、积极等传统方式来获得优秀结果的公正价值观念来说，则可能会在现实选择的冲击下，逐渐遭受侵蚀。譬如学生将认知增强药物应用于考试之中时，服用药物的学生与未服用药物但刻苦学习、努力训练的学生相比，前者获取同样分数会更加容易，从而严重践踏了“公正”这一价值观念。也正是由于认知增强技术对公正价值观的消解，因而在各种竞争性选拔中，如何确定其他人是否通过认知增强技术进行“作弊”，便成为一个很困难但又极为重要的问题。每个竞争者都将会对其他人产生信任问题，同时也会处于被其他竞争者怀疑的处境。作为人际间正常相处的重要纽带，信任缺乏的累积必然会产生“扩散效应”，从而引发社会成员间的信任危机。不仅如此，智能化背景下，“算法”的不可解释性也同样会造成“人—机”之间的信任危机。[17]而随着社会竞争的加剧，信任危机也就因认知增强技术的应用而逐渐增强，进而阻滞公平正义的实现。认知的“回声室”效应所造成的认知主体判断与批判能力的削弱，则会随之引起对认知能力的自我怀疑。而主体在认知过程中，对观念的选择往往并非完全依靠客观理性，而是取决于观念内容与自身情感的符合程度。[18]而当对自身认知能力有所怀疑时，面对通过技术捷径快速取得竞争优势的选择，又有多少人能够坚持靠自身努力来换取成功呢？若使用认知增强技术的目的是为了强化认知能力从而取得竞争优势，在竞争压力的驱动下所有人都被迫接受认知增强技术，使得全体人类的认知能力全部被增强到了某个标准时，也就意味着所有人的认知能力又重新被置于同一“新起点”，人与人之间的竞争优势与未使用认知增强技术之前并无二致。此时是否会有一种新的公正价值观念的诞生尚未可知，但人类作为整体却必然要背负认知增强所造成的各种阻滞公正的风险。所以，其意义似乎并不积极。

最后，认知增强技术存在着干扰法制的风险。认知主体在利用网络等信息技术进行认知活动时，认知过程中的“回声室”效应会使其被与自身观点相近的封闭圈子所包围，于是公众的认知被分割成一个个对立观点的“牢笼”，而牢笼之间相互交流却极其困难。在封闭的感知环境中，自身观点会被不断强化，从而造成社会舆论的偏激化和两极化等群体“极化”现象。[19]群体成员在极化现象影响下，极易产生背离客观事实的偏激性观点，从而为网络谣言与网络暴力的滋生提供土壤。[7]尤其是对于堕胎、安乐死、动物权利、性取向、基因编辑等存在争议的伦理问题，因性别、阶层、种族、文化以及宗教信仰等方面的差异，更加容易出现群体极化现象。若有人通过恶意煽动，试图挑起群体性事件扰乱社会秩序，就会对法治稳定造成极大的挑战。一旦有人对社会舆论进行刻意引导时，则很容易成为操纵社会认知的认知“代理人”，进而达到操纵社会舆论的险恶目的，导致“认知垄断”现象的发生。而越是复杂的舆论问题，通过“回声室”效应被恶意操纵的可能性便越大。一旦技术手段能够实现操纵他人思想时，人与人之间的交往与信任也就没有了存在的意义。[20]认知增强技术一旦被用于非法目的，其破坏力也将随着认知能力的增强而增强。譬如，由于网络技术对用户信息的搜集与分析，认知主体的个人身份建构也被还原成了“数据挖掘”与“数据解释”的过程。而用户数据一旦被恶意利用，诸如“精准诈骗”等犯罪活动便随之出现并威胁用户的安全，从而造成社会秩序的混乱。

三、认知增强技术人文风险应对的主要策略

认知增强技术人文风险的存在虽无法掩盖其增强人类能力与促进人类发展的强大作用，但对隐含在其中的人文风险必须引起足够重视。针对认知增强技术的人文风险，可以分别从研发阶段、产业化阶段和使用阶段探究不同的应对策略。

首先，加强认知增强技术研发阶段的预防工作是应对其人文风险的源头策略。设计者的道德想象是从源头弱化认知增强技术人文风险的重要手段。随着现代科技的专业化程度越来越高，技术越是专业化，它就会变得越发不中立。[21]通过调节人的行动与体验，技术能促进人对生活的质量、道德行动与决定的质量等的塑形。[8](P.11)设计主体在技术设计环节，应本着负责任的态度对正在研发的技术进行充分而具有前瞻性的道德想象，在其应用过程中对使用者的行动可能产生的后果进行积极预测，充分发挥技术对道德的塑形作用，赋予认知增强技术更多的道德因素。合理的技术设计评估体系则可以为研发阶段的控制风险提供有效参考。从当前科技发展现状出发，结合生命科学与心理学等相关学科对认知的标准进行积极探讨，能够促进认知界限的不断清晰。当认知的边界逐渐清晰，公共与私人、真实与虚拟之间的界限也会随之明确，从而为保护主体的隐私权提供理论基石，同时也能够有助于在元理论基础上，为消减自由、平等、公正等方面的人文风险提供更多帮助。政府相关部门在新的认知增强技术进入产业化阶段之前，不仅要组织相关技术领域的专家学者进行技术性能的评估，更应当组织人文社会科学领域的有关学者就社会、伦理、政治、文化等方面对该技术可能产生的影响进行探讨，并在两种领域的专家进行对话的基础上，科学合理地制定认知增强技术的评估评价体系。评估评价体系的制定，应当将以人为本作为其中心原则，把认知增强技术中有益于自由、平等、公正等方面的效果作为评估体系中的重要参考，从而使认知增强技术的设计者在技术设计过程中有据可凭、有法可依。

其次，强化认知增强技术产业化阶段的防控，是应对其人文风险的重要策略。增强生产主体的社会责任感，可以削减产业化阶段的逐利性。技术的生产者因其资本的“逐利性”，可能会利用生产活动刺激技术使用者的“贪婪性”。但以引起使用者的贪婪性而引导其进行不合理消费的行为在“消费正义”理念下是不道德的，应当以“生产正义”理念等思想增强其社会责任感，从而削减生产阶段的逐利性，增强产业化阶段的正义性。建立合理的舆论监督机制，能够削弱认知增强技术的技术垄断现象。积极利用信息通讯与大数据等技术，充分征集公众对于该技术的态度与看法，合理分析民意需求，引导不同观点群体的讨论与协商，推动利益相关者之间责任共担与利益共享机制的形成，为网络生态的健康发展提供条件。[22]在此基础上，促进各种极化群体形成“重叠共识”，充分利用技术赋权带来的与民共治的技术治理逻辑，将可能激化社会矛盾的因素转变为促进社会政策发展的动力。以一种开放的理念，充分调动不同境遇、不同立场的群体参与到对认知增强技术人文风险的监督中来，通过群策群力加强对产业化阶段人文风险的应对，尤其是人文学者对技术风险的讨论，可以为风险的应对提供更多元理论上的指导。社会舆论的某些沉默，会对未使用认知增强技术的主体造成决策压力。而合理的舆论监督机制能够容纳各种群体对认知增强技术人文风险的监督，并在给予其表达自身观点权利的同时削弱技术垄断现象。以法律的形式进行强有力的监督监管、加强对现代信息技术的数据监管与网络舆情的监督引导、明确不同主体间数据的权责界限，能够有效实现认知增强技术人文风险的应对目的。政府是现代技术风险治理主体的核心要素，在合理的舆论监督基础上应结合具体的文化背景对有较大争议的认知增强技术的治理模式进行探索，如基因修饰、虚拟技术以及脑神经刺激技术等。通过文化弹性与惩戒刚性相融合的“文化治理”模式，可以有效实现对认知增强技术的监督与引导。在生产阶段与使用阶段之间，监督监管法规的制定对于认知增强技术人文风险的消解往往是最具效果的。

最后，在认知增强技术的使用阶段中，使用者对于相关技术的审慎考量是应对其人文风险的关键策略。个体有效性与群体合理性的有机统一是认知增强技术使用阶段的最佳追求。“改善认知能力自然会被用于共同利益”这种假设难以令人信服，因为这种说法忽略了人类的自私。[23](P.203)主体在选择使用认知增强技术时，应以不伤害他人与群体的正当利益为判断准则。因为通过认知增强技术带来的个体能力的增强所产生的竞争优势，在有利于技术使用者的同时却不一定与社会的长远利益相符合。不论是处于特殊情况的人群或是普通人，只有对其他人不产生强制性的“一致性”才能够有效避免出现决策压力。[14]此时才不会出现因所有人都选择增强而导致在消解增强意义的同时，所有人还要承担增强所带来的安全性风险的后果。增强自身主体性建设是减轻认知增强技术使用阶段技术依赖的合理途径。由于信息时代主体在信息接收与选择方面的“回声室”效应以及认知“代理人”现象，认知增强技术在使用过程中极易使使用者丧失自身的独立性。在使用认知增强技术时要保持好开放的心态与批判的眼光，时刻明确技术的价值只能是技术对于人的价值，而当技术脱离了人之主体后便不再存在所谓价值的本质。对认知信息的获取应充分吸取各种不同信息与观点，避免“回声室”效应造成的认知能力退化。同时要以批判的态度进行理性分析，透过问题看本质，避免被认知“代理人”刻意引导。充分发挥自身的认知能动性与占有和改造客体的能力，合理区分现实世界与“第二世界”的区别，明确自身认知能力的界限，以避免因技术导致的懒惰思想造成的主体性丧失。加强价值评判多样性认知，是保持认知增强技术使用群体的理性的有效方法。人类应该在促进生命、自由或追求幸福的基础上行使其增强权。[24]要根据自身所处的具体情境的不同来选择适合自己文化的更好的自己，进而尊重自身与他人自然禀赋的神圣性，有效促进认知增强技术选择结果的多样性，最大程度地维护主体的自由与尊严。