再论人工智能的威胁实质

赵耀

人工智能的迅猛发展在短时间内完成了从集体性恐慌到普遍性接受的跨越。虽然人工智能取代人类的忧虑不可能被彻底根除，但对经济发展的贡献和对生活提供的便利使其不可避免地成为未来的发展趋势。面对人工智能，人类一方面难以拒绝其强大功能所引发的诱惑，另一方面又承载着主体性丧失的风险。需要指出的是，在可预见的范围内，人工智能不会从根本上取代人类，但会以改变人类的方式影响人类。换句话说，人工智能的真实威胁不在于作为某种外在的异质性力量反客为主地统治人类，而在于作为生产和生活中介诱发人类走向自我否定。具体来说，人工智能以强制认知的方式实现意识形态的合理化，将一切都纳入可计算性，排除任何可能威胁确定性的因素，在数据算法的普遍性笼罩之下规训人类。人工智能借助虚拟自由的生产，将人类自启蒙以来形成的主体性自由下降到动物性自在。人工智能通过艺术生产的可制造性，彻底断绝人类的感性体验，艺术不再具备向人类敞开新的可能性的能力，完全沦落为无主体性、无对象性和无超越性的自动生成。所有这些，才是当前人工智能对人类的威胁实质。

一、认知的强制

对人工智能的警惕首先应着眼于其对人类的观念规训，即把原本不属于人类的观念强制灌输给人类。人工智能的意识形态主要表现在计算性、确定性和普遍性三个方面。所谓计算性是指人工智能以数据算法的方式运行，其运行机理先行规定了必须将一切可计算的方式纳入数据算法，数据算法的终极目标是对准确性的追求。因此，数据算法只有在不断升级中才能维系其生命，否则会被新的、更具准确性的算法所取代。而在这种不断升级的过程中，数据算法的准确性自然最大限度地趋向于绝对。换句话说，数据算法的准确性追求迫使其不断升级，而不断升级的结果又是准确性的不断提升。二者相互促进，同时永不停顿，始终处于循环之中。这样导致的直接结果就是，在算法的支配之下，所有与准则性相违的可能都被强制排除，但问题恰恰在于并不是非确定性就是不存在，确定性仅仅是对算法准确性的保证。而在这种确定性的保证过程中，个别性、差异性则被抹杀。排除在数据算法之外的个别性与差异性要么被迫主动祛除自身的独异性特质，主动拥抱数据算法的强制性规训，要么就只能被排斥在普遍性之外，彻底丧失被认知的可能。因此，无论是前者还是后者，在强大的数据算法面前，个体性只能处于被安排的位置，不存在任何自我彰显的可能。

人工智能意识形态规训的直接结果是对个体性的排除。个体性之为个体性的前提是与他者存在差异，只有在差异中才能确证自身。而在人工智能的数据算法面前，差异是最不能被容忍的存在。算法必须最大限度地保证其运行结果的普遍性适用，作为妨碍算法普遍性适用的个体性差异必须被排除，即便实在不能排除，也必须借助于某种强制将其拆解为可计算的最小单位。被拆解为最小可计算单位的个体与其说还是先前的差异性个体，不如说已经被改造成为人工智能可识别的理想数据。特别需要指出的是，这一过程本身虽然带有毋庸置疑的强制性，但其展开过程却带有非比寻常的诱惑性和欺骗性。从人工智能方面来说，人工智能的原初目的并非是直接专注于其对个体性的排除，相反，人工智能的迅猛发展特别是其在日常生活领域广泛应用的前提是对用户差异性需求的精准满足。但是人工智能的运行方式是数据算法，即将一切纳入定性和定量的数理逻辑计算中，并在算法的不断升级中寻找理想的最优解。而这种手段本身带有不可超越的局限，即只能在排除个体性的牺牲中确保算法的普遍性适用。因此，人工智能本身存在着目的与手段的深层次矛盾。在目的的实现过程中，目的被迫不断让位于手段，最终被手段全部操控。这一过程的代价则是个体性的排除。从个体方面来看，个体面临人工智能的强制拆解，不是选择抵抗，相反却是主动选择拥抱与接受。因为只有被纳入人工智能数据算法的可计算性中，个体才能获得保存，否则个体只能被排除。为了自我保存，个体只能选择以自我消解的方式接受人工智能数据算法的规训。因此，无论从人工智能还是个体方面来看，出发点都是对个体性的保存，而在结果中却又一致性地放弃这种保存。个体在人工智能的作用下自我否定、自我拆解可以被视为当前需警惕人工智能的首要环节。之所以需要警惕是因为个体性的排除不仅是对差异性的整合，而且意味着个体让渡自我属性，以人工智能的标准规范自身。而这样一来，个体的观念自然也就不再是差异性与多样性的，而是完全在数据算法的逻辑支配下整齐划一的。在算法的逻辑运行中，一切都被安排，任何偶然性都被剔除，个体也就不是完全的独立个体，其中最根本性的变化是想象力被扼杀。算法演绎支配之下没有想象存在的空間，既不允许个体以想象的方式否定现实，也不存在现实否定个体的想象。个体只能在人工智能所赋予的观念认知中展开，而且颇具悖论性的是，个体只有在人工智能的认证之下，即符合人工智能数据算法的可计算标准，才能获得自身存在的合法性证明，否则个体不成其为个体，因为脱离算法之外的个体无法实现其身份确证。丹尼尔·贝尔在《资本主义的文化矛盾》中对资本主义文化以萌芽形成存在的个体与技术之间的张力有着清醒的认知，卢卡奇在《历史与阶级意识》中对现代社会的物化现象敏锐捕捉，霍克海默、阿多诺在《启蒙辩证法》中对启蒙原初所自我包含的内在矛盾进行了深刻揭示。这些思想家的共性在于将尚未充分显露、特别是没有完全展开的弊端深刻洞察。而在人工智能作用下，上述被思想家所反复强调的弊端得以充分凸显，换句话说，人工智能功能的强大大大加速了其负面效应的显露，同时也加剧了应对的难度。如果说上述思想家是在理论层面以概念演绎的方式揭示普遍性的经验事实背后的残酷现实的话，那么人工智能迅猛发展的当下则是借助数据算法彻底消除经验事实与残酷现实的差异，并且这种消除的过程不仅仅是人工智能的单方面强制主导，还有被人工智能改造过的每一个个体的主动参与。

二、自由的变异

关于自由的概念无论存在怎样的分歧，至少在一点上可以达成共识，即康德哲学之后的主体性自由观念。自由不是主观任意的自由，而是自我规范的自由。但在人工智能的影响之下，自由存在发生变异的可能——从主体性自由下落为虚拟自由。“作为整个社会的基本技术支撑，智能科技构成了对人公开的或隐蔽的宰制，人正在沦为高速运转的智能社会系统的‘附庸和‘奴隶。”[1]所谓虚拟自由是指在人工智能的强大功能支配下，人类掌控现实的能力空前加强，特别是在虚拟现实中，人类可以彻底实现从弱者向强者的身份转变。现实的不满足和不满意都可以借助于虚拟现实消解，在虚拟现实中可以恣意而为，既不必担心任何负面后果，又无所谓规范限制。相较于主体自由，这种虚拟自由自然更容易被大众所接纳和青睐。毋庸置疑，主体自由的获得是自我规范的前提预设，同时又必须承载自由选择的不确定性担忧，而虚拟自由则完全没有限制，只需享受权利，不必承担义务。因此，虚拟自由以其压倒性优势显露出取代主体自由的趋向。但是虚拟自由真的如其呈现的那样没有任何弊端吗？答案自然是否定的。

虚拟自由的称谓本身已经确定其根本属性，即虚拟自由不是自由，只不过是虚幻模拟了自由的某些极端体验。披上虚拟外衣的自由终究只是伪装性的自由，本质上依旧是非自由。之所以作出这样的判断是因为虚拟自由本质上满足的是人的自然性本能，而非社会性需求。虚拟自由借助人工智能技术手段所实现的不过是人的生理性欲望刺激，而非理智性的自我规范。换句话说，人类通过虚拟自由体验的是动物性的自在自然，而在这一过程中所丧失的却是人类性的自觉自为。“动物只是按照它所属的那个物种的尺度和需要来进行塑造，而人则懂得按照任何物种的尺度来进行生产，并且随时随地都能用内在固有的尺度来衡量对象。”[2]而虚拟自由所满足的只是人作为动物这个物种尺度的单一需要，却排除了人作为人所独具的任何物种的尺度能力。人要守护人之为人所独具的任何物种的尺度，就必须超越动物性的单一尺度束缚，而这种对动物性单一尺度束缚的超越才是真正意义上的自由，才能给人类带来属于人类的自由感体验。执迷于动物性尺度的满足不仅不是自由的实现，相反却是对自由的拒绝与放弃。虚拟自由所展开的不过是以虚幻满足的方式消解真正意义上的自由。

虚拟自由不仅不具备自由的属性，相反地，对自由的实现与捍卫构成了前所未有的威胁。首先，无论以何种方式理解自由，自由都不可能是对欲望的无限制满足。欲望的任意性达成恰恰是最不自由的状态。因为在此种状态中，人完全被欲望所支配，人不过是欲望的囚徒。自由必然伴随着对主体的清晰认知，必然需要自我限制，只有当自我意识到规范的存在，并自觉地遵守规范才能在真正意义上获得自由感。因此，自由所追求的恰恰不是恣意而为，而是必要的规范与限制。而虚拟自由则完全反其道而行之，纯粹致力于欲望的满足与刺激。需要指出的是，虚拟自由在欲望满足与刺激的过程中不仅与自由的精神实质南辕北辙，而且其自身也难以实现逻辑自洽。这一点更进一步确证其自由的虚假性和伪装性。按照虚拟自由的逻辑，自由就是欲望的满足，欲望满足的程度越高，自由度越高。因此，要想实现虚拟自由所追求的“自由”，就必然需要最大限度地满足这一欲望。但另一方面，人工智能支配下的虚拟自由不仅仅致力于欲望的满足，同时专注于欲望的刺激，也就是说虚拟自由之为虚拟自由需要不断地刺激新的欲望，而新的欲望刺激过程本身即是对虚拟自由自身的否定。如前文所述，虚拟自由以欲望满足为自我确证的依据，但新欲望的刺激恰恰影响了欲望的满足，虚拟自由又不能停止对新欲望的开发，否则同样也被视为非自由。因为欲望满足本身预设了新欲望开拓的前提，抽离新欲望开拓的虚拟自由难以达成其先行的规定。因此，从这个意义上来说，虚拟自由本质上是非自由，其借助欲望的满足所实现的只是动物性的本能宣泄，绝非人类自由感的体验。其次，自由实现与否的标志是人对自身行为的理性规约与目的完成，是以自我掌控为核心，绝非以掌控他人为标志。而虚拟自由则与之完全相反。虚拟自由之所以具备欺骗性和诱惑性，恰恰在于始终致力于对他人的控制，甚至以控制他人的数量与程度作为其实现的标准。对他人的掌控与其说是自由的获得，不如说是自由的剥夺。自由之为自由恰恰在于拒绝任何形式的强制，而虚拟自由则完全走向自由的反面，以强制的方式建构虚幻的自由。无论从强制的一方还是被强制的一方来说，都是不自由的。因为自由的前提是自我主动的选择而非他者的强制。再次，虚拟自由是以物化方式形成的畸形自由。这与人工智能本身的属性密切相关，人工智能只能以数据算法的准确性保证其对事物的操纵性，这种操纵性在本质上是以数据的方式支配人，而非人借助于数据实现认知能力的延展。换句话说，人工智能以虚拟自由的方式在潜移默化中完成反客为主。而人所付出的代价则是让渡自己的主体性自由。人工智能以虚拟自由外衣的诱惑伪装实现了对人的反控制，而且需要特别指出的是，这种反控制并非出于人工智能具备了主体意识后对人类的反叛，相反是人类主动选择的结果。人工智能自始至终所扮演的角色是人类的工具，但人类在使用这一工具的过程中却将自己本身物化，甚至执迷于这种物化。这一方面源于虚拟自由本身所具有的诱惑性，任何人在感官欲望的极度满足中都难以坚守理性的自我规约，另一方面则源于相较于作为工具的人工智能面前坚守的主体自由，虚拟自由更具便利优势。如前文所述，人工智能以强制认知的方式将个体性差异完全排除，体验虚拟自由的过程就是放弃个体性差异的过程，也就是不必承担主体责任与心理压力的过程。既能获得自由的体验，虽然这种自由是虚幻且变异的，又不用承担相应的责任，虚拟自由自然更易于受到大众的青睐，而大众集体性地接纳虚拟自由本身已经在客观上说明当前人类已经或多或少被人工智能所物化，或者更为确切的说法是被人工智能意识形态所裹挟与宰制。还有一点值得警惕的是，当大多数人被虚拟自由物化之后，特别是他们的观念认知也随之人工智能化之后，原本人借助于物所构成的人与人的社会关系也将有所松动。马克思曾明确指出：“在我个人的生命表现中，我直接证实和实现了我的真正的本质，即我的人的本质，我的社会的本质。”[3]人的社会性正是在普遍交往中实现的。试想，当所有人在虚拟自由中自觉物化，原本以物为中介的人的社会可能变异为以人为中介的物的社会，而物的社会是否还是社会？如果说人的社会是以个体性差异的普遍交往达成的关系凝结，那么物的社会则是以同质化强制的算法规约实现的关系消解。在这种趋势之下，每个人不再作为独立的个体存在，而是作为数据单元存在，每个人不是在社会关系的交往中实践着个体差异性与群体普遍性的张力，而是致力于将自己纳入数据算法的环节，每个人不再关心与另一个人的关系，而是专注于自我与算法之间的契合度。这种趋势的程度越高，虚拟自由的体验就越真实，虚拟自由的体验越逼真，人类拒绝的可能性就自然越小。海德格尔曾以技术座驾隐喻人类整体性陷入被操縱的技术统治之中，彻底丧失了与自然对话的可能。人工智能则以其强大的数据算法与自我更新功能，将技术座驾彻底现实化。这种现实化的标志就是在人工智能主导的虚拟自由中，人类彻底丧失反思的能力。如果说以海德格尔为代表的存在之思对技术依旧保持极端警惕的话，那么被人工智能反客为主的人类则不再具备任何拒绝的能力，即便是对当前人工智能的恐慌甚嚣尘上，但也仅仅停留于情感宣泄层面，因为客观现实却是每个人都在恐慌的同时主动接受人工智能渗透至生活的方方面面。这种现实本身已经在客观上宣告了人类在人工智能影响之下反思能力的不断弱化，而反思能力的弱化与丧失，或者更为确切的说法是反思能力的主动放弃则从根本上规定了在人与人工智能的未来博弈中，人难以逃脱的劣势地位，而且更具讽刺意味的是，这种劣势地位的获得不是源自人工智能，而恰恰是源自人本身。人类如何在人工智能的操纵包围之下持续守护真正意义上的反思能力是当前人工智能研究的最为关键之处。

三、艺术的终结

自丹托以来，关于艺术终结的讨论从未停息。虽然各种观点倾向各异，但基本上可以达成共识的是所谓艺术的终结不是要彻底消灭艺术，而是对艺术的发展现状有所质疑，认为现有的艺术观念及评判标准需要有所调整，以便为艺术的良性发展提供必要的智力支撑，助力其发挥艺术本应具有的作用。而在人工智能的影响之下，当前艺术面临彻底终结的挑战。之所以彻底，是因为人工智能对艺术的影响不仅仅是改变艺术的生产方式和消费方式，而是将艺术从创造改变为制造。“从人工智能的角度来看，传统艺术与现代派艺术处于同样的地平线上，它们同样归属于人类艺术，而人工智能艺术则完全属于新的艺术形态，我们可称之为后人类艺术。如此一来，既有的艺术观念都可能失效，我们必须重寻新的艺术观念才能面对目前窘境。”[4]这种根本性的改变也不同于西方马克思主义对文化工业的批判，文化工业虽然是以工业化整齐化的方式复制艺术，但依旧在一定程度上保留了艺术的固有属性，作为工业产品的艺术虽然丧失艺术的灵晕，但可以在某个瞬间重新唤醒人的感性体验。而人工智能影响下的艺术制造则以釜底抽薪的方式彻底消解艺术作为艺术的合理性基础。相较于艺术创造，人工智能主导下的艺术制造不再具备向人类敞开新的可能性的能力，完全沦落为无主体性、无对象性和无超越性的自动生成。

所谓无主体性是指人工智能主导下的艺术制造是一种抽离创作主体与欣赏主体之间交互关系的纯粹形式化自动生成。数据算法惟一关注的是样本的量化和算法的精密，依托数据算法自动生成的艺术制造不再与现实内容发生任何实质性关联。人类的艺术创造无论如何也无法实现纯形式或纯内容的生产，任何内容都必须依赖一定的形式呈现，任何形式也必然承载着相应的内容。但人工智能却可以借助数据算法实现纯形式的艺术制造。最具代表性的是书法、绘画和诗歌的自动生成。当前的人工智能已经基本上初步具备了书法和绘画的自动生成能力，将知名书法家和画家的创作纳入样本库，进行相应的编码，人工智能就可以自动生成几乎可以以假乱真的复制品。在惊叹人工智能的超凡能力之余，我们更需要警惕这种技术突破背后的艺术终结危机。人工智能虽然可以模仿任意时代、任意风格的书法作品，但仅是形式层面的复制，神韵始终难以比肩书法家原创。根本原因在于原创在书法形式的背后所支撑的是书法家独异的生命体验，正是因为他有着非常人的生命感悟，才能借助于笔法的形式有效承载并传达给欣赏者，欣赏者之所以青睐书法家的创作也是源于对书法家表现的生命感悟产生强烈共鸣。而人工智能主导之下的书法制造仅能复制笔法形式，不可能保留其独异的生命体验，特别是那些综合不同风格的书法合成，虽然从现有评判标准体系来看难以否认其书法价值，因为它毕竟是以真实书法家的创作为数据基础的，但合成后的书法作品不再具有艺术的意义，因为它不再具备传递生命体验的能力，人们在人工智能合成的书法制品面前只能觉得它像艺术，但它作为艺术能带给人们何种精神慰藉，则没有人能够说清楚。因为它本身只是纯粹的形式，没有实质性内容。绘画也是一样，无论是写实主义还是表现主义，都是画家以一种非常人的眼光审视世界，并试图引导人们以他个人独到的方式感受世界中不易被觉察的美。从这个意义上来说，绘画必然是一种主体性的创造，而人工智能自动生成的绘画制品则完全不具备上述特质，它只能停留于前人的基础，从根本上丧失了发展的动力。也正是源于此，人工智能主导之下的绘画制造彻底终结了绘画自我突破的可能。最后再来谈诗歌，微软小冰的诗歌创作在以假乱真的幻象中不断加剧着取代人类创作的恐慌。其实，人工智能所做的仅是语词的合成，而非真正意义上的诗歌创作。海德格尔曾将人类的原初语言视为诗，这一判断的预设前提是他认为原初语言记录了人类原初与世界发生关系时的体验，体验与语言之间没有概念作为中介。从这样的理解出发，诗歌之为诗歌恰恰在于其所表达的人类的原初体验，而人工智能自动生成的诗歌仅具有语词的逻辑函项关联，不可能承载人类的生命体验，更不可能在敞开与遮蔽的互动中揭示世界的本真。语词合成取代诗歌创作的结果则是人彻底丧失与世界之间的真实沟通关系。

所谓无对象性是指人工智能主导之下的艺术制造是受众缺失的机械复制。人工智能的艺术制造完全依靠现有艺术数据和当前审美偏好的自动生成，这种制造出来的艺术作品仅是作为物而存在，不再具备沟通人与人的功能。艺术之为艺术的重要前提是以物的方式沟通自我与他人。“假定我们作为人进行生产。在这种情况下，我们每个人在自己的生产过程中就双重地肯定自己和另一个人：（1）我在我的生产中物化了我的个性和我的个性的特点……（2）在你享受或使用我的产品时，我直接享受到的是：既意识到我的劳动满足了人的需要，从而物化了人的本质，又创造了与另一个人的本质的需要相符合的物品。（3）对你来说，我是你与类之间的中介人，你自己意识到和感觉到我是你自己本质的补充，是你自己不可分割的一部分。”[5]抽离艺术作品的中介性也就使艺术作品彻底成为物，成为与人毫无关联的物。现代人之所以普遍存在虚无感的体验，恰恰是源于现代技术所导致的人与人之间的不断分离，人越是追求新奇的刺激，越是在刺激之后百无聊赖，从而渴望新的刺激。人工智能则将这一趋势进一步加剧，在数据算法的支配之下，彻底阻断人与人之间的情感沟通。另一方面，人工智能的艺术制造使艺术生产从作为人的活动下降为作为物的活动。马克思在考察人类的社会性普遍本质时曾断言：“甚至当我从事科学之类的活动，亦即当我从事那种只是在很少的情况下才能直接同别人共同進行的活动，我也是在从事社会的活动，因为我是作为人而活动的。”[6]作为人的活动意味着活动本身彰显着人的自我确证，艺术创造不仅仅是模仿自然和情感表达，更是人以对象化的方式完成人类的自我属性确证。而一旦下降到作为物的活动，艺术也就不再是属于人的艺术或者说不再是关于人的艺术，艺术的终结也就不存在任何质疑的必要。

所谓无超越性是指人工智能主导之下的艺术制造彻底模糊现实与彼岸的界限，在数据算法面前，现实就是彼岸，或者更为确切的说法是彼岸的意义完全消解，艺术沦为完全没有任何超越性追求的工作制造。而这样一来，艺术不仅不再具备形而上与形而下的内在张力，而且更为致命的结果是彻底丧失自我更新的动力。艺术只有在现实性与超越性的持续矛盾中才能不断获得自我更新的动力，艺术的本质是人以精神实践的方式超越现实的局限，同时以现实的局限推动超越性的想象。因此，艺术既是消解现实局限的精神活动，又是导致想象与现实矛盾的实践活动，既是解决这一矛盾的动力，也是引导新矛盾的根源，也正是源于此，艺术才能以生生不息的方式记录人类在不同历史发展阶段的心路历程，才能构成人类精神维度中不可或缺的一部分。而人工智能主导之下的艺术制造，则从根本上祛除了艺术的内在固有矛盾，也就彻底消解了艺术的实践意义。丧失实践意义的艺术与其说是艺术，不如说是技术，艺术的终结也就自然成为题中应有之义。

〔本文系国家社会科学基金重大研究专项“新时代中国特色文艺理论基本问题研究”（18VK007）、辽宁省社会科学规划基金青年项目“人工智能时代的文学理论建构与批评实践研究”（L20CZW002）、辽宁省教育厅项目“生态批评视域下的辽宁文学创作研究”（WZD202001）的阶段性成果〕

【作者简介】赵 耀：东北师范大学博士后在读，沈阳师范大学文学院讲师。

注释：

[1] 孙伟平：《人工智能与人的“新异化”》，《中国社会科学》2020年第12期。

[2][6]〔德〕卡尔·马克思：《1844年经济学—哲学手稿》，刘丕坤译，人民出版社，1979年版，第50-51页，第75页。

[3][5]《马克思恩格斯全集》第42卷，人民出版社，1972年版，第37页。

[4] 王峰：《挑战“创造性”：人工智能与艺术的算法》，《学术月刊》2020年第8期。

（责任编辑 刘艳妮）