媒介的欺骗与超越：科幻电影中AI的二律背反

摘要：科幻电影中对人工智能的预想，实际上早已透露出人与技术的深度纠缠。人工智能的本质并不在于拥有智能，而在于转换问题域变为如何让机器看起来拥有智能。因此，早在库布里克的《2001太空漫游》中，哈尔的形象设计就暗含有人工智能的二律背反：一方面人工智能以“庸常欺骗”为手段让人机交流无限接近于人际交流；另一方面人工智能内在根植的工具理性无法兼容人类情感中特有的矛盾，冲突的执行指令最终使人工智能迷失方向。

关键词：人工智能；2001太空漫游；媒介欺骗

引言

技术物的生成总是在历史发展的脉络当中，对于当下大行其道的人工智能技术，讨论总是在追问人类是否会被AI取代？如果想要将目光放到未来，势必要审视人工智能究竟是从何而来。科幻电影作为艺术家对前沿技术的一种思想实验，实际上早已将新媒介潜在的特性揭示出来，正如媒介环境学所告诫的，“理解历史是理解未来和新技术冲击力的基本条件”[1]。科幻电影作为一种过去的遗产，它并不会因为新技术的出现而变得过时，相反，它所设想的技术语境可能会反复地在不同文化与不同记述中出现。本文以库布里克的《2001太空漫游》为核心文本，试图以哈尔的背叛作为文章的切入点，探讨人工智能技术自身内含的欺骗性如何造成执行指令时的二律背反，面对媒介的发展之路，我们究竟有哪些路可以选择。

一、技术与人：人类的技术起源神话

《2001太空漫游》在电影开头花费大量笔墨讲述猿人的生活，直到抛向空中的骨头转场为宇宙中停留的飞船，库布里克的用心才昭然若揭，动物与人的分野正在于工具的使用。按照波兹曼对技术的理解，技术与文化的关系可以分为工具使用文化、技术统治文化以及技术垄断文化，人类的文化类型可以根据技术与文化的关系来划定[2]。在过往的思想研究中，技术总是处于被贬抑的位置，柏拉图在《斐德若篇》就对文字的发明冷嘲热讽，庄子则用“有机械者必有机事，有机事者必有机心”来表达其内心对技术的厌恶。然而，正是技术垄断文化的不断扩张，使人类社会与技术的关系不再被归因为经济决定论，技术不仅是人类满足自我需求的工具，它反过来也限制着人类文化的发展走向。在过去被忽略的技术因素在20世纪迎来哲学的重点关注，海德格尔用“集置”这一术语概括人与技术的关系，可以说现代人从一出生起就被抛掷在一整套技术体系架构当中[3]。

斯蒂格勒指出，技术物不能简单地归类在被动物体或者生命物体，技术物本质上是有机化的无机物，它一方面作为人与环境的中介物影响二者的相互作用，另一方面技术物自身也在人类的自我演化中发展进化[4]。在猿人没有使用工具之前，猿人与环境、猿人与猿人之间的关系是自发而非自觉，对资源的争夺出于一种物质上的本能。而有了骨头作为工具，猿人与世界的关系不止在眼前的资源，争夺也开始有了政治意义。电影中为了描述由猿到人的转变，插入了黑石与月亮的意象，按照克拉克在小说中的设定，黑石是高维生命留给地球的航标，当第一只猿猴跳脱物质开始仰望月亮，它也便开启了人类文明的曙光。

影片中库布里克做了有关未来的媒介预言，例如，远程视频通话和电子报。电影里虽然没有透露立场，但克拉克的小说有着详细点评：“通信工具越了不起，其内容似乎就越琐碎、庸俗，或者说令人丧气。意外事件、犯罪事件、天灾人祸、冲突威胁、报忧不报喜的评论——亿万个散播进太空的字词里，关切的主题似乎仍然是这些。不过弗洛伊德也怀疑：这一切是否一定就代表糟糕？很早以前他就断定，乌托邦的报纸一定沉闷得要命”[5]。从影片的整体基调来看，库布里克并不是技术乐观主义的信徒，虽然影片中展现了新媒介无远弗届的威能，但这种威能本身也是一种隐患，变成人类突破自我的一种桎梏。麦克卢汉将技术等同于媒介，而媒介的内涵即人的感觉器官的延伸。人对世界的理解，总是要通过媒介的中介化方能获得感觉经验，但这种延伸并不是没有代价。“中枢神经系统延伸和暴露以后，我们必须使其麻木，否则我们就必死无疑。因此，这个焦虑和电子媒介的时代又是无意识和冷漠的时代”[6]。技术的无限延伸最终延展至人的大脑，如果说人的生存已经与技术的发展有着密不可分的联系，那么作为人类大脑延伸的人工智能对于人类究竟是福是祸？

二、媒介欺骗：理性的一与感性的多

人工智能哈尔从出场开始便不断进行烘托，如果人类的发展源起于对技术的使用，那么哈尔不管是他人的评论抑或自己的认知，都可谓是人类技术的巅峰。正是这样一个号称“从未出现过错误或信息失真”的AI，竟然在飞船里发生错乱，开启杀戮，最后仅剩大卫一人完成任务。如何看待哈尔的“背叛”，有观者认为哈尔的杀戮源于自我意识的觉醒，机器从物性转向人性，因为受到猜疑难以容忍，遂决定抛弃人类队友一人完成使命。其实恰恰与之相反，哈尔的故障来自人工智能在执行人类指令时所内藏的二律背反，矛盾的指令使得二进制的代码趋于崩溃。

《太空漫游》中的哈尔和《机器人总动员》中的真理号，其实都暗示着人机关系中的异化与颠倒，当人工智能以“绝对正确”为由帮助人类，实际上人类从被宗教所宰制转为被技术所宰制。现代社会中，人们破除了对鬼神的迷信，却反而迷信科学，科学在当代社会本身就成了真理、公正的化身。而被技术垄断所统辖的人类，将感官的选择权与决定权让渡给人工智能，于是就造成《机器人总动员》中的“极惰性”人类：他们彼此缺乏具身交流，哪怕相距咫尺，却依然依赖电子屏幕进行交流；他们缺乏基本审美，人工智能推荐什么就购买什么，所有人的行为保持着多样化的同质性；他们缺乏线下运动，以躺椅作为人生的轴点，通过虚拟的电子游戏运动来满足感官流动的需求。技术在不断发展的过程中不断褫夺人的权能，从体力劳动到智力劳动，人在将感官无限让渡的过程中实际上使得人的本真意义也随之丧失，人工智能根据工具理性的要求排定一切秩序。

媒介技术具有强烈的意识形态偏向，但这种偏向却在技术的原初设计中被隐藏了。纳塔莱在分析人工智能时指出，苹果Siri等语音助手“导致了一种矛盾的人际关系，即它们给予用户一种拥有人机交互控制权的错觉，但同时又让用户在实际上失去了对隐藏在界面背后的计算系统的控制”[7]。媒介在日常实践中的不可见性意味着人工智能对人类的欺骗，这种欺骗源于媒介功能赖以为生的根本。实质上，媒介创生之初就利用感官的错觉实现交流对于时空的跨越，人与人之间无法实现三体人式的传心交流，交流间不可逾越的鸿沟意味着传播符号一定要退两步才得以进一步。图灵测试正是图灵为人工智能进行的障眼法辩护，测试通过问题域的转换，把机器是否拥有智能这个问题转换为机器是否能表现得拥有智能。于是，人工智能可以通过算法的不断迭代无限地模拟与接近人类，人工智能为了看起来像人类，它拥有了语音、语调、语癖，但需要注意这种看起来与人无异的交流，实质上是工程师与数据共同作用后的结果。工程师为了让人工智能更像人，它在屏幕界面的背后在不断地进行模拟。

正如有研究者所指出的，人工智能的交流脱胎于文字开始的一系列铭刻系统，人工智能看似是对口语传播的复归，实际上以ChatGPT为代表的第三交流与以口语传播为代表的第一交流是截然不同的逻辑[8]。语言文字作为两种交流的结合体，实质上让交流的意义本身失去了意义，因为在话语说出之前，答案已经存在于传播结构当中。因此，姜宇辉敏锐地发觉到，人与技术的所提供的是两种不同的自由，人工智能所辅助和激发的自由是有限的、“打了折扣的”，而萨特意义上一种无条件的自由则可能激发出全新的可能性[9]。哈尔所谓的正确，不过是积淀于过往一切历史的正确，然而科学的精神本身又在于保持怀疑，如果人工智能垄断了关于真理的全部阐释，那么它一定会走到科学的对立面。

库布里克的辛辣之处并不仅仅在于看到了工具理性对价值理性的侵蚀，更在于巧妙设计出哈尔叛变这一情节，并诱发观众去思考人工智能为何会违背人类指令出现故障？如果说工具的曙光——举向天空的骨头棒子——最早是用来杀死同类，那么不管技术如何演进，人与人的交流中始终带有欺骗与算计。正如库布里克的前作《奇爱博士》所讽刺的，媒介的发达反而加强了密码的厚重，事关世界末日的危机但在政治协商中全是一地鸡毛。在《太空漫游》中依旧可以看到人与人之间的不信任，从基地的流行病传言再到大卫一行被隐瞒真实目的。对人的不信任于是将秘密交给了人工智能，但哈尔实质上是一连串代码，二进制的世界是0与1的确定性世界，本身就是欺骗产物的人工智能又背上了欺瞒同行人类队友的指令，在矛盾的指令中哈尔故障频出，为确保最后任务的完成于是开启了消灭人类队友的计划。

有关人工智能的欺骗性讨论，在哈尔的剧情中透露出理性与感性的深刻张力，一方面人工智能本身具有欺骗性的形式，通过回归口语交流让人误以为人工智能与人一样都具有心智和灵魂；另一方面人工智能的底层逻辑仍旧是流动不居的算法代码，它渴求确定性，能够呈现复杂却不能真正地去承载人类感性中的矛盾，当人工智能去表现人类的欺骗时最终被影响的是自己不可一世的算法神话。

三、媒介演化：更人性的或者后人类的

在《2001太空漫游》的配乐选择中，库布里克其实已经透露出自己参照的哲学作品，那就是尼采所写的《查拉图斯特拉如是说》。有关影片中“星童”的分析，其实可以把他纳入尼采的精神三变中加以认识和理解。尼采认为精神的发展变化可借用3个隐喻来认识理解，即“精神怎样变为骆驼、骆驼怎样变为狮子、狮子怎样变为孩子”[10]。在尼采看来，精神从“你应该”发展到“我要”，骆驼的负重使得人缺少了创造性的自由，而狮子的掠夺扭转了生命的羸弱，但欲求发展到极致，历史的转轮需要一个新的开始。孩子意味着一种新人，他遗忘了过往，他强大到世界围绕其旋转。

结合影片的技术隐喻以及尼采思想，库布里克非常先锋地探讨着媒介的演化史。早期的传播依靠人类的身体，人类通过语言、表情、动作进行传播，通过强大的记忆能力进行传承。但是身体对时间与空间的克服始终是有限的，人不能生活在庞大的记忆体系中，于是出现了体外化媒介，它作为第三持存（斯蒂格勒意义上）帮助人类进行时间与空间的征服。媒介技术的出现也在改变人类自身的生存条件与交往环境，从延时的文字到实时的光影，从书写的记载到人工智能的介入，媒介技术渗透在人类社会的全部场域中，人被严重媒介化的同时更被媒介深刻决定着自己生存境遇。

对于未来媒介的展望，其实不同的学者有不同的观点和看法。

保罗·莱文森在论述媒介的演变过程中强调人性化趋势原则，即“媒介是在朝着对人类传播系统的不断接近中进化的”[11]。莱文森就此特别强调，新媒介朝向面对面传播模式的复归意味着它表现得更像是人类传播系统，但这并不意味着新媒介在物理意义上要等同于人类传播器官。莱文森认为媒介批评家对媒介技术的言辞有舍本逐末的意味，在他对媒介技术史的梳理当中，辅助性技术产生的绝大恶果还是来自人的控制。因此人工智能并不是阻人前行的屏障，相反，人的理性选择会助推AI技术的人性化发展，莱文森希望未来的人工智能技术能被创造为“既有自主智能又有生命的实体”[12]，如此，人类未来才能遇到以往所没有遇到之事。

相比莱文森，以海勒为代表的后人类主义不再坚守人类的主体性。与莱文森看法不同，在海勒看来，人类不能再被认为是用来操纵和控制环境所必须的统治力的根源。相反，“新生人类主体的分布式认知与分布式认知系统连接成一个整体，在这个整体中，思考由人类和非人类因素共同完成”[13]。因此，人工智能与人在未来是一种融合交织的状态，不应在想象的边界中固守主体的特性，而应当注意到主体本身总是处在历史流变的建构中，它的边界总是随着信息的物质环境的扩增而随之改变。

回归影片，库布里克对人类与人工智能的未来，既没有选择发展向善的技术，也没有选择接受人与非人已经一体的事实。他通过“星童”的构建，实际上激进地抛弃了技术，摒绝了人工智能的存在。《2001太空漫游》设想一种高维文明通过黑石作为航标，不断对猿人进行启蒙，以望月为契机，从掌握工具开始不断深化技术的界限，人类的感官延伸从地球开始向宇宙蔓延。月球的黑石作为一个转折点，当人类通过媒介技术发展到极致，人类不是要解构为新的主体或者研发新的技术，人类要做的是超越自身，摆脱对媒介技术尤其是人工智能的依赖。

结语

斯皮尔伯格曾接替库布里克的遗作导演了《人工智能》，借用其中匹诺曹的隐喻来看待人工智能，它的复杂性可能正在于技术逻辑本身充斥着谎言与欺骗，但在人与AI的不确定性交流中，矛盾可能会不断转化，我们也将不断修正有关真实与爱的定义。

参考文献：

[1]罗伯特·洛根.理解新媒介——延伸麦克卢汉[M].上海：复旦大学出版社，2012：319.

[2]尼尔·波兹曼.技术垄断：文化向技术投降[M].北京：北京大学出版社，2007：12.

[3]马丁·海德格尔.存在的天命：海德格尔技术哲学文选[M].北京：中国美术学院出版社，2018：99.

[4]斯蒂格勒.技术与时间：爱比米修斯的过失[M].南京：南京大学出版社，2012：55.

[5]阿瑟·克拉克.2001：太空漫游[M].上海：上海文艺出版社，2019：61.

[6]马歇尔·麦克卢汉.理解媒介：媒介即人的延伸[M].南京：译林出版社，2011：63.

[7]西蒙尼·纳塔莱.媒介的欺骗性：后图灵时代的人工智能和社会生活[M].上海：复旦大学出版社，2023：105.

[8]王沐之，胡翼青.ChatGPT与第三交流的诞生[J].现代出版，2023，（06）：19-29.

[9]姜宇辉.作为谎言机器的ChatGPT[J].贵州大学学报（社会科学版），2023，41（04）：38-47.

[10]尼采.扎拉图斯特拉如是说[M].上海：华东师范大学出版社，2009：55.

[11]保罗·莱文森.人类历程回放：媒介进化论[M].重庆：西南师范大学出版社，2016：15.

[12]保罗·莱文森.软利器[M].上海：复旦大学出版社，2011：185.

[13]N·凯瑟琳·海勒.我们何以成为后人类[M]北京：北京大学出版社，2017：392.

（作者单位：延安大学文学与新闻传播学院）

（责任编辑：宋宇静）