从人机互动到“人际”互动？GPT带出的主体性问题

于 海

（复旦大学 社会发展与公共政策学院，上海 200433）

人机互动：人长成超人，还是沦为废人？

人机互动并非新概念。70 年前，当诺伯特·维纳撰写《人有人的用处》时，“他正处于将机器和动物简单地理解为物理过程的时代的末尾，以及将机器和动物理解为计算过程的我们当下这一代的开端”［1］78。创立控制论的维纳认识到，人对机器发指令，跟人对人发指令本质上并无区别。在这个刚刚开始的通信时代，理解通信及其过程才能理解社会，因此，“人与机器之间、机器与人之间以及机器与机器之间的消息，势必要在社会中占据日益重要的地位”［2］2。维纳时代的人机对话采用的是工程语言，而非GPT上人机对话的自然语言，人机对话对维纳而言更多的是一种比喻。此外，控制论关心的是在通信中与信息的组织性降低及含义受损的自然趋势作斗争，即跟吉布斯所讲的增熵趋势作斗争，并非今日生成式语言模型的人机开放性互动。在维纳的人机系统中，机器结构只是对人类生理结构的复制，因此，机器智能只是人类智能的复制。他不担心机器智能是否会超越人类，而是关心机器系统的价值观如何与人类保持一致。“当个体人被用作基本成员来编织成一个社会时，如果他们不能恰如其分地作为负着责任的人，而只是作为齿轮、杠杆和连杆的话，那即使他们的原料是血是肉，实际上和金属并无什么区别。”［2］166他先知般地告诫人类不能沦为机器的一个元件。人机对话的关键是：“除非我们问题提得正确，我们绝不会得到正确的答案的。”［2］166

GPT的人机互动发生在两个维度。其一是工程师和机器的互动，基于人工神经网络的深度学习和大语言模型训练，是机器所谓自主学习和自主成长的机制。强化学习甚至没有预先输入数据，机器仍能通过学习知道哪些变量是重要的，以及如何对它们进行加权以达到人类设定的目标。但无论是大数据投喂还是强化学习，都是人类与机器基于规训①“规训”是福柯提出的概念，原指掌握话语权的人对人的预先训练，这里转用的目的在于使机器有用并驯服。的互动，源自维纳的价值对齐要求更是强迫机器价值与人类价值一致。其二是用户与机器的互动，以自然语言对话展开的人机互动，既是机器向各色人等学习的过程，也是人类向几乎全知机器学习的过程。

人机互动引出的主体性的第一个问题，关乎人是成为尼采式的超人，还是赫拉利在《未来简史》中所预言的废人。

GPT超强的能力，是叠加数据、算法和算力的结果。乔姆斯基虽对GPT批评多多，但也肯定其成功的机制在于通过获取大量数据，在其中搜索规律，能越来越熟练地生成统计上可能的输出——比如看似人性化的语言和思想。这些程序可被誉为通用人工智能地平线上的第一缕曙光。［3］有人戏言，利用GPT，聪明的人会变杰出。GPT将昂贵的知识真正平民化，不再需要头悬梁锥刺股，人对自己及环境都能够获得最充分的信息，并知道最好的行动方案，真正实现“认识你自己”，从而不必等到70岁才“随心所欲而不逾矩”。如此，人类是否真正进入了人人都是英雄豪杰的时代？

然而，得力于AI 而“认识你自己”，更可能是AI 比你更了解你自己。由人类作者写的脸谱网算法研究给出的预测是，人类若遇重大人生抉择，如要选择从事何种活动或选择职业道路甚至交往对象，可以考虑放下自己心理上的判断，依赖计算机所做的选择，“这种数据导向的选择，有可能会让人类生活得更好”［4］306。GPT-4 在各种专业和学术考试上已然表现出明显超越人类水平的能力，例如，在模拟律师考试中，分数排在应试者的前10%左右。而AI 诊断系统所了解的病例和治疗方案远超多数医生。面对不断迭代而表现更强的AI，人们惶恐它将横扫多少工作岗位。赫拉利说人工智能将终结个人主义，因为多数人变得无用而成废人。［4］294

答案或许不是在超人或废人之间二选一，而是赫拉利说的少数掌控算法的人“神机妙算”，从智人成为智神，而多数人因高度依赖系统而沦为多余的人。近代科学和哲学的发明，曾让人类经历过四重自恋创伤：哥白尼日心说，令人类居住的地球从中心滚到一边，此系人类在宇宙中位置的一次失落；达尔文进化论，把阿米巴和灵长类连成一线，此系人类在生灵世界的一次下凡；马克思的历史唯物论，恢复物质（生产）对于精神的本体地位，此系人类在社会世界的一种还俗；弗洛伊德的精神分析说，把人之初级本能定义为人之高级行为的原始动力，可视为人类在心理世界的一种认祖。人工智能在各项人类事务上比肩人类甚至超越人类的强悍表现，是否构成21 世纪人类正在遭遇并将继续承受的新一重自恋创伤？马斯克曾表示，人类恐怕只是数字超级智能的一段非常小的生物引导程序。他担心的不是人类多数或成为废人，而是人类全体的生死存亡。

人机互动：机器只是机器，抑或成为主体？

人机互动引出的主体性的第二个问题是：机器是否为一主体，或只是一工具？目前的智能机器虽表现出让人惊艳的能力，但还不具有自我意义上的主体性，但我们仍可用“主体性”概念来理解AI 最新一波的跃进。上文关于人机对话的专家/机器维度和用户/机器维度的说明，已经透露出机器的拟主体性，即它虽还没有本体论意义的主体性，但有互动论意义的主体性。机器本身不直接显露自主性，但一方面，在互动过程中，机器会影响进而诱导使用者在一些事务上的认知方向，形成惯性，甚至在使用者兴起违背道德或邪恶意念时，帮助设计一个完美的实践路径，达成“犯罪者”所期待的“黑暗荣耀”。［5］另一方面，被人类价值调教过的AI，或也会在使用者不端心思刚刚露头时，便中断对话，拒绝协助用户策划恶意方案。此时的机器表现了某种人际互动中才有的道德主体性。

GPT表现的这种拟主体性，是传统人机对话从未有的，进而也引出人际对话一样的人机对话，在某种意义上会被当真视为人际对话的问题。

从哲学人类学上看，当下AI 迈不过两个坎：主体的感受质和主体的创造性。AI 在人机对话中表现的主体性还只是拟主体性，即并非本体论意义上的主体性，而是互动论和功能论意义上的主体性。

迄今，世界上只有人类一个主体，这虽然是人类的自我加冕，但事实上的确没有第二个物种有资格和能力与人类争冠。社会学的主体间性（intersubjectivity）概念只用于人类关系，而不会用于人和其他动物或非生物之间的关系，在人类主体看来，它们都只是客体。

主体性的一个主要特质是主体的感受质。感觉、感情都是主体感受质的主要表现。以颜色为例，宇宙是无色的，颜色是主体的主观感受。物理学能告诉我们，颜色是电磁波在神经纤维键盘上演奏的结果，却不能解释我们当下的色彩感是怎么回事。“感时花溅泪，恨别鸟惊心”，离愁是文人书写得最多的人类感受。持还原论立场的神经科学家总想把人的一切主观感受全都还原为神经元的物理化学活动。对一次长久的、令人心碎的分离，他或能观察到来自大脑的传出脉冲电流，通过运动神经纤维，传导至手臂的某些肌肉（对应手臂不情愿地颤抖着告别）；脉冲电流还会引起某种泪腺封闭，蒙上悲伤的双眼。但正如物理学家薛定谔所断言的：“无论生理学发展到多么先进的水平，在这条从眼睛通过中枢神经传至臂膀肌肉和泪腺的路上，在任何地方你都看不到性格特征，看不到可怕的伤痛，看不到心中的担忧，虽然它们的存在你是如此肯定，仿佛是你的亲身体验，而事实上你也确实体会到它们。”［6］在用碳基细胞组成的神经网络上都读不出主体的感受，我们还能指望在用硅基材料组成的人工神经网络上读出感受吗？简言之，AI 仍没心没肺。因此，战胜卡斯帕罗夫的“深蓝”并不快乐，而柯洁却难以排遣被阿尔法狗碾压的郁闷。

创造性是被人类特别珍视的主体性特质，尤其是表现在科学和艺术上的创造性。智能机器在艺术上的成就，特别唤醒了人的主体性危机意识。

在音乐家大卫·科普（David Cope）用他编写的“音乐智能实验”程序EMI 创作了让发烧友和专家都真假难辨的肖邦和巴赫风格的乐曲之后，《哥德尔、艾舍尔、巴赫》一书的作者，著名的认知科学家侯世达说自己被吓坏了。在侯世达的学生米歇尔看来：“他不是担心人工智能变得太聪明、太有侵略性、太难以控制，甚至太有用。相反，他担心的是：智能、创造力、情感，甚至意识本身都太容易产生了，这些他最为珍视的人性特征和人类精神，结果只不过是‘一套把戏’，一套肤浅的暴力算法就可以将其破解。”［7］10侯世达承认：“如果这种无限微妙、复杂且情感深厚的思想会被一块小小的芯片所简化，这会摧毁我对人性的理解。”［7］311

但研究者指出，无论是“深蓝”，还是EMI，都还不具有让侯世达感到威胁的人类特有的创造性。2009 年诺贝尔化学奖获得者拉马克里希南说，打败卡斯帕罗夫的不是“深蓝”，它只是一架笨重的机器，“深蓝的胜利是几百名程序员战胜卡斯帕罗夫一个人的胜利”［1］225。米歇尔认为，EMI 并不真正理解其所生成的音乐作品，无论是音乐概念，还是情感表达。因此，EMI 也无法判断自己作品的质量，这是音乐家科普的工作。艺术是人类引以为傲的作品，因为它可以说最能区别人类与其他生物之间的不同。米歇尔补充道：“让我们感到自豪的不仅是我们可以创造艺术，还有我们对艺术赏析的能力、对其感人之处的理解以及对作品传递的信息的体会。这种赏析和理解的能力对观众和艺术家来说都是必不可少的，没有这些，我们就不能说一个生物是有创造力的。”［7］307-308

以上主体性的感受质、创造性和理解力等的定义，当然都是基于人类立场的观念。问题是，如果人工智能并非人类智能的直接抄写，那么，AI 的理解及其创造性也不必复制人类的理解和创造性。人类的理解是概念驱动，通过经验建立因果推断，使用极简的模式和极少的数据，加上自由联想和直觉。今天的生成式人工智能，几乎没有一样对得上。没有概念驱动，没有因果联系，甚至没有正式的编程，更没有实在世界的经验，只是借助海量的数据和强大的算力，通过复杂的统计相关性计算就能够获得近乎完美的模型表现。专家们对大型语言模型（LLMs）智能是否类人智能的分歧表明，我们基于自然智能的传统观念是不够充分的。如果LLMs 和其他模型成功地利用了强大的统计相关性，我们或可认为它绕开了人类的理解模式，难道不也可以被视为一种新兴的“理解”能力？一种能够实现非凡的、超人的预测能力。“比如DeepMind 的AlphaZero 和AlphaFold 模型系统 ，它们似乎分别为国际象棋和蛋白质结构预测领域带来了一种来自‘外星人’的直觉形式。”［8］人类对自己大脑的工作原理并不清楚，人类专家对最新AI 的工作原理一样不甚清楚。如果说程序员明确理解传统编程输入如何以及为何与输出相关，那么，大型AI 系统就相当不同。AI 专家说：“我们并没有真正编写它们的程序——我们是培育它们，而随着它们成长，它们的能力会急剧跃升。你添加10 倍的算力或数据，突然间系统的行为就大不相同了。近期的一个例子是，随着OpenAI 从GPT-3.5 扩展到GPT-4，这个系统在律师资格考试中取得的成绩排名从最末10%提高至头10%。”［9］这种随系统数据和模型参数增加而来的能力“涌现”，岂非大型AI 系统的“创新”？虽然机器并无创新意识和自觉。AI 在特定任务方面赶上甚至超过人类的表现，让多数人工智能专家不再怀疑它已具有“创造性”。柯洁说打败他的AlphaGo 下出了人类棋手从未下过的步子，他见证了机器从“像人类一样下棋”到“像棋神一样下棋”的自我进化。

人机互动如何被人视为“人际”互动？

如今，人工智能既强悍又人性化的表现，让普通人很难仅仅视其为一个工具。从GPT上抄作业、抄论文的学生，是把它当成授业之师还是学霸同学？当不少程序AI 都能写得又快又好时，程序员是得意于获得一个得心应手的助手，还是担心面临一个将淘汰他的对手？看了一圈医生，问题仍没有得到解决的病患，最后通过与AI 的互动而获得正确诊断，这类互动岂非用户与医术更高明的专家的互动？如果一个画师给GPT打下手，给AI 作品修图，那么，画师是主体，还是AI 是主体？主客体在这里是否已颠倒？虽然修图要求的技术或许更高，但在人机关系上，画师多少失去了重要性。

GPT的英文是“generative pre-trained transformer”，意为生成式的预训练转换器。机器的学习是在人类和机器老师的训练监督下进行的。工程师告诉我们，训练机器如同训练青少年一样困难和缓慢。［1］24这意味着，越来越人性化的计算机系统实际上也是一个类社会化的产物。问题是，谁不是GPT？社会化就是父母、老师、朋友、同事、上级、机构等，对人做预先训练，让受训者逐步掌握一套说话的模式、做事的模式、价值和规范的模式，然后可在不同场景举一反三生成恰当的话语和行为。但人的预训练深受种种限制，如家庭、阶层、出生地、工作机构、人种等，跟大语言模型训练出来的GPT-3、GPT-4 及未来的GPT-n，在数量上不可比拟。当我们说GPT是人对机器的类社会化过程，这是人机关系具有人际关系的底层逻辑。但机器终究将无所不知、无所不能，成为通用人工智能甚或超级智能，那时恐怕会有一个反向的社会化，即人被GPT社会化，或曰人被AI 化，这或是可以预测和想象的前景。这是另一种互文性，另一种互动性，或人机的交互社会化。我担心的不是发明、改进和掌握AI 的技术精英，而是芸芸众生，或常人主体。AI 医疗系统已经强过多数医生，不被AI 取代的医生必将更多地向AI 请教而非相反。AI 恋人，若被发明并合法化，其施爱的本领和善于与人相处的性情，多半优于毛病多多的人类恋人。常人会被各种绩优表现的AI 降伏，这样演化出的“人际”关系势必侵蚀人的主体性。

至于工程师们，当他们决心要让机器用人的自然语言跟人类对话时，想到的何止是语言？还有思维、逻辑、价值等，都要像“人”一样，他们也的确是把机器当作匹配人的主体来训练。从人机对话到人际对话或不成问题。但当机器日益强大且势不可当，真正严重的问题，已经不再是人类主体是否还能匹配机器主体，而是人类主体是否还能控制机器，不致被机器降维（成为AI 的客体），或被机器所灭。

年度《AI 现状》报告的作者之一伊恩·霍格思认为，三个字母的首字母缩略词不能体现AGI（通用人工智能）将产生的巨大影响，因此他实事求是地称其为“上帝般的AI”。他认为，这可能是一种人们无法控制或理解的力量，可能导致人类被淘汰或毁灭。［9］

“上帝般的AI”的风险其实从一开始就被AI 公司的创始人所了解。DeepMind 首席科学家沙恩·莱格早在2011 年就将AI 对人类生存构成的威胁描述为21 世纪的头号风险，人为设计的生物病原体紧随其后排在第二位。OpenAI 的奥尔特曼也曾坦率地说：“最糟糕的情形是——我认为说出这一点很重要——我们所有人迎来末日。”

AI 可能导致人类末日的一个例子，是加州大学伯克利分校计算机教授斯图尔特·拉塞尔在2021年的BBC 广播讲座中提出的。设想联合国请一个通用人工智能帮助去除海洋酸化。联合国深知目标设定不当的风险，因此要求副产品无毒且不会伤害鱼类。作为回应，AI 系统提出了一种实现所有设定目标的自我增殖的催化剂。但随后发生的化学反应将会消耗大气中四分之一的氧气。“我们都会缓慢而痛苦地死去。”拉塞尔总结道，“如果我们将错误的目标输入一台超级智能机器，就会造成一场我们注定会沦为输家的冲突。”［9］

人机互动的末世前景，还有并不如此悲切的议论，我们可将之归为人机互动的降维论，即人类将以达尔文主义的达观，看着硅基生命以我们碳基生命为踏脚石而升维为地球的第一甚至唯一主体。让我们来听听60 年前硬核科幻作家阿瑟·克拉克的预言：

未来世界最聪明的居民不会是人和猴子，而将是机器及今天的计算机的遥远后代。现在的电子大脑完全是白痴，但将来就不会这样了。它们会开始思考，最终它们会完全超越它们的创造者。这令人沮丧吗？我不觉得我们应该这么想。我们取代了其他古人和尼安德特人，我们认为这是一种进步。我们认为，我们应该把这看作一种荣耀，可以成为高级生命的垫脚石。我怀疑有机或生物进化已经走到了尽头，我们正处于无机或机械进化的开端，而它的速度将比之前的进化速度快几千倍。［10］

火鸡不会投票支持感恩节。人们多数也不会像克拉克那样，大方地接受被机器替代的结局。无论是被淘汰还是被降维，都是人类主体性的末世。所以，有乐观的专家设想智能技术将今日之“码农”解放出来，使其变成明日之“智农”，成为“人机结合，知行合一，虚实一体”的“合一体”智慧员工。［7］XXVII这个设想是不是过于理想？

合理的前景，还是发明人机通信的维纳提出的：人有人的用处，机器有机器的用处。也就是说，人和机器互动足矣！一定要走向“人际”互动，危矣！