人工智能：工具或主体？

程承坪

摘   要： 人类智能的本质在于思维，思维是意识的表现。意识是神经元复杂系统涌现的结果，意识不遵守物质守恒定理等物质性规定，因而意识属于非物质。人工智能是非生命的物质，它不可能产生意识。就内容而言，作为物质的人工智能不可能模拟非物质的意识。人工智能只能从形式上模拟意识。这意味着人工智能只能模拟思维，却不拥有思维、不能思维。因而，人工智能不可能成为主体，它只能是工具。但随着人工智能从形式上对人类智能模拟能力的提高，部分人工智能可以成为形式上的主体。缺乏意识的人工智能体不可能实现奇点，但人机结合有可能实现奇点。人机结合奇点虽然不会对人类生存构成严重的威胁，但会给现有社会秩序以及人性带来严峻的挑战。

关键词： 人工智能;人类工具;形式主体;具身认知;非物质;人机结合;奇点

中图分类号：TP18  文献标识码：A  文章编号：1004-8634（2021）06-0005-（08）

DOI：10.13852/J.CNKI.JSHNU.2021.06.001

人工智能是工具還是主体，这既是科技问题，也是哲学问题。目前学术界对这一问题的认识没有达成共识。1 科学地回答这一问题，有助于使社会各界人士理性地看待人工智能及其发展。

在界定工具、主体及人工智能概念的基础上，通过对人类智能的来源以及人的意识性质的分析，得出了人工智能只能是工具而不是主体的研究结论。在此基础上，本文进一步分析了社会各界广泛关注的人工智能奇点问题。本文认为，人工智能体不可能实现奇点，但人机结合有可能实现奇点。

本文的主要创新表现在两个方面：一是通过阐明人类智能的来源以及证明意识的非物质性，得出了人工智能没有思维、不能思维，人工智能只能从形式上模拟人类智能，不能从内容上模拟人类智能，它仅仅是人类的工具的结论;二是论证了人工智能体不可能实现奇点。这两个方面的创新具有重要的理论价值和现实意义。

一、工具、主体及人工智能

为了正确地回答人工智能是工具还是主体的问题，必须首先对工具、主体及人工智能的概念加以界定。

1.工具、主体

工具通常是指人使用的器具。工具可进一步抽象为实现目的的手段。

主体概念在不同的学科中有不同的理解。譬如，在哲学上，主体是指能认识客体、有实践能力的人;在系统论中，主体是指构成系统的主要组成部分;在刑法学中，主体是指因犯罪而负有刑事责任的人;在民法学中，主体是指既享有权利又负担义务的公民或法人;在国际法学中，主体是指国家主权行使者及相应义务承担者。

为了使讨论具有一定的普遍性和广泛性，本文基于哲学视角讨论主体概念。但目前哲学的主体概念，外延仅仅局限于人，不包括人以外的物体。为了使主体概念具有开放性，考虑将主体概念的外延加以拓展，因为随着科学技术的发展以及人类经验范围的扩大，有可能发现或制造出具有主体特性的物体。譬如，发现具有主体特性的外星生物，或制造出具有主体特性的物体。主体特性就是具有认识能力和实践能力，简而言之，就是主观能动性。所谓主观能动性，就主观与客观的相互关系视角而言，是指拥有主观能力的一方对客体加以主观反映，经过一系列的抽象过程而形成理性认识或感性认识，又通过实践活动而反作用于客体。因此，本文把主体界定为具有主观能动性的人或物。这一拓宽了外延的主体概念，为把人工智能等物体纳入主体范畴奠定了概念基础。

就工具与主体的关系视角而言，主体是目的，工具是实现主体目的的手段。就因果关系视角而言，主体可以自为因果。用计量经济学语言来说，主体具有自相关性，而工具则不具有自相关性。

2.人工智能

由于学术界对人工智能有不同的认识和界定，为了统一认识，本文认为采用溯源法界定人工智能比较恰当。1956年，约翰·麦卡锡（John McCarthy）、马文·明斯基（Marvin Minsky）、纳撒尼尔·罗切斯特（Nathaniel Rochester）和克劳德·香农（Claude Shannon）等科学家在美国达特茅斯学院开会首次提出“人工智能”（Artificial Intelligence，缩写AI）概念时，将AI界定为模拟、延伸和扩展人类智能的机器。1

上述AI概念里有两个关键词：一个是人类智能，另一个是机器。当时麦卡锡等科学家并没有界定什么是人类智能，也没有界定什么是机器。对于人类智能的理解存在争议，但对于机器的理解则不存在争议。机器通常是指由各种金属及非金属部件组装而成的装置，它通过消耗能源而运转、做功。需要强调指出的是，机器的物质基础是无机物而不是有机物。

不同学科对人类智能存在不同的认识或理解。譬如，计算机科学家从世界是可计算的理念出发，把人类智能视为“计算”;数学家把人类智能视为“抽象能力”或“逻辑证明能力”;语言学家认为，人类智能的关键在于“理解”;逻辑学家认为，人类智能表现为“推理”;2 认知科学家则认为，人类智能是“思考”或“思维”。3 从概念的外延来考察，我们可以发现，在上述诸多对人类智能的不同认识中，思维概念的外延最大，思维可以包含计算、抽象能力、逻辑证明能力、理解、推理等。虽然思维也有不同的理解或界定，但不同的理解或界定具有一个共同点，即思维是揭示事物内在的、本质的特征的过程。思维可分为形象思维、抽象思维和灵感思维等基本形式或类型，其中抽象思维又可分为形式逻辑思维和辩证逻辑思维。4

因此，为了获得共识，我们可以把人类智能界定为思维。事实上，如果把人类智能仅仅理解成计算、推理或抽象能力等，都不足以概括或反映人类智能的全部。譬如，数学家所说的“逻辑证明能力”中的“逻辑”，是指形式逻辑，它包括归纳逻辑和演绎逻辑，但不包括辩证逻辑。目前人工智能已经具备归纳逻辑能力和演绎逻辑能力，但还不具备辩证逻辑能力。5 每当遇到辩证逻辑问题时，基于逻辑主义的人工智能就会陷入困境。逻辑学家所说的“推理”，包含因果推理和反事实推理。两者之间的区别在于，前者是基于事实的，而后者是可以反事实的。6 2011年图灵奖得主、计算机科学家朱迪亚·珀尔（Judea Pearl）认为，当前的AI缺乏因果推理能力，如何使AI具备因果推理能力是AI专家面临的巨大挑战。7

二、人工智能是工具而不是主体

在界定了工具、主体和AI概念之后，接着需要阐明人类智能的来源，证明意识的非物质性，在此基础上根据AI的物质特性，论证AI是工具而不是主体的观点，阐明AI可以成为形式上的主体。

1.人类智能的来源以及意识的非物质性

第一，人类智能的来源。根据上述分析，可以把人类智能界定为思维。思维具体表现为计算能力、逻辑证明能力、推理能力和理解能力等，它具有主观特性。认知科学表明，人的思维是人的意识的表现，如果一个人没有意识就不可能有思维。1 目前学术界对意识的含义没有达成共识，但心理学通常把意识界定为“现时正被人感知到的心理现象”。2 从人的心理能否被感知到角度来说，意识可区分为“有意识”和“无意识”或“潜意识”。

关于意识的来源，可分为唯物论的意识来源和唯心论的意识来源两种观点。唯物论认为，意识来自大脑，意识是大脑的功能，有的唯物论者甚至认为意识本身也是物质的一种形式。唯心论认为，心（意识）与脑是两分的，它们是两种不同的东西，有的唯心论者甚至认为心是可以脱离大脑而独立存在的。3

现代神经生理学认为，意识必须以生命为前提，它是巧妙组织起来的大脑神经元这个复杂系统涌现的结果。4 认知神经科学的研究表明，如果大脑某些部位的神经元受到损伤，相应的意识就会缺失，大脑不同区位的神经元主导不同的意识，5 这说明意识与神经元密切关联。意识与神经元的关联性，否定了意识可以独立于大脑而存在的观点。心理学家苏珊·布莱克摩尔（Susan Blackmore）认为，至今还没有发现非生命体可以产生意识或拥有意识。6

具身认知认为，人的意识不仅仅源自大脑神经元，也源自大脑以外的神经元。玛丽亚·布朗克（Maria Brincker）认为，人的意识源自全身神经元的感知以及与外部世界的互动。7 具身认知逐渐得到学术界认可，因为人的许多技能性知识无法通过大脑表达，这些技能性知识隐藏在全身的感知神经元中。譬如，通过游泳训练而学到的游泳技能，不能完全通过大脑用显性知识加以表达，它只是隐藏在人的运动神经元里的一种隐性知识，人不可能通过课堂上学习游泳知识而获得游泳技能。

上述分析表明，人类智能源自人的意识，而人的意识源自生命体全身的神经元复杂系统的涌现，意识不能独立于生命载体而存在。

第二，意识是非物质。上述研究表明，意识源自生命体全身的神经元复杂系统的涌现。因此，我们提出一个哲学问题：物质能否生成非物质？或者提出更一般化的问题：“无”与“有”能否相互转变？事实上，“无”与“有”相互转变是自然界常见的现象。譬如，无机物可以生成有机物，8一种形态的物质可以转变成另一种形态的物质，一种形态的能量可以转变成另一种形态的能量，物质与能量也可以相互转变，等等，都是自然界司空见惯的现象。因此，我们有理由相信，物质可以生成非物质。9 譬如，意识是由有机物质——神经元复杂系统涌现出来的非物质。对于意识是非物质的观点，我们至少可以用四个论据加以论证。1

论据一：凡物质都遵守质量和能量守恒定律，而意识却不遵守质量和能量守恒定律。物质可以由一种形式转变成另一种形式，但质量既不会增加也不会减少，即物质遵守质量守恒定律。但是，物质可以转变成能量，能量也可以转变成物质。不同形式的能量可以相互转换，但能量遵守能量守恒定律，即能量既不会增加也不会减少。因此，物质遵守质量和能量守恒定律。2 但是意识不遵守守恒定律，因为意识是可以无限复制的。譬如，一个人的观点可以被无数人接受，却不损失原来的观点。

论据二：物质可以被探测，而意识却无法被探测。人类只能凭借内省而感知意识，却无法探测它的存在。到目前为止，使用各种先进的探测技术手段，譬如脑扫描成像仪等，都无法探测和发现意识的存在及其构成。3

论据三：物质是时空有限的，而意识却是时空无限的。北京大学哲学教授韩水法认为，意识具有超时空特性。4 譬如，人类只有5700多年的文字文明史，5 现代物理学从伽利略·伽利雷（Galileo Galilei）算起也只有400多年的历史，但是人类对自然的认识可以追溯到宇宙诞生之初，时间跨度达到150亿年之久，在空间上可以观察、分析超过300亿光年之远的天体。

论据四：物质遵循因果律，6 而意识并不完全遵循因果律。人类可以自为因果。7 譬如，人类可以为自己设定行为目标和行为规范。艺术、理论和价值信仰等，都是人类为自己的需要而创设出来的，并不是自然界强加给人类的。各种形态的工具也是人类为了自己的目的而制造出来的，自然界根本不存在这些形态的工具。人类具有无限的创造性，根源于意识的不受时空约束的特性以及自为因果的特性。人类既可以是其他事物发生、发展的因，也可以是自己发生、发展的因。

通过以上四个论据，我们可以推出意识是非物质的观点。

2.人工智能可以成为形式上的主体

根据AI概念，AI是一种机器，是由无机物而非由有机物构成的生命体。布莱克摩尔认为，由于AI不是由有机物构成的生命体，没有神经元，因此，“人工意识不可实现”。8 因此，AI不可能像人類一样涌现出意识，而没有意识就不可能拥有人类智能。

从内容而言，AI是物质，人类智能是非物质，两者之间存在不可跨越的鸿沟。这意味着无法用物质的AI模拟非物质的人类智能。AI既没有意识，又不可能从内容上模拟意识，这意味着AI无法拥有思维。

从形式而言，无论是物质的AI，还是非物质的人类智能，只要存在形式上的共同点，就可以模拟。目前AI可以通过三种基本形式模拟人类智能：一是符号主义，二是联结主义，三是行为主义。9 AI可以从形式上模拟人类智能，这意味着AI可以在形式上一定程度地表现出思维能力。

只能从形式上模拟人类智能的AI存在两个方面的局限性：一是只有形式没有内容，因而AI不能“理解”——不能理解它扮演的角色含义，也不能理解其行为及目的的意义。它没有真正的思维能力，从而缺乏创造性。二是根据哥德尔不完备性定理，人类可能永远也无法完全认识人类智能的特性，1 因而无法把全部人类智能形式化，从而无法使AI从形式上完全模拟人类智能。

尽管如此，由于可以从形式上模拟人类智能，因而AI具有形式上成为主体的可能性。主体是具有主观能动性的人或物。AI要从形式上成为主体意味着AI在形式上具有主观能动性。主观能动性由三个要件构成：自我意识、自由意志和道德责任。研究表明，部分AI具有形式上的自我意识、弱自由意志和道德能力，不具有实质性的自我意识，不能独立承担道德责任，2 因而部分AI具有弱主观能动性。换言之，部分AI可以成为形式上的主体。3

具有形式主体的AI，在面临问题时可以采取两种方式应对：一是形式化应对，二是经验化应对。所谓形式化应对，是指凡能够形式化的问题，都可以采取形式化方法加以解决。譬如，如果属于逻辑推理的问题，那么符号主义的AI可以采取形式化方法加以应对。所谓经验化应对，是指过去出现过相同的问题，而且有了成功的解决办法，那么当未来出现同样的问题时，AI就可以采取经验方法加以解决。随着大数据、智能芯片和算法技术的不断提高，一方面，AI可以积累海量的“经验”，另一方面，AI的运算速度远远超过人类，因此，AI可以帮助人类快速地解决许多能用经验方法解决的问题。如果遇到既不能形式化又没有经验可用的问题，AI就会一筹莫展。

三、人工智能奇点是否可能

在回答了AI是工具还是主体的问题之后，延伸的逻辑就是进一步回答AI奇点是否可能以及奇点如何可能实现的问题。

1.人工智能奇点不可能实现

AI奇点问题是社会各界普遍关注的问题，对这一问题的科学回答有助于回应社会各界的关注，消除疑虑。据北京大学哲学教授何怀宏考证，1958年，被誉为“计算机之父”和“博弈论之父”的约翰·伊诺曼（John von Neumann）在和著名数学家斯塔尼斯拉夫·乌拉姆（Stanis?aw Marcin Ulam）谈论计算机技术变化时首次使用了“奇点”4 一词。5 美国数学家和小说家弗诺·文奇（Vernor Steffen Vinge）则是第一个在AI领域的正式场合使用“奇点”一词的人。但在AI领域提出奇点问题最著名的当属著名未来学家雷·库兹韦尔（Ray Kurzweil）。他在《奇点临近》一书中表达了这样的观点：随着AI技术的加速发展，在某一时刻，将达到一个AI技术的奇点（technological singularity），此时AI将大大超越人类智能，机器人也将成为人类“进化的继承者”和“思想的继承者”。6 库兹韦尔提出的这一新奇观点，有人欢呼雀跃，有人满怀隐忧。1 库兹韦尔的奇点观引发了学术界的长期争论，到目前为止并没有达成共识。

澳大利亚国立大学脑意识研究中心主任、哲学教授大卫·查尔默斯（David Chalmers）认为，AI的进化主要来自算法，只要找到正确的算法就可以实现AI奇点。2 AI奇点的主要理论根据是摩尔定律，3 认为AI技术呈指数级发展，发展到某个点便会引起质变或突变，这个点就是奇点。而人类智能发展的速度远远低于AI，当奇点来临时，AI将超过人类智能。

AI奇点观引来了诸多反对观点，归纳起来主要有三种。一是身心一体观。塞尔认为：“只有相信心灵既在概念上、也在经验上可以同大脑相分离——二元论的强形式，才能希望用编写和运行程序的方式再现心理。”4但认知神经学的研究表明，心灵（意识）与大脑是不可分离的。塞尔的意思是，心灵受到大脑的影响和制约，即使AI能够模拟心灵也无法再现心理。因此，AI奇点不可能出现。二是弱计算主义观。弱计算主义认为，AI奇点的哲学基础是强计算主义。强计算主义认为，世界是可计算的，人脑可视为数字计算机，但世界并不是完全可计算的，人脑也不是一台数字计算机，5 计算仅仅是人脑功能的一部分而远非全部。6三是物质基础观。该观点认为，物体的功能既与物体的结构有关，也与物体的物质基础有关。因此，AI联结主义试图通过模拟大脑神经元的组织结构而舍弃其生物基础以实现模拟人类智能的方法是不可能成功的。正如认知神经科学家安东尼奥·达马西奇（Antonio Damasio）在其《自我融入心智》一书中所指出的，生命体是意识心智的基础，没有生命体就没有意识心智。7

针对第一类反对观点，本文认为，即使心灵与大脑可以分离，AI奇点也不能实现。因为心灵是非物质的，而AI是非生命体的物质，AI不可能拥有或模拟非物质的内容，只是从形式上模拟人类智能是不可能超过人类智能的。针对第二类反对观点，本文认为，非物质的人类智能不是完全可计算的，8因此，基于强计算主义的AI不可能模拟心灵。针对第三类反对观点，本文认为，虽然生命体是意识心智的基础，但是如果意识心智也是物质的，那么随着科技的发展，意识心智的机制或功能有可能被认识。根据功能赋予理论，只要是能够被认识的物理功能，人类迟早都能够把它对象化，从而再现。譬如，科学家掌握了鸟飞行的空气动力学机制之后，就可以制造出飞机，飞机虽不是鸟，但可以飞行。

通过上述论证，本文认为AI奇点不可能实现。

2.奇点可能通过人机结合的方式实现

既然AI不能实现奇点，那么如何才能实现奇点呢？本文认为，把AI与人类相结合而形成的人机结合体有可能实现奇点。由于人机结合可以使人类智能与AI相互赋智和赋能，9取长补短、共同发展，从而使人机结合的智能变得越来越强大，以致发展到某个时候，人机结合的智能远远超过人类智能，此时库兹韦尔所谓的奇点就出现了。但此时的奇点与库兹韦尔所谓的奇点存在区别，主要表现在载体的不同。前者的载体是人机结合，而后者的载体是AI。人机结合是由人主导的，本质上仍然属于人，而AI属于物。

库兹韦尔提出的AI奇点观点之所以引起社会各界人士的关注甚至恐慌，原因有两个方面：一是出于人类对新事物好奇的天性，二是许多人对AI奇点不了解。研究表明，AI必须同时具备两个条件才会对人类产生威胁：一是它拥有不同于人类的价值观，1 二是它具有繁殖能力。2 如果这两个条件不能同时满足，那么即使出现了AI奇点，对人类也没有威胁。事实上，根据前文的研究，AI不能同时满足这两个条件。因此，即使出现了AI奇点，也不必感到恐慌。而人机结合由于本质上仍然由人主导，因此，它不具有不同于人类的價值观，不必对它感到恐慌。

然而，需要认真思考的新问题是，当人机结合出现了奇点时，这意味着人类进入了后人类或超人类时代。3 后人类或超人类仍然属于人类，但是他们的智能远远超过了现在的人类智能。4 而且经过NBIC5 技术的增强或改善，人类可能会实现永生的梦想，人的生物特性会发生改变，不再是纯粹的有机生命体，而是有机与无机的结合，还会改变以记忆集为基础的人的身份认同，6 从而导致现有社会秩序的紊乱，7 重构社会秩序在所难免。

无论人机结合奇点是否以及何时会来临，人机结合都会不以任何人的意志为转移地到来。事实上，人机结合已经开启，8 并以迅猛的速度发展。9 三个方面的原因导致人机结合迅猛发展。一是潜藏巨大的商业价值和健康医疗价值。譬如，据研究，中国有许多人存在睡眠障碍，2020年中国睡眠经济市场规模超过4000亿元，到2030年有望突破万亿元。10 人机结合有望帮助睡眠有障碍的人恢复正常睡眠。此外，人机结合有助于帮助失明、失聪、瘫痪等残疾人恢复正常生活能力。11 二是挖掘和拓展人类潜能的需要。譬如，人机结合可以使人看到以前看不到的景色、听到以前听不到的声音、记住以前记不住的信息、做到以前无法做到的事情等，从而开阔人的视野、拓展人的经验、丰富人的思想、完善人的品格。三是AI科技发展的内在逻辑。科技发展有两个内在逻辑：一方面发展是科技发展的动力和源泉，另一方面科技发展存在路径依赖。人机结合是AI科技发展的重要方向，其发展态势必将趋于增强。

四、结语

工具通常是指人使用的器具。工具的扩展概念，可以界定为实现目的的手段。主体是具有主观能动性的人或物。AI是模拟、延伸和扩展人类智能的机器。

人类智能源自人的意识，没有意识就没有人类智能。意识是人的神经元复杂系统涌现的结果，它是非物质的。AI是没有生命的物质，它不可能具有意识，也不可能从内容上模拟意识，因此，它不能真正地模拟人类智能。它不具有思维能力和理解能力，表现在不能理解它扮演的角色含义，也不能理解其行为及目的的意义。AI没有真正的思维能力和理解能力，这意味着它缺乏创造性。但是从形式上AI可以一定程度地模拟人类智能，从而“看上去”具有智能。从形式上模拟人类智能的AI，能帮助人类解决可形式化处理以及依靠经验可以解决的问题，但当它遇到非形式化以及没有经验可资借鉴的问题时，就会一筹莫展。

只能从形式上模拟人类智能的AI只是工具而不能成为主体，但它可以成为形式上的主体。

由于AI没有意识，因此AI奇点是不可能实现的。但是，人机结合吸收了人类智能与AI各自的优长，既可以提高整体的智能水平，又保留了人的主体性。特别是人经过NBIC技术的增强或改善，从身体素质到智能水平，都将得到巨大的提高，人机结合奇点是有可能实现的。

如果人机结合奇点得以实现，那么这将会带来许多变化。一是人类可能实现永生的梦想，变成后人类或超人类，人不死的社会可能会带来难以预料的观念变化和各种行为方式的变化，如何适应这种变化，将是巨大的挑战。二是人机结合如何保持人性是一个大难题，因为人类还不知道保持人性的界限在哪里。即使知道这一界限，如何确保人们不越界也是一个巨大的挑战。三是对平等的正负影响。一方面，人机结合有可能使人类变得平等。譬如自然界给人类“掷骰子”，导致人与人之间天然地存在各种差异，特别是劳动能力的天然差异，这种不平等导致的收入分配不平等虽然得到了马克思1等人的承认，但如果有技术可以消除这一天然的不平等，那么许多人就会采用这一技术，因为追求平等是人类的天性。另一方面，人机结合也可能会使人与人之间变得更加不平等。因为技术的使用往往不是免费的，财富的不平等可能会导致技术使用的不平等。如何使新技术平等地造福于每一个人，实现人与人之间身体素质和智能的平等，这是一个巨大的挑战。

上述困难和挑战，需要全人类携起手来共同应对，单个人、单一组织甚至单一国家都无法解决，这可能是比发展AI技术更具智慧的难题。

Artificial Intelligence： Tool or Subject？

—Concurrently Discussing the Singularity of Artificial Intelligence

CHENG Chengping

Abstract： The essence of human intelligence lies in thinking， which is the expression of consciousness. Consciousness is the result of the emergence of a complex system of neurons. Consciousness does not comply with material regulations such as the law of conservation of matter. Therefore， consciousness is non-material. Artificial intelligence is a non-living matter， and it cannot generate consciousness. In terms of content， artificial intelligence as a material cannot simulate non-material consciousness. Artificial intelligence can only simulate consciousness in form. This means that artificial intelligence can only simulate thinking， but it has no thinking and cannot think. Therefore， artificial intelligence cannot be the subject， and it can only be a tool. However， as artificial intelligence improves the ability of artificial intelligence to simulate human intelligence in form， some artificial intelligence can become the subject in form. It is impossible for artificial intelligence without consciousness to achieve the singularity， but the combination of man and machine may achieve the singularity. Although the singularity of the combination of man and machine will not pose a serious threat to human survival， it will bring severe challenges to the existing social order and human nature.

Key words： artificial intelligence; human tool; form subject; cognitive; non-material; the combination of man and machine; singularity

（責任编辑：苏建军）