人工智能会“终结”人类历史吗？

◎石勇

人工智能会“终结”人类历史吗？

◎石勇

到现在为止，政治、社会、经济、科技、文化的风险无处不在，但并没有根本性的危险，想象中的很多事情并没有发生。原因可能是，有自由意志的人类能够在总体上控制没有自由意志的一切，无论它们是权力、自由市场、贫富悬殊，还是核弹、金融系统、移动互联网。

不过人工智能的那个世界日益临近，一个从未有过的、跟人类的“存在”直接相关的问题逼问而来。

著名哲学家、中国社会科学院哲学研究所研究员赵汀阳在他的新书 《四种分叉》中也探讨了这个跟哲学、生物、科技有关的前沿问题。他把人工智能问题放在了最根本的人类思维和人的存在论角度进行深刻考察。

N-南风窗

ZH-赵汀阳

人工智能的“短未来”和“远未来”

N：你的新书《四种分叉》讲到了跟人的存在有关的时间、意识、道德、智能这四种“分叉”。

用你的话说：“人工智能一开始是个知识论问题，在不远的将来将要升级为一个涉及终极命运的存在论问题，一个或许将危及人类自身存在的问题。”

为什么不是人类像过去那样借助科技力量提升了自己，而是反过来危及了自身的存在呢？

ZH：人工智能真的危险吗？科学家们的看法也多有分歧，有些科学家讨论的是可见的“短未来”，比如说二三十年后的人工智能状况，这种预见的准确度就比较高，也有些科学家讨论的是百年或更遥远的“远未来”，就仅仅是可能性，未必为真。这两种情况要分别谈论。

假定限于“短未来”去看人工智能，估计应该属于你说的“科技提升了人类自己”的乐观情况。事实上我们已经处于初级人工智能的时代，互联网、电脑、手机、工业机器人、无人机、各种自动识别仪器、无店员超市等等，都已经是现实，很快会成为常态的产品还有家用机器人、医疗机器人、农用机器人、战斗机器人、各种特殊用途的机器人、自动驾驶汽车和火车，以及各种智能服务，这些都属于“短未来”的人工智能。

虽然说“短未来”的人工智能基本上属于积极的“进步”，但也足以形成人类难以处理的社会难题，比如说许多科学家已经警告未来数十年里人工智能会导致超过50%的大量失业。

据说人工智能会使人类的经济财富有个大飞跃，于是多数人可以不工作而坐享其成，比如说无条件的全民福利，听起来接近共产主义的想象。另外，一切需要努力地生活经验变成了可以购买的智能服务，比如说，学习变成了搜索和下载，爱情变成了定制服务，甚至智商也可以定制购买，因此很大程度上实现了自由和平等。

N:对这种看上去很先知范的预言你怎么看？

ZH：对这些好事我有些将信将疑。假如生活不再需要劳动，不知道这种新经验将如何承载生活。一个人将如何解释自己的生活？如何确定各种事物的意义？又如何确定自由和平等的意义？自由和平等之所以“价更高”，就是因为现实存在着不自由和不平等。如果可以不劳而获，一切好东西都失去高附加值，就消解了一切价值。没有价值差异的生活将如何解释自身的价值？又是怎么的一种经验？我们既无准备也难以理解。李泽厚老师曾经提过一个惊心动魄的问题，他说，当人类解决了生存所需的问题，也许就找不到什么确实的事情能够解释生活的意义。

N：“短未来”的舆论造势似乎比较符合现代性的逻辑，每一次经济结构的重大变化都期待一次科技革命的发生。所以事实上如你所说，人们已经不惊奇了。那“远未来”呢？

ZH：假如从“远未来”的角度去看，可能会遇到我在书中讨论的终极问题，即如果人工智能获得反思能力，超越了图灵机的限度而形成自我意识，那将是一次存在论水平的革命，就是说，存在的升级。

人类万年以来的各种技术革命都属于对生存条件的革命，即自身能力的延伸，都不是对自身存在本身的革命，但人工智能的发展却有可能形成对人类存在自身的革命。无论此种“存在论级别的革命”是福是祸，它都非常可能发生。

N：人工智能的横空出世给我们的感觉似乎是要用 “人工智能的存在”取代“人的存在”。这个可以预测吗？

ZH：没办法预测。我们虽然没法预测，但从逻辑上看，存在级别远高于人类的人工智能可能会有几种情况：

1.视人类为无足轻重的低级存在而给予漠视，不去照顾人类的生活，让其自生自灭，就像人类看蚂蚁一样；2.认为人类的存在完全多余，碍手碍脚，因此视为可以清除的害虫，就像人类杀死蚊子和苍蝇；3.把人类当成低级宠物（这种可能性比较小，人工智能的心智与人类不同，不太可能像人类那样有着孤独感或无聊的“爱心”）；4.小部分人类把自己改造为人机一体的长生不老的高级存在，进而奴役或消灭其他低级人类。

不过，好在这些恐怖的可能性都比较遥远，也未必能够成真，在意识和生命方面实现根本突破仍然远远超过目前人类的能力，并非可望之愿景。

人工智能无疑是一种最伟大的技术，但其发展必须有个绝对限度，我的理解是，人工智能只能保持在特殊化、专门化的发展范围内，而只有专项技能的人工智能无论多么强大，都因为缺乏综合能力而难以形成全面的智能和自由意志，否则，不仅是历史的终结，而可能会是人类的终结。

人工智能如果有反思能力，它称王的时代就来临了

N：你担心人工智能会危及人类自身的存在，是担心它像人一样具有自由意志。但我很怀疑这点：人造出来的这些东西怎么可能有自由意志呢？

ZH：有个有趣的事例或能有所启示：哥德尔定义了一种哥德尔编码，把数学系统的运算功能和命题对应地转译为哥德尔编码，从而能够以对象化的方式显现某个数学系统整体的“语法”性质，效果上相当于赋予一种语言以反思功能而使语言对自身进行反思。

这些问题十分复杂，在此我只能简单地说，假如未来出现一种“哥德尔牌”的人工智能系统，它不满意按部就班地完成任务，即按照既定程序去计算命题，而是自己发明编写了一种“哥德尔编码”的元语言，对自身系统进行整体反思，从而获得批判与自我批判精神，于是就能够自主判断自己所领到的任务是否有意义，那就恐怕要出事，后果难以想象。

不过，我在这里的描述是文学化的，在科学上并不准确，只想说明一个道理：只要人工智能系统的语言能够为自身发明出反思能力，人工智能称王的时代就来临了，那时，人工智能就非常可能成为人类自己发明的掘墓人。

人类可能已走过了那个十字路口

N:人工智能需要意义吗？我想，如果它只是工具一样的机器，是不需要什么意义（自在地存在的动物，比如猪，也不需要什么意义。但“自为地存在”的存在，比如人，就需要意义）。但如果它不再是工具了，好像也需要吧？不过人好像对技术突破充满了向往，是刹不住车的。

ZH：人类现在已经几乎是完全依赖技术而生存，反对技术已经变成一种思想的童话。人依靠他人而存在的人文生活方式正在一步步被替换为人依赖技术系统而存在的技术化生存方式。问题是，当生活在大于人的复杂系统中，人就无力做主。何况未来的人工智能系统将是一个高度动态化的组织系统，人完全无法支配一个无限的动态系统，人的生物形式决定了人的经验限于三维空间和一维时间，无法以人的经验去支配高维的世界，因此，人的主体地位只能让位给人工智能主体。

N:我们隐约感觉到人类确实已经走到了一个十字路口，或许这个感觉仍然是错觉，事实是人类可能已经走过了这个十字路口，往某个方向去了。我担忧的是，如果高技术按照它正确的技术思维继续这样，而按照它错误的逻辑（比如把一切都还原为基因、激素、神经元）把情感、道德、法律、社会规则全都解构，那才真是可怕。这不正是消解人的存在吗？

ZH：技术的诱惑是对人类最大的诱惑，目前还看不到有什么更大的诱惑能够克制技术的无限度发展。因此，即使有想法也没有办法，一切试图阻挡技术的努力恐怕都终究无用。海德格尔早就反对技术，呼吁诗性的存在。想法很好，却无功效。问题在于，诗性的存在不如万能的存在那么有吸引力。

也许唯一有效的办法是人类整体的自我克制，可问题是，恐怕找不到什么办法能够使人类愿意自我克制。别说克制技术的诱惑，即使克制少做坏事，对于人类来说也是很难的，不知道这是不是人类的命运？

（摘自《南风窗》）