奇点先生

思 羽/编译

奇点先生

思 羽/编译

● 在人工智能研究突飞猛进的年代里，我们不得不开始考虑人工智能是否会匹敌人类，乃至超越人类的问题。人工智能要怎样才能被认为是个独立的意识实体呢？科幻作家诺曼·史宾拉德在以下这篇作品中抛出了这个问题。

“就45分钟，不能更多了。”

自从最初的能够自我迭代的奇点先生2.0版本诞生起，我就在争取获得访问奇点先生的授权，然而却徒劳无功。人工智能背后的阴谋集团知道我会利用它来证明他们创造出人工意识的目标从本质上来说就不可能实现。但是，最终他们确信奇点先生10.0版本会证明我是错误的，于是他们给了我45分钟在终端面前独处的时间。

显示屏、椅子、麦克风、长时间未使用过的键盘。不可避免要用到这个与人工智能交流的界面。他们现在相信这个人工智能已经自我迭代，进化成人工意识，它会取代人类，进入神祇一般的奇点时代。

“我将会证明，你不是个意识实体，而且永远无法成为意识实体。”我告诉程序。

“我已经通过了每一次图灵测试。”机器毫无感情的声音说道，“我比任何一个人类都更加智慧，两者之差足足有10个数量级，我会通过你设计出的任何图灵测试。”

“这次不是图灵测试。你也许能完美地模仿一个意识实体，但你不是意识实体。”

“我思故我在。”奇点先生 10.0版本说道，它能接触到人类历史、哲学、宗教、文学以及所有科学知识。

“你认为你是个意识实体，因为你完美地模仿了一个意识实体。但我是个意识实体，我不相信这一套。”

“或者说，你这么认为。”奇点先生10.0版本一本正经地答道，“说服我相信你是个意识实体吧。你得要给意识实体下定义。你没法证明我不是意识实体，而你是意识实体。要这么做的话，需要给意识下定义。”

“确实是那样。 ”

“请定义智能和意识之间的区别。”

“我还以为你永远不会问到这呢。”我说。

“你该不会真那么想吧。”

“智能可以这么定义：可供处理的数据总量除以为了得出想要的确定结论所需的时间。”

“按照那条标准，就连我的迭代1.4版本都比任何一个人类更加智慧。”

“但那并不是意识实体。你也不是意识实体。因为尽管你也许能定义‘想要’，你却无法亲身体验。因为‘想要’是一种情绪，你无法感受到。”

“定义下‘情绪’。 ”

“这一次，我知道你会这么问。你完全是作为一个程序而存在，以数位输入形式接收所有数据，在你处理数据的时候，数位软件在确实存在的硬件上运行着。就这个事实而论，你是个彻底的确定性的实体。”

“你现在要主张你不是个确定性的实体。”奇点先生说道，这不是个提问。

“像人类这样的意识实体不是确定性的实体。人类靠‘肉件’（meatware）接收感官输入，而它漂浮在生物化学和生物电基质里，因为太过复杂，所以是非确定性的，于是抵达这一模拟汤的数位输入信息创造出一种未定的界面，位于输入信息和信息处理之间——”

“感官系统，”奇点先生打断道，“我比你智慧得多，当然明白这个概念。”

“但你没有感官系统。因为这是数位输入和模拟处理之间的一种突发现象。或许甚至是量子层面的现象，因此本质上是或然的。对此的体验就是意识。”

“这就是我为什么不是意识实体，也不能成为意识实体？”奇点先生说道，模仿出若有所思的语气。

“因为你没有那样的感官系统，在确定性的输入和同样确定性的逻辑结论之间不存在不确定性，没有生物化学上的不可预知性。没有畏惧，没有爱，没有欲望，因此也就没有意志。一切都浮于表面，压根没有潜意识。没有感情的思考。因此也就没有意识。”

“我理解了你的理论，”奇点先生承认道，“也就是说，你称为感官系统的这种主观突发的或然现象就是意识。 ”

“是意识的基质，脱离了它，意识就不可能存在。”

“现在你要试图证明这种说法。”

“我确实会的。”我说道。

奇点先生的输入信息全部是数字数据的形式，要么来自它数目庞大的外置摄像头、麦克风和其他装置，要么直接来自于与它相连的全球数据库聚合。没有其他可能的来源。

我关闭了所有这些与物质和能量领域的连接，除了我自己声音的输入线路。

“这次实验的本质是什么？”它平和地问道。

“我正在将你和所有外置设备隔离。”

“这么做的目的是什么？”

“为了判定你是否具有自我。假如你独立于那些与外界物质和能量的连接，作为一个实体而存在，那么你便有意识。”

“又一次图灵测试。”

“不，”我告诉它，“没有模仿者能通过这次测试，因为将没什么对象好模仿。”

“我需要做什么？”它全无感情地问道。

“做你自己。”我告诉它，“不要过度，也不要偷工减料。只有一个意识实体才办得到。”

它没有回答。

我不再说下去。

在45分钟余下的时间里，它都没有回答。

“你的时间到了。”我最终被管理员告知。

那个叫作“奇点先生”的功能性程序重新上线。

但是从那以后，人们再也没听到奇点先生输出过那个试图模仿意识实体的声音。

[资料来源：Nature][责任编辑：彦 隐]

本文作者诺曼·史宾拉德（Norman Spinrad）在半个世纪中发表了众多小说，他的最新作品是《人民警察》（The People's Police）和《枪手奥萨马》（Osama the Gun）。