给人工智能热泼冷水

承哲/口述 李斐然/撰文

眼下人们正热烈追捧一则新闻，说是机器首次通过了图灵测试，我看到一条又一条的评论，都在高呼人工智能进入了全新时代。可是，我却一点儿也高兴不起来，因为我满脑子都是怀疑——这是真的吗？

先说图灵测试，它是测试人在与被测试者（机器）隔开的情况下，通过一些装置向被测试者随意提问。问过一些问题后，如果被测试者超过30%的答复不能使测试人确认哪个是人、哪个是机器的回答，那么它就通过了测试，并被认为具有人类智能。

现在问题来了。图灵测试的比赛进行了这么多年，参赛者也学“聪明”了。它们甚至根据历届裁判的提问方式，设计出一套欺骗裁判的回答。

比如说，裁判问：“你是从俄罗斯来的吗？”机器就会回答：“你为什么不确定我是从俄罗斯来的？”这种反问式策略最初是心理咨询上的治疗手段，目前已被大量使用在图灵测试的游戏中。这并不是人与机器的智力博弈，这只是利用计算脚本和自己设计的数据库搭配着耍小聪明。

简单地说，这些伪人工智能由于无法给出真正正确的答案，所以它们只能给出一个模棱两可的答案，而真正的人工智能则应当给出真正的答案，让人感受到机器灵魂的存在，而不是给人造成迷惑，这与图灵最初的设想早已背道而驰。

如果这些不能说服你，那我们来说说曾经的一个案例。人工智能最显赫的历史战绩，莫过于IBM的“深蓝Ⅱ”系统战胜国际象棋大师卡斯帕罗夫。但我对这件事情一样充满了怀疑。

后来我看到一本叫《信号与噪声》的书。从棋局上看，“深蓝Ⅱ”的确战胜了卡斯帕罗夫。但有趣的是，当卡斯帕罗夫去找“深蓝Ⅱ”再战的时候，IBM拒绝了他的请求，不久后“深蓝Ⅱ”被拆，也让人工智能击败人类国际象棋大师终成定史。

但是，我读完了书中的记录，却发现，最大的可能在于其实他们心虚。因为，事实上击败卡斯帕罗夫的并不是什么人工智能，而是一个bug，是程序设计上的一个漏洞。

为什么这么说呢？在第一局比赛的时候，虽然“深蓝Ⅱ”每秒可计算两亿步棋，但卡斯帕罗夫还是轻而易举地赢了比赛。所有计算都在大师思考的范围内，这充分说明了计算机的弱势。

然而，下第一局棋时却发生了一件事，影响了卡斯帕罗夫的判断。在第一局的第44步棋，“深蓝Ⅱ”的出棋毫无目的性，让卡斯帕罗夫吓了一跳。书中记录说，“这步棋让卡斯帕罗夫感到紧张，他觉得这有悖直觉的一步棋必是一步高招”，他开始紧张，方寸大乱，自乱阵脚。从第二局开始，他输了一局又一局。在后来的采访中，卡斯帕罗夫说，他那时候头脑非常乱，完全不想比赛。

但是，在书中的解释里，这件事的事实是——第一局的第44步棋，是计算机的“系统故障”。它使计算机失去选择经过精心分析的步骤的可能性，结果采用较安全的任意走法。这一步棋没有产生任何效果，而在开始第二局棋前，这个“系统故障”也被修正了。

这步bug棋却深深影响到了卡斯帕罗夫。他对《信号与噪声》的作者纳特·西尔弗说：“我根本没有想到，这一步棋并无理论支持，而是系统故障的结果。”

幸与不幸，一个无足轻重的系统故障，帮助计算机打败了国际象棋大师卡斯帕罗夫。人们评价这件事的时候，总是说，第二局明明可以和棋，卡斯帕罗夫却犯下致命错误，这就是人类的局限。但事实上，“在卡斯帕罗夫看来，‘深蓝Ⅱ下棋有棋感并且有深意，超凡脱俗，智慧过人。他却从来没有想到过，这实际上只是因电脑系统故障导致计算瘫痪而走出的一步任意棋”。

也许正是这样的例子，让我每一次看到“划时代的IT创举”时都会心里一惊——人们对于技术的陌生，总会让另一群人有机会把一件小事说得天花乱坠。但是静下来踏踏实实地想一想，这些梦幻似的结论，是真的吗？

（紫柠檬摘自《中国青年报》2014年6月18日，勾 犇图）