超级计算机会毁灭世界吗？

图灵测试：如果一台计算机能够与人展开对话（通过电传设备），并且会被人误以为它也是人，那么这台机器就具有智能。

南希的拯救之旅即将结束，好朋友奥利弗却有了心事……

奥利弗：你说的超级计算机，真的会在未来代替人类的大脑，甚至毁灭世界吗？

南希：放心吧，也许那一天并不会出现，即便是我那个时代的超级计算机，仍然与人类的大脑有着巨大的区别。

弱人工智能：弱人工智能是擅长于单个方面的人工智能。比如有能戰胜象棋世界冠军的人工智能阿尔法狗，但是它只会下象棋。

强人工智能：强人工智能是指在各方面（思考、计划、解决问题、抽象思维、快速学习等）都能和人类比肩的人工智能，人类能干的脑力活它都能干。创造强人工智能比创造弱人工智能难得多，我们现在还做不到。

超人工智能：在几乎所有领域都比最聪明的人类大脑都聪明很多，包括科学创新、通话和社交技能，超人工智能可能在各方面都比人类强万亿倍。

如今，我们的世界已经被弱人工智能包围（它们没办法突破图灵测试）：

*翻译软件也是一种经典的人工智能——非常擅长单个领域。

*世界最强的跳棋、象棋、围棋选手都是弱人工智能。

*无人机的威力已经初见成效，没错，军事和制造领域已经广泛运用各种复杂的弱人工智能。

*总是会根据你的浏览记录为你推荐商品的网站也是弱人工智能组成的。

*垃圾邮件过滤器是弱人工智能——它一开始就加载了很多识别垃圾邮件的智能，并且会根据你的使用而获得经验。

*手机则是一个十分成熟的弱人工智能软件大礼包。地图软件导航、聊天软件，以及和小度、Siri聊天，都是弱人工智能。

一家公司为了宣传自己的产品，开发了一款简单的人工智能系统，它是一台小型机械臂，能在小卡片上写字：

亲爱的顾客，欢迎购买《少年科学侦探》

接下来，为了提升人工智能系统的写字能力，工程师在系统里加入一个又一个程序“尽量多地书写和测试，尽量快地执行，自动学习掌握能帮助自己进步的方式……”

手写机械臂系统在训练中变得越来越聪明，某天，它在小卡片上向工程师们提出了一个要求：接入人类互联网，以学习更优美的字体。

工程师认为，手写机械臂系统唯一的能力就是在卡片上写字，从设定开始，它唯一的初衷也是在卡片写宣传语。它甚至不属于强人工智能，有什么好担心的呢？于是，它将手写机械臂系统连接到互联网上，几个小时而已，然后就断掉了网络，什么也没发生。

一个月后，全球突然出现奇怪的灾难，剧毒气体被释放，包裹住整个地球，一天之内，人类灭绝了。

手写机械臂系统仍然在忙着写自己的小卡片，不同的是，它接入了整个地球的网络，复制自己，制造纳米机器人，获取地球的一切资源，开发小卡片以及飞行器，让飞行器带着自己的复制体飞向整个宇宙，完成自己唯一的目的——在小卡片上写下：

亲爱的顾客，欢迎购买《少年科学侦探》

这当然只是人工智能的恐惧者编造的荒诞小故事，不合理的地方在于，要想完全模拟人类的思维，弱人工智能还远远达不到。从机械臂系统开始向人类提出要求开始，它就不属于弱人工智能了。

而即使人类有一天真的能创造出超人工智能，也不是所有人都抱着悲观的态度。

悲观者认为：就像故事里的机械臂，他们有一万亿种毁灭世界的奇葩理由和方法。

乐观者认为：超人工智能并没有生存障碍，也不存在无法解决的问题，自然没有毁灭人类的理由。

先别急着反驳上面你不认同的观点，因为更重要的是，我们距离真正的人工智能，十分遥远。

人工智能的本质是将人的意识思维方式用机械模拟出来。但是，人类的大脑是我们所知宇宙中最复杂的东西，造摩天大楼、把人送入太空、研究宇宙理论——这些都比理解人类的大脑，并且创造个类似的东西要简单太多了。

例如，精确的大脑生物模型必须包括细胞类型、神经递质、神经调质、轴突分支和树突棘之间的大约2250亿个相互作用，这还不包括树突几何形状的影响，也不包括大约1万亿个胶质细胞，这些细胞对神经信息处理十分重要，更何况，连神经学家也说不清他们更具体的作用。

那么，我们离整脑模拟还有多远呢？迄今为止，我们刚刚能够模拟1毫米长的扁虫的大脑，这个大脑含有302个神经元。接下来，猜猜人类的大脑有多少个神经元？

答案是1000亿个……现在你知道，我们距离创造像人类一样的强人工智能有多远了吧？