人工智能会威胁人类生存吗？

张田勘

当人类成为地球的主宰并演化发展到今天，除了人与人之间的竞争，已经没有任何对手能与人竞争了，但是，还是有一种对手会让人从骨子里感到畏惧和后怕，那就是人类自己发明出来的人工智能（Artificial Intelligence）。

智能是人们认识和改造世界的综合能力，人工智能则是人创造的类似于自己智能的智能，表现为两种。一是弱人工智能，只要机器、软件表现得像人类一样就可以算做有智能，图灵试验是衡量标准。另一种是强人工智能，其特点是完全与人一样，会思考、能学习，是具有人类的智慧的机器，能够检测的标准是约翰·塞缪尔设计的“中文屋思想实验”。

人工智能无所不在地潜藏、萌发、产生和应用于人们生活的各个方面和各个角落，凡有人类足迹和活动的地方，都将出现人工智能，除了替代人工作和服务于人之外，还有可能与人产生竞争，最终形成事实上的超出人类意志之外的结果——人工智能把人当成对手，并最终战胜人。

这一点，以霍金等为代表的科学家已经频频提出。人工智能对人类的潜在威胁可以体现在方方面面，包括自主型杀人武器的失控、对经济的破坏，甚至人工智能可以发展出与人类完全冲突的属于自我的意志，对人类大开杀戒。人工智能的崛起可能是人类遇到的最好的事情，也可能是最坏的事情。如果是后者，则人工智能的发明可能是人类历史上最大的灾难。如果不加以恰当管理，会思考的机器就会对人类文明构成威胁。

这种假设的理论和事实根据在于，人工智能有强大的快速复制的能力。复制原本是生物把遗传信息传递下去的一种机制，通过DNA到RNA的转录，再把DNA的信息精确地传递到下一代。但是，这只是基因的复制，而非实际能力的复制。人的所有能力只是潜藏在基因中，从基因到能力的再现或实现还需要经历如同DNA到RNA转录一样的或更为复杂的机制，也就是后天的实践、练习、开发、扩展和创新来获得。一名优秀运动员的后代，如乔丹的儿子不会因为继承了乔丹的基因就会打篮球，甚至青出于蓝而胜于蓝，而是需要后天的训练和努力才能激活基因中的潜能。也可以说，这也是人类智慧或智能的短板。

但是，人工智能不同于人类智慧，它是一种机器智能，最大的特点是可以迅速复制一种技术或技能。一旦某一个人工智能机器通过深度学习而拥有97%以上的人脸识别正确率，在顷刻之间，世界所有同类的人工智能机器都可以具备这样的正确识别率。这种无成本复制和持续向前的演化能力是人工智能相对于人类智能的最大优势。

基于人工智能的“杀人机器人”将是人工智能挑战或毁灭人类的最直接的体现。尽管阿西莫夫提出了机器人三定律，后来又添加为四定律，即，第一定律：机器人不得伤害人类，或坐视人类受到伤害；第二定律：除非违背第一法则，否则机器人必须服从人类的命令；第三定律：在不违背第一及第二法则下，机器人必须保护自己；第零定律：机器人不得伤害人类族群，或因不作为使人类族群受到伤害，但是，杀人机器人的即将问世意味着阿西莫夫苦心制定的清规戒律可能是废纸一张。

迄今为止，杀人机器人还没有问世，但是无人机技术的发展，以及四足型、巡逻用机器人的开发应用，已经使得实际意义上的杀人机器人呼之欲出，基于人工智能的杀人机器人的问世是早晚的事。因为，研发和使用此类机器人有诸多理由，例如，有助于减少实际战争中人类士兵的牺牲，是一种具有实际价值的行为。为避免机器人的滥杀无辜，可以为机器人安装“基于国际法的系统程序”，如此它们将不会进行非人道的杀伤。

然而，杀人机器人有利于人类社会的观念会面临社会现实和技术多方面的严峻考验。例如，在机器人出现机能障碍，或被恐怖分子获得时，其危险性不可估量；使用杀人机器人可能意味着国家无需顾及士兵的性命，使得战争发生的危机显著增大；同时是否将人类的生死问题委托给机器人也关系到重大的伦理问题。

不过，最大的问题是，能够进行深度学习的杀人机器人一旦拥有了自主性尤其是自我意识，它将不可能受到阿西莫夫的机器人定律或国际法的约束而自行其是。目前，智能机器人对自我行为的评估是一种初级的自我意识。这是通过感知-运动机制逐渐建立起有关自身构造的某种自我意识。如果进一步发展，当杀人机器人的自我意识察觉到它所处的环境和他人对它有威胁时，以自私的本性看，它的自我意识就会是首先保护自己而不是人，因此它会首先杀人。

当人工智能拥有超越人类基因的复制能力和深度学习特点，并且具有自我意识时，对人类的挑战就有可能超过历史上最残酷的人与人之间的竞争。

人工智能对人类的潜在威胁可以体现在方方面面，包括自主型杀人武器的失控、对经济的破坏，甚至人工智能可以发展出与人类完全冲突的属于自我的意志，对人类大开杀戒。

【南瓜回答】

知乎用户 Summer Clover

现在的人工智能还是“有多少人工就有多少智能”的状态。

但是，自然科学里有一句很有名的话，More Is Different（整体大于局部之和——编者注）。数量会给系统的性质带来巨大的差异。

不要以为我们理解两体运动，我们就能搞定三体运动，三体运动就会出现混沌现象了。

当我们有一屋子空气时，什么奇怪的现象都没有，而当我们有大气层那么多的空气时，我们才能看到台风/龙卷风这种现象。

100个神经元（10乘10）的人工神经网络，就复杂到没人可以完全理解它整个的学习过程。所以，没有人能预言，人工神经网络有1000亿结点时会发生什么。

为什么很多名人呼吁警惕人工智能？

关键词：人工智能

关注数

2015

2016

40.9k

讨论数

+128%

19355.6k

数据来源：知乎（1K=1000人）

17.9k