人工智能，带来的是美好还是危机？

芦伟

事实上，自从人工智能诞生以来，关于这方面的讨论就没有停止过。近年来，随着人工智能获得突破性发展和应用，在世界象棋冠军、围棋冠军均被人工智能碾压式打败后，讨论更盛。一些人认为，人工智能正变得比人更聪明，它们能够从人的大脑和身体中获得非常完整的数据流，在未来的生活中，人工智能能让人类效率更高、生活更美好，帮助人类作出决策。另外一些人相信，像人类这样的生物仅仅是算法的产物，该算法嵌入DNA和神经网络逻辑之中，人工智能不断通过模仿和学习，有可能超越和控制人类。

生命3.0

《生命3.0》是一本近来很火的畅想人工智能未来的书。该书作者迈克斯·泰格马克是麻省理工大学物理系终身教授，也是未来生命研究所创始人。该组织汇集了包括史蒂芬·霍金、埃隆·马斯克、比尔·盖茨在内的8，000多名全球顶尖人工智能专家，致力于规避高级人工智能带来的人类生存风险。

此书中，泰格马克对于生命与人工智能的关系进行以下解读。他认为，生命就是一个会不断复制自我的系统，有硬件也有软件，可以划分为生命1.0、生命2.0和生命3.0三个阶段：

生命1.0：系统不能重新设计自己的软件和硬件，两者都是由DNA决定的。这个地球上现存的绝大多数动植物，都处在生命1.0的阶段。

生命2.0：系统还是不能重新设计自己的硬件，但是，它能够重新设计自己的软件，可以通过学习获得很多复杂的新技能。人类就是生命2.0的代表。我们的身体通过基因来决定，而个人的认知水平，则是通过后天来学习和塑造。

生命3.0：系统能自己设计软件和硬件，生命不再依赖血肉之躯的进化，硅基等硬件也可以成为生命的载体。美剧《西部世界》第二季当中，觉醒了的机器人接待员就是生命3.0的代表，他们不仅能在智能上快速迭代，在身体上也能随时重新设计更换。生命3.0也被称为超级人工智能阶段。从这个角度来看，超级人工智能诞生于人类之手，是比人类更高级的生命体。他们不仅比我们拥有更高级的智慧，而且能摆脱躯体的桎梏，获得永生。

如此而言，生命3.0简直太可怕了。首先，所谓生命3.0这个物体是定义为人还是机器？其次，如果定义为机器，那么一旦超级智能出现，它不仅会替代人类做很多工作，让很多人失业，成为无用之人，更可怕的是人类有可能会被它们所统治。

人工智能比核武器更危险

艾伦·图灵被称为人工智能之父，他创造了著名的图灵实验，来测试机器是否具有智能。英国数学家约翰·古德曾和艾伦·图灵一起共同研究课题。关于超级人工智能，约翰·古早在1965年就曾发出过警告。他宣称：机器人或将是人类的最后一个发明，其未来发展可超越人类自身，随着智能爆炸的出现，超级机器人将远超人类智慧。除非能够保证它绝对服从和受控，否则第一台超级智能机器绝对是人类最不应该拥有的发明。著名物理学家斯蒂芬·霍金也曾宣称：“人工智能的全面发展可能预示着人类的终结。特斯拉老板埃隆·马斯克认为，人工智能可能比核武器更危险。”

我们目前人工智能所取得进展和成功，如自动驾驶、下棋、机器视觉、专家系统等，在科学家的眼睛里都还属于“弱人工智能”，距离超级智能还有相当距离。但人类在好奇、欲望与资本、商业的裹挟下，必定会朝着超级人工智能越走越近。

那么超级智能，也就是生命3.0什么时候会实现呢？泰格马克表示还不确定，可能是几十年、几百年，也可能因为某些人为的因素导致它永远都不出现。但人工智能在乘数效应的推动下会变得越来越强大，到了那时，留给人类试错的空间将越来越小。当人类研发出核武器之后，必须就限制核武器达成公约，因为核战争一旦打响，人类的家园地球就可能面临毁灭。核战争不会给人类第二次机会，人工智能也是如此，当它变得更为强大之后，将不得不考量它是否会给人类带来伤害，因而必须达成一定的操作规则来确保其目标与人类一致。

为了防止人工智能被滥用，泰格马克与未来生命研究所的8，000名科学家共同发布了《阿斯洛马人工智能原则声明》，表明 “超级人工智能只能在广泛共享的伦理理想下发展其服务，而且其发展应该是为了增加全人类的福祉而不是为了某个国家或组织的利益……应该避免致命性自主武器领域的军备竞赛。”

没有意识的人工智能

对于未来超级人工智能的威胁也有人不以为然。美国著名经济学家、未来学家、乔治·吉尔德认为，人工智能无法与人类智能竞争，因为人工智能离不开为其提供符号系统和语言的人类思维，是人类规划了这一切。无论人工智能在训练中所吸收的信息是文字还是像素，这一切都是人为组织的结果。人为人工智能提供并制定了大数据，并在其中找到数值相关性。是人建立了目标、奖励方案和目标序列，使人工智能能够迭代、优化并最后总结出一个解决方案。人工智能由输入组成，通过复杂的算法集进行输出，它根本无法思考。

而且人的思维是有意识的、主动的、有想象力、有创造力的，但人工智能本身缺乏意识，它是决定论顺序的组成部分，缺乏喜出望外或使人惊讶的能力。一台以千兆赫的速度运行的计算机，即便是在玩国际象棋或围棋这样的决定论游戏时，也只不过是一台机器而已。人工智能是计算机算法的输出，这些算法由精心安排的電子元素组成。这些元素通过布尔逻辑方案、树形结构和“神经网络”获得各自的含义。

真如乔治·吉尔德所言，人类的意识是独特的吗？如果意识是人类才有的主观体验，那么，人工智能就不具备。但也有研究表明，人造意识是有可能产生的。如果是这样，人类确实应该谨慎对待人工智能的发展。

微软亚洲研究院第四任院长洪小文也一直在研究专注人工智能的发展。他表示，人工智能发展到现在已经可以做很多事情，但要达到人的智慧还有很长的路要走，目前都以逻辑测试为主，强调理性，固然这符合人类对智慧的定义，但人类还有非常丰富的情感、情绪、同理心等等。也正因为这样，让人工智能可以继续作为一门非常值得研究的学问。

至于人工智能会不会让机器取代人类甚至夺取世界，洪小文表示，要相信人类的智慧，人工智能与移动技术、互联网技术、PC技术并无本质不同，都是一种技术。人类研发技术和机器都是为人类服务的。人是世界上最聪明的生物，人的智慧一定会把人工智能用在正途，做可以对人类产生最大益处的事。有人可能会把这些东西拿去做坏事，但那是坏人，我们有法律，我们有智慧可以界定和应对。

长大之后取代了你

对于越发强大的人工智能，人们既兴奋、又恐惧。兴奋的是它确实给我们带来了很多的便利、快捷、享受和美好体验；同时又恐惧，怕不能很好的驾驭它，给人类带来麻烦，长大之后可能就会取代了你。无论怎样，人工智能时代已经降临，我们有幸成为了这个时代的见证者，未来到底会变成什么样，谁也无法确定。