终结者们真的要来了？

王鑫邦

凡事都有两面性，我们对于人工智能的态度也是如此。一方面，我们一直幻想拥有类似哆啦A梦那样的智能机器人，即便是天资不足的野比大雄也能在它的帮助下成为工作和生活中的强者；另一方面，我们也忌惮于《终结者》中的场景——面对冷酷无情的智能杀人机器，人类甚至连基本的自卫都无法做到。我们正是在向往与恐慌的矛盾中进行着人工智能的探索——起初，向往的程度远大于恐慌，但随着我们距离真正的人工智能越来越近，恐慌的部分似乎逐渐占据了主导。

8月21日，2017年全球人工智能大会上，SpaceX首席执行官（CEO）埃隆·马斯克与其他115位人工智能相关行业顶尖公司的创始人或CEO公开了致联合国的署名信，呼吁联合国采取行动禁止将人工智能应用于武器系统。“人工智能武器一旦发展起来，会令武装冲突的激烈程度跃升到前所未有的层级，而且会以人类难以想象的速度进化”，公开信中说。事实上，这已经是马斯克第二次以公开信的方式号召行业精英抵制人工智能武器。两年前，同样是在全球人工智能大会上，马斯克首次以这样的方式表达两业内精英对于人工智能武器的担忧，而在那封公开信的署名中，还包括了史蒂夫·霍金这样的顶级科学家。

人工智能對于战争形式的改变毋庸置疑。在公开信中，马斯克将其称为继火药和核武器之后，在军事领域的第三次技术革命。而人工智能武器身上也兼顾了两个前辈的不同特点——一旦技术泛滥，人工智能武器对人类社会的重创将不亚于核武器，而在技术的传播上，人工智能则远没有核武器那样容易控制，倒像是火药一样能够在各类武装组织之间流通。换句话说，未来战争的门槛可能因人工智能技术的使用而降低，烈度会增加，因为获得一件制导武器将和买一zhiAK-47一样容易。

然而，本质上这依然是人类之间的战争，真正可怕的是人类与机器之间的战争，也就是类似《终结者》中所表现的那样。“人机大战”的前提有两个：首先，机器开始“嫌弃”人类；第二，机器之间出现“联盟”。而这些看似只能出现在科幻小说中的情节正变得真实起来。5月27日，DeepMind公司的AlhpaGo在浙江乌镇连续挫败5位中国围棋高手后转入人机配对赛。古力九段与AlhpaGo 1联手对战连笑八段与AlhpaGo 2。然而在比赛中，AlhpaGo 2劝降古力未果之后，身为古力队友的AlhpaGo 1竟然“嫌弃”古力而拒绝与之配合，开始胡乱出招。最终，在坚持了8手之后古力被迫认输。而在今年7月，Facebook公司的两个人工智能机器人鲍勃和爱丽丝则展现了人工智能间“结盟”的可能，它们摒弃了工程师设定的英语——认为这是低效率和不合逻辑的沟通方式，转而使用自己创建的一个代码字和短语系统。人工智能似乎希望摆脱人类，用自己的方式彼此交流。这一现象被发现后，Facebook随即关闭了人工智能系统。毫无疑问，一旦人工智能武器拥有这些能力，被工程师认为最保险的设计——人在回路中，将变得没有意义。endprint