人工智能的钥匙该在谁手中

胡惊雷

正如其他颠覆性的技术，人工智能是数个世纪的艺术想象、哲学反思、科学突破和工程进步合力的产物。神造人的传说，笛卡尔的“身心二元论”， 霍布斯关于一切心灵活动都可以被还原为加减乘除的断言，莱布利兹的二进制，巴贝奇的可编程机械计算器，布尔的0和1为结论赋值的代数，罗素悖论，希尔伯特关于算术公理的相容性问题，哥德尔不完备定理，图灵，冯诺依曼……

但人工智能的飞速发展，是在1956年的“达特茅斯会议”之后。这半个多世纪里，它虽然经历了20世纪70年代中期政府削减预算和80年代后期市场需求不足所引发的两次“寒冬”，却在其余阶段高歌猛进，经历了好几个“里程碑”的时刻，比如1997年“深蓝”击败国际象棋冠军卡斯帕罗夫，2011年Watson打败了百科知识问答节目Jeopardy！ 历史上最伟大的两个冠军，到2014年、2015年更是出现井喷，尤其是后一年，被彭博网认为是划时代的。人工智能在图像识别、工程应用、机器翻译、游戏竞技等方面均取得跨越式发展，Google 、Microsoft、Amazon、IBM、Intel、Facebook等科技巨头们，都将之列为最优先发展的方向。不仅如此，机器学习的一些技术革新还先后登上了《自然》和《科学》杂志封面。而到2016年春，Alpha Go与李世石的围棋大战，使人工智能成为举世瞩目的焦点。

似乎Kurzweil 在《奇点临近》 一书中所预见的以人工智能为代表的科技呈指数增长的趋势已经形成; 而1950年图灵的开创性论文“计算机器与智能”的种种启发性设想，比如模仿儿童学习的机器，比如模仿神经的网络，比如类似生物变异的衍生算法……以及在倒数第二页那个看似不经意的推断：智能机器的行为并非是完全可被预知的……都变成了预言。

一些人期待人工智能帮助我们恢复生态、消灭贫困、实施救援、支持残障等，另一些人警告它可能成为潜在的敌人或是潜在敌人的大规模杀伤性武器。乐观的展望并非毫无根据，而小心的警告也不是空穴来风。不要忘记，大型机的鼻祖ENIAC和它的升级版MANIAC分别用来做原子弹与氢弹的计算;不要忘记，拥有“高级智能”的人类灭绝物种的效率是自然界的1000倍。参加曼哈顿工程的费曼就曾引用一句箴言表达他对科技这把双刃剑的警惕： 同一把钥匙，既可以打开天堂之门，也可以打开地狱之门。人工智能会是这样一把钥匙吗？

布鲁金斯资深研究员P.W.Singer 注意到，美国空军和地面部队激增的机器人需求正在加速改变战争的形态，简言之，机器人正在结束人类5000多年来对战争的垄断;2015年7月，包括霍金、马斯克、史蒂夫·沃兹尼亚克在内的多位科技名人与公共知识分子都签署了一封公开信，呼吁禁止自动化武器以避免引发军备竞赛，重蹈冷战覆辙;去年2月，比尔·盖茨主张向机器人征税以帮助人类过渡到失业状态;3月，摩根大通开发的金融合同解析人工智能系统COIN成功将36万小时的工作缩至几秒内完成，这使得自适应交易算法ZIP的发明人Dave Cliff很多年前的玩笑变成了预言：不久你会发现，交易大厅里只剩下一台大计算机，一条狗和一个人;计算机做交易，狗负责守计算机，人负责喂狗。

一些纸上谈兵的思想者会说，这都是杞人忧天。这种勇气来自于一个事实：他们不需要对后果负责。如果我们要用这把钥匙进天堂，就不能忘记冯诺依曼的叮嘱：“我们应该预测所有稳定的过程，控制不稳定的过程。”只可惜他并未完成遗作《计算机与人脑》，我们无法猜测他可能提出哪些建议以控制人工智能这个注定“不穩定的过程”。我们要前进，但也有责任保持这份警惕：往往我们所期待的，总是来得太慢，而我们所憎恨的，总是来得太快。