真正的“人机大战”在棋局之外

程永高++王淦生

2016年3月9日注定要写入围棋界的历史、IT界的历史、科学界的历史，甚至人类的历史。在这天的3个多小时里，拥有1200多个处理器的谷歌人工智能系统AlphaGo，在深邃的围棋棋盘上把世界围棋冠军、韩国棋手李世石逼到绝路，曾经独孤求败的九段高手不得不投子认输。

这一幕似曾相识。1997年，IBM公司的超级电脑“深蓝”就曾结束了有史以来最伟大棋手卡斯帕罗夫独步天下的地位。

两局棋的结局是令人震撼的。人类最顶尖的高手落败了，而对手只是一台没有生命力、没有感情的冰冷机器。这种震撼不仅让人感叹，甚至让人有些生畏，因为，它完美地直播了人类制造的工具是如何战胜人类的。

相比19年前的“深蓝”，AlphaGo更进一步。前者靠强大的处理器核心来“暴力穷举”出所有的取胜方案，而AlphaGo已经懂得策略思维和形势判断。换句话说，前者靠蛮力优势，而后者更有思维，更懂得像人类一样思考，甚至会学习。

机器人懂思维、能思考、会学习，是这轮人机大战最核心的看点。这标志着机器已经不再简单地按照人类编写的程序来被动运算，而是逐渐开始掌握主动思考和主动决策的技能。

从被动到主动，正是人工智能发展最难言的道德窘境。人类进化，之所以优于其他生物物种，是因为人类具备劳动能力和工具利用的能力，进而生成主动思考和决策，但这一进程，持续了几百万年甚至更长时间。而人工智能技术只耗费了几十年就让电脑类机器工具从被动服务学会了主动决策。目前，人工智能设备的“智商”已经可以达到四五岁儿童的水平，在可预见的未来，制造出会思维、懂情感、能判断、有主见的智能机器不是天方夜谭。

人类无法想象未来的人工智能会发展到什么地步，就像几百年前的人类无法想象汽车、飞机、导弹这些远远超越人类自身极限的工具一样。相比人脑有限的利用率，人工智能的“智商”全面胜出人脑也只是时间问题。霍金、比尔·盖茨等人都曾悲观地提醒过，无度发展可能导致人工智能最终反制人类，造成不可控的毁灭。一些科学家也曾警告某些国家，不要轻易把人工智能运用到战斗武器中。

人工智能的利用价值毋庸置疑，它可以提高效率，优化生产，进行高危作业等。但关键问题是，人类如何去引导、规范、限定智能技术发展的方向、界限和目的。应当让智能机器“知道”，它们的出现不是为了战胜人类，而是服务人类；更应该让研究者清楚，人工智能不仅涉及计算机科学，也包括哲学、认知学、心理学、控制论、社会学，更需要有清晰和冷静的科学发展观。

因此，真正的人机大战，在人工智能技术的全面发展过程之中，而其中重要的一场战役，是人类能否控制自己的心智，去发展合理的智能技术。

（原载2016年3月10日《京华时报》）

[解 读]《真正的“人机大战”在棋局之外》这篇短论重点介绍了战胜卡斯帕罗夫与击败李世石的两台人工智能机器的不同，突出了AlphaGo“懂思维、能思考、会学习”的特点。而AlphaGo所具备的这种“主动性”，标志着人工智能的发展已进入了一个全新的阶段。而这一阶段人工智能技术的发展有可能陷入了一个“道德窘境”——即随着人工智能技术迅速发展，迟早会出现“会思维、懂情感、能判断、有主见的智能机器”，而这些智能机器在为人类提供各种前所未有的便利和效率的同时，也极有可能会给人类带来意想不到的灾难。由此，作者得出结论：真正的“人机大战”，是“人类能否控制自己的心智，去发展合理的智能技术”。比如不将人工智能技术运用到有害于人类（比如武器制造）的领域，而且必须使之为人类所掌控，始终服务于人类。文章有理有据，富有见地，值得每一位关注人类命运的人思量。

[作者单位：江苏省盐城市亭湖高级中学]