机器人想抢占地球？OpenAI说不行

殷桐

1968年上映的电影《2001太空漫游》，是由导演斯坦利·库布里克花费四年时间制作的史诗式科幻巨作，在距今50年前仿佛已经对人类眼前面临的困境做了神秘预言。

在茫茫浩渺太空中，宇宙飞船里与宇航员相伴的是一台名叫“HAL9000”的电脑，用当下的概念来描述，它就是一部具备高度人工智能（AI）的电脑。电影中最经典也最令人感到不寒而栗的情节就是：当HAL9000认为宇航员有可能会关掉电脑电源而威胁到它的“存在”时，它便对人类动了杀机，HAL9000利用电脑对宇宙飞船的全面控制，在影片的结尾处轻而易举地就让两位人类宇航员“消失”在自己眼前。

如今电影的预言仿佛正在逐步变成现实。当AlphaGo成功击败柯洁，人类在赞叹人工智能技术飞速发展的同时，也开始觉得隐隐的焦虑：担心自己的工作被机器人所取代；担心人工智能技术被别有用心的坏人使用而对世界带来毁灭性的灾难；但最深层的焦虑可能就是，某天像HAL9000那样的电脑（机器人）开始和人类争夺地球的生存空间，而我们却对其毫无招架之力。

2015年12月，特斯拉创始人埃隆·马斯克（Elon Musk）和创业孵化器Y Combinator总裁山姆·奥特曼（Sam Altman）找来世界上最聪明的一拨人，花费10亿美元创建了人工智能公司OpenAI。这家公司同时获得不少硅谷重要领袖的支持，其中包括PayPal联合创始人彼得·泰尔（Peter Thiel），Netflix创始人里德·哈斯廷斯（Reed Hastings）。

引导人工智能“向善”

马斯克这一举动有点令人迷惑，毕竟他曾公开反对人工智能。在他眼里：“研究人工智能就像召喚恶魔一样。就像所有神话中画着魔法阵捧着圣水的巫师一样，每个巫师都声称自己可以控制恶魔，但没有一个是最终成功的。”不过，正是这种对人工智能清醒的警惕，才造就出OpenAI这样的公司，因为它试图要做的，正是引导人工智能“向善”，监督人工智能的使用，解决人类在面对人工智能时的焦虑和困境。

当人工智能被广泛地应用时，一方面能为社会带来想象不到的福祉，而另一方面也可能带来无尽的危害。当微软发布聊天机器人Tay之后，Twitter上的流氓用户马上就教会她发布类似“毒死犹太人”、“开打种族战争”之类的言论。马斯克也说过，“现在没有看到机器人杀手上街并不意味着我们就不该提防着。”

“虽然目前人工智能系统让人印象深刻，但能做的却很少。”OpenAI的创始团队说，“在可以预见的未来，我们将不断地解除人工智能的限制。在最极端的情况下，人工智能将会达到与人类相当的水平。我们很难衡量它们能多大程度地造福人类社会，同时也很难想象如果它们被错误地使用，将会对整个社会产生多大危害。”

马斯克和奥特曼认为，迎战恶意人工智能的最佳方式，不是限制它，而是扩展它。OpenAI要做的不仅仅是推动人工智能的发展，还要让人工智能在造福人类的轨道上发展。所以它是一家非盈利的公司，也是一家开源的公司——愿意将研究成果分享给研究人工智能的每一个人。

OpenAI创始团队在一篇宣布10亿美元计划的文章中声明，“既然我们的科研不受经济上的束缚，我们能更好地专注在对人类有利的方面。我们认为人工智能是人类意志的延伸，本着自由主义的精神，它应该尽可能广泛地被运用起来。”

对于OpenAI的诞生，《连线》杂志认为，它的成立将人工智能研究推向高潮，同时也转变了目前由谷歌、Facebook等巨头引领的人工智能领域竞争格局。未来，OpenAI有望成为这一领域的监管者，并将其引导到对人类更为安全的发展轨迹上来。

OpenAI都做了些什么？

2016年4月27日，OpenAI发布其第一批人工智能软件，一个用“强化学习”技术打造的人工智能系统工具包OpenAI Gym。“强化学习”技术（reinforcement learning），就是打败人类棋王的AlphaGo的核心驱动技术之一。

正如Gym这一英文单词所指的意思（健身房）一样，在这个平台上，开发者们可以将自己开发的人工智能算法拿出来训练和展示，获得专家和其他爱好者的点评，并进行共同探讨和研究。在OpenAI Gym中，可以看到人工智能的开放化步伐正在渐渐加快。

2016年12月，OpenAI推出了开源平台Universe，基于这个平台，用户可以使用游戏、网络浏览器和各种软件来训练人工智能，通过各种方法，人工智能系统将会变得更加智能。在Universe中，人工智能可以像人类一样看视频、浏览网页、玩游戏……可以说这是一个人工智能的系统训练集中营。

OpenAI认为，虽然现在的人工智能技术已经能做到在围棋中击败人类，但还是只能限定在一个特定领域超越人类，但在别的领域基本能力为零。就像AlphaGo可以很轻松地在围棋上击败人类，但在别的棋类游戏上则完全没有这种能力。Universe就是为了解决这个问题而生的，OpenAI的联合创始人伊利亚·苏特斯科夫（IlyaSutskever）就说过：“一个真正的人工智能，应该能解决你交给它的所有问题。”

目前，OpenAI已经得到了EA、Microsoft Studios、Valve、Wolfram等公司的授权支持，也就是说，人工智能已经能够在Universe上玩《命令与征服》、《侠盗飞车》等游戏。

近日，OpenAI又向外界发布了具有里程碑意义的一项研究——单次模仿学习算法（one-shot imitation learning）。据悉，这种算法的绝妙之处在于，允许人们使用虚拟现实（VR）工具来向人工智能传达任务指令，操作者只要进行一次动作演示，之后人工智能就可以参照人类的动作进行模仿学习。另外，还有用于机器人仿真的开源软件Roboschool，它基于OpenAI Gym开发，提供了十几个新的操作环境，让用户可以在模拟环境中训练一个或多个机器人。

从经济学角度看，一个不以盈利为目的的公司最终将会被市场竞争淘汰，而OpenAI的存在则要向传统资本商业规律叫板。这家企业的未来将会如何？它是否会不敌强大的资本主义规律而消失？

《未来简史》一书中有这样的观点：人类之所以能向前不断发展，其中最重要的因素就是依赖共同认可的价值观。假如，未来全球人类一致认同OpenAI的存在决定着自己在人工智能时代的生死存亡，那么这家企业就算不赚钱也不盈利，恐怕也是不会倒掉的。endprint