埃隆·马斯克：与世界分享人工智能的宏伟大业

凯德·梅茨（Cade Meze）张 铎/译

埃隆·马斯克：与世界分享人工智能的宏伟大业

凯德·梅茨（Cade Meze）
张 铎/译

选自美国《连线》杂志 2016年4月号

政客和资本家有一个共同的传统，那就是在周五下午悄悄地发布坏消息。在去年12月的一个周五下午，电动汽车制造商特斯拉（Tesla）创始人埃隆·马斯克（Elon Musk）和知名科技孵化器风险联合投资公司（Y Combinator）总裁山姆·阿尔特曼（Sam Altman）在蒙特利尔（Montreal）人工智能大会即将闭幕时宣布了他们刚刚开发的人工智能（AI）项目。之所以选择在会议结束时公开这一项目，是因为它已经得到了太多人的关注。硅谷里一些实力雄厚的公司已经注意到了这个项目，并开始向OpenAI刚刚招募的研究人员许以高薪，以期他们能为自己所用，其开出的薪水之高令人咋舌，以至于马斯克和阿尔特曼不得不推迟这个新项目的发布。“薪水高得离谱。”沃伊切赫·萨伦巴（Wojciech Zaremba）说，他曾在谷歌（Google）和脸谱网（Facebook）实习，在正准备加入OpenAI项目时收到了高薪邀请。

那么，到底多高才能称得上是“高得离谱”呢？两年前新一代机器学习技术市场开始升温时，微软公司的研究副总裁彼得·李（Peter Lee）曾说，一个顶尖的人工智能研究员的身价已经远远超过美国职业橄榄球运动中最优秀的四分卫球员，而这类球员的年薪一般都在八位数以上。如果硅谷最著名的两大企业去你的公司招募被他们相中的AI研究人员，他们则会开出难以想象的高薪。萨伦巴说，OpenAI刚刚组建的时候，就有人给他开出了两倍于自身市场身价的工资。

OpenAI虽然不像其他公司那样财大气粗，但它能提供别的东西，在这里，没有产品和季度盈利的限制，研究人员可以全心着眼于未来，尽情地做试验，而最后的研究结果，不说全部，至少也会最大程度地与他人分享，让大家各取所需。没错，马斯克和阿尔特曼等人的目标，就是让所有人免费分享这一21世纪最具变革性的技术。

在萨伦巴看来，虽然他非常钦佩谷歌和脸谱网等公司，但这些公司开出的薪水让却让他望而却步。萨伦巴认为，过高的薪水一方面是为了招募研究者，而更重要的一方面则是要将OpenAI扼杀在摇篮里，而这反而让他更加认同OpenAI的伟大使命。“我意识到，”萨伦巴说，“OpenAI才是最好的选择。”

这是整个故事最具讽刺意味的地方——就像职业球队抓着自己的球星不放一样，世界上最大的科技公司极力挽留自己的研究人才，但研究者却怀有一颗博爱之心。在冰冷的人工智能研究界，最聪明的头脑追逐的并不是（至少不完全是）改变世界的产品或日进斗金的职业。他们只想推动人工智能技术不断进步。不过，如果大家都将最新的研究进展藏起来，那么人工智能的进步也就变成了天方夜谭。马斯克等人为OpenAI项目投资数十亿美元的目标就将其推向极致。

几天前，OpenAI发布了首批软件，借助这个工具包，OpenAI可以通过名为“强化学习”（Reinforcement Learning）的技术打造自己的人工智能系统。不久前，谷歌围棋人工智能AlphaGo就是在“强化学习”的帮助下战胜了韩国国手李世石。这个工具包可以帮助用户搭建自己的系统，模拟新一代机器人、教它玩电子游戏以及下围棋。

但玩游戏仅仅是个开始，马斯克向OpenAI投资数十亿美元是为了将人工智能技术推向极致，而不是生产游戏人生的机器人。透过这个项目的诞生及发展的过程，我们隐约可以窥见下一波创新浪潮的形成。当前，我们还不能贸然揣测OpenAI能否成为这场变革中的主角，但是，这家非同寻常的初创企业身后存在着一股强大的力量，它告诉我们，新一代的人工智能不仅会重塑技术本身，还将重塑技术的构建方式。

人工智能将无处不在

硅谷并不反感天马行空的想法，而是以怀疑的态度来审视夸大其词的宣传。但是，在人工智能领域内，变革正在发生。谷歌和脸谱等公司已经在使用一种名为“深度学习”（Deep Learning）的技术，以帮助各类互联网服务产品识别照片中的人脸、语音指令以及对通过互联网搜索的词条做出回应等。在未来，同样的技术将会驱生更多的应用软件，从而可以帮助机器理解自然语言——原生态的人类话语和文本。最终，新一代机器人将会诞生，它们不仅能执行设定的任务，还能在做中学。一些人认为，机器最终将获得一种近似于常识的东西——真正像人类一样思考。

不过，美好的憧憬也伴随着深深的忧虑。马斯克和阿尔特曼担心，我们既然能创造出做好事的人工智能系统，就也会有人捣鼓出做坏事的人工智能。担心机器人统治地球奴役人类的并不止他们两人，但也许有些反直觉的是，马斯克和阿尔特曼认为，抵抗恶意AI的最佳方式，不是限制人工智能的普及，而是把它推而广之。正因为如此，他们的新项目才能吸引一大批智慧超群的青年才俊。

开发OpenAI的想法诞生于去年夏天的一个夜晚，在硅谷风投圣地沙山路正中央的紫檀酒店的一个包间内。当时，那里正在进行一场晚宴，出席者包括伊隆·马斯克和伊利亚·苏茨凯威尔（Ilya Sutskever）。

苏茨凯威尔当时还在谷歌旗下一个名为大脑（Brain）的项目组工作。这家公司的目标是打造深度神经网络（Deep Neural Networks），这种强大的人工智能系统能通过分析海量数据，掌握识别照片、撰写电子邮件以及与人交谈等各种能力。苏茨凯威尔是这个项目的顶尖研究员之一，但此时此刻，一些更加宏大的设想正在包间内酝酿着。

这场餐会的召集者是山姆·阿尔特曼，他还邀请了好几位人工智能研究者，其中一位名叫格雷格·布罗克曼（Greg Brockman）。布罗克曼年纪轻轻，却拥有丰富的创业经验，曾在名噪一时的数字支付初创企业斯瑞普（Stripe）担任首席科技官。 这群人不拘一格，但都有一个共同的目标：建立一所不仅不受谷歌控制，而且不受任何人控制的新型人工智能实验室。“我能想到的最有意义的事，”布罗克曼说，“就是帮助人类安全地构建真正的人工智能系统。”马斯克也再三发出警告：在未来，这些系统可能强大到不靠人类就能学习，从而挣脱人类的控制。

马斯克之所以到场，一方面是因为他与阿尔特曼是老朋友，另一方面也因为AI对他各项事业的发展、乃至全人类的未来都非常关键。特斯拉终将推出自动驾驶汽车，而这必然要用到人工智能系统。马斯克的另一家公司SpaceX要把人送上太空，并保证他们能在太空中生存，这也需要人工智能。

但目前最大的问题在于，最有资格解决这些问题的人大多都已经被谷歌（还有脸谱网、微软、百度和推特）收入麾下。晚宴上，大家谁也不能确定，这些人工智能方面的研究人才会不会被一家初创企业吸引，哪怕它有马斯克和阿尔特曼为之背书。在这时，一个关键人物站了出来，他至少不排斥跳槽。“我觉得这样虽然做有风险，”苏茨凯威尔说，“但尝试一下也蛮有趣的。”

打破坚冰

在马斯克、阿尔特曼和当晚其他人的支持下，布罗克曼很快就下定决心，将众人设想的实验室先建起来。他全身心投入这个项目，并联系上蒙特利尔大学（University of Montreal）计算机科学家、深度学习技术潮流的奠基人之一约书亚·本吉奥（Yoshua Bengio），以及该领域的另两位先驱——杰夫·欣顿（Geoff Hinton）和扬·勒康（Yann LeCun）——现分别供职于谷歌和脸谱网，本吉奥一心投身学术界，基本不参与企业活动，但他同意帮助布罗克曼，为布罗克曼列了一份人工智能领域顶级研究人才的名单，在之后的几星期里，布罗克曼就照着这份名单，一个个地联系，并拉拢名单外的其他人。

不少研究人员都很认同这个主意，但谁都不愿轻举妄动。为了打破坚冰，布罗克曼挑选了他最想争取的十名研究人员，在一个周末，邀请他们到美国红酒之乡纳帕谷（Napa Valley）的酒庄，在享受美酒、美食的同时，给他们做工作。就连开车去纳帕谷的旅途，也被他利用起来开“动员大会”。“这段路很长，大家在路上总需要聊天吧，这正是用来拉拢人心的好时机。”他说。一行人抵达葡萄酒之乡时，这种微妙的氛围都没有散去。“你可以切身体会到那种微妙的化学反应。”布罗克曼说。或者正如苏茨凯威尔所言：“酒是次要的，谈话才是正题。”

当这趟红酒之旅结束时，布罗克曼向这十位研究员发出了邀请，并给他们三周时间考虑。三个星期后，有九人选择加入。后来虽有硅谷巨头开出巨额报酬，但这些人也都不曾反悔。“谷歌挽留我的条件极为诱人，所以这不是一个轻松的决定，”苏茨凯威尔说，“但最后，我还是决定加入OpenAI，一定程度上，我是奔着这个梦之队来的，但最主要还是看中它的使命。”

深度学习运动兴起于学术圈，由于基础计算能力的进步使深度神经网络成为现实，而不仅是一个理论上的可能性，因此，谷歌、脸谱网和微软等企业也开始挺进这一领域。欣顿和勒康等人离开学术界，投奔谷歌和脸谱网的原因就是这些公司拥有海量的资源。但他们仍有意向和其他思想家合作，事实上，正如勒康所说，深度学习领域的研究需要思想的自由流动。“闭门造车的结果就是落后。”

因此，当前大公司都倾向于将自己在人工智能领域内的研究成果与他人分享。这个转变是的确存在的，尤其是谷歌，一直以来，它都对自己的核心技术严加保密，而最近却开源了驱动其神经网络的软件引擎。在这场奔向未来的赛跑中，这家公司还是稳稳地守住了内道优势。布罗克曼、阿尔特曼和马斯克想要推动人工智能社群走向进一步的开放，他们不希望人工智能的未来被一两家大公司所左右。

开放的边界

所有的一切听起来都不错，但在天花乱坠的理想主义之下，OpenAI的研究人员可能还是要做出妥协，这些妥协也许和他们之前工作中遇到的别无二致。开放也是设限的。而AI的长期愿景并非其中牵涉到的唯一利益。OpenAI不是慈善机构。 马斯克的公司可以从这家初创企业的工作中获益，阿尔特曼的风险联合投资公司所支持的企业同样可以。

“当然会有一些相互冲突的目标，”勒康说，“这是一家非营利机构，但又跟风险联合投资公司的关系密切。它的薪酬也要向行业水平看齐。”据布罗克曼所说，实验室并不像谷歌和脸谱网那样，给人工智能的研究人员开出天价薪酬，但还是会给出“优厚的待遇”，并向研究人员提供股票期权作为报酬的一部分，先是风险联合投资公司的期权，未来可能还会给SpaceX的期权（它目前仍是一家私营公司，而不像特斯拉那样已经上市）。

尽管如此，布罗克曼坚称，OpenAI不会给予姊妹公司任何特殊优待。他说，OpenAI是一家研究机构，不是咨询公司。但一再追问之下，他还是承认，OpenAI的理想化愿景也存在局限性。公司可能无法把全部成果悉数开源，但它的目标是共享研究成果。“敞开大门做研究未必是最好的做法。你要把一个想法开发出来，看结果如何，然后再行发布，”布罗克曼说，“我们会创造出大量开源代码，但同时也会有很多还没准备好公开的东西。”

不过，苏茨凯威尔和布罗克曼也认为，OpenAI甚至会去申请一些专利，“短期内，我们不会申请任何专利，”布罗克曼说，“但不排除日后改变战术的可能性——如果我们认为这样做更有利于世界的话。”比如他说，OpenAI可能会申请预防性专利，一种防止专利被他人抢走的策略。可是在一些人看来，申请专利就意味着某种牟利动机。至少，这让OpenAI的开源理念少了几分说服力。“专利制度就是为牟利而生的，”艾伦人工智能研究所（Allen Institute for Artificial Intelligence）负责人奥伦·埃齐奥尼（Oren Etzioni）说，“我很想知道他们究竟要做什么。”

对“超级智能”的隐忧

按照马斯克和阿尔特曼当初的描述，OpenAI的成立是为了抵消恶意人工超级智能的威胁。这种超级智能当然也可能源自OpenAI所创造的技术，但他们坚持认为，如果任何人都能使用该技术，这种威胁就会减弱。“我们认为更可能出现的情况是，千千万万的人工智能研究者会联合起来，共同阻挠那些偶尔出现的坏蛋。”阿尔特曼说。

然而，话虽说得漂亮，并不是所有业内人士都愿意买账。牛津大学哲学家尼克·博斯特罗姆（Nick Bostrom）和马斯克一样，都就人工智能的危险性发出过警告。他指出，如果在还来不及确保安全性时，就不加限制地把研究分享出去，它可能会被坏蛋拿走。 “若你手里有一个足以危害世界的按钮，”博斯特罗姆说，“那最好不要把它交给所有人。”此外，博斯特罗姆说，如果OpenAI为了防止技术落入坏人手中，决定将技术保密，那这跟谷歌或脸谱垄断人工智能的发展又有何区别呢？

博斯特罗姆承认，情况或许会因为OpenAI的非营利身份而有所改变，但这只是可能而已。这个项目真正强大的地方在于，它确实能对谷歌和脸谱网等公司起到制衡作用。“它能够降低超级智能被垄断的风险，” 博斯特罗姆说，“有各种情况会导致一些实体或集团把持超强AI技术，OpenAI可以消除其中一种可能。”

但正如这位AI伦理研究大师在一篇新论文中所述，像OpenAI这样一家旨在免费分享工作成果的机构，其主要作用是加快人工智能的进步，至少短期内有加速作用。长期内能否做出贡献，则要看它能否出于利他主义的考量，“摒弃最佳商业利益，选择更高一层的开放性”。

“一家研发资助机构以公益为目的，通过追逐开放性，加速技术进步，这种情况也是有可能发生的。”博斯特罗姆说。

又一个施乐帕洛阿尔托研究中心（Xerox PARC）

今年1月初，布罗克曼招募到的那9位人工智能研究员聚集在他的公寓开碰头会。这个项目实在是太新了，他们连白板都没准备好。（你能想像吗？）他们就在当天买来白板，立即开动大脑。

布罗克曼说，OpenAI将探索强化学习，这是一种机器学习方式，就是一遍又一遍地重复执行一项任务，追踪其中最有成效的方法。

但OpenAI的另一个主要目标是“无监督学习（Unsupervised Learning）”，让机器在没有人类指引的情况下，实现真正的自主学习。当前，深度学习仍然依赖带标签的数据。比如，想要教神经网络识别出猫，那就需要给它提供大量有猫的照片。机器的学习离不开加标签的人类，需要在他们的监督下进行。但和其他许多研究人员一样，OpenAI也要想开发出不靠标签就能学习的神经网络。

“有了无监督学习的能力，机器就可以像人一样，只要到处浏览，就能从网上或书上学到各种知识。”布罗克曼说。

在布罗克曼看来，OpenAI就是现代版的施乐帕洛阿尔托研究中心。PARC的研究多为开放性质，且不受约束。从图形用户界面到激光打印机，再到面向对象编程（OOP），它们激发了一系列创新。而布罗克曼等人则想进一步化科幻为现实。PARC固然隶属于施乐公司，但它成就了无数的企业，当中最著名的就是苹果。诸如史蒂夫·乔布斯（Steve Jobs）这类人都得益于PARC的研究。而在OpenAI，布罗克曼也希望所有人都能从它的研究中受益。 为了尽可能推动这种活跃的氛围，近日，布罗克曼等人又挖来几位知名研究人员，其中包括伊恩·古德费洛（Ian Goodfellow），谷歌大脑团队的另一位前高级研究员。“PARC的特别之处在于，他们聚拢了一帮聪明人，让他们爱研究什么就研究什么，”布罗克曼说，“有一个共同愿景就行，不需要中央控制。”

放弃控制权是开源理念的精髓所在。如果有足够多的人投身于一个共同目标，最终成果必然完胜任何闭门造车的结果。但如果人工智能变得像我们预想中那样强大，那局面又会变得大不一样。我们秉承平均主义的理想创造了人工智能，同样也要确保新人工智能能坚守同样的理想。马斯克、阿尔特曼和布罗克曼寄希望于大众的智慧。但如果他们是对的，那将来的大众可不完全是由人类组成的。

原文标题：Inside OpenAI， Elon Musk's Wild Plan to Set Artificial Intelligence Free