福兮？祸兮？ 霍金：警惕人工智能

崔亮亮

对于大部分国人来说，能与霍金直接交流的机会还是非常有限，而在4月27日，在北京举办的GMIC（全球移动互联网大会领袖峰会）上，霍金带来了《让人工智能造福人类及其赖以生存的家园》的视频演讲。以“天·工·开·悟”为主题的GMIC大会，除了邀请了科学巨人霍金外，30余位嘉宾与全球科学迷共同探讨人工智能的未来趋势。

人工智能的终极忧虑

霍金在演讲中承认人工智能的发展必将载入人类史册，但霍金认为人工智能的终极发展也可能会危害人类文明。霍金称：“强大的人工智能的崛起，要么是人类历史上最好的事，要么是最糟的。对于好坏我们仍无法确定，现在人类只能竭尽所能，确保其未来发展对人类和环境有利，人类别无选择。”

霍金认为：“也许我们所有人都应该暂停片刻，把我们的研究从提升人工智能能力转移到最大化人工智能的社会效益上面。”基于这样的考虑，美国人工智能协会（AAAI）于2008至2009年，成立人工智能长期未来总筹委员会，近期在目的导向的中性技术上投入大量关注，确保人工智能系统按照人类意志工作。

人工智能的研究与开发现在正在以极快的速度推进，在短期的发展中，霍金最担忧的就是无人驾驶、智能的致命性自主武器方面，此外还有人工智能逐渐可以解读大量监控数据而引起的隐私担忧和如何管理因人工智能取代工作岗位带来的经济影响。从长远来看，担忧还存在于人工智能失控的潜在风险，随着不遵循人类意愿行事的超级智能的崛起，强大的系统是否会威胁到人类。所以霍金认为人类需要进一步研究来找到和确认一个可靠的解决办法来掌控这些问题。

霍金甚至认为，随着人工智能的全方位发展可能招致人类灭亡。正如核武器，人类科学发明了它们，而它们的影响比最初预想更加可怕。对于人工智能，霍金同样觉得可能是人类文明史的终结，除非找到如何避免危险的方法。

人工智能另一面

但另一方面，霍金也同样承认，人工智能的成功同样也可能是人类文明史最大的事件，当人类头脑被人工智能放大后，也许在这种辅助下，可以解决工业化对自然界的损害。

演讲最后，霍金表示：“我们需要跳出‘事情应该如何这样的理论探讨。我们站在一个美丽世界的入口。这是一个令人兴奋的、同时充满不确定性的世界，而你们是先行者。我们祝福你们。”

对于霍金不断提醒要警惕人工智能带来的威胁，创新工场创始人及首席执行官李开复在随后的演讲中持不同态度。李开复认为，AI未来发展有很多机遇和挑战，而毁灭人类只是其中一种，而且显得比较遥远。

对于人工智能目前的发展，李开复提出了四个方面的核心话题：1.人工智能将创造巨大财富，让人类第一次有机会脱离贫困。2.今天手中拥有巨大人工智能力量和数据的公司，如何防止他们用数据作恶。3.看到人工智能要取代50%人的工作（未来10到15年之间），这些人怎么办，更为重要的是教育怎么办？4.科学家尤其是人工智能科学家有什么使命？有什么机会？

李开复表示，自己作为科学家创业，最核心的心得是应该做“有用的”创新，这意味着更快利用创新帮助社会进步。科学家追求科研突破，而创业者追求商业回报；科学家讲究严谨，创业者讲究速度；科学家慢工出细活，而创业者要快速迭代，这些往往背道而驰。

然而，目前人工智能大浪潮下，顶尖科学家正在发挥越来越重要的作用，特别是2010年的深度学习带来的AI技术突破。目前全行业都在要求科学家和科学领域的创新，这会应用到AI可能发展的三个阶段中。

李开复把AI发展分为三个阶段：第一个阶段：把已有的大数据在线化使用；第二个阶段：通过感知和传感器把没有的数据收集、上传起来。第三个阶段：无人驾驶等为代表的全面自动化时代的到来。

对于科学家如何参与到这三个阶段，李开复提出了四条建议：首先是自己撸起袖子干，像爱迪生一样。其次是找个商业合伙人一起干。再次是把技术授权出去，让别人来做。最后是通过开源等方式，发布数据和内容。

李开复更加看好技术授权和开源的方式。国际上尤其是中国都要好好思考，怎样创造出让创业者和科学家做他们擅长事情的土壤，让两者有机结合。应以珍惜国宝的态度支持顶尖的科学家。

霍金这样回答了中国网友问题

创新工场CEO李开复：互联网巨头拥有巨量的数据，而这些数据会给他们各种以用户隐私和利益换取暴利的机会。您认为我们应该如何约束这些巨头？

霍金：据我了解，许多公司仅将这些数据用于统计分析，但任何涉及到私人信息的使用都应该被禁止。会有助于隐私保护的是，如果互联网上所有的信息，均通过基于量子技术加密，这样互联网公司在一定时间内便无法破解。但安全服务会反对这个做法。

猎豹移动CEO傅盛：灵魂会不会是量子的一种存在形态？

霍金：近来人工智能的发展，比如电脑在国际象棋和围棋的比赛中战胜人脑，都显示出人脑和电脑并没有本质差别。这点上我和我的同事罗杰·彭罗斯正好相反。会有人认为电脑有灵魂吗？对我而言，灵魂这个说法是一个基督教的概念，它和来世联系在一起。我认为这是一个童话故事。

百度总裁张亚勤：人类观察和抽象世界的方式不断演进，从早期的观察和估算，到牛頓定律和爱因斯坦方程式，再到今天数据驱动的计算和人工智能，下一个是什么？

霍金：我们需要一个新的量子理论，将重力和其他自然界的其他力量整合在一起。许多人声称这是弦理论，但我对此表示怀疑，目前唯一的推测是，时空有十个维度。

斯坦福大学物理学教授张首晟：如果让你告诉外星人我们人类取得的最高成就，写在一张明信片的背面，您会写什么？

霍金：告诉外星人关于美或者任何可能代表最高艺术成就的艺术形式都是无益的，因为这是人类特有的。我会告诉他们哥德尔不完备定理和费马大定理。这才是外星人能够理解的事情。

长城会创始人文厨：

我们希望提倡科学精神，贯穿GMIC全球九站，请您推荐三本书，让科技界的朋友们更好地理解科学及科学的未来。

霍金：他们应该去写书而不是读书。只有当一个人关于某件事能写出一本书，才代表他完全理解了这件事。