美国总统怎么看人工智能

Scott+Dadich+李雨蒙

近日，美国总统奥巴马在白宫接受了麻省理工学院媒体实验室主任伊藤穰一的专访，他们对人工智能、神经网络以及未来太空探索等话题进行了深入探讨。本文翻译整理了本次专访的精彩内容。

伊藤：原本科幻小说的人工智能已经成为改变我们生活的现实，您何时感受到人工智能真的离我们很近的呢？

奥巴马：总体来看，人工智能已经从各个方面渗透进我们的生活，只是我们还没有太注意到，这部分是因为我们所认知的人工智能方式是被大众文化所粉饰过的。这就是区别所在。我们通常在科幻小说中所见到的都是普通的人工智能。现在的电脑已经超越人脑变得越来越聪明，最终人类将变得不再全部都有用处，甚至它们正在麻醉我们，让人类陷入肥胖和愉快或是黑客帝国的世界中。

值得思考的是，这确实扩展了我们的想象力，使人类开始思考选择和自由意志的问题，实际上也对发展专业人工智能，进行精确计算和解决日益复杂的工作起到了重要的作用。如今，我们生活中的各个方面都能够看到专业人工智能的身影，无论从医疗、交通到分布式发电，它都能确保创造更加高效的经济。如果利用得当，它将为世界创造巨大的经济繁荣和机遇。但同时接下来我们要谈谈人工智能不利的方面，比如加剧不平等、压低薪酬等等。

伊藤：我认为人工智能问题已经远远超出了一个普通电脑的科学问题。重要的是，每个人都需要了解人工智能的行为方式。在媒体实验里，我们常用到“扩展智能”这一术语，因为问题在于我们该如何对人工智能建立社会价值观？

奥巴马：我们用无人驾驶汽车举例。当机器可以进行多项快速决定时，就能够彻底地降低交通事故，彻底提高交通网络效率，有助于解决导致地球温室效应的二氧化碳排放问题。但是，人类将会在无人驾驶汽车上附加怎样的价值？接下来我们需要做出一系列的选择，比如老生常谈的问题：汽车自动驾驶，如果你急转弯避免撞到行人，你就会撞墙自杀。这是一个道德决定，而由谁来制定这个规则？

伊藤：在我们探讨人工智能的道德问题时，政府将扮演什么角色？

奥巴马：在我看来，在人工智能的早期发展阶段，监管框架应当百花齐放。政府要尽量少地进行干预，更多地投资于科研，确保基础研究和应用研究之间的转化。随着技术的开发和成熟，我们要考虑如何将其纳入现有监管框架中。这是个更难的问题，而政府需要更多参与。我们并不总是要让新技术去适应现存监管框架，而是确保监管符合更广泛的价值。否则我们可能会发现，某些人群将因此处于不利地位。

伊藤：人工智能发展出新型军备竞赛的过程中是否存在风险？

奥巴马：毫无疑问的是，我们需要围绕着网络安全建立国际准则、协议和检验，特别是对初期的人工智能领域。而其中较有趣的问题是攻防之间的界限还比较模糊。而政府之间互相的不信任更加剧了难度。

为什么我们与人工智能爱好者召开多次会议？其中一个原因之前我们并没有谈到过，就是我们真的需要彻底想清楚人工智能带来的经济意义。因为现在大多数人并不会花时间担忧那些稀罕物——他们只关心“机器会不会取代我的工作？”对此，我还是非常乐观的，历史证明，当人类吸收新科技时，总能发现创造出新型的工作，我们生活的总体标准也随之上升。高技术人员在这些领域表现出色，通过衡量自身才能，与机器互动，扩展知识范围、销售额度以及产品和服务。低收入、低技能的人群将变得越来越多余，他们的工作或许不会被取代，但是工资会被极大缩减。如果想成功转型过渡，我们必须对如何管理转型进行社会性的对话。

实际上，还没有直观感受到哪些工作将被替代。不过我愿意打赌，如果你有一台懂得医疗系统的电脑，你将非常擅于诊断病情，所以相对于医生，护士或药剂师不太可能被替换，因为他们的工作并不是很高薪。那些专业技术较强的工作，比如律师或审计员或许会消失。反而许多服务业、艺术和那些计算机难以适应的职业将很难被取代。

伊藤：如埃隆。马斯克、NickBostrom所说，人工智能的潜力已经超越了人类对它们的理解能力。当我们推动人工智能向前发展，我们该如何应对这样的担忧？

奥巴马：这不仅仅影响到我们自身，而是全人类的大事。首先，我认为更加直观的是，这在专业人工智能方面是可解决的问题，当然我们必须留心它的动向。如果我们拥有一台可以下围棋的电脑，这是蕴含千变万化的一种游戏。当人工智能开发出一套算法，很可能让你在纽交所实现利益最大化。如果一个人或组织首先获得这种算法，他们就可以迅速地打压股市，或至少引起金融市场诚信的混乱。

当出现一种算法，“围棋能够破译核密码并且算出如何发射导弹”，如果这是人工智能唯一的功能，如果它是自学并且真正高效的运算，就会给我们造成极大的麻烦。

伊藤：您是一个《星际迷航》迷。它是如何影响您对未来的想象的呢？

奥巴马：从小时候开始，我就超级迷这部电影了。那时候觉得太有趣了！我认为使这部剧常青的原因不在于技术，而在于它所传达出的价值观和人们之间的关系。它讲述的是关于人性，和我们通过自己的能力解决问题的自信。

探寻如何进行下一代的太空旅行是目前我们经费支持的重要领域。私营的企业已经做了很多很好的工作。在全美将近50个州里，已经有超过家企业正在开展私人太空探索工作。未来，人类将成为太阳系内一个“多星球智慧物种”，在各大行星之间建立起类似我们当今在地球上的国家体系、贸易体系和地缘政治格局。在这种太阳系政治的格局建立过程中，遵循的是最原始的“先到先得”的规则。先出发的民族将在未来太阳系人类生态圈中占据高端的位置。