人工智能的未来之路

黄江++张春晏

约翰·马尔科夫（John Markoff）是《纽约时报》高级科技记者，被誉为“硅谷独家大王”。他对互联网发展有着惊人的洞察力与敏锐度，并长期专注于机器人与人工智能领域的报道。2013年，他因为关于劳动力与自动化的报道而获得普利策奖。2016年1月，本刊就人工智能对商业、社会以及企业发展的影响对马尔科夫进行了专访。

TBR：您在信息科技领域进行了大量的报道，您的新作《与机器人共舞》对人工智能领域的发展有着很深入的讨论。为什么您对科技，尤其是机器人如此感兴趣？

马尔科夫：我从80年代就开始研究硅谷。1979年，微处理器刚出现，我读到一本英国人写的书，它提到微处理器将引发一场革命，会改变整个世界，这个观念立刻吸引了我。当时的个人电脑其实还没有到商业化的阶段，很多人研究它更多是出于兴趣。而我和创造了整个个人电脑行业的硅谷人一起长大，所以我决定要把这个概念深挖下去。

飞利浦有家做剃须刀的工厂，本来想建在中国，最后建在荷兰。我在其荷兰工厂看到非常灵活的机器手。那些机器手瞬间就穿过肉眼几乎看不见的小孔，永远不用休息，那场景给我的印象太深了。我想机器人会越来越大量使用。

TBR：您出生在硅谷的重要城市派洛阿尔托（Palo Alto），当年您住在那里的时候，硅谷和现在有什么不同吗？

马尔科夫：我家离苹果创始人史蒂芬·乔布斯（Steve Jobs）的房子只有一街之隔，还当过那家的报童，不过那时候乔布斯还没有住进那房子。惠普创始人比尔·休利特（Bill Hewlett）的儿子和我是同学，我们成天都能接触到电脑。当时的惠普对硅谷影响巨大。乔布斯就从惠普的发明中获益良多。

那时斯坦福大学的校园氛围很独立，不像其他大学比如伯克利，他们校园间的学生社团组织很活跃。我年轻的时候，斯坦福校园里的理工气息很浓重，周围有很多美国国防设施的大型承包商，NASA研究实验室。上世纪70年代的斯坦福，营造了一个非常好的孕育工程师的社区。

TBR：您在书中提到在人工智能（artificial intelligence AI）和智能增强（intelligence augmentation，IA）中间有很大的差异？

马尔科夫：是的，这是两方信奉不同哲学的人，两个派系在一开始发展的时候就有截然不同的目标。人工智能欲使机器人能完全模拟人类的认知，让机器变得越来越智能；而智能增强更像人机交互，带着“增强人类”的目的，让人类“机械性延展”，它在设计时将人类放在中心。

TBR：这二者可能越来越融合吗？

马尔科夫：可以，我能想到的最好的例子就是Siri。Siri就是利用AI建立强大的工具来帮助人类，人类在其中有很强的决定权。我的观点是，这并不是一个非黑即白的问题，将AI和IA分开是比较困难的。因为如果人类设计机器是想帮助人类自己变得强大，那么机器本身也会被人类改造得更为强大，来适应人类新的需求。

TBR：所以我们没有必要去强调AI或者IA的区别，只要能够更好地利用技术来服务人类，就可以了。

马尔科夫：是的。因为毕竟机器是人类制造的，无论是增强还是自动化，都是由设计的工程师来决定的。

充满人工智能的世界

TBR：您认为什么时候人工智能可以普及？

马尔科夫：现在已经有很多技术应用了，如在医疗方面。其实在我们生活中有最常见的机器人，比如说自动吸尘器。而且人工智能将来会像个人电脑一样。个人电脑作为一项工具，从发明后价格不断降到了所有消费者都可以接受的范围。只要市场不断扩大，那么人工智能，就会达到经济生产规模。

TBR：根据您的观察，人工智能会为我们的社会经济发展带来什么样的影响？

马尔科夫：我研究时发现，世界人口以一种惊人的速度老龄化，抚养比的指标非常不理想。越来越多的人变老需要被人照顾，而能够照顾人的人会越来越少。在一些传统的国家，即使是在美国，30年前，老人都多与自己的家人住在一起。但是现在美国情况已经变得不一样了。现在老人们很多都会选择进入养老院，但这仍不是一个很好的解决办法。我希望人工智能能够快速地成熟起来，来帮助社会更好地照顾这些老人们。

这个时候你说人工智能是好事还是坏事？我们把老人锁进一个根本没有人类照料的养老院里，这听上去是一件很缺乏人性的事情。但从另一个角度来看，通过虚拟空间、无线通讯等技术可以将各个养老院从各自独立的状态连通起来。即使人老得动不了，依然可以和远方的人交流。我相信技术还是可以为他们带来一些好处。所以人工智能可以通过帮助解决老龄化问题来影响经济发展。

TBR：那您觉得人工智能能否对解决中国的养老问题有所助益？

马尔科夫：这一问题将如何影响中国，我也很困惑，因为这会引起社会的很大变动。但是有人说，无论如何，这样的机器人依旧会在合适的时间进入中国。因为中国老龄化的问题其实比美国还要严重，而且看护的数量远远小于即将需要被照顾的人数。虽然中国传统观念根深蒂固，但是会不会做出改变也不得而知。这个地方我想说两点。

第一，中国很多传统的家庭可能现在都不会考虑将老人送进养老院，或者交给机器人看护，同样这也是美国社会激烈讨论过的问题。但是现实是，中国社会中将会有越来越多的老人，而家庭将很难照顾好所有老人。很多年轻人必须要进入劳动市场，因为毕竟中国的制造和发展是不断前进的，矛盾的是，老人又需要被看护。所以我觉得在这一点上，中国和美国遇到的问题是类似的。这就是我说的，机器人也许会在将来某个合适的时间进入中国。

第二，当时机器人在引入美国工业的时候，也遭到了很多的反对，很多人觉得要丢失工作了，特别是在经济衰退时期。事实上，引入机器人之后，情况好转起来。但我不知道中国的传统观念会有多么强烈，所以我不能确定。

TBR：那么除了帮助解决老龄化问题，您觉得人工智能还能如何影响中国经济呢？

马尔科夫：除了解决老龄化的问题，机器人也可以通过改善教育来影响社会。我认为人工智能会从根本上改变我们学习的方式。我喜欢看科幻小说，其中有个作者叫尼尔·斯蒂芬森（Neal Stephenson）， 他在《钻石年代》（The Diamond Age）这本书中讲到一个父亲以她女儿为原型制作出一个化身，这是一个非常好的想法。在美国，如果你成长在一个中产阶级家庭，那么你能在头两年内沉浸在大量的语言互动中，这些语言全部来自于生活。这样的互动对孩子的智力发育有着十分重要的影响。但是研究发现，低收入家庭里十分缺少和孩子们的这些互动。所以如果能有这些可以与孩子们互动的智能机器人，可能会使教育的起跑线更加公平。而如今已有希望造出一个可以陪伴孩子成长的智能机器人，这将是一个非常有意思的问题。

TBR：您认为大国间人工智能发展会有很大差距吗？

马尔科夫：我的观点是这一领域将变得更加扁平化，就像沃尔沃，它的生产公司遍布全球，以至于你很难讲他到底是哪个国家的公司。而且我认为国家之间的技术鸿沟也将变得更浅，一场由多国参与的技术竞争将很快来临。要知道，美国在下一代技术上还并没有垄断的优势。人工智能后最有意思的技术将是生物工程技术， 研究DNA，而中国人也早已开始研究这项技术。我认为创新的分散化将是不可避免的趋势。

并且，我不认为中国在人工智能方面会落后。比如说，在今年的世界计算机视觉大赛上，中国的设计团队与微软、谷歌的实验室有很好的合作。我相信中国的设计师一定在其中起了很大的作用，让机器学习变得更高效和准确，而这些都是世界领先的创新水平。

TBR：您曾预测，人工智能和机器人将比30年来个人电脑对世界带来的影响更大，为什么？

马尔科夫：因为互联网的作用，每项技术都能够以最快的速度到达目标人群。同时，人类学习和机器学习也有极大的区别。有一个术语叫做云端机器人，让我非常感兴趣。如果所有的机器人是连接在一起的，那么只要一个机器人学会了，所有的机器人瞬间都可以学会。我想再次用Siri的例子。一个手机上的Siri学会了，所有手机上的Siri都会变得更好。这样的迭代成长速度将是非常惊人的。

争议中走来的机器人

TBR：您觉得人类和智能机器人之间关系的本质是什么？

马尔科夫：人类总是对自己不知道原理的东西感到恐慌。但是机器人毕竟是人类设计的，它们自己并没有独立的意识。机器人之所以变得强大，也是因为背后工程师设计的算法精妙。当有一天，我们身边到处都是机器人说话时，我们也可以将它们设计得只可以讲真话，这样我们就不会被欺骗，不会被操控。

TBR：我们日常生活中到处都在利用计算机算法，简单的就有谷歌智能搜索、亚马逊推荐书单、垃圾邮件过滤、金融数据分析系统，等等，您说的人工智能和这些有什么不同？

马尔科夫：他们是不同的，简单说，人工智能会带着立场。我们得有意识地去想，这个机器是站在自己这一边，还是为其他人服务。所以关于刚才那个问题，对于人类和机器人的关系，我真正担忧的是，究竟是谁在建造这样的机器。在美国，随着机器变得越来越强大和有影响力，这将是一个越来越尖锐的问题。

比如说，Facebook的一项研究显示，机器的算法将影响选举投票的结果。因为软件的算法可以决定你将呈现给人们什么样的信息，而这些信息将会影响人们的选择。所以当我不了解是谁在为我筛选和呈现信息时，其实是机器在帮我投票，或者说是这个网络（如Facebook）在帮我投票。而这对美国的民主发展来说将是非常危险的。同样，人们是购买产品A还是产品B，其实网站背后会有很多数据来研究你的行为，他们可以引导你做出他们想要你做出的选择，那这就不同了。

TBR：您在书中也提到，人工智能涉及到很多伦理层面的问题。

马尔科夫：是的，我们人类怎么设计机器人，它们就怎么做，所以关键是由谁来设计，怎么设计，这其中也包含了信任的问题。通过无人驾驶车的例子，我们可以看得更清楚，也就是司机是否该信任无人驾驶车或信任工程师写的程序。这是个非常具有挑战性的问题，正如美国那场著名的争论：电车难题（Trolley Problem），当惨痛的牺牲在所难免时，该如何选择？无人驾驶汽车程序应该设计保证车里人的安全，还是保证行人的安全？换句话说，作为同时是行人也有可能是车主的你，愿意生产商制造哪一款车？这就是伦理方面的问题。

TBR：这些伦理问题会不会对人工智能的商业应用有影响？

马尔科夫：肯定会有影响。而且伦理问题肯定是必须首先考虑的问题。美国有一些人是非常讲究原则的，他们对人工智能非常担忧，害怕人工智能会做坏事。就在今年一月，埃隆·马斯克（Elon Musk）和其他硅谷的创业者、技术员在洛杉矶发起了一个研究项目， 研究如何让机器为人类做好事，也就是建造一个能做出符合道德要求的选择的机器人。这是一个非常难解决的问题。但像马斯克这样的人去思考这个问题，而不是光想着挣钱，是很重要的。社会问题是整体问题的一部分。

从另一个角度来看，在人工智能行业里，对伦理问题的关注程度比其他行业都多，这也是令人惊讶的。

TBR：若这些伦理问题没有解决，会不会阻碍人工智能的发展？

马尔科夫：不管上述的伦理问题有没有被解决，我们都已经建立起了机器，而且正在使用。这些伦理问题暂时还并没有阻碍人工智能的发展。不管是无人驾驶车，还是自动化武器系统，这些武器系统可以自主确定是否发起攻击或杀生，但即使这样，还是会有越来越多的国家开始研发这样的武器系统。

TBR：很多人担心智能机器人的普及会带来失业率的提升，甚至社会动荡，您怎么看？

马尔科夫：在我刚开始研究的时候，我也非常担心。很多人工智能的反对者都会说，它们的出现会夺去我们所有人的职位。我之前有报道过一篇文章，讲一个软件如何代替了律师。这样的软件可以代替人来阅读文件。很明显机器阅读要比人类阅读做得更好。特别是大型的法律事务所，里面雇佣了成千上百个律师，他们要阅读上百万的法律文书，而这些问题都可以被软件解决。我逐渐开始相信，人工智能技术将会逐渐替代很多人类现在的工作。是的，他确实会减少很多我们现在的职位，他可能会使上百万的人在一夜间就丢失了工作。当然，就在前6个月，已有一系列的研究发表出来，证明人工智能的影响正在逐渐放缓，特别是那些能一夜之间带来巨变的影响，我们可以不必像之前那样恐慌。

更重要的是，经济总是在变化的，我现在十分认可经济学家凯恩斯（John Maynard Keynes）所说的，技术只是会摧毁职位，但是不会减少工作。两年前牛津大学有人研究，认为在未来10年内，人类目前的50%的工作都有可能消失。但是从现在看，这些观点并不正确。因为我相信，总会有更多新的工作被创造出来。比如说，在10年前，谁会想到有成千上万的人做SEO（Search Engine Optimization，搜索引擎优化），它之所以存在是因为网络搜索的出现。

TBR：智能机器人在工商业的广泛应用会对社会带来其他影响吗？

马尔科夫：其实我担忧的，也是现在美国人正在激烈争论的，机器人取代一些人类的工作以后，是否将会逐渐拉大穷人跟富人之间的收入差距。而我认为这是很有可能的。如果这项技术的产生会使大部分人变得更加贫穷，但却成就了许多富豪，这个后果将是非常可悲的。所以如果社会不能很好地分配这些价值，这将是个很大的麻烦。

TBR：是不是有了智能机器人，它们的那份工作就不再需要人力了？

马尔科夫：并不是。我可以给你举个丰田（Toyota）的例子。作为一家优秀的汽车制造商，丰田现在又将人工重新加入到生产流水线上。因为他们发现，机器人不会处理程序没有涉及到的地方，他们自己并没有创造力。所以他们需要引进人工，其实这也变成了智能增强的思路，就是利用机器来提高之前生产流程的效率。

“以人为本”的未来

TBR：超级智能机器人真的离我们很远吗？会不会有一天机器人真的具有独立的意识？

马尔科夫：我对人们所说的“奇点”这一概念抱怀疑态度。这一概念因为科幻小说得到了普及，它是有前提假设条件的，但我不相信会发生。在可见的将来，我不认为会出现有自主意识的机器人。我在美国遇见的绝大部分设计人员也都对超级智能机器人抱有怀疑的态度。但因为这个概念很容易抓人眼球，影视和娱乐作品总拿它来炒作，所以才这样备受关注。

机器的未来、人与机器的关系，归根结底在于人类自身。所以比起这些暂时不必要的担心，我更担心的是一些细节问题，就像我刚才讲的，比如人类很有可能被机器人背后的算法所操纵。

TBR：未来人工智能的推广需要什么基础条件？

马尔科夫：这也是一个很有趣的问题。像微软必应搜索（Bing）这样一个人工智能技术的有趣实验，被两千万中国人使用，其中大多数是青年人。有趣的是，这是一项没有在美国却是在中国先发起的实验。也许跟文化相关。这是一个有关消费者方面的例子。举一个更简单的例子，就像软件系统，比如人工智能秘书。很多大的公司设计出来后，将这一人工智能秘书放在互联网上，那么他将会有成千上万的下载量。人工智能的推广操作其实并不难，那么接下来就是人类创造力的问题。我相信接下来会有许许多多非常棒的创意，比如说智能保姆，会有更多可以与人类说话的机器人，那这将会使世界变得非常不一样。想象一个世界，在这里人类与机器的对话将要多于人类之间的对话。但这是一件好事还是一件坏事，世界会不会因此变得更加孤立，这也是一个值得探讨的问题。

TBR：为什么硅谷在人工智能方面的成绩做得尤为突出？

马尔科夫：我觉得最重要的原因之一，就是在硅谷，人们允许失败。硅谷里孕育的科学技术在成功前都经历了许许多多的失败，但是他们并不会轻易灰心，因为失败并不意味着结束。

TBR：您在书中提到了DARPA，您觉得中国政府可以从中学习到什么？

马尔科夫：起初创立美国国防高级研究计划局（Defense Advanced Research Projects Agency）这个项目，目的是为了对抗苏联政府的竞争和他们的技术突袭（technological surprise）， 所以我们建立了DARPA，让我们自己为自己提供技术奇迹。个人电脑和互联网，这些都来自于这个项目。这个项目研发出来的成果可以说改变了世界，为世界带来了巨大的影响。

我的建议是，中国政府如果能把大量的资金投入到基础科研上，那么将会引发一连串的乘法效应，而且有时这些效果你之前是想不到的。有时以为只是做一个简单的研究，但没想到却有可能造就一个行业。这就是为什么基础科研会如此有价值。而DARPA会对大学投资。我想中国政府都可以直接复制这些方式。

TBR：那么在操作过程中，政府需要注意哪些问题？

马尔科夫：我想有以下几点：

第一，政府首先要敢于承担风险。我希望政府能够鼓励人们去研究目前难以攻克的技术问题，而这也是创造成绩所不可或缺的一个过程。之后总会发生一些意想不到的好效果，为社会创造出价值。

第二，研究实验室要找到对的研究人员。当然这也需要挑选人才的聘用者自己具备一定的眼光和对未来的准确预判。

第三，一个国家如何设计一个能够培养出这类人才的教育体制。这是一个更难回答的问题。

第四，政府也需要给研究人员一定的自由，允许他们研究想要研究的问题。

TBR：中国目前在人工智能领域有很多初创企业，您觉得它们成功的机率大吗？

马尔科夫：现在大部分有关算法的讨论都集中在数据上，这是一个很有趣的问题。因为看上去如果一家公司有更多的数据， 那么它就会更有优势。但是拥有更多数据的往往都是大公司。比如说谷歌和苹果，他们拥有海量的用户数据，这将会带给他们很大的优势。但这是理论上的，现实中，说不定一个很小的创始公司开发出了突破性的算法，就会极大地弥补它的劣势。

在有关机器学习方面，现在也有一小部分人在研究稀疏数据（sparse data）。就像人类的学习，并不需要看过海量的例子才能懂，有时只要简单几个示范就知道是怎么回事。那么如何能让机器像人类这样学习呢？在这一理论做出贡献的很有可能将是创业企业。

初创公司在人工智能领域是很有潜力的。像谷歌就是很好的例子。当时微软几乎控制了全部市场，而谷歌当时就由两个小孩创办了起来。

TBR：您对这些初创公司有什么建议吗？

马尔科夫：我没有在初创公司工作过，但是根据我在硅谷这么多年报道的经历，我想说，第一，现在的初创企业可以关注硅谷的最新研究；第二，在学习别人的时候，不仅要看成功的故事，也要看失败的故事；第三，多利用互联网。最重要的一点是，不要害怕失败。

黄江：清华大学经济管理学院博士生

张春晏：本刊高级编辑