嵌入式人工智能处理器：一场发生在边缘的革命

■文/余 凯

人工智能的计算从云端往前端迁移以及跟数据中心的结合，正是一场发生在边缘的计算革命。

在计算领域，什么是中心？中心是数据中心，是云计算。那么，什么是边缘？边缘就是边缘计算，在设备端的计算。在革命年代，我们有一个制胜的法宝叫“农村包围城市”，类似的，在人工智能领域正在进行一场发生在边缘的革命，也就是嵌入式人工智能处理器。而这正是地平线公司所看到的机会，所以在成立之初，地平线公司就提出要做“嵌入式人工智能领导者”。

摩尔定律驱动产业不断发展

提到计算变革，不得不提摩尔定律。在过去四五十年的时间里，摩尔定律一直在驱动整个信息产业不断往前发展。今天，在移动互联网时代，我们之所以能够用这么轻、这么巧的智能手机做这么多不可思议的事情，生活变得如此便捷，主要是因为摩尔定律。摩尔定律使设备的体积越来越小，同时计算力却越来越强大。

现在，摩尔定律进入了一个新的阶段，可以称之为新的摩尔定律阶段。在这个阶段，人工智能快速发展，而人工智能的应用也在驱动整个摩尔定律的变革。因为在人工智能快速发展的今天，我们所面临的大量计算问题和过去CPU的计算模式是非常不一样的。例如，人类的大脑处理图像数据的时候，实际上对顺序是不敏感的。因为我们的大脑是并行计算，对图像数据的处理没有前后顺序，而是同时处理。这种同时处理使我们对图像的计算能够达到非常快的速度。例如，我们在打乒乓球时，可以迅捷判断球的落点，做出非常的移击这是脑对是对重要处理拟人要一应地方面意识开始有所行动。在过去差不多5年时间里，在整个半导体处理器的设计方面，有一个巨大的范式迁移。谷歌公司的人工智能计算最初是用中央处理器CPU来处理大量计算的。到了2012年，百度等一些企业大规模地用图形加速器GPU进行人工智能计算。现在，谷歌公司的AlphaGo用其人工智能处理器TPU，地平线公司在设计嵌入式低功耗的人工智能处理器BPU。

终端计算更适应实时性要求

在PC时代，整个计算都是在本地进行。但是，到了互联网时代，通过浏览器，大量的计算迁移到了云端。天下大势，分久必合，合久必分。从移动互联网时代，特别是人工智能时代开始，大量计算重新从云端往终端迁移，比如手机端计算能力现在越来越强。从互联网到移动互联网再到万物互联的趋势中，人们对人工智能的需求越来越强烈。

在这个趋势中，计算的发生最开始是在云端，慢慢会迁移到各种终端设备。因为在终端的计算有很多优点，如它能够实时、低延迟，也能让用户的体验更好。计算的端口有时候还关乎安全，例如自动驾驶，如果前面有个小孩突然横穿马路，通常是把信号传到云端，计算完了以后，再来处理做决策。但是，如果网络信号不好呢？如果网络不通呢？这些都关乎生命安全，所以汽车在本地进行感知和决策的计算才是最为理想的方式。

在人工智能时代，大量的计算需求实际上来自终端。就拿语音识别来说，目前在线的语言识别已经做得很好，但离线的语音识别能力却仍然无法满足需求。如果能够提高本地的计算能力，在本地进行语音的实时处理，用户体验将会更好。例如，车载设备里的语音识别，在过隧道时，网络信号不好，这时如果能够在本地进行语音识别，那么体验显然会更加流畅。

还有另外一个典型的场景，那就是城市里大量的监控摄像头。无处不在的摄像头每分每秒都在产生大量的视频数据，这些数据拥有巨大的价值。如果把所有视频都传到云端去计算，这对带宽和响应速度都是非常大的挑战。那么，为什么不在本地进行计算呢？于是，我们会看到整个产业界的趋势，是把大量的需要实时计算的人工智能推向前端，而不是在数据中心进行计算。

还是以自动驾驶为例，未来自动驾驶的车辆中会有很多个摄像头。例如特斯拉汽车，目前就已经装了12个摄像头，每个传感器的解析度、信号力度会越来越丰富，数据量会越来越大，同时对实时性的要求也会越来越高。这就需要在终端的计算能力更快、更强。

人工智能领域发生边缘革命

在历次大规模的颠覆式的产业革命中，我们都看到了一个固定的模式：一开始最大的机会都是所谓赋能者的技术创新，第二波的机会就是在赋能者的技术创新之下，在各个生产、生活的应用领域落地。因此，我们通常能看到在整个创新的周期里有这样两个阶段。例如，在互联网的时代，一开始最快成长起来的公司是美国的思科。2000年，互联网盈利模式其实还没有找到，但在盈利模式找到之前一定要把信息高速公路建立起来，于是思科公司横空出世，最高成长到3 000亿美元的市值。后来，雅虎、谷歌等公司在互联网上找到了各自的商业模式。再看移动互联网，一开始的机会是被高通公司抓住的。在移动互联网大规模发展之前，首先要把这些应用连接到网上，所以高通公司的CDMA应运而生。随后，苹果、滴滴等公司才找到了各自在移动互联网上的商机。

人工智能的发展，其实也是遵循类似的模式。在过去的两年里，全球在高科技市场中增长最快的一只股票就是英伟达。在两年的时间里，它从市值为100亿美元的公司成长为1 100亿美元的公司。究其原因，就是因为人工智能在各行各业落地，首先要解决计算问题。

在人工智能的“军备竞赛”里，首要问题是有人提供枪炮、弹药，让你在各个行业去深入、去打仗、去把商业模式开发出来。因此，我们可以看到，在中国，今天人工智能有一个很大的机会，就是通过研发嵌入式的人工智能的处理器和算法，使我们大量的智能终端如自动驾驶的汽车、智能城市里面用到的传感器和摄像头，都能够具有智慧的能力。这个实际上是地平线公司在围绕着智慧城市、智能出行打造的嵌入式的人工智能处理器。

地平线公司从成立之初就颇具前瞻性地提出要做“嵌入式人工智能领导者”，打造高性能、低功耗、低成本的嵌入式人工智能处理器。经过两年的研发，地平线公司自主设计研发的首款人工智能处理器“盘古”已成功流片，即将对外正式发布。该处理器将拥有超低功耗，性能也将比现在的嵌入式人工智能处理器高2～3倍，但成本只是其1/20。

人工智能的计算从云端往前端迁移以及跟数据中心的结合，正是一场发生在边缘的计算革命，这里面关键性、革命性的力量就是嵌入式人工智能处理器的研发。