摘要:本文介绍了“云管端”的FPGA应用,分析了FPGA厂商在其中扮演的角色。
关键词:FPGA;云管端;计算;边缘
随着大数据和云计算的落地,FPGA(现场可编程逻辑器件)在数据中心,基站等IT通信设备上正成为主流,风起云涌的人工智能更加速了FPGA在超级数据中心中的应用,而即将到来的物联网也将推动
FPGA的应用进一步扩展到消费电子、汽车电子、工业控制、测试测量等领域,不仅仅发生在对计算要求高的云端,而且还会出现在数量更加庞大的物联网边缘端。
1 “云管端”
2010年华为首先提出“云管端”概念,目前“云管端”概念已经延伸到其他行业。
“云(Cloud)”既可以指为用户提供云计算和大数据等云服务的集合,也可以是一种数据汇聚和计算处理的模式,还可以指设备的云化、电信业务的云化、电信业自身IT设施的云改造等。当然,我们也可以简单理解为数据中心;
“管(Channel)”是指管道,链接“云”和“端”之间的设备和服务都可统称为管道,提供信息传输能力,包括交换机、路由器、无线基站、有线接入等设备和服务;
“端( Device)”比较容易理解,是指智能设备终端(手机、数据卡、平板电脑、机器人、工业设备等能上网的终端设备),主要包括物理终端、操作系统软件和人机界面接口等。
2 云计算、雾计算和边缘计算
“云管端”可以大致对应云计算、雾计算和边缘计算,区别在于计算能力、功能模块、位置节点和应用场景的不同。
2.1 云计算
云计算包括公有云和私有云,有IaaS、PaaS和SaaS的云服务,可以进行大数据处理、云计算,实现云端的人工智能等。因为有大型的数据中心,云计算能提供的计算和存储能力最强。例如亚马逊、腾讯、阿里、百度等云服务厂商异地部署数据中心,以提供云计算服务,一个地方数据中心发生故障,另一个地方数据中心仍能保持正常,从而保证业务不掉线。
2.2 雾计算
雾比云更贴近地面,距离用户更近,作为云数据中心和物联网(IoT)设备/传感器之间的中间层。雾计算主要由边缘网络设备,例如路由器、网关、机顶盒、代理服务器、基站等构成。这些组件可以提供不同的计算、存储、网络功能,并支持服务应用的执行。雾计算促进了位置感知、移动性支持、实时交互、可扩展性和可互操作性。
2.3 边缘计算
顾名思义是指处于网络边缘,更靠近用户,更靠近数据发生的物联网终端设备和传感器。边缘计算中,有数十亿计的物联网设备和传感器的数据存储和处理(如图1),具有多样化、低延时、快速响应、功耗低、永远在线和实时唤醒等功能。
3 云管端的FPGA应用
3.1 “云”上的FPGA应用
云端的FPGA的主要功能是计算。用于数据中心、人工智能、机器学习、云计算和工业云平台。云端的FPGA应用属于高端高利润市场,主要由赛灵思和Intel PSG部门(注:Intel收购的Altera公司)把持,其他厂商很难进入这个市场。
云端的人工智能最近非常热门,主要包括“离线训练”和“在线判断和服务”两种方式。离线训练是指利用海量数据输入,通过合适的训练方法,实现和验证人工智能算法模型。而在线判断和服务是指利用训练出来的算法模型做出判断,在线响应用户的请求。
GPU有很好的计算能力,目前主要用在离线训练上,而在在线判断和服务方面,FPGA的能耗效率(性能/能耗)和成本效率(性能/价格)都比GPU更好。在云端数据中心领域,采用FPGA的服务器应用越来越多。亚马逊Web Services和百度大脑都在采用赛灵思和Intel PSG的FPGA支持云服务,作为在线判断和服务的人工智能专用芯片。百度的AI Silicon FPGA集群拥有数十万台服務器,已经部署成为国内最大的GPU/FPGA集群,采用先进的集群操作系统来统一管理,成为国内率先推出可用的FPGA云服务的厂商。
3.2 “管”中的FPGA应用
通信行业的管道(基站、基站控制、承载、传输等)大量使用FPGA。通信行业是需要实际功能测试和现场测试来进行产品迭代设计的,不能等到标准成熟才做芯片和产品。所以各设备厂家为了缩短上市时间,抢占技术先机,会在标准还未冻结之前就推出原型样机,甚至小批量产品。所以FPGA成为通信厂商们的不二选择,一边讨论协议,一边用FPGA开发产品,在客户那里一边测试,一边修改版本。
通信行业下一个增长的大潮应该是5G和物联网,3GPP第一个5G标准今年12月初冻结,预计将于2020年开始部署,并在2023年达到顶峰。而即将到来的物联网时代,NB-IoT等物联网标准也在不断演进,协议不断更新,快速的发展变化推动了FPGA在5G和物联网的应用。
在整个通信管道中,越靠近终端侧,设备的数量越多,用的FPGA量也越多,而越靠近核心网侧,用的FPGA数量越少,但价格更贵。在协议完全冻结后,各设备厂家会逐步以ASIC来替代之前的FPGA,因此FPGA在通信领域主要在初、中期应用比例高,后期可能会被ASIC替代,只留下一些接口类的FPGA。在通信管道领域,主要是赛灵思和Intel PSG之间的竞争,别的厂商很难进入这个市场。
3.3 “端”里的FPGA应用
FPGA目前在智能终端设备上已经开始广泛应用,如无人驾驶汽车、机器人、安防监控、电子半导体测试设备、医疗设备、工厂自动化设备、军用设备、消费电子产品、物流运输、AR/VR和游戏设备等。FPGA在这些终端设备中的应用主要考虑能耗效率(性能/能耗)和成本效率(性能/价格),而在消费电子行业中,这种对功耗和性价比的追求更是达到了极致。
FPGA在智能终端的应用主要包括三方面:互联(感知周围的世界,与外界建立连接)、计算(对收集到的数据和信息进行处理和判断,通过人工智能和机器学习等建立对外界的认知)和控制(智能地响应外部请求,做出相应的动作和反馈)。
4 计算、互联、控制
4.1 计算
实时性要求高的应用场景需要终端具备较强的计算能力,例如无人机的避障算法,无人驾驶的环境感知,ADAS系统中图像识别算法,工业机器人的机器视觉检测,自动仓库的物料搬运……如果在这些应用场景中将收集到的数据和信息都上传到云端再进行计算,数据网络传输会产生延迟,而严重的延迟有可能对这些实时系统造成非常严重的后果。
在云端上一般用卷积神经网络计算(CNN)做海量大数据分析,而在边缘端上其实不需要那么复杂,可以通过网络优化到8位、4位,甚至到1位这样的二值神经网络。在边缘端,使用小尺寸、低功耗、低延迟的FPGA非常关键,这些FPGA既可以做并行运算,也可以利用这些简化的二值神经网络在性价比高、功耗低的消费电子产品上实现人工智能算法。比如,莱迪思( Lattice)iCE40Ultra Plus就可以在边缘端做二值神经网络算法,实现基本的人脸侦测等计算工作。
4.2 互联
智能终端产品和工业产品的通信协议和接口种类繁多,没有统一标准,各家大公司和联盟都在推广自己的通讯协议,另外,一些通信协议也在不断更新换代。因此芯片间通信往往需要一些桥接(bridge)芯片。事实上,因为FPGA具有可配置性,业界普遍使用FPGA芯片作为接口或者芯片间通信的桥接。例如,Apple在iPhone7中集成了一小块Lattice的FPGA芯片,据推测就是为了实現芯片间的通信中介和可配置互联。
在未来的智能产品中,远程升级是非常重要的功能,就像Apple手机在线远程升级一样,FPGA可随意定制内部逻辑阵列,可以在用户现场进行即时编程,以修改内部的硬件逻辑,并且可通过因特网进行远程升级,从而实现逻辑功能的更新。
4.3 控制
FPGA在工厂自动化领域的测试设备中应用非常广泛[1],在这些测试设备中,很多功能和接口很可能是非标的,很难找到合适的ASIC芯片,这时FPGA就是很好的解决方案。另外,工业控制、工业机器人和物流仓储这些领域的FPGA应用成长也非常快,这些领域不需要高端的FPGA,只要用一些入门级的FPGA就可以同时控制多个马达,接收多个传感器传来的信息。
实时控制是FPGA的优势之一,在一些对时间延迟要求很高的场合中,可以用CPU+FPGA的方案用FPGA进行硬件加速。BMS(电池管理系统)是整个电动车的核心,低功耗的FPGA可以永远在线,对动力电池进行在线检测和实时监控,实时检测动力电池的电压、电流、温度信号,遇到过载等紧急情况,可以在很短时间里立刻断电,不然电池就会发生爆炸。
5 主要的厂商
在FPGA市场上,赛灵思、Intel PSG、莱迪思等厂商都有各自的优势[4]。赛灵思、lnteI PSG偏重于云端和管道,莱迪思偏重于边缘端。让我们来看看这三家公司股价表现。
赛灵思在云端和管道的业绩一直不错,所以股价一直稳定增长,如图2。
2015年业界对Intel投入167亿美元收购Altera的有效整合是有疑虑的,所以收购前后股价变化不大。2017年9月在深度学习领域,Intel 14 nm制程的Stratix 10 FPGA被微软(Microsoft)采用为即时AI(real—time AI)云端平台Project Brainwave的DPU,Intel和Altera的整合得到了认可,因此Intel的股价还不错,如图3。
莱迪思的股价一直不温不火,可能是因为FPGA的主流高利润市场依然在云端和管道,而这些市场被赛灵思和Intel PSG把持。边缘上的FPGA运用仍处于发展阶段,市场还不具备规模优势,消费电子客户和工业客户对价格的要求也比较高,边缘端的FPGA市场利润相对较低,如图4。
实际上,边缘端上的FPGA应用非常广泛,横跨汽车、消费电子、医疗、工业、军事等多个行业,对FPGA的需求多种多样,覆盖高中低端。物联网边缘计算市场的分散性也可以从莱迪思的客户分类图中可见一斑,如图5。
赛灵思和Intel PSG的FPGA路数和莱迪思完全不同,产品市场定位,技术路线和商业模式决定了这两家公司不太可能大规模进入消费电子和工业等分散的物联网边缘计算市场,所以莱迪思在FPGA市场有其独特性。虽然FPGA的应用从云计算转移到边缘计算还需时日,但一两个物联网市场的爆发就可能带动边缘计算FPGA市场的增长。
参考文献
[1]周万木.制造业在转型:进入一个全新的数字世界[J].电子产品世界2017(11):6-14
[2]徐兰天.5G中F-OFDM调制的FPGA实现[J].电子产品世界2017(11):39-41
[3]王红兵,强景,周珍龙.基于FPGA的高速数据传输研究[J].电子产品世界,2016(9):42-45
[4]王莹.三大FPGA厂商竟相发新品,应用点各有侧重[J].电子产品世界,2017(2-3):75-76
[5]王莹.智能音箱、VR/AR、AI等是Lattice发力点[J].电子产品世界,2017(12):75-76