吕华章 陈 丹 范 斌 王友祥 乌云霄
(中国联合网络通信有限公司网络技术研究院无线技术部 北京 100048) (lvhz7@chinaunicom.cn)
5G网络与云计算、大数据、虚拟增强现实、人工智能等技术深度融合,将连接人和万物,成为各行业数字化转型的关键基础设施.5G包括三大应用场景:增强移动宽带(enhance mobile broadband, eMBB)、海量机器类通信(massive machine type of communication, mMTC)和超可靠低时延通信(ultra high reliability low delay communication, uRLLC).其中,eMBB聚焦对带宽有极高需求的业务,例如超高清视频、虚拟现实(virtual reality, VR)和增强现实(augmented reality, AR)等,满足人们对于数字化生活的需求;mMTC聚焦对连接密度要求较高的业务,例如智慧城市、智慧农业、智能家居等,满足人们对于数字化社会的需求;uRLLC聚焦对时延极其敏感的业务,例如自动驾驶、工业控制、远程医疗等,满足人们对于数字化工业的需求.其中一些诸如自动驾驶、远程医疗、AR/VR等应用,对时延的要求均达到了毫秒级.而根据思科全球云指数的预估,到2019年,物联网产生的数据的45%将在网络边缘存储、处理、分析,而全球数据中心总数据流量预计将达到10.4泽字节(zettabyte,ZB)(1 ZB=270B).国际数据中心(International Data Corporation, IDC)最新统计报告显示,到2020年将有超过500亿的终端与设备联网[1].
传统的云计算模式,又称为以云计算为核心的集中式数据处理,这种方式将数据传输到远端的云计算中心,数据经过处理和分析后的结果再传输回用户端.这种云计算中心具有较强的计算和存储能力,云计算的能力也呈逐年线性增长.但是面对未来在网络边缘侧产生的如此爆炸式增长的海量数据,当前传统云计算模式将受到严重的挑战.首先,这些海量数据均需要通过运营商的网络回传,并经过核心网处理,这对于当前运营商的传输网、核心网都是非常大的挑战.未来海量数据的传输需要很大的带宽,以目前现网的能力进行处理和传输极易造成拥塞;另一方面,海量数据的传输造成的时延也非常大,会极大的降低用户体验感.另外,对于海量数据传输的安全问题、终端能耗问题,也是不可忽视的.运营商的网络短期内不会重新部署,因此,急需寻找一种更为合理的方式解决现有问题[2].
边缘计算(edge computing, EC)是在靠近人、物或数据源头的网络边缘侧,融合网络、计算、存储、应用核心能力的新的网络架构和开放平台,就近提供边缘智能服务,满足行业数字化在敏捷联接、实时业务、数据优化、应用智能、安全与隐私保护等方面的关键需求.边缘计算是一种近运算的概念,将运算更靠近数据源所在的本地区网内运算,尽可能地不用将数据回传到云端,减少数据往返云端的等待时间和网络成本.边缘计算将密集型计算任务迁移到附近的网络边缘服务器,降低核心网和传输网的拥塞与负担,减缓网络带宽压力,实现较低时延,带来较高带宽,提高万物互联时代数据处理效率,同时能够快速响应用户请求并提升服务质量.
边缘计算通过开放网络能力与大数据、云计算平台结合,使得第三方应用部署到网络边缘,是从扁平到边缘及面向5G网络架构演进的必然技术,同时也提供了一种新的生态系统和价值链.对于当前火热的物联网应用,特别是一些新兴物联网应用领域:如自动驾驶、无人机、AR/VR、智慧城市等,这些崭新的应用非常强调对图像、视频的辨识和处理能力,或者对于网络的低延时和高带宽要求非常苛刻,几乎要达到数十毫秒级别以内.传统的回传云端方式显然已经无法满足这种时延和带宽要求,而边缘计算则可以取代其成为未来解决这些新业务的重要方案.
对于边缘计算的美好前景与广泛应用,有关边缘计算的标准化工作也逐渐受到各大标准化组织的关注.欧洲电信标准协会(European Telecommunications Standards Institute, ETSI)在2015年最先发布的边缘计算白皮书[3],该白皮书的内容涉及到边缘计算的定义、场景应用、平台架构、使能技术以及部署方案等诸多内容.之后, ETSI正式启动了边缘计算标准化工作.截止到目前,ETSI已经提出了包括:边缘计算平台架构[4]、边缘计算技术需求、边缘计算应用程序接口(application program interface, API)接口准则[5-6]、边缘计算应用(application, APP)使能等多个内容版本.目前,ETSI有关边缘计算标准化工作的第1阶段已经结束,第2阶段的任务已经开展.
第三代合作伙伴计划(3rd Generation Partnership Project, 3GPP)作为当前最重要的、影响力最大的标准化组织,也将边缘计算列入未来5G时代的关键技术.在3GPP系统化架构(system architecture, SA)的标准化进程中[7-8],已经将边缘计算的需求作为重要设计因素.目前,3GPP已经将未来基于控制面和用户面分离(control and user plane separation, CUPS)的5G服务化架构写入标准[9],同时给出了针对边缘计算的流量疏导方案和业务连续性方案.由于3GPP的标准化工作主要针对网络架构,因此将更加注重边缘计算平台和网络架构设计这部分内容,对于具体的业务场景则不会做出规定.
中国通信标准化协会(China Communications Standards Association, CCSA),目前也已经接受了3家运营商关于边缘计算的立项和研究课题[10-12].主要研究边缘计算的应用场景、平台架构、API接口的定义等内容.其中工业互联网组在2017年8月份新增有关边缘计算在工业互联网中的应用立项,边缘计算涉及的应用层面也扩展到了工业中[13-14].
作为国内3家运营商之一,中国联通积极参与边缘计算的研究工作,布局边缘云的建设.中国联通在2017年6月份发布了边缘计算白皮书,定义了中国联通对边缘计算平台的能力和应用场景需求,给出了中国联通4G网络、5G网络边缘计算的部署策略、建议和演进规划.同期,中国联通在2017年上海通信展上,推出了梅赛德斯奔驰中心智慧场馆边缘计算试点,该试点主要解决了场馆内多路视频调度和分发的实现.场馆内的授权用户可以快速地在多个直播镜头之间无缝切换,同时终端直播的时延很低,几乎与现场直播同步.2017年11月16日中国国际高新技术成果交易会(简称高交会)在深圳会展中心拉开帷幕,中国联通携手HPE、星耀科技、INTEL,XJERA LABS,日辉趣停、NVIDIA,H3C匠心打造“边缘云(edge-cloud, EC)+智能安防”商用部署解决方案,可实现表情识别、行为检测、轨迹跟踪、热点管理、体态属性识别等多种本地人工智能典型应用.目前,中国联通还同设备商、软件开发商、芯片厂商一道,在多个重点城市部署边缘计算试点网络,重点实现智慧校园、智慧场馆、安防监控等多个样板网络的建设.未来,中国联通不仅需要提升管道和连接能力,还需要与设备商、内容提供商、互联网应用提供商(over the top, OTT)、软件开发商等密切合作,打破竖井模式,提供端到端应用解决方案,增强用户粘性,促进整个边缘计算产业链发展.中国联通已经走在了边缘计算发展的前线,未来将谋划并布局未来5G边缘云的建设.
ETSI最先发布了边缘计算白皮书:Mobile-Edge Computing-Introductory Technical White Paper.这篇白皮书的主要目的是介绍边缘计算的概念和相关的关键市场驱动因素,并讨论该技术所提供的业务、消费者和技术价值/收益.白皮书讨论了边缘计算的促进因素、需求和挑战,以及未来边缘计算的发展计划和目标.本文尝试给出了边缘计算平台的大致结构图,并对结构的各个部分进行功能分析,为未来的边缘计算标准化工作打下了基础.本文将对其中的关键性内容进行概括总结,同时也对白皮书中的部分内容进行解读.
当今智能终端成功的推广和持续增长的流量,使得IT行业和电信行业正在不断深刻地融合,这带来了新的机遇,同时也能够带来部署在网络端的能力.边缘计算或多接入边缘计算(multi-access edge computing, MEC)就是在无线接入网(radio access network,RAN)内提供信息技术(information tech-nology, IT)和云计算的能力,并与移动端非常的靠近.因此,边缘计算就是一种将云计算能力下沉到靠近用户端的网络边缘的一种技术.边缘计算可以视为一个云服务器,在移动网络边缘侧运行,同时执行特定的任务,这些任务是不能在传统的网络基础设施中完成的.
边缘计算的特点可以归纳为5个方面:
1) 本地化.边缘的概念其实就是指本地化,所以边缘计算平台是可以独立于剩余的网络部分,这一平台可以随时获取本地资源;
2) 邻近.靠近源信息,边缘计算由于靠近用户端,对于捕捉一些关键信息很有帮助,这些信息可用于大数据分析,比如用户流量的统计、用户位置信息的跟踪定位等等;
3) 低时延.边缘服务在靠近端设备的地方运行,由于不经过核心网到达远端集中计算中心,因此很明显地降低了时延.因此,提升了响应间隔,提升用户体验,还能够最小化网络的拥塞;
4) 位置感知.网络边缘也是无线网络的一部分,本地服务可以利用低能级的信号来判定每个连接到网络中的设备位置;
5) 网络内容信息.这里主要针对的是实时网络数据,比如:用户端所处的无线环境、一些网络统计信息等等,这些都可以被应用程序和一些定制的服务所使用来提供上下文相关的服务,以此对网络实时信息进行有效掌握.
从业务和技术效益的角度来看,边缘计算提供了新的生态系统和价值链,不论是运营商、设备商还是软件开发商等,所有各方均能够参与其中,同时借助边缘计算的新平台,也可以发展全新的业务模型,从中获益.
对于移动网络运营商而言:他们可以快速部署新的服务给用户和企业.在改进用户终端体验质量(quality of experience, QoE)的同时,也能够从创新业务中增加新的收益来源,适时地向用户提供丰富的服务和全新的服务类别.另外从成本来讲,就是减少对核心网数据量的负担,同时降低了运营商的运营成本(与在核心网侧相比).另外,运营商购买了服务器和硬件资源,通过搭建边缘计算平台,还可以将边缘计算平台上的资源,提供给第三方进行租用.通过对资源进行收费(比如存储、带宽、中央处理器等等),从而获得一定的经济利益.
而对于软件和应用程序开发商来说,他们可以针对不同的用户群体,推出新服务和新的应用程序来服务用户.边缘计算平台的低时延、高带宽特性,可以让第三方开发商部署特定的更加针对于用户端的业务,包括:定制的位置跟踪业务、视频优化、游戏优化、智能停车等.同时,开发商还能够不断地通过用户端获取大量的无线网络条件以及统计信息,有助于他们对产品和业务不断进行快速而低成本的革新与升级.
边缘计算的使能技术主要包括3个方面:云与虚拟化、大容量的服务器、启用应用程序和服务生态系统.
1) 云与虚拟化.硬件和软件的分离以及基于云的解决方案的实现,在过去的10年中改变了IT行业.这种转变通过使用监管程序使得APP、软件平台与下层的硬件资源成功地解耦.在一个平台上,我们可以部署多个虚拟机,让他们以一定受控的、灵活的方式来共享硬件资源.云解决方案就是利用了这些技术,按需提供计算和存储资源,在网络和服务部署方面更加具有灵活性.目前,云和虚拟化技术已经被电信云和网络功能虚拟化(network function visualization, NFV)所利用.他们正在改变通信行业过去10年IT产业转型的方式,同时也是边缘计算的关键技术.
2) 大容量服务器.从大方面讲,指的就是硬件水平.由于边缘计算就是将集中式的云计算搬移到了网络边缘处,所以边缘计算对服务器性能的依赖仍然是不能忽视的.高容量的IT硬件可以促进边缘计算的商业成功.比如大容量的服务器,涵盖几乎涉及计算机部件的各个方面,比如大容量的存储(从TB级机械硬盘到固态硬盘的转变)、多核中央处理器(central processing unit,CPU)、图形处理器(graphics processing unit, GPU)的使用、10Gbps/100Gbps交换机等等,这些可以保证服务器高效、稳定的工作,因为未来在网络边缘侧的数据量可以达到ZB级别,这对服务器的硬件要求是非常大的.
3) 启用应用程序和服务生态系统.如果说云和虚拟化技术以及对服务器性能的依赖都是边缘计算的硬要求,那么要想让整个边缘计算产业链更加繁荣,则需要软件和应用程序供应商开发并引入市场创新和突破性的服务和应用程序.毕竟边缘计算只是一个部署在网络边缘的面向用户的平台,任何功能的实现都离不开APP的开放和创新业务的部署.使用开放标准和API以及熟悉的编程模型、相关的工具链和软件开发工具包是鼓励和加快开发新前沿应用程序或适应现有应用程序的关键支柱.
目前,边缘计算服务器均为独立设备.白皮书中简要地给出了边缘计算的部署建议,如图1所示.MEC服务器作为一个单独的设备可以部署在长期演进(long term evolution, LTE)的基站侧、可以部署在小区站点(可以是3G也可以是LTE)、也可以部署在无线网络控制器(radio network controller, RNC)处,位置非常灵活.想要决定MEC服务器部署的具体位置,还需要根据具体的业务类型、业务场景来决定.
Fig. 1 Deployment scenarios of the Mobile-edge Computing server图1 MEC服务器部署场景[3]
在白皮书中,对边缘计算的架构给出了一个大致的描绘,图2中展示了平台各部分的功能和组成情况.边缘计算的关键就在于将IT服务器与RAN侧的部分进行整合,MEC服务器用于提供计算资源、存储空间、连接以及相关无线网络的实时信息等等.在后续的ETSI的标准化介绍中,会有对平台细节的详细说明.
MEC服务器平台主要由3部分组成:主机平台、应用平台以及APP管理平台.
1) MEC主机平台主要是MEC的硬件资源与MEC虚拟层.硬件资源包括:CPU,GPU、硬盘(机械硬盘或固态硬盘)、交换机、网卡等.虚拟层对来自所有x86指令进行截获,执行“仿真操作”.这种虚拟层就是介于硬件平台和上层(即现在的操作系统)之间的中间附加层,好处是有了监管和仿真环境,坏处是带来了性能上的损失.但是随着计算虚拟化的进一步普及,从物理机平台迁移到虚拟化平台之上是一个趋势.
而MEC应用平台提供了托管应用程序的功能,并由应用程序的虚拟化管理器和应用程序平台服务组成.虚拟化管理通过提供基础设施作为服务(infrastructure as a service, IaaS)设施,虚拟化管理器支持灵活、高效、多租户、运行和托管环境.IaaS控制器为应用程序和平台提供了一个安全和资源沙箱,虚拟设备应用程序运行在IaaS之上,并作为包装-操作系统虚拟机(visual machine, VM)映像交付,允许实现完全自由的部署.
Fig. 2 MEC server platform overview 图2 MEC服务器平台总览[3]
2) MEC应用平台为在MEC平台上驻留的应用程序(也称托管在MEC服务器上的APP)提供一组中间件应用程序服务和基础设施服务,主要包括:
① 基础设施服务.主要分为通信类服务和服务注册.MEC服务器中的应用程序和服务之间的通信是根据面向服务的体系结构(service oriented architecture, SOA)的原则设计的.
② 无线网络信息服务(radio network information services, RNIS).移动端计算允许云应用程序服务与移动网络元素一起托管,同时也有助于利用可用的实时网络和无线信息.MEC RNIS提供给授权的应用程序低级无线电和网络信息,包括:小区ID、移动端的位置信息、小区负载情况以及吞吐率等.未来的边缘计算中,可提供的无线网络信息将更为多样化.
③ 流量卸载功能(traffic offload function, TOF).TOF服务可以将选定的、基于策略的、用户数据流路由到被授权接收数据的应用程序中.流量卸载功能,简而言之就是流量的分流,把一些属于本地的或者面向网络边缘侧的流量,疏导并卸载到边缘计算平台,再做处理.
3) 对于MEC APP管理平台,还提供了一个管理接口,用于运营商来管理该平台,同时对托管在MEC平台上的APP和服务的生存周期、可操作性进行管理.这种管理接口与APP本身无关,主要支持的功能有:对应用平台的管理配置、管理APP的生存周期、VM的操作与管理.
① 对应用平台的配置管理.应用程序平台的配置管理提供了一种打包应用程序的标准方法.它包括应用程序的描述符以及与计算、存储和网络资源和配置相关的VM级别的系统属性.APP打包封装的主要目的是为了解决多供应商MEC平台上的虚拟设备的可移植性和部署问题,并确保软件的完整性保护.
② APP生存周期.MEC应用平台管理接口,可以让运营商来管理APP的生存周期,包括APP的部署、APP的开始工作、结束工作以及解除部署等等.
③ 虚拟机的操作和管理.MEC应用平台管理接口支持虚拟机级别的故障管理和性能测量.虚拟机的性能对托管在其上的APP的工作影响非常大.
在白皮书中,给出了未来边缘计算可以应用的场景.目前很多的应用场景已经可以实现.在此仅对视频分析、内容优化以及定位技术场景进行分析.
1) 定位技术
图3展示了位置跟踪的样例.通过运行在MEC平台上的全球定位系统(global position system, GPS)或者第三方定位技术,获取人或物体的位置.然后如有必要,在返回到核心网侧.这种布置在本地的定位功能,对于零售商、场馆、球场、校园或者特定地区非常有效,首先位置反馈非常迅速,其次精度也得到了保证.
2) 视频分析
图4展示了视频分析的示例.以监控为例,目前摄像头的使用非常广泛,在停车场、交通要道、住宅小区、校园中基本都能实现无缝对接和无死角监控.随着部署的摄像头数目的增加以及摄像头所拍摄的视频质量的提升,监控视频的数据量也是逐渐提升.如果把如此庞大的视频数据都回传经核心网至集中云平台进行视频分析和处理,往返时延将非常大.而如果在摄像机内部部署智能分析工具,则会因为摄像头自身设计尺寸等原因,很难部署这些功能.因此,比较好的解决办法就是在本地MEC平台部署视频分析APP.某区域内的摄像头将其录制的监控视频上传至MEC平台,经过视频分析处理后,获得的结果可以随时调取并回传至核心网.2017年11月深圳高交会上展示的中国联通基于边缘云的智能安防商用部署解决方案,就是将人工智能(artificial intelligence, AI)视频分析功能部署在边缘云,大幅度提升了结果处理和传送的时间.
Fig. 3 Example of active device location tracking图3 设备位置跟踪示例[3]
Fig. 4 Example of video analytics图4 视频分析示例[3]
Fig. 5 Example of RAN-aware content optimization 图5 基于RAN侧感知的内容优化案例[3]
3) 内容优化与缓存
图5中给出了基于RAN侧感知的内容优化举例.内容优化指的是根据网络提供的信息,比如小区ID、小区负载、链路质量、数据吞吐率等,对内容进行动态的优化,以提升QoE,网络效率.而视频缓存,则是在终端请求视频播放时,该资源可能存在于本地MEC平台,这样再播放时就是从本地下载视频资源,节省了带宽和经过核心网处理的时间.这种视频缓存功能对于那些热播电视剧、热播电影以及最近的综艺节目的播放与观看,有很大的帮助.同时,该模型也比较适用于大学城、居民区或者热点商圈这些人流密集、对视频播放请求比较大的地区.
在ETSI GS MEC 003协议中,提出了基于NFV架构的边缘计算的参考架构.该参考架构,可以让托管在边缘计算平台上的APP高效并无缝地运行在移动网中.对于架构中的参考点与功能模块,ETSI在该协议中也给出相应的定义.注:目前ETSI已经将移动边缘计算改为多接入边缘计算.
边缘计算架构主要可以分为3级:系统层、主机层、网络层,如图6所示.该参考架构中展示了MEC的功能要素和每个功能要素之间的参考节点.
移动边缘主机是一个包含移动边缘平台和虚拟化基础设施的实体.
虚拟化基础设施可以提供计算、存储和网络资源,这些能力可以用于移动边缘APP的运行.虚拟化基础设施包含一个数据平面,该平面可以执行移动边缘平台收到的流量规则,并在APP、服务、域名服务器(domain name server, DNS)、3GPP网络、本地网和外部网络之间进行流量转发和路由.
Fig. 6 Mobile edge computing framework图6 移动边缘计算架构[4]
1) 移动边缘平台的主要功能有5项:
① 给APP提供环境,用于发现、通知、消费和提供移动边缘服务.移动边缘服务涵盖的内容非常庞大,但是总结起来主要包括:无线网络信息的获取、定位功能以及带宽管理.
② 接收来自移动端平台管理器、应用程序或服务的流量规则,并相应地指示数据平面执行一些操作.同时,也可以将代表UE的令牌环转换成流量规则中特点的IP地址.
③ 从移动边缘平台管理当中获取DNS记录,同时配置相应的DNS代理/服务器.
④ 提供移动端服务,可能包括的服务有:无线网络信息获取、相关的定位信息以及带宽管理等等.
⑤ 提供对持久性存储和时间信息的访问.
2) 除了虚拟化基础设施和移动边缘平台以外,移动边缘主机中还包括了移动边缘APP.APP运行在移动边缘主机提供的虚拟化基础设施的虚拟机上,并提供移动边缘服务.APP可以同移动边缘平台之间交互,执行相应的APP生存周期相关操作的支持,包括:指示可用性、准备用户状态的重定位等.
移动边缘APP还有很多一系列的规则和需求,比如对资源、最大时延、所需服务等的要求.这些需求要被移动边缘系统级管理所验证.APP可以由第三方厂商开发并提供,也可以是平台提供方自身的APP.如果是第三方的APP,运营在平台的虚拟机上涉及到平台能力开放和交互等问题.如图7中展示了ETSI所定义的边缘计算系统参考架构,其中,管理(management, mgmt)、需求(requests, reqts).
Fig. 7 Mobile edge system reference architecture图7 移动边缘系统参考架构[4]
移动边缘系统级管理部分主要包括3个功能模块:移动边缘编排器(mobile edge orchestrator, MEO)、运营支撑系统(operation support system, OSS)以及用户APP生存周期管理(lifecycle man-agement, LCM)代理.图8中展示了这3个模块.
Fig. 8 Mobile edge system level图8 移动边缘系统级[4]
1) 移动边缘编排器
移动边缘编排器是移动边缘系统级管理的核心功能,主要负责5项功能:
① 基于部署的移动端主机,编排器能够对移动端系统的整体进行维护和保养,维护和保养的内容包括:可用的资源、可用的移动边缘服务以及网络拓扑等等;
② 加载APP的数据包,包括:检查数据包的完整性和真实性,验证APP规则和需求,对加载的数据包进行记录,同时准备相应的虚拟化基础设施管理来处理这些APP.
③ 选择合适的移动边缘主机用于APP的实例化,这一过程有一定的限制条件,比如:时延、可用资源以及可用服务等.
④ 触发APP实例化和终止.
⑤ 当支持重置功能时,可触发APP的重置.
2) 运营支撑系统
运营支撑系统,一般就是运营商的OSS.OSS通过面向用户的服务(customer-facing services, CFS)和用户设备(user equipment, UE)的APP来获取请求,用于实例化或终止APP.同时,还要在这些请求上做出决定与授权.被授权的请求将递交给移动边缘编排器做进一步的处理.
这里要提一点,如果支持的话,OSS也可以从UE的APP中获取请求,用于在外部云和移动边缘系统之间进行APP的重新部署.
3) 用户APP生存周期管理代理
用户APP是一个移动边缘APP,它在移动边缘系统中实例化,经由一个运行在UE上的APP来响应用户的请求.
用户APP的生存周期管理代理,可以让UE的APP来请求一个用户APP的加载、实例化和终止.也可以支持用户APP在移动边缘系统内部或外部的重新部署.对于用户APP的状态情况,也可以通知UE的APP.另外,用户APP生存周期管理代理,授权来自UE应用程序中的请求,同时和OSS、移动边缘编排器进行交互,用于对这些请求的进一步处理.
用户APP生存周期管理代理只能在移动网络内部才能访问,也只有在移动边缘系统的支持下才可以使用.
4) 用户APP和面向用户的服务
在图8中,还包括了用户APP与面向用户的服务2项内容.用户APP就是指那些能够通过用户APP生存管理代理来和移动边缘系统进行交互的APP.
而面向用户的服务,可以允许运营商的第三方的客户(比如一些商业团体),让他们来选择并订购一组满足特定需求的移动边缘应用程序,同时从供应的应用程序接收到服务级别的信息.
边缘计算主机级管理主要包括:移动边缘平台管理和虚拟化基础设施管理2部分:
1) 移动边缘平台管理器.主要负责:
① APP的生存周期管理,包括通知移动边缘编排器有关APP的相关事件;
② 给移动边缘平台提供每个模块的管理功能;
③ 管理APP规则和需求,这包括服务授权、流量规则、DNS配置以及处理一些冲突等.
移动端平台管理器还接收到从虚拟化基础设施管理器发来的虚拟化资源故障报告以及性能测量报告,这部分信息可以用于进一步的处理.
2) 虚拟化基础设施管理器.主要负责有关虚拟化资源的分配、释放等功能,具体为:
① 分配、管理和释放虚拟化基础设施的虚拟化(计算、存储和网络)资源;
② 准备虚拟化基础设施来运行软件映像.这一准备过程包括:配置基础设施,也包括接收和存储软件映像;
③ 可以快速提供APP(如果支持的话);
④ 收集并上报有关虚拟资源的性能和错误信息;
⑤ 如果支持的话,可执行APP重新部署.对于APP在外部云的重新部署,虚拟化资源管理器将和外部云管理器进行交互,以执行APP的重新部署.
图9中展示了移动边缘平台管理和虚拟化基础设施管理模块.有关虚拟化基础设施管理的问题,还可以参考ETSI GS NFV 002协议,这里覆盖了很多有关虚拟化资源管理的问题.
Fig. 9 Mobile edge host level 图9 移动边缘主机级[4]
在边缘计算框架内,每个功能模块之间都要通过相应的接口来进行交互.结合图7中所示的参考架构,主要的参考节点可以分为:与移动边缘平台相关的参考点、与移动边缘管理器相关的参考节点以及与外部实体相关的参考节点3个部分.我们仅对Mp1,Mm1,Mm3和Mm5这4个比较重要的接口进行说明.
1) 与移动边缘平台相关的参考节点
Mp1参考点是在移动边缘平台和移动边缘APP之间,提供服务注册、服务发现和用于服务的通信支持.该参考点也提供其他一些功能,比如:APP可用性、会话状态迁移支持、流量规则和DNS规则激活、访问永久存储单元和当前时刻信息等等.这个引用点可以用于消费和提供特定服务的功能.
Mp1节点是最为重要的节点,该节点是移动边缘APP同移动边缘平台交互的关键路径,如果APP无法同移动边缘平台交互,就无法部署在边缘平台上,也就无法实现边缘计算最主要的功能.
2) 与移动边缘管理相关的参考节点
Mm1参考节点位于MEO和OSS之间,用于触发移动边缘系统中的移动端应用程序的实例化和终止.
Mm3参考节点位于移动边缘编排器和移动边缘平台管理器之间,用于管理APP的生存周期、APP的法则以及需求,同时跟踪可用的移动边缘服务.
Mm5参考节点位于移动边缘平台管理器和移动边缘平台之间,用于执行平台配置、APP规则和需求的配置、APP生存周期支持进程、APP重配的管理等等.这一接口是非常重要的接口,移动边缘平台管理器将对移动边缘平台进行直接的管控.
2016年,ETSI发布了与MEC相关的3分技术规范,分别涉及MEC术语、技术需求及用例、MEC框架与参考架构.第1份规范GS MEC 001,主要针对MEC的术语进行规范化,涵盖了MEC的概念、架构、功能单元的相关术语问题;第2份规范GS MEC 002给出了MEC在平台互通和部署方面的技术要求,并给出了相关的用例;第3份规范GS MEC 003提供了MEC的参考架构、定义的接口、功能单元和模块.如图10所示,展示了ETSI到2017年年底的标准化进展情况.
Fig. 10 Standardization status of MEC in ETSI图10 ETSI边缘计算标准化进展
此外,ETSI还定义了有关MEC的诸多服务场景(GS MEC-IEG 004),MEC服务框架的说明(GS MEC-IEG 005)以及MEC的市场驱动力和指标分析(GS MEC-IEG 006)的内容.
截止到目前,MEC ISG阶段1(2015年至2017年年底)的标准化工作已经结束并冻结,所完成的标准化内容除了上述的以外,在2017年10月份,还最新完成了一些标准,包括5项内容:
1) 发布了首套标准化应用程序接口,以支持边缘计算的互操作性.涉及到的5个ETSI的规范,分别是GS MEC 009(API准则)、GS MEC 010-2(LCM规则与需求)、GS MEC 011(APP使能)、GS MEC 012(无线网络信息API)与GS MEC 013(定位API),将接近移动边缘服务API、应用程序生命周期管理、移动边缘平台应用程序启用、无线网络信息的API和定位API;
2) 完成了GS MEC 010-1部分,该部分属于MEC管理的part1部分,主要介绍了MEC中的系统主机和平台管理.包括平台配置、性能和故障管理、应用程序监视、远程服务配置和服务控制、关于平台特性的信息收集、可用的服务和可用的虚拟化资源;
3) 完成了GS MEC 015部分,该部分主要对带宽管理API部分进行了标准化,它描述了相关的应用程序策略信息,包括授权和访问控制、信息流、所需的信息和服务聚合模式等内容;
4) 完成了GS MEC 016部分,该部分主要对UE APP的接口进行标准化,并包括了UE APP的生存周期的管理.涵盖了以下的生命周期管理操作:用户应用程序查找、用户应用程序实例化请求和用户应用程序终止请求;
5) 已经完成的研究报告(group report, GR)GR MEC 018主要介绍MEC支持端到端移动性的问题.该报告记载了移动用例和结束信息流来支持移动边缘计算的UE和应用程序迁移的内容.同时,当前文档描述了新的移动边缘服务或接口以及对现有的移动边缘服务或接口、数据模型、应用程序规则和需求的更改.
ETSI有关MEC的标准化已经进入第2阶段,未来第2阶段将主要对之前所定的标准化内容进行一定的修改和更新,比如:GS MEC 001中更新一些MEC术语,在GS MEC 002中提出一些新的MEC技术需求以及在API和MEC架构方面补充新内容.另外,第2阶段还将针对开放API的内容进行标准化.
ETSI作为边缘计算标准化的先行者,不仅创造性地预言了当前边缘计算产业的繁荣,同时也在全球范围内最先给出边缘计算架构,具有非常强大的指导意义.当前围绕边缘计算架构的讨论基本都是围绕ETSI所提标准所展开.但是ETSI作为欧洲的标准化组织,其影响力同3GPP这类国际组织相比还稍有逊色.ETSI所制定的标准更多地着眼IT领域,而缺乏对网络架构的认知,导致边缘计算如何同现网LTE和未来5G网络架构相结合的问题一直没有讨论.边缘计算作为运营商转型的关键技术,如果不和网络架构相联系,不把运营商的组网架构考虑进来,那么其影响力必然大打折扣.另外,目前的一些设备厂商包括华为、中兴、诺基亚等所生产的面向边缘计算的设备,虽然也部分参考了ETSI所提出的边缘计算架构,但是大多接口和平台建设均由设备商自行定义,设备平台之间基本无法互通.ETSI开启标准化进程已经2年有余,但是产业内对于标准的落实情况却极为不佳,依旧是设备商各行其是的状态.设备商根据其固有的技术能力和影响力,产出的设备基本围绕自身能力而定,忽视标准中所希望达到的平台互通和解耦开放等愿景,导致边缘计算产业依然非常封闭.最后,标准的制定也没有激活产业界在边缘计算上的活力,没能将更多的企业拉入边缘计算产业,运营商在边缘计算设备的选用和平台的搭建方面也极为受限于设备商,严重影响了边缘计算业务的落实和产业化的脚步.因此,未来如何推动ETSI标准化的强制执行也是重要的内容.
在2017年6月的3GPP CT第76次会议上,3GPP完成了R14中的CUPS标准,即“EPC用户平面与控制平面相分离的技术标准”.该协议,即23.214协议中,提出了面向分组核心网(evolved packet core, EPC)里的服务网关(servicing gateway, S-GW)、分组数据网网关(packet data network gate-way, P-GW)以及流量检测功能(traffic detection function, TDF)的功能分离.首先是提供了增强型的架构.其次是实现了在不影响现有节点功能的前提下,用户面功能与控制面功能各自的独立伸缩/扩展部署(集中式部署或者分布式部署),进而实现EPC灵活部署与运营.
之所以考虑将用户面与控制面分离,最主要的原因是未来5G网络中,数据流量高速增长,这对于移动通信网的承载能力提出了很高的要求,也就是对时延的要求更为严格.而核心网采用了这种用户面控制面分离的技术后,可以降低移动应用服务的时延,比如我们可以选择靠近4G/5G基站的EPC用户平面节点或者更适合移动终端使用类型的EPC用户平面节点来向移动终端传输数据.相比于原来将用户面和控制面合设的结构,这种分离的结构更为灵活,也能够降低时延.这种架构是未来5G通信中的关键架构之一,图11给出了3GPP所定义的参考架构.
1) 用户面和控制面分离架构示意图
图11中展示了S-GW,P-GW,TDF的CP/UP模块分别独立的情况.U表示用户面,C表示控制面.
同没有进行控制面/用户面(control plane/user plane, CP/UP)面分离的架构相比,S-GW,P-GW,TDF均分离成用户面和控制,其次,是接口发生的变化.
① CP/UP之间增加Sx接口:S-GW,P-GW,TDF,各自有自己的Sx接口;
② 原有接口会因为CP,UP的分离,出现接口分离:S2a变为S2a-U和S2a-C,控制接口和用户接口;
③ 有些接口没有出现功能分化,属于完全继承了原有未分离结构的接口功能,比如:S12接口完全由S-GW-U来继承;Gx,Gy,Gz,Gw,SGi接口,功能完全被P-GW-C继承(P-GW-U和TDF-U之间)等等;
Fig. 11 Architecture reference model with separation of user plane and control plane for non-roaming and roaming scenarios图11 漫游与非漫游型,用户面和控制面分离参考架构[9]
另外,图11展示了一种特例,即:S-GW,P-GW,TDF均发生CP/UP分离,其实也可能存在如下的组合情况:S-GW分离,但是P-GW不进行分离,该情况也是支持的.
另外还存在一种合并S-GW和P-GW的结构型,即可以将分离后的S-GW,P-GW的用户面、控制面做合并,成为统一的实体,结构图如图12所示.如此同时,也出现了合并统一的Sx接口.
Fig. 12 Architecture reference model with separation of user plane and control plane for a combined SGW/PGW图12 用户面和控制面合设S-GW/P-GW的参考架构模型[9]
2) 用户面与控制面分离后,S-GW,P-GW,TDF功能的变化
除了接口上的变化,S-GW,P-GW与TDF还存在一定功能上的变化,有些功能消失被其他模块继承,也有一些功能被新增进去.详细的功能列表见23.214协议的Table 4.3.2-1-Table 4.3.2-3.
S-GW进行控制面用户面分离以后, S-GW-U上的所有功能,均受到S-GW-C的控制.
S-GW的原有功能:
① 负载/过载控制功能、修复与恢复功能、操作维护管理接口(operation administration and main-tenance, OAM)、GPRS隧道协议(GPRS tunneling protocol, GTP)负载和路径管理,在CP/UP分离以后的S-GW中不予承载功能(P-GW中也没有继承).
② UE移动性终点:在3GPP和非3GPP接入中,改变目标GTP-U的终点,该内容在分离后也不支持(P-GW继承了这部分功能).
其余的功能,则完全按照控制和用户面进行划分,同时并无新增功能.
P-GW进行控制面用户面分离以后,P-GW-U上的所有功能,均受到P-GW-C的控制.
P-GW原有功能:
① UE移动性的支持.结尾标记的转发+转发缓存数据包,这2项功能不存在(完全被S-GW继承).
② 负载/过载控制功能、修复与恢复功能、操作维护管理接口(OAM),GTP负载和路径管理,在CP/UP分离以后的P-GW中不予承载功能(S-GW中也没有继承).
③ S1释放/缓存/下行数据通知.该主功能下的子功能1,2,3均被S-GW完全继承(P-GW只继承了属于自己的子功能4,P-GW计费过程的暂停,其余内容均被S-GW继承).
④ PCC(策略与计费控制)的子功能9+13消失(PCC完全由P-GW承载).
TDF也存在类似的功能继承和分化,详情参考23.501协议.
3) 用户平面功能选择
由于用户面和控制面分离,那么对于控制面如何选择用户面则需要制定一定的规则.
首先, S-GW-C只能选S-GW-U,同理P-GW与TDF,只能选择对应模块的用户面.因此:
① S-GW-C选择S-GW-U;
② P-GW-C选择P-GW-U;
③ TDF-C选择TDF-U.
对于CP合并的情况(S-GW-C与P-GW-C合并):可以选择合并的UP,也可以选择独立的UP.选择的UP不一定包括所有的功能,可能只是一个子集.
CP选UP要考虑包括:UE的位置信息(位置太远可能不会选择);UP的容量,比如:能支持什么样的功能等等;另外就是UE所需要的特性,根据UE的特性选择对应的用户面功能;最后要考虑UP的部署情况(分布式、集中式或者在接入网侧).
在3GPP的SA2中,23.501协议定义了5G的系统架构,如图13所示.未来5G是基于服务化架构的,它需要支持的功能包括CP和UP的分离、网络切片、能力开放、本地路由等功能.
采用这一基于服务化的架构,作为统一基础架构,意味着5G网络真正走向开放化、服务化、软件化方向,有利于实现5G与垂直行业融合发展.这种基于“服务”的架构设计方式使得5G网络真正面向云化设计,具备多方面优点,如便于网络快速升级、提升网络资源利用率、加速网络新能力引入,以及在授权的情况下开放给第三方等.所定义的功能主要有:用户平面功能(user plane function, UPF)、会话管理功能(session management function, SMF)等网元模块,同时在各个模块之间,还定义了相应的接口.接口情况如图14所示,从N1~N15,如图14所示.
Fig. 13 5G System architecture图13 5G系统架构[9]
Fig. 14 Non-Roaming 5G System Architecture in reference point representation图14 非漫游5G系统架构的参考点表示[7]
该架构所要完成的功能非常庞杂,包括诸如:注册管理、连接管理、会话管理、服务质量管理、用户面管理等功能.其中有关支持边缘计算的功能,专门在文献[7]的5.13节中列写,其所定义的边缘计算的内容如下:
边缘计算能够让运营商和第三方服务部署在临近UE接入点的地方.所以,这可以获得更有效的服务递交以及缩短端到端的延迟,同时传输网的负载也降低了.5G核心网选择一个UPF靠近UE,同时执行流量定向,从UPF到本地数据网(经过N6接口).这可能会基于UE的签约数据、UE位置、策略或者其他相关的流量规则.这里其实就是定义了流量分流,边缘计算的一个关键功能就是将流量疏导到本地.
由于5G是服务化架构、边缘计算的平台需要开放给第三方APP,所以核心网需要将部分网络能力开放出去,这也是构建边缘计算生态的重要组成部分.APP是否被允许直接与控制面网络功能交互决定于运营商的部署.
下面是协议中定义的5G将支持的边缘计算功能:
① 本地路由.5G核心网选择UPF来路由用户流量到本地数据网.
② 流量定向.5G核心网选择流量被路由到APP(在本地数据网).
③ 会话和服务连续性,以支持UE和APP移动性.
④ 用户面选择和重选,比如基于APP功能的输入.
⑤ 一个APP功能,可能影响UPF面的流量疏导以及UPF的选择.
⑥ 网络功能开放(network exposure function, NEF).主要包括5G核心网和APP的相应功能,用以提供信息经过NEF.
⑦ 服务质量和计费.策略和控制功能(policy control function, PCF)提供规则用于服务质量控制,同时计费被本地数据网转发的流量.
⑧ 支持本地数据网.5G核心网提供支持连接本地数据网(local data network, LADN)在特定的区域.
详细的系统流程和细节以及有关会话建立等步骤可以参考23.502协议,但是有些细节流程仍然在制定过程中.另外,有些系统流程同LTE现有流程基本保持一致,并没有做太大的改动,详细的分析还需要后续协议版本的更新.
在文献[15]中也介绍了一些基于核心网侧的分流方案,也支持数据分流的相应功能,可以提供参考.
在23.501中,定义了有关业务连续性的方案,该方案与边缘计算关系比较密切的.边缘计算中需要保证业务的连续性,目前定义了3种业务连续性方案:SSC1,SSC2与SSC3.本节所提到的有关上行分类器(uplink classifier)和多归属(multi-homing)的内容将在3.4节的流量疏导中介绍.
对于会话和服务连续性的支持(在5G系统中)能够对于给UE的不同应用/服务满足不同连续性的需求.5G系统支持不同的会话和服务连续性(service and session continuity, SSC).与SSC模式相联系的一个协议数据单元(protocol data unit,PDU)会话锚点,在整个PDU会话的生存时间内是不会改变的,主要是3种:
1) SSC Mode1.UE移动过程中,无论UE所采用何种接入技术,PDU会话建立时的锚点UPF保持不变.这种模式类似于LTE网络中公共数据网(public data network, PDN)锚点不变更的方式.此时UE IP不会发生变化.
2) SSC Mode2.当终端离开当前UPF的服务区域,网络会触发释放掉原有的PDU会话,指示UE立即建立与同一数据网络的新的PDU会话.建立新会话时,可以选择一个新的UPF作为PDU会话Anchor UPF,此时需要保证新建立的会话信息和原会话信息的UE IP相同.
3) SSC Mode3.当终端离开锚点UPF的服务区域,保持原有的PDU会话及 锚点UPF,同时通过选择新的锚点UPF,并在该锚点UPF上建立新的PDU会话,此时UE同时拥有到2个锚点UPF的PDU 会话,最后释放掉原有的PDU会话,在这个过程中UE IP保持不变.
SSC模式选择策略,应该被用于决定会话类型和服务连续模式,与应用或应用组相关联的服务连续性模式,提供给UE.运营商可以通过提供UE SSC模式选择策略.这个策略包括一个或者多个SSC模式选择策略规则,可以被UE使用来决定SSC模式类型,与应用或者应用程序组相关联.这个策略包括一个缺省SSC模式选择策略规则,适用于UE的所有APP.
为了支持流量卸载或者支持SSC模式3,会话管理功能SMF可能会控制PDU会话的数据通道,这样PDU就可以连续地匹配多个N6接口.UPF中断这其中的每一个端口(N6的终点就是UPF),也就是支持一个PDU会话锚点功能.每个PDU会话锚点支持一个PDU会话提供不同的接入到相同的DN中.所以,可选择的流量疏导方案主要有2种:①给一个PDU会话使用上行分类器;②给一个PDU会话使用一个IPv6多归属.
1) 上行分类器——人为构造多个会话通路(适用于因特网协议版本4(Internet protocol version 4, IPv4),IPv6以及以太网会话类型)
对于IPv4,IPv6以及以太网会话类型:SMF在一个PDU会话的数据路径中插入一个“上行分类器”.
上行分类器被UPF支持,用于逻辑上转移一些流量(本地流量)来匹配SMF提供的流量滤波器.上行分类器的插入或者移除是SMF决定的,同时受到SMF的控制(N4和UPF功能).SMF可能决定插入一个UPF支持上行分类器到PDU会话路径中,也可能从PDU会话数据通路中把该分类器移除.而插入和移除,可以在PDU会话建立过程中或者建立完成后进行.SMF可能会包括超过一个UPF来支持上行分类器功能.
但是UE对于上行分类器做出的流量转换是无感知的,同时也不会参与到分类器的插入和移除.(未来可能会加入UE的感知).对于IP类型的PDU会话,UE联合PDU会话带有一个IPv4的地址或者一个IPv6的前缀,这些都是网络分配的.
当在一个PDU会话的数据通道中插入分类器后,就会有PDU会话的多个锚点.这样,多个PDU锚点就可以提供到同一个数据网的多个通路.具体的结构图如图15所示(见文献[9]中23.501协议的图5.6.4.2-1):
Fig. 15 User plane Architecture for the Uplink Classifier图15 用户面上行分类器结构[9]
2) 使用IPv6多归属用于PDU会话
多归属PDU会话.PDU会话多归属只适用于IPv6类型.一个PDU会话可能与多个IPv6前缀相关联.这种多归属PDU会话提供访问数据网的通道,经过超过一个的PDU锚点(IPv6的).不同的用户面的通路通向不同的PDU锚点分支输出在一个共同的UPF,这就是所谓的UPF支持“分支点功能”.
分支点提供转发上行流量到不同的PDU锚点,同时把下行数据流合并到UE(其实就是把来自不同PDU锚点的数据合并转向UE).
分支点功能被UPF支持,用于逻辑上转移一些流量来匹配SMF提供的流量滤波器.上行分类器的插入或者移除是SMF决定的,同时受到SMF的控制(N4和UPF功能).SMF可能会包括超过一个UPF来支持上行分类器功能(同上行分类器),详情如图16和图17所示.图17展示了接入到本地数据网(见文献[9]中23.501协议的图5.6.4.3-2)情形下的多归属模型.
Fig. 16 Multi-homed PDU Session: service continuity case 图16 多归属PDU会话:服务连续性场景[9]
Fig. 17 Multi-homed PDU Session: local access to a DN图17 多归属PDU会话:本地接入数据网[9]
使用多个IPv6前缀的特点:
① PDU的源前缀.UPF支持分支点功能是SMF配置的,用于将上行流量在IP锚点之间分散,这都是基于源前缀(选择方法:UE选择或基于路由信息和网络侧收到的参考).
② IETF RFC 4191,用于影响UE选择源前缀.
③ 这种多归属PDU会话,支持先接后段服务连续性、支持SSC模式3.
目前,3GPP的SA2已经定义了边缘计算的7个关键技术.对于会话,流量疏导方面采用上行分类器或者多归属的方式,业务连续性备选方案为SSC1至SSC3;用户面的选择基本是核心网选择UPF,将用户的流量分流到本地网的方式.UE的移动性则类似于LADN中的方式,属于是继承;对于应用功能(application function, AF),我们可以看成部署在边缘平台的APP,AF可以影响流量的分流和用户面选择.
但是对于服务质量和计费以及有关鉴权合法监听的内容,目前还没有明确的需求和定义,需要在未来的标准化进展中进一步跟踪.
在未来的R15版本中,主要计划完成的内容有:
① 本地路由.5G核心网选择UPF来将用户流量分流到本地网(已经在5G的TS中给出);
② 流量转向.5G核心网络选择将流量路由到本地数据网络中的应用程序;
③ 会话和服务连续性,以支持UE和AF机动性(SSC2/SSC3);
④ 用户面选择与重选;
⑤ 网络能力的开放;
⑥ 服务质量和计费.PCF提供服务质量控制和计费规则,针对那些分流到本地的流量进行服务质量和计费;
⑦ 本地数据网的内容.
另外有关AF对流量路由的影响以及有关网络能力开放的标准化内容,在此处略去,可分别参看协议23.501的5.20节与5.6.5节,另外涉及到网络能力开放详细流程的内容可以参考23.502的5.3~5.4节.图18中也展示了有关MEC的在2016年以来的标准化进展情况.主要的标准化内容集中在SA2部分.
Fig. 18 Standardization status related to MEC in 3GPP图18 3GPP中与MEC相关的标准化进程
3GPP作为通信领域重要的国际化组织,其国际影响力和参与度都是最大的.3GPP目前已经注意到了边缘计算的强大生命力,已经将边缘计算作为网络架构演进的重要方向之一.但是由于3GPP是一个更针对网络架构标准化的组织,因此在3GPP的标准中并没有对边缘计算单独立项,其对边缘计算功能的支持也主要体现在用户面重选、计费、能力开放等方面.而这些内容也散落在SA2,SA5,SA6或RAN等标准化内容中,较为分散,整合度较差.目前,3GPP的重点都放在对5G网络架构、空口技术、物理层技术的讨论中,对于边缘计算的讨论还比较少,因此无法给出较多有参考性的内容.虽然3GPP影响力很高,但是目前3GPP还没有给出边缘计算的参考架构,使得产业界在边缘计算方面还没有统一起来,边缘计算产业的发展也受到了一定的制约.
在无线通信技术工作委员会TC5的移动通信核心网WG12工作组下,2017年新立有关边缘计算的项目有3个.目前3个项目均处于立项阶段,将在TC5 WG12第2次会议讨论后续问题.这3个项目有重合之处,重点都分析了边缘计算的应用场景、本地流量分流、用户面选择与重选、计费与合法监听等关键内容.
1) TC5-WG12-2017-006Q边缘计算技术研究.由中国联通牵头的研究课题,针对本地处理要求的业务,对边缘计算的场景进行分析,根据边缘计算业务和技术需求,对边缘计算的关键技术进行研究,启动边缘计算的相关标准的研究和编制工作,从而推动边缘计算设备研发、运营商网络部署、第三方应用创新的协同发展.研究的内容包括:适用于边缘计算的场景、本地路由、边缘计算业务对用户面的选择与重选、业务连续性保障、流量管控、边缘计算安全问题、边缘计算内部架构设计等.
2) TC5-WG12-2017-002Q边缘计算关键技术研究.由中国电信牵头,关注的内容包括有关5G网络架构的部分:关于5G服务质量架构、会话管理、用户面路径优选、能力开放、计费要求等相关内容.另外研究5G MEC的关键技术包括:本地分流、业务缓存和加速、本地内容计费、智能化感知与分析、网络能力开放、移动性管理和业务连续性保障等.
3) TC5-WG12-2017-003Q边缘计算总体技术要求.由中国移动牵头,主要研究核心网用户面和业务平台下沉至网络边缘的相关技术实现.包括如下方面:核心网用户面下沉技术、业务平台下沉、结合移动网络能力开放、边缘计算业务平台与CDN之间的协同研究、核心网用户面设备及边缘业务平台设备技术要求及接口规范等方面.
ST8为CCSA特设的工业互联网组,负责研究制订工业互联网标准体系、规划,开展工业互联网相关标准的制修订工作,促进工业互联网标准与产业的协调发展.
工业场景中,更多的业务在靠近物或数据源头的网络边缘侧,融合网络、计算、存储、应用核心能力的开放平台,就近提供边缘智能服务,满足行业数字化在低时延、实时业务、数据优化、应用智能、安全与隐私保护等方面的关键需求.边缘计算是推动工业互联网发展必不可少的部分,具有重要意义.
目前在ST8-WG 2进行的立项主要有3项,目前这些项目均处于立项状态,立项结果将在ST8第2次会议中讨论:
1) 面向工业互联网的边缘计算技术需求及场景.由中国移动牵头,描述边缘计算总体需求及场景,将结合智慧城市、智能交通、智能楼宇、智能制造、智能家居等一系列未来物联网(Internet of thing, IoT)应用场景推动工业互联网的发展.同时,该项目也将保障实时性业务处理、提供端到端安全保障以及实现统一能力开放API等边缘计算自身的关键研究问题纳入其中.
2) 工业互联网边缘计算技术研究.由中国移动和华为牵头,讨论工业互联网应用边缘计算技术的进行研究和分析,包括边缘计算在工业互联网领域应用的需求分析、网络系统架构、主要关键技术、管理机制以及该技术面临的机遇和挑战等.针对工业互联网的特殊性,该项目主要包括的内容有:超边缘计算轻量级虚拟化平台、实时性操作系统、平台能力开放统一API、边缘计算低时延承载、智能边缘计算和工业互联网边缘计算的管理的内容.
CCSA在边缘计算的标准化才刚刚起步,很多内容均参考ETSI和3GPP中的内容,属于标准跟随而缺乏创新性,引领性不够强,没有形成自己的特色.这也导致了国内对CCSA标准化的重视程度不够高.同时,CCSA立足于形成行业标准,而这种标准同ETSI和3GPP标准之间的共存问题也是需要讨论的,毕竟CCSA的影响力还不如前两者更大.最后,边缘计算在中国也属于新兴产业,产业圈还不够繁荣,参与度还不够高,标准化的范围也仅限于三大运营商和几个重头设备商,很难形成广泛的影响力.
2017年6月份,中国联通发布了边缘计算白皮书.该白皮书基于5G业务需求及MEC产业进展,定义了中国联通对MEC平台能力和应用场景的需求,给出了中国联通4G网络MEC部署策略建议,及面向5G网络的演进规划.未来也希望同产业各界共同探讨MEC商业合作模式,共建网络边缘生态,全面推动5G业务的蓬勃.
白皮书从运营商的角度,分析了边缘计算行业的发展需求以及技术驱动,同时也给出了未来运营商在边缘计算领域的演进方向.本节我们主要分析中国联通在LTE现网以及未来5G网络中有关边缘计算的部署策略以及组网架构的演进.
1) LTE网络边缘计算组网架构与部署策略
目前在LTE现网中,MEC服务器有2种形态:1)作为基站的增强功能,通过软件升级或者新增板卡,在基站内部集成;2)作为独立设备,部署在基站后或者网关后的外置方式.
图19中为中国联通LTE网络中典型的边缘计算端到端组网架构,MEC服务器在基站与核心网之间,通过解析S1消息实现业务的分流.基站和核心网之间通常经过多个传输环:接入环、汇聚环和核心环.根据业务类型、处理能力以及网络规划等需求,把MEC部署在合适的位置.
Fig. 19 MEC end-to-end network architecture diagram in LTE network图19 LTE网络中MEC端到端组网架构图
Fig. 20 MEC Deployment location图20 MEC部署位置
图20中展示了MEC的部署位置,MEC的部署位置主要分为3种:边缘级、区域级和地区级.根据不同的需求,可以将MEC部署在不同的位置.
① 边缘级.MEC部署于基站与回传网之间,这种部署贴近基站(宏站、室分站或者小站),可以部署在站点机房,也可以随着云化基带处理单元(base-band processing unit, BBU)池部署在无线接入机房.该部署方式下,MEC覆盖基站个数比较少,对传输的影响较小,回传链路时延最短.同时,这种部署方式的覆盖性能与当前近端的传输相关性较大,需要综合评估覆盖需求与传输状况.此种场景下,MEC多为层2组网,需要具备绕路能力,以保证系统异常时不中断业务,保证高可靠性.此场景比较适合本地缓存和内容分发网络类业务,提供小范围,本地化,低时延应用.
② 区域级.MEC部署于汇聚环和接入之间,此时需要将MEC部署于两环相接的传输设备用户网络接口,并将需要进行分流的基站量疏导经MEC.在这种场景下MEC覆盖面积可以是1个或者多接入环上的基站,并且可以针对环上不同的基站选择性进行分流.这种覆盖方式面积较大,时延也比较低.但是需要针对待分流基站在传输设备上配置或者更新虚拟转发和路由关系.这种场景比较适合区域面积相对较大的场馆、厂矿等场景,提供大范围、近距离、较低时延的应用或者为边缘应用提供云端业务支持.
③ 地区级.当 MEC部署于汇聚核心层时,这种覆盖方式主要针对大面积分流业务或者待覆盖范围存在接入环孤岛的情况,这种部署方式时延相比较其他2种方式较大,但是能够解决跨地域传输覆盖的问题.此种场景下,MEC多为层3组网方式,需要修改对接网元的传输配置,确保消息能够发送到MEC服务器,当MEC服务器不可达时改选其他传输路径.这种方式主要部署的业务为行为性业务或者公众性业务,同时也有利于核心侧的网络能力的开放,提供范围更大的业务支持.
2) 中国联通MEC组网架构演进
到了未来5G,随着AR/VR、高清视频、车联网等业务的兴起以及未来建设通信云数据中心(data center, DC),将促使业务服务向网络边缘部署,建设边缘云环境.Pre-5G到5G的演进过程如图21所示:
Fig. 21 China Unicom MEC network architecture evolution图21 中国联通MEC组网架构演进
① Pre-5G.借助NFV和软件定义网络(software define network, SDN)技术,接入机房实现虚拟化改造,为基站、核心网以及业务提供允许所需要的虚拟资源.基站BBU虚拟化以后,形成云化BBU,部署于接入机房的数据中心.核心网网元一方面完成虚拟化,另一方面完成控制转发的分离,即采用CUPS架构,网关节点分离成为控制面网元S-GW-C,P-GW-C和TDF-C;转发面网元S-GW-U,P-GW-U以及TDF-U.根据一定的需要将转发面网元部署在接入机房数据中心,行成Pre-5G网络架构.该架构依然使用4G标准接口,但是会体现一定的5G网络特征.
② 5G阶段.5G网络架构以DC(数据中心)为基础设施,以云计算为基础平台,从接入层到核心层形成4个云中心:无线接入云、边缘云、汇聚云和核心云.目前,除了无线接入云以外,其他3朵云均已写入中国联通通信云规划中.无线侧采用CU/DU架构,CU基于虚拟化技术,可以部署无线接入云和边缘云.
在5G网络架构中,UPF可以提供分流功能,PCF实现分流策略的控制.与4G相比,5G中边缘计算将和5G网络深度融合.UPF按需部署于网络各个位置,实现将业务分流到MEC,再到本地用户的过程.比如对于一些时延要求很高的业务,如AR/VR,可以将UPF和MEC部署在接入云;对于高清视频业务,可以选择部署在边缘云,或者更高的汇聚云,以提升业务命中率.
2017年6月的上海通信展,中国联通联合诺基亚、英特尔、腾讯共同打造了上海梅赛德斯奔驰中心智能场馆边缘计算样板网络.
该样板网络主要架构如图22所示.场馆现场布置了多台摄像机,从各个角度直播虚拟人物“洛天依”的演唱会,这些图像视频资源被采集到本地MEC中,然后不经过核心网直接分发到场馆内的授权用户(即:注册认证后的用户)的终端上,用户可以快速地在多个直播角度视频进行切换.由于所有的视频都在本地MEC进行分发和处理,因此用户进行视频切换时几乎是没有延时的.
Fig. 22 The network architecture of the edge of the Mercedes Benz center in Shanghai图22 上海梅赛德斯奔驰中心边缘计算网络架构
另外,本次活动还在AcFun(A站)同步直播.通过对比A站直播和本地MEC直播可以发现,A站直播的时间延迟随着时间推移逐渐增大,延时可以达到40 s.而基于MEC的本地视频直播,延时级别在0.5 s左右,对于用户来说是几乎无感知的.结果对比如图23所示:
Fig. 23 Delay comparison results图23 时延对比结果
左侧MEC直播,和现场几乎是同步的;而右侧的互联网A站直播,则依然停滞在洛天依跳舞的画面,而该画面出现在40 s以前,同步滞后性非常明显.
综合不同场景包括个人业务、家庭业务、政企业务、物联网等业务体验对云化网络的承载和部署要求,网络架构需要通过不同物理位置的机房分域部署满足未来业务对于时延、带宽、可靠性等需求,通过从底层资源池到上层业务的分层解耦匹配SDN,NFV、云计算等新技术带来的分层架构要求.
中国联通传统网络机房将逐步向数据中心架构演进,从而构建通信云云化网络总体架构.云化网络总体架构沿用传统通信网络接入、城域、骨干网络架构,与现有通信局所保持着一定对应和继承关系,在不同层级区域、本地、边缘进行分布式DC部署,实现面向宽带网/移动网/物联网等业务的统一接入、统一承载和统一服务.
通信云云化网络架构总体上可划分为4个层级单元部署,包含3层DC以及接入局所,如图24所示.
1) 区域DC.以省域/集团/大区控制、管理、调度和编排功能为核心,如集团OSS、网络功能虚拟化编排器(network function visualization orchestrator,NFVO)、省云管平台、NFVO、虚拟网络功能管理(visualization network function management, VNFM)等,主要承载省域内及集团区域层面控制网元以及集中控制面网元包括IP多媒体子系统、CDN、移动管理实体(mobile management entity, MME)和窄带物联网(narrow band IoT, NB-IoT)等网元.
Fig. 24 Communication cloud network architecture图24 通信云云化网络架构[16]
2) 本地DC.主要承载城域网控制面网元和集中化的媒体面网元,包括CDN等.宽带网络网关(broadband network gateway, BNG),UPF,GW-U等网元.
3) 边缘DC.以终结媒体流功能并进行转发为主,部署更靠近用户端业务和网络功能,包括云化RAN-CU,MEC,UPF等网元.
4) 接入局所.以提升资源集约度和满足用户极致体验为主,实现面向公众/政企/移动等用户的统一接入和统一承载.考虑到接入局所主要部署接入型/流量转发型设备,暂不考虑接入局所基础设施DC化改造.未来按需部署云化RAN-CU/DU,MEC等网元,基于现有机房条件直接入驻.
边缘DC作为未来MEC和5G UPF直接部署的平台,也是将来中国联通要重点建设的平台.
Fig. 25 Example of Local CDN video optimization图25 本地CDN视频优化示意图
未来中国联通在边缘计算的工作安排主要围绕试点建设和标准跟进2个方面.
中国联通目前正在天津宝坻大学城,与中兴、英特尔、腾讯视频共同建设大学城视频优化、智慧校园、游戏优化边缘计算试点.
图25展示了本地CDN视频优化的示意图.
将各种视频数据缓存在本地边缘云平台,当用户请求视频资源时,通过信令判定,直接同本地服务器中下载视频资源并播放.缓存的视频可以是最近热播的电视剧、电影或者综艺类节目,根据大学城学生的喜好进行缓存,不仅节省了网络带宽,同时在用网峰值时刻很好的降低了对传输网、核心网的压力.尤其是目前联通与OTT合作发行了大量的流量电话卡以及冰激凌无限套餐卡,针对当前网络负载过重的情况,边缘计算可以非常好地降低这种负荷,通过本地缓存来有效提升视频加速.
在杭州,中国联通联合华为、阿里巴巴共同打造阿里慈溪园区边缘计算试点,主要完成的试点任务有:阿里手淘VR购物、阿里高德室内位置定位服务以及阿里优酷高清视频业务.VR流量和数据,通过本地MEC(即华为的R-GW产品),分流至企业本地网,而R-GW对于属于互联网的请求则不予分流.由于流量的产生和疏导都在本地进行,因此可以很大程度降低时延和响应.对于VR这类流量产生很大的业务来说,边缘计算是比较好的解决方案.详细的系统架构和组网结构在图26中所示,该方案是基于华为的R-GW分流设备完成的.
Fig. 26 Experiment on edge computing based on AR business supported by Huawei图26 基于AR业务的边缘计算试点(华为支持)
另外,中国联通正在同上海诺基亚贝尔等公司、在四川天府新区科技城打造基于边缘计算的智慧园区试点,主要解决企业私有云、园区定位、智能停车等业务,方案细节仍然在商议中.
2017年11月深圳高交会上,中国联通携手HPE、星耀科技、INTEL,XJERA LABS、日辉趣停,NVIDIA,H3C匠心打造“MEC+Edge-Cloud+智能安防”商用部署解决方案如图27所示,可实现表情识别、行为检测、轨迹跟踪、热点管理、体态属性识别等多种本地AI典型应用.其中,边缘云对4G摄像头采集的视频进行本地分流,降低对核心网及骨干网传输带宽资源的占用,缩短端到端时延;云计算中心执行AI的Training任务,Edge-Cloud执行AI的判决、本地决策、实时响应.
Fig. 27 Edge-Cloud intelligent security solution图27 基于Edge-Cloud智能安防解决方案
未来中国联通开展广泛合作,共同推进5G边缘云发展,构建5G边缘生态.首先挖掘各省应用需求,准备网络资源,具体措施包括:
① 跨部门协作.各省公司网建部、市场部、政企事业部通力合作,成立专门Edge-Cloud项目组.
② 业务拓展.聚焦大视频、VR/AR、工业物联网、车联网等高带宽、低时延业务,为行业客户制定端到端解决方案.
③ 资源准备.根据中国联通通信云及DC规划指导建议,各省根据实际业务需求,开展边缘DC云资源池的准备工作.
④ 开放网络能力.基于Edge-Cloud平台,开放基于位置服务(location based service, LBS)、RNIS、服务质量等能力为边缘应用提供增值服务.
其次拓展产业合作,构建边缘生态.借混改东风,携手产业界,探索Edge-Cloud商业模式,各省合力,构建中国联通边缘内容生态.
最后,针对标准跟进,中国联通未来将参与ETSI有关边缘计算的第2、第3阶段标准进展工作.对于3GPP的标准化进展,中国联通将主要与核心网部门,一同跟进SA2系统化架构部分的标准化过程.在CCSA中,针对ST5和ST8两部分,有关边缘计算的项目刚刚处于立项阶段,未来的项目/课题讨论、标准细节制定,中国联通也将积极参与,发挥重要作用.
目前边缘计算具有极好的发展前景,国内外的运营商、互联网巨头、设备商和芯片厂商均纷纷布局边缘计算产业.多个边缘计算产业联盟不断建立,运营商重构基站和中心机房以适应边缘计算业务,IT和互联网巨头企业纷纷力推边缘计算产业,推出各种面向边缘计算的智能化产品.包括中国联通在内的诸多企业,也寄希望于边缘计算,加强同互联网企业的合作,拉动数字化改革的序幕,加速中国联通混改向更为深入的方向迈进.未来边缘计算标准化的内容,一方面要注重对网络架构的标准化,以适应边缘计算的各类业务能力的需求;同时也要更加注重同具体新兴业务之间的结合,扩大边缘计算的影响力,包括车联网、工业互联网、人工智能等.中国联通也将持续关注并积极参与各项边缘计算标准化工作,扩大边缘计算试点规模,逐步开展机房改建工作,加强合作,共同打造边缘计算产业生态.
致谢作者要感谢《计算机研究与发展》期刊特邀编委邓晓衡教授、李东升教授和吴帆教授对本文提出宝贵意见.感谢《计算机研究与发展》期刊齐蓉编辑对文章的辛苦付出.最后要感谢华为、中兴、诺基亚等厂商在边缘计算试点组网方面和标准化进展方面提供的宝贵经验!
[1] China Unicom. China unicom edge computing technology white paper[OL]. Beijing: China Unicom. [2017-06-01]. http://www.chinaunicom.com.cn/ (in Chinese)
(中国联合网络通信有限公司. 中国联通边缘计算技术白皮书[OL]. 北京: 中国联合网络通信有限公司. [2017-06-01]. http://www.chinaunicom.com.cn/)
[2] Shi Weisong, Sun Hui, Cao Jie, et al. Edge computing—An emerging computing model for the Internet of everything era[J]. Journal of Computer Research and Development, 2017, 54(5): 907-924 (in Chinese)
(施巍松, 孙辉, 曹杰, 等. 边缘计算: 万物互联时代新型计算模型[J]. 计算机研究与发展, 2017, 54(5): 907-924)
[3] European Telecommunications Standards Institute (ETSI). Mobile-edge computing introductory technical white paper[OL]. [2016-12-03]. https://portal.etsi.org/Portals/0/TBpages/MEC/Docs/Mobile-edge_Computing_-_Introductory_Technical_White_Paper_V1%2018-09-14.pdf
[4] European Telecommunications Standards Institute (ETSI). Mobile edge computing (MEC): Framework and reference architecture[OL]. [2016-03]. http://www.etsi.org/deliver/etsi_gs/MEC/001_099/003/01.01.01_60/gs_MEC003v010101p.pdf
[5] European Telecommunications Standards Institute (ETSI). Mobile edge computing (MEC): General principles for mobile edge service APIs[OL]. [2017-07]. http://www.etsi.org/deliver/etsi_gs/MEC/001_099/009/01.01.01_60/gs_MEC009v010101p.pdf
[6] European Telecommunications Standards Institute (ETSI). Mobile edge computing (MEC): Mobile edge management; Part 2: Application lifecycle, rules and requirements manage-ment[OL]. [2017-07]. http://www.etsi.org/deliver/etsi_gs/MEC/001_099/009/01.01.01_60/gs_MEC009v010101p.pdf
[7] 3rd Generation Partnership Project (3GPP). 3GPP TR, 23.501, system architecture for the 5G system; (Release 15)[OL]. [2017-10-01]. http://www.3gpp.org/DynaReport/23-series.htm
[8] 3rd Generation Partnership Project (3GPP). 3GPP TR, 23.502, procedures for the 5G system (Release 15)[OL]. [2017-10-01]. http://www.3gpp.org/DynaReport/23-series.htm
[9] 3rd Generation Partnership Project (3GPP). 3GPP TR, 23.214; architecture enhancements for control and user plane separation of EPC nodes (Release 14)[OL]. [2017-10-01]. http://www.3gpp.org/DynaReport/23-series.htm
[10] China Communications Standards Association (CCSA). TC5-WG12-2017-002Q-Study on 5G MEC key technology[OL]. [2017-08-15]. http://www.ccsa.org.cn/ (in Chinese)
(中国通信标准化协会. TC5-WG12-2017-002Q-立项建议: 5G MEC关键技术研究[OL]. [2017-08-15]. http://www.ccsa.org.cn/
[11] China Communications Standards Association (CCSA). TC5-WG12-2017-003Q: Technical requirement for edge computing of telecom network[OL]. [2017-08-15]. http://www.ccsa.org.cn/ (in Chinese)
(中国通信标准化协会. TC5-WG12-2017-003Q-立项建议: 边缘计算总体技术要求[OL]. [2017-08-15]. http://www.ccsa.org.cn/
[12] China Communications Standards Association (CCSA). TC5-WG12-2017-006Q: Study on edge computing technology[OL]. [2017-08-15]. http://www.ccsa.org.cn/ (in Chinese)
(中国通信标准化协会. TC5-WG12-2017-006Q-立项建议: 边缘计算技术研究[OL]. [2017-08-15]. http://www.ccsa.org.cn/
[13] China Communications Standards Association (CCSA). ST8-WG2 study on edge computing in industry Internet[OL]. [2017-08-01]. http://www.ccsa.org.cn/ (in Chinese)
(中国通信标准化协会. ST8-WG2工业互联网边缘计算技术研究建议书[OL]. [2017-08-01]. http://www.ccsa.org.cn/
[14] China Communications Standards Association (CCSA). ST8-WG2 requirements and scenarios of edge computing for industrial Internet[OL]. [2017-08-01]. http://www.ccsa.org.cn/ (in Chinese)
(中国通信标准化协会. ST8-WG2面向工业互联网的边缘计算技术需求及场景行业标准项目建议书[OL]. [2017-08-01]. http://www.ccsa.org.cn/
[15] Yu Yifan, Ren Chunming, Ruan Leifeng, et al. Mobile Edge Computing in 5G Communication Systems[M]. Beijing: Posts & Telecom Press, 2017 (in Chinese)
(俞一帆, 任春明, 阮磊峰, 等. 5G移动边缘计算[M]. 北京: 人民邮电出版社, 2017)
[16] China Unicom. China unicom communication cloud archi-tecture white paper[OL]. Beijing: China Unicom. [2017-09-01]. http://www.chinaunicom.com.cn/ (in Chinese)
(中国联合网络通信有限公司. 中国联通通信云架构白皮书[OL]. 北京: 中国联合网络通信有限公司. [2017-09-01]. http://www.chinaunicom.com.cn/)