中国联通网络技术研究院|赵良 张贺
中国联通集团网络发展部|徐东
中国联通湖北省分公司|刘晓村
CUTAS是中国联通自主知识产权的IPRAN网络流量监控分析系统,其部署为运营商一线建设和维护人员做到精准的网络把控起到基础、实时、有效的数据支撑作用,也为负责网络建设的决策者提供了网络合理精准建设的重要判断依据。
近年来IPRAN主流厂商陆续推出了基于IPRAN网络流量采集与分析的工具,但经现网测试验证及从中国联通省地市公司一线环境得到的反馈发现,这些流量监测工具在流量分析的力度上远不能满足运营商对流量分析的期望,且针对运营商提出的数据分析指标开发周期过于延迟。此外,这些流量监测工具仅能监测本厂商设备的流量并基于此进行数据分析,无法针对网络内多厂商设备的流量进行横向对比分析,天然存在着私有化的局限性。
为此,具有中国联通自主知识产权的基于IPRAN网络的流量监控分析系统CUTAS (China Unicom Traffic Analysis System)应运而生。该系统能够统一汇总多厂商IPRAN网络流量数据并进行满足CCSA行业标准要求的数据分析、呈现和流量趋势预测,得到了集团网建部、运维部及相关合作省分公司的充分认可。CUTAS系统的搭建,结合SDN的实施,将为5G建设面向业务的弹性网络做好准备,对IPRAN网络的建设维护起到积极作用。
图1 CUTAS系统总体架构
图2 基于CUTAS的IPRAN网络流量监控分析现网部署方案
CUTAS系统的功能完全符合中国联通牵头制定的“支持多业务承载的IP/MPLS网络流量监测技术要求”行业标准规范。该系统的架构采用了业界流行的大数据系统处理技术Hadoop框架,功能模块的技术选型以及硬件环境的配套具有满足后续技术发展的先进性。
CUTAS的功能模块分为数据采集系统、数据分析系统、存量资源管理、系统管理和工具集五个模块,每个模块又分为多个子模块。
数据采集系统由数据源管理、数据下载与存储、数据清洗、数据集成4个功能模块组成;数据分析系统由历史流量特征呈现、流量门限管理、环网流量利用率分析、环网流量收敛比分析、端口流量峰均比分析、UNI端口闲忙时分析和流量预测7个功能模块组成;存量管理系统由网元管理和环网管理2个功能模块组成;系统管理由任务管理、用户管理、日志管理、系统监控4个功能模块组成;工具集由图表可视化、图表打印和数据库访问管理3个功能模块组成。
CUTAS系统采用成熟的Hadoop分布式文件系统HDFS,包括数据采集模块,基于Flume,能对缺失值、无效值或极值进行数据清洗;数据存储模块,基于MySQL与HDFS,采用HIVE+Impala方式进行数据的集成;数据查询分析模块,基于Impala平台,直接对HDFS中的数据进行快速、高效的类SQL查询和分析处理;流量预测模块,基于SPARK,对大量流量数据进行深度学习来预测未来某个时间段的流量趋势,同时兼顾后期对数据挖掘功能的需求;业务服务模块,进行拓扑分析、系统管理等。
图3 春节期间某端口流量趋势
CUTAS系统采用一级架构云化方式部署,在廊坊云基地统一部署一套CUTAS系统,各省的流量数据以地市为单位通过OSS2.0的ESB系统上传至总部ESB服务器后提供给CUTAS系统进行分析。该系统可以针对全联通300多个本地网的IPRAN网络流量数据进行完全符合行标要求的网络性能指标分析和呈现。系统采用集中维护方式,各省和地市用户通过CUTAS上的分权分域功能接入该系统。
联通集团要求各省分公司在2018年完成全国31个省市区的流量监测新功能的部署工作,这对于当前4G网络乃至今后5G网络流量的爆发式增长有特殊的意义。目前多个省分公司已经完成省内厂家流量监测系统的部署,并实现网流量数据通过ESB系统自动上传至集团廊坊云基地。
CUTAS系统目前已在联通集团廊坊云基地上线,通过长期持续采集现网流量数据和进行流量数据分析,充分利用运营商拥有的数据资源优势,挖掘数据价值并积极为网络提供服务。
现网流量常用分析功能包括端口(NNI和UNI)流量/带宽利用率趋势、环网(接入环、汇聚环、核心环)流量/带宽利用率趋势,端口峰均比分析、忙闲时分析、收敛比等多项性能指标,部分应用指标分析举例如下。
通过测试可知,某接入环收敛比基本分布在1~2之间,2%的时刻收敛比超过了2,从现网实际的收敛比数据分析验证了中国联通在网络建设初期提出的收敛比1:2:4的建议指标值。
2017年春节(1月27日-2月2日)期间,某端口和某接入环流量趋势如图3和图4所示。由图3可以看出,该端口1月27日至2月2日期间15分钟秒级峰值流量下降超过200Mbit/s。该接入环1月27日至2月2日期间环的总流量减少了7%左右,2月2日之后,该环的每小时总流量又恢复到56Gbit/s左右。该指标的分析结果符合春节期间该接入环上网络流量的变化趋势。
图4 春节期间某接入环流量趋势
图5 某端口预测流量曲线
以网元端口采集的大数据为样本,根据业务类型,读取相关的样本数据并且保存到本地缓存,并且以本地缓存文件进行预处理后的数据为样本数据,通过栈式降噪模型预测端口/环网流量。某端口预测流量曲线如图5所示。
由图5可以看出,目前CUTAS系统已实现端口/环流量未来一段时间的预测功能,后期将考虑进一步提高流量预测的准确性。
CUTAS系统支持自动定时获取省内不同本地网多厂家IP RAN网络上的流量基础数据,打破厂家私有化壁垒,做到全方位的数据综合监控以及横向参数比对分析。CUTAS系统本着忠实于服务一线运维应用的开发理念和需求方向,力争成为IPRAN网络流量监控与分析的最佳有效支撑系统。中国联通通过构建一体化的IPRAN网络流量监控分析体系,可以为网络的精准扩容建设提供决策依据,满足目前IPRAN网络承载的多元化需求,在IPRAN网络的维护管理实践中发挥更大的价值和功效。