摘要:为了更好地实现数据中心的节能减排和资源利用,解决能耗高、能效差、容量利用率低和运维成本高等问题,上海自主研发了数据中心一体化运营管理系统。该系统首次应用了数字孪生技术,并将上海港“三地四中心”的数据中心建筑、机柜及机柜内的IT设备作为主要孪生对象。通过集成各个数据中心的数据资源,系统构建了3D可视化分析模块、能耗管理模块、容量管理模块和流程管理模块等功能,实现了对上海港数据中心运营情况的智能化管理。经过实际应用表明,通过将数字孪生技术深度融合到上海港数据中心管理中,以数据为核心生产要素,不仅能够助力上海港数据中心绿色、智慧、安全发展,也能够为数据中心领域实现“双碳”目标做出应用贡献。
关键词:数据中心;数字孪生;能耗管理;容量管理 流程管理;3D可视化
随着我国大数据、人工智能、物联网等新一代数字技术的蓬勃发展,数据中心作为数字基础设施的重要组成部分,也成了信息化底层建设的基础。然而,数据中心的迅猛发展也带来了能源消耗的不断攀升,导致数据中心已经成为中国第九大高排放产业。对于上海港数据中心而言,为了满足港口码头生产运营的需求,数据中心规模不断扩大,先后建设了四个数据中心机房。但随着规模的扩大,容量利用率低下的问题也日益凸显,多数数据中心的容量利用率不足70%。这导致了不必要的资源浪费和无效排放的发生。为了解决这些难题,上海港自主研发了数据中心一体化运营管理系统(IMMS)。该系统应用了数字孪生技术,是在上海港数据中心的首次创新应用。系统以上海港“三地四中心”的数据中心建筑、机柜及各种IT设备为主要孪生对象,实现了对资产数据和运维数据的智能化管理。通过模拟数据中心建筑物、楼层布局、设备和网络链路,IMMS系统实现了对整个数据中心的透明化管理。
一、总体方案设计
IMMS系统是一种以上海港数据中心为核心主体的一体化管控平台,旨在为数据中心的日常运营管理提供服务。该系统基于数据中心的业务模式,采用数字孪生技术为基础的系统架构进行研发,并利用大数据、人工智能等新一代信息技术,对数据中心的各项业务流程进行梳理和整理。在系统开发过程中,IMMS系统进行了平台框架设计,将数据中心的3D可视化、能耗管理、容量管理和流程管理等功能进行了模块化设计。
IMMS系统的设计核心包括实时监控、算法优化、规范管理、三维展示几个方面。
实时监控。对机柜的空间、电量、制冷等容量信息进行统计和预测,并与多个监控系统结合,实现对设备运行状态的实时监控。
算法优化。利用机器学习算法对冷源系统、配电系统和IT设备的运行参数进行优化,以实现节能减排的目标。
规范管理。采用IT服务管理(ITSM)的标准化流程管理,确保数据中心的运维流程符合规范。
三维展示。通过数字孪生等3D可视化展示,对数据中心的建筑空间、架构、机柜、设备、链路进行孪生体建模,同时把能耗、制冷、空间、承重等数据信息嵌入到数字孪生展示中,提供直观、全面的信息呈现,从而为数据中心运维集中管理提供数据支撑。
(一)系统架构
IMMS系统技术框架由信息采集层、数据层、业务应用层、交互展示层、用户管控层组成,如图1所示。
图1 IMMS技术框架
1.信息采集层
采集层主要用物联网的思路,通过智能PDU、温湿度采集、串口服务器、环控接口等设备采集,使用Databus数据采集同步系统进行数据的采集和上传。其中,分布式数据采集服务使用Databus Core技术,分布式采集代理服务使用Databus Agent技术。
2.数据层
数据层采用大数据开发框架,主要负责对采集数据进行集群存储、数据清洗、分层管理、模型设立和优化。其中集群存储使用Hadoop和Hbase,消息总线使用Kafka。
3.业务应用层
业务应用层负责IMMS系统基于高可用、高并发和IT服务管理(ITSM)标准化的应用设计、开发和实现。该层主要针对IMMS系统的具体业务需求进行功能设计和开发,以满足数据中心运营管理的实际应用场景。
4.交互展示层
交互展示层采用数字孪生技术进行设计和开发。其中数字孪生是基于数据中心的实际场景构建虚拟的孪生体对象,并利用3D虚拟仿真技术进行建模和映射,实现对数据中心的数字化展示和仿真。在具体实施过程中,数字孪生会根据IDC园区建筑、机房辅助空间、设备空间、冷通道、机柜布置以及柜内设备等实景进行建模。
5.用户管控层
用户控制層主要提供人机交互界面,以支持用户对系统进行操作和管理。系统通过用户界面(UI)提供各级系统,用户可以根据界面上提供的功能和选项,进行数据获取、策略实施、直观展示和命令发布等操作。用户可以通过系统界面获取数据,包括实时的监测数据、历史数据和报表数据等。这些数据可以帮助用户全面了解数据中心的状态和性能,并进行数据分析和决策制定。
(二)物理架构
IMMS的物理架构由设备层、采集层、服务层、展示层组成,详见图2。
1.设备层
设备层包括采集设备温湿度采集器、智能PDU,串口服务器、列头柜和配电柜、列间空调等。这些设备通过工业连接器设置北向数据接口,以实现数据的采集、测量和感知,包括能耗、环境控制等信息数据。为了保证设备的质量和性能,采集设备通常需要符合常见的认证要求,如ISO9001、ISO14001、ISO45001、3C、CQC、CE、IMQ等。同时,为了实现设备数据的采集和分布式处理,系统采用了Dubbo分布式采集框架进行设计。
2.采集层
采集层负责将设备层的数据通过串口服务器以TCP/IP和Modbus协议接入局域网,并将数据上传到服务层。
3.服务层
服务层涉及开发、测试、推广所使用的服务器环境以及相关设备。其中,服务器集群通过LVS(Linux Virtual Server)搭建,操作系统使用Ubuntu20.04,微服务开发工具使用Spring Cloud,采集服务器搭建采用Databus Server+Agent,大数据的处理和存储使用TDH(Hadoop+Hbase),双机冗余和负载均衡使用Keepalived等工具。
二、功能模块设计
IMMS系统主要由3D可视、能耗、容量、流程等四大管理功能模块组成。该系统采用B/S模式设计,基于数字孪生的虚拟仿真技术进行开发和设计,使用微服务开发架构。系统具有高可用性、高并发性和易操作性等特点。在系统的研发和实施部署过程中,信息系统安全要求被充分考虑。IMMS系统在上港集团的数据中心机房进行了实施和推广。它解决了上海港“三地四中心”集中管控、运维和管理决策的难题。
(一)3D可视化
3D可视化包括能效可视化、容量可视化、温度云图可视化、环境可视化、告警可视化和监控可视化等内容。它利用数字孪生的开发技术,通过多场景动态加载和渲染展示,展示数据中心的全局和局部景象。展示方式可以通过大屏、立体息影和VR眼镜等设备进行逐级演进式和自由转换场景,实时动态数据信息嵌入到展示场景中。通过丰富多彩的色彩、详实的内容和精确的数据,实现动态预警,支持管理者从更高维度进行规划、分析和决策。同时,3D可视化还支持授权交互,使维护工程师能够及时获取信息,提高故障处理效率。整体来说,3D可视化实现了数据中心的集中管控、安全运营和直观展示,是上海港“智慧港口”战略在数据中心管理中的创新应用。
在3D可视化中,实体场景包括数据中心建筑、辅助功能区、机房机柜、服务器、强弱电链路等。数字孪生技术通过数据处理、建模和仿真,实现了数字化建模映射。该功能不仅具备全局展示、渐入式演示和沉浸式访问等展现模式,还实现了IT设施、动环、容量、链路和告警的可视化。通过数据模拟、分析、预测和验证,为管理者提供决策依据。
(二)能耗管理
能耗管理主要以PUE(Power Usage Effectiveness)量化指标为核心进行设计和研发。该功能使用控制变量法建模,通过测算运行变量参数,并进行数学分析和权重计算,获取对PUE的影响权重值。通过历史积累数据的统计分析和设计分析,得到最佳的设定值,并通过展示模块实时展。运行变量参数包括PUE、能耗趋势设计、耗电量分布等指标。能耗管理功能的工作过程如下:
①能耗数据采集和历史能耗数据存储:采集数据中心的能耗數据,并将历史能耗数据进行存储。
②数据预处理:对采集到的数据进行预处理,包括数据集合、数据脱敏、噪声消除和数据备份等操作。
③统计分析:对功耗序列数据进行波动模式分析,提取重要的数据信息,并进行汇总、关联分析和报表定制等操作。
④预测决策:利用机器学习方法设计时间序列预测模型,建立机器学习模型,包括前馈神经网络和循环神经网络LSTM。利用计算单点时隙值预测未来的能耗值,并使用LSTM对预测结果进行校正,以得到更准确稳定的预测结果。
能耗管理由数据采集、分析、指标和展示、告警、报表、集中监控、用能设备管理和PUE测算等子模块组成。通过这些功能,IMMS系统可以实时监测和分析数据中心的能耗情况,并提供相关的指标和报表,帮助管理者进行能耗管理和决策。同时,系统还支持集中监控和告警功能,以提供及时的异常警报和故障处理。
(三)容量管理
容量管理主要以空间、电力和制冷量三个维度的容量数据为基础进行功能研发和设计,其目标是提升数据中心的能效比和使用密度,提高设备的使用效率,并实现整体的管控和合理的资源规划。容量管理的数据获取主要来源如下:①空间U位数据:通过资产管理系统数据导入获取。②电力数据:从能耗管理模块获取。③制冷量数据:通过环境监控和温湿度采集器获取。该功能通过对容量历史数据的统计和分析,生成树状图或曲线趋势展示图。容量预测可以通过容量分布图了解机房的容量使用情况,进行容量模拟分析,预测容量变化对IT设备规模和设备上架的影响,提供机房设备扩容的指导决策和规划。容量展示采用3D图进行展示,通过色彩显示对应的容量监控状态,展示内容包括IT供电容量、机房空间容量、机房温湿度和制冷容量等。
容量管理功能由电力、制冷、空间、全局分析、分层分析、统计分析、预留和设备上架智能推荐、容量模拟、资源预占、变更追踪等子模块组成。通过这些子模块,IMMS系统可以实现对数据中心容量的全面管理和规划,确保合理的资源使用和容量部署。
(四)流程管理
流程管理是基于IT服务管理(ITSM)标准化流程进行规划、研发和设计的,其基础工作有日常巡检、应用发布和更新、突发事件处理三类,且包含事件、问题、配置、变更、工程等多个子模块,详见图3。
在流程管理中,主要使用Activiti工作流BPM引擎、表单设置引擎等工具进行设计开发。它提供了一系列功能和服务,包括流程审批模板、移动审批工具、智能巡检、台账记录、公告互联、数据统计、时效分析、流程监控、业务定时提醒、电子签名、反馈记录、工单定制、变更审核等。同时,流程管理通过规范化的流程设计和管理,节点间可以自由转换。此外,通过综合使用CMDB配置、资产、智能巡检机器人、人员组织、知识库、培训和供应商等资源,流程管理实现了数据中心的标准化管理、无纸化运维和主动式维护等目标。它构建了一个统一完整的数据中心运营管理体系,确保数据中心的运营和维护按照管理要求进行。流程管理由事件、问题、配置、变更、工程等功能子模块组成。
三、关键技术
(一)数字孪生概念
数字孪生是一种基于“实践先行、概念后成”的数字化理念和技术手段[1]。它利用实体的物理特征构建模型,并结合各类传感器采集的实时信息和历史数据的动态特征匹配,使用数学算法、几何特征、测距规则等进行虚拟仿真映射过程。与实体进行对比,数字孪生仿真体系能够反映实体的全生命周期过程,并在统计分析、预测决策、直观展示等方面具有明显的技术优势。
(二)数字孪生技术
概况来讲,数字孪生在数据中心“智能管控”和“可视化管理”中发挥着关键作用。
①三维可视化:通过WebGL中的3D绘图协议实现三维可视化,使用逐级放大的方式进行3D浏览。
②前端开发工具和场景管理:使用微框架vue-cli3和Element-UI作为前端开发工具,通过Unity3D的Scenes场景管理器实现多场景动态加载。数字孪生体模型使用Unity的DownloadHandlerAssetBundle组件从服务器中拉取并放置到AssetBundle包中供使用。设计应用级接口由ActiveMQ、WebService、RESTFul等组成,以支持后期的横向扩展、升级更新和运维管理等需求。
③可视化告警信息汇总展示:采用Dashboard智能仪表盘的数字虚拟化工具展示可视化告警信息。这个工具具有丰富的展示效果和可交互性,可以自由设置故障告警规则,并支持历史告警和活动告警的告警机制。采用告警表达式频率抑制等方法,可以实现告警信息的实时、延时、过滤和压制,以预防告警风暴和抑制瞬间告警。
④资产可视化:采用Unity UIWidgets中的ListView Custom组件实现资产可视化,满足资产型号多变和孪生体建模的时时变更需求。
⑤能耗可视化:使用基于UGUI的Unity-XCharts数据可视化图表插件展示能耗信息。图表展示包括仪表盘、环形图、热力图、折线图、雷达图、散点图、柱状图、饼图、极坐标等类型。通过定时拉取后端接口数据来保证数据的实时性,并使用Prefab预制体和代码设置来实现图表参数的丰富配置。
⑥容量可视化:采用“整体请求-分发-展示”的方式来避免海量请求造成的网络资源浪费。整体请求是定时请求整个楼层内机柜的容量信息,数据更新到资产和容量展示组件中。容量展示根据利用率填充色块的相对高度显示,并通过Unity脚本生命周期的Update实现填充色块的渐进式增长。容量展示支持连续U位的机柜,并使用Long型的数值存储二进制数值,以表示机柜U位的占用情况。
⑦温度云图可视化:主要通过使用Cg/HLSL编写的Shader程序进行温度云图的前端渲染。这种方式具有渲染效果好、代码重复应用率高以及跨平台等优点。
⑧采集日志:采用SNMPTrap、Syslog等协议进行日志采集。
四、应用效果与未来规划
数据中心一体化管理系统能够显著提高能源利用效率、增加容量密度,并降低数据中心的能耗。该系统实现了对数据中心的集中管控、3D可视化展示、能耗精确统计以及容量的有效统计和展示,同时规范了数据中心流程,推动了数据中心的绿色可持续发展。
目前,该系统已成功应用于上海港数据中心,并取得了显著效果。實际应用结果表明,该系统能够降低能源消耗15%以上,提高设备利用率10%以上。此外,引入流程管理后,业务部门的效率也得到了30%以上的有效提升。
IMMS系统将继续在数据中心业务方面进行精细化管理,并与上海港数据中心作为智慧港口建设的核心基础设施相结合。未来的发展方向将着重研究如何与港口其他运营系统进行协调联动,进一步提高港口运营效率。通过分析各个码头资源使用特征,优化配置并共享数据中心资源,以提高资源利用率。
五、结束语
数据中心一体化智能管理系统利用数字孪生技术、大数据分析和人工智能算法等新一代信息技术,对数据中心进行一体化管控。该系统支持3D可视化分析、能耗管理、容量管理和流程管理,符合ITSM的标准化运维服务流程。该系统在上海港数据中心进行了首次创新应用,以上海港“三地四中心”的数据中心建筑、机柜及柜内IT设备作为主要孪生对象。借助多场景建筑模型,系统能够直观地展示上海港数据中心的运营情况。通过灵活的空间管理、一体化的监控管理、立体的资产管理以及直观的能耗分析,实现了资产数据和运维数据的智能化管理。系统借此推动数据中心的降本增效、节能减排,促进绿色可持续发展。不仅如此,IMMS系统的研发和在上海港数据中心的实施推广,不仅响应了国家“碳达峰、碳中和”发展战略,同时也符合上港集团建设“智慧港口”和“绿色集约”数据中心的规划。
作者单位:殷力 上海海勃物流软件有限公司
参 考 文 献
[1] 张天瀛,姬杭.数字孪生综述[C]// 2019中国系统仿真与虚拟现实技术高层论坛.
[2] 张天伦.浅谈数字孪生技术在数据中心的应用及思考[J]. 智能建筑, 2021(8):27-29.
殷力(1979.04-),男,汉族,上海,本科,信息系统项目管理师,研究方向:信息系统。