文/沈宏
上海财经大学:高校绿色数据中心建设实践
文/沈宏
随着高校网络及信息化建设的不断深入和发展,各种IT设备不断增加,做为IT基础设施的数据中心机房正在承受着越来越大的压力,供电、制冷、承重、消防、网络布线、备份和管理运维等方面问题不断出现,很多原有数据中心机房无法满足需要,新建数据中心机房已经成为近年来很多高校信息化建设中的重点任务。
高校数据中心与盈利性电信运营商数据中心在建设目的、建设与使用方式、安全标准、管理维护都有不同。
1.建设目的:高校数据中心为学校信息化建设内部服务,不以盈利为目的,高校信息化建设方兴未艾,需求多样化明显,及时性要求高;电信数据中心则按商业化运行机制为全社会单位提供服务。
2.建设与使用方式:高校数据中心机房数量少,设备种类复杂,单一机房容纳网络、服务器、存储、高性能计算等全方位IT设备,单一机房承担任务多,但规模相对不大;电信数据中心机房数量多,规模大,设备按使用性质、类型或特定机柜专门存放和使用。
3.安全与节能:由于预算限制和建设目的,以往高校数据中心机房包括供电、制冷、环境控制等基础设施设计标准低,对未来需求考虑不足,对节能考虑较少;电信数据中心机房建设相对规范,从设计之初对安全和节能就进行了较多规划,基础设施标准较高。
4.管理维护:高校数据中心专职管理维护人员较少,运行规范相对欠缺,优势是机房地理位置离用户最近,反应迅速;专业电信数据中心管理维护人员较多,一般均可做到7×24小时值守,运行规范相对完整,服务器托管维护成本不菲。
高校数据中心机房建设过程中需要根据用户需求特点充分汲取电信专业数据中心在规划和建设上的经验,在数据中心配电、制冷、区域划分等方面充分考虑未来8~10年的需求。以上海财经大学数据中心为例,原数据存储机房2003年筹建,2004年建成,主要存放网络核心设备和基础网络服务器,并接受校内各院系、部门服务器托管的申请。服务器存放数量2005年底为108台,2010年底为185台,2014年底增至359台,服务器数量剧增的原因是高校信息化建设和学科建设(实验室)的快速发展,原配置UPS系统和制冷空调分别已在2010年和2009年进行扩建,原有机房设在学校教育技术大楼三楼,无论是机柜容量、楼层设计承载力与消防安全等指标,均已不能适应学校教育信息化发展规划的需要。
为此,学校于2012年开始筹建一个绿色、环保、节能和安全的新数据中心。新数据中心依据国家《电子信息系统机房设计规范》的A级标准建设,按照业内设计先进、功能合理、适应未来中长期(8年到15年)发展的建设原则,建成融科学性、合理性和实用性于一体的“绿色数据中心”。
线缆布线方式
数据中心机房内敷设有大量线缆,通常包括强电线缆(主干及分支)、弱电线缆(光纤及铜缆)、空调线缆和环境监控线缆(视频、门禁、温湿度、消防、强电(空调)监测等)。通过调研和实践,我们认识到布线方式是数据中心规划中“牵一发动全身”的关键事项,对于布线方式的忽略,往往造成了数据中心规划的盲目和混乱;反之,重视研究布线方式的各种条件和影响因素,不仅有利于综合布线系统的安装维护,更使得整个数据中心规划与运维管理受益。我们根据项目实际,从机房制冷、维护、管理、美观、运营成本、防火、防鼠等多个方面进行综合考虑,选择上走线、有地板的模式,在细化设计中,采用开放式桥架,强弱电走线相对独立,采用固线器对线缆进行精细化管理,取得令人满意的效果。
功能区域划分与通道分离
高校数据中心的功能区域划分很重要,需要考虑使用部门、今后预留规划、强弱电配套能力、空调制冷等方面因素,学校在建设过程中,首先考虑人行与货运通道分离,分别对应不同出口;其次将数据中心机房按使用功能划分为:网络核心区、HPC &存储区、自用服务器区、托管服务器区,并根据不同使用区域因地制宜配置不同强电、布线、空调系统,比如对网络核心区增强了光纤配套敷设;将HPC&存储区选择在制冷能力相对强的区域,适当增大配电能力;对托管服务器区加强对机柜容量的规划,与原数据中心机房综合考虑,在满足使用功能的前提下,做到“服务器按托管部门统一放置,兼顾配电平衡和制冷”。
水平面、防水防潮处理、承重与室内高度
由于数据中心机房建设的特殊性(利用原大楼旁空地),我们在确定水平面经过数次反复,初期设计时,新IDC机房地板水平面考虑和教育技术中心大楼一楼楼内水平面一致,由于IDC机房静电地板高度较高(50cm)、IDC机房地面需在楼外绿地水平面向下开挖20cm,即比室外低20cm,带来成本、防潮等一系列问题,在实际施工时,我们根据实际情况(楼外排水不畅)进行调整,水平面抬高20cm,取消原设计集水坑(环控已含漏水监测),这样总体降低建设成本,避开原大楼承重结构,兼顾与原大楼水平面协调。
内部墙面装修风格
我们对新IDC机房内部装修的总体要求是“实用、美观、节俭”,同时体现高校IDC机房特色,经综合考虑和评估后采用“可拆卸”的浅蓝色机房专用彩钢板,该板材事前需现场专门测量,根据测量结果订制生产安装,使用0.6热熔镀锌钢板(A1级防火、环保、无静电、屏蔽效果好);墙面阴阳角处理效果特别好,缺点是成本相对高,需要预留较长的时间周期(边角需单独生产,烤漆时间长)。
强电系统与制冷的配置
供配电、制冷系统是数据中心建设中最为关键的物理基础设施,合理的供配电、制冷系统设计与实施是数据中心安全可靠运行的基础,也是实现绿色节能数据中心的主要方面。在学校数据中心建设中,我们以“事先周密规划,实施分步进行”为原则。
学校早在2010年就专门聘请高级电气设计师对学校IDC机房强电基础设施进行综合考虑和规划,我们按双UPS输入设计IDC机房电源,在配电系统建设中,机柜配电容量指标是关键因素,按照历史经验和行业普遍水平,设置每机柜8KW配电容量,线缆容量再适当放宽(16A->32A),预留今后UPS升级线缆容量;同时每个机柜配置APC双路智能PDU,实现对机柜电源的精细化管理。
制冷系统出于成本和维护方便的考虑未采用InRow或水冷空调,而是采用风冷精密空调系统,根据机柜容量和数量规划机房采用5台约60KW制冷量风冷式恒温恒湿机房专用空调,风冷室外机安装在机房楼顶。在实际操作中,为节约成本和对应机房冷热通道,更换为4组80KW机房专用空调(实际采购3组,预留一组未采购)。
弱电系统配置
弱电系统是IDC机房的核心子系统,在系统实施中我们从实际情况对光缆系统增配较多,在机房核心位置设置专门光缆配线机柜,每列设置网络列头柜,不仅在每个机柜敷设多模光缆,还根据机房使用规划和未来预期敷设一定数量的单模光缆,此外还借助IDC机房建设的契机在国定路校区实施配套光缆系统改造工程,新建校区主干光缆交接箱,敷设光缆管道(南、北双向),为IDC机房今后的使用和设备搬迁做好充足的规划准备。
环控系统与DCIM系统
应用统一的机房动力环境监控系统可以有效地保障机房安全高效稳定的运行。监控管理对象包括:1.动力监控,如市电配电柜、发电机、UPS、智能PDU;2.环境监控:空调、温湿度、漏水、新风机等实时监控;3.安防监控:对门禁、视频、防盗、消防等系统实时监控。
而DCIM系统是将IT(信息技术)和设备管理结合起来对数据中心关键设备进行集中监控、容量规划等集中管理,能够实现对设备的“精细化”管理,由于2012年项目启动时,我们已经注意到相关DCIM设备、软件,但由于DCIM本身成熟度、可选择性和成本等诸多原因,未包括DCIM系统,仅仅采用国内比较成熟稳定的共济机房专用环控系统,但我们配置了智能PDU、智能KVM等DCIM基础构件,随着DCIM系统逐渐成熟,我们已经启动相关DCIM系统建设过程,希望通过DCIM的建设,实现IDC机房管理的现代化。
学校在有限的建设成本和土地空间等约束性条件下,按照适度超前的原则采用成熟稳定的系统为学校教育信息化打造了一个可靠基础平台。
中国人做事讲究“天时、地利、人和”,从本项目来说,“天时”可以说是学校和分管领导的支持和协调,学校充分重视新IDC机房在学校信息化、现代化建设中的重要基础平台作用,给予经费保障,在建设过程中给予指导和帮助;“地利”应该来说在上海中心城区寸土寸金的大环境下,利用大楼周边土地,以创新思维重新整合利用空间;“人和”在项目管理中极为重要,我们和设计方、施工方、系统集成商、学校新建办、后勤等相关方面充分沟通和协商,尤其在前期规划和设计阶段,我们与系统设计师、基建设计师在建设目标和标准方面达成共识,科学规划,分布实施,实现效果与成本的相对统一;在项目实施阶段,我们与基建施工方、系统集成商群策群力,克服了诸多困难。
由于经验缺乏我们在IDC机房建设过程中也留下了不少遗憾,首先是机柜桥架与机柜顶部进线的位置摆放缺少规划,造成线缆弯曲,浪费了部分线缆和固线器;机房屋顶空调外机摆放比较散,今后预留精密空调扩容存在问题。
(作者单位为上海财经大学教育技术中心)
建设与管理数字校园