基于CDP技术的金融IT应用系统容灾实践

刘颀桓 李永强

摘要：本文以重庆农村商业银行信贷影像系统建设工程项目为背景， 论述了使用华赛VIS6000，N8500系列产品，通过存储虚拟化，持续数据保护和容灾的系统架构设计，实现了硬件存储异构条件下的异地持续数据保护，为金融IT应用系统安全性，稳定性和数据保护作了有益的实践。

关键词：CDP灾难备份 数据保护 金融IT

一、信贷影像系统整体应用框架

1、工程背景

重庆农村商业银行成立于2008年6月，是在原重庆市农村信用社、农村合作银行基础上组建的股份制商业银行，是全国第三家、中西部首家省级农村商业银行。2010年12月16日于香港H股上市，是首家在香港上市的中国农村商业银行。资本金70亿元，总资产规模超过2500亿元，下辖1家营业部，43家支行，1700多个营业机构，从业人员1.3万余名，注册资本金居全国农村商业银行之首，是重庆市资产规模最大、存款规模最大、服务网点最多的地方金融机构，也是重庆市最大的涉农贷款银行、中小企业融资银行和个人信贷银行。

原重庆农村信用社于2007年开发了信贷管理系统并上线运行，但在重庆农村信用社统一法人、成立重庆农村商业银行后，管理体制和制度办法均发生了巨大变化，现有的信贷管理系统已不能满足重庆农村商业银行管理现状和要求，新一代信贷管理系统的建设，要求实现全市200多万笔信贷业务的全面在线流程化审批和影像资料的电子化管理，面临信贷影像数据的存储和关键数据库的异地容灾等业务难题。如何建立一套高效、可靠、完善的灾备系统对这些重要数据进行连续有效多层次的保护提上IT议事日程。

2、技术框架设计

新一代信贷影像系统要求实现信贷数据管理及流程化审批，在存储上分为结构化数据的存储（即通用的数据库）和非结构化数据的存储（扫描件，文件，图片的存储平台）。由于数据存储量大，特别是影像资料部分，一笔贷款信息可能涉及到成百上千的资料信息，扫描件等，且这些影像资料在扫描存储后，需要在整个信贷管理生命周期中随时调阅和查看，同时信贷资料的重要性高，且在线流程化审批要求实时性高，就要求有实时，安全，完整的数据备份机制。

考虑到原有的硬件和存储设备只使用了两年，在系统整体技术设计时必须尽量使用好原有的硬件存储设备，那么就存在一个存储备份异构的问题。

综合考虑以上种种要求，在信贷影像系统整体技术架构设计时，采用了CDP的存储备份策越，使用了群集技术、存储虚拟化技术、复制和快照技术，全面的满足了系统整体架构要求。系统整体技术框架设计如图2.1

如图，整个系统应用使用B/S架构，后台搭建应用服务器集群。在生产中心数据库和内容管理平台（采用IBM CM技术）采用双机模式。和灾备中心间通过CDP技术实现数据级的实时容灾，分别对结构化数据和非结构化数据进行数据同步容灾处理。在灾备中心由于采用的是利旧的设备，所以存储设备与生产中心异构，这种异构的处理通过CDP存储虚拟化的技术进行解决。

根据系统整体架构设计图，结构化数据存储分别使用了IBM 8100和 IBM 6800存储设备，非结构化数据存储使用了华赛的N8500 NAS存储设备，通过华赛的VIS6000存储虚拟化产品连接生产中心与灾备中心，实现CDP持续数据保护。

二、存储与灾备技术

1、群集技术

VIS6000群集采用负载均衡的群集方式，每一台VIS6000为双控制器设置，可以提供2节点的群集，即每一个控制器都可以看成是群集中的一个节点。

由于每台VIS6000的处理性能有限，当应用环境规模庞大，且对性能要求较高时，就需要用到多台VIS6000的群集。VIS6000可支持2，4，6，8节点的群集，随着节点的增加，群集的处理性能也会线性增长。

VIS6000集群中的每个节点都能访问连接到VIS6000集群中的存储阵列，并向应用服务器提供无差异的集群服务。各节点可以并发处理应用服务器的I/O请求，且各节点间互为备份，可以均衡负载。当一个节点发生硬件或软件故障时，应用程序可将其执行的I/O操作传送给集群中的备用节点，从而保障业务能够连续的运行而不受影响。

VIS6000集群有一个唯一的域名称（域ID），集群初始化时通过“主从竞争”产生一个主节点（每个集群有且仅有一个主节点），其他节点为从节点。主节点作为集群的管理枢纽，负责协调和分发集群的配置命令到各集群节点执行。通过集群的“事务”机制来保证集群各节点配置操作的一致性。各节点共享配置信息，都可以向前端主机提供服务。当主节点离线或故障后，集群会重新通过“主从竞争”产生一个新的主节点。

VIS6000集群的各节点间通过心跳网络进行通信，传递集群管理信息和业务调度信息。集群网络与其它网络隔离，每一个节点的通信网口和交换机冗余配置，当其中一个交换机或网口故障时，集群仍可以通过另一条冗余的网络链路进行通信。

VIS6000集群采用Active-Active的存储架构，正常情况下各节点同时工作，并发处理主机的业务请求。各节点互为备份，当其中一个或多个节点发生故障的时候，剩余节点会快速地自动接管故障节点的业务，保证业务运行的连续性。

故障切换的原则是将故障节点上的业务切换到负载较轻的节点上，节点负载的轻重通过多路径软件计算出的I/O数来进行衡量。由于支持这种硬件级别的故障切换，随着集群节点数目的增多，集群也变得更可靠。

2、数据迁移技术

VIS6000是华为赛门铁克科技有限公司提供的专业数据迁移设备，能够支持异构环境下的存储设备间的数据迁移，兼容性强、对当前系统的影响较小、迁移效果比较显著。

VIS6000数据迁移无须在现有环境中安装任何软件或代理，在迁移过程中，业务不会中断，可以持续进行，迁移的过程中可以通过控制迁移的速度，将对业务的影响控制在很低的水平。

特有的数据校验机制，能够在数据迁移完成后检验数据移动的情况，通过特有的校验算法来验证数据的一致性，保证数据的完整性、正确性、有效性，增强客户对关键信息安全性的信息。

使用VIS6000提供的数据迁移方案进行现网环境下的数据迁移，能够有效的将不同厂商、不同类型的存储系统进行有效的整合，无需购买额外的产品或设备，保证客户的低成本。

3、存储虚拟化技术

存储虚拟化的定义：通过对存储(子)系统或存储服务的内部功能进行抽象、隐藏或隔离，使存储或数据的管理与应用、服务器、网络资源的管理分离，从而实现应用和网络的独立管理。 存储虚拟化把多个、多种存储设备通过一定的方式统一管理起来，提供大容量、高数据传输性能的存储系统。

物理设备挂接到VIS6000上后，VIS6000接手对这些设备的管理，并且在受其控制的物理磁盘上写入标识信息，使物理磁盘成为VIS6000的“VM磁盘”。“VM磁盘”是一个逻辑的概念。这样，就为物理设备和逻辑设备建立了对应关系。应用服务器在访问磁盘的时候需要通过VM磁盘来找到物理磁盘。

当有一个或多个物理磁盘被置于VIS6000控制之下时，VIS6000将在这些物理磁盘上创建为卷，每个卷可以跨越多个物理磁盘。在应用服务器（文件系统、数据库或其他应用系统）看来，访问卷和访问物理磁盘的方法是一样的。虚拟对象组合起来形成卷。卷中包含的虚拟对象有：VM 磁盘、磁盘组、子磁盘和 plex。

子磁盘是VM磁盘的一部分，是划分磁盘的单元，代表磁盘中某一连续区域，一个VM磁盘可以分成一个或多个子磁盘；磁盘组是一组VM磁盘的集合；而Plex由一个或者多个子磁盘组成，这些子磁盘可来自于一个或多个物理磁盘；卷是一个虚拟的存储设备，卷上可以创建文件系统。它由一个或多个Plex组成。

如上所诉，VIS6000存储虚拟化是基于存储网络的虚拟化，通过为数据管理系统提供了一层虚拟的“卷”的逻辑设备，来屏蔽异构存储设备的差异，并通过对逻辑卷的管理，克服硬件设备的物理局限性和差异性，使逻辑卷可以跨越多个物理磁盘。

4、复制与快照技术

VIS6000的数据复制是基于交换层的复制技术，与Symantec SF（storage foundation）软件结合，通过特有的日志卷功能和快照代理技术保证复制数据的完整性、正确性、有效性。

本项目建设中，采用VIS6000异步准实时复制。异步数据复制是在“线路带宽和距离能保证完成数据复制过程，同时，异地数据复制不影响生产系统的性能”这样的要求下提出来的。异步数据复制跟同步复制最大的区别在于生产中心不需要等到数据成功的写到灾备中心，就能进行下一个I/O 操作，并且可以在更远的范围内进行部署。其原理如图2.2

1. 生产中心的主机写入数据到生产中心的VIS6000；

2. 生产中心的VIS6000将数据写入到生产中心的日志卷；

3. 日志卷写入数据成功以后，生产中心的VIS6000返回“确认”信号给生产中心的主机，以便主机下发新的数据；

4. 生产中心的VIS6000将数据写入到生产中心的生产卷，同时向灾备中心的VIS6000发出数据写入请求；

5. 灾备中心的VIS6000接收到写入请求后，返回“确认”信号给生产中心的VIS6000;

6. 灾备中心的VIS6000将数据写入到灾备中心的复制卷；

7. 数据成功写入到灾备中心的复制卷后，灾备中心的VIS6000返回“完成”信号给生产中心的VIS6000

快照（Snapshot）的定义是：对指定数据集合的一个完全可用拷贝，该拷贝包含源数据在拷贝时间点的静态映像。快照可以是数据再现的一个副本或者复制。

VIS6000提供在指定时间点创建卷映像的功能，这样的映像称为卷快照。使用快照，可以联机创建卷的备份副本，备份副本可用于恢复因磁盘故障、软件错误或是人为错误而丢失的数据。

三、系统实现与展望

1、系统实现

本金融IT系统容灾实现使用华为赛门铁克的N8500存储设备及VIS6000虚拟化网关，使用CDP数据备份技术，其硬件设备关键部件全冗余，并通过群集技术、RAID保护等多种技术保障系统可靠性，最大限度保障了整个系统的可靠性与稳定性，很好的满足了信贷管理系统的业务连续性要求。

使用通过部署华为赛门铁克VIS6000虚拟化网关，利用VIS6000的在线迁移技术，在不影响业务正常运转的基础上将数据迁移至新购的N8500后端存储单元，迁移完成后对数据进行有效的校验，保障迁移过程中不造成数据的丢失，用高可用的数据迁移方案解决了数据迁移中常见的迁移后数据不一致的问题

通过华为赛门铁克虚拟化网关的虚拟化管理技术，在不影响网络环境的前提下，将原有DS8100存储，DS6800存储和新增的N8500存储统一整合进行资源调配，建立统一的资源池，应用服务器对数据库的访问不受任何影响。

采用VIS6000虚拟化网关的容灾方案严格记录下每一IO的顺序，并且按照此顺序将IO发到灾备中心，由此来保护数据一致性。当网络故障的时候，生产中心的数据写入到日志卷上，日志卷会将这些数据记录下来。日志卷的大小可以根据容灾网络时间允许的最大断网时间来进行设定。当网络恢复的时候，从日志卷里可以将没有及时发送的数据发送到容灾中心去。

重庆农村商业银行新一代信贷影像系统的整体设计，采用了基于CDP备份的多种技术，大大提高了系统健壮性、安全性、高效性，同时设计架构上对未来新增存储、主机等设备接入提供了简单方便的接入管理平台，为重庆农村商业银行信贷影像系统后期的扩容升级，提供了极大的便利。

2、展望

数据备份技术经过10年的发展，已经步入一个崭新的发展阶段，数据复制、快照、CDP等技术受到更多人的关注。CDP概念的出现使得用户拥有了一个连续备份的梦想，CDP的愿景极具吸引力，且部分大型存储厂商已经推出类似CDP产品。但CDP也存在一些不足，如价格相对较贵、对存储容量要求较高、技术标准和规范还不够成熟、产品化和市场占有量还不高等等。

但随着数据备份技术的发展，新的理念和技术将逐步取代旧的方法，CDP容灾和备份技术的发展，必定将推动IT数据备份向更高标准的方向前进。

参考文献：

[1] 华为赛门铁克VIS技术白皮书

[2] 刘立辉基于CDP的医院信息系统备份方案的研究.2011年

[3] 颜军 CDP:引发存储灾备技术革命 2006年