中国工商银行软件开发中心专家 鲁金彪
近年来,随着互联网经济的发展和金融行业数字化转型的不断推进,金融业务线上化和服务场景生态化,金融服务链与各行业社会服务链交织融合,金融应用系统面临处理海量数据、超高并发、超高峰值等一系列挑战,传统集中式数据库越来越难应对。同时,面对复杂的国际环境,对全球信息技术产品供应链体系产生了较大冲击,基于传统集中式数据库构建的信息系统面临着较大的不确定性风险。工商银行结合金融科技发展趋势与金融业务创新需求,综合研判分布式数据库技术发展情况,积极开展分布式数据库联合创新和应用创新,初步形成了以分布式数据库为基础的金融级数据库转型解决方案。
工商银行自2019 年引入分布式数据库以来,已在包括实物贵金属、中间业务系统等20 多个业务系统试点上线,覆盖办公系统、一般业务系统和关键业务系统各类典型业务场景。近年来,结合金融行业核心系统超高并发和海量数据存储的要求,以及多渠道、全天候持续对外服务能力的要求,工商银行积极探索金融科技融合创新模式,以联合创新等方式加强与头部科技企业合作,积极开展分布式数据库产品金融级承载能力建设,对标主机“两地三中心”部署架构和高可用能力,基于存算分离形成多集群部署架构,夯实分布式数据库核心承载能力。
一是数据可靠性高。基于全闪存集中存储实现计算与存储分离,软硬协同,具备PB 级海量数据存储能力和企业级高可靠能力。
二是系统可用性高。具备同城双园区+异地园区部署能力,园区内故障场景RPO=0、RTO<60秒,同城园区级故障场景RPO=0、RTO<180 秒,同城双园区故障场景切换到异地园区RPO<60秒、RTO<600 秒。
三是集群性能高。同城主备集群间采用磁盘级复制实现增量日志强同步,日志同步效率提升一倍以上,降低了主备同步对主集群性能的影响,基于2 路国芯服务器最小规模主备集群部署,TPMC 达到45 万(约1.5 万TPS)。
四是服务连续性能力高。具备业务不中断前提下主备集群数据库版本轮换升级和应用版本灰度升级能力,满足了金融核心应用7×24 小时服务连续性要求。
传统集中式数据库以其较强的功能黏性、优秀的系统稳定性、良好的软硬适配能力,在金融行业的存量系统中占据较大的份额;并且存量系统往往与特定传统集中式数据库特性高度耦合,业务逻辑内嵌至数据库实现,具有历史比较久远、业务长期稳定、关联应用较多等特点;同时,信创软硬件产品均处于发展阶段,产品的稳定性、成熟度等方面与传统商用软硬件产品相比还存在一定的差距。因此,有效控制转型风险,确保转型的平滑、稳定、安全,成为金融业数据库架构转型中的难点。工商银行聚焦传统数据库与应用耦合度高的难点进行突破,对大型业务系统开展数据库转型技术攻关,初步形成了一套高效可控低成本的数据库平滑转型解决方案。
一是实现跨异构数据库的自动迁移。针对部分传统集中式数据库特有的数据库对象、高级特性和非标准SQL 语法,通过建设配套的自动化数据库迁移工具,提前评估和规划迁移工作进程,识别迁移风险,再通过工具自动化进行语法转换和逻辑校验,降低迁移成本、控制迁移风险,快速低成本地实现从商业专用平台向开放创新平台的迁移,自动迁移成功率和编译通过率均可达95%以上。
二是实现异构数据库转型全过程的自动化测试。传统集中式数据库涉及众多数据库对象、功能特性和庞大的代码行数,迁移到分布式数据库后的功能完整性、正确性及访问性能都面临巨大挑战。工商银行建设了覆盖单元测试、功能测试、性能测试和测试管理等研发测试全过程的自动化测试工具链,一方面通过SQL 解析、分支预测等技术实现技术测试自动化,另一方面复用存量业务测试资产实现业务功能测试自动化,整体自动化测试覆盖率可达80%。
三是实现试运行阶段生产环境测试验证的系统级解决方案。研发交易录放工具,在试运行阶段,先在旧系统抓取流量,然后在新系统分别进行一致性流量回放和性能回放实现功能和性能的验证。首先,一致性回放将抓取到的SQL 按源库的执行顺序以事务为单位在新系统进行回放,实现业务功能全覆盖测试,保证新旧系统功能完全对等;其次,性能回放将抓取到的SQL 按照一定规则分发进行多线程并发回放,以接近实际生产业务压力的速度回放到新系统,进行性能、可用性及可靠性测试,确保新旧系统可完整承载业务压力。
四是实现新旧系统并行阶段数据一致性的系统级解决方案。优化异构数据库增量数据复制工具,在双库并行阶段,新旧系统均有业务流量,通过数据复制工具进行业务高峰期增量归档数据在异构数据库间的双向复制,实现新旧系统业务数据的准实时一致,确保故障场景下能及时回切,提升对外服务的连续性。
工商银行作为北京金融科技产业联盟分布式专委会主任委员,发挥自身优势,以不断提升我国金融级分布式数据库技术和生态建设水平为目标,以助力金融机构数据库转型发展为己任。工商银行通过整合凝集产、学、研、用各方优势力量,结合自身丰富的应用场景及应用开发实践经验,形成了经验积累和资产沉淀,并立足分布式专委会不断推进标准规范建设、联合检测认证、技术难点攻关和产业生态应用方面的工作,助力金融行业数据库转型。
一是形成技术资产沉淀。工商银行在传统集中式数据库转型实践中,充分总结经验,编写了转型部署方案、转型技术方案、数据库迁移技术指引、数据库迁移测试白皮书、各类工具使用手册等涵盖数据库转型全过程的指导手册,形成了整套的系统性技术资产和解决方案,开拓了传统集中式数据库转型工作的新思路、新方法,为金融行业提供了低成本、高效可控的转型借鉴。
二是提升金融级分布式数据库技术和生态建设水平。工商银行切实履行分布式专委会主任委员职责,在人行科技司的指导和联盟秘书处的统筹协调下,并联合专委会各成员单位,牵头制定《分布式数据库技术金融应用规范技术架构》《分布式数据库技术金融应用规范安全技术要求》等5 项金融行业标准和团队标准,围绕分布式数据库技术金融应用、分布式数据库产品适配测试与安全评估、金融行业分布式数据库应用一体化解决方案和产用对接与协作,开展标准规范建设、技术难点攻关、联合检测认证和产业生态应用四个方面工作,推动我国分布式数据库产业有序、良性、可持续发展,不断提升我国金融级分布式数据库技术和生态建设水平,助力金融行业数据库转型。
根据《“十四五”国家信息化规划》,金融行业加快数字化转型,打造安全可控的金融信息系统已是大势所趋。工商银行经过技术攻关与创新实践,充分验证了传统集中式数据库向分布式数据库转型的可行性,为大型商业银行核心银行系统自主可控转型走出了宽阔的道路。
未来,工商银行将持续围绕分布式数据库的创新运用,夯实工行数字基建基础支撑,形成金融行业传统集中式数据库转型最佳实践,通过技术沉淀和转型实践经验总结,识别行业共性需求,形成的高效可控低成本的数据库平滑转型技术方案及配套工具,为金融同业提供转型的良好借鉴,助力中小金融机构加快自身数据库转型进程,共建金融科技新生态,推动金融业实现高水平科技自立自强。