浪潮为“云数智”应用构筑新平台

2023-05-30 00:42吴芳
计算机与网络 2023年3期
关键词:浪潮数据管理结构化

吴芳

数字经济时代,云计算、大数据和人工智能等新技术快速发展,非结构化数据爆发式增长,数据类型变得愈发复杂多样。在自动驾驶、基因测序、气象预报等云数智应用场景中,一次数据处理可能会涉及到文件、对象、大数据等多种协议,数据间的互通转换成为数据存储中至关重要的一环,具备平台化能力的融合存储成为数字基础设施建设的核心。

以基因测序场景为例,一次完整的基因测序涉及到数据采集、格式化、脱敏、压缩、分析、发布等操作,其过程可以大致分为样本采集、DNA/RNA测序、数据分析和发布4个步骤。在不同的处理阶段,需要使用不同的数据协议进行操作,其中在样本采集和DNA/RNA测序阶段采用NFS文件协议,数据分析阶段采用HDFS大数据协议,数据发布阶段则是通过公网数据共享采用S3对象协议。整个数据处理过程涉及3种协议格式,这就意味着完成一次基因的测序流程需要在NFS、HDFS和S3之间进行2次数据拷贝和数据格式的转换。传统存储仅支持单一的访问协议,这就会造成2个问题:一是数据格式转换和数据拷贝会降低整个数据处理流程的效率;二是多套存储副本增加存储空间成本。

浪潮分布式存储平台AS13000基于对非结构化数据协议(NFS/CIFS/HDFS/S3)融合互通的研究进行技术创新,采用统一的数据管理和元数据管理、增值特性服务、分布式存储资源池和管理软件系统,保证各种协议共享同一份数据和元数据。访问过程中无需数据转换和拷贝,并且为每种协议提供原生语义服务,每种服务均可直接访问,无需安装网关、插件或在计算侧或应用层进行改造。基于“多合一”极简架构,浪潮分布式存储得以实现“4个统一”。

首先,提供统一的数据管理和元数据管理。

数据管理和元数据管理是非结构化数据存储的关键,浪潮分布式存储平台AS13000根据NFS、CIFS、HDFS和S3的语义和元数据特点,抽象各协议的数据和元数据操作,通过一套统一的非结构化数据和元数据管理架构有效地保证各协议的原生访问。

其次,提供统一的增值特性服务。

基于统一的数据访问接口和元数据管理的架构设计,浪潮AS13000对外提供统一的增值特性服务,包括统一配额、QoS、加密、压缩、快照、回收站、分级存储、远程复制、元数据检索等。

再次,构建统一的分布式存储资源池。

AS13000支持NFS/CIFS/HDFS/S3等多种服务协议共享非结构化存储资源池,并且同一个文件不同协议访问的数据和元数据为同一份。例如,通过文件NFS协议写入的一个文件,通过对象存储AWS S3协议、大数据HDFS协议和文件CIFS协议均可读取;每个节点都可以启动文件NAS、大数据HDFS和对象存储S3服务。

最后,打造统一的管理系统。

管理软件负责集群的安装、部署、业务配置、设备管理、监控和告警等功能。浪潮分布式存储平台AS13000打造了融合互通的管理系统,可同时支持NFS/CIFS/HDFS/S3等多种服务协议,增值特性通过统一的配置入口对所有非结构化存储协议同时生效,减少了企业的管理成本。

浪潮分布式存储平台AS13000通过多年的持續技术创新,以一份数据支持多种协议访问,实现了非结构化数据融合互通,在提升数据处理效率的同时降低了存储购置和运维成本,保障了各协议的语义无损和性能无损,构筑了面向“云数智”应用的融合存储平台,助力企业数字化转型,加速释放数据价值。

猜你喜欢
浪潮数据管理结构化
企业级BOM数据管理概要
定制化汽车制造的数据管理分析
海洋环境数据管理优化与实践
促进知识结构化的主题式复习初探
“双创”浪潮方兴未艾
CTCS-2级报文数据管理需求分析和实现
结构化面试方法在研究生复试中的应用
新色彩浪潮
基于图模型的通用半结构化数据检索
基于软信息的结构化转换