基于“云计算+大数据”的工业互联网大数据云服务平台

2022-05-30 10:48王欣
计算机应用文摘 2022年8期
关键词:工业互联网云计算物联网

摘要:从国家战略和行业需求出发,以信息化和工业化在横向扩展、纵向深化、更高水平上实现合力助力工业产业化发展为目标,文章首先分析了市场核心需求,明确了“云计算十大数据”的工业互联网大数据云服务平台运营模式,然后构建了平台业务架构和技术架构,实現了大数据平台、工业IoT和信息化安全关键技术突破,完成平台支撑工业互联网业务的应用与生态落地。工业互联网大数据云服务平台项目是新型信息化技术和工业化融合发展的重要实践,为基于“云计算十大数据”的工业互联网的持续研究、探索和应用提供了样本。

关键词:工业互联网;云计算;大数据;物联网

中图法分类号:F424文献标识码:A

Industrial Internet big data cloud service platform of “cloud computing+big data”

WANG Xin

(GuoxunXinchuang Software Technology Co.,Ltd.,Shanghai 200000,China)

Abstract: Starting from the national strategy and industry needs, with the goal of horizontalexpansion, vertical deepening and higher level of informatization and industrialization, the articlefirst analyzes the core needs of the market and clarifies “cloud computing + big data” industrialInternet big data cloud service platform operation mode, and then builds the platform businessarchitecture and technical architecture, achieves breakthroughs in key technologies of big dataplatform, industrial IoT and information security, and completes the application and ecologicallanding of the platform to support industrial Internet business. The industrial Internet big data cloudservice platform project is an important practice for the integrated development of new informationtechnology and industrialization, providing samples for the continuous research, exploration andapplication of the industrial Internet based on “cloud computing + big data”.

Key words: industrial internet, cloud computing, big data, internet of things

1引言

当前,我国正全面开展推进工业数字化转型战略落地的工作。从政策角度来看,从工业4.0到“十四五”规划都给予了明确指引;从市场角度来看,产业发展提出的工业数字化转型需求强烈;从技术角度来看,云计算、大数据、IoT、AI等关键技术日趋成熟,云计算技术为工业信息化集约建设与管理提供了平台化能力,物联网为工业互联和智联提供了智慧化方案,大数据为智慧生产、智能决策、供应链科学化管理提供了可持续能力。《国务院关于积极推进“互联网+”行动的指导意见》明确提出:推动互联网与制造业融合,提升制造业数字化、网络化、智能化水平,加强产业链协作,发展基于互联网的协同制造新模式。在重点领域推进智能制造、大规模个性化定制、网络化协同制造和服务型制造,打造一批网络化协同制造公共服务平台,加快形成制造业网络化产业生态体系。

2概述

在工业数字化战略发展阶段,如何为工业企业、工业企业上下游产业链、服务于工业企业的IT企业提供生态化发展的通道和平台是助力产业发展的重要举措,通过打造跨企业、跨区域、跨行业的大数据云服务平台,帮助工业企业打造智慧化生产运营数字大脑,实现企业生产运营全生命周期的端到端数据整合与价值挖掘,帮助企业实现精准产品营销、精细生产运营、精确库存管理,为企业生态圈构建注入智慧,为企业数字化发展奠定基础。

工业互联网大数据云服务平台项目致力于加速工业企业智能改造步伐,帮助企业向生态化、数字化、服务化的方向推进智能改造,助力制造业创新能力的提升、数字化与产业化融合发展,国际竞争力与品牌影响力提升,为拉动产业经济发展提供重要支撑。

工信部指出“到2025年,信息化和工业化在更广范围、更深程度、更高水平上实现融合发展,新一代信息技术向制造业各领域加速渗透,范围显著扩展、程度持续深化、质量大幅提升,制造业数字化转型步伐明显加快。”工业互联网大数据云服务平台是工信部实现信息化和工业化融合发展的重要实践。

3核心功能分析

工业互联网大数据云服务平台的建立需实现云计算、大数据、IoT等技术在工业数字化转型和产业升级的应用实践。同时,工业互联网大数据云服务平台需帮助企业构建健全的信息链,完成上下游企业间的相互协作和同步,帮助各个企业优化生产运营效率。通过该平台,企业可以获取实时业务数据(企业内部、客户、合作企业的数据),从而实时响应正在发生的事件,帮助企业快速做出正确决策和快速调整业务模式,助力企业持续优化、降本增效。

工业互联网大数据云服务平台核心功能如下。

云服务平台:构建云计算IaaS和PaaS平台,为生态圈企业提供基础的云平台服务。采用混合云模式,支持企业构建私有云和公有云组网,也可完全采用私有云模式组网。平台采用容器云技术,为工业企业提供弹性计算、一键部署、集中监控等功能,以实现工业企业应用的快速云迁移与自动化的日常运维。

大数据服务:实现工业企业内外数据在统一平台上的标准化整合、共享与开放,为企业应用、平台服务的快速构建提供一站式的数据服务。包括共享的数据库服务;通过统一的大数据平台,支撑企业数据整合;标准化企业数据库,简化部署环境,降低管理的复杂性;通过整合实现企业应用之间的数据集成,实现互联互通。

工业物联网:为工业企业提供通用工业物联网平台服务,助力工业智联快速就绪、快速应用。

一站式门户:为工业企业提供一站式的用户注册与登录、应用及服务的访问门户,同时用户也可以通过门户了解最新的活动、体验新的服务,并可进行在线咨询。

SaaS服务:为企业提供MES、能耗分析等应用服务。

4技术架构设计

工业互联网大数据云服务平台核心技术架构包括四层,即IaaS,IoT,PaaS及BigData(图1)。

IaaS层采用Openstack构建虚拟化云平台,实现云主机、云存储、云网络、云操作系统、云中间件等各方面云服务能力,服务之间通过统一的REST风格的API调用,实现松耦合。

IoT层采用gRPC技术构建高性能RPC框架,实现数据中心内外部服务链接与调度,并提供可插拔的支持,以实现负载均衡、调用链追踪、调度查验和合法判别;采用MQTT技术构建全域消息服务架构,以极少的代码和有限的带宽,通过轻量级通信协议在设备间实现高可用、高可靠的消息传递和共享,实现低消耗实时通讯;采用Kafka技术实现基于消息的微服务架构,实现各个微服务之间的解耦,异步通信、高流量的削峰等功能,以实现应用整体个高吞吐能力、高响应能力;采用Zookeeper技术构建高可用、高可靠的协同系统,解决分布式应用中各个服务之间协作难题,包括分布式调度、分布式通知、队列管理、锁管理、集群管理、分布式负载均衡等。

PaaS层采用Docker技术作为引擎创建和管理容器的工具,通过读取镜像来生成容器,并负责从仓库拉取镜像或提交镜像到仓库中,构建容器云平台核心能力;采用RegistryHarbor技术存储和分发Docker镜像,构建企业内部的Docker镜像仓库;采用Kubernetes作为容器调度引擎,提供应用部署,规划,更新,维护等服务;采用HAProxy技术提供高可用性、负载均衡以及基于TCP(第四层)和HTTP(第七层)应用的代理;采用ElasticSearch技术实现分布式、高扩展、高实时的搜索数据引擎,实现应用服务以及用户的运行日志,支持用户进行日志检索。

BigData層采用fluentd,Export,Flume,Collectd,DD?Agent,syslog等技术进行数据采集;采用Kafka,Streamsets,kettle,Sqoop,Fluentd等技术进行数据交换;采用Cassandra(KV存储)、ElasticSerch(日志存储)、Ceph(对象、块存储)等技术进行数据存储;采用Prometheus,FLink,PreStoDB等技术进行数据分析;采用Druid,Cassandra,MySQL等技术构建主体数据库;采用Crafana技术进行实时监控;采用Superset技术进行BI分析;采用dolphinscheduler技术进行数据调度,进行大数据的采集、倒入/预处理、统计/分析和大数据挖掘,是“做”好大数据的基础[1]。

5关键技术

5.1工业IoT平台设计

工业IoT平台是工业互联网大数据云服务平台的重要组成部分,物联网产业化发展是工业化与信息化深度融合的结果[2],工业IoT平台核心设计如图2所示。

设备注册:各设备通过各种协议上送请求完成自我注册,支持通过REST服务实现设备注册,支持批量添加设备模式实现注册。能够支持上亿台设备的注册管理。

统一的设备认证鉴权:保证工业企业设备信息的安全性。只有具有合法且已注册的硬件ID的设备才能上送各种感知数据。只有具备设备关联信息的设备才能在后续的数据分析及可视化中具有良好的性能。

协议解析适配:多种协议的接入,包括MQTT,AMQP等市场上的主流协议,并通过协议解析适配模块,完成数据的完整性校验,最终转换为平台内部的统一的通信协议。

数据处理:从不同的消息主题中获取到消息后,完成数据有效性的校验,并根据规则完成消息的转发。

规则转发:自定义规则,平台定义一系列消息处理、消息转发规则实现消息的智能流转、筛选、过滤。

设备管理:平台具备双向通信智能化设备管理能力,支持北向设备数据采集和南向设备指令控制管理,同时支持设备上线、设备维护、网络连接、设备告警、报表分析、驱动优化等全过程管理。

设备规格管理:对设备进行分类按规格、型号等管理,同时关联和定义对应的设备指令、处理规则等通用性信息

数据存储:感知数据的实时存储、持久存储。提供设备信息、设备规格信息、设备关联信息的存储。

数据采集/转换:构建数据采集转换引擎,支持各种品牌、各种设备统一数据采集、引擎化转换,数据采集支持不同接口技术,实现不同厂商、不同技术设备数据采集和转换,实现设备数据快速对接、快速采集。

规则引擎:规则引擎可以对阈值超限、范围超限、位置跟踪等,完成异常事件的及时通知和快速处理,帮助终端用户维护和监控设备。

安全认证:能够快速适配OS和各类厂商的智能终端,以便于接入海量的设备,并且保障设备的安全性。

设备分组:设备组用于在相关设备之间创建关

联。设备可以属于任意数量的组,并且组的大小没有限制。设备组还可以包含其他设备组。设备组中的每个元素(设备或子组)可以分配零或更多角色。这允许外部应用程序查询设备组并获取服务给定角色的设备列表,然后执行诸如发出命令或更新元数据之类的操作。

租户应用管理:平台服务提供的都是多租户微服务,它将流量委托给进行实际处理的租户应用引擎。每个租户应用引擎都是单独配置的,可以在不影响其他租户应用引擎的情况下启动/停止/重新配置。每个租户应用的数据库都是单独创建的,租户应用之间的数据存储都是隔离开的。

站点管理:站点是顶级实体,代表部署设备的物理区域。根据所建模的系统,网站可能代表非常不同的东西。

资产类别管理:设备规范资产用于描述一种设备的硬件信息/配置,设备分配资产可以用于描述与设备相关联的实体。IoT以只读方式使用资产模块,仅仅根据唯一的能够被底层资产模块理解的ID进行实体引用。

5.2信息安全设计

我国大数据云计算技术的快速发展,带来了一系列信息传输、存储与共享的安全隐患[3]。信息安全是工业互联网大数据云服务平台的重要基石。信息安全是确保工业企业和工业产业链数据与应用安全运行的关键保障,信息安全架构是综合考虑实时动态环境下实现平台整体安全管控能力,需要统筹考虑安全策略规划、安全防护、安全检测、安全响应、安全评估和安全优化等安全闭环管理,实现平台整体安全保障。

从安全纵深防御体系的八个层面(物理层、链路层、网络层、数据层、系统层、应用层、表示层、管理层)来设计防范规则:从物理层采用物理隔离的设计来防范外部非法访问和攻击的到达;从链路层采用硬件防火墙做包过滤来阻挡外部非法访问包、攻击数据包的流入;从网络层采用软件防火墙对过往传输的数据采用的网络协议进行分析,阻截非正常数据的出入;从数据层采用严格授权访问的策略控制的非授权用户对敏感数据的非法访问和获取;从系统层采用软防火墙和杀毒软件防止系统漏洞、病毒入侵、恶意软件的运行;对于应用系统的访问采用安全认证和设计时就考虑系统安全访问杜绝系统信息安全风险;对B/S架构的应用程序,从表示层采用防页面篡改的技术确保表示层的安全;信息安全最大的威胁来自系统的管理和运行维护人员,从管理意识、管理过程、策略来对安全专员培训赋能,加以制度和操作上的安全约束,确保信息安全防御的完整性。

6平台实现

工业互联网大数据云服务平台集中打造统一门户、两大开放、三大平台体系(图3)。统一门户构建工业制造业服务门户,实现工业APP、工业服务、工业API及其他服务统一支撑;两大开放包括能力开放和数据开放,实现服务能力生态、数据生态的聚集、融合与发展;三大平台包括工业PaaS平台、IoT平台、大数据平台,新技术新应用为业务创新带来原动力。

PaaS平台提供云端的弹性计算、自动运维、开发者DevOps相关服务、架构服务和领域业务PaaS平台支持,提供计算、应用、数据、存储、网络、中间件、安全等丰富的服务内容,帮助用户快速形成从基础云服务到面向领域的平台服务能力以及面向客户的解决方案能力,并降低了应用运行托管和开发的门槛,加快了应用开发的速度。

CMP综合云管平台采用微服务+云原生架构,提供功能完备的多云管理业务服务,通过提供IaaS到SaaS全方位的产品服务,实现对资源的统一管理与运维,同时通过完备的资源管理和数据分析能力,实现业务在多云平台的无缝衔接。

IoT集成平台实现对工业企业生产、运营、采购、物流等数据的采集,并参考通信运营商的经验进行标准建模,在工业互联网大数据云服务平台中完成数据存储、数据分析,并对后续的各种应用提供支持。

大数据平台实现对工业企业数据的汇总、存储、分析和呈现。同时,根据企业的具体需求对BI分析应用进行定制化配置开发,打造符合企业自身的独特数字看板,协助运营者决策。

MES系列应用为工业企业提供基本的MES应用,管理与生产相关的订单、工单、产品、物料清单、工艺、生产过程、质量检测等核心信息,一体化调度市场、仓库、车间工作,实现市场指导生产、生产推动市场的闭环。

统一运营门户是跨境工业互聯网平台线上对外宣传的窗口,是与工业企业线上沟通的一座桥梁,更是平台用户注册与登录的门户。提供统一用户管理、信息共享服务、QQ在线服务等,并按用户所属企业及组织关系提供不同应用。

7结论

工业互联网大数据云服务平台是新型信息化技术与工业深度融合助力工业行业数字化转型和智能化发展的重要实践,通过基于云计算、大数据、物联网等技术搭建一站式工业互联网大数据服务平台运营,证明了平台可以为工业企业提供关键技术和关键应用支撑,实现了数据化决策、智慧化应用、数字化经营、互联网化贯通,为工业企业及上下游产业提供了重要业务发展与应用平台,为工业数字化转型快速实践提供了重要平台和工具。

参考文献:

[1]刘鹏.大数据[M].北京:电子工业出版社,2017.

[2]刘军,阎芳,杨玺.物联网技术[M].北京:机械工业出版社,2017.

[3]张俊玲.大数据时代计算机网络信息安全与防护措施研究[J].信息技术与信息化,2019,229(4):135?137.

作者简介:

王欣(1984—),硕士,工程师,研究方向:云计算、通信技术。

猜你喜欢
工业互联网云计算物联网
基于高职院校物联网技术应用人才培养的思考分析
基于云计算的移动学习平台的设计
实验云:理论教学与实验教学深度融合的助推器
云计算中的存储虚拟化技术应用
中国或成“物联网”领军者
高职院校计算机网络技术人才培养模式的探讨
“互联网+”的三个重要发展方向