梁 斌,仵晓娟,李继玲,吕 新,张 泽,侯彤瑜,王 林,雷天翔
(1.南京森林警察学院,江苏 南京 210023;2.新疆兵团农业大数据国家地方联合工程研究中心,新疆 石河子 832003;3.新疆农业职业技术学院,新疆 乌鲁木齐 831100;4.新疆兵团勘察设计院智道信息科技公司,新疆 乌鲁木齐 831100;5.石河子大学,新疆 石河子 832003;6.新疆生产建设兵团农业技术推广总站,新疆 乌鲁木齐 830011)
林果业是新疆经济发展和农民脱贫致富的支柱产业之一。目前,新疆林果业种植面积144.51万hm2,果品总产量突破1 165.83万t,林果业总产值约1 000亿元,在南疆部分主产区林果收入占农民收入比重达到了40%~50%[1]。新疆生产建设兵团(以下简称“兵团”)经过多年发展已经基本形成了按科学化布局、区域化栽培、规模化种植、突出地方特色、符合产业化发展、具有一定市场竞争能力的林果产业建设格局,是新疆地区重要的特色林果品生产基地。然而,兵团优质林果业的生产以小农经济、散生的发展模式为主,在快速发展过程中农业管理水平低、质量效益不高、市场需求度低、品牌建立和维护意识差等诸多问题逐渐暴露出来[2],迫切需要实现生产方式的“提质增效”和管理方式的“换挡升级”[3]。近年来,随着以大数据为代表的新一代信息技术在农林领域的快速发展和应用[4],基于数据驱动科技创新的趋势正快速渗透到现代农业各个方面[5],农业发展同以大数据为代表的新一代信息技术的融合日益紧密,协同创新也更加紧迫,数据多源融合已成为现代农业发展新的重要手段,为提升兵团的林果业信息化和大数据分析能力提供了可能。因此,建立林果大数据分析应用平台,对于促进兵团林果生产决策科学化、管理精准化、服务高效化和产业数字化,推动兵团的数字化转型具有重要意义。
兵团林果业基础数据来源有限、质量薄弱、数据结构不合理、数据标准化与规范化程度低等一系列问题层出不穷,兵团林果业管理水平和机制面临很多挑战,影响了兵团智慧农业的整体发展[6]。
由于缺乏统一的采集标准和作业规范,导致数据整合过程复杂,数据采集指标、采集方法和采集人员的不断更新变化,使得兵团林果业数据资源异常庞杂。目前,兵团林果业数据质量不统一,存在大量数据采集重复和数据断层现象;数据指标不统一,导致数据利用率低下;数据采集、存储、转换、组合分析难以实现衔接,信息资源无法进行综合利用,这些问题成为限制发挥林果业大数据优势的根本源头,数据的应有价值难以得到发挥。
兵团林果业系统各部门之间及其与兵团各职能部门之间,数据的采集和存储缺乏规范,分散存储、格式不一、标准不同、信息资源共享程度不高等问题普遍存在,所需指标提取存在较大困难[7-8]。兵团林果业要实现大数据发展,需要多学科、多平台合作,实现相关信息的获取,实现多系统统一资源共享,从数据源头去除差异。
由于缺乏统一的数据采集和存储规范,导致数据共享出现准确度降低、重复率高等问题。数据资源共享程度低,农情信息难以得到有效利用,导致定量决策缺乏根本保障,最终导致决策不及时、不准确,无法为整体林果业做有效指导。林果大数据包括生物数据、气象数据、地理信息以及技术资料等,这些数据的获取和传输都需要快速、准确,拥有强大、实时的数据源,才能为未来准确决策提供基础。通过监测手段和传输数据的改进,提高技术应用,在各系统实现数据传输,建立跨系统、跨软件的资源共享是该平台实现实时决策的关键问题。
林果业大数据获取过程复杂,林果业生产主体背景有很高要求,林果业类的数据需求更是千变万化。与互联网大数据相比,林果业数据存在海量、异质、异构等特点,导致分布式大数据处理分析技术仍然缺乏。当前林果业研究人才对于大数据处理技术接触少,导致数据处理困难重重,发展进度深受影响。加之处理方法缺乏统一标准,各类数据的汇集、抽取、清洗、加工没有通用的方法,进一步增加了工作量,增加了数据处理负担,对于海量数据收集、整理、存储缺少依据[9]。因此急需完成多源海量数据的存储、组织管理,突破林果业异质数据转换、集成技术,开展适合林果业大数据技术研究工作,实现海量数据快速查询和调用的数据组织管理技术[10]。
林果大数据管理系统为一套兵团林果信息统计分析与发布系统,面向兵团各级农业农村局、水利局、国土局等相关部门提供信息共享。根据大数据采集决策支持管理平台的设计思想[11-14],平台设计坚持统筹规划、资源共享、高效稳定、实时实效、可扩展、应用范围广、操作简单等原则。平台是Min技术、SpringMVC技术、BS技术、物联网技术、互联网技术、移动互联网技术、数据库技术、BI/ETL技术等技术的有机结合体,以实现体系的业务标准规范,安全得到保障,大数据快速、准确地服务于林果业智慧决策支持[15]。另外,平台需要针对林果业的地域性、季节性、多样性、周期性等特征,对于来源广泛、类型多样、结构复杂、具有潜在价值的林果业数据进行融合分析,满足林果业在生产各个环节的需求。
通过各种数据采集技术和数据仓储技术搭建基本农情动态数据库框架,整合分析兵团各种特色和优势林果业分布、经营主体数量、全产业链年产值等产业数据,实现涉农数据采集和分析,对兵团林果业各类型种植品种的种植面积、产量、产业分布、经营主体等整体发展状况进行数据展示。在此基础上,基于大数据分析决策技术和林果业专业知识模型实现兵团林果大数据资源的分析决策支持,并通过信息服务中心和应用终端实现兵团林果大数据支持和服务[16-19]。林果大数据管理平台系统架构如图1所示,该系统自下而上各部分内容阐述如下:
图1 林果大数据分析应用平台总体结构Fig.1 The overall structure of the big data analysis and application platform for forestry and fruit industry
1)三个体系
林果大数据分析与决策支持平台体系建设是保障系统成功建设有效运行的重要基础。“业务标准规范体系”“业务运行管理体系”“业务安全保障体系”紧密结合林果大数据分析与智能决策的业务需求,规范完善系统的建设内容和运行方法;系统安全设计时全面考虑数据安全、信息安全、网络安全、运行维护安全等安全维度,构建“安全保障体系”。
2)技术支撑
技术支撑包括3S技术、物联网技术、互联网技术、移动互联网技术、数据库技术、数据挖掘技术、BI、ETL等。其中的互联网技术、移动互联网技术构成了平台的“网络层”,形成完善的智慧农业网络层体系,网络层解决的是感知层所获得的数据在一定范围内通常是长距离的传输问题。网络层主要通过无线网络、Internet网络及通用数据采集平台建立网络传输及通讯,实现感知层数据的实时采集、传输、存储,实现对农业业务数据的采集,实时传输到基地工作站、大数据中心,形成完善的智慧林果业网络层体系。
3)大数据仓储层
大数据仓储主要实现对智慧林果业数据资源进行采集、清洗、处理和仓储,实现网络层信息到应用层信息的转换、网络设备的管理、设备信息和业务信息的呈现。平台有效地屏蔽底层设备及网络的复杂性和多样性,统一数据的接口、标准和模型。平台层是应用层各种应用和服务统一部署的技术平台,提供智慧林果业建设的基础运行环境,进行统一管理,为上层的各种智慧应用提供支撑,是林果业大数据分析与决策支持建设与运营的基础部分。
4)大数据服务与决策支持中心
该中心部署林果业生产及管理的各项应用系统及服务,包括林果业电子政务平台、林果业信息管理系统、林果业生产管理系统、农机管理系统、土肥信息管理系统、特色农业电商平台等,支撑了林果业生产及管理的数字化、分析决策的智能化,以林果业服务为导向,实现信息集成共享,相辅相成,共同支撑“林果大数据分析与决策支持平台”的各项应用。
5)信息服务中心
该中心为农业生产及管理的应用及服务提供信息服务和决策支持渠道,由Web服务、App服务、微信服务、短信服务构成,为用户提供网页、手机端、微信、短信等丰富的应用模式。
6)应用对象及应用终端
应用对象为农业局、农业技术站、基地管理单位、农业技术专家、农业技术人员、农户,提供的应用终端包括监控大屏、网页浏览器、手机APP、微信、短信等丰富的终端应用模式。
本系统采用JDK1.8,通过Spring+MVC、Hibernate+ Minidao+ Boostrap+Log4j + Ehcache +Poi等相关技术,采用面向声明的开发模式,基于泛型编写极少代码即可实现复杂的数据展示、数据编辑、表单处理等功能,实现面向兵、师、团三级提供采集、统计分析、查询和决策支持功能,面向兵团各级水利局、国土局等相关部门提供信息共享,在安全控制情况下可通过外网访问系统。主要功能设计包括:
1)构建农情大数据采集规范和标准。针对当前兵团农业局各科室林果业数据采集规范不统一、标准不健全的问题建立了统一的农情数据模型。通过对兵团农业局各科室的调研,建立了一套林果大数据农情信息规范体系,为兵团各师、团、连队的农情数据提供统一的数据格式规范,为林果大数据的建立提供更加可靠的数据来源,并提升兵团农业技术推广体系的时效性和准确性。
2)构建农情大数据采集与上报管理系统。基于现有的开源架构,实现了Spring+MVC+Hibernate+Minidao+Log4j+Easyui(UI库)+Jquery+Boostrap+Eh cache+Ztree+Poi+Boostrap-table+ElementUI+Maven等基础架构整合,从安全、并发、数据库连接、内存释放、运算效率、耦合等角度展开、分析、调整与纠错,基于此架构完成了林果大数据分析应用平台的建立。
3)构建基于林果大数据分析决策与发布的应用。针对兵团林果大数据应用过程中存在的分析决策不准确和发布不及时的问题,开展林果大数据分析决策模型建立研究,构建兵团林果大数据分析决策与发布平台,实现兵团林果业的相关信息统计分析与决策发布,为兵团农业管理部门及农业生产者提供决策服务。
林果大数据分析应用平台网络拓扑示意如图2所示,信息采集以小型气象站、虫害监测设备、视频监控、水肥一体化设备等智能感知设备为主,人工采集录入为辅,通过田间地头部署的物联网将林果业感知信息数据传至基地工作站,工作站通过网络将数据传至大数据分析与决策中心,经系统分析后提供农业管理及信息化服务。
其中物联网技术是一个基于传感器、传输网络等信息承载体,让所有能够被独立寻址的普通物理对象实现感知和互联互通的网络。其具有智能、先进、互联的三个重要特征。物联网通过智能感知、识别技术与普适计算、泛在网络的融合应用,被称为继计算机、互联网之后世界信息产业发展的第三次浪潮。本项目中大数据的采集广泛使用了温湿度传感器、土壤墒情传感器、小型气象站等,是智慧农业的必要支撑。互联网+是本项目数据采集录入、分析展示的必要手段,利用互联网+技术,辅之以安全控制技术,使得业务在任何时间和地点能够开展,便于工作开展。
林果大数据分析应用平台的主要业务包括信息筛选录入、上报、上级审批、多元化展示及数据共享功能等,通过整合兵团前期机构基础信息表、农户基础信息表、林果地基础信息表和兵团林果业大数据调查表,重新设计统一的林果业信息表,并通过大数据平台系统将该表格下发到师(市)相关部门,再由师(市)相关部门逐级下发到连队办公室。连队办公室通过数据收集和整理,将初步审批的数据电子化后,通过大数据平台上报到团(镇)进行数据表审核。数据审核合格后由团(镇)相关单位将数据上报师(市)进行审核,审核合格后进行兵团数据的汇总和上报。具体的业务流程如图3所示。
图2 林果大数据分析应用平台网络拓扑示意Fig.2 The network topology of big data analysis and application platform of forestry and fruit industry
图3 林果大数据分析应用平台业务流程Fig.3 The business process of big data analysis and application platform of forestry and fruit industry
通过林果大数据分析应用平台除了进行数据收集和上报外,还可以通过通用共享数据接口技术实现林果产业相关数据在兵团不同管理部门的共享和发布功能,供不同部门进行查询、分析和决策,共享数据库详细流程如图4所示。
在实际应用中,基于大数据的农业农情大数据分析应用平台采用软件工程开发中的结构化和原型化相结合的方法,自上而下对系统进行功能解析和模块划分,主要完成了种植信息管理、林果信息管理、职工信息管理、组织机构信息管理、系统信息管理、林果数据统计分析等功能,具体功能模块如图5所示。
林果大数据分析应用平台支持定制化集成展示、业务数据管理、用户权限管理、可视化组件管理、多屏联合展示等相关内容的开发与应用,支持多种终端的自适应显示交互,并支持不同终端数据同步显示。林果大数据分析应用平台将兵团林果相关产业信息集中传输到系统平台中,通过模块化图形界面,将林果业的多类型繁杂数据通过柱状图、扇形图、地理信息系统的形式,对多种类、多元化、实时变化的信息进行集中展现,可以直观地分析出各师的不同种类林果业的种植面积、总收支情况、农业净收入比例等信息。兵团林果业种植面积分析模块具有空间查询和属性查询功能,能完成点击查询、条件查询、历史数据查询、空间相关分析等任务,可以方便地了解兵团不同行政区域间林果业的时空分布及其发展变动规律,具有全方位、多角度的直观性,界面如图6所示。利用大数据可视化管理技术和二三维可视化技术展现复杂信息,实现对海量数据的立体呈现。可视化技术通过模拟人脑的肉眼思考能力,挖掘多源数据之间的关联,将若干有关联性的数据进行汇总处理,可视化呈现揭示数据中隐含的规律和发展趋势,从而提高数据的使用效率,让决策者和用户能够更快捷和准确地实现信息的接收、分析和决策[20]。
图4 林果大数据分析应用平台共享数据库分解Fig.4 The detail sketch of the shared database of the big data analysis and application platform of forestry and fruit industry
图5 林果大数据分析应用平台功能模块Fig.5 The functions and applications of the big data analysis and application platform of forestry and fruit industry
兵团各师林果业总收支统计分析模块具有空间查询和经济分析功能,在完成各师林果业相关支出、收入等基础经济数据各种查询任务的基础上,可以结合当地经济发展指数(GDP、CPI等)进行关联性分析,系统了解当地林果产业对地方经济发展和人民生活水平的贡献率,为产业和民生协调发展、精准扶贫政策实施提供决策支持(图7)。林果地面积以连队为单位统计各连队管理的林地面积,每年年初按照实际情况上报。通过上报林地面积、果业地面积、大棚林地面积、种植支出、产品收入等基础信息,通过各级审核实现大数据的基础信息,兵团级用户按照师统计分析比较数据形成柱状图统计报表(图7)。
图6 兵团林果大数据分析应用平台分析界面Fig.6 The analysis interface of the big data analysis and application platform of forestry and fruit industry
图7 林果业种植总收支统计报表Fig.7 The revenue and expenditure statistics report of forest and fruit industry
兵团各师林果业净收入总占比模块具有信息查询、市场分析、品质管理等功能,该模块将兵团各师林果业收入信息与林果业市场信息进行相关分析,分析市场上重点林果业产品的价格分布、市场供需、产量品质等变化对兵团林果业的影响,从而为实现兵团林果业发展的优化调整提供决策支持(图8)。根据林果支出及收入情况得出各连队实际林果净收入情况,按照师统计出各师林果业总占比数据。
兵团林果业种植信息统计模块具有信息查询和分析统计等功能,该模块将兵团林果业种植与其它大田作物和设施农业种植进行综合分析,系统了解林果产业在兵团各师整个农业发展板块中的位置和能量,根据当地地理、生态、经济、技术等发展情况,对于农业不同种植类型进行适宜性区划和布局,为协调兵团整体农业和林果业综合生产和收入水平提供决策支持(图9)。平台集合兵团现有的体制分为兵、师(市)、团(镇)、连四级机构来分权限,兵、师(市)主要是对数据进行审核,团(镇)主要是分配确定负责上报人员,连队主要是调研及上报数据。
图8 各师林果业净收入总占比Fig.8 Total ratio of the net income from forestry and fruit industry for each district of XPCC
图9 林果业种植统计报表Fig.9 Statistics report for forest and fruit industry
兵团系统组织机构管理模块具有各师部、各团部人员权限分配等功能,该模块将师部与团部的管理权限进行分配,使得不同角色与成员所查看编辑的内容更规范、合理,从而达到机构管理的功能(图10)。
系统角色管理功能模块具有角色创建与角色权限分配等功能,该模块将师部、团部、农户中不同职位、不同管理权限的人分别创建角色权限,实现多角色共同使用、管理系统的功能,管理界面如图11所示。
图10 系统组织机构管理功能Fig.10 Organizational structure and management system
图11 系统角色管理功能Fig.11 Management of system roles
本文通过分析兵团林果业现状,论证了新疆兵团林果大数据平台构建的可行性和应用价值,通过汇聚农户基本信息、林果业基础信息、政务基础信息,设计了服务于兵团林果全产业链的大数据采集、监测、预警、预测、决策的大数据平台。兵团林果大数据分析应用平台通过物联网智能感知设备实现林果业海量动态数据实时采集与存储,综合应用数据诊断、聚合与分析方法挖掘数据内在价值并转换为实际生产管理信息。
基于大数据的林果业信息管理系统,解决了以下三方面难题:兵团林果业数据采集规范不统一,标准不健全;兵团林果业系统与其他业务部门间数据采集、上报等管理标准不统一、共享程度不高的问题;兵团林果大数据决策不准确和发布不及时的问题。同时,平台能够实现对林果业数据的分类统计和分析,并将统计数据在兵团各单位间共享,供其参考和决策。
为提升林果大数据的应用价值,在下一步的建设中,将进一步整合兵团涉农数据资产,建设兵团农业农村“数字大脑”;以善政为基础,建设农业政务综合管理平台;以兴业为重点,建设农业产业互联网平台;以惠民为目标,建设农村农民综合服务平台;从这四个方面对平台智能决策分析功能进行进一步完善。