基于深度稀疏学习的土壤近红外光谱分析预测模型

王儒敬, 陈天娇, 汪玉冰, 汪六三, 谢成军, 张 洁, 李 瑞, 陈红波

(中国科学院 合肥智能机械研究所, 安徽 合肥 230031)



基于深度稀疏学习的土壤近红外光谱分析预测模型

王儒敬, 陈天娇*, 汪玉冰, 汪六三, 谢成军, 张 洁, 李 瑞, 陈红波

(中国科学院 合肥智能机械研究所, 安徽 合肥 230031)

提出一种基于深度稀疏学习的土壤近红外光谱分析预测模型。首先，使用稀疏特征学习方法对土壤近红外光谱数据进行约简，实现土壤近红外光谱内容的稀疏表示；然后采用径向基函数神经网络以稀疏表示特征系数为输入，以所测土壤成分为输出，分别建立土壤有机质、速效磷、速效钾的非线性预测模型。结果表明用该模型预测土壤有机质的含量是可行的，但对土壤速效磷和速效钾含量的预测还需对模型做进一步的优化。

土壤近红外光谱； 深度稀疏学习; 神经网络模型

1 引 言

近年来，国家为了能准确掌握土壤养分分布信息,每年都要投入几十甚至上百亿元的专项资金 在全国范围内实施推广测土配方施肥工作，采用网格式定点取样和实验室分析检测相结合的方法。然而，传统的土壤检测方法存在着一系列的弊端，不仅需要投入大量的人力物力，检测时间长，成本高，而且所使用的化学药品对环境也具有一定的污染性[1]。近红外光谱分析方法具有操作简便、成本低廉、耗时短、绿色无污染等优点[2]，近年来，可见/近红外光谱已被国内外学者广泛应用于土壤多种养分含量的检测中。近红外光谱分析方法是一种间接校正方法，分析的准确性和鲁棒性取决于所建预测模型的质量[3]。目前，人们主要使用线性和非线性的多元校正方法进行可见/近红外光谱模型的搭建。在土壤近红外光谱分析中，建立定量分析模型的线性方法主要有多元线性回归(MLR)、主成分回归(PCR)、偏最小二乘(PLS)以及局部权重的偏最小二乘回归(LWPLS)等，其中 PLS 是目前主流的线性定量分析建模方法。何勇等[4-5]采用NIRS结合偏最小二乘回归方法对土壤中有机质和三大营养元素的含量进行了回归建模分析。朱登胜等[6]用偏最小二乘回归方法对经简单处理土样的有机质含量和pH 值进行了研究。李伟等[7]采用偏最小二乘法和人工神经网络方法分别建立了0.9 mm 筛的风干土壤碱解氮、速效磷和速效钾含量预测的近红外光谱分析模型, 结果表明，人工神经网络方法所建立的校正模型优于偏最小二乘法所建立的模型。Mouazen等[8]结合偏最小二乘回归和BP神经网络建立了预测模型，其效果优于偏最小二乘和主成分回归模型。这些线性方法在解决非线性的土壤各项指标预测问题上均具有一定的局限性。近年来，学者们又开始研究将一些非线性回归或者分类预测方法与土壤近红外光谱数据结合起来进行建模，以充分发掘待测样品组分与采集的光谱数据之间的非线性关系，如神经网络(BP算法)、支持向量回归等，这些方法在解决非线性问题与模型抗干扰方面比PLS等优越[9-10]。神经网络常用的方法有BP[11-15]、自组织映射[16-19]和径向基函数神经网络[20-22]。

深度学习本质是复杂的非线性模型的学习。从机器学习的发展史来看，深度学习的兴起代表着机器学习技术的自然演进，自2006年被Hinton等[23]提出以来，已被成功地应用到图像处理、语音处理、自然语言处理等多个领域，取得了巨大成功，成为当今具有代表性的IT先进技术[24-25]。光谱数据量大且冗余，如何有效地表示光谱信号是近红外土壤预测处理的基础，而高效的表示又要求用较少的信息(如数据压缩、特征抽取等)来描述光谱的重要特征。由于土壤近红外光谱信息获取的时间连续性与空间关联性，土壤样本近红外光谱数据包含有大量冗余，有必要去除土壤近红外光谱冗余信息，实现土壤近红外光谱内容的非线性表示，提高光谱表示能力。作为深度学习模型之一的稀疏表示学习是一种无监督学习方法，它用来寻找一组“超完备”基向量来更高效地表示样本数据。数据的稀疏表示可以降低数据处理的成本，提高压缩效率[26-27]。对光谱信号的稀疏表示涉及冗余字典的选取，MOD、MAD、FOCUSS、K-SVD[28]等字典训练算法已具备利用近红外光谱完成冗余字典的训练能力。

本文对室内光谱仪测量的土壤近红外反射率光谱进行研究,尝试使用土壤近红外光谱在训练字典深度稀疏特征学习下结合径向基函数神经网络的回归校正方法来预测土壤的有机质、速效磷和速效钾含量，研究了土壤近红外光谱在冗余字典的稀疏分解下结合径向基函数神经网络的回归预测方法能否显著提高土壤重要成分含量的预测性能。

2 实 验

2.1土壤样本的采集

供试土样来自安徽省亳州市蒙城县某农场的田块。采样时分别选择某一小区，在小区4个角落和其对角线的交点处分别采样，采样深度为30 cm，然后将这些样本混合作为一个土样。总共采集了420个土样，随机选取400个样本作为校正集，其余20个样本作为验证集，将样本分为 2 份以备后续试验使用，其中一份用于化学分析，另一份用于近红外分析。

2.2土壤养分的测量

分别采用常规化学分析方法获得校正集土壤样本中有机质( OM) 、速效磷( P) 、速效钾( K) 的测量结果，统计参数见表1。

表1 土壤化学成分统计参数

Tab.1 Statistical data of soil properties measured by chemical methods

OM/(g·kg-1)速效P/(mg·kg-1)速效K/(mg·kg-1)最小值10.46.3692最大值29.548.24256平均值18.728.35163标准偏差值1.172.786.8

3 土壤近红外光谱的稀疏表示

土壤近红外信息的时间和地理空间位置强相关，因而光谱结构复杂，数据量大，且包含有大量冗余。稀疏表示可以降低数据处理的成本，提高压缩效率，实现光谱降噪、压缩和有效的特征表示。另外，由于基于神经网络的非线性预测模型计算量很大，所以很有必要对光谱进行一定程度的稀疏降维。

在土壤近红外光谱信号的有限维空间Rn中, 近红外光谱y∈Rn可由一组稀疏基D=[d1d1...dk],dk∈Rn线性表示，y=Dx，如图1所示。矩阵D中列向量代表稀疏基, 若k>n,则认为D是冗余的(过完备、超完备),称为冗余字典。当训练样本数量较大时，此时的稀疏编码非常耗时，因此学习一个更加紧凑的并且具有稀疏表示能力的字典十分必要。

图1 稀疏表示

从线性组合角度看，可以将上述问题转换为式(1)所示的优化问题：

(1)

其中T0为稀疏表示系数中非零分量的数目的上限。对已知的光谱信号做预处理后(预处理方法见5.1)，应用非监督学习算法奇异值分解算法(K-SVD)创建过完备字典，求解如下优化问题：

(2)

Y=[y1,y2...yN]为已知样本的光谱信号集合，xi是某一个样本的稀疏表示向量，X=[x1,x2...xN]，因此通过解式(2)最优化问题，可以得出土壤近红外光谱的过完备训练字典D。

4 深度稀疏学习下的土壤近红外光谱预测模型

由于近红外光谱仪的状态、测量环境等因素对光谱的影响大多属于非线性的，还有一些质量参数和光谱的关系也是非线性的，所以最直接的解决方法是非线性校正方法。神经网络在处理高复杂度的非线性问题时有显著的优越性，常用的方法有BP神经网络和径向基函数神经网络等。在逼近能力、分类能力和学习速率等方面，径向基函数 (Radial basis function，RBF)网络表现出比 BP网络更优的性能，其结构如图2所示。

图2 RBF神经网络结构

隐含层是基于高斯径向基函数，其形式为:

(3)

输入层实现从光谱特征向量x→Ri(x)的非线性映射，输出层实现从Ri(x)→y的线性映射，即：

(4)

本文预测模型如图3所示，主要步骤如下：

(1)根据已知的光谱数据集应用非监督学习算法K-SVD创建过完备字典；

(2)求解校正集在字典上的稀疏系数；

(3)将校正集的稀疏系数作为输入层参数，与该光谱对应的样本的成分含量参数作为输出层参数，通过径向基函数神经网络训练RBF神经网络预测模型；

(4)求解验证集在字典上的稀疏系数，输入训练好的RBF网络,可得对验证集样本某一成分含量的预测值。

5 实验结果及其分析

5.1光谱数据的采集

将采集的土壤样本在室内摊开，风干、碾碎后，将土壤样本过1 mm的筛，然后用于光谱实验。

图3 光谱冗余字典稀疏表示下的RBF神经网络回归预测

实验中，采用卤素灯照射土壤表面，土壤的漫反射光谱通过光纤被可见光/近红外光谱仪(美国Ocean Optics公司的USB4000光谱仪和日本Hamamstu公司的TG-cooled NIR-2 光谱仪)接收，USB4000光谱仪的波长范围为350～1 000 nm，分辨率为1.5～2.3 nm；TG-cooled NIR-2光谱仪的波长范围为1 100～2 200 nm，最大光学分辨率为8 nm。

测量前根据仪器测量要求，调整好测量高度和角度，将被测土样放在培养皿，每一位置的测量次数为5次，每个样本的扫描次数为15次。平均处理后，将其按照lg(1/R)转换为吸光度，然后将数据导出进行谱图预处理。使用目前应用较广泛的Savitzky-Golay卷积平滑法和多元散射校正进一步对光谱数据进行预处理。一个土壤样本的光谱数据共有381个点，图4为校正集部分土壤样本的近红外光谱图。图中横坐标是波长(nm), 纵坐标为吸光度lg(1/R)。训练时每个样本去除原始光谱边缘不平滑区域，只取波长 600～2 000 nm的光谱信息使用。

图4 土壤的红外光谱

5.2光谱稀疏度对模型预测的影响

由于光谱数据中噪声的不确定性, 实验设置T0参数在6～15范围内分别对有机质、速效K和速效P模型预测结果进行观察。对校正集采取交叉验证, 可利用交叉验证标准差(SECV)来确定模型最佳预测结果下的稀疏度T0，图5表示了土壤成分有机质、速效P和速效K在不同稀疏度下的模型预测结果。当稀疏度为10时, 有机质、速效P和速效K模型的SECV基本均具有局部极小点。

5.3不同字典表示下的土壤成分预测

将校正集样本由小波字典、傅立叶字典以及训练字典下经过稀疏表示提取的稀疏系数作为RBF神经网络的输入变量分别建立预测模型, 再通过调整隐含层的节点数来优化网络结构。针对不同的土壤成分，经多次实验后, 得到土壤不同成分网络模型的最佳隐含层节点数,设定目标误差，其他参数设置为默认值。训练字典结合RBF网络模型的参数值如表2所示。用3种不同的字典结合RBF神经网络建模方法建立土壤有机质、速效磷和速效钾的含量预测模型，对验证集的20个样本进行预测，实验结果如表3～5所示。

图5 不同稀疏度下的模型预测结果。(a)有机质；(b)速效磷；(c)速效钾。

Fig.5 Prediction results under different sparsity. (a) OM. (b) Soil available P. (c) Soil available K.

表2 RBF网络模型参数值

表3 土壤有机质在不同字典表示下的建模方法的结果

Tab.3 Results of different modeling methods for soil available OM

字典R2RMSEP小波字典0.76940.3582傅里叶字典0.79210.2783训练字典0.87370.1420

表4 土壤速效磷在不同字典表示下的建模方法的结果

Tab.4 Results of different modeling methods for soil available P

字典R2RMSEP小波字典0.521810.8283傅里叶字典0.56829.8429训练字典0.68395.7320

表5 土壤速效钾在不同字典表示下的建模方法的结果

Tab.5 Results of different modeling methods for soil available K

字典R2RMSEP小波字典0.581014.6385傅立叶字典0.538913.9453训练字典0.66729.4376

如表3～5所示, 有机质、速效磷和速效钾的基于训练字典稀疏表示下结合RBF神经网络的预测模型的相关系数(R2：0.873 7,0.683 9，0.667 2)最大，预测集标准差(RMSEP：0.142 0, 5.732 0，9.437 6)最小,表明训练字典相比于现有的小波字典和傅立叶字典对土壤近红外光谱具有更好的表示能力。

5.4不同网络模型下的土壤成分预测

将校正集样本由训练字典下经过稀疏表示提取的稀疏系数作为BP神经网络和RBF神经网络的输入变量分别建立预测模型，再通过调整隐含层的节点数来优化网络结构。用训练字典结合RBF神经网络建模方法建立土壤有机质、速效磷和速效钾的含量预测模型，对验证集样本进行预测，实验结果如表6～8所示。

表6 土壤有机质在不同网络模型下的结果对比

Tab.6 Results of different modeling methods for soil available OM

网络模型R2RMSEPBP神经网络0.84290.2728RBF神经网络0.87370.1420

表7 土壤速效磷在不同网络模型下的结果对比

Tab.7 Results of different modeling methods for soil available P

网络模型R2RMSEPBP神经网络0.65729.1029RBF神经网络0.68395.7320

如表6～8所示, 有机质、速效磷和速效钾的基于训练字典稀疏表示下结合RBF神经网络的预测模型的相关系数(R2：0.873 7, 0.683 9，0.6672)最大(图6)，预测集标准差(RMSEP：0.1420, 5.7320，9.4376)最小,表明RBF网络对土壤近红外光谱具有更好的预测能力。同时，有机质的预测模型相关度为0.873 7，预测集标准差为0.142 0, 表明该方法预测土壤有机质含量是可行的。但对土壤速效磷和速效钾含量的预测并不是特别理想, 还有待进一步研究。

图6 RBF模型预测值和测定值之间的关系。(a)有机质；(b)速效磷；(c)速效钾。

Fig.6 Correlativity between the predicted data of the RBF model and measured data. (a) OM. (b) Soil available P. (c) Soil available K.

表8 土壤速效钾在不同网络模型下的结果对比

Tab.8 Results of different modeling methods for soil available K

网络模型R2RMSEPBP神经网络0.531012.3241RBF神经网络0.66729.4376

6 结 论

本文基于深度稀疏学习特征和神经网络方法，利用近红外光谱数据分别建立了土壤有机质、速效磷、速效钾预测模型,并对其预测结果进行验证。结果表明：对土壤有机质、速效磷和速效钾验证集样本的预测相关度分别为0.873 7、0.683 9和0.6672，均方根误差分别为0.142 0、5.732 0和9.437 6，相对误差绝对平均值分别为2.18%、4.09 %和5.38%。这说明采用本文方法对土壤有机质进行预测是可行的，针对土壤速效钾和速效磷含量的预测需对该模型进一步优化和研究。随着土壤近红外光谱检测研究的深入，光谱数据势必呈几何级数增长。在分析理解这些海量数据时，该模型的健壮性受限，需进一步研究可以更为深层次刻画近红外吸收光谱参数与样品含量化学测定值之间的非线性关系预测模型。

[1] 隋方功, 李俊良. 土壤农化分析实验 [M]. 北京: 中国农业大学出版社, 2004. SUI F G, LI J L.AgrochemicalSoilAnalysisExperiment[M]. Beijing: China Agriculture Press, 2004. (in Chinese)

[2] 陆婉珍. 现代近红外光谱分析技术 [M]. 2版. 北京: 中国石化出版社, 2007. LU W Z.ModernNearInfraredSpectroscopyAnalyticatTechnology[M]. 2nd ed. Beijing: China Petrochemical Press, 2007. (in Chinese)

[3] 褚小立, 陆婉珍. 近五年我国近红外光谱分析技术研究与应用进展 [J]. 光谱学与光谱分析, 2014, 34(10): 2595-2605. CHU X L, LU W Z. Research and application progress of near infrared spectroscopy analytical technology in China in the past five years [J].Spectrosc.Spect.Anal., 2014, 34(10):2595-2605. (in Chinese)

[4] HE Y, HUANG M, GARCA A,etal.. Prediction of soil macronutrients content using near-infrared spectroscopy[J].Comput.Electron.Agric., 2007, 58(2):144-153.

[5] 鲍一丹, 何勇, 方慧, 等. 土壤的光谱特征及氮含量的预测研究 [J]. 光谱学与光谱分析, 2001, 27(1):62-65. BAO Y D, HE Y, FANG H,etal.. Spectral characterization and N content prediction of soil with different particle size and moisture content [J].Spectrosc.Spect.Anal., 2001, 27(1):62-65. (in Chinese)

[6] 朱登胜, 吴迪, 宋海燕, 等. 应用近红外光谱法测定土壤的有机质和pH值 [J]. 农业工程学报, 2008, 24(6): 196-199. ZHU D S, WU D, SONG H Y,etal.. Determination of organic matter contents and pH values of soil using near infrared spectroscopy [J].Trans.CSAE, 2008, 24(6):196-199. (in Chinese)

[7] 李伟, 张书慧, 张倩, 等. 近红外光谱法快速测定土壤碱解氮、速效磷和速效钾含量 [J]. 农业工程学报, 2007, 23(1):55-59. LI W, ZHANG S H, ZHANG Q,etal.. Rapid prediction of available N, P and K content in soil using near-infrared reflectance spectroscopy[J].Trans.CSAE, 2007, 23(1):55-59. (in Chinese)

[8] MOUAZEN A M, KUANG B, DE BAERDEMAEKER J,etal.. Comparison among principal component, partial least squares and back propagation neural network analyses for accuracy of measurement of selected soil properties with visible and near infrared spectroscopy [J].Geoderma, 2010, 158(1-2):23-31.

[9] 许禄, 邵学广. 化学计量学方法 [M]. 2版. 北京: 科学出版社, 2004. XU L, SHAO X G.ChemometricMethods[M]. 2nd ed. Beijing: Science Press, 2004. (in Chinese)

[10] 褚小立. 化学计量学方法与分子光谱分析技术 [M]. 北京: 化学工业出版社, 2011. CHU X L.MolecularSpectroscopyAnalyticalTechnologyCombinedwithChemometricsanditsApplications[M]. Beijing: Chemical Industry Press, 2011. (in Chinese)

[11] 蒋宗礼. 人工神经网络导论 [M]. 北京: 高等教育出版社, 2001:8. JIANG Z L.IntroductiontoAritificialNeuralNetworks[M]. Beijing: Higher Education Press, 2001:8. (in Chinese)

[12] HAYKIN S. 神经网络与机器学习 [M]. 申富饶, 徐烨, 郑俊, 等, 译. 3版. 北京: 机械工业出版社, 2011:3. HAYKIN S.NeuralNetworksandLearningMachines[M]. SHEN F R, XU Y, ZHENG J,etal.. Trans. 3rd ed. Beijing: Mechanical Industry Press, 2011:3. (in Chinese)

[13] 牛晓颖, 邵利敏, 赵志磊, 等. 基于BP-ANN的草莓品种近红外光谱无损鉴别方法研究 [J]. 光谱学与光谱分析, 2012, 32(8):2095-2099. NIU X Y, SHAO L M, ZHAO Z L,etal.. Nondestructive discrimination of strawberry varieties by NIR and BP-ANN [J].Spectrosc.Spect.Anal., 2012, 32(8):2095-2099. (in Chinese)

[14] QU Z H, WANG L H. Prediction of lignin content of manchurian walnut by BP neural network and near-infrared spectroscopy [J].Adv.Mater.Res., 2011, 267:991-994.

[15] 郑立华, 李民赞, 潘娈, 等. 基于近红外光谱技术的土壤参数BP神经网络预测 [J]. 光谱学与光谱分析, 2008, 28(5):1160-1164. ZHENG L H, LI M Z, PAN L,etal.. Estimation of soil organic matter and soil total nitrogen based on NIR spectroscopy and BP neural network [J].Spectrosc.Spect.Anal., 2008, 28(5):1160-1164. (in Chinese)

[16] VESANTO J, ALHONIEMI E. Clustering of the self-organizing map [J].IEEETrans.NeuralNetw., 2000, 11(3): 586-600.

[17] KOHONEN T. Essentials of the self-organizing map [J].NeuralNetw., 2013, 37:52-65.

[18] CRÉPUT J C, HAJJAM A, KOUKAM A,etal.. Self-organizing maps in population based metaheuristic to the dynamic vehicle routing problem [J].J.Comb.Optim., 2012, 24(4):437-458.

[19] BALLABIO D, VASIGHI M. A MATLAB toolbox for self organizing maps and supervised neural network learning strategies [J].Chemom.Intell.Lab.Syst., 2012, 118:24-32.

[20] HUANG G B, SARATCHANDRAN P, SUNDARARAJAN N. A generalized growing and pruning RBF (GGAP-RBF) neural network for function approximation [J].IEEETrans.NeuralNetw., 2005, 16(1):57-67.

[21] MELAGRAKI G, AFANTITIS A, MAKRIDIMA K,etal.. Prediction of toxicity using a novel RBF neural network training methodology[J].J.Mol.Model., 2006, 12(3):297-305.

[22] MELAGRAKI G, AFANTITIS A, MAKRIDIMA K,etal.. Prediction of toxicity using a novel RBF neural network training methodology [J].J.Mol.Model., 2006, 12(3):297-305.

[23] HINTON G E, SALAKHUTDINOV R R. Reducing the dimensionality of data with neural networks[J].Science, 2006, 313(5786):504-507.

[24] 余凯, 贾磊, 陈雨强, 等. 深度学习的昨天、今天和明天 [J]. 计算机研究与发展, 2013, 50(9):1799-1804. YU K, JIA L, CHEN Y Q,etal.. Deep learning: yesterday, today, and tomorrow [J].J.Comput.Res.Dev., 2013, 50(9):1799-1804. (in Chinese)

[25] 刘建伟, 刘媛, 罗雄麟. 深度学习研究进展 [J]. 计算机应用研究, 2014, 31(7):1921-1930. LIU J W, LIU Y, LUO X L. Research and development on deep learning [J].Appl.Comput.Res., 2014, 31(7):1921-1930. (in Chinese)

[26] DONOHO D L. Compressed sensing [J].IEEETrans.Inf.Theory, 2006, 52(4):1289-1306.

[27] ZHANG C M, YIN Z K, CHEN X D,etal.. Signal overcomplete representation and sparse decomposition based on redundant dictionaries [J].Chin.Sci.Bull., 2005, 50(23):2672-2677.

[28] AHARON M, ELAD M, BRUCKSTEIN A. rmK-SVD: an algorithm for designing overcomplete dictionaries for sparse representation [J].IEEETrans.SignalProcess., 2006, 54(11):4311-4322.

王儒敬(1964-)，男，安徽亳州人，博士，研究员，2004年于中国科技大学获博士学位,主要从事农业智能系统的理论、方法与技术的研究。

E-mail: rjwang@iim.ac.cn陈天娇(1989-)，女，安徽宿州人，硕士,2014年于安徽大学获得硕士学位，主要从事模式识别等方面的研究。

E-mail: 708877137@qq.com

Soil Near-infrared Spectroscopy Prediction Model Based on Deep Sparse Learning

WANG Ru-jing, CHEN Tian-jiao*, WANG Yu-bing, WANG Liu-san, XIE Cheng-jun, ZHANG Jie, LI Rui, CHEN Hong-bo

(InstituteofIntelligentMachines,ChineseAcademyofSciences,Hefei230031,China)
*CorrespondingAuthor,E-mail: 708877137@qq.com

This paper presents a soil near-infrared spectroscopy prediction model based on sparse representation and radial basis function neural. The model first makes the soil near-infrared large spectroscopy data to be sparse, then the model uses radial basis function neural network with sparse representation coefficients as input and the measured soil composition value by chemical methods as output to establish effective nonlinear predictive model of soil organic matter, available phosphorus and potassium respectively. The results show that the model is feasible to predict soil organic matter content, but the model needs to be further optimized on the soil phosphorus or potassium effective prediction.

near-infrared spectroscopy; deep sparse learning; neural network model

2016-06-29；

2016-08-23

中国科学院科技服务网络计划(KFJ-EW-STS-069)； 国家自然科学基金(31671586)资助项目 Supported by Science and Technology Service Network Initiative of Chinese Science Academy(KFJ-EW-STS-069); National Natural Science foundation of China(31671586)

1000-7032(2017)01-0109-08

O235

A

10.3788/fgxb20173801.0109