基于SVR组合模型的边坡位移预测研究

刘小生 于 良 冯腾飞

(江西理工大学建筑与测绘工程学院，江西 赣州 341000)

边坡变形是现今边坡普遍存在的现象，伴随着矿产越来越多的开采，边坡变形超限造成滑坡泥石流等灾难也越来越多。因此做好边坡预测、掌握矿山边坡变形的趋势，提前做好滑坡的准备，降低灾害所带来的损失具有重要的研究意义。

现今，传统的预测模型有许多不足[1]。而支持向量机(Support Vector Machine,简称SVM)能较好地解决以往困扰很多学习方法的小样本、非线性、过学习、高维数、局部极小点等实际问题，具有很强的泛化能力[2]。 为了使支持向量机更好地运用到边坡位移预测中，近年来不少学者对支持向量机中参数寻优方法进行了改进研究。一是用网格搜索法对支持向量机中参数进行寻优，但此种方法计算工作量大，必须是可行域单项逼近，所以计算时间随变量个数的增加而急剧增加，且可行域单项逼近并非就是最佳路线[3]，因此又称“穷举法”；二是用遗传算法对支持向量机中参数寻优，但是此法编程复杂，首先对问题要进行编码，当得到最优解后要进行解码，在算法实现过程中要用到许多参数，而设置这些参数大部分是依靠经验，严重影响解的质量，另外算法搜索速度较慢[4]；三是用标准粒子群算法对支持向量机中参数寻优，但是由于粒子总是向当前最优位置移动，导致粒子的多样性不足，易产生趋同性，使粒子群算法在解决高维多极值问题时，容易陷入局部最优[5]。

针对以往常用的3种基于参数寻优方法的支持向量机预测方法的不足，不少学者对其3种方法做了大量的改进，其中对标准粒子群算法的改进主要从初始种群的生成、惯性权重、学习因子、拓扑结构或与其他算法混合等[6]。为此本研究将标准粒子群的惯性权重改为自适应惯性权重，目的是为了增加粒子多样性，避免粒子出现趋同性，陷入局部最优等不足，从而提高模型应用于边坡位移预测的效果。

1 基于SVR的组合模型构建

1.1 自惯性权重PSO算法

标准粒子群优化算法(Particle Swan Optimi zation,简称PSO)是由美国科学家J.Kennedy和R.Eberhart提出[7]。本研究运用自适应惯性权重对PSO算法中的惯性权重进行改进[8-9]，即：设第k次迭代中粒子i的适应值为fi，最优粒子的适应值为fm，粒子群的平均适应度值为

(1)

(2)

(3)fi次于fave。这些粒子为群体中较差的的粒子，应赋予递减的趋势的惯性权重w，按下式进行。

(3)

根据求出的惯性权重w带入标准粒子群算法中，求算出最佳的支持向量机参数。

1.2 支持向量回归机

支持向量机是由Vapnik基于统计学习理论提出的一种机器学习方法。目前分为支持向量分类机和支持向量回归机[10]。支持向量回归机(support vector regression machine,简称SVR)是回归预测的一种方法[11]。基本原理为给定监测数据{xi,yi|i=1,2,…，n},xi∈Rd为输入值，yi∈Rd为输出值，如果训练集是线性可分的，设表达式为

y(x)=ω·φ(xi)+b,

(4)

式中，ω为权值向量；b为偏差。由优化目标的对偶形式,获得最大化函数：

(5)

(6)

如果是线性不可分可以通过核函数非线性映射投影到高维空间，使得数据在高维空间变得线性可分。核函数是支持向量机中最重要的问题之一，如何选择合适的核函数也是支持向量机现如今的一个难题之一，目前常用的核函数有线性核函数、多项式核函数、高斯核函数、Sigmoid核函数。即函数y(x)的表达式变为

(7)

1.3 自适应惯性权重PSO的SVR组合预测模型

基于SVR预测模型中参数由人工设定，导致参数选择不准确，带来预测值存在很大的误差。因此，对基于SVR预测模型中的参数运用PSO算法进行寻优，促使预测值较之前精度有很大提高；但由于PSO算法在解决高维多极值问题时，容易陷入局部最优，为此，本研究提出自适应惯性权重PSO算法的SVR预测组合模型，其具体思想如下。

(1)对原始数据做数据预处理。原始数据难免存在奇异值，运用“3δ准测”剔除奇异值，将剔除的奇异值“断链”现象运用内在物理联系、线性内插法、多项式曲线拟合等进行插补，由于所研究的数据可能不在同一个量纲单位或为加快预测组合模型运行速度，因此需要对样本数据进行标准化处理，将样本数据归一化到区间[-1，1]中。

(2)建立支持向量回归机。支持向量回归机寻求的是一个线性回归方程(函数y=g(x))去拟合所有的样本点，也就是使用y=g(x)来推断任意输入x所对应的输出值。求解回归方程可以将其简化为一个求二次凸规划问题，运用最小贯序列方法(Sequential Minimal Optimization,简称SMO)等求解，依据“相似程度”的概念来选取适当的核函数，本研究采用RBF核函数。

(3)运用自适应惯性权重PSO算法参数寻优。给定随机初始化粒子的位置和速度，并对惯性权重w进行赋值，再计算各粒子的个体适应度，并找出所有粒子适应度的最优值，再根据适应度利用自适应惯性权重更新公式对w进行更新，利用速度更新公式对粒子的速度更新，进而得到新的粒子位置。每次迭代之后都要重新计算适应值，根据适应度利用自适应惯性权重更新公式对w进行更新，并重新找出所有粒子的最优位置和每个粒子的自身历史最优位置，依次循环，直到得到最后的寻优结果。算法执行过程中，粒子不断向着更加接近最优解(自身历史最优和全局最优)的方向前进。

以上就是自适应惯性权重PSO算法的SVR预测组合模型的具体流程，具体流程图如图1所示。

图1 组合模型构建流程Fig.1 Flow chart of combination model building

2 工程实例

2.1 矿山边破滑坡位移数据

为了验证基于自适应惯性权重PSO算法的支持向量机边坡位移预测模型可行性，选用某矿边坡滑坡位移数据作为本研究原时序列数据，其滑坡体是2005年施工中出现的较大滑坡体，且变形较大，对其主滑方向3#监测点进行监测，监测数据如表1所示。

表1 滑坡位移监测资料Table 1 Data of landslide displacement monitoring

2.2 边坡位移预测过程

选用表1中第1～20时序的20个滑坡位移数据作为学习样本，第21～25时序的5个位移监测值作为测试样本，其中基于自适应惯性权重PSO算法的SVR组合预测模型步骤如下：①对原始序列1～20学习样本数据和21～25测试样本数据预处理;②将处理后的数据导入基于自适应惯性权重PSO算法的SVR组合预测模型，先训练前20期数据，预测第21期数据;③将第21期样本数据加入到训练样本中，同时保持总训练样本数不变，依次预测至25期，记录并与实测值比较。

实验平台采用faruto等人基于MATLAB数学软件开发设计的加强版LIBSVM3.1-[FarutoULtimate 3.1Mcode]工具箱进行测试。用均方误差MSE作为评价指标：

(8)

其中，xi(i=1,...,n)是真实值；yi(i=1,...,n)是预测值。

MSE越接近零，预测效果越好。参数寻优结果如图2。

图2 粒子适应度MSE曲线Fig.2 Particle fitness MSE diagram◆—最佳适应度；○—平均适应度

为方便分析自适应惯性权重PSO算法的SVR组合预测模型所得结果优越性，又采用基于灰色预测型、基于传统SVR预测模型进行了预测。与真实值对比结果如图3、图4、图5所示。

图3 组合模型Fig.3 Combination model◆—实测值；●—预测值

图4 传统SVR模型Fig.4 Traditional SVR model◆—实测值；●—预测值

图5 灰色模型Fig.5 Grey model◆—实测值；●—预测值

2.3 结果分析

灰色模型、SVR模型、自惯性权重PSO的SVR组合模型预测误差用相对误差Erep表示：

(9)

3种方法相对误差对比结果如表2所示。从表2中可以看出灰色模型最大、最小相对误差为20.2%、13.6%；SVR模型最大、最小相对误差为8.57%、2.34%；自惯性权重PSO的SVR组合预测模型最大、最小相对误差为2.85%、0.13%。从灰色预测模型与基于传统SVR预测模型结果对比，说明支持向量机在预测方面比传统的方法预测更为准确。对于基于SVR预测模型和自适应惯性权重PSO算法的SVR组合预测模型预测结果对比，可以看出支持向量机能够改进并能在循序渐进的改进中带来相应的精度提高。由此可以验证自适应惯性权重PSO算法的SVR组合预测模型在边坡预测中有更高的精度，尤其相对于传统灰色预测模型来讲精度提高16个百分点左右。

表2 滑坡位移预测值Table 2 Forecasted values of landslide displacements

3 结 语

支持向量机是机器学习算法中较为前沿的算法，在解决有限样本预测问题中有较好的效果，在边坡预测中得到了广泛的认可。实验证明自适应惯性权重PSO算法的SVR组合预测模型可运用到边坡预测中，且与传统预测模型对比，精度上有较大的提高。

[1] 任 超,梁月吉,庞光锋,等.经验模态分解和遗传小波神经网络法用于边坡变形预测[J].测绘科学技术学报,2014,31(6):551-555.

Ren Chao,Liang Yueji,Pang Guangfeng,et al.The empirical mode decomposition and genetic algorithm wavelet neural network for slope deformation prediction research[J].Journal of Geomatics Science and Technology,2014,31(6):551-555.

[2] 刘春雨.改进的支持向量机的理论研究及应用[D].咸阳：西北农林科技大学,2016.

Liu Chunyu.Theoretical Research and Application on Improved SVM[D].Xianyang:Northwest A & F University,2016.

[3] 郭美丽,覃锡忠,贾振红,等.基于改进的网格搜索SVR的话务预测模型[J].计算机工程与科学,2014,36(4):707-712.

Guo Meili,Qin Xizhong,Jia Zhenhong,et al.The prediction model of traffic based on improved grid search SVR[J].Computer Engineering & Science,2014,36(4):707-712.

[4] 潘国荣,谷 川.改进的遗传算法用于工业测量数据处理[J].大地测量与地球动力学,2008,28(1):55-58.

Pan Guorong,Gu Chuan.Application of improved genetic algorithm in industral surveying data processing[J].Journal of Geodesy and Geodynamics,2008,28(1):55-58.

[5] Eberhart R C,Kennedy J.A new optimizer using particle swarm theory[C]∥Proc of the Sixth International Symposium on Micro Machine and Human Science.Nagoya,Japan:[s.n.],1995:39-43.

[6] 王志刚.基于粒子群和人工蜂群算法的混合优化算法[J].科学技术与工程,2012,12(20):4921-4925.

Wang Zhigang.Hybrid optimization algorithm based on particle swarm optimization and artificial bee colony Al Grithm[J].Science Technology and Engineering,2012,12(20):4921-4925.

[7] Kennedy J,Eberhart R C.Particle swarm optimization[C]∥Proceedings of IEEE International Conference on Neural Networks.Piscataway,NJ:IEEE Press,1995:1942-1948.

[8] 韩江洪,李正荣,魏振春.一种自适应粒子群优化算法及其仿真研究[J].系统仿真学报,2006,18(10):2969-2971.

Han Jianghong,Li Zhengrong,Wei Zhenchun.Adaptive particle swarm optimization algorithm and simulation[J].Journal of System Simulation,2006,18(10):2969-2971.

[9] 唐雪琴,王 侃,徐宗昌,等.基于MAPSO算法的小波神经网络训练方法研究[J].系统仿真学报,2012,24(3):608-612.

Tang Xueqin,Wang Kan,Xu Zongchang,et al.Research on WNN training algorithm based on MAPSO algorithm[J].Journal of System Simulation,2012,24(3):608-612.

[10] 赵朝贺.一种改进的支持向量机参数优化方法[J].地理空间信息,2017,15(1):53-55.

Zhao Chaohe.Improved optimization method for support vector machine parameter[J].Geospatial Information,2017,15(1):53-55.

[11] 段锁林,任珏朋,毛 丹,等.基于改进的PSO优化SVM火灾火焰识别算法研究[J].计算机测量与控制,2016,24(4):202-205.

Duan Suolin,Ren Juepeng,Mao Dan,et al.Fire flame recognition algorithm based on particle swarm optimization-based SVM[J].Computer Measurement & Control,2016,24(4):202-205.