基于混合蚁群和粒子群优化LSSVM的脉动风速预测

李春祥， 丁晓达, 叶继红

(1.上海大学 土木工程系，上海 200072； 2.东南大学 混凝土与预应力混凝土结构教育部重点实验室，南京 210018)



基于混合蚁群和粒子群优化LSSVM的脉动风速预测

李春祥1， 丁晓达1, 叶继红2

(1.上海大学 土木工程系，上海 200072； 2.东南大学 混凝土与预应力混凝土结构教育部重点实验室，南京 210018)

为提高最小二乘支持向量机(LSSVM)对脉动风速预测的精确性，提出了基于混合蚁群和粒子群优化LSSVM的预测方法。对LSSVM参数进行搜索寻优，主要分为两阶段：第一阶段，利用蚁群算法在参数空间进行全局搜索，实现对LSSVM参数的初步寻优；第二阶段，利用蚁群算法获得的寻优结果初始化粒子群粒子位置，实行进一步的粒子群搜索寻优，获得更为精确的LSSVM。运用基于混合蚁群和粒子群优化的LSSVM对脉动风速时程进行预测，并与分别基于蚁群和粒子群优化的LSSSVM预测结果进行对比。数值分析表明，基于混合蚁群和粒子群优化的LSSVM预测方法精度高、鲁棒性强，具有工程应用前景。

脉动风速预测；最小二乘支持向量机；混合智能优化；蚁群算法；粒子群算法

风振时域计算分析，可以更全面地了解超高层建筑、大跨桥梁和空间结构等的风振响应特性以及风致振动控制的有效性。风速通常分为平均风速和脉动风速，其中脉动风速具有随机特征，其周期较短，更接近结构的自振周期，使结构可能发生顺风向振动、横风向驰振、漩涡脱落、扭转发散振动以及其它耦合振动的风致随机振动[1]。因此，掌握完整的脉动风速时程资料，对结构设计具有重要意义。而我们知道，实测、数值模拟与预测是建立脉动风速数据库的手段。

随着信息科学和技术的迅速发展，基于智能优化的LSSVM来预测脉动风速已经获得很大的发展。智能优化主要有蚁群算法、遗传算法和粒子群算法等，这些优化算法可以增强对LSSVM参数的寻优能力。其中，粒子群算法因其运算速度快，计算能力强等优点，获得了广泛的应用。但是，粒子群算法容易过早收敛且搜索的精度较低，使得其开发能力受到很大的限制。最近几年，许多研究者通过一些调整措施改善了粒子群算法的开发能力[2-4]。本文结合蚁群算法具有全局搜索能力强、搜索精度高的特点，通过蚁群和粒子群混合来改善粒子群算法的参数搜索能力，在保证运算速度的前提下，提高整个算法的参数寻优效率，以获得预测精度高、鲁棒稳定性强的LSSVM。接着，运用混合智能优化的LSSVM对脉动风速时程样本进行预测，并与分别基于蚁群和粒子群优化的LSSSVM预测结果进行对比。

1 最小二乘支持向量机

最小二乘支持向量机(LSSSVM)[5]将最小二乘线性理论引入到支持向量机(SVM)中，取代向量机利用传统的二次规划来解决函数估计问题，把传统支持向量机中的不等式约束变为等式约束。基本原理是：对于一个训练样本集D={(xi,yi)|i=1,2,…,N}，xi∈Rn，yi∈R，其中xi为输入数据，yi为输出数据，LSSSVM就是用一非线性映射φ(·)将样本从原空间Rn映射到特征空间φ(xi)，将非线性回归问题转变成高维特征空间的线性回归问题，在这个高维特征空间中，构造最优决策函数，最后反映射到原空间完成线性回归。LSSSVM的线性回归函数为：

y(x)=ωTφ(x)+b

(1)

式中：φ(·)非线性变换映射函数；ω为权向量；b为偏置量。

基于结构风险最小化原理，LSSSVM的目标函数可描述为：

(2)

约束条件：yi=ωTφ(xi)+b+ei,i=1,2,…,N，其中，γ为正则化参数且γ>0；ei为误差变量，b为偏差。在式(2)中引入拉格朗日函数，得式(3)：

L(ω,b,e,a)=

(3)

式中：αi为拉格朗日乘子，由KKT优化条件可得，

(4)

进一步消除式(4)中变量ω和e，得到矩阵方程：

(5)

式中:Ω=φ(xi)Tφ(xj)=K(xi,xj),i,j=1,2,…,N，K( )为核函数;Y=[y1,y2,…,yN]T,P=[1,…1]T;α=[α1,α2,…,αN]T;I为单位矩阵。LSSVM的函数估计可表示为：

(6)

式中:a，b可应用最小二乘法从方程式(5)中求得。

鉴于径向基核函数结构简单、泛化能力强，构造的LSSVM具有较强非线性预测能力。因此，本文选择径向基核函数作为LSSVM的核函数。径向基核函数的数学表达式

(7)

式中:σ表示核函数宽度。

根据LSSVM理论知，影响其学习和泛化能力的主要是核函数参数σ和正则化参数γ。

2 混合蚁群和粒子群优化算法原理

蚁群算法[6](ACO)是由意大利学者DORIGO和COLORNI受到自然界蚂蚁群体间信息正反馈的启发，通过模拟蚁群的觅食行为而提出的一种新型并行启发式算法。可看成是一种基于解空间参数化概率分布模型(Parameterized Probabilistic Model)的全局搜索方法[7]。在基于模型的搜索算法框架中，可行解通过在一个解空间参数化概率分布模型上的搜索而产生，此模型的参数用以前产生的解来进行更新，使得在新模型上的搜索能集中在高质量解的搜索空间内。其求解过程复杂度较大，迭代时间较长，容易出现停滞现象，但是其鲁棒性强，具有较好的全局寻优能力，易于与其它优化算法结合。

粒子群算法(PSO)是由 KENNEDY等[8]提出的一种基于群体智能的优化计算方法。该算法在对飞鸟集群行为观察的基础上，利用群体中的个体对信息的共享，实现整个群体从无序到有序的演化运动过程，从而获取最优解。粒子群算法概念和算法结构简单，迭代周期短，但往往需要更多的迭代次数才能找到最优解。同时，粒子群算法容易陷入局部最优，这使得粒子群算法的应用受到很大限制。

因此，为了避免二者的缺点并实现优势互补集中，将蚁群和粒子群算法进行混合，形成基于混合蚁群和粒子群的优化方法(ACO+PSO)。ACO+PSO混合算法主要分为两个阶段：第一阶段，采用蚁群算法进行全局搜索，确定最优解存在的区域；第二阶段，利用蚁群算法得到的寻优结果初始化粒子群算法，通过粒子群算法实现局部搜索，粒子群算法充分利用蚁群搜索得到的信息，又不依赖于梯度，在非凸空间的高效搜索，使得整个优化算法的优化效率和计算精度得到很大提高。为了保证第二阶段粒子群算法的全局寻优能力，用蚁群寻优结果初始化的PSO粒子应与其它的初始化粒子保持最大欧氏距离(Euclidean distance)[9]。

基于混合蚁群和粒子群的优化算法步骤如下：① 初始化蚁群算法的相关参数，对需要优化的参数进行蚁群搜索寻优。将满足蚁群寻优结果的蚂蚁位置放入集合XACO。② 使用蚁群优化算法得到的集合XACO初始化粒子群中NACO个粒子的初始位置，随机选择剩余粒子位置Xrnd,j(j=1,2,…,NPSO-NACO)。其中，NACO表示用蚁群算法得到的优化解个数，NPSO表示粒子群中粒子个数。③ 用粒子群算法进行进一步的迭代寻优，获得更加精确的解。

3 基于混合蚁群和粒子群优化(ACO+PSO)的LSSVM

基于混合蚁群和粒子群优化的LSSVM流程图如图1所示。基于混合蚁群和粒子群优化的LSSVM流程如下：

图1 基于混合蚁群和粒子群优化的LSSVM流程图Fig.1 Flowchart of hybridizing ant colony and particle swarm optimization based LSSVM

(1) 根据已知的脉动风速样本，建立训练集和测试集，并用下式进行归一化处理。

(8)

(2) 设置蚁群规NACO、最大迭代次数TACO、信息挥发系数ρ∈[0,1]以及信息素浓度Q；设置核函数参数σ和正则化参数γ的范围，随机产生一组参数序列(σ,γ)作为蚂蚁的初始位置向量，建立LSSVM。

(3) 由训练集对LSSVM进行训练学习，用式(9)计算每个蚂蚁个体所在当前位置的适应度值，使用式(10)计算蚂蚁当前时刻所处位置j处的信息素浓度，适应度值越小，信息素浓度越大。以均方差定义适应度：

(9)

t时刻蚂蚁所处位置j处的信息素浓度：

(10)

(4) 由每只蚂蚁的信息素浓度大小，确定蚂蚁适应度值最小的位置。通过式(12)进行信息素浓度的迭代更新，将满足适应度条件f≤fd(fd值大小根据验算经验而定)的蚂蚁位置向量(σ,γ)放入集合XACO，直至迭代结束。在迭代过程中，t时刻第k只蚂蚁从解空间I中随机选择位置j的概率公式：

(11)

参数寻优空间位置j处信息素浓度更新公式如下：

τj(t+m)=(1-ρ)τj(t)+Δτj(t)

(12)

式中：ρ(0<ρ<1)表示信息素挥发系数；m为每次信息素迭代所需的时间。

(5) 设置粒子群的种群规模NPSO，最大迭代次数TPSO，加速度因子C1、C2，惯性权重ω等相关参数。将蚁群算法得到的XACO初始化粒子群NACO个粒子位置，并随机选择其他剩余粒子位置，保证XACO初始化的粒子位置与其他初始化粒子保持最大的欧氏距离。

(6) 用每个粒子位置向量进行LSSVM训练，得到各粒子当前位置的适应度值，通过迭代确定各粒子个体极值pbest和最优位置，粒子速度和位置更新公式见式(13)和(14)。

(13)

(14)

式中：Xit为粒子i在第t次迭代的位置，Vit为粒子i在第t次迭代时的速度；r1，r2为介于区间[0,1]的随机数；c1，c2为加速度因子，在区间[0,2]取值，SHI等[10]提出：为保证c1r1和c2r2的平均期望为1，c1、c2的值应取为2；ω为惯性权重。

(7) 将各粒子的个体极值pbest与群体最优位置的适应度值gbest比较，如果更优，则将该粒子的最优位置作为群体的最优位置，该粒子的个体极值pbest作为群体极值gbest。检查是否满足迭代寻优结束条件，若满足则结束寻优，求出最优解(σ,γ)；否则返回步骤(3)。

(8)利用(7)中得到的最优解(σ,γ)，建立优化的LSSVM模型，对脉动风速时程样本进行预测，得到预测的脉动风速时程谱。

4 数值验证

4.1 脉动风速样本预测思路

4.2 LSSVM参数的选取

对LSSVM核参数参数σ和正则化参数γ，令γ∈[10-1,103]，σ∈[10-1,102]；蚁群算法和粒子群算法的初始参数设置如表1所示。

表1 初始化蚁群、粒子群优化算法参数

4.3 数值结果

选择一座坐落于城市中心、高度为200 m的超高层建筑，采用自回归(AR)算法，使用Davenport功率谱和指数风剖面，沿建筑高度方向每隔10 m取一个模拟风速点，只考虑高度方向的空间相关性，即Cx=Cy=0,Cz=10，生成了20点的脉动风速时程样本。其它相关参数如表2。

表2 AR法模拟脉动风速时程的参数

为验证预测算法在高度变化时的有效性和稳定性，取50 m、100 m、150 m三个高度的脉动风速时程，如图2所示。图3～5给出了脉动风速功率谱和自、互相关函数模拟值与目标值的比较，阐明了原始模拟数据的可靠性。取三个高度的250 s脉动风速时程作为样本，前200 s作为训练集，后50 s作为测试集，对三个预测算法的结果进行比较分析，如图6～8所示。进一步，取500 s脉动风速时程作为样本，前400 s作为训练集，后100 s作为测试集，得到三个预测算法的预测结果误差如图9。

图2 原始脉动风速时程Fig.2 The original fluctuating wind velocity time-history series

图3 功率谱的模拟值和目标值Fig.3 Simulated and target values corresponding to the power spectrum

图4 自相关函数的模拟值和目标值Fig.4 Simulated and target values corresponding to the autocorrelation functions

图5 互相关函数的模拟值和目标值Fig.5 Simulated and target values corresponding to the cross-correlation functions

图6 预测脉动风速与实际脉动风速对比Fig.6 Comparison of fluctuating wind velocity predicted by the three prediction algorithms with the actual fluctuating wind velocity

图7 三种预测算法下相对误差的对比Fig.7 Comparison of relative errors predicted by the three prediction algorithms

图8 250 s三种预测算法下MAE和RMSE的对比Fig.8 Comparison of MAE and RMSE predicted by the three prediction algorithms in 250 s

图9 500 s三种预测算法下MAE和RMSE的对比Fig.9Comparison of MAE and RMSE predicted by the three prediction algorithms in 500 s

图6为三种预测算法下不同高度处预测脉动风速与实际脉动风速的对比，从图中可看出，在脉动风速呈近似线性变化和起伏较小的时间段，三种预测算法下的预测结果都比较贴近于实际的脉动风速时程，而在脉动风速的极值处，ACO+PSO-LSSVM的预测能力比ACO-LSSVM和PSO-LSSVM更接近于实际的脉动风速值。脉动风由风的不规则性引起的，其强度随时间随机变化，波动幅度较大，短时间内会产生风速极大值和极小值，所以，ACO+PSO-LSSVM对脉动风速极值处较好的预测能力具有重要意义。图7为三种预测算法下不同高度处预测结果相对误差的比较，从图中可直观看出，ACO+PSO-LSSVM预测结果的相对误差更接近于零，基本控制在-0.25～+0.25之间，相比于ACO-LSSVM和PSO-LSSVM的预测结果，每个脉动风速点的预测结果都更为精确，预测效果比较稳定。图8和图9分别为50 m、100 m和150 m处三种预测算法下250 s样本点和500 s样本点脉动风速预测结果的平均绝对误差(MAE)和均方根误差(RMSE)比较。从图中可直观看出，50 m、100 m和150 m处ACO+PSO-LSSVM对脉动风速预测结果的平均绝对误差(MAE)和均方根误差(RMSE)较ACO-LSSVM、PSO-LSSVM的均有明显的降低；而对于同一算法，不同高度处的误差比较可以看出，随着高度的增加，各评价指标大体呈增大趋势，但是相比于ACO-LSSVM和PSO-LSSVM，ACO+PSO-LSSVM预测结果的MAE和RMSE评价指标变化幅度较小，数值更为稳定。从图8和9知，相比250 s样本情况，在500s样本情况下，三种预测算法预测结果的MAE和RMSE有所减小，预测效果更为精确；即随着样本数据的增大，预测精度更好。

5 结 论

本文提出了一种基于混合蚁群和粒子群优化LSSVM的脉动风速预测算法。主要结论为：

(1) 使用蚁群算法得到的优化结果来初始化粒子群算法，可在获得蚁群算法的全局寻优能力和粒子群算法的局部寻优能力的同时，而又避免了蚁群算法迭代周期长和粒子群算法易早熟的缺点。为了保证第二阶段粒子群算法的全局寻优能力，采用蚁群寻优结果初始化的粒子位置应与其它随机产生的初始化粒子位置保持最大的欧氏距离(Euclidean distance)。

(2) 相比ACO-LSSVM和PSO-LSSVM，使用ACO+PSO-LSSVM预测算法得到的脉动风速与实际脉动风速更加吻合，减小了脉动风速在极值点处的预测误差，提高了对脉动风速的预测能力。(3)通过三种算法平均绝对误差(MAE)和均方根误差(RMSE)的对比分析，验证了ACO+PSO-LSSVM对脉动风速的高预测性能。

[1] 黄本才. 结构抗风分析原理及应用[M]. 上海：同济大学出版社, 2008:51-59.

[2] SHI Y, LIU H, GAO L, et al. Cellular particle swarm optimization[J]. Information Sciences, 2011, 181: 4460-4493.

[3] NIKNAM T. An efficient hybrid evolutionary algorithm based on PSO and HBMO algorithms for multi-objective distribution feeder reconfiguration[J].Energy Conversion and Management, 2009, 50: 2074-2082.

[4] LI Xiaodong, YAO Xin. Cooperatively coevolving particle swarms for large scale optimization [J]. IEEE Transactions on Evolutionary Computation, 2012, 16(2): 210-224.

[5] SUYKENS J A K, VANDEWALLE J. Least squares support vector machine classifiers [J]. Neural Processing, 1999, 9(3): 293-300.

[6] DORIGO M, STTZLE T. The ant colony optimization metaheuristic: algorithms, applications, and advances [M]. Kluwer Academic Publishers, 2002.

[7] ZLOCHIN M, BIRATTARI M, MEULEAU N, et al. Model-based search for combinatorial optimization [R]. Technical Report TR/IRIDIA/2001-15.

[8] KENNEDY J, EBERHART R C. Swarm intelligence [M]. Morgan Kaufman Publishers, 2002.

[9] SABER M A, SAEED S, EYSA S, et al. Hybridizing two-stage meta-heuristic optimization model with weighted least squares support vector machine for optimal shape of double-arch dams [J]. Applied Soft Computing, 2015, 27: 205-218.

[10] SHI Y, EBERHART R C. A modified particle swarm optimizer, in: Proceedings of IEEE International Conference on Evolutionary Computation[R]. IEEE Press, 1998.

[11] 张弦, 王宏力. 基于粒子群优化的最小二乘支持向量机在时间序列预测中的应用[J].中国机械工程,2011,22(21): 2572-2576. ZHANG Xian, WANG Hongli. The application of least squares support vector machine based on particle swarm optimization in the forecasting of time series[J]. China Mechanical Engineering, 2011, 22(21): 2572-2576.

Fluctuating wind velocity forecasting based on LSSVM with hybrid ACO & PSO

LI Chunxiang1, DING Xiaoda1, YE Jihong2

(1. Department of Civil Engineering, Shanghai University, Shanghai 200072, China;2. Key Laboratory of Concrete and Prestressed Concrete Structures of the Ministry of Education, Southeast University, Nanjing 210018, China)

In order to enhance the accuracy of least square support vector machines (LSSVMs) for fluctuating wind velocity prediction, the LSSVM with hybrid ant colony optimization (ACO) and particle swarm optimization(PSO) technique was proposed here. A two-stage meta-heuristic optimization framework was introduced to find the optimal parameters of LSSVM. In the first stage, the global search in the parameter space was accomplished using ACO to realize the preliminary optimization for parameters of LSSVM. In the second phase, the particle swarm’s particle positions were initialized with the first phase results and then the further optimization was implemented with PSO to acquire more accurate LSSVM. Employing this hybrid intelligent optimal LSSVM, the fluctuating wind velocity’s time histories were predicted and compared with those using LSSVM with ACO and LSSVM with PSO, respectively. The numerical results showed that the proposed method can promote the prediction accuracy and the robust of LSSVM, and has good engineering application prospects.

fluctuating wind velocity forecasting; least square support vector machine (LSSVM); hybrid intelligent optimization; ant colony optimization (ACO); particle swarm optimization (PSO)

国家自然科学基金(51378304)

2015-06-23 修改稿收到日期：2015-11-06

李春祥 男，博士，教授，博士生导师，1964年生

TU311

A

10.13465/j.cnki.jvs.2016.21.020