基于混合差分演化的网络入侵检测算法

王耀光， 陈伟权， 吴镇邦， 秦 勇， 黄 翰

(1.广东省东莞市质量监督检测中心，广东 东莞 523000； 2.东莞理工学院 计算机学院， 广东 东莞 523000； 3.华南理工大学 软件学院，广东 广州 510006)

基于混合差分演化的网络入侵检测算法

王耀光1， 陈伟权1， 吴镇邦1， 秦 勇2， 黄 翰3

(1.广东省东莞市质量监督检测中心，广东 东莞 523000； 2.东莞理工学院 计算机学院， 广东 东莞 523000； 3.华南理工大学 软件学院，广东 广州 510006)

基于机器学习方法的入侵检测算法是目前网络设备检测领域的研究热点.网络入侵检测源数据的多样性是影响机器学习方法在该领域实际应用性能的主要因素.研究通过设计多扰动向量混合差分演化算法，稳定地优化了最小二乘支持向量机模型的关键参数；在不增加测试集检测计算复杂性的前提下，通过最优化参数的方式，提高了最小二乘支持向量机算法入侵检测的精度和稳定性.KDD Cup 99测试集的仿真实验结果显示，所提出的基于混合差分演化的网络入侵检测算法比目前多种同类算法有着更好的平均性能.

网络入侵检测； 测试稳定性； 混合差分演化； 最小二乘支持向量机

0 引言

入侵检测系统IDS(intrusion detection system)是计算机信息安全领域的一个重要分支.IDS的特点是主动防御，即对入侵行为进行预警，关键技术是对入侵事件的识别和分类上.近年来，机器学习与智能计算相结合的方法成为了网络入侵检测研究的热门技术.Hu等[1]利用粒子群算法对在线Adaboost的参数进行优化，解决了动态分布式网络入侵问题.刘羿[2]提出了蝙蝠算法优化神经网络，提高了网络入侵检测的效率.李振刚等[3]运用改进的蚁群算法来优化SVM参数，提升了入侵检测的效率和准确率.王亚等[4]研究发现通过优化RBF神经网络的参数，可以有效降低特征维数和 RBF 神经网络输入节点数，从而降低计算复杂度，加快网络入侵检测速度.Dastanpour等[5]系统研究了遗传算法在在优化神经网络和支持向量机参数上的效果，发现网络入侵检测源数据的多样性是影响演化算法实际应用性能的主要因素.实际工程应用对网络入侵检测的准确率和响应速度要求较高，因此，高速、高准确率的要求是困扰智能计算方法应用于网络入侵检测的核心难题.

为了解决这一难题，差分演化算法和网络入侵检测的结合成为了研究热点.马琰等[6]将混沌差分算法用于网络入侵检测，降低了检测的误差；边根庆等[7]将免疫克隆与差分进化相统一，为进化算法在网络入侵检测中的实际应用做了理论铺垫;Sailaja等[8]基于差分演化算法对网络入侵检测问题进行了研究.考虑到网络入侵检测源数据的多样性，笔者采用了多扰动向量的混合差分演化算法，对最小支持向量机(LSSVM)的大量关键参数进行优化，通过对于差分演化算法的改进，使得优化后的LSSVM提高了网络入侵检测的准确率和稳定性.

1 基于最优参数LSSVM网络入侵检测的可行性分析

由于入侵事件种类的多样性和稳定性，网络入侵检测可以建模为一个模式分类问题.许多网络入侵检测技术都应用最小支持向量机(LSSVM)来进行入侵事件的分类；然而，LSSVM的分类准确率受其多个参数的影响.通过参数优化来提高网络入侵检测精度的研究是目前学术界研究的热点，其技术路线如图1所示.

图1 基于LSSVM模式分类的网络入侵检测技术路线图Fig.1 Technology roadmap of network intrusion detection based on LSSVM model classification

LSSVM算法定义如公式(1)：

(1)

可以通过引入拉格朗日乘子将式(1)的模型变化为式(2)的实优化问题：

(2)

一般的做法是将式(2)对ω、ξi、b和ai求偏导，通过消去ω和ξi得到关于b和ai的方程组,用数值计算的方法可以求解方程组并得到最优化的b和ai，i=1,2,…,n,n为采样的规模.因为数值计算的方法所需计算时间长且复杂性较大，一些LSSVM应用为了节省计算时间而采用了近似算法，如粒子群优化算法等.但是，因为网络入侵检测的实时性要求较高，故而采用更高效的连续优化启发式算法来求得最优的b和ai.

在实际工程应用中可以运用训练集样本来评估LSSVM优化的效果.如果用于评估的样本足够描述网络入侵数据的特征，那么优化后的LSSVM模型可以高精确度地分类出网络入侵事件.由于最优参数的LSSVM算法在实际检测过程中不再需要增加额外的计算量，因此，图1所示的方法在计算时间复杂性上是可行的.

2 改进算法设计

考虑到网络入侵检测的实时性与精确性要求，因此采用了差分演化算法(DE)[9]作为优化LSSVM参数的核心技术，而DE是目前解决连续优化问题最有效的算法之一.虽然DE算法在单目标连续优化问题的求解上表现出了较强的性能，但是在求解式(2)的优化问题时容易陷入局部最优解和收敛慢的困境，而扰动向量是对DE算法性能影响最大的一个因素.因此，笔者通过采用多个扰动向量设计扰动向量池来实现混合差分变异规则，从而提高算法的全局搜索能力和收敛速度.

2.1基于扩展扰动向量池的混合差分演化算法

考虑到网络数据的多样性与入侵事件类型的稳定性，笔者设计了混合策略用来改进差分演化算法的性能.在混合策略中，将针对每一个混合步骤个体的变异设计多个扰动向量来生成新个体进入下一代，通过混合策略可以计算多个扰动向量的新子代，然后选取最优的进入下一代.混合策略可以被分为两类：①计算每一个扰动向量产生子代的最优值，如果其中有优过父代的则选取最优的一个进入下一代，反之继续沿用父代个体;②构建一个选择模型用来预测每一代应该通过哪一个扰动向量来产生新个体.通常一个好的预测模型可以在大多数迭代过程中选择最优的扰动向量.候选扰动向量的列表如式(3)～(15)所示.

(3)

(4)

(5)

(6)

(7)

(8)

由于公式(2)的优化模型由网络数据的样本向量决定，基于网络数据的多样性，图1所示的技术路线将造成优化模型的动态变化，因此，单一的优化策略难以有效地解决该问题.与经典LSSVM参数优化算法不同，混合使用多种扰动向量可以增加差分演化算法种群的多样性.因此，可以参考基因算法的情况，每个个体可以选取同样的个体来产生新的子代，这在数学上增加了个体的多样性，参见图2.

图2 在2维空间内解释DE扰动向量组件Fig.2 Explained disturbance vector components of DE in the two-dimensional space

(9)

(10)

(11)

(12)

(13)

(14)

(15)

式(9)～(15)提出的扰动向量兼顾了局部搜索以及全局搜索的能力，在多样性的优化问题上比较容易取得稳定的效果，可以弥补Storn和Price提出的差分演化扰动向量家族的不足.

2.2改进差分演化算法的流程

按照式(3)～(15)选取扰动向量，流程如图3所示.启发式步骤包括：在差分演化算法初始化时，随机从扰动向量池内选择一个扰动向量；运行差分演化算法时，如果所选的扰动向量没有进一步优化公式(2)的问题，重新随机选择一个不同于之前所选的扰动向量.

图3 改进差分演化算法的流程Fig.3 The process of improved differential evolution algorithm

当基于新网络数据的优化问题生成时，即某个扰动向量不能使差分演化算法得到更优解时，可以重新选择扰动向量池内的扰动向量.而扰动向量可以根据不同的优化模型来选取，式(3)～(15)提供了备选扰动向量更新公式，它们都具有良好的可装卸性.通过拆卸和组装混合扰动向量池的扰动向量组合，可以更有效方便地解决不同类型网络数据在图1技术路线下形成的优化问题：如单峰问题适合使用best驱动的扰动向量；多峰问题适合利用rand偏移来跳出局部最优解.

3 仿真实验

3.1实验设置

本实验采用KDD CUP 99数据进行离线测试，验证基于混合差分演化的网络入侵检测算法(简记为HDE-SVM)的效率.笔者提出的HDE-LSSVM算法包含了差分演化和最小支持向量机两部分，参数设置如下：LSSVM公式(2)中的参数由HDE算法优化确定，采样规模n设置为30.根据文献[9-10]建议，HDE种群规模N设置为100，惯性权重w=0.5，CR=0.9.

3.2实验结果与分析

笔者提出的HDE-SVM算法采用6个节点进行测试，通过KDD CUP 99的数据测试对比了PSO-SVM、PSO-LSSVM、投票方法[11]、DE-LSSVM、SaDE-LSSVM[12]和HDE-LSSVM的性能，研究结果以检测准确率和误报率作为对比指标，实验结果如表1所示.

表1 PSO-SVM、PSO-LSSVM、投票方法、DE-LSSVM、SaDE-LSSVM和HDE-LSSVM的对比实验结果

表1显示，HDE-LSSVM在6个节点的网络测试数据上有着比较稳定的检测准确率和误报率.虽然，HDE-LSSVM并没有在每个节点相对其他方法取得最高准确率，但是总体的平均准确率次于投票方法.稳定的高准确率说明，HDE求得的最优LSSVM模型可以达到稳定且准确分类的水平，提高了LSSVM的鲁棒性.值得一提的是，HDE-LSSVM的误报率相对较低，这说明了HDE比PSO达到了更高精度的优化效果.

除此以外，还进行了标准差分演化算法(DE)和自适应差分演化算法(SaDE)优化LSSVM的仿真实验.实验结果表明，DE-LSSVM和SaDE-LSSVM在检测准确率和误报率上都劣于PSO-LSSVM方法,这一现象也说明了Dastanpour等的观点：网络入侵检测源数据的多样性影响了演化算法优化SVM的精度.笔者提出的HDE-LSSVM算法则弥补了这一缺陷，显著提高了网络入侵检测的效率.

4 结论

笔者从优化最小二乘支持向量机的关键参数入手，用差分演化算法取得了更高、更稳定的优化效率；并针对网络数据的多样性，研究设计了多种扰动向量丰富了差分演化算法的扰动向量池，实现了LSSVM的自适应参数调优.实验结果表明，多扰动向量的策略大大提高了优化性能，并且使得LSSVM在网络入侵检测上有更稳定的平均性能.

[1] HU W M，GAO J，WANG Y G，et al. Online adaboost-based parameterized methods for dynamic distributed network intrusion detection[J]. IEEE transactions on cybernetics，2014，44(1)：66-82.

[2] 刘羿. 蝙蝠算法优化神经网络的网络入侵检测[J].计算机仿真，2015，32(2)：311-314.

[3] 李振刚，甘泉. 改进蚁群算法优化SVM参数的网络入侵检测模型研究[J].重庆邮电大学学报(自然科学版)，2014，26(6)：785-789.

[4] 王亚，熊焰，龚旭东，等. 基于混沌PSO算法优化RBF网络入侵检测模型[J].计算机工程与应用，2013，49(10)：84-87.

[5] DASTANPOUR A，IBRAHIM S，MASHINCHI R，et al. Comparison of genetic algorithm optimization on artificial neural network and support vector machine in intrusion detection system[J].Open systems，2014,77(10):72-77.

[6] 马琰，闫兵. 基于混沌差分优化算法的网络入侵检测系统[J].科学技术与工程，2013,13(36)：10967-10970.

[7] 边根庆，赵宏，张维琪，等. 基于免疫克隆与差分进化的入侵检测方法[J].微电子学与计算机，2012，29(5)：124-128.

[8] SAILAGA M，KUMAR R K，MURTY P S R. Intrusion detection model based on differential evolution [J]. International journal of computer applications，2011，36(6)：10-13.

[9] STORN R，PRICE K. Differential evolution-a simple and efficient heuristic for global optimization over continuous spaces[J].Journal of global optimization，1997，11(4)：341-359.

[10] BREST J，ŽUMER V，MAUCEC M. Self-adaptive differential evolution algorithm in constrained real-parameter optimization[J]. IEEE congress on evolutionary computation，2006,98：215-222.

[11] DENG W，YANG X，ZOU L，et al. An improved self-adaptive differential evolution algorithm and application[J].Chemometrics and intelligent laboratory systems，2013，128(15)：66-76.

[12] YU C C，CHEN J，HUANG Q，et al. A new hybrid differential evolution algorithm with simulated annealing and adaptive Gaussian immune[C]∥2012 8th IEEE International Conference on Natural Computation (ICNC).Chongqin, China: IEEE, 2012:600-607.

NetworkIntrusionDetectionAlgorithmBasedonHybridDifferentialEvolutionAlgorithm

WANG Yaoguang1, CHEN Weiquan1, WU Zhenbang1, QIN Yong2, HUANG Han3

(1.Guangdong Dongguan Quality Supervision Testing Center，Dongguan 523000, China; 2.School of Computer Science and Network Security, Dongguan University of Technology, Dongguan 523000, China; 3.School of Software Engineering, South China University of Technology, Guangzhou 510006, China)

Intrusion detection algorithm based on machine learning method is one of research hotspot in the field of network equipment testing. In the face of the real-world application requirement, machine learning methods should be further optimized to achieve accurate and stable detection effect. The study optimize steadily several key parameters of least squares support vector machine (SVM) by designing a hybrid differential evolution algorithm with disturbance vector and improved the intrusion detection accuracy and stability of least squares support vector machine (SVM) algorithm by means of adaptive parameter tuning. The experimental results in KDD Cup 09 test set showed that, the proposed network intrusion detection algorithm based on hybrid differential evolution algorithm had better performance on average than many similar algorithm at present.

network intrusion detection; stability test; hybrid differential evolution; least squares support vector machine

2017-05-20；

2017-07-18

国家自然科学基金资助项目(61370102)；广东省高等院校学科与专业建设专项资金建设项目(2013KJCX0178)

王耀光(1964— )，男，广东东莞人，广东省东莞市质量监督检测中心高级工程师，主要从事信息技术设备安全质量评估方面的研究,E-mail:wyg@gddqt.com.

1671-6833(2017)06-0029-04

TP301.6

A

10.13705/j.issn.1671-6833.2017.06.006