深度递归网络在物联网系统异常检测中应用研究

李慧慧

摘  要： 物联网系统采用感知层、传输层和应用层三层体系架构，物联网的三层结构具有时序性，上一层数据异常会链式反应到后续层，传统的物联网异常检测方法无法有效识别数据异常并快速定位异常发生在哪一层。文中提出以深度递归网络对物联网系统异常检测进行建模，感知层、传输层、应用层作为深度网络输出层，深度递归网络通过核函数变换能够提取高阶特征，并且深度递归网络本身的时序特性能够提升异常检测的准确性。实验结果表明，深度递归网络在物联网系统异常检测中能够获得较高的检测准确率。

关键词： 深度递归网络; 回归分析; 高阶特征; 物联网系统安全; 异常检测; 核函数

中图分类号： TN915.08?34; TP393                 文献标识码： A                    文章编号： 1004?373X（2019）13?0086?04

Application of deep recursive network in anomaly detection of Internet of Things system

LI Huihui

（Taiyuan University， Taiyuan 030024， China）

Abstract： The Internet of Things system adopts the architecture of perception layer， transmission layer and application layer. The three?layer structure of the Internet of Things is chronological. The former layer of data anomaly will be linked to the following layer. The traditional anomaly detection method of the Internet of Things system cant effectively identify the data anomaly and locate the anomaly on which layer quickly. A deep recursive network is proposed to model the anomaly detection of the Internet of Things system. The perceptual layer， transmission layer and application layer are used as the output layers of the depth network. The deep recursive network can extract the high?order feature by means of kernel function transformation， and the time sequence characteristic of the deep recursive network itself can improve the accuracy of the anomaly detection. The experimental results show that the deep recursive network can obtain high detection accuracy in anomaly detection of Internet of Things system.

Keywords： deep recursive network; regression analysis; higher?order feature; Internet of Things system security; anomaly detection; kernel function

0  引  言

物联网作为互联网背景下发展兴起的一种新兴网络形态，正在重新定义人们的日常生活[1]。物联网可解释为物与物互联的互联网，可见物联网的核心仍是互联网。物联网通过数据交换和数据通信传递信息，构建覆盖范围极其广泛的网络系统[2]，如今物联网已经融入到人们日常生活的方方面面。

物联网系统中包含大量的数据通信和数据传输设备，当某些设备发生数据异常时会给整个物联网系统造成干扰。早期物联网系统规模相对有限时可通过环境参数异常报警加人工干预方式加以处理[3]，如今大型物联网系统中的设备数以万计，传统的异常检测方法已经力不从心。

文献[4?5]提出从分类的角度对系统进行建模，然而传统的建模方法需要进行复杂的特征工程并且无法处理数据时序特性。文献[6]提出以聚类方式对感知层的传感节点异常情况进行甄别，却无法处理物联网其他层的异常。

本文提出以深度递归网络对物联网系统异常检测进行建模，深度递归网络的时序特性能够很好地处理物联网系统各个层之间数据时序关系，则物联网系统异常检测可建模为多目标回归问题。

物联网系统的各个层作为深度递归网络输出层中的输出节点，深度递归网络通过多层网络结构和核函数能够对特征进行高阶变换从而产生具有高区分度特征。另外，深度递归网络的多目标输出特性可以快速定位异常位于物联网系统中哪个层。实验结果表明，深度递归网络相比于其他回归算法在物联网系统异常检测中能够获得更高的准确率。

1  物联网系统

物联网系统采用感知层、传输层和应用层三层体系架构[7]。感知层通过大量的传感节点实时收集环境参数，传输层一般通过4G网络或者蓝牙将感知层收集的数据回传给应用层供用户分析。物联网系统的体系架构如图1所示。

图1  物联网体系架构图

物聯网系统的信号采集主要通过感知层部署大量的传感节点，传感节点的信号具有一定的频段信息，当传感节点发生数据异常时，传输层接收到的信号会发生偏差[8]，并链式反馈到应用层，如图2所示。

图2  数据异常对比图

图2反映了正常数据信号和异常数据信号发生相位偏差，错位的数据信号会导致物联网系统发生系统异常应予以及时处理。

2  深度递归网络

深度递归网络作为深度神经网络的一种具体表现形态[9]，在自然语言处理、机器翻译和语音识别等众多领域崭露头角。相比于其他结构的深度网络模型，深度递归网络具有时序性，前层的输入会同时关联前序层的输出值。

2.1  网络结构

深度递归网络与传统的神经网络模型并没有本质区别，都可以认为由输入层、隐藏层和输出层三层构成，其中深度递归网络隐藏层的输入来源包括当前层的输入和前序层、隐藏层的输出，如图3所示。

图3  深度递归网络结构图

深度递归网络的隐藏层与输出层之间为全连接[10]，即输出层每个节点都与隐藏层节点互联。式（1）中：[V]为输出层的权重矩阵;[g]是激活函数。在深度递归网络中隐藏层又称为循环层，[U]为输入层的权重矩阵;[W]为时序权重矩阵，在式（1）中表征隐藏层[st-1]与[st]之间权重矩阵;[f]同样表示为激活函数。

隐藏层激活函数[f]存在多种形态，从早期传统神经网络的sigmoid函数到tanh，在深度神经网络中大多采用relu函数[11]，如式（3）所示，relu函数的变换曲线如图4所示。

relu设计原则是当激活信号达到一定强度才生效，这也比较符合神经网络的工作原理，当激活信号为负数时，则直接抑制，这种处理方式能够在一定程度上产生稀疏解，对于复杂的网络结构，这种处理方式具有非常重要的意义，并且能够有效地抑制网络过拟合现象。

2.2  系统建模

定义深度递归网络的输出为4维向量，4维向量分别对应为[感知层出现异常、传输层出现异常、应用层出现异常、无异常]，即向量中每一维都对应物联网系统中某一层。假设感知层出现异常时，则输出向量表征为[1，0，0，0]，物联网系统某一层出现异常时，则将输出向量某一维度置[12]为1，当物联网系统表现正常，无异常时输出向量为[0，0，0，1]。

图4  relu函数变换曲线图

3  实验与分析

实验仿真平台采用Matlab模拟物联网系统数据发射装置，通过Matlab模拟数据分别在感知层、传输层和应用层发生数据突变，由正常数据突变为异常数据。在模拟异常数据时，控制异常数据发生的层数，保证感知层、传输层和应用层数据同时发生异常的比例占所有异常数据比例不超过50%，正常数据和异常数据的比例保持在7[∶]3。

图5分别对比dnn算法、本文算法和softmax算法在系统异常识别时的准确率。横坐标表示调整参与验证的异常样本比例（异常样本比例表示选择验证的异常样本比例占所有异常样本比例），纵坐标表示准确率。可见随着异常比例的提升，各个算法的识别准确率在不断提升，表明模型不断学习异常数据的特征。在图5中，dnn和rnn网络的网络层选取5层结构，可见两种算法的识别率都较高，平均值基本保持在90%，且rnn的识别效果略高于dnn。

图5  dnn，rnn和softmax三种算法识别准确率对比图

图6中所有异常样本全部参与验证，分别调整dnn和rnn网络层数，对比时间开销，深度网络层数越大表明识别效果越好，softmax是单层网络层。

图6  dnn，rnn和softmax三种算法识别时间开销对比图

由图6可见，随着网络层数的增加，dnn和rnn的时间计算开销呈线性递增趋势，softmax作为单层结构，时间上有相对较为明显的优势。一般而言，对于大型系统而言，10 ms以内的时间开销都在可接受程度内，因此深度递归网络在时间开销可控的基础上能够获得较高的系统异常识别准确率。

4  结  语

本文针对物联网系统中多设备系统异常时不易检测的缺陷，提出以深度递归网络对物联网系统的三层体系架构进行安全检测建模，将物联网系统的异常与否建模为深度递归网络的输出状态。实验仿真结果表明，本文算法在时间开销可控的前提下能够获得较高的识别准确率。

参考文献

[1] 王国卿，庄雷，王瑞民，等.基于时间自动机的物联网网关安全系统的建模及验证[J].通信学报，2018，39（3）：63?75.

WANG Guoqing， ZHUANG Lei， WANG Ruimin， et al. Mode?ling and verifying based on timed automata of Internet of Things gateway security system [J]. Journal on communications， 2018， 39（3）： 63?75.

[2] 李若瑜，周亦鹏，方德英，等.物联网信息安全风险评估研究[J].物联网技术，2018，8（3）：32?34.

LI Ruoyu， ZHOU Yipeng， FANG Deying， et al. Research on security evaluation about Internet of Things [J]. Internet of Things technologies， 2018， 8（3）： 32?34.

[3] 张光华，杨耀红，庞少博，等.物联网中基于信任抗On?off攻击的自适应安全机制[J].计算机应用，2018，38（3）：682?687.

ZHANG Guanghua， YANG Yaohong， PANG Shaobo， et al. Adaptive security mechanism for defending on?off attack based on trust in Internet of Things [J]. Journal of computer applications， 2018， 38（3）： 682?687.

[4] 彭军，郭晨阳，张勇，等.基于深度学习的航空发动机部件故障诊断[J].系统仿真技术，2018，14（1）：20?24.

PENG Jun， GUO Chenyang， ZHANG Yong， et al. Fault diagnosis of aero engine components based on deep learning method [J]. System simulation technology， 2018， 14（1）： 20?24.

[5] 孙泽浩.基于深度学习的恶意代码检测技术[J].网络安全技术与应用，2018（2）：61?62.

SUN Zehao. Technology of malicious code detection technology based on deep learning [J]. Network security technology & application， 2018（2）： 61?62.

[6] 顾郑平，朱敏.基于深度学习的鱼类分类算法研究[J].计算机应用与软件，2018，35（1）：200?205.

GU Zhengping， ZHU Min. Fish classification algorithm based on depth learning [J]. Computer applications and software， 2018， 35（1）： 200?205.

[7] 刘威，张东霞，王新迎，等.基于深度强化学习的电网紧急控制策略研究[J].中国电机工程学报，2018，38（1）：109?119.

LIU Wei， ZHANG Dongxia， WANG Xinying， et al. A decision making strategy for generating unit tripping under emergency circumstances based on deep reinforcement learning [J]. Proceedings of the CSEE， 2018， 38（1）： 109?119.

[8] 周晓谊，赵永哲，李益红.基于量子密码的物联网RFID系统安全的研究[J].计算机应用研究，2018（10）：1?2.

ZHOU Xiaoyi， ZHAO Yongzhe， LI Yihong. Security research based on quantum cryptography for RFID system in Internet of Things [J]. Application research of computers， 2018（10）： 1?2.

[9] 车畅畅，王华伟，倪晓梅，等.基于深度学习的航空发动机故障融合诊断[J].北京航空航天大学学报，2018，44（3）：621?628.

CHE Changchang， WANG Huawei， NI Xiaomei， et al. Aero engine fault fusion diagnosis based on deep learning [J]. Journal of Beijing University of Aeronautics and Astronautics， 2018， 44（3）： 621?628.

[10] 赵健，王瑞，李正民，等.物联网系统安全威胁和风险评估[J].北京邮电大学学报，2017，40（z1）：135?139.

ZHAO Jian， WANG Rui， LI Zhengmin et al. Security threats and risk assessment of IoT system [J]. Journal of Beijing University of Posts and Telecommunications， 2017， 40（S1）： 135?139.

[11] 刘广东.基于“用户画像”的商品推送系统设计与实现[D].西安：西安电子科技大学，2017.

LIU Guangdong. The design and implementation of product recommendation system based on “userportrait” [D]. Xian： Xidian University， 2017.

[12] 张龙昌，杨艳红，王晓明.物联网环境下食品安全云计算平台模型[J].计算机技术与发展，2017，27（1）：107?111.

ZHANG Longchang， YANG Yanhong， WANG Xiaoming. Cloud computing platform model of food safety under environment of Internet of Things [J]. Computer technology and deve?lopment， 2017， 27（1）： 107?111.