基于LSTM特征提取的有限新息率畸变信号重构

刘 狄，钱 慧，王中风

（1.福州大学物理与信息工程学院，福建福州 350108；2.南京大学电子科学与工程学院，江苏南京 210023）

1 引言

近年来，随着信息技术的飞速发展，虚拟现实、自动驾驶等新兴的技术层出不穷，信息系统的处理带宽不断向宽发展.然而，依据经典的香农采样定理，信息系统的最低处理速率必须大于信号的两倍带宽，这给信息的捕获、传输和存储都带来了严峻的挑战［1］.近三十年以来，利用信号的先验信息，如信号的波形结构，以低于信号两倍带宽的采样速率采集和处理信号的方法成为研究领域的重点课题.研究学者们陆续提出了有限新息率采样（Finite Rate of Innovation，FRI）［2～4］、压缩采样（Compressive Sampling，CS）［5］等现代采样方法.其中，FRI 依据信号的自由度（Degree of Freedom，DoF）而不是信号的带宽采集信号，可以以远低于Nyquist 率的采样速率采集信号所携带的信息.目前，FRI 已经在超宽带信号系统、雷达系统等领域展现出了巨大的应用前景［6］.

经典的FRI 采样方法以信号波形结构先验已知为基础，利用Sinc 或高斯采样核函数在采集前端提取信号的参数信息.在理想条件下，FRI 可以利用零化滤波器［7］、子空间［8］等现代谱估计方法无失真再生波形信号.但是在真实的物理世界中，受噪声、非线性效应等非理想因素的影响，信号的波形结构往往会发生一定的变化，从而导致FRI 的重构性能急剧下降.为了增强FRI 采样系统的鲁棒性，研究者们陆续提出了Cadzow降噪［9］、波形再生［10］、模型匹配［11］等一系列优化重构的方法.这些研究都是以高斯白噪声为基础，噪声信号与原始波形结构不相干.而在实际的通信系统中，信号的波形结构常常会受非线性放大、传输延迟等多种因素的影响，导致多个脉冲相互重叠，从而产生严重的畸变.当输入信号的波形畸变达到一定程度时，特别是波形展宽导致前后两个脉冲重叠时，FRI基本无法重构原始波形信号.因此，波形结构未知条件下的FRI 重构成为FRI研究领域的难点.

利用已知函数的线性组合对信号波形进行拟合再生是目前FRI 研究领域解决波形结构未知的主要方法.2016 年，Dragotti 等人［12］利用指数再生核拟合FRI信号波形，利用原始信号的部分傅里叶系数重建原始信号的小波系数，该方法要求输入脉冲必须满足小波稀疏的前提条件，因此重构方法的复杂度相对较高.2017 年，Vetterli 等人［13］提出基于有限个洛伦兹函数的拟合方法，可以有效重构脉宽可变的FRI 信号，该方法可以分别设置脉冲波形的脉宽参数，从而可以拟合现有信息系统大部分波形.2018 年，Nagesh 等人［14］利用多种不同阶次的高斯函数组合对心电信号进行了拟合，实现对复杂、时变自然信号的有效重构.以上这些方法都需要预先设定拟合波形函数的阶次、带宽等基本信息，所消除的波形畸变程度有限.而且在实际的通信系统中，大多数信号是具有一定的时变特性的平稳信号，固定的波形拟合方法将无法解决时变情况下的波形具有多种畸变模式的问题.

为了改善波形畸变情况对重构方法的影响，本文提出利用深度神经网络（Deep Neural Network，DNN）的学习FRI 畸变波形信息，提升畸变FRI 信号的重构性能.近年来，研究者们开始探索利用DNN 提升噪声中FRI 重构性能的方法.文献［15］和文献［16］探索了基于卷积神经网络（Convolutional Neural Networks，CNN）的含噪FRI 信号的重构问题.文献［17］讨论了极低信噪比下FRI 信号的残差神经网络（Residual Neural Networks，RNN）的重构方法.基于DNN 的FRI 重构方法的研究刚刚兴起，据悉，目前尚未有文献讨论波形畸变FRI 信号的DNN 重构问题.本文首次提出以长短时记忆（Long and Short Term Memory，LSTM）网络为基础构建面向畸变FRI 信号采集的自动编码器（Auto Encoder，AE），将发生畸变波形的亚奈奎斯特率样本转化为狄拉克特征序列，利用基于Cadzow 降噪的零化滤波器（Annihilating Filter，AF）算法重构FRI 信号的未知参数，重构Nyquist样本.本文的主要贡献如下所述.

（1）针对FRI信号由于多径效应而造成的波形结构改变问题，提出一种基于模板匹配的LSTM 特征提取方法，通过设计基于LSTM 的AE，建立FRI 信号与其特征序列之间的映射模型，从而在信号波形发生畸变后，获得最优模板匹配系数.

（2）针对FRI 信号的畸变问题，依据理想脉冲与畸变脉冲之间的相互关系，构建畸变FRI 信号模型.之后，依据FRI 畸变模型的线性回归特性，构建基于多层LSTM 网络的AE，通过离线训练和在线推理的模式，实现畸变FRI信号的实时采集及重构.

2 问题的提出

2.1 有限新息率采样

考虑一个带宽为BWHz，新息率为ρ=2K/Tτ的波形信号x(t).该信号可以表示为

在FRI 采样系统中，通常采用一个带宽为B≥ρ的采样核函数φ*(·)对输入信号x(t)进行滤波处理，然后以fs≥2B的速率对滤波后的信号y(t)进行采样，获得长度为N的Sub-Nyquist样本yn，即

当输入信号波形结构φ(·)已知时，可以通过设计φ*(·)，使得φ′(·)成为Sinc 函数.由于N=Tτ/Ts，式（3）可以表示为

依据信号的周期性，对式（4）进行傅里叶级数展开，可以得到

2.2 波形畸变与FRI信号重构

信号波形结构先验已知是FRI 采样系统获得成功重构的必要条件之一.然而，在实际的信息系统中，如超宽带、雷达等，FRI 信号的波形结构往往因传输环境的影响而产生畸变.如图1（a）所示，原始的FRI信号经过采样后得到的样本可以利用谱估计方法获得FRI信号各个脉冲的时延和幅度信息.图1（b）显示，由于多径效应产生的一路回波使得原始信号的波形发生畸变，最终重构结果与原始信号参数存在一定的偏差.

图1 波形畸变示意图

3 基于深度神经网络的FRI采样系统

本文将波形畸变信号视为波形结构未知的信号，依据模型匹配的思想，分析基于深度神经网络的波形畸变FRI信号特征序列的提取方法.

3.1 基于深度神经网络的FRI模型匹配

图2显示了基于模型匹配的FRI重构系统.当信号波形函数满足广义Strang-Fix 条件时，可以依据再生采样的基本原理［10］，构建B样条指数再生采样核函数，即

图2 基于模型匹配的FRI重构

匹配模型参数βm,n，将式（3）所示采样样本yn映射为特征序列，即

当FRI 信号波形结构先验已知时，可以设定B 样条阶数m，获得已知波形结构的采样核再生参数βm,n.但是，当信号波形发生畸变以后，信号的波形结构未知，此时无法获得再生采样核的匹配参数βm,n.定义θ为FRI信号幅度参数和时延参数的集合，构造函数fθ，即

其中，W为输入样本和估计特征序列之间的加权系数，是对βm,n的近似；b是偏置项.

通过最小化代价函数（如式（9）所示）训练深度神经网络，从而获得包含幅度参数和时延参数的参数集合θ，即

3.2 网络的FRI采样系统

依据上一小节的分析，本文构建基于深度神经网络的FRI 采样系统.如图3 所示，该系统主要包括离线训练和在线推理两个部分.在离线训练中，采样系统利用FRI 采样系统所获得的畸变信号样本库构建训练集合，获得Sub-Nyquist 样本和特征序列之间的映射系数集合.在获得特征映射集合后，FRI 采样系统利用深度神经网络所获得的最优映射系数，将采样样本映射为特征序列，之后利用基于Cadzow降噪的AF 方法重构原始无畸变FRI 信号.

图3 基于深度神经网络的FRI采样系统基本结构

4 基于LSTM 自编码器的FRI 畸变信号采样及重构

本节通过构建畸变FRI信号的基本模型，确定畸变信号的特征序列是原始信号多个不同时延副本的加权和，因此考虑利用LSTM 网络构建自动编码器，获得畸变FRI的特征序列估计.

4.1 畸变FRI信号模型

由于FRI 畸变信号是多个已知脉冲在不同时延副本的加权和，在实际场景中存在回波的情况而引发多径效应，因此可以将畸变FRI信号x′(t)表示为

其中，I表示共有I条路径反射原始FRI信号；ai表示第i条路径的反射系数；ti表示第i条路径的延时；ε(t)为加性高斯白噪声.

将式（10）所示畸变FRI 信号送入FRI 采样系统，依据式（2）和式（3），在采样时刻n，定义nl=Tτ/Ts，采样系统获得Sub-Nyquist采样样本可以表示为

其中，第1 项是确定FRI 信号特征序列的主要依据，而后面的第2 项则可以认为是引发FRI 信号波形畸变的干扰项.显然，可以通过深度神经网络获得第1 项和干扰项的匹配系数和

4.2 面向FRI重构的LSTM 网络结构

本文考虑利用LSTM 网络对FRI 畸变信号进行编码，提取信号的特征序列，并通过最小化式（9）所示的代价函数来训练网络参数.如图4 所示，LSTM网络模型由输入层、LSTM 层、全连接层与输出层组成.网络的输入为FRI 采样获得的样本yn，采样样本的长度为N=4K+1.LSTM 层由若干个LSTM 单元构成，主要学习样本yn中所包含的隐含特征.全连接层将LSTM 层所学习的波形特征进行映射并降维，并由输出层输出LSTM 网络所估计的特征.LSTM 模型f(W,b,yn)由LSTM 结构中的三个基本门单元与上一时刻的细胞状态与输出共同决定.在期望特征序列的监督下，依据式（9）所示的代价函数，可以通过随机梯度下降算法更新模型中的参数W与b，获得输入样本yn到特征序列的映射加权系数

图4 基于LSTM的波形预测模型

LSTM 模型中遗忘门决定上一时刻LSTM 单元的细胞状态中的波形信息的保留和丢弃，读取上一时刻LSTM 单元的输出ht-1和这一时刻LSTM 单元的输入yn,t，然后通过激活函数sigmoid(x)过滤信息.依据式（11），遗忘门的输出可以表示为

其中，σ表示sigmoid函数.

遗忘门输出为0 到1 之间的数，并通过与上一时刻的细胞状态Ct-1相乘，控制对上一个时刻细胞状态Ct-1的遗忘程度.当遗忘门输出等于1时表示完全保留上一个时刻的细胞状态信息，输出等于0时表示完全遗忘上一时刻的细胞状态信息.在采样得到的样本中存在畸变波形的信息，可以充分利用FRI信号表达式（11）中无畸变脉冲和畸变脉冲之间的相互性，通过遗忘门的选择消除波形中的畸变项φ′(t/Ts-n-nl)，使得畸变模波形信息不会影响当前时刻的细胞状态.

模型中的输入门决定上一时刻LSTM单元的细胞状态中添加新的信息，其读取上一时刻LSTM 单元的输出ht-1和这一时刻LSTM 单元的输入yn,t，通过激活函数sigmoid 函数进行激活并通过激活函数tanh(x)=(exe-x)/(ex+e-x)得到候选向量，输入层表达式可以表示为

输入门提取样本中时延信息与幅度信息的特征序列，记录时延信息与幅度信息的特征产生候选向量，通过候选向量与输入门输出共同作用更新细胞状态中的时延信息与幅度信息.LSTM 单元通过候选向量以及输入门的输出共同作用决定向细胞状态中添加部分这一时刻输入的样本中的，并通过遗忘门遗忘上一时刻的部分畸变波形的信息来更新细胞状态，具体表示为

输出门决定这一时刻LSTM 单元的最终输出，其由更新后的细胞状态、上一时刻LSTM 单元的输出以及这一时刻的输入决定，其表达式为

图4中的H*包含了细胞状态C*和输出h*.根据模型结构，可以估计最终的结果为

5 实验结果与分析

5.1 实验设置及数据集

本文的实验主要在MATLAB仿真环境下进行，实验搭建了多层LSTM网络用于FRI信号重构.实验在MATLAB 仿真平台中构建了所需数据集，具体参数如表1所示.依据表1所示参数，本文随机生成了10000组长度为21的FRI信号，利用FRI信号对应的Sub-Nyquist样本和特性序列组成了数据集.数据集被分为训练集和测试集，每种样本组数分别为7000组和3000组.

表1 数据集基本参数

5.2 无噪声条件下网络有效性验证

为验证本文方法的有效性，在无噪声干扰条件下进行了仿真.仿真分别在存在无干扰和存在多径干扰的条件下进行.仿真结果如图5（a）所示，其中蓝色实线表示原始信号的Nyquist 样本，红色实线代表重构出的参数，图中结果显示本文方法在无干扰情况下可以准确估计原始信号参数.图5（b）显示了FRI 信号在多径效应下的重构结果，其中蓝色实线表示原始信号的Nyquist 样本，红色实线代表原始信号的参数，黄色虚线表示本文方法估计的参数.在图5（b）中由于多径效应，接受波形与原始波形存在偏差，实验结果显示，在畸变情况下，本文的方法依然可以获得良好的重构.

图5 无噪声情况下重构结构

5.3 不同网络层数下的重构性能

为验证本文方法不同LSTM 层层数对估计原始信号参数的影响，本节针对不同的LSTM 层数在不同路径数下的重构性能进行仿真.在本节，本文利用重构信号的均方误差（Mean Square Error，MSE）来评价系统的重构质量，即

其中，x为原始信号的Nyquist 样本；xrec为重构信号的Nyquist样本.

图6 显示了3000 个测试数据在不同LSTM 网络层数以及不同路径数情况下的重构性能.在无多径效应影响的状况下，LSTM 层数对重构性能影响较小，2层与3 层重构性能较为接近，与1 层相比重构性能提升较小.一旦信号由于多径效应发生畸变以后，2 层LSTM的重构性能相对于1 层LSTM 的重构性能具有较明显的提升，但3层LSTM 网络相对于2层LSTM 网络的重构性能提升但不显著.随着路径数的增加，不同层数LSTM 网络重构性能均下降.但是在路径数为2～4 时，2层、3层LSTM 网络相对于1层LSTM 网络的重构性能均有提升，而3 层LSTM 与2 层LSTM 的重构性能相近.显然，无论有、无多径的影响，多层LSTM 网络重构性能高于单层LSTM 网络，但是网络层数的增加不能进一步有效地提升信号的重构性能.

图6 无噪声条件下不同LSTM层层数在不同路径数情况下的重构信噪比

5.4 噪声情况下的重构性能对比

本文选用了Cadzow 降噪+AF 重构方法［5］与本文中的3 层LSTM 网络+AF 重构方法进行了对比.Cadzow 降噪+AF 重构方法是FRI 重构的经典方法之一.本文选用无畸变信号的Cadzow 降噪+AF 重构性能作为两种算法的参照，对比分析波形畸变对于重构算法的影响.在实验中，为了和现有FRI 重构方法进行有效对比，本文采用关于时延和幅度参数的MSE 作为评价FRI 重构算法的性能度量指标，即

其中，{tk,ck}为原始信号的时延参数和幅值参数为重构信号的实验参数和幅值参数.

图7（a）～图7（f）显示了输入信噪比（Signal to Noise Ratio，SNR）为-10～30 dB时，不同路径数情况下本文算法与经典算法的重构性能对比.本文的方法在仿真过程采用的最小脉冲间隔为0.01，脉冲宽度为0.01.在路径数为2～4时，由图7可以看出，本文方法的重构性能在不同路径数下均较为稳定.通过对比无畸变波形的Cadzow+AF 重构性能可以发现，在噪声和多径效应的影响下，重构波形的时延参数和幅度参数都产生了巨大的变化.由于Cadzow+AF 极易受到噪声的影响，因此随着信噪比的增加，无畸变情况下的Cadzow+AF重构性能迅速获得了提升.相对而言，本文算法受噪声干扰的影响相对较小，随着信噪比的提升，整体性能改变较小.在时延参数估计方面，本文算法的重构性能略高于Cadzow+AF经典算法的重构性能.在幅度参数估计方面，本文算法则与无畸变波形的Cadzow+AF 算法的基本性能近似.以上实验说明，受多径效应的影响，接收到的脉冲波形由多个路径的信号叠加而成，使得接收信号的幅值、相位以及波形结构相对于原始信号发生急剧变化.在任意信噪比下，本文方法对幅值参数的重构性能均优于Cadzow+AF算法，对时延参数的估计的误差较大，但是本文方法对时延参数的重构性能也优于Cadzow+AF算法.

图7 噪声条件下不同路径数重构性能对比

6 总结

本文针对FRI 采样系统因信号波形发生畸变而导致重构性能下降的问题，提出了一种基于LSTM 网络特征提取的重构方法.与现有的FRI 重构方法相比，该方法可以有效地提取畸变信号的特性序列，从而降低了信号波形畸变而导致的FRI 重构性能下降的概率.在畸变FRI信号数据集上的实验结果表明，相对于现有的FRI重构方法，本文方法基本不受多径效应的影响，在存在4条路经时，依然可以获得有效的重构.本文方法有效提高了FRI系统的稳定性.由于在LSTM网络层数大于2层以后，系统的重构性能就提升较慢，因此，3层LSTM网络是应用FRI重构的最佳网络层数.本文方法实现结构简单，在线过程所需的计算资源和时间都相对较短，有望进一步推动FRI系统的在实际应用中的推广.