基于深度神经网络的高环境适应性水声通信系统研究

付晓梅，贾碧群，王思宁

（天津大学 海洋科学与技术学院，天津 300072）

水声通信在海洋信息数据采集、环境监测、沿海石油勘探等方面发挥着重要的作用.水声信道由于具有快时变、窄带宽、显著的多径效应和多普勒频移等特性，是最复杂的信道之一[1]，在水声通信系统中需要准确估计和跟踪信道状态信息（CSI）.

近年来，将深度神经网络（Deep Neural Network，DNN）引入水声通信的接收端，取得了一些积极进展，文献[2]利用深度神经网络代替信道估计模块，与最小二乘（LS）算法相比提高了信道估计的精度；文献[3]利用深度神经网络直接代替信道估计与均衡，提高了系统的可靠性；文献[4]使用深度神经网络代替接收端的解调、信道估计与均衡及星座图解映射几个部分，较大程度地降低了系统误码率.

与仅用于接收端的DNN 模型不同，自动编码器（Autoencoder，AE）是一种由收发端两个神经网络模块组成的模型，通常，AE 模型中发送端网络用于编码，接收端网络用于解码[5-7]；文献[8]提出利用自动编码器构建端到端的通信系统，将通信系统的接收端和发送端用自动编码器替代，结果表明基于该自动编码器的系统性能优于传统的无线通信系统；文献[9]将整个系统均用自动编码器表示，包括编码器、信道正则器和解码器几个部分，以便更加准确地恢复输入的信号；文献[10]利用自动编码器实现一个端到端的通信系统，并将这一思路拓展到MIMO 系统中；文献[11]将自动编码器应用到OFDM 系统，利用自动编码器代替OFDM 的发送端和接收端，结果表明在多径信道环境下，基于自动编码器的OFDM 系统比传统方法能更好地进行信道均衡和频率偏移补偿.然而，现有的大部分的深度神经网络均在无线通信中应用广泛，由于水声信道特征与陆上无线通信的信道具有不同的特性，现有的深度学习模型无法直接应用于水声通信中.研究过程中我们发现，大部分现有基于深度学习的系统只是把深度神经网络当做一个“黑盒子”，没有针对信道环境进行设计与优化，缺乏考虑实际测试场景的因素，无法根据特定的场景环境进行迅速调整，离线完成训练的网络无法适用于有一定变化的测试环境.

注意力（Attention）模型将网络的权重重新分布，使注意力专注于重要的输入，当神经网络处理大量的输入信息时，可以借鉴人脑的注意力机制，只选择一些关键的信息进行处理并规避干扰，从而增加网络提取特征的能力.利用Attention 网络的特点，文献[12] 将Attention 网络设计成层叠结构用于全局图像的感知与识别，以达到更加精准的图片分类结果；文献[13]中提出了一种顺序注意模型处理图像字幕，通过考虑相应的顺序关系来处理视觉注意，从而很好地利用了单词内在联系来增强句子解码过程中的视觉信息；文献[14]提出了一种基于残差学习和时空注意力机制的卷积神经网络（R-STAN），使其更加注重区分时间和空间特征，解决了视频中存在着大量的时空冗余信息的问题.

为了提高适应性，本文在传统OFDM 水声通信系统中加入AE，并引入一种针对水声信道的Attention 机制，该机制能够增加网络提取水声信道特征的能力，并保留了具体的通信模块，如编码、星座映射、调制、加循环前缀等过程，避免了整个基于Attention-Autoencoder 的水声通信系统成为一个巨大的“黑匣子”，使系统的可控性和环境适应性大大提高.

1 基于Attention-Autoencoder 的水声通信系统

基于Attention-Autoencoder 模型的水声通信系统框图如图1 所示.发送端的输入是随机生成的，经过星座图映射为符号，符号映射方式为QPSK，串并变换后进行快速傅里叶算法逆变换（inverse fast Fourier transform,IFFT），从频域信号X（k）获得时域信号，记作X（n）∈RM.将进入自动编码器的发送端网络训练后记作x′（n），为了降低符号间干扰和子载波间干扰，在x′（n）的前端插入循环前缀（CP），得到t（n）∈RN.进入Attention 网络后，通过激励函数Tanh层和Softmax 层得到概率权重后再与原输入h（n）相乘，其目的是通过Softmax 激活层将输入的权重进行调整，更加忽略或侧重某个输入，从而更专注于找到未知水声信道的显著有效信息，这样可以有效筛选数据，使系统的泛化能力提高，最后将Attention 网络的输出还原成复数形式h′（n），再将信道h（n）与信号进行卷积，M 表示信号的长度，N 表示信号t（n）的长度.卷积过程如式（1）所示：

图1 基于Attention-Autoencoder 模型的水声通信系统Fig.1 Underwater acoustic communication system based on Attention-Autoencoder model

式中：⊗表示卷积计算；h′（n）∈RN和w（n）∈RN分别表示时域信道响应和加性噪声；r（n）表示接收信号.

本文选用由Stojanovic 等[15]提出的典型的水声通信（UWA）信道模型，考虑了声波传播的物理特性以及随机变化的影响，公式表示为：

式中：hp和τp表示第p 径的路径增益和延时，属于大尺度参数；是关于所有路径的具有滤波器效应的幅度矩阵.路径系数表示覆盖多个波长的位移，其中ap=vp/c 是多普勒因子，用于表示多普勒频移的大小，其中vp是发射器和接收器的相对速度，c 表示声速.

在接收端，接收信号首先移除循环前缀，然后经过串并变换转换成并行数据，记为r（n）.并行信号经过快速傅里叶变换（fast Fourier transform，FFT）将时域信号转换为频域信号，将复数信号的实部与虚部分开进入自动编码器的接收端进行训练.

2 Attention-Autoencoder 网络模型

2.1 Attention 网络

Attention 网络模块放置于水声信道处，用于对水声信道进行权重的调整，筛选有效数据从而增加网络提取特征的能力.为了权衡输入项的重要性，需要计算输入状态和输出状态之间的相关性，为此，添加了Tanh 激励函数层，相应的相关值可以表示为：

式中：hn（i）表示第i 个输入项与输出状态之间的相关值是注意模块中的网络训练参数.

然后，通过Softmax 层对相关值进行归一化，公式可以表示为：

式中：归一化相关值α（i）反映了第i 个输入项的权重；T 为神经元的个数.

将α（i）再与Attention 神经网络的原输入h（n）相乘，公式可以表示为：

式中：α（·）表示Attention 网络训练出输入调整的权重，h（n）表示网络的原输入，得到的Sn（i）是进行权重调整过的水声信道，这样做的目的可以极大程度上削减水声信道中的其他较小径，保留最大径，减小多径干扰.

最后利用公式（6）将信道与信号进行卷积计算，实现了在TensorFlow 平台中信号与信道的卷积，因为目前复数计算不受深度学习平台的支持.该公式表示为：

具体的Attention 网络模块展开表示为图2，输入输出均为1 024，隐含层设为两层，神经元个数分别为600 和300.

图2 Attention 网络模块结构Fig.2 The network structure of Attention module

为了探究改变Attention 隐含层层数对整个网络系统的影响以确定最适合该网络模型的层数，在其他网络结构条件不变的情况下，将该网络设置了不同的隐含层层数去评估整个系统的性能，分别对比了网络隐含层数为2、3 和4 的情况，对比结果如图3所示.从图中可以看出，当隐含层为3 层时系统结果没有层数为2 时好，当隐含层增加为4 层时，系统的性能也没有进一步的提高，反而系统误码率比隐含层层数为3 时要高，该结果也符合了一些文献所提到的增加隐含层网络层数不能无限提高网络拟合精确度的结论，并且随着层数的增多会严重影响网络训练的速度，因此将该Attention 网络的隐含层层数确定为2.

图3 不同Attention 网络隐含层层数的对比Fig.3 Comparison of the number of different hidden layers in the Attention network

2.2 Autoencoder 网络

自动编码器（Autoencoder，AE）网络发送端和接收端的结构简图如图4 和5 所示，它们的网络结构为输入层、隐含层和输出层.自动编码器发送端的网络输入和输出的神经元个数均为1 024，当激励函数ReLU 在输入数值小于0 时，所有输入均被视为0，从而导致相应的权重参数不会迭代，降低了网络训练的准确性，因此本文选择使用Leaky_ReLU 函数.

图4 Autoencoder 发送端网络结构Fig.4 The network structure of Autoencoder transmitter

在自动编码器的接收端，网络的输入层、输出层的神经元个数分别为1 024 和16，所发送的数据的每16 个比特被独立地分组和训练，隐含层一共有三层，神经元个数分别是500、240、120，初始的学习率设为0.000 1.输出层的激励函数选择Sigmoid，因为Sigmoid 函数会将输出压缩为[0，1]，符合自动编码器的输出为比特的实际物理意义.

图5 Autoencoder 接收端网络结构Fig.5 The network structure of Autoencoder receiver

3 网络训练

Attention-Autoencoder 网络模型以端到端的方式训练信号数据，该模型使用离线训练结合在线测试的方式以减少运行所消耗的时间.基于Bellhop 的水声信道模型获得不同环境下的训练和测试数据集，训练集与测试集的样本个数分别为400 和100，并结合真实实验环境1、2、3、4 进行进一步验证.OFDM 水声通信系统的参数如表1 所示，在每次仿真中会随机生成0，1 序列作为系统的输入数据流，分别表示为导频信息与信号信息，其比值为1 ∶1，导频插入方式为块状导频.经网络传输后接收到的数据和原始生成的随机传输数据被称为训练数据.神经网络在训练过程中通过调整每个神经元的权重，最小化输出Y（k）与输入X（k）之差.

表1 参数训练设置Tab.1 The parameters of training

本文使用输入与输出之差平方的总和表示该模型的损失函数如公式（7）所示：

由于声信号在水下传播缓慢，一般在陆地无线通信中多径时延是微秒级，而在水声通信中多径延时是毫秒级，几十甚至是几百毫秒.因此，水声通信传播需要更长的信号符号周期和更小的信号间隔.本文增加了自动编码器接收端的层数和每层的神经元来匹配水声信道相对于无线信道更加复杂的环境，以更精准的还原出原信号.

4 仿真实验与分析

4.1 水声信道环境

本文基于Stojanovic 等[15]模拟了7 种不同的环境如表2 所示，用来测试系统对环境的适应性.分别考虑传输距离、最大时延扩展和多普勒频移几个影响因素.

表2 水声信道环境参数设置Tab.2 Configurations of underwater acoustic channel environment

4.2 Attention 网络对水声信道冲激响应的影响

为了验证上述Attention 网络的效果与作用，我们将未经过Attention 网络的水声信道冲激响应与经过Attention 网络后的水声信道冲激响应归一化后进行了对比，如图6 所示.

图6 比较了利用仿真环境2 训练模型、用仿真环境3 进行测试，经过Attention 网络和未经过Attention 网络的水声信道冲激响应，从图中可以看到，经过Attention 网络后的信道多径数明显减少，只保留了水声信道中的最大径，这表明利用Attention网络机制可以有效地对水声信道多径信息进行筛选，尽量保留最大的信道冲激响应，过滤抑制其他的较小径，这种设计针对强多径的水声信道具有较好的实际物理意义.

4.3 相同环境下不同的信道估计方法的影响

图7 对比了训练集与测试集相同环境下（模型在环境2 下训练，环境2 下测试）不同信道估计方法，将本文设计的基于Attention-AE 的系统、未加Attention 的AE 系统、AE[11]和DNN 接收机[4]相比，对系统进行评估.从图中可以看出在不同信噪比（SNR）下Attention-AE 系统误码率始终最低，不仅优于基于传统的信道估计方式LS 和最小均方误差（MMSE）的系统，且相较于不加Attention 的AE 系统、文献中AE 和DNN 接收机系统，该Attention-AE系统的性能更佳，并在信噪比为25 dB 时的误码率（BER）达到了10-4，而基于AE 的系统只达到10-3.因此可以得出，本文设计的基于Attention-AE模型的水声通信系统可以对信道进行有效筛选，减小多径对信号的影响，使得系统的性能进一步提高，误码率水平优于基于传统的信道估计方法和AE 的系统.

图7 不同的信道估计方法下的BER 比较Fig.7 BER curves of different methods for channel estimation

4.4 随机多普勒频移改变的影响

图8 为基于AE[11]与Attention-AE 的系统在测试集为不同范围的随机多普勒频移下的误码率（BER）对比图，网络模型均在仿真环境2 下训练.从图中可以看出测试集中不同范围的多普勒频移对基于AE 和Attention-AE 的系统都有一定的影响，且随着多普勒频移的增大，误码率也随之增大.相比之下，基于Attention-AE 系统的误码率曲线比基于AE系统的误码率曲线低很多，说明基于Attention-AE的系统有较为出色的泛化能力并可以更好地适应与训练集相比变化较大的测试集.

图8 随机多普勒频移下的BER 比较Fig.8 BER curves of different random Doppler shift

4.5 训练集环境与测试集环境相同和不同的影响

图9 比较了在训练集环境与测试集环境相同和不同时基于AE[11]和Attention-AE 的系统在0～25 dB不同信噪比下的BER 曲线.环境相同时为两种模型在环境2 下训练，在环境2 下测试；环境不同时为两种模型在环境2 下训练，环境5 下测试.从曲线可以看出两种模型对环境的适应程度不同，基于AE 的系统在训练集与测试集环境不同时误码率与环境相同时相比有较大幅度的变化，说明基于AE 的系统对环境的改变较为敏感，对环境的适应性较差，基于Attention-AE 的系统在环境不同时的误码率曲线与基于Attention-AE 和AE 的系统在环境相同时的曲线基本重合，说明基于Attention-AE 的系统对环境的适应性非常强，表明本文提出的网络模型对环境适应性的提升是有效的.

图9 测试集环境相同和不同条件下的BER 比较Fig.9 BER curves under the same and different environment between train and test

4.6 传输距离改变的影响

图10 分析的是传输距离改变对基于AE 和Attention-AE 的系统BER 曲线的影响，从图中可以看出文献[11]中的AE 模型对环境的适应性（对传输距离的改变敏感）较差，误码率一直较高.而Attention-AE 模型展现了良好的环境适应性，可以在环境变动较大时仍得到较为良好的测试结果.

图10 自动编码器与AE-Attention在不同传输距离下的BER 比较Fig.10 BER curves of different transmission distances based on AE and AE-Attention

5 湖试实验结果与分析

基于AE[11]和Attention-AE 的系统也在真实实验上得到了验证.相关实验在天津大学卫津路校区敬业湖进行，实验采用设备采集卡NI-4431，4432，WBT22-1601 水声换能器，Brüel &Kjær 8104 水听器.试验区水深为6 m.

AE 和Attention-AE 模型均用仿真环境2 进行训练，分别用实验环境1（传输距离6 m）、实验环境2（传输距离100 m）、实验环境3（传输距离300 m）和实验环境4（传输距离300 m，随机多普勒频移约为0～10 Hz）进行测试，实验环境4 的随机多普勒频移由实验者以约0.6 m/s 的速度携带水听器单向移动所得.实验发送端的水听器发送信号，实验接收端的水听器接收信号，利用最小二乘法（LS）估计方法得到真实的水声信道后作为模型的测试集测试模型的性能.实验的一些主要参数：载波中心频率fc=25 kHz，子载波个数N=1 024，带宽B=8 kHz，发送端与接收端的采样率均为96 kHz.

图11 为仿真环境2 和实验环境1、2、3 和4 的信道冲激响应，可以看出仿真环境的最大多径时延扩展约为25 ms，实验分别约为12 ms、30 ms、27 ms和37 ms.

图11 仿真环境2，实验环境1、2、3 和4 信道冲激响应Fig.11 Channel impulse responses of experiment environment 1，2，3，4 and simulation environment 2

图12 比较了利用仿真环境2 训练模型，用湖试环境4 进行测试，经过Attention 网络和未经过Attention 网络的信道冲激响应.从图中可以看到，经过Attention 网络后的信道多径数明显减少，只保留了水声信道中的最大径，这表明利用Attention 网络机制可以有效的对水声信道多径信息进行筛选.因此，利用Attention 网络对信道处理可以提高传输的准确性，在系统进行测试时，Attention 网络会对测试的信道进行筛选与处理，提高了整个系统的适应性.

图12 经过Attention 网络训练前后水声信道冲激响应对比Fig.12 Comparison of underwater acoustic channel impulse response before and after Attention network training

图13 为基于AE[11]与Attention-AE 的系统在仿真环境2 进行训练，在实验环境2 和3 进行测试的误码率（BER）对比图.从图中可以看出，在相同的训练环境和实验测试环境下，基于Attention-AE 的系统的误码率均比基于AE 的系统低，表明本文所提出的基于Attention-Autoencoder 网络模型的水声通信系统在实际环境下测试仍具有较低的误码率性，证明了该网络模型具有较强的泛化能力和信道环境适应能力.

图13 实验环境2、3 下的AE 和Attention-AE BER 比较Fig.13 BER curves under the experiment environment 2、3 between AE and Attention-AE

图14 为基于AE[11]与Attention-AE 模型的系统在测试集环境与训练集相同及不同条件下的BER对比.基于AE 的系统在测试环境为实验水声信道环境SNR=25 dB 时，误码率也只能达到10-2，与训练测试环境相同时的误码率相差较大，说明基于AE 的系统对环境变化较为敏感，而基于Attention-AE 的系统在环境相同与不同的情况下，曲线的误码率没有较大变化，保持了良好的误码率水平，这表明基于Attention-AE 的系统有较强的环境适应性，验证了该系统的有效性.

图14 测试集环境相同和不同条件下的BER 比较Fig.14 BER curves under the same and different environment between train and test

图15 为基于AE[11]与Attention-AE 的系统在测试集与训练集环境相同及在仿真环境2 进行训练、实验环境4（信道受到多普勒频移的影响）下进行测试的误码率（BER）对比图.从图中可以看出实验环境4 的多普勒频移对基于AE 和Attention-AE 的系统都有一定的影响.相比之下，基于Attention-AE 的系统误码率曲线比AE 的误码率曲线低很多，说明该模型有较好的环境适应性.

图15 测试环境相同与随机多普勒频移下的BER 比较Fig.15 BER curves under the same environment BER and random Doppler shift

6 结语

本文从传统的自动编码器对环境的适应性较差的问题出发，在传统OFDM 水声通信系统中加入AE，并引入一种针对水声信道的Attention 机制.该Attention 机制可以高效地从大量信息中筛选出少数关键信息的特点，以提高网络提取特征的能力，在训练集与测试集的信道环境参数相差较大时，基于该网络模型的水声通信系统仍具有较低的误码率.经过仿真验证和湖试实验验明，与现有的AE 模型和没有引入神经网络的水声通信系统相比，基于Attention-Autoencoder 的水声通信系统具有较强的信道环境适应能力，展现出更佳的系统性能.