基于人工神经网络的复杂介质中波的传播不确定性分析方法

程 曦 张志勇

(新疆农业大学计算机与信息工程学院 乌鲁木齐 830052)

1 引言

随着科学技术的快速发展，探地雷达技术作为一种非侵入浅表地球物理探测技术，已在土建、环保与军事等诸多重要领域得以广泛应用[1-5]。在对探地雷达系统电磁波束传播过程进行分析研究时，数值模拟是有效方法之一[6]。近年来，针对探地雷达系统的建模与仿真分析，有不少研究工作先后提出了性能良好的数值模拟算法。时域有限差分法以其易于实现，且可以对色散、有损介质进行建模仿真而成为常用方法之一。在探地雷达系统工作过程中，由于其电磁脉冲特性参数会受到诸如传输介质介电特性等相关参数的影响，系统对探测目标或对象的测量精度受到不同程度影响。故而，在对探地雷达系统进行建模仿真时必须考虑模型输出结果对这些相关参数集(即模型中输入参数集)的依赖性。然而，在实际建模仿真中，由于对输入参数(如土壤的介电特性)缺乏精确的知识，模拟仿真输出结果中存在不确定性[7]。为使模拟仿真结果更具现实指导价值，当考虑对输出结果置信度进行定量化表征时，针对探地雷达建模仿真进行不确定性分析就显得尤为必要[8]。

不确定性分析法可分为两类：非嵌入式方法和嵌入式方法。传统的非嵌入式方法即为蒙特卡罗方法[9]，该算法要求执行数千次仿真代码直到结果收敛，这势必会导致高额的计算成本。在目前已有的研究中[8]，有学者提出了将广义多项式混沌展开应用到辅助微分方程时域有限差分(Auxiliary Differential Equation - Finite Difference Time Domain,ADE-FDTD)中的嵌入式不确定性分析方法来量化由不确定输入参数引起的输出结果的不确定性。该方法较蒙特卡罗方法在运算量与计算效率方面已取得了显著的性能提升。然而，这种方法亦有一定局限性，其主要缺陷表现在：其一，计算复杂度会随着输入不确定参数集维数增加而迅速增加，显然这对于输入不确定参数集维数较大的情况是不适用的；其二，广义多项式混沌展开通常在仿真模型输入参数变化不大的情况下，可得到的较理想的不确定分析结果。但是在输入参数变化较剧烈，引起数值仿真输出结果较大波动的情况下，该方法很可能达不到预期的结果。

为了有效解决上述问题，在探地雷达建模仿真不确定性分析研究过程中，本文构造了一种基于人工神经网络(Artificial Neural Network, ANN)的替代模型，该模型通过模拟替代探地雷达仿真模型的方式，可对系统参数不确定性进行分析与研究。考虑到在获取建立ANN替代模型所需训练、测试与验证数据样本时仍需运用基于ADE-FDTD进行全波仿真，文中首先阐述了探地雷达系统物理模型及其基于ADE-FDTD全波仿真计算的理论原理；其次，提出并设计基于ANN的替代模型，对构建替代模型过程中若干关键问题进行了详细分析与讨论，如激活函数[10]的选择与比较分析、如何降低或抑制过拟合[11]现象等；最后，为了验证ANN替代模型的准确性与有效性，结合探地雷达系统某一特定应用场景，利用ANN替代模型对系统输出结果进行预测，并与蒙特卡罗仿真(Monte Carlo Simulation, MCS)的结果进行比较分析。经数值模拟应用分析，基于ANN的替代模型所得预测结果与传统不确定性分析方法蒙特卡罗方法的结果达到较好的一致性，这使得探地雷达建模仿真输出结果不确定性分析过程摆脱运算量大、计算效率低下的困境。

2 探地雷达系统建模与ADE-FDTD全波仿真原理

在建模中，土壤被认为是一种非磁性介质，其介电常数与频率有关，并且将其建模为具有静态电导率σs的2维德拜模型。该模型相关参数均可由测量获得[1]。然而，由于测量系统误差与偶然误差等测量误差的存在与影响，必然导致模型相关参数中均包含不确定性的成分。研究中，土壤介质材料相对介电常数εr(ω,θ)由式(1)确定

2维空间中描述电磁波传播规律的麦克斯韦方程可由式(2)，式(3)，式(4)给出

式中，

同理，可得到沿x，y轴方向上的磁场强度Hx与Hy。ADE-FDTD更新方程表明，土壤模型参数的不确定性会引入Hx，Hy和Ez数值仿真结果的不确定性。因此，为使模拟仿真结果更具现实指导意义，对输出结果中的不确定性进行量化分析就显得尤为必要。本文基于ANN技术，设计构造ANN替代模型模拟替代探地雷达仿真模型。

3 人工神经网络(ANN)替代模型的构建

3.1 ANN替代模型设计

基于ANN的替代模型旨在对任意给定一组包含不确定性的输入参数时，能够准确预测探地雷达系统的输出结果，其训练过程与测试过程如图1所示。

图1 ANN替代模型的训练过程与测试过程

在本研究设计中，神经网络的数据集分为3个部分：训练集、测试集和验证集。其中，训练数据集占全部数据的60%。模型参数均采用一种基于低阶矩估计的随机目标函数一阶梯度优化算法，即自适应矩估计(Adam)算法[12]，进行优化处理。

3.2 激活函数的选择与性能比较分析以及抑制过拟合策略

在ANN替代模型超参数的选择与设计上，考虑到ANN隐藏层激活函数对模型的学习能力与预测精度有重要影响，文中针对当前几种主流ANN激活函数，如ReLU(Rectified Linear Unit)函数[13]、LReLU(Leaky Rectified Linear Units)函数[14]、PReLU(Parametrized Rectified Linear Units)函数[15]以及ELU(Exponential Linear Unit)函数[16]，分别将其应用于ANN替代模型隐藏层，并分析比较它们对ANN整体性能的影响。

其中，ReLU函数的具体函数形式如式(13)

当分别将ReLU函数、LReLU函数、PReLU函数与ELU函数应用于ANN替代模型隐藏层后，经过对模型进行反复训练学习，得出不同激活函数作用下ANN替代模型的训练损失函数和验证损失函数随Epochs的变化规律，如图2所示。

从图2可以看出，除应用ELU函数外，选择将其余3种函数作为ANN隐藏层激活函数时，ANN均产生较大程度的过拟合问题。为此，研究中针对选取ReLU函数、PReLU函数和LReLU函数作为隐藏层激活函数的ANN在其训练过程中分别应用DropOut方法来抑制过拟合问题。DropOut方法的核心思想如式(18)-式(21)所述[16]

图2 4种不同激活数属分别应用于ANN替代模型隐藏层后训练损失函数与验证损失函数随Epochs的变化关系(未应用DropOut方法)

针对前述应用ReLU函数、PReLU函数和LReLU函数作为隐藏层激活函数而产生过拟合问题的ANN网络，对其分别应用DropOut方法，经过模型训练与学习，使用DropOut方法能够显著地抑制ANN网络的过拟合问题。表1分别给出了应用DropOut方法前后，选择不同函数作为隐藏层激活函数时，ANN替代模型在经过5000次迭代之后的训练数据与验证数据的损失值情况。

通过对表1进行比较分析，不难发现如下结论：(1)相较于ReLU函数、LReLU函数和PReLU函数，选取ELU函数作为ANN替代模型隐藏层激活函数时，其在替代模型训练过程中能够在一定程度上改善过拟合问题，并且模型收敛速度更快；(2)针对前三者作为隐藏层激活函数时替代模型存在过拟合的问题，若对替代模型的隐藏层应用DropOut方法，可显著改善训练数据过拟合的问题。

表1 应用DropOut方法前后，不同激活函数作用时ANN替代模型的损失函数值

4 仿真与结果

4.1 模型描述

图3给出了本文所研究探地雷达系统及其具体应用场景在进行ADE-FDTD全波仿真时的2维模型。如图所示，一块边长为1 m的正方形金属目标物埋置于色散土壤内，且在其旁边存在一边长为0.5 m的干燥花岗岩。图中Tx与Rx分别表示发射机与接收机，其均被建模为点源[17-19]。研究采用Blackmann-Harris脉冲作为激励源脉冲。其中，中心频率fc=200 MHz，Ts=1.55/fc。同时，将各向异性完全匹配层(Uniaxial Perfectly Matched Layer，UPML)作为吸收边界条件。

图3 探地雷达系统及其应用场景模拟模型

模拟计算中，模型计算域为xoy平面内x × y= 4.00 m × 4.00 m的区域，并且将其分解为方形单元网格。空间采样宽度Δx = Δy =Δ= 5.00 mm。时间步长Δt = Δx/(2c) = 8.33 ps，式中c表示自由空间中的光速。UPML的厚度是10Δ。德拜模型的相关参数均通过测量得到，各参数中均含有不确定性成分，如表2所示。

表2 色散土壤模型参数

图4给出了当包含不确定性的输入参数个数为7时，采用MCS方法，在2维探地雷达模型接收机Rx处观测得到电场强度Ez随时间变化的规律。该曲线基于60个采样点绘制而成，且模拟中每个输入参数的不确定性变化范围为10%。从电场强度Ez的变化规律曲线中亦可以看出，输入参数中的不确定性会致使模拟输出结果中产生不确定性成分。与已有研究成果[8]相比较，本研究将输入参数的变化范围从5%提高到10%，较大的不确定输入参数的变化范围会引起输出相对更大的不确定性，增大了不确定性分析的难度。

图4 基于MCS方法的电场强度E z变化规律

研究中，色散土壤湿度取2.5%，干燥花岗岩的相对介电常数εg为5，电导率σg为10-5mS/m。所有数值模拟计算过程均由一台处理器为Intel i5-6440HQ，主频2.6GHz，内存为16GB的计算机完成。执行一次全波仿真的CPU用时为1098.80 s。

4.2 ANN替代模型超参数

研究中在ANN替代模型运用之前，FDTD仿真模拟中输入输出值均对其进行标准化处理。同时，采用拉丁超立方采样法(LHS)获取模型输入参数。此外，对于ANN替代模型的Batch size参数、隐藏层数量，以及各隐藏层内神经元数量等其它超参数的设置如表3所示。

表3 ANN替代模型超参数设置

4.3 基于ANN替代模型的探地雷达系统输出结果不确定性分析

当ANN替代模型完成训练学习过程后，其即可被用来对探地雷达系统输出结果进行预测，并进一步用于不确定性分析中。图5给出了基于ANN替代模型对接收机Rx处电场强度Ez的预测值进行统计计算得到Ez的均值与标准差变化规律。

从图5可以看出，当ANN替代模型隐藏层激活函数采用ELU函数时所得结果与基于ADE-FDTD的全波仿真所得结果，无论是均值还是方差都具有较好的一致性。与此同时，从图5也可以发现，当ANN替代模型隐藏层激活函数分别采用ReLU函数、LReLU函数、 PReLU函数并应用DropOut方法的3种结果基本相似，所得方差与全波仿真的结果有一定偏差。当与图6进行对比分析会发现，分别采用ReLU函数、LReLU函数、PReLU函数作为ANN隐藏层激活函数，且不应用DropOut 方法减少过拟合时，得到的方差与全波仿真所得方差的偏差进一步增大。综上所述，采用ELU函数可以得到较好的预测结果，并且无需考虑过拟合问题。

图5 土壤中含有金属块以及花岗岩，输入不确定性参数个数为7且变化波动范围均为10%时，R x处电场强度E z统计特性

图6 土壤中含有金属块以及花岗岩，输入不确定性参数个数为7且变化波动范围均为10%时，R x处电场强度E z统计特性

表4给出了分别采用传统MCS不确定分析法和ANN替代模型(ELU函数作为激活函数)进行数值模拟的CPU耗时情况。其中，ANN替代模型的数值模拟CPU耗时主要由两部分组成：(1)替代模型训练学习耗时(2011.21 s)；(2)任给一组新输入参数，替代模型预测1000个输出结果的耗时(1.80 s)。

从表4可以看出，在结果保持较好一致性的情况下，采用ANN替代模型极大地减少了ADE-FDTD仿真次数，并且计算效率更高。需要注意的是，尽管ANN的训练时间以及预测时间较短，但是为了得到训练样本进行200次全波仿真也需要消耗时间。

表4 传统MCS不确定分析法和ANN替代模型进行数值模拟的CPU耗时

4.4 ANN替代模型的适应性分析与验证

为了进一步研究分析ANN替代模型对GPR系统数值模拟模型中异常体数量、类型、分布形态、介电参数等参数变化的适应性与有效性，研究去除了图3所示模型中的干燥花岗岩，仅保留正方形金属目标物，并将其边长由1 m减小至0.3 m，其他数值模型参数条件保持不变。同时，模型输入不确定性参数个数仍为7个，且随机波动变化范围也为10%。图7给出了基于ANN替代模型对接收机Rx处电场强度Ez的预测值进行统计计算得到Ez的均值与标准差变化规律。在这里，ANN替代模型隐藏层激活函数直接采用ELU函数。从图7所示模型预测结果的统计特性曲线可以看出，即使系统模拟模型变化，GPR系统回波时域波形发生改变，本文提出的ANN替代模型预测结果的统计特性依然可以与MCS不确定分析法所得结果保持较好一致。

图7 土壤中含有金属块，输入不确定性参数个数为7且变化波动范围均为10%时，R x处电场强度E z统计特性

5 结论

本文旨在对2维探地雷达系统建模仿真中因色散有损土壤介质的不确定性参数所引起的仿真输出结果的不确定性量化分析方法进行研究。针对传统不确定性分析方法解决此类问题时计算效率低、运算量大的问题，提出了一种基于ANN的替代模型，替代探地雷达系统全波仿真行为的方式，基于该模型方法可对探地雷达系统输出结果进行预测，进而得到输出结果统计特性以进行有效的参数不确定性分析。其次，文中对构建ANN替代模型的关键问题，如隐藏层激活函数的选择、如何抑制过拟合现象等，进行了详细的比较分析。结果显示：相较于ReLU函数、LReLU函数与PReLU函数，选择ELU函数作为替代模型隐藏层激活函数可获得较为理想的网络性能。当选取前三者作为隐藏层激活函数时，替代模型将会产生明显的过拟合问题，为此可采用DropOut方法来抑制过拟合问题。最后，经具体应用案例模拟仿真验证分析，在相同的数值模型、不确定性输入参数个数，以及参数变化范围为10%的前提条件下，通过ANN替代模型所得不确定性分析结果与传统基于MCM法所得结果具有较好的一致性，且相较于后者，前者计算时间效率提升79.82%。本文的不足之处是土壤模型较为简单假设为均匀介质，没有考虑土壤的孔隙率等因素，在将来的工作中将完善仿真模型，考虑现实应用中的真实情况进行非均匀介质建模仿真。尽管ANN的训练时间以及预测时间相对MCS较短，但是为了得到ANN的训练样本，仍然耗时进行200次全波仿真。未来的工作将考虑如何减少ANN所需训练样本数，进一步减少时间消耗，提高效率。