基于深度卷积神经网络的大气湍流相位提取*

徐启伟 王佩佩 曾镇佳 黄泽斌 周新星 刘俊敏 李瑛 陈书青 范滇元

1) (深圳技术大学新材料与新能源学院, 深圳 518118)

2) (深圳大学二维材料光电科技国际合作联合实验室, 广东省二维材料信息功能器件与系统工程技术研究中心, 深圳 518060)

3) (湖南师范大学物理与电子学院量子效应及其应用协同创新中心, 长沙 410081)

光束在自由空间中传播时容易受到大气湍流的影响, 其对传输光束的影响相当于附加一个随机噪声相位, 导致传输光束质量下降.本文提出了一种基于深度卷积神经网络 (convolutional neural network, CNN)的湍流相位信息提取方法, 该方法采用受湍流影响的光强图为特征提取对象, 经过对海量样本进行自主学习后,CNN的损失函数值收敛到0.02左右, 其在测试集上的平均损失函数值低于0.03.训练好的CNN模型具有很好的泛化能力, 可以直接根据输入的光强图准确提取出湍流相位.利用I5-8500 CPU, 预测三种湍流强度的湍流相位所需要的平均时间低至 5 ×10−3s .此外, CNN的湍流相位提取能力可以通过提高计算能力或者优化模型结构来进一步提升.这些结果表明, 基于CNN的湍流相位提取方法能够有效的提取湍流相位, 在湍流补偿、大气湍流特性研究和图像重构等方面具有重要的应用价值.

1 引 言

光在自由空间传输过程中不可避免地会受到大气湍流效应的影响[1−6], 在天文目标观测过程中,大气湍流使得目标成像模糊, 光能分散, 分辨率严重受限[7]; 激光光束在传输过程中受到大气湍流的影响会导致光束发生随机漂移[8]; 在自由空间光通信系统 (free space optical communications, FSO)中, 大气湍流容易使信号光发生相位畸变, 引发模式串扰, 使得FSO系统误码率上升[9].于是有许多学者提出了抑制大气湍流影响的解决方案[10,11].在纠正大气湍流的影响时往往需要预先知道所受大气湍流的具体信息, 而传输光束受湍流影响后相当于附加了一个随机湍流相位, 因此从畸变的光束中提取湍流信息实际上也就是提取湍流相位.传统的湍流相位提取方法多采用Gerchberg-Saxton (GS)算法[12], Fu等[13]利用CCD相机采集受大气湍流影响的高斯光束的强度分布, 利用GS算法最终可以得到影响高斯光束的湍流相位.但是, 传统的GS算法无记忆性, 即每次预测都需要重新设置初始相位进行多次迭代, 并且容易出现迭代停滞.另外, 利用随机并行梯度下降算法的自适应光学技术补偿大气湍流效应[14]也是一种可行的方法, 但是随机并行梯度下降算法收敛效果和速度易受增益系数的影响.若增益系数选择不正确易使优化曲线陷入局部极值, 增加了湍流补偿系统的不稳定性.

解决传统的相位提取方案中存在的这些问题,关键在于准确提取畸变光强中携带的湍流相位特征,而特征提取正是近几年各种深层神经网络擅于处理的.2006年, 多伦多大学的Hinton 和Salakhutdinov[15]通过无监督预训练方法初始化权值, 再进行权值微调, 解决了多层隐藏层的训练问题, 从此引发深度学习的研究热潮[16].深度学习因具有很好的非线性表达能力而可以精确地提取特征信息, 并且具有记忆功能而引起了各个研究领域的关注.有研究者已经将其应用于光学领域的研究, Li等[17]提出基于CNN的联合大气湍流检测与OAM (orbital angular momentum, OAM)键控解调技术, 在受强湍流影响的8-OAM系统中实现了达到99.5%的自适应解复用精确率.但是该方案只能进行湍流强度(用大气结构率常数来表示)的分类检测,还没有实现大气湍流信息的提取, 不利于后续大气湍流补偿以及大气湍流信息的研究分析.

为了更好地实现大气湍流相位提取, 本文提出一种基于深度CNN的大气湍流湍流提取方法.利用CNN出色的图像处理能力, 将标准高斯光束和受湍流影响的畸变高斯光束共同作为CNN的输入, 湍流相位作为输出.经过海量样本集的有监督式的训练学习后, 最终可以得到一个具有强泛化能力、能自动提取湍流相位的CNN模型.同时, 为了应对复杂多变的湍流环境, 本文对受不同湍流强度 (=1×10−14, 5 ×10−14和 1 ×10−13m−2/3)影响下的高斯光进行了湍流相位提取.结果显示本文提出的CNN模型对不同湍流都能实现准确而快速的相位提取.另外, 在保持湍流强度一样的情况下, 对比了基于传统GS算法的湍流相位提取方法, 结果表明基于深度CNN的方法在训练过程中会自动根据输入和理想输出构建其中的映射关系,并不需要初始化参数等系列操作, 具有较好的稳定性.CNN在训练过程中具有记忆功能, 训练好的CNN模型可以直接对湍流相位进行预测, 具有很好的泛化能力, 并且预测一次湍流相位的时间是毫秒量级, 大大缩短了湍流预测的时间.

2 大气湍流

2.1 大气湍流模型

在大气湍流中, 折射率的随机分布扰乱了高斯光束的波前相位.文献[17]指出大气湍流对高斯光传输的影响可以等效为高斯光在随机相位屏间自由传输.随机相位屏的产生方法有两种: Zernike多项式展开法[18]和功率谱反演法[19].本文采用经典的基于Andrews改进Hill谱的大气折射率变动频谱的功率谱反演法.其中, Andrews分析定义更加符合真实大气湍流情况的大气折射率变动频谱表达式为[20]

式中,kl=3.3/l0;l0是湍流的内尺度;L0是湍流的外尺度;kx和ky分别是X轴和Y轴方向上的频率波数;为大气折射率结构常数, 常用来表示湍流强度.相位谱与折射率频谱的关系为

式中, ∆Z代表连续两相位屏的间距.随机相位屏频域分布的方差为

式中,N是栅格元素数目; ∆x是栅格距.相位屏在空间域的计算公式为

式中, FFT 表示快速傅里叶变换;C是N×N复随机数矩阵.为了便于计算, 在笛卡尔坐标系中描述了相位扰动的随机分布, 然后通过快速傅里叶变换操作在频域中表示随机相位屏.接着将复数形式的相位ϕ(x,y) 进行求模处理, 以得到可以直接加载到光束上的湍流相位.为模拟高斯光在大气中的传输过程, 本文采用高斯光中最重要的基模高斯光(下文简称为高斯光), 并假设高斯光在Z方向上传播, 则高斯光束的光场表达式可以表示为

式中,U0为常数; 截面半径r2=x2+y2;zR是高斯光束的共焦参数; 波数k=2π/λ;ω(z) 称为z处的截面半径, 其中ω0为基模高斯光束的束腰半径;R(z)表示z点处的波面曲率半径.(5)式可以分成两部分, 乘号前面部分为振幅因子, 乘号后面部分为相位因子.而大气湍流对高斯光束的影响主要是对相位产生影响, 在传播一定距离后, 湍流引起的相位起伏累积会引起复振幅发生变化, 导致光强发生畸变, 因此可以将大气湍流的影响等价于附加了一个随机相位, 主要对相位因子产生影响, 即此时受湍流影响的高斯光束的光场表达式为

2.2 大气湍流模型仿真

将光场在XY面上的截面分成 128 pixel ×128 pixel的二维像素矩阵, 所选取的大气折射率频谱为2.1节的Andrews改进Hill谱的大气折射率变动频谱, 其他相关仿真参数见表1.湍流强度与大气折射率系数和源半径有关, 为了更方便描述湍流强度变化, 将光束束腰半径设为定值.因此湍流强度可以由大气折射率结构常数表示, 对于沿水平或准水平路径传播的应用,可以假定为常数.设置这三种湍流强度, 根据表1设置的参数, 最后得到如图1所示的不同对应的随机相位屏.

图1(a)与图1(b)、图1(c)与图1(d)及图1(e)与图1(f)的湍流强度分别为从不同湍流强度的相位屏的灰度变化范围可以发现,随着湍流强度变强, 湍流相位振幅的峰值也越来越大.这也与实际中湍流强度越强, 传输光束的畸变程度越严重相符合.图1的第一行和第二行为同等湍流强度下的两个随机相位屏, 因此其灰度起伏范围十分接近, 而造成上下两个大气湍流相位屏分布不一样的主要原因在于决定其相位分布的复数随机矩阵C是随机生成的.为进一步验证该模型的准确性, 本文将高斯光分别通过湍流相位屏, 如图2所示为受不同湍流影响后的光斑图.

表1 仿真参数Table 1.Parameter of simulation.

图1 各湍流强度下的随机相位屏 (a), (b)=1×10−14m−2/3 ; (c), (d)=5×10−14m−2/3 ; (e), (f)=1×10−13m−2/3Fig.1.Random phase screen at each turbulence intensity: (a), (b) =1×10−14m−2/3 ; (c), (d) =5×10−14m−2/3 ;(e), (f)=1×10−13m−2/3 .

图2 各湍流强度影响下传输光束截面光斑 (a) 初始高斯光束 ; (b), (c) =1×10−14m−2/3 ; (d), (e) =5×10−14m−2/3; (f), (g)=1×10−13m−2/3Fig.2.The cross-section spot of transmission beam at each turbulence intensity: (a) Initial Gaussian beam; (b), (c) =1×10−14m−2/3; (d), (e)=5×10−14m−2/3 ; (f), (g)=1×10−13m−2/3 .

图2(a)为未受湍流影响的标准高斯光, 图2(b)—(g)为高斯光分别受图1(a)—(f)的湍流相位屏影响后的光强分布.从光斑的变化趋势可以看出, 光斑畸变程度随着湍流的增强而增加.当湍流强度时, 光斑中心尚未发生严重漂移, 但已不再是对称的圆形光斑; 当湍流强度时, 光斑中心开始发生较小的漂移, 光斑形状发生较为严重的畸变; 当湍流强度时, 光斑中心已严重地漂移, 光斑形状也由最开始的圆形畸变成不规则形状.引起这种现象的主要原因在于当湍流强度增强时, 湍流相位的波动幅值范围增大, 对传输光束的相位影响加剧, 引起更加强烈的相位起伏、光强起伏和光斑漂移等湍流现象, 最终导致光束畸变更加严重.另外, 相同湍流强度的随机相位屏分布也存在差异, 进而导致图2(b)与图2(c)、图2(d)与图2(e)、图2(f)与图2(g)的光强分布有明显的区别, 但是畸变程度在同一等级.这也可以证实得到的仿真结果不仅与理论分析相符合还与实际情况十分吻合,所以该大气模型是准确的.

3 基于深度CNN提取湍流相位

从上面的分析可以得出, 影响传输光束的大气湍流可以等效为一个湍流相位, 所以提取大气湍流信息就是从畸变光束中提取湍流相位.为了准确提取高斯光束携带的湍流相位, 本文提出了一种基于深度CNN的大气湍流相位提取方法.CNN是一种学习效率很高的深度神经网络, 其核心是通过卷积核来进行特征提取, 低层的卷积层提取诸如边缘、线条、角度等特征, 而高层的卷积层提取更加抽象的高级特征, 同时还包括组合低层卷积层提取到的特征.另外, 在训练过程中主要采用的优化算法包括反向传播算法[21]和梯度下降算法[22].而这些卷积核的参数则是通过网络的损失函数根据反向传播算法进行优化调整, 在对大量样本进行有监督式学习训练后, 得到的CNN模型就可以对输入的受湍流影响的高斯光束进行直接的预测, 同时也减少了提取大气湍流相位的时间.综合考虑大气湍流的复杂性与CNN各层的性能和作用, 提出了如图3所示的CNN结构.

图3 提取湍流相位的 CNN 结构Fig.3.The CNN structure of extracting the turbulent phase.

本文所采用的CNN结构(如图3所示)共包含17层(不包括输入和输出层), 其中卷积层共有11 层, 池化层共有 3 层, 反卷积层共有 3 层.输入的是两幅单通道的二维图像, 一幅是标准的高斯光束, 另一幅是受大气湍流影响的高斯光束, 为了降低网络的时间复杂度, 两幅图像尺寸大小都被缩小到 6 4×64 .经过卷积核大小为 5 ×5 的第一层卷积层(Conv1)后得到32个大小为 6 4×64 的特征图;第二层还是卷积层(Conv2), 通过 3 ×3 的卷积核后得到了32个大小为 6 4×64 的特征图; 第三层是池化层(Pool1), 采用的是最大池化操作, 池化核尺寸为 2 ×2 , 步长为 2, 非重叠池化, 所以输出特征图尺寸减半, 即此时特征图大小为 3 2×32 , 但特征图的数量没有变, 仍然是32个.之后再经过两次相同的卷积层和池化层交替设置的结构后, 得到64个大小为 8 ×8 的特征图, 再经过5层纯粹的卷积层, 所用的卷积核大小都为 3 ×3 .在第十三层至第十五层添加了反卷积层, 卷积核大小都是 3 ×3 ,这里设置反卷积层的目的是为了还原湍流相位.经过三层的反卷积层后再经过2层卷积核大小为3×3的卷积层后就可以得到尺寸大小为 6 4×64 的输出图像, 即影响传输高斯光束的湍流相位.根据反向传播理论, CNN利用预测湍流相位与实际湍流相位构成的损失函数对上述的卷积核参数进行调整.这里所用的评估索引为j的样本误差损失函数为

式中, R elu(x)=max(0,x) ;p(j)表示实际的湍流相位;表示CNN模型预测的湍流相位.其具体表达式为

式中,θ和b分别表示卷积核和标量偏差, 这是模型的两个训练参数.a(j)包含两幅单通道图像(一幅是标准的高斯光束, 另一幅是受大气湍流影响的高斯光束).从(9)式可以看出, 误差越小表示预测湍流相位与实际湍流相位更加接近, 且当两者相等时误差为0.(10)式和(11)式则是用来限制与实际湍流相位不相符的像素值.对于给定的训练集, 这个误差只与模型的训练参数(卷积核θ和标量偏差b)有关, 然后再将训练集中所有样本误差的平均来衡量模型预测的质量, 即:

式中,m为采集的样本数.

为了证明该方法的可行性, 本文采用上述的大气湍流模型产生的随机相位屏对传输的高斯光束施加影响, 然后利用CNN对湍流提取进行仿真.由于我们提出的CNN结构比较复杂, 为了保证模型具有良好的泛化能力, 就需要足够多的训练数据, 并且样本的多样性也能有效地防止过拟合.因此, 对三种湍流强度都分别设置了70000个训练集,3000个测试集, 2600个校验集.训练集用于对CNN模型进行训练, 在训练过程中最小化损失函数来不断优化模型参数, 校验集用于将训练过程可视化, 呈现不同训练迭代次数时CNN对湍流相位的预测效果.训练好的CNN模型用测试集进行测试, 一个良好的CNN模型不仅追求训练误差小,而且要求测试误差尽可能小.若对CNN输入一个受大气湍流影响的高斯光束后, CNN的最终输出的湍流相位与仿真产生的随机相位屏的湍流相位一致, 则证明了该方法的可行性.

另外, 由于自由空间中的大气湍流是多变的,本文对另外两种湍流强度进行了训练, 如图6所示为三种不同湍流强度(=1×10−14, 5×10−14和 1 ×10−13m−2/3)的损失函数值随迭代次数变化的关系曲线, 从图6中的损失函数的变化趋势可以看出, 经过一定迭代次数的训练, CNN模型都能得到很好的湍流预测结果, 同时也表明其性能并不会因为湍流强度的增加而变差.图6显示的曲线并不是光滑的, 而是存在着许多毛刺, 其原因是训练过程的损失函数值会根据本次网络参数更新, 预测湍流与实际湍流相位作比较而得出, 但并不是每次网络更新的湍流相位都可以保证比上一次更接近实际湍流相位, 所以损失函数值在局部是不断波动的, 但是整体上还是单调递减.其次, 这三种湍流强度的下降趋势几乎一致, 且最后损失函数值都收敛到0.02左右, 说明了本文提出的基于CNN的湍流提取方法适用性强.

图4 训练过程损失函数曲线Fig.4.The loss function curve of training process.

图5 训练过程提取到的湍流相 (a) 与 (b), (c) 与 (d), (e)与 (f), (g)与 (h), (i)与 (j) 和 (k)与 (l)的迭代次数分别为 1, 100, 500,4000, 8000, 14000Fig.5.The turbulent phase during the training process: The number of iterations of (a) and (b), (c) and (d), (e) and (f), (g) and(h), (i) and (j), and (k) and (l) is 1, 100, 500, 4000, 8000, 14000.

图6 各湍流强度损失函数曲线Fig.6.The loss function curve at each turbulence intensity.

这三种模型的测试结果如图7所示, 第一行、第二行和第三行分别是湍流强度=1×10−14,5×10−14和 1 ×10−13m−2/3的仿真结果, 从图7 中可以看出CNN输出的预测湍流相位和理想输出湍流相位在相位振幅分布和图像细节方面都高度吻合.而且提取效果并没有随湍流强度的变化而出现波动, 从而证明了基于深度CNN提取受湍流影响高斯光束的湍流相位这一方法是十分有效的, 并且还原效果并没有随着湍流强度的增强而出现显著恶化, 证明了该方法的普遍适用性.另外, 对于每个湍流强度所设置的3000个测试集, 绝大部分仿真结果都可以获得如图7所示的还原效果, 说明已经获得了泛化能力不错的CNN模型.

图7 不同湍流强度下, 经过 CNN 提取到的湍流相位 (a), (b), (c)初始高斯光束; (d), (e), (f) 受大气湍流影响的高斯光束;(g), (h), (i) 实际的大气湍流相位; (j), (k), (l) CNN 输出的预测湍流相位Fig.7.The predicted turbulent phase based on CNN at each turbulence intensity: (a), (b), (c) Initial Gaussian beam; (d), (e), (f)Gaussian beam affected by atmospheric turbulence; (g), (h), (i) the actual turbulence phase; (j), (k), (l) the output phase of CNN.

4 讨 论

为了证明基于深度CNN方法在大气湍流相位提取方面的优势, 本文还对目前普遍采用的GS算法湍流相位提取进行了对比研究.利用GS算法提取湍流相位的第一步是对初始高斯光束做快速傅里叶变换 (fast Fourier transform, FFT),以确定相应光场函数的像平面分布.然后其频域振幅由携带湍流相位的高斯光束的频域振幅代替.接着经过快速傅里叶逆变换(inverse fast Fourier transform, IFFT), 这时的空域振幅再用入射高斯光振幅代替, 最后对其作FFT.如图8所示为两者输出的湍流相位与实际湍流相位的对比, 图8中三行采用的分别是强度为中的任意三种湍流分布.从提取到的湍流相位的结果来看, 利用GS算法提取的湍流相位无论在相位振幅分布还是图像细节方面都远不如基于深度CNN模型输出的结果.并且, 在多达1000次的仿真测试中发现, GS算法不总是可以得到图8(j)—(l)的结果, 其还存在极小部分劣于图8(j)—(l)的情况, 其中一个非常主要的原因是GS算法在一定程度上可以看成是一种误差减少算法, 它通过时域和频域的振幅约束, 每次迭代后误差都会下降, 最终重建出目标相位.该方法适用于计算输入和输出面的光强分布存在严格的解析傅里叶变换对[23],但是实际应用中存在解析傅里叶变换对的情况毕竟是极少数, 尤其是在复杂的大气湍流中的应用.这时, GS算法往往会出现收敛速度下降和收敛停滞, 导致提取的湍流相位不精确, 而基于深度CNN提取湍流相位的方法则在多达3000次的测试中都可以获得图8(g)—(i)所展示的结果, 这体现了该CNN模型性能稳定.

图8 CNN 与 GS 算法提取湍流相位效果对比 (a), (b), (c)受湍流强度为=1×10−14m−2/3 影响的高斯光束; (d), (e),(f)实际湍流相位; (g), (h), (i)基于 CNN 模型提取的湍流相位; (j), (k), (l) GS 算法提取的湍流相位Fig.8.The comparison of CNN and GS algorithm for extracting turbulence phase: (a), (b), (c) Gaussian beam affected by atmospheric turbulence with=1×10−14m−2/3 ; (d), (e), (f) the actual turbulence phase; (g), (h), (i) the predicted turbulent phase based on CNN; (j), (k), (l) the predicted turbulent phase based on GS algorithm.

另外, 预测湍流相位所需的时间也是评估湍流信息提取能力的标准之一, 因此本文还记录了两者预测湍流相位所需的平均时间(如表2所列).表中显示训练好的CNN模型预测一个湍流相位所耗时间在毫秒量级, 并且几乎与湍流强度无关.而GS算法一般都需要进行70次的迭代才可以得到比较好的输出[13], 这意味着对于每一个相位的预测都需要花费0.4 s左右的时间, 其所花费的时间大约是CNN的100倍.至此, 不难看出本文提出的方法在相位还原准确率和还原速度方面都优于GS算法.

表2 两方法预测时间对比Table 2.The predicted time comparison of two methods.

为了获得更好的预测结果, CNN模型需要经过16000多次的迭代训练, 这似乎比GS算法的70次迭代更加耗时.但是, 得益于计算机科学技术的快速发展和深度学习技术的深入研究, 特别是图形处理器 (graphics processing unit, GPU)的广泛应用使得训练时间大大减少.我们在对70000多个样本进行16000多次的训练仅需要几个小时, 然后给我们带来的是训练好的CNN模型工作时间的大幅减少和预测湍流相位效果的巨大改善.而GS算法由于对初始相位敏感, 所以在对大量样本检测时会出现预测效果时好时坏, 当应用于大气湍流补偿系统, 这将会影响整个补偿系统的稳定性,而CNN则很好地克服了GS算法对初始相位敏感的问题.

在实际自由空间中, 大气折射率结构参数是随机变化的, 在前面研究内容中, 我们选取了三个常数作为大气折射率结构参数的值, 而这样做的目的主要是利用尽可能少的数据量来证明提出的CNN能够在不同湍流强度的扰动环境中实现对湍流的准确预测.结果显示对于这三种湍流强度,CNN具有良好的湍流预测能力, 而对于强度介于这三者之间的湍流, CNN应该同样能准确地进行预测.为了验证这一观点, 同时为了充分反应现实自由空间中处于不断变化的湍流环境, 将大气折射率结构参数范围设置为∈ [1×10−14m−2/3,1×10−13m−2/3],的具体值从该范围中随机选取, 产生70000个训练数据和2600个验证测试数据.用训练集和验证集对CNN模型进行迭代训练和验证测试, 其结果如图9所示, 图9(a)为训练过程中的损失函数变化曲线, 随着迭代次数的增加,损失函数值在不断下降, 当迭代次数达到1400次时, 损失值降到了 0.0162.另外, 在训练过程中调用验证集对CNN模型进行测试, 如图9(b)为迭代次数分别为 20, 500, 8000 和 14000 时, CNN 对应预测出的湍流相位.与实际相位对比可以发现, 当迭代次数达到8000, CNN已经具备了较好的湍流相位预测能力.由此可以得到结论, 我们提出的CNN模型结构在大气折射率结构参数随机变化的实际传输情况中, 同样具有很强的适应和泛化能力.而对于更强的湍流, 可以考虑通过优化网络结构来抓取更多的特征信息, 从而实现湍流信息的预测.

图9 训练及验证测试结果 (a)训练过程损失函数曲线;(b)训练过程中利用验证集测试得到的预测湍流相位Fig.9.Training and validation set test results: (a) The loss function curve of training process; (b) the predicted turbulence phase obtained by testing the validation set during training.

伴随着人工智能的蓬勃发展, 深度学习也越来越得到人们的重视, 尤其是近年的发展更是火热,但仍然存在着许多棘手的问题.其中一个比较重要的原因就是存在理论分析困难.整个隐藏层看起来更像个“黑箱子”, 人们仍然不能很好的理解其基本理论, 也就是说对于一个具体的任务, 仍很难确定哪种结构, 使用多少的训练参数, 隐藏层使用多少层等才是最合适的[24].再加上现在人工神经网络,包括卷积神经网络, 已经有很多算法和技术用于提高网络模型训练过程的训练速度[25], 增加网络层深度[26]和稀疏化编码[27]等等, 这些方法在本文还未能得到巧妙地结合, 所以在CNN网络模型上的优化还有较大的提升空间.

5 结 论

本文提出一种基于深度CNN模型的大气湍流相位提取方法, 该方法利用卷积层逐层提取湍流特征, 再经过海量样本集的有监督式的训练学习,最终在三种湍流强度(=1×10−14, 5×10−14和 1 ×10−13m−2/3)的测试样本集上的平均损失函数值都低于0.03.该方法还与传统的GS算法进行对比, 不仅在提取湍流相位的效果上获得了很大的提高, 而且预测时间缩短了两个数量级.随着GPU的不断升级以及各种训练优化算法的提出使得训练时间大大减少, 这意味着可以进行更多次的参数调试以更接近最优模型, 所以该方法的应用与发展都有着非常好的前景.