基于截断核范数正则化的协方差矩阵估计

李 明，孙国皓，何子述

(1. 电子科技大学信息与通信工程学院，四川成都 611731;2. 四川大学空天科学与工程学院，四川成都 610065)

0 引言

机载雷达为应对地面慢速运动目标检测的调整，通常采用空时自适应处理(Space Time Adaptive Processing,STAP)作为重要手段[1]，而目标距离环(Cell Under Test,CUT)杂波协方差矩阵(Clutter Covariance Matrix,CCM)的估计是机载STAP的关键步骤[2]。在CCM的估计过程中，要求选择无目标的训练样本，且与CUT的杂波信号保持独立同分布。此外，所提供训练样本数量至少要达到空时维度的两倍，以确保高输出信杂噪比(Signal-Clutter-Noise Ratio,SCNR)。而实际应用场景通常为非均匀杂波环境，尤其对于高维度应用，如多脉冲、大阵列，无法提供足够的均匀训练样本。

为了利用有限样本精确估计CCM，学者们提出了许多算法。降维算法[3]和降秩算法[4]可以有效降低用于CCM估计所需样本数量。文献[5]中的直接数据域STAP算法仅需利用目标距离环数据估计CCM，直接回避了训练样本不足的问题。然而，上述这些算法牺牲了系统自由度，会导致STAP性能降低。近年来，学者们根据杂波自身的稀疏性，提出了稀疏恢复(Sparse Recovery,SR)算法，该类算法可在空时域内获得高分辨率。然而，对于绝大多数稀疏恢复算法，如正交匹配追踪算法(Orthogonal Matching Pursuit,OMP)[6],建立信号模型需利用离散化字典，会导致网格点失配问题，从而严重影响算法性能[7]。为了解决网格点失配问题，文献[8]提出的原子范数最小化(Atomic Norm Minimization,ANM)算法，通过利用CCM的块Toeplitz结构特性支持多维范德蒙分解实现连续域信号建模，但是由于秩最小化问题为NP-hard问题，该算法采用核范数对矩阵的秩进行松弛，然而对于STAP处理时的CCM这类具有多维Toeplitz结构的矩阵，核范数松弛无法保证所估计协方差矩阵的低秩特性[9]。

基于上述分析，本文提出了一种基于截断核范数正则化(Truncated Nuclear Norm Regularization,TNNR)的CCM估计算法，可有效解决非均匀杂波环境下(即有限样本)的STAP处理问题。本文主要创新为利用TNNR确保所估计CCM的低秩特性，同时结合CCM的块Toeplitz结构先验信息。与常规秩最小化算法不同，如核范数松弛算法，其对所有奇异值的和求最小化处理，难以准确近似矩阵的秩，由于CCM的秩仅与非零奇异值有关，本文所采用的TNNR算法仅求解与矩阵的秩不相关的较小的奇异值的和，从而间接控制CCM的秩，确保低秩估计。同时，通过迭代求解思想，将TNNR优化问题转换为凸优化问题实现求解。此外，结合机载雷达的信号模型特征，我们在CCM的估计过程中引入块Toeplitz结构约束，由于块Toeplitz矩阵可支持多维范德蒙分解，从而可确保CCM的估计建立在连续域模型上，可避免了常规稀疏恢复算法由于引入离散化字典导致的网格点失配问题。仿真实验表明本文所提出的算法相比于其他同类算法具有更高估计精度，性能更加出色。

1 机载雷达STAP信号模型

假设机载雷达采用以半波长为间隔布阵的正侧视均匀线阵(ULA)，共有N个阵元，每个阵元在一个相干处理间隔内发射M个脉冲，脉冲重复频率为fr。发射波长为λ，阵元间距d为λ/2。对于目标距离环(CUT)的接收信号x∈CNM可以表示为

x=s+c+n

(1)

式中，s表示运动目标回波信号，c表示杂波信号，n为噪声向量。对于单个反射点的阵列响应，可以表示为空域导向矢量与时域导向矢量的Kronecker积形式。空域导向矢量和时域导向矢量可分别表示为ar(fr)∈CN，ad(fd)∈CM，fr和fd分别表示某个反射点归一化的空间频率和多普勒频率。反射点的空时导向矢量可表示为空域导向矢量与时域导向矢量的Kronecker积，即ad,r=ad(fd)⊗ar(fr)。

由上述所得，目标信号可表示为

s=α0ad(fd0)⊗ar(fr0)∈CNM

(2)

式中，⊗表示Kronecker积，α0表示目标回波信号复幅度，fr0和fd0分别表示运动目标归一化的空间频率和多普勒频率。

对于杂波信号，我们将所选定距离环划分为Nc个杂波片，回波信号响应即可表示为这些杂波片回波信号的总和[10]，即

(3)

式中，αi表示第i个杂波片的回波信号复幅度，fri和fdi分别表示第i个杂波片的归一化的空间频率和多普勒频率。

当机载雷达采用大规模阵列或使用多脉冲体制时，其CCM维度会很高，从而导致难以为CCM的估计提供充足的均匀样本。因此，本文提出了一种基于TNNR的STAP算法，以确保机载雷达STAP处理在非均匀杂波环境下的性能。

2 基于TNNR的协方差矩阵估计

根据Brennan法则[11-12]，利用Mr=⎣N+β(N-1)」个空时导向矢量即可表示接收信号中的杂波成分并可张成杂波子空间，即

(4)

当存在多个不包含目标的均匀训练样本时，我们可以利用这些样本的联合稀疏性来提升CCM的估计准确度。假设这些样本均具有相同的杂波子空间，则这K个训练样本的杂波信号矩阵可表示为

(5)

利用这K个训练样本，CCM可以表示为

(6)

显然XC可看作Mr个原子的线性组合[12],其中原子集合可表示为

AMMV={ad,r(f,Φ)|f∈[0,1)×[0,1),

Φ2=1}

(7)

式中，ad,r(f,Φ)[ad(fd)⊗ar(fr)]ΦT。然后，杂波信号矩阵XC的原子l0范数可表示为用AMMV中的原子表示该矩阵所需最少原子个数，

(8)

因此，通过以下的原子范数最小化算法即可提取训练样本信号矩阵X中的杂波成分：

s.t.X-Ξ2≤Kεn

(9)

式中，Ξ表示为XC的估计。然后我们利用调整参数可将优化问题改写为以下形式：

(10)

式中，λ>0为调整参数。式(10)中的优化问题由于包含ΞAMMV,0，是NP-hard问题，无法直接求解。由文献[12],ΞAMMV,0=rank(RC)=Mr,此外，RC具有块Toeplitz矩阵，在优化求解中通过考虑先验结构信息可以有效提高估计精度。同时为了将样本杂波信号矩阵与RC，此处引入新的矩阵Z±0，即

(12)

(13)

式中，T=[xl1,l2]∈C(2M-1)×(2N-1)，-M

(14)

然而，上述式(14)中的优化问题包含秩函数，仍然为NP-hard问题。现存优化算法无法直接求解秩最小化问题。通常，我们利用核范数对矩阵的秩进行松弛，以实现将非凸问题转化为凸优化问题，如文献[12]中ANM算法所采用的方法。但理论研究表明核范数，即矩阵奇异值的总和无法高度近似矩阵的秩[15-16]，因为矩阵的秩仅与所有非零奇异值有关，但是核范数无差别对待所有奇异值，对总体进行求和，在实际应用中性能较差，无法高度近似矩阵的秩函数。

为了解决式(14)中的秩最小化问题，我们利用TNNR算法对矩阵Z的秩进行更加精确的近似。根据文献[15],对于秩为r的矩阵B∈CNM×NM，其截断核范数(Truncated Nuclear Norm，TNN)被定义为最小个NM-r个奇异值的和，即

(15)

其中，σi(B)表示矩阵B按递减顺序排列的第i个奇异值。

在使用TNNR时，由于涉及矩阵Z的秩，我们可以利用Brennan法则估计协方差矩阵RC的秩，然后根据rank(RC)=rank(Z)。与基于核范数的方法不同，本文所提出的基于TNNR的算法仅针对NM-Mr个最小奇异值进行处理，而由于矩阵的秩仅与较大的Mr个奇异值相关，因此通过求解中约束较小NM-Mr个奇异值的和近似为零，即可控制所得协方差矩阵的秩[15-16]，从而更加精确的近似CCM的秩。因此，式(14)可重新整理为如下形式：

(16)

其中τ>0，因为Zr是非凸的，我们仍然不能直接求解式(16)。我们引入一个新的矩阵A∈CNM，其满足AAH=INM，其中INM是一个NM×NM的单位阵。

根据VonNeumann的迹的不等式可得

Tr(AZAH)=Tr(ZAHA)≤

(17)

(18)

由上述推导可得

(19)

通过将式(19)与式(17)结合，可得

(20)

由于Z为半正定Hermitian矩阵，可用其特征值分解替代奇异值分解。假设Z的特征分解为Z=UΣUH，其中U=(u1,…,uNM)H∈CNM×NM，Σ∈CNM×NM为Z的特征值构成的对角矩阵，那么当

A=(u1,…,uMr)H

(21)

则式(20)可取等号。然后我们可得如下结果：

(22)

因此，Z的TNN可表示为

(23)

根据式(23)，式(16)中的最小化问题可以被重新表达为如下形式：

我们可以通过迭代的方式解决上述优化问题。将文献[12]中ANM算法的结果作为初始值，即Z0=ZANM。在进行第k次迭代时，我们固定Zk然后通过对其进行特征分解求得Ak，然后固定Ak更新Zk+1，即解决如下优化问题：

而上述优化问题为凸优化问题。通过上述迭代更新，当Zk+1-ZkF≤ε时，迭代过程停止，其中·F表示矩阵的Frobenius范数。我们得到最终的Z，从而可得RC。

关于矩阵Z的分解不是唯一[17]，上述求解的RC仅能表征杂波子空间。为了准确获得CCM，我们需要进行如下的校正操作。假设RC的特征分解为

RC=QΛQH

(26)

式中，Q表示RC的特征向量矩阵，Λ表示对角矩阵，其对角线元素对应为RC的特征值。因此，RC可表示为[12]

(27)

式中，diag(·)表示对角阵，Ξ(l)表示估计所得的第l个训练样本。

3 实验和结果分析

图1显示了基于TNNR的杂波协方差矩阵估计算法与理想协方差矩阵的特征谱。当β=1，根据Brennan法则可准确估计杂波秩，其杂波秩为31，图中显示，基于TNNR的杂波协方差矩阵估计算法的估计结果其特征谱在第31个特征值处有陡峭下降，与理想杂波协方差矩阵趋势一致，即本文所提出的基于TNNR的杂波协方差矩阵估计算法可有效保证所估计矩阵的低秩特性。

图1 杂波协方差矩阵的特征谱

图2展示了当杂波脊斜率为整数(β=1)时，不同STAP算法的SCNR损失对比曲线图。由图中结果可以看出，本文所提出的基于TNNR的杂波协方差矩阵估计算法的STAP性能显著优于OMP、ANM以及样本矩阵求逆(Sample Matrix Inversion,SMI)算法，这是由于基于TNNR的杂波协方差矩阵估计算法不仅可以确保估计的杂波协方差矩阵的低秩特性，同时还结合了杂波协方差矩阵的块Toeplitz结构先验信息，有效提高了小样本下的协方差矩阵估计精度，因此相比其他STAP算法性能更优。

图2 SCNR损失对比曲线图(β=1)

图3和图4显示了当杂波脊斜率为非整数(β=0.79/2.31)时，不同STAP算法的SCNR损失对比曲线图。当杂波脊斜率为非整数时，根据Brennan法则，无法准确估计杂波秩，但是本文提出的基于TNNR的杂波协方差矩阵估计算法的STAP性能仍然显著优于OMP、ANM以及SMI算法。该实验结果表明，即使在杂波秩信息不准确的情况下，基于TNNR的杂波协方差矩阵估计算法仍然具有出色的性能，优于OMP、ANM以及SMI算法。

图5展示了基于TNNR的杂波协方差矩阵估计算法在不同训练样本数量下的SCNR损失对比曲线图。由图中结果可以看出，随着训练样本数量的增加，本文所提出算法的STAP性能会明显提升，当训练样本足够多时(L=200<2NM)，基于TNNR的STAP算法性能接近最优STAP性能，相差小于1 dB。

图3 SCNR损失对比曲线图(β=0.79)

图4 SCNR损失对比曲线图(β=2.31)

图5 训练样本数量不同时的TNNR STAP的 SCNR损失对比曲线图

4 结束语

本文提出了基于TNNR的CCM估计算法以确保机载雷达STAP在非均匀杂波环境下CCM估计的准确性。通过将CCM的低秩特性与块Toeplitz结构相结合，新算法可以很好满足训练样本不足情况下的应用场景。相比于核范数松弛算法，本文所采用的TNNR算法可以更加准确地近似矩阵的秩，从而有效确保所估计CCM的低秩特性。相比同类算法，本文所提出的CCM估计算法在非均匀杂波环境下的STAP估计性能更加出色。