二维双原型完全过采样DFT调制滤波器组的快速设计方法

蒋俊正 郭 云 欧阳缮



二维双原型完全过采样DFT调制滤波器组的快速设计方法

蒋俊正*郭 云 欧阳缮

(桂林电子科技大学信息与通信学院 桂林 541004)

传统的2维大规模滤波器组的设计方法具有复杂度高的缺点。该文提出一种设计2维双原型滤波器组的快速方法，该方法利用近似完全重构的条件，并采用完全过采样的离散傅里叶变换(DFT)调制滤波器组来设计。新算法将两个原型滤波器的设计问题归结为一个无约束优化问题，其中目标函数为滤波器组的总体失真(传递失真和混叠失真)与原型滤波器阻带能量的加权和，利用目标函数的梯度向量，通过双迭代机制求解该优化问题。单步迭代中，利用矩阵求逆的等效条件和块Toeplitz矩阵求逆的快速算法，显著地降低了计算复杂度。理论分析和数值实验表明，新算法可以得到整体性能更好的滤波器组，计算复杂度大幅度降低，故可以快速设计大规模的2维滤波器组。

2维离散傅里叶变换；无约束优化；完全过采样；块Toeplitz矩阵求逆；双迭代算法

1 引言

多速率滤波器组已广泛应用于图像处理、音视频信号处理、数字通信、计算机视觉和纹理识别与分类等领域中。1维情况下M带均匀滤波器组的理论与设计方法已达到一个相当成熟的阶段。在2维情况下，和2维可分滤波器组相比，2维不可分滤波器组有着更好的方向选择性、灵活的频域划分和更多的自由度。其中2维DFT调制滤波器组又有设计简单和实现代价小的特点，呈现了越来越多的优势。

相比于1维滤波器组，2维滤波器组存在几个方面的困难，特别是在设计大规模滤波器组时，更具有挑战性。在双迭代二阶锥规化(BI-SOCP)算法[12]中，提出了一种设计2维双原型DFT调制滤波器(DMFB)的方法，设计问题归结为一个带约束的优化问题。由于BI-SOCP算法的计算量包括线性约束的系数矩阵的计算和SOCP的求解，前者由相应闭区域内离散点的数目决定，后者取决于优化变量的个数和约束个数，故BI-SOCP难以设计2维大规模的DMFBs。为了克服这种缺陷，提出了设计2维DMFBs的修正牛顿法[13]和共轭梯度法[14]以及文献[15]的方法，但这3种方法都是用来设计2维单原型滤波器组。

本文所考虑的滤波器组是2维双原型完全过采样的DMFB。在完全过采样条件下，所有的混叠传递函数才有可能被消除或抑制到可以接受的水平，所以本文采用完全过采样来设计。根据滤波器组的性能指标，将原型滤波器的设计问题归结为一个无约束的优化问题，目标函数是滤波器组的混叠失真、传递失真和原型滤波器阻带能量的加权和，利用目标函数梯度向量的零向量解，最后运用双迭代算法[16]求解原型滤波器。并且单步迭代中，运用矩阵求逆的等价条件[17]和块Toeplitz矩阵求逆的快速算法[18]极大减小了所求逆矩阵的阶数，进而显著降低了计算的复杂度。通过仿真实验表明，该算法灵活度更高，具有更低的计算代价，可以快速而有效地设计2维大规模的滤波器组。

2 两维DFT调制滤波器组的基本结构

相应的频率响应为

图1 2维DFT调制滤波器组的基本结构

分析和综合滤波器的2维DFT调制公式为

相应地，分析和综合滤波器的频率响应为

子带信号的表达式为

滤波器组的输入输出关系为

其中，传递函数和混叠传递函数分别为

与1维DFT滤波器组的设计相似，2维双原型完全过采样DFT调制滤波器组设计的性能指标主要包括滤波器组的传递失真和混叠失真，这两项决定了滤波器组的重构误差。另外还包括原型滤波器组的阻带能量，设计时期望得到高的阻带衰减。传递失真[14]可以表示为

或

根据式(9a)，式(10a)和式(10b)，可以推出2维双原型DMFB无失真的唯一条件为

另外，分析和综合原型滤波器的阻带能量表示为

3 2维双原型过采样DFT调制滤波器组的设计

3.1原型滤波器的设计

基于前面的分析，原型滤波器的目标函数为总失真和阻带能量的加权和，设计问题归结为一个无约束的优化问题，表示为

或

式(15a)和式(15b)的优化问题可以利用双迭代来求解，当固定时，目标函数是关于综合原型滤波器的无约束的凸二次函数。

令目标函数梯度为零向量，表示为

令目标函数梯度为零向量，表示为

当设计的滤波器组通道数较多，滤波器空域支撑较大时，式(22)涉及到对大型矩阵求逆，运算量巨大。因此，为了减少矩阵求逆的运算量，可以利用式(22)的矩阵求逆的等效条件：

综上所述，本文设计原型滤波器的算法步骤如下：

该算法中，初始分析原型滤波器可以通过最小二乘方法[13]或利用MATLAB的2维窗口方法(‘fwind2’)快速设计。为了更加有效实现最终结果，选择使用文献[15]中算出来的(在相同的条件下仿真得到的)作为本算法中初始的分析原型滤波器。

3.2计算复杂度分析

本文算法的计算复杂度主要由求解分析和综合原型滤波器构成，由式(21)得，需要求解和矩阵的逆，在式(23)中，是一个的矩阵，极大降低了所求逆矩阵的阶数，又，所以矩阵逆的复杂度从减小到。特别当滤波器组具备很大通道数以及滤波器空域支撑较大时(即和都很大时)，本文算法的计算量会明显减少，适用于计算2维大规模的滤波器组。

4 仿真结果与分析

在本节，在相同的环境下将本文算法与现有算法进行仿真对比。一般而言，滤波器组的性能是通过传递失真(用表示)，混叠失真(用表示)和原型滤波器的阻带衰减(分析原型滤波器的阻带衰减用表示，综合原型滤波器的阻带衰减用表示)来测量的。由于重构误差是由传递失真和混叠失真联合决定的，故在仿真时可以忽略。

例1 考虑设计一个2维完全过采样的DFT调制滤波器组，调制矩阵、采样矩阵和空域支撑分别为

例2 设计一个2维大规模的DFT调制滤波器

组满足下面的参数设置：

表1本文算法与BI-SOCP算法的性能对比

设计算法SAA (dB)SAS (dB) (dB) (dB)迭代次数所耗CPU时间 (s) BI-SOCP-24.01-28.50-48.50-48.33208280.60 本文算法-36.28-36.28-61.55-44.41 8 0.42

图2 原型滤波器的冲激响应和归一化幅度响应

本文算法中得到的原型滤波器的归一化幅度响应如图3所示。表2给出了两种算法的性能对比，本算法在8次迭代中CPU所耗时间为45.40 s。同时由于本文算法采用双原型滤波器组来设计，可以调整分析和综合滤波器为不同的空域支撑，设分析滤波器不变，综合原型滤波器的空域支撑增加为，得到的原型滤波器的幅度响应如图4所示。表3给出了改变空域支撑时滤波器的性能指标，同样在8次迭代中所耗CPU时间为69.34 s，综合表2和表3可以看出，综合原型滤波器的阻带衰减以及传递失真都有减少，并且本文算法的频率选择更加灵活，更适合快速设计两维双原型大规模的滤波器组。

5 结束语

本文围绕设计2维双原型完全过采样DFT调制滤波器组的设计问题，提出了一种基于无约束优化的快速有效的算法。理论分析和仿真结果表明，本文算法得到的滤波器组相比于现有设计方法设计复杂度更低，有着更好的整体性能。并且，当滤波器组具备很大通道数以及空域支撑较大时，本文算法的计算效率有着显著优势，由单原型到双原型的特点也增加了设计原型滤波器时的灵活性，因此本算法很适合2维双原型大规模滤波器组的快速设计。

图3 空域支撑相等时原型滤波器归一化幅度响应

表2本文算法与文献[15]算法的性能对比

设计算法SAA (dB)SAS (dB) (dB) (dB)迭代次数 文献[15]算法-48.43-48.43-51.61-67.0518 本文算法-47.65-47.58-53.08-69.30 8

表3改变综合原型滤波器空域支撑时的性能

设计算法SAA (dB)SAS (dB) (dB) (dB)迭代次数 本文算法-48.88-50.94-60.34-68.928

图4 空域支撑不等时原型滤波器归一化幅度响应

[1] VAIDYANATHAN P P. Multirate Systems and Flter Banks[M]. Englewoo Cliffs: N.J.,Prentice Hall, 1993: 188-272.

[2] LIN Y P and VAIDYANATHAN P P. Theory and design of two-dimensional filter bank: A review[J].&, 1996, 7(3-4): 263-330. doi: 10.1007/BF01826246.

[3] GAWANDE J P, RAHULKAR A D, and HOLAMBE R S. Design of new class of regular biorthogonal wavelet filter banks using generalized and hybrid lifting structures[J]., 2015, 9(1): 265-273. doi: 10.1007/s11760-015-0814-0.

[4] SHUI Penglang. Image denoising using 2-D separable oversampled DFT modulated filter banks[J]., 2009, 3(3): 163-173. doi: 10.1049/iet-ipr.2007.0218.

[5] SUZUKI T and KUDO H. Two-dimensional non-separable block-lifting-based M-channel biorthogonal filter banks[C]. European Signal Processing Conference, Lisbon, 2014: 291-295.

[6] RAJAPAKAHA N, MADANAYAKE A, and BRUTON LT. 2D space-time wave-digital multi-fan filter banks for signals consisting of multiple plane waves[J]., 2014, 25(1): 17-39. doi: 10.1007/s11045-012-0183-6.

[7] SUZUKIT and KUDO H. Two-dimensional non-separable block-lifting structure and its application to M-channel perfect reconstruction filter banks for lossy-to-lossless image coding[J]., 2015, 24(12): 4943-4951. doi: 10.1109/TIP.2015.2472294.

[8] WILBUR M R, DAVIDSON T N, and REILLY J P. Efficient design of oversampled NPR GDFT filter banks[J]., 2004, 52(7): 1947-1963. doi: 10.1109/TSP.2004.828936.

[9] SHUI Penglang and JIANG Junzheng. Two-dimensional 2×oversampled DFT modulated filter banks and critically sampled modified DFT modulated filter banks[J]., 2010, 58(11): 5597-5611. doi: 10.1109/TSP.2010.2059016.

[10] JIANG Junzheng and ZHOU Fang. Iterative design of two-dimensional critically sampled MDFT modulated filter banks[J]., 2013, 93(11): 3124-3132. doi: 10.1016/j.sigpro.2013.03.022.

[11] JIANG Junzheng, ZHOU Fang, SHUI Penglang,Theory and design of two-dimensional DFT modulated filter bank with arbitrary modulation and decimation matrices[J]., 2015, 44(1): 123-130. doi: 10.1016/ j.dsp.2015.05.012.

[12] JIANG Junzheng and SHUI Penglang. Design of 2D linear phase DFT modulated filter banks using bi-iterative second-order cone program[J]., 2010, 90(12): 3065-3077. doi: 10.1016/j.sigpro.2010.05.011.

[13] JIANG Junzheng and SHUI Penglang. Design of 2D oversampled linear phase DFT modulated filter banks via modified Newton’s method[J]., 2012, 92(6): 1411-1421. doi: 10.1016/j.sigpro.2011.11.029.

[14] JIANG Junzheng, ZHOU Fang, and OUYANG Shan. Design of two-dimensional large-scale DFT modulated filter banks[J]., 2013, 7(9): 807-813. doi: 10.1049/ iet-spr.2012.0327.

[15] ZHOU Fang, JIANG Junzheng, and SHUI Penglang. Fast design of 2D fully oversampled DFT modulated filter bank using Toeplitz-block Toeplitz matrix inversion[J]., 2015, 111: 194-198. doi: 10.1016/j.sigpro.2014.12.021.

[16] 蒋俊正, 王小龙, 水鹏朗. 一种设计DFT调制滤波器组的新算法[J]. 西安电子科技大学学报, 2010, 37(4): 689-693. doi: 10.3969/j.issn.1001-2400.2010.04.019.

JIANG Junzheng, WANG Xiaolong, and SHUI Penglang. Novel method for designing DFT modulated filter banks[J]., 2010, 37(4): 689-693. doi: 10.3969/j.issn.1001-2400.2010.04.019.

[17] PETERSEN K B and PETERSEN M S. The Matrix Cookbook[OL]. http://www2.imm.dtu.dk/pubdb/p.php,2012.11.

[18] WAX M and KAILATH T. Efficient inversion of Toeplitz-block Toeplitz matrix[J]., 1983, 31(5): 1218-1221. doi: 10.1109/TASSP.1983.1164208.

Fast Design of 2D and Double-prototype Fully Oversampled DFT Modulated Filter Banks

JIANG Junzheng GUO Yun OUYANG Shan

(,,541004)

Traditional design methods of two-dimensional large-scale filter banks suffer from high-complexity. This paper presents an algorithm to design two-dimensional double-prototype fully oversampled Discrete Fourier Transform (DFT) modulated filter bank with Nearly Perfect Reconstruction (NPR). The algorithm is based on bi-iterative scheme, where the design issue is formulated into an unconstrained optimization issue whose objective function is the weighted sum of the transfer distortion and the aliasing distortion of the filter bank, and the stopband energy of the Prototype Filters (PFs). By exploiting the gradient information, the optimization problem can be efficiently solved by utilizing the bi-iterative scheme. The matrix inverse identity and the fast algorithm for Toeplitz-block Toeplitz matrix inversion are employed to dramatically reduce the computational cost of the iterative procedure. The theoretical analysis and numerical experiments are carried out to show that compared with the existing methods, the new algorithm possesses much lower computational cost and can be used to designlarge-scale two-dimensional filter bank with better overall performance.

Two-dimensional Discrete Fourier Transform (DFT); Unconstrainedoptimization; Fully oversampled; Toeplitz-block Toeplitz matrix inversion; Bi-iterative scheme

TN911 .72

A

1009-5896(2016)11-2753-07

10.11999/JEIT160125

2016-01-26；改回日期：2016-06-20；

蒋俊正jzjiang@guet.edu.cn

国家自然科学基金(61261032, 61371186)，广西区自然科学基金(2013GXNSFBA019264)

The National Natural Science Foundation of China (61261032, 61371186), The Guangxi Natural Science Foundation (2013GXNSFBA019264)

2016-09-08

蒋俊正： 男，1983年生，副教授，硕士生导师，研究方向为多速率滤波器组理论与应用、通信信号处理.

郭 云： 女，1991年生，硕士生，研究方向为多速率滤波器组的设计及应用.

欧阳缮： 男，1960年生，教授，博士生导师，研究方向为自适应信号处理、通信信号处理.