基于最小搜索超椭球的GNSS模糊度固定及检验方法

吴泽民，边少锋

（1. 海军工程大学 导航工程系，武汉 430033；2. 中国人民解放军91919部队，黄冈 438000）

基于最小搜索超椭球的GNSS模糊度固定及检验方法

吴泽民1,2，边少锋1

（1. 海军工程大学 导航工程系，武汉 430033；2. 中国人民解放军91919部队，黄冈 438000）

为进一步简化GNSS模糊度解算流程，降低计算复杂度，重点提高LAMBDA算法的搜索效率，对模糊度解算作出以下改进：1）模糊度检验采用后验概率检验方法，并对其目标函数进行适当简化；2）把简化后的目标函数嵌入模糊度搜索过程，省去了单独的模糊度检验步骤；3）推导了模糊度空间最小搜索超椭球，把搜索区域限制在该超椭球中，缩小了搜索范围，从而大大降低了搜索复杂度。用三组实测数据实验比较了新方法和传统的 LAMBDA方法，结果显示新方法搜索复杂度降低普遍在30%左右，最高可接近60%。理论推导和实验结果均证明了新方法的高效性。

GNSS；LAMBDA；后验概率检验；搜索效率

利用GNSS载波相位观测量进行精密定位，可以获得厘米甚至毫米级别的定位精度，广泛应用于大地测量与导航的各个领域。GNSS精密定位的核心技术是载波相位的模糊度解算，这也是近几十年GNSS领域的研究热点之一。

从Teunissen教授提出LAMBDA算法以来，模糊度解算有了一套标准的流程[1]，但仍留下了若干难题需要解决，其中两个关键问题是模糊度空间搜索的复杂度和模糊度检验。模糊度搜索复杂度随模糊度维数增长呈指数增加，如何尽量减少其复杂度一直是学界很关注的问题[2-3]。模糊度检验曾被视为一个远未解决的开放问题，缺乏统一的检验标准[4-5]。Wu和Bian[6]提出了后验概率检验，并证明所有检验方法中，后验概率检验在相同的误警率下具有最小的漏警率，是理论上的最优检验方法[6]。本文旨在降低模糊度解算的复杂度，通过把后验概率检验进行适当简化，嵌入模糊度搜索中，简化模糊度解算的步骤；同时提出一种模糊度空间内最小超椭球的搜索方法，降低模糊度搜索的复杂度，提高解算效率。

1 GNSS模糊度解算步骤

GNSS精密定位数学模型可以表述为如下混合整数模型：

式中：E(·)和D(·)分别表示取期望和方差；y是载波相位与伪码观测向量；a是未知的整周模糊度向量；b是未知的实参数向量，包括基线向量和未完全模型化的电离层、对流层和多径误差等；A和B是联系未知参数和观测量之间的设计矩阵；Qyy是观测向量y的协方差矩阵。GNSS模糊度解算可以归结为三个步骤[7]。第一步，进行标准的加权最小二乘估计，得到未知参数a和b的实数解和，及其协方差矩阵：

第二步，把模糊度实数解ˆa映射为整数解：

模糊度解算的第三步是对所求模糊度整数解进行假设检验，验证结果的可靠性：

式中：H0和H1分别为零假设和备择假设；a0是模糊度向量的真值。若通过检验，则接受所求的模糊度整数解，反之则拒绝。Wu和 Bian[6]提出后验概率检验方法，并证明了后验概率检验在相同的误警率下具有最小的漏警率，是理论上的最优检验方法。

2 后验概率检验及其简化

模糊度后验概率检验是利用模糊度整数解后验概率的大小来确定是否接受这个解的方法，用数学语言描述为

式中：P(γ| )η是γ在给定条件η下的条件概率；cp是概率值，表示使用者设定的显著性水平。后验概率是Bayes统计理论中的概念，故GNSS后验概率函数的推导需要引入 GNSS观测值模型的抽样概率和Bayes统计方法，具体推导过程可见文献[6]。模糊度整数解的后验概率函数为[6]

模糊度后验概率函数看似无法计算，因其分母由无穷多项构成。但需要注意的是，由于分母求和项是负指数形式的，意味着随着模糊度整数向量与实数解ˆa距离的增大，其值会迅速地衰减，而求和项大部分的值集中在模糊度空间中ˆa附近的一个小区域中，所以可以求取这个范围内的模糊度整数向量而得到分母的近视值。特别地，本文为了把后验概率检验嵌入模糊度搜索中，将其简化为只取分母中最大的两项，此时对模糊度后验概率检验可近似表述为

式中，a1表示模糊度空间中与 ˆa距离次近的整数向量。满足式(7)的模糊度整数解被接受，不满足的则被舍弃。

3 基于最小超椭球的模糊度搜索算法

为降低搜索复杂度，在模糊度搜索之前还应进行降相关变换，而把搜索算法用在降相关后的模糊度空间[9]。为简化本文符号系统，把降相关后的模糊度协方差矩阵以及模糊度向量实数解仍记为和，则搜索空间可表示为

在模糊度解算中，搜索次近向量a1的唯一用途是模糊检验。如果完成模糊度检验可以不需要模糊度次近向量，则模糊度搜索范围还可进一步缩小，使搜索复杂度进一步降低。考察若模糊度整数解成功通过后验概率检验，a1需满足的条件，对后验概率检验的简化表达式(7)进行适当变形得：

由式(9)知，当且仅当次近整数向量a1满足式(9)，才能通过后验概率检验。式(9)存在未知向量，为去除，利用模糊度的Bootstrapping解对式(9)适当放缩。Bootstrapping方法是一种流行的整数估计方法，它不需要搜索，但求得的解是模糊度整数向量次优解[4]，即Bootstrapping解到模糊度实数解的距离不小于ILS解。记模糊度的Bootstrapping解为，有

依据式(9)和(10)，设定2χ大小为

式中，lij为L的元素。则搜索空间用a˜的元素表示为

式中，di是D的元素。搜索从模糊度向量的第一个元素a1开始，采用分层搜索方法，每个元素为一层，层层向下搜索，则每个模糊度元素的搜索窗口为[4]

对每一层的搜索窗口，依据整数点与欧氏距离，从搜索窗口的中心向两端做折线式“Z”字形搜索[10]。若所有层搜索结束后，在此范围内无第二个整数向量，则不等式(9)成立，直接接受。若有第二个整数向量a′，且，则不等式(9)不成立，拒绝整数解；若，则把和a′分别代入式(9)中代替a1和，若不等式成立，接受a′，反之拒绝整数解。

4 实 验

搜索格点数是搜索复杂度的权威的衡量指标[4]，所以本实验通过比较LAMBDA算法和本文提出的新搜索算法的搜索格点数目来比较它们的搜索复杂度。实验基于香港 CORS网的测观测数据组成的三组基线，基线长度分别为5 km、10 km和20 km。三组基线的观测信息如表1所示。在这三条基线中，利用所观测的双频载波相位与伪码观测数据，进行逐个历元独立模糊度固定实验。测距码和载波相位观测量的标准差分别设置为0.3 m和0.003 m。实验中，对每个历元的模糊度实数解向量在模糊度空间中搜索，以求得整数解，记录下每个历元搜索格点数目。

表1 三组观测数据信息表Tab. 1 Information of three sets of observation data

三组基线实验过程中的PDOP值与模糊度维数变化情况分别如图1(a)、图2(a)和图3(a)所示，可见实验过程中卫星的几何结构良好；三组实验中模糊度维数都在20维以下，分别为：5 km基线8～20维，10 km基线 8～18维，20 km 基线 8～18维。三组实验中LAMBDA方法和新方法的每个历元搜索格点数分别记录在图1(b)、图2(b)和图3(b)中，三图的纵坐标均为指数。由此三图可以看出，新方法的搜索格点数普遍小于LAMBDA方法，且新方法不同历元搜索格点数多少的差异性比LAMBDA方法小，表明新方法计算复杂度的稳定性优于LAMBDA方法。对于某些历元，新方法搜索格点数甚至比 LAMBDA方法小一个数量级。为了便于定量分析，在三组实验中分别把模糊度维数相同的历元合并，求出此维数的平均搜索格点数，分别列于表2至表4。可以看出，在不同维数历元中新搜索方法搜索格点数均大大小于LAMBDA方法，搜索复杂度降低普遍在30%左右，最高可接近60%。

图1(a) 5 km基线PDOP值和模糊度维数Fig.1(a) PDOP and ambiguity dimension in 5 km baseline data

图1(b) 5 km基线LAMBDA方法和新方法搜索格点数Fig.1(b) Search nods of LAMBDA and new method in 5 km baseline data

图2(a) 10 km基线PDOP值和模糊度维数Fig.2(a) PDOP and ambiguity dimension in 10 km baseline data

图2(b) 10 km基线LAMBDA方法和新方法搜索格点数Fig.2(b) Search nods of LAMBDA and new method in 10 km baseline data

图3(a) 20 km基线PDOP值和模糊度维数Fig.3(a) PDOP and ambiguity dimension in 20 km baseline data

图3(b) 20 km基线LAMBDA方法和新方法搜索格点数Fig.3(b) Search nods of LAMBDA and new method in 20 km baseline data

表2 5 km基线实验新方法和LMABDA方法在不同模糊度维数下搜索格点数比较Tab.2 Search nods in different ambiguity dimensions of 5 km baseline data by LAMBDA and new method

表3 10 km基线实验新方法和LMABDA方法在不同模糊度维数下搜索格点数比较Tab.3 Search nods in different ambiguity dimensions of 10 km baseline data by LAMBDA and new method

表4 20 km基线实验新方法和LMABDA方法在不同模糊度维数下搜索格点数比较Tab.4 Search nods in different ambiguity dimensions of 20 km baseline data by LAMBDA and new method

5 结 论

LAMBDA算法因其最高的模糊度解算成功率，得到了广泛应用。在其标准的GNSS模糊度解算流程中，需要经过三个步骤：最小二乘估计、模糊度整数估计和模糊度检验。算法的关键和难点在后两个步骤。本文把模糊度后验概率检验目标函数适当简化，嵌入模糊度搜索过程，把模糊度解算简化为两个步骤。同时，由设定的后验概率门限，推导了需要搜索的模糊度空间最小超椭球，进而从搜索开始就把搜索区域就设定为最小，并一直保持到搜索结束，大幅度降低了搜索的复杂度，从而提高了算法的执行效率。值得注意的是，本文方法并未改变LAMBDA算法的目标函数，因此在提高效率的同时，解算成功率保持不变。

（References）：

[1] Teunissen J P G. The least-squares ambiguity decorrelation adjustment: a method for fast GPS integer ambiguity estimation[J]. Journal of Geodesy, 1995, 70: 65-82.

[2] 邓健, 王胜利, 陈润静. GNSS网络实时动态模糊度解算病态性解决策略[J]. 中国惯性技术学报, 2016, 24(1): 14-19. Deng Jian, Wang Sheng-li, Chen Run-jing. Resolving strategies for ill-posed equation in ambiguity resolution of GNSS network real-time kinematics[J]. Journal of Chinese Inertial Technology, 2016, 24(1): 14-19.

[3] Verhagen S, Li B, Teunissen P J G. Ps-LAMBDA: Ambiguity success rate evaluation software for interferometric applications[J]. Computers & Geosciences, 2013, 54: 361- 376.

[4] Xu P, Chi C, Liu J. Integer estimation methods for GPS ambiguity resolution: an applications oriented review and improvement[J]. Survey Review, 2012: 59(324): 59-71.

[5] Verhagen S. Integer ambiguity validation: an open problem?[J]. GPS Solutions, 2004, 8(1): 36-43.

[6] Wu Z, Bian S. GNSS integer ambiguity validation based on posterior probability[J]. Journal of Geodesy, 2015, 89(10): 961-977.

[7] 伍劭实, 赵修斌, 庞春雷, 等. 北斗双频组合动对动高精度相对定位新算法[J]. 中国惯性技术学报, 2016, 24(6): 758-762. Wu Shao-shi, Zhao Xiu-bin, Pang Chun-lei, et al. New method for Beidou dual-frequency kinematic-to-kinematic relative positioning[J]. Journal of Chinese Inertial Technology, 2016, 24(6): 758-762.

[8] Jazaeri S, Amiri-Simkooei A, Sharifi M A. On lattice reduction algorithms for solving weighted integer least squares problems: comparative study[J]. GPS Solutions, 2014, 18: 105-114.

[9] Xu P. Parallel Cholesky-based reduction for the weighted integer least squares problem[J]. J Geod, 2012, 86: 35-52.

[10] Chang X, Yang X, Zhou T. MLAMBDA: A modified LAMBDA method for integer least-squares estimation[J]. Journal of Geodesy, 2005, 79(9): 552-565.

[11] Chang X W, Wen J, Xie X. Effects of the LLL reduction on the success probability of the Babai point and on the complexity of sphere decoding[J]. IEEE Transactions on Information Theory, 2012, 59(8): 4915-4926.

[12] Wu Ming-kui, He Jun, Wang Hong-chen. Reliable single epoch ambiguity resolution for precise attitude determination using BeiDou triple-frequency observations[J]. Journal of Chinese Inertial Technology, 2016, 24(5): 624-632.

GNSS ambiguity resolution and validation based on minimum search hyper-ellipsoid

WU Ze-min1,2, BIAN Shao-feng1
(1. Department of Navigation Engineering, Naval University of Engineering, Wuhan 430033, China;
2. Unit 91919 of PLA, Huanggang 438000, China)

In order to simplify the calculation process of GNSS ambiguity resolution, degrade its complexity, and improve the search efficiency of the LAMBDA algorithm, the following aspects of the ambiguity resolution is modified: (1) posterior probability validation method is adopted in ambiguity validation, and its objective function is simplified; (2) this simplified objective function is embedded into the ambiguity search procedure, thus the independent step for testing the ambiguity resolution is eliminated; (3) the minimum search hyper-ellipsoid in the ambiguity space is derived, and the searching area is restricted to within this hyper-ellipsoid, thus the search region is reduced, and corresponding complexity is significantly decreased. Three groups of real observed data are used to compare the traditional LAMBDA method with the new method, and the results show that the computational complexity of the new method is reduced by 30%, sometimes even by 60%, compared with that of the traditional one. Theoretical derivation and experimental results verify the high efficiency of the new method.

GNSS; LAMBDA; posterior probability validation; search efficiency

P228

A

1005-6734(2017)02-0216-05

10.13695/j.cnki.12-1222/o3.2017.02.014

2016-12-24；

2017-03-26

国家自然科学基金项目（41504029，41631072）

吴泽民（1988—），男，博士、工程师，从事卫星导航研究。E-mail: wzm_hust@sina.com

联 系 人：边少锋（1961—），男，教授，博士生导师。E-mail: sfbian@sina.com