总体最小二乘法在七参数坐标转换中的探讨

刘 珺

(太原理工大学测绘科学与技术系，山西 太原030024)

一、引 言

在GNSS定位技术高速发展与广泛应用中，坐标转换是必不可少的［1］，常常需要把GNSS获取的WGS-84坐标系下的坐标转换到国家坐标系或地方坐标系下。

在坐标转换问题中，当有足够数量的重合点的两套坐标值时，一般通过Gauss-Markov(GM)模型建立误差模型，采用经典LS法来求解其转换参数。而GM模型的前提是假设仅有观测向量包含随机误差，系数矩阵完全准确而不包含随机误差，即目标坐标值存在误差而源坐标没有被随机误差所污染。但是，同一个重合点在两套坐标系下的坐标值都是通过测量或计算得到的，不可避免地都会受到观测环境、观测者、观测仪器等的影响而含有随机误差。此时，LS法所得的估值不具有无偏性等传统特性［2-3］，不再是理想的最佳估值。

针对以上不足，基于EIV(errors-in-variables)模型的总体最小二乘(total least squares，TLS)被引入到坐标转换问题中，并得到广泛研究与应用。许多研究表明，TLS方法建立的EIV模型能够很好地处理坐标转换计算中所有数据都被偶然误差所污染的问题［4-7］。陈义等［4］研究表明，在摄影测量的坐标转换中，即使当控制点分布不合理或控制点数量减少时，TLS法仍能得到具有较高精度和较稳定的解。孔建等［5］将TLS分别应用于四参数模型和仿射变换模型中，通过比较实验所得平差的单位权因子，得出了TLS所得的转换参数是最优的结论。刘立龙等［6］通过算例指出，在六参数平面坐标转换模型的参数解算中，TLS能够更好地改善坐标转换的内部精度。

考虑坐标转换问题的多样性和误差分布的复杂性，那么具体到七参数坐标转换，如GNSS定位技术所得的WGS-84坐标转换到国家或地方坐标系中，TLS法是否一定是比LS法更优的解决方案。本文就重合点在两种不同坐标系下的坐标值独立、等精度条件下，通过算例，计算和比较LS和TLS方法的转换参数值和相应的精度来对上述问题进行探讨。

二、七参数转换模型

两种不同的坐标系的转换参数是通过已知的重合点坐标值得到。如果已知k个重合点(k＞3)在A和B两种坐标系下的坐标值，那么观测值数量为n=3k，参数个数为m=7，可列出相应的七参数坐标转换模型为

式中，XA、YA和ZA表示A坐标下的坐标;XB、YB和ZB表示B坐标下的坐标;X0、Y0、Z0、εX、εY、εZ和u是A坐标系统转换到B坐标系统的7个转换参数，分别为3个平移量参数，3个旋转量参数和1个缩放因子参数。

在LS法下，将观测向量L中的改正数记作V，参数向量的平差值记作^X，则误差方程可写成

三、TLS法解算转换参数

假定两种坐标系统下的坐标值互相独立且服从N(0，1)，则可建立约束条件(目标函数)为

式中，vec()表示拉直变换。

式(3)和式(4)即为TLS的七参数坐标转换解算模型。本文采用基于迭代法对上述模型进行求解［8］，并评定精度。

四、算例分析

本文算例［9］中包含5个重合点，其在WGS-84和1954北京坐标系下的测量坐标值见表1。

首先建立七参数坐标转换模型，然后分别采用LS法和TLS法，使用Matlab编写计算程序，求得相应的转换参数见表2，同时计算两种方法所得的单位权中误差与相应各转换参数的中误差见表3。

通过LS法得到单位权中误差为3．47 cm，那么可以选择+30 cm(超过了3倍的单位权中误差)作为粗差。设计5种坐标值中包含粗差的方案，具体如下:

P1-a:XA1坐标值包含一个粗差(+30 cm)。

P1-b:XB1坐标值包含一个粗差(+30 cm)。

P2-a:XA1和YA1坐标值各包含一个粗差(+30 cm)。

P2-b:XB1和YB1坐标值各包含一个粗差(+30 cm)。

P2-c:XA1和XA2坐标值各包含一个粗差(+30 cm)。

按上述方案模拟数据，采用LS法和TLS法所得的参数解见表4，以及相应参数精度见表5。

表1 两种坐标系下的测量坐标值 m

表2 LS和TLS应用于七参数坐标转换模型的参数解

表3 LS和TLS应用于七参数坐标转换模型的参数精度

表4 LS和TLS应用于七参数坐标转换模型的参数解(坐标值含有粗差)

表5 LS和TLS应用于七参数坐标转换模型的参数精度(坐标值含有粗差)

由表3可知，TLS解算的单位权中误差和相应参数中误差都比LS计算的结果小，说明TLS解算的精度比LS高。由表2可知，TLS和LS解算的转换参数没有显著差异，说明TLS和LS求得的转换参数后续用于其他点的坐标转换时所得坐标值将是一样的。

由表4和表5可知，当坐标值中含有粗差时，LS法和TLS法所得的参数解几乎相同，但在精度上TLS法还是相对较高。但结合表2和表3来看，LS法和TLS法都不能很好地抵抗粗差对参数解的影响。

五、结 论

1)在七参数坐标转换模型中，TLS对所有变量的误差施加了最小化的约束条件。与LS相比，TLS同时考虑系数矩阵和观测向量的误差所建立的EIV模型，更为合理和符合实际。

2)在七参数转换模型中，相对于LS法，TLS虽然在精度(单位权中误差和转换参数的中误差)上有一些优势，但是所求的坐标转换参数是没有显著差异的，坐标转换参数对系数矩阵的误差不敏感。当坐标值中存在粗差时，TLS法和LS法同样不能很好地抵抗粗差对转换参数解的影响。

3)在七参数转换的工程应用中，相比于转换参数的精度，我们往往更关心的是所得转换参数解的值。那么在相应的工程测量的实践中，为了简化计算过程，仍可直接采用LS法来求解，而不选用TLS法。

［1］ 郭英起，唐彬，张秋江，等．基于空间直角坐标系的高精度坐标转换方法研究［J］．大地测量与地球动力学，2012，32(3):125-128．

［2］ 丁克良，欧吉坤，陈义．整体最小二乘法及其在测量数据处理中的应用［C］∥中国测绘学会第九次全国会员代表大会．北京:中国测绘学会，2009．

［3］ 刘经南，曾文宪，徐培亮．整体最小二乘估计的研究进展［J］．武汉大学学报:信息科学版，2013，38(5):505-512．

［4］ 陈义，陆珏，郑波．总体最小二乘方法在空间后方交会中的应用［J］．武汉大学学报:信息科学版，2008，33(12):1271-1274．

［5］ 孔建，姚宜斌，许双安．整体最小二乘求取坐标转换参数［J］．大地测量与地球动力学，2010，30(3):74-78．

［6］ 刘立龙，姚朝龙．LS和TLS在平面坐标转换中的应用［J］．测绘科学，2012，37(5):12-13．

［7］ 陆珏，陈义，郑波．总体最小二乘方法在三维坐标转换中的应用［J］．大地测量与地球动力学，2008，28(5):77-81．

［8］ 鲁铁定，周世健．总体最小二乘的迭代解法［J］．武汉大学学报:信息科学版，2010，35(11):1351-1354．

［9］ 武汉大学测绘学院．误差理论与测量平差基础［M］．武汉:武汉大学出版社，2003．