整体最小二乘法坐标转换在河道测量中的应用

马世龙,巫兰光,李宏超

(河南测绘职业学院，河南 郑州 450046)

1 引言

在水利工程河道建设中，河道测量作为贯穿施工全过程的非常重要的基础性工作，河道测量的精度直接决定了整个水利工程的质量、成本与进度。在进行河道测量时，由于河道线较长，需要跨域多个省市，经常会遇见不同地区或不同系统之间进行坐标系转换的问题。对于传统平面直角坐标系之间的转换，通常做法是选取2～3个在两套坐标系中均有坐标值的公共点，将公共点的坐标值视为无误差的真值，先利用公共点坐标反算出坐标转换参数，然后再通过参数转换模型来求解目标坐标系下坐标值[1]。但是，传统的平面坐标转换方法未考虑到公共点坐标在获取过程中观测误差对其产生的影响，在转换精度上存在较大的缺陷，不适合应用在精密工程测量中[2～4]，如高铁轨道测量、坝体形变测量等。近几年，随着对坐标系转换研究的不断深入，国内外一些专家学者将最小二乘法引入到坐标转换中，并取得了一定的成果，如杨元兴等[5]利用最小二乘法原理，详细推导了平面坐标转换的计算步骤，为其在转换模型精度上的改进提供参考；黄坤阳等[6]将改进最小二乘算法应用到天文定位时转换参数的求解，通过不同方法对比验证了改进的最小二乘法解算出的参数值精度更高；项伟等[7]引入阻尼最小二乘法解决了因转换角过大导致的参数计算误差大的问题。虽然最小二乘法在一定程度上提高了坐标转换精度，但该方法在参数解算中仅考虑了公共点单向误差，在实际应用中具有一定的局限性[8，9]。河道测量作业环境复杂，容易受到人为、仪器以及外界环境等方面的综合影响，导致施测过程中公共点坐标在原坐标系和目标坐标系中同时存在误差，因此，使用最小二乘法对模型参数求解难以满足坐标转换高精度的要求。综合以上问题，本文在充分考虑公共点误差对坐标转换精度影响的前提下，将整体最小二乘法应用到平面直角坐标转换参数求解中，以获取更高精度的坐标转换成果。

2 平面坐标转换模型

二维四参数模型常被用于平面直角坐标系之间的相互转换，模型转换方程如下[10]：

(1)

式(1)中，(XT、YT)为公共点在目标坐标系中坐标值，(XG、YG)为公共点在原坐标系中坐标值，(Δx、Δy)为两坐标系平移参数，α为两坐标系坐标轴之间的旋转参数，λ为缩放尺度参数。公式中共有4个未知转换参数，分别为(Δx、Δy、Δz、α)，如果要求解这些未知转换参数，至少需要已知2个或2个以上公共点在2套坐标系下的坐标值。对式(1)进行变换，可以写成式(2)形式：

式(2)中，a=λcosα，b=λsinα。

假设观测值向量存在误差，则误差方程用向量形式进行表示，结果如式(3)：

(3)

采用经典最小二乘法对误差方程进行求解，要求VTPV=min[11]，其中P为观测值权阵。

3 整体最小二乘法坐标转换

3.1 整体最小二乘法误差方程

利用经典最小二乘法在计算坐标转换参数时，仅考虑观测向量的误差，忽略了系数矩阵本身存在的误差，但在实际测量工作中，由于人为误差、模型误差和仪器误差等因素的影响，系数矩阵同样也是含误差的观测量[12]，因此，采用最小二乘法解算出的坐标转换参数精度并不高。鉴于经典最小二乘法存在的问题，本节将讨论如何用整体最小二乘法解算坐标转换参数，整体最小二乘法同时考虑了系数矩阵和观测值含有的误差。将式(3)加入系数矩阵误差b，可得整体最小二乘法误差方程的计算公式为：

(4)

式(4)中，b为系数误差矩阵，其它符号含义同式(3)。

3.2 整体最小二乘法误差方程求解

对于式(4)的解算，目前常用方法有奇异值分解法(SVD分解法)[13]、拉格朗日函数法[14]、正交三角分解法(QR分解法)[15,16]、分裂迭代法等[17]，但上述方法计算过程均较为复杂，不仅计算工作量大，而且要求具备一定的数学基础[18]。本文对整体最小二乘法解法将依据文献[19]，参考整体最小二乘法在线性回归建模和解法的案例，分析整体最小二乘法在平面直角坐标转换中参数的求解过程。假设已知公共点在两套坐标系中均存在误差，在原坐标系中坐标误差改正值为(VXG、VYG)，在目标坐标系中对应的误差改正值为(VXT、VYT)，则相应的条件方程式(2)可写成以下形式:

(5)

(6)

V=[VXTVYTVXGVYTG]T，

按照最小二乘法VTPV=min的原则构造条件极值函数，可得坐标转换参数改正数的解为：

当公共点在两坐标系中的坐标值均为同精度独立观测时，那么权阵P可视为单位阵，则式(7)简化为：

(8)

两坐标系中公共点坐标值的改正数向量为：

(9)

经式(9)改正后的公共点坐标值，按式(1)重新计算坐标转换参数，即为整体最小二乘法所得坐标转换参数的解。如果一次改正后仍不满足精度要求，可重复以上计算步骤，直至满足精度后结束。

4 应用实例

4.1 方案设计

为检验整体最小二乘法在坐标转换上的精度，本文与经典最小二乘法的坐标转化精度进行对比。公共点选择某河道控制网中8个同时具有国家2000坐标和西安80坐标的控制点，其中D1-D6前6个控制点沿河道分布情况如图1所示，控制点坐标经加密处理后的坐标值见表1。本文验证设计方案如下：

图1 控制点沿河道分布

(1)将D1-D6前6个控制点坐标用于经典最小二乘法和整体最小二乘法对坐标转换参数的求解，使用最小二乘法对参数求解时，将国家2000坐标系视为无误差的观测值。D7、D8后2个点用于检验这两种方法坐标转换精度。

(2)整体最小二乘法转换参数求解时，先把经典最小二乘法解算出坐标转换参数作为整体最小二乘法转换参数的初值，再由式(8)计算整体最小二乘法坐标转换参数的改正数，然后根据式(9)对控制点在两套坐标系中的坐标初始值进行改正，并用改正后坐标值重新计算新的坐标转换参数值，本方案对坐标值改正一次即可。

(3)分别用以上2种方法解算出的坐标转换参数值，将D7、D8两点坐标值从原80西安坐标系转换至目标2000国家坐标系，把转换出的坐标值与表1中给出的理论坐标值进行精度对比，并计算出最大点位误差。

表1 公共点在两套坐标系中坐标值

4.2 转换参数解算及精度分析

根据该河道已有观测资料可知，D1-D6控制点位于同一个GPS控制网中，控制点在两套坐标系中的坐标值均使用TOPCON HiperII G型号仪器进行了同精度独立观测，并采用Trimble Business Center软件进行了基线解算和平差计算。因此，各控制点坐标值在精度上的权重相等，权阵可视为单位阵。为方便坐标参数转换求解，本文利用MATLAB软件对参数计算过程进行了编程[20]，则由前6个公共点分别用最小二乘法和整体最小二乘法解算出的坐标转换参数结果如表2所示。

根据表(2)解算出的两组坐标转换参数值，按式(1)4参数模型依次将D7、D8两点坐标从84西安坐标系转换至2000国家坐标系(以下简称“转换值”)，表3和表4分别为这2种方法的转换成果。与表1中D7、D8两点的理论坐标值相比，使用经典最小二乘法解算出的转换值和理论坐标值的最大较差为0.015 m，最大点位误差为0.017 m，而使用整体最小二乘法解算出的转换值和理论坐标值的最大较差仅为0.003 m，最大点位误差为0.003 m，结果验证了使用整体最小二乘法计算坐标转换参数，进而转换出的坐标值更接近理论坐标值，点位误差相对更小，表明该方法与经典最小二乘法相比，具有更高的精度。综上可得，如果公共点在两套坐标系中坐标值均存在观测误差情况下，使用整体最小二乘法计算出的坐标转换参数，更接近真值，具有更强的抗误差干扰能力，可适用于对测量精度要求更高的河道测量工作中。

表3 用经典最小二乘法计算检核点坐标

表4 用整体最小二乘法计算检核点坐标

5 结语

本文将整体最小二乘法应用到平面直角坐标转换的问题研究上，并结合工程实例，与经典最小二乘法坐标转换精度进行了对比。通过分析表明，整体最小二乘法能够更好地解决平面坐标转换中公共点坐标在原坐标系和目标坐标系均含有误差的弊端，完成平面坐标转换参数的精确解算，从而实现高精度的平面直角坐标转换。在实际河道测量中，由于控制点离水面较近，临河区域内地质较软，埋设控制点标石极易发生沉降或位移，导致控制点的坐标值中不仅含有偶然误差，也可能因位移量过大产生粗差，本文未充分考虑粗差对坐标转换精度的影响，有待于进一步的研究和完善。