CPⅢ三角高程测量数据粗差探测方法研究

任利敏 曹瑞峰 洪小瑞 常艳美

(1.黄河交通学院交通工程学院，河南焦作 454950；2.河南大学环境与规划学院，河南开封 475000； 3.郑州合众景轩信息技术有限公司，河南郑州 450000)

CPⅢ控制网是高速铁路轨道铺设与运营维护的平面及高程基准[1]。CPⅢ 控制点高程可利用CPⅢ 平面网测量的边角观测值，采用CPⅢ 控制网自由测站三角高程测量方法获得[2]。由于数据采集量大，CPⅢ三角高程测量过程中出现粗差不可避免，并会直接影响平差结果的质量，必须及时发现并剔除观测数据中存在的粗差[3]。文献[4]将单纯形法应用于测量控制网的解算中，结果表明，单纯形法是一种有效稳健的估计方法；文献[5]将单纯形法应用于测绘数据处理中，相较于牛顿型算法，单纯形法可以有效提高测绘数据处理效率。

以下介绍数据探测法和基于L1范数的单纯形法，采用两种方法分别对某段高速铁路CPⅢ三角高程测量实测数据进行粗差探测，并对结果进行分析。

1 粗差探测方法

粗差也叫过失误差，其仅对个别观测值存在影响，且其位置及大小无任何规律可循[6]。国内外学者对粗差进行了大量研究，并提出多种粗差探测方法。

1.1 数据探测法

对原始数据进行平差，计算出各残差值及其限差，将残差值最大且超限的观测值视为粗差并将其剔除，再对剩余数据进行平差；仍取残差值最大且超限的1个观测值视为粗差并剔除，对剩余数据再进行平差，直至所有残差值均在限差范围内[7-8]。

由最小二乘法平差可得CPⅢ 三角高程测量的高差改正数，即平差后的残差值为

V=[B(BTPB)-1BT-Q]Pl

(1)

QVV=Q-B(BTPB)-1BT

(2)

(3)

式中，QVV为残差的协因数阵，DVV为残差的方差。

(4)

式中，Qii——QVV的第i个对角线元素。

把Wi作为统计量进行粗差判断。当前国际上公认的是Baarda选择的显著性水平α=0.001，由正态分布表可得[9]

(5)

1.2 基于L1范数的单纯形法

一次范数最小估计(L1估计)即残差绝对值最小和法。单纯形法是求解L1估计的标准算法。单纯形法的基本思想是从变量约束条件可行域的一个基本可行解开始，判断该解是不是目标函数(残差绝对值最小和)的最优解，若不是则寻找比该解更“好”的解，直至找到最优解为止[11]。

L1估计准则即目标函数为[12]

(6)

约束条件为

(7)

式中n——观测值的个数；

t——为必要观测数。

(8)

将式(8)代入式(7)得：

(9)

(10)

由式(9)和式(10)，线性规划模型可以表示为

目标函数

(11)

约束条件为

(12)

将上述线性规划模型用单纯形算法进行计算，即可得到最优解。将解算所得改正数为零的t个观测值用lt表示，相应系数用At表示；剩余观测值和相应系数分别用lr和Ar表示，即

(13)

其中：At为t×t的矩阵，Ar为r×t的矩阵，lt为t×1的矩阵，lr为r×1的矩阵

对式(13)求解可得

(14)

(15)

改正数为零的lt可看作不受粗差影响，lr可能包含粗差。

有中误差公式

取3σ0作为限差，若|Vri|<3σ0，即可将观测值Lri看做不存在粗差；反之，若|Vi|>3σ0，可将观测值Lri看做存在粗差。

2 应用实例

以某段高速铁路自由设站CPⅢ 三角高程测量实测数据为例，分别用数据探测法和单纯形法对该段数据进行粗差探测。由于数据量较大，故利用C#语言在Microsoft Visual Studio.Net平台上对以上两种平差方法进行编程。

由粗差的可发现性和可定位性可知，当一个测量系统中不存在多余观测时，即使该观测量中存在粗差但其粗差值不能被发现；当只有一个多余观测量时，只能通过两个观测量的对比来发现是否存在粗差，但不能定位粗差存在于哪一个观测量之中；当存在两个以上的多余观测量时，才能对其进行定位[13-14]。

图1 基于自由设站的CPⅢ三角高程测量网形示意

图1为基于自由测站的CPⅢ 三角高程测量网形示意。由图1可知，每个CPⅢ 点至少有3个测站对其进行观测。在该测量系统中每个观测值至少存在2个多余观测量[15]。用粗差探测法和单纯形法对该段CPⅢ 三角高程测量数据进行解算，结果分别列于表1和表 2，由于数据较多，仅将部分观测量的残差列出，对于超出限差的残差数据加粗并在其限差后加“**”表示。

表1 数据探测法 mm

表2 基于L1范数的单纯形法 mm

3 结果分析

从表1可得，存在粗差的观测量有：测站A76观测 点0183314，测站A84观测 点0183330，测站A88观测点0183330，测站A101观测点0184318以及测站A104观测 点0184318。

从表2可得，存在粗差的观测量有：测站A76观测 点0183314，测站A84观测点0183330和测站A101观测点0184318。

以该段对应的 水准测量数据为基准，对本段数据中存在的粗差进行检测[1]，检测结果如表3所示。

表3 粗差检测结果

从文献[1]中可知，近似高差较差值的大小反映CPⅢ观测值中存在的粗差大小。由表3中可得

存在粗差的观测值有：测站A76观测点0183314的粗差值约为109.5 mm；测站A84观测点0183330的粗差值约110.1 mm；测站A104和测站A107观测点0184318的粗差值分别约为112.2 mm和109.6 mm；测站A76、A80和A84观测点0184324的粗差值分别约为109.9 mm、109.4 mm和108.7 mm。

以上实例数据计算结果表明：

(1)当由三个测站观测同一个CPⅢ点的观测量中存在一个粗差观测量时(如测站A76观测点0183314和测站A84观测点0183330的观测量含有粗差，测站A70、A74观测点0183314以及测站A88、A92观测点0183330的观测量中不包含粗差)，单纯形法探测出测站A76观测点0183314和测站A84观测点0183330的观测量含有粗差，即单纯形法能发现又能定位粗差，且平差所得残差值与粗差值相近。数据探测法探测结果为测站A84观测点0183330的观测量中不仅含有粗差，且测站A88观测CPⅢ点0183330的观测量也被判定含有粗差，其原因为数据探测法对粗差进行平摊，导致与其具有相关性的其他观测量也被误判为含有粗差。

(2)当由三个测站观测同一个CPⅢ点的观测量中存在两个粗差观测量时(如测站A104与测站A107观测的 CPⅢ点0184318均含有粗差，测站A101观测的 CPⅢ点0184318不包含粗差)，单纯形法探测结果是测站A101对CPⅢ点0184318的观测量中含有粗差，测站A104与测站A107观测CPⅢ点0184318的观测量中不包含粗差，故单纯形法仅可发现却不能定位粗差。数据探测法探测结果为测站A101与测站A104观测的CPⅢ点0184318均含有粗差，故数据探测法同样只能发现但不可定位粗差。

(3)当由三个测站观测同一个CPⅢ点的观测量中均存在粗差，如测站A76、A80和A84观测的CPⅢ点0183324均存在粗差。由表2可得，单纯形法探测结果为测站A76、A80和A84观测CPⅢ点0183324的观测量均不存在粗差；由表1可知，数据探测法探测结果为测站A76、A80和A84观测CPⅢ点0183324的观测量均不存在粗差。故单纯形法与数据探测法均不能发现也不能定位粗差。

4 结论

(1)当三个观测量有两个含有粗差时，单纯形法与数据探测法均只能发现但不能定位粗差；当三个观测量均含有粗差且粗差值相近时，单纯形法与数据探测法均不能发现与定位粗差。

(2)单纯形法对粗差的探测能力要优于数据探测法。因平差计算时单纯形法仅使用了部分观测量，所以其求解出的参数精度低于数据探测法。故实际应用中，基于L1范数的单纯形法主要应用于粗差的探测与剔除，再利用数据探测法对剔除粗差后的观测数据进行平差，求解参数值。