一种前兆仪器线性度分析方法研究

欧同庚，张西苹，郭晓菲

（1.中国地震局地震研究所，湖北 武汉 430071；2.防灾科技学院，河北 廊坊 065201；3.武汉地震科学仪器研究院有限公司，湖北 咸宁 437000；4.湖北省重大工程地震检测与预警处置技术研究中心，湖北 咸宁 437000）

引言

目前，地震前兆相关仪器，如伸缩仪、水管倾斜仪和数据采集器等的检测数据处理中，线性度误差的计算有2种方法［1－9］：（1）仪器线性度误差是用标准不确定度与实际测试量程输出的比值表示的，而标准不确定度是用极差法计算的；（2）仪器线性度的计算方法是直接用拟合值与测量值的最大偏差值与实际量程输出的比值得出的。传统线性度计算方法存在以下可改进的地方：用最小二乘法对位移量和输出电压值所拟合的一元回归直线没有进行显著性分析，如果在测量记录过程中存在粗大误差而没有进行判别和剔除，由此进行的线性度误差计算结果将不具有代表性，因此，对拟合曲线进行显著性检验则显得尤为重要；同时，标准不确定度用极差法计算，即仪器线性拟合值与实际测量值的偏差最大值与极差系数之比作为标准不确定度值，由王宏涛等和陈凌峰［10-11］推算证明可知，测量不确定度的准确评估对仪器的合格评定至关重要，极差法存在概率统计学上的原理性误差，使用极差法得到的测量不确定度偏大，导致合格评定中的审慎区间扩大，加大做出错误评定的概率。为了更加合理的确定仪器的线性度参数，文中以水管倾斜仪为例，根据不同计算方式得到的计算结果对比分析，提出了一种基于最小二乘法和贝塞尔法计算前兆仪器线性度误差指标的方法。

1 回归方程的确立

1.1 数据获取

以水管倾斜仪的线性度测试方法为例，根据周云耀等［12－13］介绍可知，测试的具体方法为：首先，将水管倾斜仪的浮子进行改造，使之能够将激光干涉系统中的反射镜固定在其中，从而可以对浮子的高度进行精密测量；其次，通过激光干涉测量能够直接读出浮子上升或下降的位移量，位移量是根据液位量变化的，通过记录到的液位量与另一端的水管仪的传感器输出电压值进行对比；最后得到仪器的相关测试数据，以某一次具有代表性的水管倾斜仪线性度测试结果为依据，如表1所示。

表1 DSQ型水管倾斜仪线性度测试数据表Table 1 Test data of DSQ type water pipe tiltmeter linearity

1.2 建立方程

根据表1画出仪器输出电压值与液位量之间的散点图，如图1所示，可以直观看出2个参数之间基本成线性关系。

图1 输出电压值y与液位量x之间的散点图Fig.1 A scattergram of the output voltage value y and the float displacement x

液位量是由激光干涉仪通过测量浮子位移确定的，而激光干涉仪的测量精确度可以溯源，则液位量的测量误差可以忽略，因此，设回归方程为：

式中：b0、b为回归方程的回归系数。

将表1的液位量x与输出电压值y的数据，通过线性拟合计算出回归系数b值为-20.3514（保留相应的有效数字），回归系数b0值为-882.115 4。即所求的一元线性回归方程为：

精确到千分位，则为：

2.1 回归问题的方差分析

N个输出电压值之间的变差，可用输出电压值y与其算术平均值yˉ的离差平方和来表示［12－14］，即总的离差平方和S为：

进一步可以得到：

为了方便直观，写成S=U+Q的形式，即：

式中：U表示回归平方；Q表示残余平方和。

2.2 回归方程的显著性检验

由回归平方和与残差平方和的意义可知，一个回归方程是否显著，也就是说y与x的线性关系是否密切，取决于U（回归平方和）及Q（残余平方和）的大小，U越大、Q越小说明y与x的线性关系越密切。回归方程显著性检验通常采用F检验法，其中vu和vQ分别表示U和Q的自由度，因此，统计量F表示如下：

对一元线性回归：

通过查F分布表，判断回归属于高度显著的、显著、在0.1水平上显著或者是回归不显著的哪一种。

lyy==1979 192.807最小二乘法确定的回归方程由表3可知，带入公式得出U（回归平方和）及Q（残余平方和）的大小，即：

已知水管倾斜仪线性度测试次数为11，即N=11，于是统计量F为：

查得F分布表［12］，可知当置信概率为0.99时，

F>>F0.01（1，9），可以确定该一元线性回归方程高度显著，且可信赖程度为99%以上。

3 标准不确定度的分析计算

3.1 标准不确定度计算方法

3.1.1 贝塞尔法

已知测量次数为N，残余误差值Yi′-Y，用贝塞尔法计算单次测量的标准差σ1为：

平均值的标准差为：

标准不确定度u贝为：

3.1.2 别捷尔斯法

根据别捷尔斯公式，求得测量列单次测量的标准差σ2为：

算术平均值的标准差σxˉ为：

标准不确定度u别为：

3.1.3 极差法

拟合输出电压最大值Ymax′和最小值Ymin′的差值与观测电压输出最大值Ymax和最小值Ymin的差值两者之差称为极差ω11，即：

查表可知dN的值，则不确定度即标准差的无偏估计量u极为

3.1.4 最大误差法

根据最大误差公式，已知N的值，可查表得，求得测量列单次测量的标准差σ3为：

标准不确定度u最为：

3.2 不确定度计算结果

由液位值和输出电压值的测量记录表1和基于最小二乘法得到的高度显著性一元回归方程可以得出拟合值以及拟合值y′和实际电压的偏差值，若以激光干涉仪测得的液位值和拟合值为标准参考值，则偏差值为残余误差值，可得出数据残余误差值，进一步可以得出线性回归方程的不同计算方法所得到的的标准不确定度值，结果如表2所示。

表2 不确定度值表Table 2 Uncertainty values

对比这4种不确定度计算结果可知，方法不同，标准不确定度和线性度误差的计算结果也不一样，其中，最大误差法得到的标准不确定度最大，其次是极差法，贝塞尔法和别捷尔斯法大致相等，根据陈凌峰和费业泰［11，14］介绍可知，极差法一般在测量次数小于10时使用，可简单迅速算出标准差，具有一定精度，最大误差法在测量次数小于10时具有一定精度，具有简单方便的特点，但别捷尔斯法、极差法和最大误差法的可靠性均低于贝塞尔法，当不同方法得到的线性度误差不同时，以贝塞尔法得到的不确定度计算结果为准。

4 线性度误差值的确定

4.1 计算方法

由于实际仪器有非线性的存在［17－21］，近似后的拟合直线与实际曲线存在偏差，这个偏差由标准不确定度u标表示，而非线性误差值是指在满量程输出电压值ΔYFS的条件下，标准不确定度所占的比重，即非线性误差（又叫做线性度误差）d计算公式为：

式中：ymax表示输出电压最大值；ymin表示输出电压最小值。

4.2 计算结果

带入表1数据可得水管倾斜仪满量程输出电压值ΔYFS=1321.5mv，根据基于最小二乘法确立的回归方程以及贝塞尔公式得出的标准不确定度，可得水管倾斜仪线性度误差值d结果为：

所以，此水管倾斜仪线性度误差值为0.054%。

5 结论

综上所述，在对前兆仪器线性度误差的计算方法进行了详细的介绍和讨论的基础上，在传统方法上进行了以下改进：

（1）对最小二乘法确定的回归方程进行了显著性检验，采用F检验法确定回归方程的显著性水平和显著程度，另外，也可以选用R相关系数检验法。

（2）标准不确定度的计算方法分别采用了4种方法进行线性度误差结果对比和分析，以贝塞尔法得到的线性度误差为准，使得前兆仪器的线性度检验结果更加严谨可靠。

（3）以前兆仪器之一的水管倾斜仪实际台站线性度检测数据为例进行计算结果的对比分析，更加确定了基于贝塞尔法的线性度误差计算结果的合理性。