测长仪校准规范使用中要注意的一个问题

常青，常晟

(1.中国赛宝实验室，广东 广州 510610;2.西京学院机械系机械与自动化，陕西 西安 710049)

0 引言

已经颁布施行的JJF1189-2008《测长仪校准规范》在规范测长仪 (含数显类)的校准方法、保证其量值准确传递方面起到了重要作用。从量值传递 (溯源)的角度看，它简化了JJG55-1984《测长仪检定规程》的具体要求，增加了对于数显测长仪校准的规定，降低了测长仪量值传递 (溯源)的工作量，提高了工作效率，受到了同行们的好评。

随着量仪行业光机电一体化的发展，原有的光学机械式读数测长仪逐渐被数字显示的测长仪所取代，因此，在本次规范的制定中，从适用范围上增加了数显测长仪的校准要求，这对于原规程是一个进步，也使得大量出现的数显测长仪在实际使用中，具有了规范的量值溯源方法，从而保证了数显测长仪对于产品尺寸测量的准确度。

1 发现问题

由于数显测长仪的自身特性，在校准规范中没有对数显装置的细分特性进行明确要求，使得数显测长仪在实际使用中，对测量结果的准确度带来一些意外的影响，使测量数据的可靠性产生疑问，特别是在φ10 mm以下的针规直径中，很多测量值会与实际结果不一致。使用某型号的数显测长仪 (机身号ZH0101)，针对1 mm点附近的仪器示值误差进行的验证，对相应被测样品 (量块)进行测量。仪器示值误差结果见表1，其中示值误差已进行修正。

表1 测量1 mm时的示值误差

可以看出在1 mm点附近给出的仪器示值误差的最大差值达到1.0 μm，并且在1.000 mm和1.001 mm两点的示值误差的差异为0.4 μm，1.009 mm和1.010 mm两点的示值误差的差异为0.5 μm，这种情况对实际测量，影响会很大。

同样再选择两块标称尺寸为10.24 mm的量块，经过偏差修正后，一块实际值为10.2400 mm，一块10.2398 mm，同时在数显测长仪测量范围中的三个位置进行测量，测量数据见表2。

表2 不同部位测量的仪器示值误差

由此可见，不止在1 mm附近，在其他测量点上也存在类似的情况，只要是标准量块的实际值在微米量级不为0时，测量时其相近点的仪器示值误差就会有明显差异，这应该是数显装置所特有的，须引起注意。

上述的数显测长仪，按照测长仪校准规范中6.3条，即“示值范围≤1000 mm的测长仪，选取5个量块，其最小长度为10 mm，最大长度不小于示值范围的90%，其余量块的尺寸应是校准点间隔基本均匀。……”[1]的要求进行校准。针对以上表述，再加上原有检定规程的影响，校准测长仪示值误差时，都基本上选择标称值为整数的量块，在本例所述的两台数显测长仪，示值误差的校准点均选为10，30，50，70 mm和90 mm，对于小数尺寸则没有校准，从理论上讲是符合校准规范要求的，并且经过校准，两台数显测长仪的示值误差均在±0.5μm以内。

但是，从表1所述的数显测长仪示值误差校准结果看，带小数位的被测对象，其相邻点示值误差的最大差值达1.0 μm，并且按照仪器出厂指标中最大允许误差 (0.5+L/100)μm的要求，个别点的示值误差也超过了相应的要求，出现该问题的原因，就是数显装置的细分误差引起的[2]，而细分误差的影响可以通过对数显装置的结构特点进行叙述加以说明。

2 原因分析

测长仪的数显装置由光栅传感器[3]构成，目前常用的光栅类型有50线/mm、100线/mm和120线/mm几种，正是由于光栅传感器的这一特性，其输出特性的转换函数曲线并不是连续平滑的，而是具有很多离散的细密波纹[4]。从数学上讲，一个函数曲线上如果有离散的细密波纹，此曲线就不是光滑的，而不光滑的曲线是不能进行微分运算的 (即误差大小和方向不易控制和判定)。因为在有离散微小波纹的曲线上，在很微小区域内，曲线的斜率就有可能发生急剧变化(细分误差产生的原因)。所以光栅传感器无论分辨力有多高，示值变动性多么稳定，都存在由此细密波纹带来的斜率误差 (细分误差)。

当然，这类的误差，不会超过波纹本身的幅值，它与所使用的光栅栅距有关，栅距越密，其可能带来的斜率误差也就越小，反之就越大。从目前已有的数据看，根据不同的光栅传感器的栅距，国内外光栅传感器的这类误差基本在几十纳米到几百纳米左右，对于一般准确度的测量没有明显影响，而对于准确度较高的测量该影响就很明显了。

如果仪器使用了计算机技术，则对于转换函数曲线不光滑的传感器的示值误差，制造厂一般有能力在量程内的有限多个点上用计算机修正[5]，但问题是使用者需要在全量程内的无限多点上使用仪器。因此，在实际测量中，测量点有可能落在有效量程内的任何点上。从目前的技术可行性上讲，对光栅传感器转换函数中的大量离散的细密波纹全部修正是不可能的。

通过以上叙述，可以看出数显测长仪使用的光栅传感器，也同样会存在其自身的斜率误差 (即细分误差)问题，如果每毫米的线数少，或者所使用的光栅传感器性能一般，则会带来明显的细分误差，对带有小数结果的影响就体现出来，使测量结果存在差异，这也是表1中两台同型号的数显测长仪对同一对象进行测量时，得到了不同的测量结果，其原因是两台数显测长仪具有不同的细分误差所致。

3 解决办法

基于以上原因，为了保证数显测长仪的量值准确可靠，及更加合理地使用JJF1189－2008《测长仪校准规范》，有必要在数显测长仪的校准中，增加对数显测长仪数显装置细分误差的控制。具体做法是校准示值误差时，在选择5个标准量块的尺寸时，不要单纯以整数标称值的量块做为校准用的标准，而应该辅之以整数后带有小数尺寸的量块做标准，对于小数尺寸，最好是具有微米标称值。

此外，也可以在选择5个整数标称值的量块校准示值误差后，再选择相应的微米尺寸量块对数显测长仪的示值误差进行校准，尺寸的选择建议量块标称值带有1，3，5，7，9μm。如 1.001，1.003，…，1.009 mm，因为通常使用的100线/mm光栅传感器，其刻线间隔为0.01 mm，即10 μm。这样，在一个栅距转换中，上述的五块量块基本均匀分布于一个栅距的5个位置，就可以很好地体现数显装置的细分误差，这样经过校准的数显测长仪则基本上保证了量值准确，同时也不违背JJF1189－2008《测长仪校准规范》的具体规定。

4 说明

以上是在使用JJF1189－2008《测长仪校准规范》中发现的细分误差问题，由于细分误差不能像示值误差一样对测量结果进行修正，因此，在实际使用中一定要保证细分误差是已知可控的，否则将给后续的测量准确度带来不可知的影响。

经过表1所述的实验验证，我们重新确定了数显测长仪的测量对象，尽量以整数测量为主，对于带有小数的测量对象，则要加以区分，如针规直径的测量，如果针规直径的标称值在小数点后1位及以内，则可以不考虑该仪器细分误差的影响;如果标称值为小数点后2位，则对测量结果需要做一定的验证，以排除仪器细分误差的影响，当然如果有更好准确度的仪器，则不考虑用此类数显测长仪进行测量;对于标称值是小数点后3位及以上的，该类型数显测长仪则不可以使用。

[1]国家质量监督检验检疫总局.JJF1189－2008测长仪校准规范[S].北京:中国计量出版社，2008.

[2]水文.长度测量用光栅传感器的误差分析 [J].工具技术，1984(9):44－46.

[3]何道清，张禾，谌海云.传感器与传感器技术 [M].北京:科学出版社，2008.

[4]杨进堂，杨庆辉.莫尔条纹动态细分误差的测量 [J].计量技术，1998(7):14－16.

[5]胡章芳，应俊.减小光栅传感器测量信号误差的研究[J].重庆邮电大学学报:自然科学版，2007，19(6):697－701.