有效数字、数据处理在实验室测试中的应用

■梁玉兰

〔石河子纤维检验所，新疆石河子832000〕

有效数字、数据处理在实验室测试中的应用

■梁玉兰

〔石河子纤维检验所，新疆石河子832000〕

实验室提供的检测数据或检测结果，可以为科学研究、生产活动、商品交易、产品质量技术判断和纠纷仲裁等方面提供依据。为保证实验室所出具的数据或提供结果的可信度，就必须要考核数据提供者的资格条件、技术能力。

一、有效数字的使用及运算

在实际测试工作中，不仅要准确地进行测量，还应当正确地进行记录和计算，当记录表达数据结果时，不仅反映测量值的大小，还反映了测量值的准确程度。

有效数字是指实际上能测量到的数字，包括全部准确数字和一位不确定的可疑数字。有效数字保留的位数与测量方法及仪器的准确度有关。

（一）记录测量数据

记录测量数据时，允许保留一位可疑数字，即不允许增加位数，也不应该减少位数。

例如：3.800 0g是五位有效数字，质量为3.8000g，误差为±0.0001g，人们一看就知道是天平称量，

记3.80g误差为±0.01g就知道是台秤称量，

2002是四位有效数字，

0.011 ‘0.0’不是有效数字，它们是定位的。

（二）有效数字的修约

在正常情况下，测量数据本身并不是最后结果，通过一系列的运算后才能获得。在计算中会出现准确度不同即有效数字位数不同的数据，在确定了有效数字后将多余的数字进行修约，这一过程称为数字修约，也称为数的化整或数的凑整。为了简单计算准确测量结果，必须对有关数字进行修约。按GB 8170-2008《数值修约规则与极限数值的表示和判定》制定各类测试数据的处理原则，并对数据计算做出具体规定。

四舍六入五考虑，即当尾数≤4时舍去；尾数≥6时进位；当尾数为5时，则应视保留的末位数是奇数还是偶数，5前为偶数应将5舍去，5前为奇数则将5进位。

例如：28.2645取3位有效数字时，则有效数字为28.3，

28.350 、28.250、28.050取3位有效数字时分别为：28.4、28.2、28.0，

28.175 、28.165取4位有效数字时为：28.18、28.16，

后面的数字不全是零，无论前面数字是偶数还是奇数皆进1。

如：28.2501取3位有效数字时为28.3，

若被舍去的数字包括几位数字时，不得对该数进行连续修约，

28.154546 取4位有效数字时为28.15而不是28.16。

（三）有效数字运算

1.加减运算，以参加运算的各数据中绝对误差最大（即小数点后位数最少）的数据为标准，决定了结果的有效位数。

12.35+0.0056+7.8903=12.35+0.01+7.89=20.25

2.乘除运算，以参加运算的各数据中相对误差最大（即有效数字位数最少）的数据为标准，决定结果的有效位数。

0.0121×25.64×1.05784=0.0121×25.6×1.06=0.328

3.计算器的运用，勿照抄计算器上的显示数字，根据有效数字修约和计算法则来对计算结果的数字数进行舍取。

二、数据处理

（一）原始数据的有效数字应与测量仪精度一致

根据试验方法标准中规定的进行试验，确认实验室的条件、仪器、设备测量精度相一致。

如：用分析天平称量，准确到±0.0001g，

用台秤称重，准确到0.1或0.01g。

（二）原始数据必须进行系统误差的校正

1.校正测量仪器，如天平校验、仪器检定等。

2.标准方法校对所有的测量仪器重复试验，进行校正。

3.在相同条件下，用所选的测量仪器测标准样品，与标准值比较，进行校正。

（三）确认被校正过的，才能采用，才是可信数据

为了保证实验室出具的报告/证书的测试数据可靠性和可比性，应必须满足实验室认可准则的要求，加大力量培训测试人员，充实自己的技术能力。对原始记录中所需处理的数据，按GB8170-2008《数值修约规则与极限数值的表示和判定》制定各类测试数据的处理原则，并对数据计算验证工作做出规定。切实确保实验室能够做到“以公正的行为、科学的手段、准确的结果”来为社会提供满意的和有效的服务，这也是实验室的客户对所使用的实验室基本要求。☆