浅谈分析化学中有效数字的处理

浙江省宁波市宁波经贸学校 浙江 宁波 315100

一、有效数字的概念

(一)定义。有效数字就是指分析工作中实际能测量到的数字。有效数字不仅能表示数值的大小,还可反映测量的精确程度。有效数字的位数和分析过程所用的分析方法、测量方法、测量仪器的准确度有关。我们可以把有效数字这样表示。

表示含义:如果有一个结果表示有效数字的位数不同,说明用的称量仪器的准确度不同。

例:25.00ml 用的是移液管或滴定管

25.0ml 用的是量筒或量杯

1.0克 用的是托盘天平

1.2346克 用的是分析天平

(二)有效数字位数的判定。在确定有效数字的位数时,数字中的1-9均为有效数字,但数字0则不一定,当位于第一个数字(1-9)前的0不是有效数字;而在数字中间或小数中非0数字后面的“0”是有效数字。

例:滴定管读数为10.20毫升。两个0都是测量出的值,算做普通数字,都是有效数字,这个数据的有效数字位数是四位。

改用“升”为单位,数据表示为0.01020升,前两个0是起定位作用的,不是有效数字,此数据是四位有效数字。

0.06g、0.3% 一位有效数字

0.098、0.20% 二位有效数字

0.0675、1.43*10-5三位有效数字

0.1003、1.420*10-5四位有效数字

(三)规定

1.自然数可看成具有无限多位数(如倍数关系、分数关系);常数亦可看成具有无限多位数,如e、π。

2.分析化学中经常遇到p H、pk、lg K等对数值,其有效数字的位数决定于小数部分(即尾数)数字的位数。

例:p M=6.00(二位)[M]=1.0×10-6;PH=1.34(二位);p H=0.01(二位)

3.不能因为变换单位而改变有效数字的位数

注意:在实际工作中,首位数字是8或9时,可多计一位有效数字,如9.45可以看做四位数字。

二、数字修约规则

按国家标准GB8170-1987《数字修约规则》,采取“四舍六入五留双”的规则进行修约;当被修约的数字≤4时,该数字舍去,当被修约的数字≥6时则进位;当被修约的数字等于5而后面的数都为0时,5前面为偶数则舍去,5前面为奇数则进位;当被修约的数字等于5而后面还有不为0的任何数字,无论5前面是奇或是偶都进位。

三、运算规则

(一)加减法。几个数据相加减时,有效数字位数的保留,应以小数点后面位数最少的数据为准进行修约,使计算结果的误差与各数据中的绝对误差最大那个数据相当。

例:计算60.1+2.45+1.5812=?

修约为:60.1+2.4+1.6=64.1

注意:笔算,先修约,再计算;计算器,先计算,再修约。

例:计算21.43+8.765+231.812=?

修约为:21.43+8.76+231.81=262.00

注意:用计数器计算后,应该显示的是262,但不能直接记录,否则会影响以后的修约;应在数值后添两个0,使小数点后有两位有效数字。

(二)乘除法。几个数字相乘除时,有效数字位数的保留,应以有效数字位数最少的数据为准进行修约,使计算结果的误差与各数据中的相对误差最大那个数据相当。

例:计算14.28×1.1527×0.0473=?

修约为:14.3×1.15×0.0473=?

计算后结果为:0.7778485,结果仍保留为三位有效数字。

记录为:14.3×1.15×0.0473=0.778

注意:用计算器计算结果后,要按照运算规则对结果进行修约

例:计算3.5048×1.003×2.0=?

修约为:3.5×1.0×2.0=?

计算器计算结果显示为7,只有1位有效数字,但我们记录时应在数字后加一个0,保留两位有效数字。

(三)乘方或开方。计算结果的有效数字位数按原有数据的位数保留

注意:分析中的各类误差通常取1-2位有效数字,常见的在表示准确度和精密度时,一般只取一位有效数字,最多取两位有效数字。

在报出分析结果时,分析结果数据大于或等于10%时,一般要求4位有效数字;数据在1%-10%之间时,一般要求保留3位有效数字;数据小于或等于1%时,只要求保留2位有效数字。

只有掌握了对有效数字的处理方法,才会使分析工作显得更有意义,针对不同的分析任务,就要选择不同的分析方法和测量仪器,而不同的仪器所规定的精度是不同的,在记录有效数字的时候就要考虑到其误差。

在测量中,正确记录测量数据是获得准确可靠的分析结果的保证。因此,在记录测量数据时,应根据测量方法和选用仪器的精度正确记录,记录数据只保留一位可疑数字。

在分析结果的报告中,要注意最后结果中的有效数字保留的位数,它必须与整个分析测量过程获取数据相一致。如果过多地保留有效数字,会夸大准确度;相反如果随意地减少保留的有效数字,则会降低准确度。