计量资料中有效数字的确定

2014-04-01 15:21本刊编辑部
河北医药 2014年5期
关键词:小数点位数天平

有效数字是在测量中所能得到的有实际意义的数字。一个由有效数字构成的数值,只有末位数字是估计数字,其余各位数字都是准确的。有效数字与测量仪器的灵敏度有关。以天平称重为例,如果天平的灵敏度为0.1 mg,那么称重结果12.34 mg中,12.3 mg为准确数字,0.04 mg为估计数字,2项合在一起组成有效数字。均数±标准差(±s)的位数,除了决定于测量仪器的精密度外,还决于样本内个体的变异,一般按标准差的三分之一来确定。例如:3.61±0.42,标准差的三分之一为0.14,标准差波动在小数点后第1位上,故应取到小数点后第1位,即3.6±0.4,过多的位数并无意义。但是在一系列数值并列时,小数点后的位数应一致。例如在3.61±0.42、5.86±0.73、2.34±0.15这样一组数据中,第3组数据标准差0.15的三分之一为0.05,在小数点后第2位,则这组数据的有效位数均取到第2位。

猜你喜欢
小数点位数天平
说说天平的使用
五次完全幂的少位数三进制展开
连续自然数及其乘积的位数分析
天平使用前后的两次平衡
天平的平衡
小数点移到哪去了
遥感卫星CCD相机量化位数的选择
基于分位数回归的剪切波速变化规律
简易天平
超级小数点