计量资料中有效数字的确定

2013-04-08 12:14本刊编辑部
河北医药 2013年24期
关键词:小数点位数天平

有效数字是在测量中所能得到的有实际意义的数字。一个由有效数字构成的数值,只有末位数字是估计数字,其余各位数字都是准确的。有效数字与测量仪器的灵敏度有关。以天平称重为例,如果天平的灵敏度为0.1 mg,那么称重结果12.34 mg中,12.3 mg为准确数字,0.04 mg为估计数字,2项合在一起组成有效数字。均数±标准差()的位数,除了决定于测量仪器的精密度外,还决 于样本内个体的变异,一般按标准差的三分之一来确定。例如:3.61±0.42,标准差的三分之一为0.14,标准差波动在小数点后第1位上,故应取到小数点后第1位,即3.6±0.4,过多的位数并无意义。但是在一系列数值并列时,小数点后的位数应一致。例如在 3.61 ±0.42、5.86 ±0.73、2.34 ±0.15 这样一组数据中,第3 组数据标准差0.15 的三分之一为 0.05,在小数点后第 2位,则这组数据的有效位数均取到第2位。

猜你喜欢
小数点位数天平
说说天平的使用
五次完全幂的少位数三进制展开
天平使用前后的两次平衡
天平的平衡
分位数回归在宁芜线隧道沉降预测中的应用
小数点移到哪去了
遥感卫星CCD相机量化位数的选择
基于分位数回归的剪切波速变化规律
简易天平
超级小数点