基于Excel的改进四舍五入法在平板检定数据处理中的应用

2019-11-28 07:22汪宇涵
商品与质量 2019年29期
关键词:原始记录单元格自带

汪宇涵

衢州市质量技术监督检测中心 浙江衢州 324000

1 平板检定原始记录的数据处理

平板的检定通过求取平板工作面的平面度,进而评定该平板的等级。平板检定的原始记录则需要通过对现场检定数据进行大量数据运算来计算平板的平面度。现场检定数据多,但后续数据地处理量更多又复杂。如果采用人工手算来作平板的原始记录不仅计算效率低且准确性也不高[1]。

2 Excel自带的四舍五入法存在的问题

由于Excel带有数据处理模块,可以运用Excel来编写一个应用程序来提高平板检定数据处理的效率。但是Excel自带的四舍五入法由于存在以下两个问题影响了数据计算的准确性:

2.1 采用过时的取舍位大于等于五就进一的四舍五入规则,不符合现今的定义;

2.2 进行过四舍五入取舍运算的数据在参与后续运算时,参与运算的是该数据四舍五入前的数值。

3 对Excel自带四舍五入法的改进及应用

本人通过对Excel自带四舍五入法进行改进,解决了数值计算不够准确的问题。

以一块规格为630mm×630mm的平板为例:在程序的红色单元格中输入对角线截面及各边线的桥板跨距;在黄色单元格输入水平仪在各截面每个测量点的读数ai(格数)。采用改进的四舍五入法,程序运行后如下表所示[2]。假定数据精确到个位,表中对Bi、μm列中涉及到乘、除运算的单元格采用了改进的四舍五入法[3]。以对角线截面a1e5的测点d4的Bi值为例,其值为测点e5的Bi值的3/4,假设e5的Bi值对应的单元格为F8,则采用Excel自带的四舍五入法,其值可表示为:=F8*3/4,而采用改进的四舍五入法,其值可表示为:=IF(AB S(TRUNC(F8*3/4,5)-TRUNC(F8*3/4,0))<0.49999 9,ROUND(F8*3/4,0),IF(ABS(TRUNC(F8*3/4,5)-T RUNC(F8*3/4,0))>0.500001,ROUND(F8*3/4,0),-CEILING(ABS(TRUNC(F8*3/4,1))-0.5,2)*SIGN(F8*3/4)))。

4 数值比对结果及意义

把采用改进算法后产生的数值与人工手算得出的数值进行一一比对,发现两者的数值完全吻合。这说明基于Excel的改进四舍五入法编写的应用程序可以实现对平板检定数据地快速、准确处理。

猜你喜欢
原始记录单元格自带
浅谈原始记录的重要性及控制要求
合并单元格 公式巧录入
流水账分类统计巧实现
玩转方格
玩转方格
自带滤镜的底妆,你用了多少?
周迅:天才,自带拨乱反正的能量
好的爱情自带成长属性
工序控制在桥梁桩基工程中的重要性
质疑“档案形成在前论”