检测数据修约处理.pptxVIP

GB/T8170-2008

2015.04.14

;术语

确定修约位数的表达方式

进舍规则

不连续修约

0.5单位修约及0.2单位修约

计算法则(参考上海市计量检定人员计量基础知识培训教材);数值修约

通过省略原数值的最后若干位数字，调整所保留的末位数字，使最后所得到的值最接近原数值的过程。

注：经数值修约后的数值称为修约值。;有效数字

该数值从其第一个不是零的数字起到最末一位数的全部数字即为有效数字。

例1：3.2，0.32，0.032，0.0032均为两位有效位数；0.0320为三位有效位数。

例2：12.490为五位有效位数；10.00为四位有效位数。

例3：1.35cm=13.5mm=0.0135m，这三种表示法完全等效，均为三位有效数字。;2200√2203×2210×;指定数位(指定修约间隔)；

指定将数值修约成n位有效位数。;四舍六入逢五取偶

;拟舍弃数字的最左一位数字为5，而右面无数字或皆为0时，

若所保留的末位数字为奇数（1，3，5，7，9）则进一，

若所保留的末位数字为偶数（2，4，6，8，0）则舍弃。

（逢五取偶）

例1：1.050修约到1位小数，得1.0。

例2：0.35修约到1为小数，得0.4。

;负数修约时，先将它的绝对值按数字进舍规则（四舍六入逢五取偶）进行修约，然后在修约值前面加上负号。

例：将下列数字修约到三位小数

拟修约数值修约值

-0.0365-0.036;1、拟修约数字应在确定修约位数后一次修约获得结果，而不得多次按进舍规则连续修约。

例如：修约15.4546，修约间隔为1

正确的做法：15.4546→15

不正确的做法：15.4546→15.455→15.46→15.5→16

;2、在具体实施中，有时测试与计算部门先将获得数值按指定的修约位数多一位或几位报出，而后由其他部门判定。为避免产生连续修约的错误，应按下述步骤进行。;如果报出值需要进行修约，当拟舍弃数字的最左一位数字为5而后面无数字或皆为零时，数值后面有(+)号者进一，数值后面有(-)号者舍去，其他仍按数字修约规则进行。

例：将下列数字修约到个数位（报出值多留一位到一位小数）。

实测值报出值修约值

15.454615.5（一）15

-15.4546-15.5(一)-15

16.520316.5（＋）17

-17.5000-17.5-18

;0.5单位修约（半个单位修约）

指修约间隔为指定数位的0.5单位，即修约到指定数位的0.5单位。

修约方法：将拟修约数值乘以2，按指定数位依数字修约规则修约，所得数值再除以2。



例：将下列数字修约到个数位的0.5单位

;0.2单位修约

指修约间隔为指定数位的0.2单位，即修约到指定数位的0.2单位。

修约方法：将拟修约数值乘以5，按指定数位依数字修约规则修约，所得数值再除以5。

例：将下列数字修约到“百”数位的0.2单位（或修约间隔为20）

;——参考上海市计量检定人员

计量基础知识培训教材;

计算结果的末位数位，应与参加运算数据中的末位数位最大的位数相同。

对带小数点的运算，计算结果小数点后保留的位数应与参加运算数据里小数点后末位最左的位数相同。

例：1.5+0.42=1.92=1.9

;

计算结果的位数，应与参加运算数据里有效数字最小的位数相同。

例：0.160*2.6=0.4160=0.42

;

运算结果与原来数据里有效位数相同。

例：1.42=1.96=2.0

1.233=1.5129=1.51

;所取对数位数应与真数有效数字位数相等。

例：lg12.3=1.09;先开方或乘方，并修约，再乘除，进行修约，最后进行加减，并对结果进行修约。

乘除

注：以有效数位数最少的数据为准，其他的数据比他多保留一位小数，然后进行乘除，最后进行修约。

加减

注：以小数位数最少的数据为准，其他的数据比他多保留一位小数，然后进行加减，最后进行修约。

;

谢谢