数值修约规则与极限数值的表示和判定201007精讲.ppt

一、术语和定义 1、数值修约:通过省略原数值的最后若干位数字,调整所保留的末位数字,使最后所得到的值最接近原数值的过程。 注：经数值修约后的数值称为（原数值的）修约值。 2、有效数字: 若测量结果经修约后的数值，其修约误差绝对值≤0.5（末位），则该数值称为有效数字，即从左起第一个非零的数字到最末一位数字止的所有数字都是有效数字。 有效数字中只应保留一位欠准数字，因此在记录测量数据时，只有最后一位有效数字是欠准数字。 3、有效位数: 对没有小数位且以若干个0结尾的数值，从非0数字最左一位向右数得到的位数减去无效0（即仅为定位用的0）； 对其他十进位数，从非0数字最左一位向右数而得到的位数，就是有效位数。 5、极限数值：标准（或技术规范）中规定考核的以数量形式给出且符合该标准（或技术规范）要求的指标数值范围的界限值。 二、数值修约规则 1、确定修约间隔 2、进舍规则 3、不允许连续修约 4、0.5单位修约与0.2单位修约 1 、 确定修约间隔 指定将数值修约成n位有数位数。 指定修约间隔为10-n n为正整数 ，或指明将数值修约到n位小数。 指定修约间隔为1，或指明将数值修约到“个”数位。 指定修约间隔为10n n为正整数 ，或指明将数值修约到10n数位，或指明将数值修约到“十”、 “百”、 “千” …..数位。 “1”间隔修约 “0.5”单位修约 指修约间隔为指定数位的0.5单位，即修约到指定数位的0.5单位。 “0.2”单位修约 指修约间隔为指定数位的0.2单位,即修约到指定数位的0.2单位。 2、进舍规则 2.1.拟舍去的最左一位数字小于5时，则舍去，保留的各位数字不变； 例1：将12.1498修约成2位有效位数，得12； 将2：将12.1498修约到小数点后一位，得12.1； 2.2.拟舍去数字的最左一位数字大于5时，或是5，而其后跟有并非全部为0的数字时，则进1，即保留的末位数字加1； 例1：将1268修约到“百”位数，得13×102（特定时可写成1300）； 特定时—指修约间隔或有数位数明确时 2.4.负数修约时,先将它的绝对值按前述的规定进行修约,然后在所得值前面加上负号. 例3:将下列数字修约到十数位 拟修约值 修约值 -355 -36 ×10（特定时可写为-360） 3.不得连续修约：拟修约的数字在确定修约位数后一次修约获得结果，不得多次连续修约。 例1: 修约15.4546，修约间隔1，结果为15。 错误：15.4546 → 15.455 15.46 → 15.5 → 16 例2: 将213.499修约成3位有效数时，结果应为213。 错误：213.499 → 213.50 → 214 三、近似数运算 又称数字运算，如对测量结果进行加、减、乘、除、开方、乘方、三角函数运算等。 运算时必须注意有效数字。 2、表达极限数值的基本用语 3、测定值或其计算值与标准规定的极限数值比较方法 3、1.修约值比较法: 将测定值或其计算值进行修约，修约数位应与规定的极限数值数位一致。 将修约后的数值与规定的极限数值进行比较，只要超出极限数值规定的范围（不论超出程度大小）都判定为不符合要求。 例1：2.3847×0.76÷41678 ≈2.38×0.76 ÷4.17 ×104 4.座机电话号码×10-5 ≈4.3×10-5 例2：已知圆半径R 3.145，求周长C。 C 2 ×3.1416 ×3.145 19.760664 ≈19.76 综合运算 例：2.0×104+15000×2.5 解：[分析]先乘除后加减 2.0×104+15000×2.5 2.0×104+150×102×2.5 2.0×104+375×102 2.0×104+3.75×104 5.75×104 ≈5.8×104 四、极限数值的表示和判定 1、书写极限数值的一般原则 标准（或其他技术规范）中规定考核的以数量形式给出的指标或参数等，应当规定极限数值。极限数值表示符合该标准要求的数值范围的界限值，它通过给出最小极限值和（或）最大极限值，或给出基本数值与极限偏差值等方式表达。 标准中极限数值的表示形式及书写位数应适当，其有效数字应全部写出。书写位数表示的精确程度，应能保证产品或其他标准化对象应有的性能和质量。 ≤A 小于或等于A ≥A 大于或等于A ＜A 小于A ＞A 大于A 符号 基本用语 3、2.全数值比较法： 将测试所得测定值或计算值不经修约处理（或虽经修约处理，但应标明它是经舍、进或未进未舍而得），用该数值与规定的极限数值作比较，只要超出极限数值规定的范围（不论超出程度大小） ，都判定为不符合要求。 这两种方法的结论有时不同,例： 规定的 误差限 测试 结果 全数值 比较法 修约值 比较