数值修规则与极限数值的表示和判定1.pptVIP

如果有效数字位数最少的因数的首位数大于或等于8，在积或商的运算中可多算一位有效数字。 如：9.0×0.241÷2.84 0.39×9.4×1.3=4.78 0.0386×9.4×1.33 = 0.483 * 如果有效数字位数最少的因数的首位数大于或等于8，在积或商的运算中可多算一位有效数字。 如：9.0×0.241÷2.84 * 精度为1g，感量为1g的天平，某此称量结果为121g，对不对？ 100kg台秤，max100kg，min1kg，游标5kg，每1kg分成20等份，每等份50g 4、有效数字的运算规则 乘方、开方运算 例如, 6.54 =? 进行数值乘方或开方时, 结果有效数字位数不变。 6.54 =42.8 2 2 5、几点注意 0.03865×9.4×1.327 = ？ 0.39×9.4×1.3=4.8 5、几点注意 1、计算公式中的常数如 、 等都是正确数，在运算中可以根据需要截取其有效位数 2、首位数字为8、9的数字，其有效数字可比实际的位数多一位，如8749可认为其为5为有效数字，923可认为其为4位有效数字 3、为减少数字的舍入误差，对参与运算的各有效数字进行修约时，可比实际需要多保留一位 三、数值修约的规则及技巧 1、