数值修约规则与极限数值表示和判定.pptVIP

4、有效数字的运算规则 乘方、开方运算 例如, 6.54 =? 进行数值乘方或开方时, 结果有效数字位数不变。 6.54 =42.8 2 2 5、几点注意 1、计算公式中的常数如 、 等都是正确数，在运算中可以根据需要截取其有效位数 2、首位数字为8、9的数字，其有效数字可比实际的位数多一位，如8749可认为其为5为有效数字，923可认为其为4位有效数字 3、为减少数字的舍入误差，对参与运算的各有效数字进行修约时，可比实际需要多保留一位 0.03865×9.4×1.327 = ？ 若是多保留一位可疑数字时，则 0.03865×9.4×1.327 = 三、数值修约的规则及技巧 1、数值修约规则 （1） 四舍六入五凑双 具体的做法是， 1、拟舍弃数字最左一位数字≤4时将其舍去； 2、拟舍弃数字最左一位数字≥6时就进一位； 3、如果拟舍弃数字最左一位数字为5而后面的数为0时，如所保留的数字的末位数字为奇数则进一，如所保留的数字的末位数字为偶数则舍去； 4、当“5”后面还有不是0的任何数时，都须向前进一位，无论前方是奇还是偶数，“0”则以偶数论。 1、数值修约规则 0.53664→0.5366 0.583