数值修约及运算规则资料.pptVIP

《数值修约及运算规则》 主要内容 一、数值修约概念 （1）概念； （2）修约规则； （3）其他规定； （4）其他修约的间隔； （5）有效数字概念 二、极限数值的表示和判定 （一）概念 1.数值修约：通过省略原数值的最后若干位数字，调整所保留的末位数字，最后所得到的值最接近原数值的过程。 注：经数值修约后的数值称为（原数值的）修约值。 2.有效数值：一个数从左边第一个不是零的数字数起一直到最后一位数字（包括零、科学计数法不计10的N次方）称为有效数字。 0.0109 3.109×105 0.0230 是三位 是三位 是四位 （一）概念 3.修约间隔：修约的最小数值单位。 注：修约间隔的数值一经确定，修 约值即为该数值的整数倍。 如：指定的修约间隔为0.1。修约值 应在0.1的整数倍中选取，相当 于将数值修约到一位小数。 （一）概念 （二）修约规则 1、确定修约间隔（确定有效位数）， 0.0356修约到0.01得 保留一位有效数字， 2、进舍规则： 1）拟舍弃数字的最后一位数字小于5， 则舍去。保留其余各位数字不变。 12.1498修约到“1”， ；修约到 0.1，得 0.04 0.04 12 12.1 2）拟舍弃数字的最后一位数字大于5.则 进一，保留数字的末位数加1。 1268修约到“ 100 ”位. 13×102也意味着有效数字为 位。 1300意味着有效数字为 位。 2 4 （二）修约规则 3）拟舍弃数字的最左一位数字是5，且 其后有非零数字也进一，保留数字 的末位数字加1. 10.5002.修约到“1”. 得 11 （二）修约规则 4）拟舍弃数字的最后一位数字是5，且其后无数字或为0时，若所保留的数字为 奇数（1、3、5、7、9），则进一。即保留数字的末位数字加1.若保留的末位 数字为偶数（0、2、4、6、8）则舍去。 1.050 修约间隔为“0.1”。10×10-1（或1.0）有效数字为2位。 0.35 修约间隔为“0.1”。 4×10-1（或0.4）有效数字为1位。 2500 修约间隔“1000”。 2×103（2000）有效数字1、4位。 3500 修约间隔“1000”。 4×103（4000）有效数字1、4位。 （二）修约规则 5）口诀四舍五入，逢五看前数，奇入偶不入。 6）负数修约，先以负值绝对值按上述修约后，加上负号。 -15.456 绝对值15.456.修约间隔“0.1”、 15.5.加上负号；-15.5。 （二）修约规则 （三）其他规定 1.不允许连续修约：拟修的数字应在确定修约间隔或指定修约数位后一次修约获得结果，不得连续按上述要求修约。 正确：97.46 修约间隔“1” 不允许：97.46 → 97.5 → 98 97 （三）其他规定 2.特殊情况：具体实施中，有时测试与计算部先将获得数值按指定的修约数位多一位或几位报出，而后由其他部门判定。为免产生修约的错误，应按下述步骤进行： 1）报出数值最右的非零数字为5时，应在数值右上角“+”或“-”，或不加符号，分别表明已进行过舍，进或未进。 16.50+表示实际值在修约前大于16.50，经修约舍弃后为16.50； 原数值可为：16.501 “-”则是小于16.50 比如16.499。 （三）其他规定 2）如果修约后的数字为5“+”者进一“-”者舍去 原数值 修约 再修 15.4546 15.5- 15 -15.4546 -15.5- -15 16.5203 16.5+ 17 17.5000 17.5 18 （四）其他修约间隔 还有以0.5和0.2单位修约的，方法如下： 0.5单位修约： 被修约的数乘以2，进行间隔修约后再除以2，得到修约值。 0.2单位修约： 被修约的数乘以5，进行间隔修约后再