有效数字和数值的修约及极限数值的表示ppt课件.pptVIP

有效数字和数值的修约及极限数值的表示  根据国家标准GB/T8170—2008《数值修约规则与极限值表示和判定》，本标准适用于科学技术与生产活动中测试和计算得出的各种数值。当所得数值需要修约时，应按本标准给出的规则进行。 一 术语 1 修约间隔 修约值的最小数值单位。 它是指确定修约保留位数的一种方式。修约间隔的数值一经确定，修约值即应为该数值的整数倍。 例l：如指定修约间隔为0.1，修约值即应在0.1的整数倍中选取，相当于将数值修约到一位小数。 例2：如指定修约间隔为100，修约值即应在100的整数倍中选取，相当于将数值修约到“百数位。 2 有效位数 对没有小数位且以若干个零结尾的数值，从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的零)的个数，对其它十进位数，从非零数字最左一位向右数而得到的位数，就是有效位数。 例1：35000，若有两个无效零，则为三位有效位数，应写为350×102，若有三个无效零，则为两位有效位数，应写为35×103。 例2：3.2，0.32，0.032，0.0032均为两位有效位数，0.0320为三位有效位数。 例3：12.490为五位有效位数，10.00为四位有效位数。 3 0.5单位修约(半个单位修约) 指修约间隔为指定数位的0.5单位，即修约到指定数位的0.5单位。 例如，将60.28修约到个位数的0.5单位，得60.5。 4 0.2单位修约 指修约间隔为指定数位的0.2单位，即修约到指定数位的0.2单位。 例如，将832修约到“百数位的0.2单位，得840（修约方法见本规则5.2）。 二 数值修约规则 1 指定修约间隔 a.指定修约间隔为10-n(n为正整数)，或指明将数值修约到n位小数； b.指定修约间隔为1，或指明将数值修约到个数位； c.指定修约间隔为10n，或指明将数值修约到10n数位(n为正整数)，或指明将数值修约到“十，百，千……数位。 2 进舍规则 四舍六入五考虑，五后非零则进一，五后是零看前位，前位为奇则进一，前位为偶应舍去。 a）拟舍弃数字的最左一位数字小于5时，则舍去，即保留的各位数字不变。（四舍） 例1：将12.1498修约到一位小数，得12.1。 例2：将12.1498修约成两位有效位数，得12。 b） 拟舍弃数字的最左一位数字大于5，或者是5，而其后跟有并非全部为0的数字时，则进一，即保留的末位数字加l。（六入；五后非零则进一） 例l：将1268修约到百数位，得13×102（特定时可写为1300）。 例2：将1268修约成三位有效位数，得127×10（特定时可写为1270）。 例3：将10.502修约到个数位，得11。 C）拟舍弃数字的最左一位数字为5，而右面无数字或皆为0时，若所保留的末位数字为奇数（1，3，5，7，9）则进一，为偶数（2，4，6，8，0）则舍弃。如：0.0345修约成两位有效位数为0.034，0.0355修约成两位有效位数为0.036。 （五后是零看前位，前位为奇则进一，前位为偶应舍去） 例1：修约间隔为0.l(或10-1) 拟修约数值 修约值 1.050 1.0 0.350 0.4 d） 负数修约时，先将它的绝对值按上述3.l～3.3规定进行修约，然后在修约值前面加上负号。 例l: 将下列数字修约到“十数位 拟修约数值 修约值 -355 -36×10（特定时可写为- 360） 32500 32×103（特定时可写为-320） 例2：将下列数字修约成两位有效位数 拟修约数值 修约值 -365 -36×10（特定时可写为-360） -0.0365 -0.036 3 不许连续修约 a）拟修约数字应在确定修约位数后一次修约获得结果，而不得多次连续修约。 例如：修约15.4546，修约间隔为1 正确的做法： 15.4546---15 不正确的做法： 15.4546----15.455----15.46---15.5---16 b） 在具体实施中，有时测试与计算部门先将获得数值按指定的修约位数多一位或几位报出，而后由其他部门判定。为避免产生连续修约的错误，应按下述步骤进行。 1） 报出数值最右的非零数字为5时，应在数值后面加（+）或（-）或不加符号， 分别表明已进行过舍，进或未舍未进。 例如：16.50（+）表示实际值大于16.50，经修约舍弃成为16.50；16.50（-）表示实际值小于16.50，经修约进一步成为16.50。 2） 如果判定报出值需要进行修约，当拟舍弃数字的最左一位数字为5而