有效数字及有效数字计算修约基础知识.doc

有效数字及有效数字计算、修约基础知识 一、有效数字 1、末的概念 末：指任何一个数最末一位数字所对应的单位量值。 例：用分度值为0.1mm的卡尺测量物体的长度，结果为19.8mm，最末一位的量值0.8mm，即为最末一位数8与所对应的单位量0.1mm的乘积，故19.8mm的末为0.1mm。 2、有效数字的界定 1～9都为有效数字，数字之间的0、末尾的0也为。 二、近似数计算 1、“+-”以小数位数最少为准，修约比该数多一位，计算后修约以小数点最少数的位数为准。 如：18.3+1.4545+0.876 ≈18.3+1.45+0.88=20.63≈20.6 2、“×÷”各数修约到有效数字最少多一位，最后结果以有效数字最少的那个为准。 如：3.670×45.3×5.6735≈3.670×45.3×5.674=943.31≈943 3、乘方、开方，参加运算有几位有效数字，结果就得保留几位数字。 =9.000 9.002=81.0 如几级运算，乘方开方多保留一位。 +4.359=9.000=4.359 4、混合运算： 不管如何运算，结果必须以位数最少为准。 三、修约规则 1、舍去数第一位小于5则舍，大于5则进。 4.254→4.25 38.735→39 2、舍去数第一位为5，5后并非全为0则进。 9.55033→9.6 3、舍去数第一位为5，5后无数或全为，奇进偶舍。 0.0415→0.042 0.0425→0.042 4、注意不得连续修约。 如：37.4546→37.455→37.46→37.5→38 5、按GB 8170-2008《数值修约规则》对“1”“2”“5”修约间隔做了规定，即k×10n（k=1、2、5，n为正、负整数） 另外，0.5、0.2修给采用分别乘以2与5，修约后再除以2与5来修约。 如：以0.5修约60.25 60.25×2得120.5修约为120,再除以2得60.0 练习题： 一、说出下列数值有几位有效数字？ 1、60.000 2、0.6000 3、0.0600 4、6.001×107 二、近似数计算： 1、19.3+1.5837+0.976 2、3.780×47.5×6.5745 3、 三、数值修约： 1、5.256、5.254、5.255、5.265保留三位有效数字？ 2、60.25以0.2修约。 3、237.5、236.5、233.6、232.5、242.5、231.5分别以5修约。 4、2350以100修约。 3