有效数字和数据舍入规则.ppt

* * 有效数字取舍规则 讲 座 山东省石油助剂产品及轻烃产品监督检验中心 孙建军 编制 我们日常接触的数据有准确数和近似数之分。 作为准确数的例子有： “这里有5只杯子”中的“5” ； “三角形的内角和为180度”中的“180” “1Wh=3600J”中的“3600” 这些数之所以是准确数是因为有些是确实存在的,有些是理论或定义中的数。 一、有效数字的概念及有效位数的确定 1、近似数 近似数是由可靠数和不可靠数（一般取1位）两部分组成的。 作为近似数的例子有： 所有测得值和测量结果； 经过修约后的任何数值； 经测定得到的物理常数 记录数据时，数据位数要适当。位数太少会增大数据的误差，而太多又会对数据的准确度产生误解。这一点在检定和测量时应特别注意。 1、近似数 2 有效数字 对于有小数点的数，和以非0结尾的整数，从左边第一个非零数字起到最右边的所有数字都是有效数字。第一个非零数字前面的0不是有效数字，但数据末尾的0是有效数字。 当一个近似数所引入的误差的绝对值小于该近似数末位数的0.5时,从该近似数左边第一个非零数字算起,直到最后末位数为止均是有效数字。 从左边第1个非零的数字起，到所截取的数位止，所有数字均称为有效数字。如：3.1416；3.2345；420.00；0.87130；0都称为五位有效数字。而123；1.23；0.00123都称为三位有效数字。 在判定有效数字时，要特别注意“0”这个数字，它可以是有效数字，它也可以不是有效数字，如：0.00123的前面的三个零均不是有效数字，因为这三个0与0.00123的精确度无关。又如：870.00后面的三个0，却是有效数字，因为这三个0与870.00的精确度有关。若设此二数均是采用“四舍五入”法截取所得，对于0.00123，其误差的绝对值为0.000005，若去掉此近似数前面的三个0，则可写成123×10-5，其误差的绝对值为0.5×10-5，即为0.000 005，与精度无关。对待近似数时，不可象对待准确数那样，随便去掉小数点部分右边的0，或在小数点部分右边加上0，因为这样作的结果，虽不会改变这个数的大小，却改变了它的精确度。 2 有效数字 1、常数运算 参加运算的常数如π、e以及其他无误差的数值，其有效位数可认为是无限的，在计算中要几位取几位。常数的取值不影响有效位数。 二 数字运算规则 2、加减运算 在加减运算中只保留各数共有的小数位数。先找出小数位数最少的值，然后将其它的值按比最少的小数位多一位进行修约，再运算，结果按小数位最少的位修约 。 例如：12.5+3.26+0.165，先将0.165化整为0.16，则12.5+3.26+0.165=12.5+3.26+0.16=15.9 在减法运算中，应避免两个接近的值相减计算结果，因相减后其有效数字将减少。 3、乘除运算 在乘除运算中，先找出有效位数最少的值，将其它值按多一位有效位数进行修约，然后运算，最后按有效位数最少的值的位数修约。 0.12×11.3×15.24，先将15.24修约为15.2， 则0.12×11.3×15.24=0.12×11.3×15.2=20.61=21。 4、乘方与开方运算 数据经乘方与开方运算，所得结果的有效数字位数不大于该数据的位数。一般取相同的位数。 5、对数运算 运算结果应与真数的位数相同。例如： lg32.8=1.51587….=1.52 6、计算平均值时: 若数据的个数较多,则平均值的保留位数可增加一倍。 7、混合运算： 混合运算时所有中间运算比上面的运算多保留一位。 1.1修约间隔 系确定修约保留位数的一种方式。修约间隔的数值一经确定，修约值即应为该数值的整数倍。 例1：如指定修约间隔为0.1，修约值即应在0.1的整数倍中选取，相当于将数值修约到一位小数。 例2：如指定修约间隔为100，修约值即应在100的整数倍中选取，相当于将数值修约到“百”数位。 三、 数值修约规则(GB8170-87) 1、术语 1.2有效位数 对没有小数位且以若干个零结尾的数值，从非零数字最左一位向右数得到的位数减去无效零（即仅为定位用的零）的个数；对其十进位数，从非零数字左一位向右数而得到的位数，就是有效位数。 例1:35 000,若有两个无效零,则为三位有效数字,应写成350×102 ;若有三个无效零,则为两位有效数字,应写成35×103。 例2：12.490为