数字运算、修约、极限数值表示方法讲义.doc

数字运算、修约、极限数值判定与表示方法 数字运算 数值修约规则 极限数值的表示方法和判定方法 数字运算 在检验过程中，对检验所得的数据如何进行计算、整理，如何按照技术标准要求作出判定，是检验人员必须掌握的基础知识。 1、有效位数 在检验过程中，记录数据和计算结果究竟应该保留几位数字？有的检验人员认为记录和计算保留的位数越多越准确，其实不然。由于检验方法、仪器设备和人们感官分析能力的限制，测量中只能读取一定位数的数字。读取位数过多，不但不能提高检验结果的准确度，反而使计算工作量大大增加，而且还常常容易出错；读取位数过少，则表达不出测量的准确度。为了确切表达测量结果的位数，我们给出有效位数的概念。 若截取得到的近似数，其绝对误差是末位上的半个单位，那么这个近似数，从第一个不是零的数字起到这个数位止，所有数字均称为有效数字。一个进似数有n个有效数字，也叫这个进似数有n个有效位数。如3.1416、2.1173、180.00，均为五位有效数；而0.00274、274、27.4，均为三位有效数。 在判断有效数字时，要特别注意0这个数字，它可以是有效数字，也可以不是有效数字，例如：0.00274，前面三个0都不是有效数字，而180.00，后面三个0却都是有效数字。因为前者与测量的精确度无关，而后者却有关。为了说明这个问题，我们不妨各都去掉两个0， 即 0.00274=0.274×10-2 表示其真值为： （0.2735～0.2745）×10-2 其绝对误差为： 0.0005×10-2=0.000005 而0.00274的绝对误差也是0.000005，故去掉前面两个0后，其绝对误差不变；而对于180.00，若去掉后面两个0，成为： 180.00=180 则其真值所在区间为： （180.5 ～179.5） 其绝对误差为0.5；但对于180.00来说，其真值所在区间应为： （180.005 ～179.995） 其绝对误差为0.005，显然，由于去掉右边两个0，而使绝对误差由0.005变成了0.5，这样就不对了。因此，绝对不可象对待准确数那样，随随便便去掉小数部分右边的0，或在小数部分右边加上0，因为这样做的结果，虽不会改变这个数的大小，却改变了这个近似数的精确度。 对任一数值，其有效位数按下述原则确定： 对没有小数位且以若干个零结尾的数值，从非零数字最左一位向右数得到的位数减去无效零（即仅为定位用的零）的个数；对其他十进位数，从非零数字最左一位向右数而得到的位数，就是有效位数。 例1：3.2、0.32、0.0032均为两位有效位数； 0.320为三数有效位数； 10.00为四位有效位数； 12.490为五位有效位数。 例2：35000， 若有两个无效零，则为三位有效位数，应写为 350×102； 若有三个无效零，则为两位有效位数，应写为 35×103。 例3：12.490为五位有效位数； 10.00为四位有效位数。 2、有效位数的选择 （1）记录数值时有效位数的选择 读取或记录测量数据时，一般按仪器最小分度值来读数。对于那些需要做进一步运算的数值，则应在按最小分度值读取后再估读一位。读数时，小数末尾的零不能随意取舍。 （2）计算过程中有效位数的选择 加减。几个数相加或相减时，以小数部分位数最少的一数为准，其余各数均修约或比该数多一位，然后运算。 例1：求1648.0，13.65，0.0082，1.632，86.82，5.135，316.34，0.545的和。 解1648.0+13.65+0.0082+1.632+86.82+5.135+316.34+0.545≈1648.0+13.65+0.01+1.63+86.82+5.14+316.34+0.54 =2071.93≈2071.9 乘除。几个数相乘或相除时，以有效位数最少的一数为准，其余各数均修约成比该数多一位，然后运算。 例2：0.0121×1.36872的积 解：0.0121×1.36872≈0.0121×1.369=0.0165649≈0.0166 ③乘方或开方。原数有几位有效位数，计算结果就可保留几位。若还参加运算，则应多保留一位。 ④常数。对于某些常数，如π、e及某些倍数或分数可视为无限有效。计算过程中可根据需要确定有效位数。 以上都是一些最简单的，通常所说的“一步运算”的问题，但在实际问题中遇到的计算，并不都这样简单，往往在一个式子里会包括几种不同的运算，即所谓“多步运算”的问题，在多步运算的问题中，中间步骤计算的结果所保留的数字要比加减、乘除、乘方和开方的数字计算法则的规定多出一位。 此外，在计算算术平均值时，若四个以上的数相平均，则平均值的有效位数可增加一位，这是因为平均值的误差要比