数据处理4.docVIP

数据处理 1．有效数字 (1)(末)的概念 所谓(末)，指的是任何一个数最末一位数字所对应的单位量值。例如：用分度值为1mm的钢卷尺测量某物体的长度，测量结果为19．8mm，最末一位的量值O．8mm，即为最末一位数字8与其所对应的单位量值0．1mm的乘积，故19．8mm的(末)为0lmm。 (2)有效数字的概念 人们在日常生活中接触到的数，有准确数和近似数。对于任何数，包括无限不循环小数和循环小数，截取一定位数后所得的例如：将无限不循环小数……截取到白分位，得到近 ，则此引起的误差绝对值为 3．14—3．14159……=0．00159…… 近似数3．14的(末)为0．01，因此0．5(末)=0．5×0．01=0．005，而0·00159……0．005，故近似数3．14的误差绝对值小于0．5(末)。 由此可以得出关于近似结果的数字，其有效位数代表结果的不确定度。例如：某长度测量值为19．8mm，有效位数为3位；若是19．80mm，有效位数为4位。它们的绝对误差的模分别小于0·5(末)，即分别小于0．05mm和0．005mm。 显而易见，有效位数不同，它们的测量不确定度也不同，测量结果19．80mm比19．8mm的不确定度要小。同时，数字右边的“0”不能随0”都是有效数字。 2．近似数运算 (1)加、减运算 如果参与运算的数不超过10个，运算时以各数中(末)最大的数为准，其余的数均它多保留一位，多余位数应舍去。计算结果的(末)，应与参与运算的数中(末)最大的那个数相同。若计算结果尚需参与下一步运算，则可多保留一位。 例如：18．3+1．45460.87612Ω 18．3+1．45+0．8820．6320．6 计算结果为20．6。若尚需参与下一步运算，则取20．63。 (2)乘、除(或乘方、开方)运算 在进行数的乘除运算时，以有效数字位数最少的那个数为准，其余的数的有效数字均比它多保留一位。运算结果(积或商)的有效数字位数，应与参与运算的数中有效数字位数最少的那个数相同。若计算结果尚需参与下一步运算，则有效数字可多取一位。 例如：1．1m×0．3268m×0．10300m 1．1m×0．327mX0．103m=0．0370m3≈0．037m3 计算结果为0．037m3。若需参与下一步运算，则取0．0370m3。 乘方、开方运算类同。 3．数据修约 (1)数据修约的基本概念 对某一拟修约数，根据保留数位的要求，将其多余位数的数字进行取舍，按照一定的规则，选取一个其值为修约间隔整数倍的数(称为修约数)来代替拟修约数，这一过程称为数据修约，也称为数的化整或数的凑整。为了简化计算，准确表达测量结果，必须对有关数据进行修约。 修约间隔又称为修约区间或化整间隔，它是确定修约保留位数的一种方式。修约问隔一般以k×10 (k=1，2，5；为正、负整数)的形式表示。人们经常将同一k值的修约间隔，简称为“k”间隔。 修约间隔一经确定，修约数只能是修约间隔的整数倍。例如：指定修约间隔为0．1，修约数应在0．1的整数倍的数中选取；若修约间隔为2 X 10n，修约数的末位只能是0，2，4，6，8等数字；若修约间隔为5 X 10n，则修约数的末位数字必然不是“0”，就是“5”。 修约数位表达形式当对某一拟修约数进行修约时，需确定修约数位，其表达形式有以下几种： ①指明具体的修约间隔； ②将拟修约数修约至某数位的0．1或0．20．5个单位； ③指明按“k”间隔将拟修约数修约为几位有效数字，或者修约至某数位，有时“1”间隔可不必指明，但“2”间隔或“5”间隔必须指明。 (2)数据修约规则 我国的国家标准GB8170—87《数值修约规则》，对“1”、“2”、“5”间隔的修约方法分别作了规定，但使用时比较繁琐，对“2”和“5”间隔的修约还需进行计算。下面介绍一种适用于所有修约间隔的修约方法，只需直观判断，简便易行： ①如果为修约间隔整数倍的一系列数中，只有一个数最接近拟修约数，则该数就是修约数。 例如：将1．150001按0．1修约间隔进行修约。此时，与拟修约数1．150001邻近的为修约间隔整数倍的数有1．1和1．2(分别为修约间隔0．1的11倍和12倍)，然而只有1．2最接近拟修约数，因此1．2就是修约数。 又如：要求将1．015修约至十分位的0．2个单位。此时，修约间隔为0．02，与拟修约数1．0151邻近的为修约间隔整数倍的数有1．00和1．02(分别为修约间隔的0．02的50倍和51倍)，然