数据处理测量基础知识.pptVIP

数据处理 数据处理 一、数据判别与剔除 二、数据修约 三、近似运算 四、极限数值的判定方法与修约 五、测量结果有效位数的保留 一、数据判别与剔除 粗大误差产生的原因 消除粗大误差的方法 判别粗大误差的准则 GB4338-1985《数据的统计处理和解释—— 正态性检验》 莱依达（3s）准则、肖维勒准则、狄克逊 准则、t检验准则、格拉布斯准则 二、数据修约 正确数 近似数 有效数字 若某近似数字的误差绝对值不超过该数末位的半个单位值时，则从其第一个不是零的数字起至最末一位数的所有数字，都是有效数字。 有效位数 修约间隔 末位单位 二、数据修约 数值修约 对某一拟修约数，根据保留位数的要求，将其多余位数的数字进行取舍，按照一定的规则，选取一个其值为修约间隔整数倍的数来代替拟修约数 修约间隔： 二、数据修约 1、“1”间隔修约规则 被舍入数字的第一位小于5，则全部舍去。 被舍入数字的第一位为5，其后的数字为0或无任何数字： 当保留数字的末位为偶数或0时，则全部舍去； 当保留数字的末位为奇数时，则该奇数加1。 被舍入数字的第一位大于5，或等于5，其后有不为0的数字时，则保留数字的末位加1。 4舍6入，遇5奇进偶不进 二、数据修约 “1”间隔修约实例 3.1415001 → 3.14 3.1414999 → 3.14 3.1415 → 3.14 3.1425 → 3.14 3.141329 → 3.14 3.1405000001 → 3.14 二、数据修约 2、“2”、 “5”间隔修约规则 拟修约数正好介于上下修约数中间时，则修约成末两位被4整除或选取有0结尾的修约数。 14.93 → 14.92、14.94 14.83 → 14.82、14.84 17.425 → 17.40、17.45 17.575 → 17.55、17.60 二、数据修约 修约误差 随机误差，又称舍入误差 服从均匀分布 三、近似运算 有效数字的运算 加、减运算 以各数中末位数量级最大的数为准，其余的数比它多保留一位 计算结果的末位的数量级应与参与运算的数中末位的数量级最大的那个数相同 若计算结果需参与下一步运算，则可多保留一位　 18.3+1.4546+0.876 ≈ 18.3+1.45+0.88 = 20.63 ≈20.6 三、近似运算 乘除（或乘方、开方）运算 以有效数字位数最少的那个数为准，其余的数的有效数字均比它多保留一位。 运算结果（积或商）的有效数字位数，应与参与运算的数中有效数字位数最少的那个数相同 需参与下一步运算，则有效数字可多取一位 四、极限数值的判定方法与修约 GB1250-1989《极限数值的表示方法和判定方法》 在判定检测数据是否符合要求时，应将检验所得的测定值与标准规定的极限值作比较： a ）修约值比较法 b）全数值比较法 采取哪种方法，要根据规程或标准的规定。 五、测量结果有效位数的保留 * * k可取1、2、5； n为正、负整数 不要连续修约，如 因为多次连续修约会产生累积不确定度。上述示例中若一步修约到小数点后第一位，则为12.3。 1.10×0.3268 × 0.10300 ≈ 1.10 × 0.3268 × 0.1030 = 0.0370 ≈ 0.037