[理学]3数据处理方法 白.ppt

数据处理方法 培 训 内 容 一. 平均值计算和异常值剔除 二. 数据修约 (GB/T8170-2008标准修约规则) 三. 有效数字运算 四. 极限数值的表示方法 五. 极限数值的判定方法 六. 测量仪器特性评定(JJF 1094-2002) 一. 平均值计算和异常值剔除 1. 平均值计算 Y = f(X1，X2，···XN），Xi都测量n次 1）先求每次测量的Yj，再求Y平均值。 Yj = f（X1j，X2j，···XNj），Y =∑Yj/n 2）先求各个Xi平均值，再求Y平均值。 Xi = ∑Xij/n， Y = f(X1，X2，···XN）。 注：公式线性，两法一样；非线性，法1）好。 有多个输入量重复性，用法1）可一起解决； 仅被测重复性，用法2），计算方便。 2. 异常值剔除 先根据测量过程中异常情况立即判断. 数学判断方法很多, 介绍二种: 1) 3σ准则 n次独立测量,求得实验标准差s,│残差│大于3s的测量值为异常值删去.重新反复计算之. 2) 格拉布斯准则 同上求得实验标准差和残差, │残差│大于 g(n)s的测量值为异常值删去.重新反复计算之. g(n)– 临界系数,可查表获得. 格拉布斯准则临界系数表(p=95%) 二. 数据修约 1.有效数字 1个数据中由前面几位可靠数字加上末位1位可疑数字（有时加上2位可疑数字）组成，则这个数据及其中的每个数字都称为有效数字. 例如：1.35 1, 3两个数字可靠. 5--可疑 23 2---可靠数字, 3--可疑数字 12345 1,2,3,4,--可靠数字, 5--可疑数字 一个近似数所引入的误差的绝对值小于该近似数末位数的0.5时,该近似数为有效数字. 有效数字的获得 从测量获得 在测量中,从测量仪器直接观测到或 直接读出的数据中的每个数字都是 有效数字 从修约获得 在数据修约完成后的修约数据中的 每个数字都是 有效数字 (无效数字已舍去） 2. 有效位数 1个数据都由有效数字组成，这个数据有几位数字，则称这个数据有几位有效数字或称这个数据的有效位数有几位。 有效位数怎么数: 1个数据的有效位数是从第一个非零数字 往后（右）数，共有几 位，则这个数据有几 位有效位数。 有效位数例 有效位数与小数点位置无关 例: 有效数字 有效位数 误差 1200.23 ?位 ？ 1.20023 ?位 ？ 0.120023 ?位 ？ 0.001020 ?位 ？ ? 1.0×105 ?位 ？ 3. 数据修约 修约间隔 （修约区间、化整区间）： 修约值的最小数值单位。修约间隔一经确定，修约数（保留数）只能是修约间隔的整数倍。是确定修约保留位数的一种方法， 修约间隔可能是： 0.001, 0.01, 0.2, 1, 2, 5, 10, 200, 5000 N×10k N=1, 2, 5 k=0, ±1, 2, 3--- · 拟修约数: 一个准备进行修约的数. GB/T8170-2008标准修约规则 1. 拟舍弃数字的最左一位数字小于5时， 则舍弃，即保留数字不变。 2. 拟舍弃数字的最左一位数字大于5时或等于5，且后面非全部为0时，则进一。 3. 拟舍弃数字的最左一位数字等于5，且后面无数字或皆为0时，保留的末位数为奇数，则进一。末位数为偶数，则舍弃. 4. 非1单位间隔(0.2或0.5单位)修约,先乘5或乘2,按1单位间隔修约, 再除5或除2. 修约例1: 间隔 0.01, 15.24499 ？ 0.1 , 18.4501 ？ 0.1 ,