()数据处理方法.pptVIP

数据处理方法 一. 平均值计算和异常值剔除 1. 平均值计算 Y = f(X1，X2，···XN），Xi都测量n次 1）先求每次测量的Yj，再求Y平均值。 Yj = f（X1j，X2j，···XNj），Y =∑Yj/n 2）先求各个Xi平均值，再求Y平均值。 Xi = ∑Xij/n， Y = f(X1，X2，···XN）。 注：公式线性，两法一样；非线性，法1）好。 有多个输入量重复性，用法1）可一起解决； 仅被测重复性，用法2），计算方便。 2. 异常值剔除 先根据测量过程中异常情况立即判断. 数学判断方法很多, 介绍二种: 1) 3σ准则 n次独立测量,求得实验标准差s,│残差│大于3s的测量值为异常值删去.重新反复计算之. 2) 格拉布斯准则 同上求得实验标准差和残差, │残差│大于 g(n)s的测量值为异常值删去.重新反复计算之. g(n)– 临界系数,可查表获得. 临界系数表(p=95%) 二. 数据修约 1.有效数字 1个数据中由前面几位可靠数字加上末位1位可疑数字（有时加上2位可疑数字）组成，则这个数据及其中的每个数字都称为有效数字. 例如：1.35 1, 3两个数字可靠. 5--可疑 23 2---可靠数字, 3--可疑数字 12345 1,2,3,4,--可靠数字, 5--可疑数字 一个近似数所引入的误差的绝对值小于该近似数末位数的0.5时,该近似数为有效数字. 有效数字的获得 从测量获得 在测量中,从测量仪器直接观测到或 直接读出的数据中的每个数字都是 有效数字 从修约获得 在数据修约完成后的修约数据中的 每个数字都是 有效数字 (无效数字已舍去） 2. 有效位数 1个数据都由有效数字组成，这个数据有几位数字，则称这个数据有几位有效数字或称这个数据的有效位数有几位。 1个数据的有效位数是从第一个非零数字 往后（右）数，共有几 位，则这个数据有几 位有效位数。 有效位数例 有效位数与小数点位置无关 例: 有效数字 有效位数 1200.23 6位 1.20023 6位 0.120023 6位 0.001020 4位 ? 1.0×105 2位 3. 数据修约 修约间隔 （修约区间、化整区间）： 修约值的最小数值单位。修约间隔一经确定，修约数（保留数）只能是修约间隔的整数倍。是确定修约保留位数的一种方法， 修约间隔可能是： 0.001, 0.01, 0.2, 1, 2, 5, 10, 200, 5000 N×10k N=1, 2, 5 k=0, ±1, 2, 3--- · 拟修约数: 一个准备进行修约的数. 国际常用修约基本规则 --1 如果在修约间隔整数倍的一系列数中, 只有一个数最接近拟修约数,则该数就是 修约数。 如：1.150001 修约间隔为0.1 邻近的有两个数: 1.1 与 1.2 (11倍与12倍) 其中最接近拟修约数的是 1.2 , 则 1.2 就是修约数 修约基本规则 --2 如果在修约间隔整数倍的一系列数中, 有连续的两个数同等地接近拟修约数,则在这两个数中,只有为修约间隔偶数倍的 那个数才是修约数。 如：1.150 按修约间隔0.1进行修约， 邻近有1.1和1.2同等接近拟修约数(11倍和12倍),则12倍的1.2才是修约数。 修约规则例 1.500 修约间隔0.2 , 连续两个同等接近 1.4 和1.6(7倍和8倍), 偶数倍的1.6修约数。 1.400 修约间隔0.5, 邻近两个数1.0和1.5 (2倍和3倍),取最接近的1.5为修约数。 1.500 修约间隔0.5,修约数为1.5 (3倍)