分析数据的处理.docVIP

分析数据的处理 ? 一. 有效数字及其运算规则 1. 有效数字的意义和位数 （1）有效数字：所有准确数字和一位可疑数字（实际能测到的数字） （2）有效位数及数据中的“ 0 ” 1.0005，五位有效数字 0.5000，31.05% 四位有效数字 0.0540，1.86三位有效数字 0.0054，0.40%两位有效数字 0.5，0.002%一位有效数字 2. 有效数字的表达及运算规则 （1）记录一个测定值时，只保留一位可疑数据， （2）整理数据和运算中弃取多余数字时，采用“数字修约规则”： 四舍六入五考虑 五后非零则进一 五后皆零视奇偶 五前为奇则进一 五前为偶则舍弃 不许连续修约 （3）加减法：以小数点后位数最少的数据的位数为准，即取决于绝对误差最大的数据位数； （4）乘除法：由有效数字位数最少者为准，即取决于相对误差最大的数据位数； （5）对数：对数的有效数字只计小数点后的数字，即有效数字位数与真数位数一致； （6）常数：常数的有效数字可取无限多位； （7）第一位有效数字等于或大于 8 时，其有效数字位数可多算一位； （8）在计算过程中，可暂时多保留一位有效数字； （9）误差或偏差取 1~2 位有效数字即可。 二. 可疑数据的取舍 1. Q-检验法（3~10次测定适用，且只有一个可疑数据） （1）将各数据从小到大排列：x1, x2, x3……xn ; （2）计算（x大-x小）,即（xn -x1）; （3）计算( x可-x邻), （4）计算舍弃商Q计=?x可-x邻?/ xn -x1 （5）根据 n 和P 查Q值表得Q表 （6）比较Q表与Q计 若：Q计3Q表可疑值应舍去 Q计Q表可疑值应保留 2. G检验法（Grubbs法） 设有n各数据，从小到大为x1, x2, x3,…… xn; 其中x1 或xn为可疑数据： （1）计算（包括可疑值x1、 xn在内）、∣x可疑-∣及S； （2）计算G： （3）查G值表得Gn,P （4）比较G计与Gn,P： 若G计3Gn,P则舍去可疑值； G计 Gn,P则保留可疑值。 三. 分析数据的显著性检验 1. 平均值（）与标准值（m）之间的显著性检验 —— 检查方法的准确度 (20) 若t计3t0.95, n则与m有显著性差异（方法不可靠） t计 t0.95, n则与m无显著性差异（方法可靠） 2. 两组平均值的比较 （1）先用F 检验法检验两组数据精密度S1（小）、S2（大）有无显著性差异（方法之间） (21) 若此F计值小于表中的F（0.95）值，说明两组数据精密度S1、S2无显著性差异，反之亦反。 （2）再用t 检验法检验两组平均值之间有无显著性差异 (22) 查t0.95 (f=n1+n2) 若t计3t0.95, n则说明两平均值有显著性差异 t计 t0.95, n则说明两平均值无显著性差异