有效数字及运算规则.docxVIP

  1. 1、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。。
  2. 2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  3. 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
  4. 4、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
  5. 5、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们
  6. 6、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
  7. 7、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多
有效数字及运算规则

实验数据处理及结果评价概念总体或母体universe,样本swatch,个体individual,样本容量capicoty of sample无限次数测量,总体平均值μ平均值(arithmetic average)==标准差(均方根偏差,s)standard deviationS=相对标准偏差(变异系数,CV)variable coefficientCV(%)=×100n个平行试验,其平均值的标准偏差=,平均值的标准偏差比样本的精密度小,一般4~6次试验即可。如某石灰岩CaO化验数据x/%37.2037.2537.3037.4537.5037.340.06S/%0.13置信度confidence level:测定结果的可靠程度,即概率。英国Gosset用统计方法推到出无限次测定结果的平均值μ=±,公式中:t—选定置信度下的概率系数,可查表就得自由度f=n-1置信度50%90%95%99%99.5%11.0006.31412.70663.657127.3220.8162.9204.3039.92514.089…3=4-10.7652.3533.1825.4817.45340.7412.1322.7764.6045.598…8=9-1……2.306………置信区间confience interval ,即x变量区间。例:有一组数据,其4次测定结果的平均值26.74%,标准偏差0.09%,球置信度90%和95%的置信区间。解:已知s=0.09%,n=4,查4-1与置信度90%、95%对应t1=2.353,t2=2.776%代入公式μ90%=±=26.74±2.353*0.09/=26.74±0.11%,即(26.74-0.11,26.74+0.11)=(26.63%~26.85%);μ95%=±=26.74±3.182*0.09/=26.74±0.14%,即(26.74-0.14,26.74+0.14)=(26.60%~26.88%)注意:置信度越高,μ置信区间越大。系统误差检验--t检验主要检验有无系统误差。检测测量平均值与标准值或两种分析方法的平均值是否有显著性差异。由μ=±导出t=按上式计算出一定置信度下的t值,与查表的t值比较,当t计≥t表,则存在显著误差;当t计<t表,则不存在显著误差。例:用一种新方法测定纯明矾中铝的百分含量。n=9,测量结果:10.74%、10.77%、10.77%、10.77%、10.81%、10.82%、10.83%、10.86%、10.81%,已知标准值10.77%,判断置信度为95%的系统误差。解:9次结果得出:,s=0.038%,已知μ=10.77%t计==2.368查表:t表(8和置信度95%)=2.306t计=2.368>t表=2.306,新方法存在系统误差两组试验比较:合并标准偏差与检验:不同实验人员或不同试验方法测定同一试样,得到两组测定值,判断是否存在显著性差异。t计=s合=查表 t表,自由度用f=n1+n2-2比较方法同上。例:略偶然性误差检验--F检验比较两组数据的方差(),以确定是否存在显著误差。常用于检查偶然性误差大小。公式:F计算=与查表数据比较,当F计≥F表,则存在显著误差;当F计<F表,则不存在显著误差。例:用不同的方法测定某试样,用第一种方法测定6次,得出标准偏差s1=0.05%;第二种方法测定4次,s2=0.02%,判断误是否存在显著误差。解:F计算==6.25查表F(n大-1,n小-1)=(5,3)=9.01F计算<F表,无显著误差。置信度95%时F值(单边)f小f大23456…239.014…可疑值的取舍--Q检验离群值或可疑值questionable value舍弃商Q值表Q n345678910Q 0.90.940.760.640.560.510.470.440.41Q 0.950.970.840.730.640.590.540.510.49步子由大到小排列;计算极差R;计算离群值与其相邻值之差(取绝对值)D;计算舍弃商Q计算:Q计=D/R;根据测定次数和要求设置置信度,查舍弃商Q值表;将Q计与Q表比较,如果Q计≥Q表,则舍弃。例:测定某溶液的浓度(mol/L):0.1020、0.1022、0.1023、0.1025、0.1026、0.1029,问0.1029值是否舍?解:Q计=D/R=(0.1029-0.1026)/(0.1029-0.1020)=0.33查表:置信度按90%,n=6,查Q 0.9=0.56Q计<Q表,保留0.1029有效数字及运算规则有效数字significant figure:分析工作中能测量到的数字,包括最后一位估计的数字。位数:从最左边第一个非零数字后的位数算起,这个数字有几位,就是有效数字(可读数字、综合可疑数字概念,略)。

文档评论(0)

haihang2017 + 关注
实名认证
文档贡献者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档