第2章误差与数据处理.pptVIP

  1. 1、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。。
  2. 2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  3. 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
  4. 4、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
  5. 5、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们
  6. 6、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
  7. 7、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多
第2章误差与数据处理要点

例3:分析下列有效数字的位数: 0.001 2×103 0.10% 0.0100 54 0.023% 0.07809 0.980 1.23×103 0.1000 1.002 21.00 2.0987 1034.5 5.1209 pH=5.32 lgK=8.519 103.45 2.3.2 数字修约规则 进行数据处理时,若遇到各测量值有效数字位数不同,必须去掉一些数字,以便于运算,这种舍弃多余数字的过程称为数字修约。 “四舍六入五成双”规则:当测量值中被修约的数字等于或小于4时,该数字舍去;等于或大于6时,进位;等于5且后面没有数字或全为0时,如进位后末位数为偶数则进位,舍去后末位数为偶数则舍去;当等于5且后面有不为0的任何数时,则无论进位后为奇数还是偶数均进位。 禁止分次修约 运算时可多保留一位有效数字进行 0.5749 0.57 0.575 0.58 × 123.1 227.4 10.74 1176 10.75 10.74 例4: 修约下列数据为四位有效数字 123.148,227.3976,10.736,1175.5 18.0850001,6.468501,5.73350 10.7456,10.745,10.2350,250.650 10.24 250.6 18.09 6.469 5.734 2.3.3 计算规则 几个数据相加或相减时,它们的和或差只能保留一位可疑数字,即有效数字位数的保留,应以小数点后位数最少的数字为根据,即以绝对误差最大的数为准。 例:计算50.1+1.46+0.5812=? 50.1 ±0.1 50.1 1.46 ±0.01 1.5 + 0.5812 ±0.0001 + 0.6 52.1412 52.2 52.1 先修约 再计算 在乘除法中,积或商的有效数字的保留,应与其中相对误差最大的数值相对应,即以有效数字最少的那个数为依据。 例:0.0121 × 25.64 × 1.05782 = ? 0.328 E ±0.0001 ±0.01 ±0.00001 Er ±0.8% ±0.4% ±0.009% 保留三位有效数字 0.0121×25.6×1.06= 说明: 在计算过程中,由于普遍使用计算器运算,虽然在运算过程中不必对每一步的计算结果进行修约,但应根据其准确度要求,正确保留最后计算结果的有效数字位数。 2.3.4 报告结果 与方法精度一致,由误差最大的一步确定 1.正确记录测量数据 分析天平:准确称取0.25g,记作0.2500g 滴 定 管:读取25mL ,记作25.00mL 2.高含量组分(?10%) 4位有效数字 中含量组分(1~10%) 3位有效数字 微 量 组 分(?1%) 2位有效数字 误差 1位有效数字,最多2位有效数字 课堂讨论: P30,习题6 2.4 分析化学中的数据处理 2.4.1置信区间与置信概率 平均值的置信区间 在一定置信度下,以平均值为中心,包括总体平均值μ的可靠性范围 或 由于测定次数较少,由此计算出的置信区间不可能以100%的把握将总体平均值(真值μ)包含在内,只能以一定的概率进行判断。 把在置信区间内包括总体平均值的概率称为置信概率或置信度(P) 。 测定的精密度越高,s越小,置信区间越小 ,平均值和总体平均值越接近。 正确理解置信区间的概念: 例: 表示在上述区间内包括总体平均值μ的概率为90%,不能说μ落在某一区间的概率为多少。 P20表2-2 例5:某试样测定Cl-,4次结果为47.64%,47.69%,47.52%,47.55%。计算置信度为90%,95%和99%时,总体平均值μ的置信区间。 置信度为90%时,t =2.35 μ=(47.60 ±0.09)% 置信度为95%时,t =3.18 μ=(47.60 ±0.13)% 置信度为99%时,t =5.84 μ=(47.60±0.23)% 说明:1.在s和f不变的条件下,置信度P越高,置信区间的范围就越宽. 2.在P和s不变的条件下,自由度f变大,将使置信区间变窄. 3.在P和f不变的条

文档评论(0)

dajuhyy + 关注
实名认证
文档贡献者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档