- 1、本文档共84页,可阅读全部内容。
- 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
- 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多
误差及数与据处理2011.10.26
6)高含量(>10%) 四位有效数字 中等含量(1~10%) 三位有效数字 低含量(<1%) 二位有效数字 标定HCl溶液的浓度时,先标定3次,结果为: 0.2001mol/L、0.2005mol/L和0.2009mol/L; 后来又标定2次,为0.2004mol/L和0.2006mol/L。 试分别计算3次和5次标定结果计算总体平均值μ 的置信区间,P=0.95。 解:标定3次时 标定5次时 2. “0”的作用 有双重作用:普通数字、定位 有效数字 位 数 数 字 1.0005 0.5000; 31.05% ;6.023×1023 五位 四位 0.0054 ; 0.40% 两位 (二) 有效数字的位数 4. pH、pC、lgK等对数值,其有效数字的位数取决于小数部分,其整数部分只说明该数的方次。 3. 改变单位,不改变有效数字位数 如:20.41mL 0.02041L 均为四位有效数字 pH=12.68 两位 (二) 有效数字的位数 二、有效数字的运算规则 (一) 记录数据时,只保留一位可疑数字 (二) 有效数字的整化(或修约) 四舍六入, 五后有数就进一, 五后无数看单双 1.当尾数≤4,舍去;当尾数≥6,进位; 0.53664 (二) 有效数字的整化(或修约) 1.当尾数≤4,舍去;当尾数≥6,进位; 0.53664 0.5366 0.58346 (二) 有效数字的整化(或修约) 0.5835 2.当尾数=5时 (1) 若 5 后还有数字,则应进位 18.06501 1.当尾数≤4,舍去;当尾数≥6,进位; 0.53664 0.5366 0.58346 (二) 有效数字的整化(或修约) 18.06501 18.07 0.5835 2.当尾数=5时 (1) 若 5 后还有数字,则应进位 1.当尾数≤4,舍去;当尾数≥6,进位; 0.53664 0.5366 0.58346 (二) 有效数字的整化(或修约) (2) 若 5 后面均为“0”,则看保留下的末位数是奇数还是偶数。 5 前为奇则进一, 5 前为偶则舍弃。 27.1850 (二) 有效数字的整化(或修约) 27.1850 27.18 0.215 (2) 若 5 后面均为“0”,则看保留下的末位数是奇数还是偶数。 5 前为奇则进一, 5 前为偶则舍弃。 (二) 有效数字的整化(或修约) 0.215 0.22 16.4050 27.1850 27.18 (2) 若 5 后面均为“0”,则看保留下的末位数是奇数还是偶数。 5 前为奇则进一, 5 前为偶则舍弃。 (二) 有效数字的整化(或修约) 16.4050 16.40 0.215 0.22 27.1850 27.18 (2) 若 5 后面均为“0”,则看保留下的末位数是奇数还是偶数。 5 前为奇则进一, 5 前为偶则舍弃。 (二) 有效数字的整化(或修约) 3. 一次整化,不得分步整化 13.4565 13.456 13.46 13.5 14 × 13.4565 13 √ (二) 有效数字的整化(或修约) (三) 有效数字运算规则 1. 加减法 以小数点后位数最少的数据的位数为准,即取决于绝对误差最大的数据位数; 2. 乘除法 以有效数字位数最少的数据的位数为准,即取决于相对误差最大的数据位数; 3. 常数π、e 等有效数字位数无限制 对于非测量值 如测定次数、倍数、系数、分数、常数,有效数字位数可看作无限多位。 4. 当首位数字≥8,有效数字位数可多保留一位; 5. 表示准确度或精密度时,一般保留1~2位有效数字。(即误差、偏差一般取一、二位有效数字) (三) 有效数字运算规则 §2-3 分析数据的处理 一、频数分布直方图 在相同条件下对某样品中镍的质量分数(%)进行重复测定,得到90个测定值如下: 1.60 1.67 1.67 1.64 1.58 1.64 1.67 1.62 1.57 1.60 1.59 1.64 1.74 1.65 1.64 1.61 1.65 1.69 1.64 1.63 1.65 1.70 1.63 1.62 1.70 1.65 1.68 1.66 1.69 1.70 1.70 1.63 1.67 1.70 1.70 1.63 1.57 1.59 1.62 1.60 1.53 1.56 1.58 1.60 1.58 1.59 1.61 1.62 1.55 1.52 1.49 1.56 1.57 1.61 1.61 1
文档评论(0)