(14)--2.9 有效数字及运算规则.pdfVIP

  1. 1、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。。
  2. 2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  3. 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
  4. 4、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
  5. 5、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们
  6. 6、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
  7. 7、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多

2.3有效数字及其运算规则

有效数字

在实际分析测定工作中能测量到的、有实

际数值意义的数字,称之为有效数字。例:

有效数字

测量结果绝对误差相对误差所用仪器

位数

0.5000g0.00010.02%4分析天平

0.5g0.120%1台秤

25.00ml0.010.04%4滴定管

25ml14%2量筒

有效数字

有效数字包括全部可靠数字及一位不确定数字在内

台秤(称至0.1g):12.80.51.0

质分析天平(称至0.1mg):12.82180.5024

量1.0100

滴定管(量至0.01ml):26.323.97

体容量瓶:100.0250.0

积移液管:25.00

量筒(量至1mL或0.1mL):264.0

关于有效数字的几项规定(1)

Œ数字前0不计,数字后0计入:0.02450

数字后的0含义不清时,最好用指数形式表示:1000

333

(1.010,1.0010,1.00010)

Ž自然数可以看成具有无限多位有效数字(如倍数、分

数关系);常数也可以(、e)

数字第一位大于等于8的,可以多计一位有效数字:

4

9.4510,95.2%,8.65

关于有效数字的几项规定(2)

对数与指数的有效数字按尾数计:

-2.34+-12

10;pH11.02,则H9.510

‘误差只需保留1-2位

’化学平衡计算中,结果一般保留2位有效数字(由于K值

一般为两位有效数字)

“常量分析一般为4位有效数字(Er0.1%);

微量分析一般为2-3位有效数字。

运算及修约规则

运算过程不必修约,只对最后结果修约即可,但是

必须符合方法精度

四舍六入五留双修约标准偏差,只进不舍

0.526640.5266

S=0.1330.140.2

0.36266

0.3627

10.235010.24

250.650250.6

18.085218.09(被修约的5之后有大于0进1)

数据运算规则(1)

加减法

是各个数值绝对误差的传递,结果的绝对误差应与

各数中绝对误差最大(即小数点后位数最少)的数值相

适应。

例如:50.1+1.45+0.5812?

原数绝对误差修约为

50.10.1

文档评论(0)

177****2883 + 关注
实名认证
文档贡献者

热爱教育,专注于教育领域创作与分享,让我们共同进步。

1亿VIP精品文档

相关文档