定量包装数字修约讲义.pptVIP

  1. 1、本文档共16页,可阅读全部内容。
  2. 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
  3. 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  4. 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
  5. 5、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
  6. 6、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们
  7. 7、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
  8. 8、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多
定量包装数字修约讲义

第二章 检测结果数据 修约规则 问题:   1.一个数值中小数点后面的位数愈多,这个数值就愈准确?   2.在计算中,保留的位数愈多,这个数值就愈准确? 一、有效数字effective digit 有效数字:由数字组成的一个数,除最末一位数字是不确切值或可疑值外,其它数字皆为可靠值或确切值,则组成该数的所有数字包括未位数字称为有效数字,除有效数字外其余数字为多余数字。 “0”是否算有效数字(一) 对于“0”这个数字,它在数中的位置不同,可能是有效数字,也可能是多余数字。整数前面的“0”无意义,是多余数字。对纯小数,在小数点后,数字前的“0”只起定位,决定数量级的作用(相当于所取的测量单位不同),所以,也是多余数字。处于数中间位置的“0”是有效数字。 处于数后面位置的“0”是否算有效数字可分三种情况: (1)数后面的“0”,若把多余数字的”0”用10的乘幂来表示,使其与有效数字分开,这样在10的乘幂前面所有数字包括“0”皆为有效数字;   2.300×105;2.3e5 (2)作为测量结果并注明误差值的数值,其表示的数值等于或大于误差值的所有数字,包括“0”皆为有效数字; (3)上面两种情况外的数后面的“0”则很难判断是有效数字还是多余数字,因此,应避免采用这种不确切的表示方法。 一个数,有效数字占有的位数,即有效数字的个数,为该数的有效位数。 为弄清有效数字的概念,举例如下:00713,0.0715, 7.03, 7.03×102 ,这四个数的有效位数均为3,有效数字都是3个。 若给出的数值为71300,则为不确切的表示方法。它可能是713×102 ,也可能是7.130×104,也可能是7.1300×104 。即有效数字可能是3个,4个或5个。若无其它说明,则很难判定其有效数字究竟是几个。 二、数字修约规则  crrecting principle 各种测量、计算的数据需要修约时,应遵守下列规则: 四舍六入五考虑, 五后非零则进一, 五后皆零视奇偶, 五前为偶应舍去, 五前为奇则进一。 实例分析-问题 例:请将下列数据修约到只保留二位小数:302.21549;302.22499;302.22600;302.22500;302.215000; 实例分析-参考答案 302.22(五后非零则进一) 302.22(四舍六入五考虑,按规则一次修约,不能多次修约成302.23) 302.23(四舍六入五考虑) 302.22(五前为偶应舍去) 302.22 (五前为奇则进一) 计算法则-加减、乘除运算 1.加减运算 应以各数中有效数字末位数的数位最高者为准(小数即以小数部分位数最少者为准),其余数均比该数向右多保留一位有效数字,最终结果与小数部分位数最少者保留一致。 5.89+15.2551=5.89+15.255=21.145 =21.14 2.乘除运算 应以各数中有效数字位数最少者为准,其余数均多取一位有效数字,所得积或商也多取一位有效数字。   2.1×3.124=2.1×3.12=6.55 3.平方或开方运算 其结果可比原数多保留一位有效数字。   1.42=1.96   1.233=1.861 4.对数运算 所取对数位数应与真数有效数字位数相等。   lg12.3=1.09 * *

文档评论(0)

qiwqpu54 + 关注
实名认证
文档贡献者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档