网站大量收购独家精品文档,联系QQ:2885784924

数据估读与修约规则总结教学幻灯片.ppt

  1. 1、本文档共62页,可阅读全部内容。
  2. 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
  3. 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  4. 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多
教学课件课件PPT医学培训课件教育资源教材讲义

数值估读与修约规则; 测量结果的数据处理是测量过程的最后环节,而测量结果含有测量误差。因此,测量结果的有效位数应保留适宜,太多会使人误认为测量精度很高,同时也会带来计算上的繁琐;太少则会损失测量准确度。 ;;;;1. 测量、测量结果;2. 有效数字; 有效数字是处于表示测量结果的数值的不同数位上。所有有效数字所占有的数位个数称为有效数字位数。例如数值3.5,有两个有效数字,占有个位、十分位两个数位,因而有效数字位数为两位;而3.501有四个有效数字,占有个位、十分位、百分位等四个数位,因而是四位有效数字。; 测量结果的数字,其有效位数反映了测量结果的精确度,它直接与测量的精密度有关。这也是有效数字实际意义的体现,是非常重要的体现。 例如前述例子中,若测量结果为1.1080g,则表示测量值的误差在10-4量级上,天平的精度为万分之一;若测量结果为1.108g,则表示测量值的误差在10-3量级上,天平的精度为千分之一。;在确定有效数字位数时应遵循下列原则: (1)数值中数字1~9都是有效数字。 (2)数字“0”在数值中所处的位置不同,起的作用也不同,可能是有效数字,也可能不是有效数字。判定如下 ;3、直接量测结果位数规定;; ; ; ;例4.游标卡尺的读数;;读数为: 23.7mm;;;;数值修约;1 、数值修约的概念 对某一表示测量结果的数值(拟修约数),根据保留位数的要求,将多余的数字进行取舍,按照一定的规则,选取一个近似数(修约数)来代替原来的数,这一过程称为数值修约。;2 、数值修约的意义 a.出于准确表达测量结果的需要。 测量结果大都是通过间接测量得到的,间接测量的结果通常是通过计算得出的,其组成数字往往较多, 但具体测量的精度是确定的,最终提供的测量结果应合理反映这一点,故此,通过对计算方法和直接测量得到的数据的分析,得到合理的保留位数,以得到合理反映测量精度的测量结果就非常必要。另外,即使采用直接测量,有时在提供测量程序要求的但高于实际测量精度的测量结果时也需要进行合理的数值修约。; b.在进行具体的数值计算前,对参加计算的数值进行修约,可简化计算,降低计算出错的机会。 例如:4.78961×2.13×102.4387926=? 若不先进行数值修约就直接计算,繁琐且容易出错。若在计算前先按数值修约规则进行修约,舍去多余参与计算的数值之中没有意义的数字,则计算会简单得多,计算也就不容易出错。; a.修约间隔;b .修约数位及确定修约位数的表达方式;(三)数值修约相关规定;1 、GB8170-87《数值修约规则》规定的修约规则如下: 1 )拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。 例1:将12.1498修约到一位小数,得12.1。 例2:将12.1498修约成两位有效位数,得12。; 2) 拟舍弃数字的最左一位数字大于5;或者是5,而其后跟有并非全部为0的数字时,则进一,即保留的末位数字加1。 例1:将1268修约到“百”数位,得13×102(特定时可写为1300)。 例2:将1268修约成三位有效位数,得127×10(特定时可写为1270)。 例3:将10.502修约到个数位,得11。 注:“特定时”的涵义系指修约间隔或有效位数明确时。;3) 拟舍弃数字的最左一位数字为5,而右面无数字或皆为0时,若所保留的末位数字为奇数(1,3,5,7,9)则进一,为偶数(2,4,6,8,0)则舍弃。 例1:修约间隔为0.1(或10-1)    拟修约数 修约值   1.050 1.0  0.350 0.4 例2:修约间隔为1000(或103)  拟修约数 修约值   2500 2×103 (特定时可写为2000) 3500 4×103 (特定时可写为4000) 例3:将下列数字修约成两位有效位数   拟修约数 修约值   0.0325 0.032 32500 32×103(特定时可写为32000);4) 负数修约时,先将它的绝对值按上述1)—3)规定进行修约,然后在修约值前面加上负号。 例1:将下列数修约到

文档评论(0)

yuzongxu123 + 关注
实名认证
内容提供者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档