- 1、本文档共62页,可阅读全部内容。
- 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
- 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
- 5、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
- 6、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们。
- 7、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
- 8、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多
数据估读与修约规则总结PPT
数值估读与修约规则; 测量结果的数据处理是测量过程的最后环节,而测量结果含有测量误差。因此,测量结果的有效位数应保留适宜,太多会使人误认为测量精度很高,同时也会带来计算上的繁琐;太少则会损失测量准确度。;;;; 有效数字是处于表示测量结果的数值的不同数位上。所有有效数字所占有的数位个数称为有效数字位数。例如数值3.5,有两个有效数字,占有个位、十分位两个数位,因而有效数字位数为两位;而3.501有四个有效数字,占有个位、十分位、百分位等四个数位,因而是四位有效数字。; 测量结果的数字,其有效位数反映了测量结果的精确度,它直接与测量的精密度有关。这也是有效数字实际意义的体现,是非常重要的体现。
例如前述例子中,若测量结果为1.1080g,则表示测量值的误差在10-4量级上,天平的精度为万分之一;若测量结果为1.108g,则表示测量值的误差在10-3量级上,天平的精度为千分之一。;在确定有效数字位数时应遵循下列原则:
(1)数值中数字1~9都是有效数字。
(2)数字“0”在数值中所处的位置不同,起的作用也不同,可能是有效数字,也可能不是有效数字。判定如下
;1) “0”在数字前,仅起定位作用,不是有效数字。
如,0.0257中, “2”前面的两个“0”均非有效数字。 0.123、0.0123、0.00123中“1”前面的 “0”也均非有效数字。
2)数值末尾的“0”属于有效数字。
如0.5000中, “5”后面的三个“0”均为有效数字;0.5000中, “5”后面的一个“0”也是有效数字。
3)数值中夹在数字中间的“0”是有效数字。
如数值1. 008中的两个“0”是均是有效数字; 数值8. 01中间的 “0”也是有效数字。
;4)以“0”结尾的正整数, “0”是不是有效数字不确定,应根据测试结果的准确度确定。
如3600,后面的两个“0”如果不指明测量准确度就不能确定是不是有效数字。
测量中遇到这种情况,最好根据实际测试结果的精确度确定有效数字的位数,有效数字用小数表示,把“0”用10的乘方表示。如将3600写成3.6×103表示此数有两位有效数字;写成3.60×103表示此数有三位有效数字;写成3.600×103表示此数有四位有效数字。;试看下面各数据的有效数字位数:
;3、直接量测结果位数规定;;
;
;
;例4.游标卡尺的读数;;读数为: 23.7mm;;;;数值修约;1 、数值修约的概念
对某一表示测量结果的数值(拟修约数),根据保留位数的要求,将多余的数字进行取舍,按照一定的规则,选取一个近似数(修约数)来代替原来的数,这一过程称为数值修约。;2 、数值修约的意义
a.出于准确表达测量结果的需要。
测量结果大都是通过间接测量得到的,间接测量的结果通常是通过计算得出的,其组成数字往往较多, 但具体测量的精度是确定的,最终提供的测量结果应合理反映这一点,故此,通过对计算方法和直接测量得到的数据的分析,得到合理的保留位数,以得到合理反映测量精度的测量结果就非常必要。另外,即使采用直接测量,有时在提供测量程序要求的但高于实际测量精度的测量结果时也需要进行合理的数值修约。; b.在进行具体的数值计算前,对参加计算的数值进行修约,可简化计算,降低计算出错的机会。
例如:4.78961×2.13×102.4387926=?
若不先进行数值修约就直接计算,繁琐且容易出错。若在计算前先按数值修约规则进行修约,舍去多余参与计算的数值之中没有意义的数字,则计算会简单得多,计算也就不容易出错。; a.修约间隔;b .修约数位及确定修约位数的表达方式;(三)数值修约相关规定;1 、GB8170-87《数值修约规则》规定的修约规则如下:
1 )拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。
例1:将12.1498修约到一位小数,得12.1。
例2:将12.1498修约成两位有效位数,得12。;
2) 拟舍弃数字的最左一位数字大于5;或者是5,而其后跟有并非全部为0的数字时,则进一,即保留的末位数字加1。
例1:将1268修约到“百”数位,得13×102(特定时可写为1300)。
例2:将1268修约成三位有效位数,得127×10(特定时可写为1270)。
例3:将10.502修约到个数位,得11。
注:“特定时”的涵义系指修约间隔或有效位数明确时。;3) 拟舍弃数字的最左一位数字为5,而右面无数字或皆为0时,若所保留的
您可能关注的文档
最近下载
- 小学数学名师工作室年度工作计划 .docx VIP
- 青少年保健专科建设和管理指南.pptx
- LNG购销总协议-中英文对照.pdf
- 全球及中国婴幼儿辅食行业蓝皮书-CIC灼识咨询-2025.pptx
- 2025中国南水北调集团新能源投资有限公司第一批中层及职员岗位社会招聘模拟试卷含答案解析.docx VIP
- 2025中国南水北调集团新能源投资有限公司第一批中层及职员岗位社会招聘模拟试卷含答案详解.docx VIP
- 部编版五年级语文上册语文园地三.ppt VIP
- 食材配送应急预案.docx VIP
- 《GBT 97.4-2002 平垫圈用于螺钉和垫圈组合件》知识培训.pptx VIP
- 现代化工导论 课件(化工)第10章.pptx VIP
文档评论(0)