检测数据修约处理.pptx

  1. 1、本文档共27页,可阅读全部内容。
  2. 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
  3. 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  4. 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多

ppt课件1检测数据修约处理GB/T817004.14

ppt课件2目录术语确定修约位数的表达方式进舍规则不连续修约0.5单位修约及0.2单位修约计算法则(参考上海市计量检定人员计量基础知识培训教材)

ppt课件3术语

ppt课件4数值修约通过省略原数值的最后若干位数字,调整所保留的末位数字,使最后所得到的值最接近原数值的过程。注:经数值修约后的数值称为修约值。10.4110.4数值修约原始数值修约值10.5×

ppt课件5有效数字该数值从其第一个不是零的数字起到最末一位数的全部数字即为有效数字。

例1:3.2,0.32,0.032,0.0032均为两位有效位数;0.0320为三位有效位数。

例2:12.490为五位有效位数;10.00为四位有效位数。例3:1.35cm=13.5mm=0.0135m,这三种表示法完全等效,均为三位有效数字。

ppt课件6?

ppt课件7?2200√2203×2210×58600√58611×58670×

ppt课件8确定修约位数的表达方式

ppt课件9确定修约位数的表达方式指定数位(指定修约间隔);指定将数值修约成n位有效位数。

ppt课件10进舍规则

ppt课件11四舍六入逢五取偶拟舍弃数字最左一位数字小于5,则舍去,保留其余各位数字不变例1:将12.1498修约到个位数(即修约间隔为1),得12;将12.1498修约到1位小数(即修约间隔为0.1),得12.1。拟舍弃数字最左一位数字大于5,或者是5,而其后跟有并非全部为0的数字时,则进一,即保留的末位数字加1。例2:将1268修约到“百”数位,得1300。例3:将10.502修约到个数位,得11。

ppt课件12拟舍弃数字的最左一位数字为5,而右面无数字或皆为0时,若所保留的末位数字为奇数(1,3,5,7,9)则进一,若所保留的末位数字为偶数(2,4,6,8,0)则舍弃。(逢五取偶)例1:1.050修约到1位小数,得1.0。例2:0.35修约到1为小数,得0.4。

ppt课件13负数修约时,先将它的绝对值按数字进舍规则(四舍六入逢五取偶)进行修约,然后在修约值前面加上负号。例:将下列数字修约到三位小数拟修约数值修约值-0.0365-0.0360.0365绝对值

ppt课件14不连续修约

ppt课件151、拟修约数字应在确定修约位数后一次修约获得结果,而不得多次按进舍规则连续修约。例如:修约15.4546,修约间隔为1正确的做法:15.4546→15不正确的做法:15.4546→15.455→15.46→15.5→16

ppt课件162、在具体实施中,有时测试与计算部门先将获得数值按指定的修约位数多一位或几位报出,而后由其他部门判定。为避免产生连续修约的错误,应按下述步骤进行。报出数值最右的非零数字为5时,应在数值后面加“(+)”或“(-)”或不加符号,以分别表明已进行过舍、进或未舍未进。例:16.50(+)表示实际值大于16.50,经修约舍弃成为16.50;16.50(-)表示实际值小于16.50,经修约进一成为16.50。

ppt课件17如果报出值需要进行修约,当拟舍弃数字的最左一位数字为5而后面无数字或皆为零时,数值后面有(+)号者进一,数值后面有(-)号者舍去,其他仍按数字修约规则进行。例:将下列数字修约到个数位(报出值多留一位到一位小数)。实测值报出值修约值15.454615.5(一)15-15.4546-15.5(一)-1516.520316.5(+)17-17.5000-17.5-18

ppt课件180.5单位修约及0.2单位修约

ppt课件190.5单位修约(半个单位修约)指修约间隔为指定数位的0.5单位,即修约到指定数位的0.5单位。修约方法:将拟修约数值乘以2,按指定数位依数字修约规则修约,所得数值再除以2。例:将下列数字修约到个数位的0.5单位拟修约数值X2X

文档评论(0)

润哈哈 + 关注
官方认证
内容提供者

该用户很懒,什么也没介绍

认证主体广州乾星科技有限公司
IP属地广东
统一社会信用代码/组织机构代码
91440101MA5B6X8T7Y

1亿VIP精品文档

相关文档