检测数据修约处理教程.pptxVIP

  1. 1、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。。
  2. 2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  3. 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
  4. 4、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
  5. 5、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们
  6. 6、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
  7. 7、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多
检测数据修约处理教程

检测数据修约处理;目录;术语;数值修约 通过省略原数值的最后若干位数字,调整所保留的末位数字,使最后所得到的值最接近原数值的过程。 注:经数值修约后的数值称为修约值。;有效数字 该数值从其第一个不是零的数字起到最末一位数的全部数字即为有效数字。      例1:3.2,0.32,0.032,0.0032均为两位有效位数;0.0320为三位有效位数。   例2:12.490为五位有效位数;10.00为四位有效位数。 例3:1.35cm =13.5 mm =0.0135m ,这三种表示法完全等效,均为三位有效数字。;?;?;确定修约位数的表达方式;确定修约位数的表达方式;进舍规则 ;四舍六入 逢五取偶 ;拟舍弃数字的最左一位数字为5,而右面无数字或皆为0时, 若所保留的末位数字为奇数(1,3,5,7,9)则进一, 若所保留的末位数字为偶数(2,4,6,8,0)则舍弃?? (逢五取偶) 例1:1.050修约到1位小数,得1.0 。 例2:0.35 修约到1为小数,得0.4 。        ;负数修约时,先将它的绝对值按数字进舍规则(四舍六入 逢五取偶)进行修约,然后在修约值前面加上负号。 例:将下列数字修约到三位小数 拟修约数值   修约值 -0.0365    -0.036;不连续修约;1、拟修约数字应在确定修约位数后一次修约获得结果,而不得多次按进舍规则连续修约。 例如:修约15.4546,修约间隔为1    正确的做法: 15.4546→15   不正确的做法: 15.4546→15.455→15.46→15.5→16  ;2、在具体实施中,有时测试与计算部门先将获得数值按指定的修约位数多一位或几位报出,而后由其他部门判定。为避免产生连续修约的错误,应按下述步骤进行。;如果报出值需要进行修约,当拟舍弃数字的最左一位数字为5而后面无数字或皆为零时,数值后面有(+)号者进一,数值后面有(-)号者舍去,其他仍按数字修约规则进行。 例:将下列数字修约到个数位(报出值多留一位到一位小数)。 实测值   报出值     修约值 15.4546   15.5(一)    15    -15.4546  -15.5(一) -15 16.5203   16.5(+)    17    -17.5000   -17.5      -18    ;0.5单位修约及0.2单位修约 ;0.5单位修约(半个单位修约) 指修约间隔为指定数位的0.5单位,即修约到指定数位的0.5单位。 修约方法:将拟修约数值乘以2,按指定数位依数字修约规则修约,所得数值再除以2。  例:将下列数字修约到个数位的0.5单位 ;0.2单位修约 指修约间隔为指定数位的0.2单位,即修约到指定数位的0.2单位。 修约方法:将拟修约数值乘以5,按指定数位依数字修约规则修约,所得数值再除以5。 例:将下列数字修约到 “百”数位的0.2单位(或修约间隔为20) ; 计算法则;加减运算;乘除运算 ;平方或开方运算;对数运算 ;混合运算 ; 谢 谢

文档评论(0)

shuwkb + 关注
实名认证
文档贡献者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档