- 1、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。。
- 2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
- 4、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
- 5、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们。
- 6、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
- 7、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多
GB8170-2008数据修约规则与极限数值的标示和判定(东锦内部培训课件)
GB/T8170-2008 数据修约规则与极限数值的标示和判定 襄阳东锦工程质量检测有限公司 何宏伟 2012年4月6日 GB/T8170-2008 数据修约规则 与 极限数值的标示和判定 术语 修约间隔:修约值的最小数值单位,系确定修约保留位数的一种方式。修约间隔的数值一经确定,修约值即应为该数值的整数倍。 例1:如指定修约间隔为0.1,修约值即应在0.1的整数倍中选取,相当于将数值修约到一位小数。 例2:如指定修约间隔为100,修约值即应在100的整数倍中选取,相当于将数值修约到“百”数位。 有效位数:对没有小数位且以若干个零结尾的数值,从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的零)的个数;对其他十进位数,从非零数字最左一位向右数而得到的位数,就是有效位数。 例1:35000,若有两个无效零,则为三位有效位数,应写为350×102;若有三个无效零,则为两位有效位数,应写为35×103。 例2:3.2,0.32,0.032,0.0032均为两位有效位数;0.0320为三位有效位数。 例3:12.490为五位有效位数;10.00为四位有效位数。 0.5单位修约(半个单位修约):指修约间隔为指定数位的0.5单位,即修约到指定数位的0.5单位。 修约方法:将拟修约数值乘以2,按指定数位依数字修约规则修约,所得数值再除以2。 例1:将60.28修约到个数位的0.5单位(或修约间隔为0.5),得60.5。 例2:将60.25修约到个数位的0.5单位(或修约间隔为0.5),得60.0。 0.2单位修约:指修约间隔为指定数位的0.2单位,即修约到指定数位的0.2单位。 将拟修约数值乘以5,按指定数位依数字修约规则修约,所得数值再除以5。 例1:将830修约到“百”数位的0.2单位(或修约间隔为20) ,得840。 例:2:将842修约到“百”数位的0.2单位(或修约间隔为20) ,得840。 确定修约位数的表达方式 指定数位(指定修约间隔); 指定将数值修约成n位有效位数。 四舍六入五考虑, 五后非零则进一, 五后皆零视奇偶, 五前为偶应舍去, 五前为奇则进一, 不论数字多少位, 都要一次修约成。 拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。 例1:将12.1498修约到一位小数,得12.1。 例2:将12.1498修约成两位有效位数,得12。 拟舍弃数字的最左一位数字大于5;或者是5,而其后跟有并非全部为0的数字时,则进一,即保留的末位数字加1。 例1:将1268修约到“百”数位,得13×102(特定时可写为1300)。 例2:将1268修约成三位有效位数,得127×10(特定时可写为1270)。 例3:将10.502修约到个数位,得11。 拟舍弃数字的最左一位数字为5,而右面无数字或皆为0时, 若所保留的末位数字为奇数(1,3,5,7,9)则进一, 若所保留的末位数字为偶数(2,4,6,8,0)则舍弃。 例1:修约间隔为0.1 拟修约数值 1.050 修约值结果 1.0 负数修约时,先将它的绝对值按数字修约规定进行修约,然后在修约值前面加上负号。 例1:将下列数字修约到“十”数位 拟修约数值 修约值 -355 -36×10 不许连续修约 拟修约数字应在确定修约位数后一次修约获得结果,而不得多次按进舍规则连续修约。 例如:修约15.4546,修约间隔为1 正确的做法: 15.4546→15 不正确的做法: 15.4546→15.455→15.46→15.5→16 在具体实施中,有时测试与计算部门先将 获得数值按指定的修约位数多一位或几位报 出,而后由其他部门判定。为避免产生连续 修约的错误,应按下述步骤进行。 1. 报出数值最右的非零数字为5时,应在数值后面加“(+)”或“(-)”或不加符号,以分别表明已进行过舍、进或未舍未进。 例:16.50(+)表示实际值大于16.50,经修约舍弃成为16.50; 16.50(-)表示实际值小于16.50,经修约进一成为16.50。 2. 如果判定报出值需要进行修约,当拟舍弃数字的最左一位数字为5而后面无数字或皆为零时,数值后面有(+)号者进一,数值后面有(-)号者舍去,其他仍按数字修约规则进行。 例:将下列数字修约到
您可能关注的文档
- 2014届高考生物一轮复习金榜课件(知识概览主干回顾核心归纳)热点专题系列(四)自由组合定律的9∶3∶3∶1变式(共17张).ppt
- 2014届高考生物一轮复习金榜课件(知识概览主干回顾核心归纳)选修1专题4生物技术在其他方面的应用(共81张).ppt
- 2014年哈尔滨水处理工程公司成员排名.pptx
- 2015届高一第二学期期中复习.ppt
- 21CFR211对厂房设施与设备的控制要求-药智论坛.ppt
- 206702工程量清单计价与定额预算计价的区别和联系.ppt
- 32采购与付款业务制度设计.ppt
- 7内部审核员应具备的条件.ppt
- 52自然地理环境的差异性课件(孙逸豪推荐).ppt
- 8市场研究分析的方法和技巧石油石化.ppt
- firstclass推荐第一节英语课给学生讲上课要求和学习态度.ppt
- IE部现场改善会议稿(8-10).ppt
- LED芯片生产线项目可行性研究报告.ppt
- Matlab实时信号采集与处理开发.ppt
- 2014届高三新人教版英语一轮总复习课件44Bodylanguage.ppt
- [35ⅹ3335岁前要做的33件事]蔡虹中国对外翻译出版公司文字版.ppt
- [AboutHaraKenyaandJap-design]原研哉及日本设计.ppt
- [ch5][参考椭球大地坐标系].ppt
- [丰田汽车LEXUS雷克萨斯][BE]LEXUSParkingAssist-sensor.ppt
- chapter5第二章生命的基本单位细胞第5节细胞增殖周期.ppt
最近下载
- A.8 公用设备二次回路原理图集20170407.pdf VIP
- 人教版(2024)数学三年级上册《认识直角》PPT课件.pptx VIP
- 流行性感冒诊疗方案(2025 年版)解读PPT课件.pptx VIP
- 医院感染的消毒灭菌与器械管理.pptx VIP
- 新生儿大疱性表皮松解症的护理.pptx VIP
- 2025年呼吸内科医师呼吸系统疾病治疗考核试题及答案解析.docx VIP
- A.1 220kV线路二次回路原理图集..pdf VIP
- 回弹法检测混凝土抗压强度技术规程.pdf VIP
- 苏轼《南乡子 重九涵辉楼呈徐君猷》古诗词PPT.pptx VIP
- (2025年)全科医生培训考试题库及答案.docx VIP
文档评论(0)