网站大量收购闲置独家精品文档,联系QQ:2885784924

数值修约规则及极限数值的表示和判定.ppt

数值修约规则及极限数值的表示和判定.ppt

  1. 1、本文档共10页,可阅读全部内容。
  2. 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
  3. 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  4. 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多

GB/T8170作者:于振凡GB/T8170作者:于振凡*GB/T8170作者:于振凡*于振凡中国标准化研究院100088北京海淀区知春路4号电话:010-58811678EmailGB/T8170–2008第一章数值修约规则指定修约间隔(位数)修约间隔:修约值的最小数值单位指明将数值修约到n位小数分别表示保留n位小数;保留到个位数;保留到百位数;保留到千位数;保留到万位数;………欲保留部分|拟舍弃部分×××|××××进舍规则2.1当拟舍弃部分的最左一位数字小于5时,则舍去。例1:将12.1498修约,修约间隔为10-1(修约到一位小数),得121×10-1。(特定场合可写为12.1)。写成121×10-1表明此数值是经修约后得来的,它的修约间隔为10-1。在已经明确此数值是经修约后得来的情形下,可以写成12.1。例2:将1268修约,修约间隔102(修约到“百”数位),得13×102(特定场合可写为1300)。当拟舍弃部分的最左一位数字大于5;拟舍弃数字的最左一位数字大于5,则进一,即欲保留部分的末位数字加1。01例3:将10.5002修约,修约间隔100(修约到个数位),得11×100(特定场合可写为11)当拟舍弃部分的最左一位数字是5,且其后有非0数字时,进一,即欲保留部分的末位数字加1。022.4当拟舍弃部分的最左一位数字为5;而右面无数字或皆为0时,若欲保留部分的末位数字为奇数(1,3,5,7,9)则进一,为偶数(2,4,6,8,0),则舍弃。例4:将12.15修约,修约间隔10-1(修约到一位小数),得122×10-1。(特定场合可写为12.2)例5:将12.25修约,修约间隔10-1(修约到一位小数),得122×10-1。(特定场合可写为12.2)例6:将1268.5修约,修约间隔100(修约到个位数),得1268×100,(特定场合可写为1268)。0504020301科学记数法:光的速度为300000000m/s,记为3e8(3E8)或3e+8(3E+8),它的实际含义为电子的直径为0.0000000000000000001m,记为1e-18(1E-18)m,a的绝对值必须是“至少1不足10”,k可以是正整数或负整数。A2.5负数修约时,先将它的绝对值按上述规定进行修约,然后在修约值前面加上负号。B例7:将-36.45修约,修约间隔10-1(修约到一位小数),C得-364×10-1(特定场合可写为-36.4)。D例8:将-0.00365修约,修约间隔10-4(修约到4位小数),E得-36×10-4(特定场合可写为-0.0036)。1四舍六入五考虑;2五后非零则进一;3五后皆零视奇偶;4五前为偶应舍去;5五前为奇则进一。不允许连续修约3.1拟修约数字应在确定修约位数后一次修约获得结果,而不得多次按上述规则连续修约。例1:将15.4546修约到整数。正确的做法:15.4546→15不正确的做法:15.4546→15.45515.455→15.4615.46→15.515.5→1615.4546→15.455→15.46→15.5→16练习将14.25修约,修约间隔10-1(修约到一位小数)得142×10-114.2将14.24501修约,修约间隔10-2(修约到两位小数)得1425-×10-214.25-将14.246修约,修约间隔10-2(修约到两位小数)得1425-×10-214.25-报出数据*GB/T8170作者:于振凡*4报出数据按规定报出全数观测值按规定报出经修约后的值()若报出经修约后的值最右的非零数字为5时,应在数值后面加“+”或“-”或不加符号,以分别表明已进行过舍,进或未舍未进。例如:将16.503修约,修约间隔10-2;经修约成为16.50,表示为16.50+,表示实际值大于16.50,经修约舍弃成为16.50;将16.497修约,修约间隔10-2;经修约成为16.50,表示为16.50-,16.50-表示实际值小于16.50,经修约进一成为16.50;这样做,为进一步修约提供依据,避免连续修约。数字右上角

文档评论(0)

shao12345 + 关注
实名认证
内容提供者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档