极限数值表示与数值修约规则精要.ppt

  1. 1、本文档共43页,可阅读全部内容。
  2. 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
  3. 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  4. 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多
极限数值表示与数值修约规则精要

数值修约规则与极限数值的表示和判定 1 范围 适用于科学技术与生产活动中试验测定和计算得出的各种数值。当所得数值需要修约时,应按本标准给出的规则进行。 适用于各种标准或其他技术规范的编写和对测试结果的判定。 2 术语和定义 2.1 数值修约 rounding off for numerical values 通过省略原数值的最后若干数字,调整所保留的末位数字,使最后所得到的值最接近原数值的过程。 注:经数值修约后的数值称为(原数值的)修约值。 2.2 修约间隔 rounding interval 修约值的最小数值单位。 注:修约间隔的数值一经确定,修约值即应为该数值的整数倍。 例l:如指定修约间隔为0.l,修约值应在0.1的整数倍中选取,相当于将数值修约到一位小数。 例2:如指定修约间隔为100,修约值应在100的整数倍中选取,相当于将数值修约到“百”数位。 3 数值修约规则 3.1 确定修约间隔 指定修约间隔为10-n(n为正整数),或指明将数值修约到n位小数; 指定修约间隔为1,或指明将数值修约到“1”数位; 指定修约间隔为10n(n为正整数),或指明将数值修约到10n数位,或指明将数值修约到“十”、“百”、“千”……数位。 3.2 进舍规则 进舍规则 3.2.1 拟舍弃数字的最左一位数字小于5,则舍去,保留其余各位数字不变。 例:将12.1498修约到个数位,得12;将12.1 498修约到一位小数,得12.1。 3.2.2 拟舍弃数字的最左一位数字大于5;则进一,即保留数字的末位数字加1。 例:将1 268修约到“百”数位,得13×102(特定时可写为1 300)。 注:本标准示例中,“特定场合”系指修约间隔明确时。 3.2.3 拟舍弃数字的最后一位数字是5,且其后有非0数字时进一,即保留数字的末位数字加1. 例:将10.500 2修约到个数位,得11。 3.2.4 拟舍弃数字的最左一位数字为5,且其后无数字或皆为0时,若所保留的末位数字为奇数(1,3,5,7,9)则进一,即保留数字的末位数字加1;若所保留的末位数字为偶数(2,4,6,8,0)则舍去。 例l:修约间隔为0.1(或10-1) 拟修约数值 修约值 1.050 10×10-1(特定场合可写成为1.0) 0.350 4×10-1(特定场合可写成为0.4) 例2:修约间隔为1000(或103) 拟修约数值 修约值 2500 2×103(特定场合可写为2000) 3500 4×103(特定场合可写为4000) 3.2.5 负数修约时,先将它的绝对值按3.2.1-3.2.4规定进行修约,然后在修约值前面加上负号。 例l:将下列数字修约到“十”数位: 拟修约数值 修约值 -355 -36×10(特定时可写为-360) -325 -32×10(特定时可写为-320) 例2:将下列数字修约到三位小数,即修约间隔为10-3 拟修约数值 修约值 -0.0365 -36×10-3(特定时可写为-0.036) 3.3 不允许连续修约 3.3.1 拟修约数字应在确定修约间隔或指定修约数位后一次修约获得结果,不得多次按3.2规则连续修约。 例1:修约97.46,修约间隔为1 。 正确的做法:97.46→97; 不正确的做法:97.46→97.5→98。 例2:修约15.4546,修约间隔为1。 正确的做法:15.4546→15; 不正确的做法:15.4546→15.455→15.46→15.5→16。 3.3.2 在具体实施中,有时测试与计算部门先将获得数值按指定的修约数位多一位或几位报出,而后由其他部门判定。为避免产生连续修约的错误,应按下述步骤进行。 3.3.2.1 报出数值最右的非零数字为5时,应在数值右上角加“+”或“-”或不加符号,分别表明已进行过舍,进或未舍未进

文档评论(0)

shuwkb + 关注
实名认证
内容提供者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档