极限数值表示与数值修约规则资料.pptVIP

  • 24
  • 0
  • 约7.99千字
  • 约 43页
  • 2016-12-20 发布于湖北
  • 举报
数值修约规则与极限数值的表示和判定 1 范围 适用于科学技术与生产活动中试验测定和计算得出的各种数值。当所得数值需要修约时,应按本标准给出的规则进行。 适用于各种标准或其他技术规范的编写和对测试结果的判定。 2 术语和定义 2.1 数值修约 rounding off for numerical values 通过省略原数值的最后若干数字,调整所保留的末位数字,使最后所得到的值最接近原数值的过程。 注:经数值修约后的数值称为(原数值的)修约值。 2.2 修约间隔 rounding interval 修约值的最小数值单位。 注:修约间隔的数值一经确定,修约值即应为该数值的整数倍。 例l:如指定修约间隔为0.l,修约值应在0.1的整数倍中选取,相当于将数值修约到一位小数。 例2:如指定修约间隔为100,修约值应在100的整数倍中选取,相当于将数值修约到“百”数位。 3 数值修约规则 3.1 确定修约间隔 指定修约间隔为10-n(n为正整数),或指明将数值修约到n位小数; 指定修约间隔为1,或指明将数值修约到“1”数位; 指定修约间隔为10n(n为正整数),或指明将数值修约到10n数位,或指明将数值修约到“十”、“百”、“千”……数位。 3.2 进舍规则 进舍规则 3.2.1 拟舍弃数字的最左一位数字小于5,则舍去,保留其余各位数字不变。 例:将12.1

文档评论(0)

1亿VIP精品文档

相关文档