数值修约及运算规则讲述.pptVIP

  • 11
  • 0
  • 约2.92千字
  • 约 21页
  • 2016-06-29 发布于湖北
  • 举报
《数值修约及运算规则》 主要内容 一、数值修约概念 (1)概念; (2)修约规则; (3)其他规定; (4)其他修约的间隔; (5)有效数字概念 二、极限数值的表示和判定 (一)概念 1.数值修约:通过省略原数值的最后若干位数字,调整所保留的末位数字,最后所得到的值最接近原数值的过程。 注:经数值修约后的数值称为(原数值的)修约值。 2.有效数值:一个数从左边第一个不是零的数字数起一直到最后一位数字(包括零、科学计数法不计10的N次方)称为有效数字。 0.0109 3.109×105 0.0230 是三位 是三位 是四位 (一)概念 3.修约间隔:修约的最小数值单位。 注:修约间隔的数值一经确定,修 约值即为该数值的整数倍。 如:指定的修约间隔为0.1。修约值 应在0.1的整数倍中选取,相当 于将数值修约到一位小数。 (一)概念 (二)修约规则 1、确定修约间隔(确定有效位数), 0.0356修约到0.01得 保留一位有效数字,

文档评论(0)

1亿VIP精品文档

相关文档