有效数字修约运算法则.docVIP

  • 532
  • 0
  • 约6.01千字
  • 约 9页
  • 2018-10-17 发布于江苏
  • 举报
有效数字修约运算法则

PAGE 1 有效数字修约与运算法则 1.有效数字的基本概念: (1)有效数字是指在检验工作中所能得到有实际意义的数值,其最后一位数字欠准是允许的,这种由可靠数字和最后一位不确定数字组成的数值,即为有效数字。 (2)有效数字的定位(数位),是指确定欠准数字的位置,这个位置确定后,其后面的数字均为无效数字。 例如,一支25ml的滴定管,其最小刻度为0.1ml,如果滴定管的体积介符于20.9ml到21.0ml之间,则需估计一位数字,读出20.97ml,这个7就是个欠准的数字,这个位置确定后,它有效位数就是4个,即使其后面还有数字也只是无效数字。 (3)在没有小数位且以若干个零结尾的数值中,有效位数系指从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的零)的个数。 例如:35000,若有两个无效零,则为三位有效位数,应写作350×102或3.50×104;若有三个无效零,则为两位有效位数,应写作35×103或3.5×104。 (4)在其他10进位数中,有效数字系指从非零数字最左一位向右数而得到的位数,例如:3.2、 0.32、0.032和0.0032均为两位有效位数;0.320为三位有效位数;10.00为四位有效位数;12.490为五位有效位数。 (5)非连续型数值:(如个数、分数、倍数)是没有欠准数字的,其有效位数可视为无限多位

您可能关注的文档

文档评论(0)

1亿VIP精品文档

相关文档