有效数字运算规则 (2).pptVIP

  • 65
  • 0
  • 约2.03千字
  • 约 14页
  • 2017-05-30 发布于四川
  • 举报
普通化学 有效数字及其运算规则 “四舍六入五成双” 1、 当尾数≤4时将其舍去;尾数≥6时就进一位; 2、等于5则看其前一位,加1后为奇数则舍,为偶数则入. 2.596 取三位有效数字 = 2.60 2.594 取三位有效数字 = 2.59 2.595 取三位有效数字 = 2.60 2.585 取三位有效数字 = 2.58 注意:进行数字修约时只能一次修约到指定的位数,不能数次修约。 1. 加减运算 先按小数点后位数最少的数据保留其它各数的位数,再进行加减计算,计算结果也使小数点后保留相同的位数。 例:计算 50.1 + 1.45 + 0.5812 =? 修约为: 50.1 + 1.4 + 0.6 = 52.1 先修约,结果相同而计算简捷。 1.加减运算 例:计算 12.43+5.765+132.812=? 修约为:12.43+5.76+132.81=151.00 注意:用计数器计算后,屏幕上显示的是151,但不能直接记录,否则会影响以后的修约;应在数值后添两个0,使小数点后有两位有效数字。 2. 乘除运算 先按有效数字最少的数据保留其它各数,再进行乘除运算,计算结果仍保留相同有效数字。 例:计算 0.0121×25.64×1.05782 =? 修约为: 0.0121×25.6×1.06 =? 计算后结果为:0.3283456,结果仍保留为三

文档评论(0)

1亿VIP精品文档

相关文档