精确数值计算与规则解析.pptVIP

  • 2
  • 0
  • 约1.24千字
  • 约 16页
  • 2026-07-05 发布于江苏
  • 举报

有效数字及其运算规则;例如,用分析天平称NaCl1.g,可能

有±0.0001g的误差;用台秤称1.20g,可能

有±0.01g的误差。

注意:数字0能够是测量得到的有效数

字,但当0只用来定位时,就不能是有效

数字,并且有效数字的位数与小数点的

位置无关。

例如:1.g(五位)0.001g(五位);物体质量有效数字位数使用仪器

16.5g3台天平

16.651g5普通摇晃天平

16.6514g6分析天平;二、有效数字位数确实定;②.小数点前面的“0”和紧接小数点背面的“0”不算作有效数字

;3.有效数字与仪器的关系;大家有疑问的,能够问询和交流;三.数字修约

各测量值有效数字位数可能不同,因

此计算前要先对各测量值进行修约。

应保存的有效数字位数确定之后,其

余尾数一律舍弃的过程称为修约。

修约应一次到位,不得连续数次修约。;修约规则:为四舍六入五成双(尾留双),被修约≤4,舍弃,被修约数≥6则进位,若是5将有两种情况:前面是奇数则进位为偶数,若前面是偶数则舍弃,若5背面还有不为0的数,则不论前面数字奇偶一律进位。

例如,将以下数据修约为两位有效数

文档评论(0)

1亿VIP精品文档

相关文档