第三章数据处理.pptVIP

  • 221
  • 0
  • 约7.04千字
  • 约 45页
  • 2016-12-06 发布于湖北
  • 举报
* 4. 乘除运算时 有效数字的位数取决于各数据中绝对误差最大(即有效数字位数最小)的数字。 例:0.0121×25.64×1.0578=0.328176 * 三. 数字修约规则 四舍六入五成双 当尾数≤4时,舍去;尾数≥6时进位;尾数为5时,有两种方式:5后面数字全部为0时,应根据保留的末位数是奇数还是偶数判定,5前为偶数时将5舍去,5前为奇数时将5进位;5后面的数字不全是0时,无论前面数字是偶或奇,皆进位。 * 三. 数字修约规则 例:28.241取3位有效数字:28.2 29.1645取3位有效数字:29.2 28.350,28.250,28.050取3位有效数字: 28.4,28.2,28.0 28.2501,28.3501取3位有效数字:28.3,28.4 * 三. 数字修约规则 被舍弃的数字包括几位数字时,不得对该数字连续修约,而根据以上规则仅作一次修约。 例:2.154546取三位有效数字:2.15 (不得连续修约为2.16: 2.154546→2.15455→2.1546→2.155→2.16) * 四.使用有效数字的注意事项 (1)检测报告中的数据,只允许保留一位可疑数字,不允许增加位数,也不允许减少位数。 (2)有效数字位数与量的使用单位无关。 如: 24.01mL 24.01?1

文档评论(0)

1亿VIP精品文档

相关文档