检测 分析结果的数据处理及修约.docVIP

  • 18
  • 0
  • 约1.27千字
  • 约 2页
  • 2020-09-13 发布于河北
  • 举报
检测分析结果的数据处理与修约 一.有效数字 一个数的有效数字包括该数中所有的肯定数字再加上最后一位可疑的数字。具体来说,有效数字就是实际上能测到的数字。例如,用万分之一天平秤量最多可精确到0.1mg,称得的质量,如以克为单位,应正确记录到小数点后四位。 二.数字修约规则 数字修约采用“四舍六入五单双”的原则,即在所拟舍去的数字中,其最左面的第一个数字小于、等于4时舍去,等于、大于6时进一;所拟舍去的数字中,其最左面的第一个数字等于5时,若其后面的数字并非全部为“0”时,则进1,若5后的数字全部为“0”就看5的前一位数,是奇数的则进位是偶数的则舍去(“0”以偶数论)。 三.计算规则 几个数据相加或相减时,计算结果的绝对误差应与各数中绝对误差最大者相等,它们的和或差只能保留一位不确定数字,即有效数字的保留应以小数点后位数最少的数字为根据。 在乘除法中,计算所得结果的相对误差必须与各测量数值中相对误差最大者相近,因此有效数字的保留应根据这一原则进行判断。一般说来,以有效数字位数最少的数为标准,弃去其他数的过多的位数,然后进行乘、除。在计算过程中,可以暂时多保留一位数字,得到最后结果时,再弃去多余的尾数。 四.分析结果的有效数字的保留 1.结果≥10% 保留4位有效数字 2.结果在1%~10%之间保留3位有效数字 3.

文档评论(0)

1亿VIP精品文档

相关文档