第二部分 测量误差及数据处理.pptVIP

  • 45
  • 0
  • 约7.13千字
  • 约 48页
  • 2017-08-24 发布于浙江
  • 举报
2.2.3 测量结果的处理步骤(续) 【例2.3】 对某电压进行了16次等精度测量,测量数据中已记入修正值,列于表中。要求给出包括误差在内的测量结果表达式。 2.2.3 测量结果的处理步骤(续) 2.2.3 测量结果的处理步骤(续) 2.3 测量数据处理 2.3.1 有效数字的处理 1. 数字修约规则 数据修约规则: (1) 小于5舍去——末位不变。 (2) 大于5进1——在末位增1。 (3) 等于5时,取偶数——当末位是偶数,末位不变;末位是奇数,在末位增1(将末位凑为偶数)。 2.3.1有效数字的处理(续) 例:将下列数据舍入到小数第二位。 12.3344→12.33 62.73501→62.74 0.69499→0.69 25.3250→25.32 17.6955→17.70 122.1150→122.12 需要注意的是,舍入应一次到位,不能逐位舍入。 上例中0.69499,正确结果为0.69 ,错误做法是: 0.69499→0.6950→0.695→0.70。 在“等于5”的舍入处理上,采用取偶数规则,是为了在比较多的数据舍入处理中,使产生正负误差的概率近似相等。 2.3.1有效数字的处理(续) 2. 有效数字 若截取得到的近似数其截取或舍入误差的绝对值不超过近似数末位的半个单位,则该近似数从左边第

文档评论(0)

1亿VIP精品文档

相关文档