第2章-误差及数据的统计处理概论.pptVIP

  • 12
  • 0
  • 约7.5千字
  • 约 67页
  • 2017-02-15 发布于湖北
  • 举报
* 例 15 将下列测量值修约为四位有效数字: 返回 0.12664 ? 0.1266 0.32256 ?0.3226 21.345 ?21.34 12.575 ?12.58 34.8954 ?34.90 78.4651 ?78.47 25.2450 ?25.24 15.4546 ?15.45(15.46×) * 四、有效数字的运算规则 加减法 以小数点后位数最少(绝对误差最大)的数为依据; 乘除法 以有效数字位数最少(相对误差最大)的数为依据。 返回 第一位有效数字?8时,其有效数字位数可多算一位。 * 例 16 原数 绝对误差 修约 0.0121 ?0.0001 0.01 25.64 ?0.01 25.64 +1.05782 ? 0.00001 1.06 26.70992 ? 0.01 26.71 0.0121+25.64+1.05782 ? 返回 * 原数 相对误差 修约 0.0121 ?1/121 ?0.8% 0.0121 25.64 ?1/2564 ?0.4% 25.6 ×1.05782 ?1/105782 ?0.009% 1.06 0.座机电话号码 ? 0.8% 0.328 0.0121×25.64×1.05782 ? 返回 * 本章内容小结 §1-1 定量分析中的误差 §1-2 分析结果的数据处理 §1-3 误差的传递 §1-

文档评论(0)

1亿VIP精品文档

相关文档