物理实验绪酥论有效数字运算.pptVIP

  • 9
  • 0
  • 约1.04千字
  • 约 12页
  • 2021-04-12 发布于福建
  • 举报
例:7.98 mm 和 0.00798 m 都是三位有效数字 例:0.0079800 m 是多少位? 有效数字的说明 有效位的多少,是测量实际的客观反映,不能随意增减测得值的有效位 有效数字只有最后一位是欠准的 有效数字的位数与小数点位置无关 从第一位不为0的数字数至最后一位 包括后面的0 在单位换算时,有效数字的位数不变 例:7.98 mm = 0.00798 m 表达测量结果的有效数字,其尾数应与不确定度值尾数对齐 例: L = ( 98.60  0.06 ) cm 对较大或较小的数,尽量采用科学记数法 例: 0.00798 m 记为7.98×10-3 mm 有效数字运算规则 加减运算规则 运算结果末位数字所在位置,与参与加减运算的各数中末位数字位置最高的一个相同 例:10.1-4.179=? 10.1 5.921 5.9 乘除、乘方、开方运算规则 运算结果的有效数字的位数,与参与运算各数中有效数字位数最少的那个数相同 例:10.1×4.179= ? 10.1 三位 4.179 四位 结果 三位 42.2 (4.179)2= ? 17.46 4.18 10.1 4.179= ? 2.42 三角函数运算规则 将自变量欠准位变化1,运算结果产生差异的最高位就是应保留的有效数字的最后一位 大学物理实验中,角度一般读到秒 三角函数运算保留4位有效数字

文档评论(0)

1亿VIP精品文档

相关文档