有効数字について.pptVIP

  • 4
  • 0
  • 约 14页
  • 2016-06-19 发布于天津
  • 举报
有効数字について

* * * * * * * * * * 有効数字 有効数字の利用を考える かけ算とわり算の有効数字 横 6.17cm、縦 3.54cm  の長方形の面積を求める場合  を考える。 (1)求める面積の計算式は、   6.17×3.54で、式をこのまま計算すると、   計算結果は、 6.17×3.54=21.8418となる。   誤差の理由(6.17をAとすると、6.165<=A<6.175) (2)各辺の長さは有効数字3桁の測定値で、それぞれ最後の位の数字(赤字で示した数字)には、誤差が含まれている。    横 6.17cm 縦 3.54cm の長方形 計算の結果に含まれる誤差(A)      6.17 ×   3.54      2468   -----(1)     3085  -----(2)    1851     -----(3)   21.8418 (1)  6.17×4=2468誤差を含む4を掛けた全ての値 (2)  6.17×5=3085となり、7×5=35の入っている2桁 (3)  6.17×3=1851となり、 7×3=21の入っている2桁 この長方形の面積の有効数字 (1)計算結果の3桁目以下に誤差が含まれる。      21.8418  (有効数字4桁以上求めても意味がない) (2)計算結果の4桁目を四捨五入し、3桁の  有効数字 

文档评论(0)

1亿VIP精品文档

相关文档