网站大量收购独家精品文档,联系QQ:2885784924

比指数有効数字.ppt

  1. 1、本文档共14页,可阅读全部内容。
  2. 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
  3. 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  4. 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多
比指数有効数字.ppt

有効数字 有効数字の利用を考える かけ算とわり算の有効数字 横 6.17cm、縦 3.52cm  の長方形の面積を求める場合  を考える。 (1)求める面積の計算式は、   6.17×3.52で、式をこのまま計算すると、   計算結果は 6.17×3.52=21.7184となる。   誤差の理由(6.17をAとすると、6.165<=A<6.175) (2)各辺の長さは有効数字3桁の測定値で、それぞれ最後の位の数字(赤字で示した数字)には、誤差が含まれている。    横 6.17cm 縦 3.52cm の長方形 計算の結果に含まれる誤差(A)      6.17 ×   3.52      1234   -----(1)     3085  -----(2)    1851     -----(3)   21.7184 (1)  6.17×2=1234誤差を含む4を掛けた全ての値 (2)  6.17×5=3085となり、7×5=35の入っている2桁 (3)  6.17×3=1851となり、 7×3=21の入っている2桁 この長方形の面積の有効数字 (1)計算結果の3桁目以下に誤差が含まれる。      21.7184  (有効数字4桁以上求めても意味がない) (2)計算結果の4桁目を四捨五入し、3桁の  有効数字 21.7  を答えとするのが妥当である。 有効数字の桁数について(A) (1)この長方形の面積の計算の場合は、  有効数字がどちらも3桁で、3桁の有効数字  21.7を答えとした。 (2)「有効数字○桁で答えよ」→途中計算は、 ○より1桁多く求めて、この桁で四捨五入して答える。  問題に指示がない場合は、 「計算する数値の中で最も桁数の少ない桁で答える」 例 147×5291=777777≒7.78×105  *147(3桁)5291(4桁)*(有効数字3桁) 足し算と引き算の有効数字 <長さの測定値>           2.6cm                      4.74cm  長さの測定値2.6cmと   4.74cmの和の計算式は、この式をそのまま計算したときの計算結果は、   2.6+4.74=7.34となる。  この場合もそれぞれ末位の数字 (赤字で示した)  には、誤差が含まれている。           計算の結果に含まれる誤差(B)      2.6   --(1)     +  4.74  --(2)       7.34  --(3) (1) 小数第1位に誤差が含まれている。 (2) 小数第2位に誤差が含まれている。 (3) 小数第1位にも第2位に誤差が含まれて     いる。 有効数字の桁数について(B) (1)この場合は、小数第1位にも第2位にも 誤差が含まれており、小数第2位まで計算することは無意味であることがわかる。足し算の結果は、最も誤差の大きい位をあわせて求めるので、 7.3を答えとした。 (2)引き算の場合も同じであり、加減算の結果の誤差は、測定値の中の最も誤差の大きな位(青字の桁)にあわせて求める。(誤差の位は赤字と青字) 例 76.54+1.2=77.74≒77.7   有効数字(□×10a) (有効数字は、すべて3桁とする)  例題 8300  (解)  □×10a  (1<=□<10)の形にするための□の値は、8.30であるから、  8300=8.30×103 となる 練習問題1 (1)96500 (2)101325 (3)273.15 (4)299792458 (5)0.08205  解答 (1)9.65×104 (2)1.01×105      (3)2.73×102 (4)3.00×108    (5)8.21×10-2 有効数字の計算  例題 縦の長さ3.5cm、横の長さ16.5cm      の長方形の面積。  (解) 有効数字の指示がないので、桁数の小さい3.5の桁数に合わせて、有効数字2桁で   答える。  3.5cm×16.4cm   =57.75cm2=58cm2   練習問題2の(1) (1)12.8cmと0.64cmを合わせた長さ    (有効数字3桁) [     ]cm [解] (1)計算の最後に四捨五入して、   有効数字を3桁にする。  12.8+0.64=13.44≒13.4cm   練習問題2の(2) (2)縦の長さ0.350cm、   横の長さ16.5cmの長方形の面積                  [     ]cm2 [解] (2)計算に用いる数字は、どちらも有効数字  3桁であるから、有効数字は3桁で答える。  0.

文档评论(0)

daoqqzhuan2 + 关注
实名认证
内容提供者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档