网站大量收购独家精品文档,联系QQ:2885784924

9.有效数字及其运算.pptVIP

  1. 1、本文档共9页,可阅读全部内容。
  2. 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
  3. 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  4. 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
  5. 5、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
  6. 6、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们
  7. 7、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
  8. 8、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多
9.有效数字及其运算.ppt

* §2.9 有效数字及其运算 一、有效数字的概念 下列数字是几位有效数字? 能够正确而有效地表示测量和实验结果的数字,叫做有效数字。 通常由准确数字和一位欠准数字构成 * 因此,这个数字47.3是有效的 测读数据为 47.3 mm 例如 3 是估读的 是欠准的 但毕竟有一定的参考意义 比之不估读要更接近实际情况 * 二、测量和数据处理中 有效数字处理的基本原则 1.有效数字的位数不能任意增减 例 6.36m≠6360mm 应写成标准式 6.36m =6.36×103mm 测同一长度,量具不同会得到不同结果 米尺 L = (7.32±0.02)cm 4位有效数字 游标尺 L = (7.310±0.006)cm 3位有效数字 千分尺 L = (7.3102±0.0002)cm 5位有效数字 可见有效数字反映了仪器的精密程度 * 2.有效数字和小数点的位置无关 最左数字前的零不是有效数字 数字写成标准式,有效数字位数不变 4.18 cm = 0.0418 m=41.8 mm 300800 g = 3.00800×102 kg 都是 3 位有效数字 都是 6 位有效数字 3.有效数字的运算规则 若干个有效数字进行运算后 不因运算而增加结果的准确度 但又不损害测量的精密度 总 则 一般情况下有效数字中保存一位欠准数字 * (1) 四舍五入法则 3. 有效数字的运算规则 四舍六入五配偶 * (2) 加减运算 结果以参与运算的有效数字 小数点后位数最少的为标准 多余的四舍五入 (3) 误差的有效数字 一般取一位 ,最多取二位 多余的采用进位法 (4) 乘除运算 积或商的有效位数,一般应与参与 运算的数中有效位数最少的一个相同 多余的四舍五入 * (5) 常数与有效数字运算 由参与运算的有效数字位数决定结果位数 常数 有效数字 3.145×36 结果不能只取 2 位有效数字! 如常数为无限数 则 的位数应比参与运算的 有效数字多取一位, 结果以测量量 的有效位数而定 * (6) 测量结果的表达形式 与 的小数点位数应对齐 的位数由  决定 通常取一位,最多可取2位 例如,测得近真值 测量误差计算值 则说明后三位已是欠准数字 所以结果形式 应改成 或 通常取一位,最多取二位 (7) 相对误差 * (8) 函数运算 ②由绝对误差决定测量数据的位数 ●有效数字取位的一般方法 ①求出绝对误差 用间接测量误差传递公式求 ●函数运算有效数字取位的简单近似法 例:测量值1270的对数lg1270应该取几位有效数字? lg1270 lg1271 在小数点后第三位出现差别 =3.103803721 =3.104145551 分别计算 因此取小数点后三位 =3.104 也可多保留一位 lg1270=3.1038

文档评论(0)

caijie1982 + 关注
实名认证
文档贡献者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档