(3)--1.4 有效数字与数据运算.pptVIP

  1. 1、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。。
  2. 2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  3. 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
  4. 4、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
  5. 5、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们
  6. 6、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
  7. 7、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多

1.4有效数字与数据运算

1.4有效数字与数据运算问题的提出?测量结果只能取有限位数,如何取?

两个错误观点:1)小数点后面位数越多越精确2)计算结果保留位数越多越精确小数点后保留位数与测量仪器精度密切相关!1.4有效数字与数据运算

1.4有效数字与数据运算有效数字含有误差的任何数,如果其绝对误差界是最末尾数的半个单位,那么从这个近似数左方起的第一个非零的数字,称为第一位有效数字。从第一位有效数字起到最末一位数字止的所有数字,不管是零或非零的数字,都叫有效数字。一、有效数字的定义

1.4有效数字与数据运算举例:如:天平称量结果0.5000g4位有效数字

1.4有效数字与数据运算测量结果保留位数的原则1:最末一位数字是不可靠的,而倒数第二位数字是可靠的。测量结果保留位数的原则2:在进行重要的测量时,测量结果和测量误差可比上述原则再多取一位数字作为参考。

1.4有效数字与数据运算有效数字中“0”的意义作为有效位数不作为有效位数,仅是定值总结:1)数字中间和末尾的“0”都是有效数字2)数字前面的“0”只起定值作用被测对象外径内径厚度1厚度2长度(mm)10.31405.20540.35040.0520有效位数6543

1.4有效数字与数据运算二、数字舍入规则若舍去部分的数值,大于保留部分末位的半个单位,则末位数加1。若舍去部分的数值,小于保留部分末位的半个单位,则末位数不变。若舍去部分的数值,等于保留部分末位的半个单位,则末位凑成偶数,即当末位为偶数时则末位不变,当末位是奇数时则末位加1。

1.4有效数字与数据运算数字舍入规则:“四舍六入、逢五取偶”被测量的估计值已修约的不确定度的数据修约的被测量的估计值20.000540.001220.000520.000560.001220.000620.000550.001220.0006四舍六入逢五取偶

1.4有效数字与数据运算三、数字运算规则运算结果的精度不可能超过原始记录数据的精度。在近似数运算中,所有中间运算的数据,均可多保留一位数字作为参考数字。原则:

1.4有效数字与数据运算各运算数据以小数位数最少的数据位数为准,其余各数据可多取一位小数,但最后结果应与小数位数最少的数据相同。(1)加减运算例:25.34+0.0075+2.385=?=25.34+0.008+2.385=27.733≈27.73

1.4有效数字与数据运算各运算数据以有效位数最少的数据位数为准,其余各数据可多取一位有效数,但最后结果应与有效位数最少的数据位数相同。(2)乘除与幂次运算例:22×2.38420=?=22×2.38=52.36≈52

1.4有效数字与数据运算n位有效数字的数据应该用n位对数表,或用(n+1)位对数表。(3)对数运算

1.4有效数字与数据运算所取函数值的位数应随角度误差的减小而增多。对应关系:(5)三角函数运算角度误差10”1”0.1”0.01”函数值位数5678

文档评论(0)

177****2883 + 关注
实名认证
文档贡献者

热爱教育,专注于教育领域创作与分享,让我们共同进步。

1亿VIP精品文档

相关文档