4、有效数字及数据舍入规则.ppt

  1. 1、本文档共26页,可阅读全部内容。
  2. 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
  3. 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  4. 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多
4、有效数字及数据舍入规则

有效数字取舍规则 讲 座; 我们日常接触的数据有准确数和近似数之分。 作为准确数的例子有: “这里有5只杯子”中的“5” ; “三角形的内角和为180度”中的“180” “1Wh=3600J”中的“3600” 这些数之所以是准确数是因为有些是确实存在的,有些是理论或定义中的数。; 近似数是由可靠数和不可靠数(一般取1位)两部分组成的。 作为近似数的例子有: 所有测得值和测量结果; 经过修约后的任何数值; 经测定得到的物理常数 记录数据时,数据位数要适当。位数太少会增大数据的误差,而太多又会对数据的准确度产生误解。这一点在检定和测量时应特别注意。 ; 2 有效数字; 在判定有效数字时,要特别注意“0”这个数字,它可以是有效数字,它也可以不是有效数字,如:0.00123的前面的三个零均不是有效数字,因为这三个0与0.00123的精确度无??。又如:870.00后面的三个0,却是有效数字,因为这三个0与870.00的精确度有关。若设此二数均是采用“四舍五入”法截取所得,对于0.00123,其误差的绝对值为0.000005,若去掉此近似数前面的三个0,则可写成123×10-5,其误差的绝对值为0.5×10-5,即为0.000 005,与精度无关。对待近似数时,不可象对待准确数那样,随便去掉小数点部分右边的0,或在小数点部分右边加上0,因为这样作的结果,虽不会改变这个数的大小,却改变了它的精确度。;1、常数运算 参加运算的常数如π、e以及其他无误差的数值,其有效位数可认为是无限的,在计算中要几位取几位。常数的取值不影响有效位数。 ;2、加减运算 在加减运算中只保留各数共有的小数位数。先找出小数位数最少的值,然后将其它的值按比最少的小数位多一位进行修约,再运算,结果按小数位最少的位修约 。 例如:12.5+3.26+0.165,先将0.165化整为0.16,则12.5+3.26+0.165=12.5+3.26+0.16=15.9 在减法运算中,应避免两个接近的值相减计算结果,因相减后其有效数字将减少。 ;3、乘除运算 在乘除运算中,先找出有效位数最少的值,将其它值按多一位有效位数进行修约,然后运算,最后按有效位数最少的值的位数修约。 0.12×11.3×15.24,先将15.24修约为15.2, 则0.12×11.3×15.24=0.12×11.3×15.2=20.61=21。;4、乘方与开方运算 数据经乘方与开方运算,所得结果的有效数字位数不大于该数据的位数。一般取相同的位数。 5、对数运算 运算结果应与真数的位数相同。例如: lg32.8=1.51587….=1.52;6、计算平均值时: 若数据的个数较多,则平均值的保留位数可增加一倍。 7、混合运算: 混合运算时所有中间运算比上面的运算多保留一位。;1.1修约间隔 系确定修约保留位数的一种方式。修约间隔的数值一经确定,修约值即应为该数值的整数倍。 例1:如指定修约间隔为0.1,修约值即应在0.1的整数倍中选取,相当于将数值修约到一位小数。 例2:如指定修约间隔为100,修约值即应在100的整数倍中选取,相当于将数值修约到“百”数位。 ;1.2有效位数 对没有小数位且以若干个零结尾的数值,从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的零)的个数;对其十进位数,从非零数字左一位向右数而得到的位数,就是有效位数。 例1:35 000,若有两个无效零,则为三位有效数字,应写成350×102 ;若有三个无效零,则为两位有效数字,应写成35×103。 例2:12.490为五位有效数字,10.00为四位有效数字。;2.1指定位数 a.指定修约间隔为10-n(n为正整数),或指明将数值修约到n位小数; b.指定修约间隔为1,或指明将数值修约到个位; c.指定修约间隔为10n,或指明将数值修约到10n(n为正整数),或指明将数值修约到“十”、“百”、 “千”…..位数。;3.1 拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。 例1:将12.050001修约到一位小数,得12.1。 例2:将12.498修约到两位有效数字,得12。;3.3 数字的最左一位数字为5,而右边无数字或皆为0时,若所保留的位数为奇数(1,3,5,7,9)则进一,为偶数(0,2,4,6,8)则舍弃。 例1:修约间隔为0.1(10-1) 拟修约数值 修约值 1.050 1.0

您可能关注的文档

文档评论(0)

wuyoujun92 + 关注
实名认证
内容提供者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档