4﹒有效数字和数据舍入规则.pptVIP

  • 18
  • 0
  • 约4.42千字
  • 约 26页
  • 2017-05-04 发布于四川
  • 举报
4﹒有效数字和数据舍入规则

有效数字取舍规则 讲 座; 我们日常接触的数据有准确数和近似数之分。 作为准确数的例子有: “这里有5只杯子”中的“5” ; “三角形的内角和为180度”中的“180” “1Wh=3600J”中的“3600” 这些数之所以是准确数是因为有些是确实存在的,有些是理论或定义中的数。; 近似数是由可靠数和不可靠数(一般取1位)两部分组成的。 作为近似数的例子有: 所有测得值和测量结果; 经过修约后的任何数值; 经测定得到的物理常数 记录数据时,数据位数要适当。位数太少会增大数据的误差,而太多又会对数据的准确度产生误解。这一点在检定和测量时应特别注意。 ; 2 有效数字; 在判定有效数字时,要特别注意“0”这个数字,它可以是有效数字,它也可以不是有效数字,如:0.00123的前面的三个零均不是有效数字,因为这三个0与0.00123的精确度无关。又如:870.00后面的三个0,却是有效数字,因为这三个0与870.00的精确度有关。若设此二数均是采用“四舍五入”法截取所得,对于0.00123,其误差的绝对值为0.000005,若去掉此近似数前面的三个0,则可写成123×10-5,其误差的绝对值为0.5×10-5,即为0.000 005,与精度无关。对待近似数时,不可象对待准确数那样,随便去掉小数点部

文档评论(0)

1亿VIP精品文档

相关文档