有效数字与数据舍入规则.pptVIP

  • 7
  • 0
  • 约5.1千字
  • 约 26页
  • 2018-06-11 发布于江苏
  • 举报
有效数字与数据舍入规则

* * 有效数字取舍规则 讲 座 山东省石油助剂产品及轻烃产品监督检验中心 孙建军 编制 我们日常接触的数据有准确数和近似数之分。 作为准确数的例子有: “这里有5只杯子”中的“5” ; “三角形的内角和为180度”中的“180” “1Wh=3600J”中的“3600” 这些数之所以是准确数是因为有些是确实存在的,有些是理论或定义中的数。 一、有效数字的概念及有效位数的确定 1、近似数 近似数是由可靠数和不可靠数(一般取1位)两部分组成的。 作为近似数的例子有: 所有测得值和测量结果; 经过修约后的任何数值; 经测定得到的物理常数 记录数据时,数据位数要适当。位数太少会增大数据的误差,而太多又会对数据的准确度产生误解。这一点在检定和测量时应特别注意。 1、近似数 2 有效数字 对于有小数点的数,和以非0结尾的整数,从左边第一个非零数字起到最右边的所有数字都是有效数字。第一个非零数字前面的0不是有效数字,但数据末尾的0是有效数字。 当一个近似数所引入的误差的绝对值小于该近似数末位数的0.5时,从该近似数左边第一个非零数字算起,直到最后末位数为止均是有效数字。 从左边第1个非零的数字起,到所截取的数位止,

您可能关注的文档

文档评论(0)

1亿VIP精品文档

相关文档