- 18
- 0
- 约4.42千字
- 约 26页
- 2017-05-04 发布于四川
- 举报
4﹒有效数字和数据舍入规则
有效数字取舍规则
讲 座; 我们日常接触的数据有准确数和近似数之分。
作为准确数的例子有:
“这里有5只杯子”中的“5” ;
“三角形的内角和为180度”中的“180”
“1Wh=3600J”中的“3600”
这些数之所以是准确数是因为有些是确实存在的,有些是理论或定义中的数。; 近似数是由可靠数和不可靠数(一般取1位)两部分组成的。
作为近似数的例子有:
所有测得值和测量结果;
经过修约后的任何数值;
经测定得到的物理常数
记录数据时,数据位数要适当。位数太少会增大数据的误差,而太多又会对数据的准确度产生误解。这一点在检定和测量时应特别注意。 ; 2 有效数字; 在判定有效数字时,要特别注意“0”这个数字,它可以是有效数字,它也可以不是有效数字,如:0.00123的前面的三个零均不是有效数字,因为这三个0与0.00123的精确度无关。又如:870.00后面的三个0,却是有效数字,因为这三个0与870.00的精确度有关。若设此二数均是采用“四舍五入”法截取所得,对于0.00123,其误差的绝对值为0.000005,若去掉此近似数前面的三个0,则可写成123×10-5,其误差的绝对值为0.5×10-5,即为0.000 005,与精度无关。对待近似数时,不可象对待准确数那样,随便去掉小数点部
原创力文档

文档评论(0)