有效数字与与数据舍入规则.ppt

讲座 有效数字取舍规 山 产品监餐检 有效数字的概念及有效位数的确定 1、近似数 我们日常接触的数据有准确数和近似数之分。 作为准确数的例子有 “这里有5只杯子”中的“5”; “三角形的内角和为180度”中的“180” “1Wh=3600J”中的“3600 这些数之所以是准确数是因为有些是 有些是理论或定义中的数 1、近似数 近似数是由可靠数和不可靠数(一般取1位)两 部分组成的。 作为近似数的例子有 所有测得值和测量结果 经过修约后的任何数值 经测定得到的物理常数 记录数据时,数据位数要适当。位数太 数据的误差,而太多又会对数据的准确度 这一点在检定和测量时应特别注意。 2有效数字 当一个近似数所引入的误差的绝对值小于该近 似数末位数的0.5时,从该近似数左边第一个非零数 字算起,直到最后末位数为止均是有效数字 对于有小数点的数,和以非0结尾的整数,从 左边第一个非零数字起到最右边的所有数字都是有 效数字。第一个非零数字前面的0不是有效数字 但数据末尾的0是有效数字 从左边第1个非零的数字起,到所截取的数 止,所有数字均称为有效数字。如:3.14 3.2345;420.00;0.87130;0 为五位有效数字。而123;1.23;0.00122 位有效数字。 字时,要特别注意“03这个数字 它也可以不是有效数字,如 零均不是有效数字,因为这三 的精确度无关。又如:870.00后面的 数字,因为这三个0与870.00的精 设此二数均是采用“四舍五入”法截 于0.00123,其误差的绝对值为0.000005 似数前面的三个0,则可写成123×105 自对值为0.5×105,即为0.000005,与精 对待近似数时,不可象对待准确数那 小数点部分右边的0,或在小数点部分右边 为这样作的结果,虽不会改变这个数的大 它的精确度