4、有效数字和数据傻尼入规则.ppt

* * 有效数字取舍规则 讲 座 山东省石油助剂产品及轻烃产品监督检验中心 孙建军 编制 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 我们日常接触的数据有准确数和近似数之分。 作为准确数的例子有： “这里有5只杯子”中的“5” ； “三角形的内角和为180度”中的“180” “1Wh=3600J”中的“3600” 这些数之所以是准确数是因为有些是确实存在的,有些是理论或定义中的数。 一、有效数字的概念及有效位数的确定 1、近似数 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 近似数是由可靠数和不可靠数（一般取1位）两部分组成的。 作为近似数的例子有： 所有测得值和测量结果； 经过修约后的任何数值； 经测定得到的物理常数 记录数据时，数据位数要适当。位数太少会增大数据的误差，而太多又会对数据的准确度产生误解。这一点在检定和测量时应特别注意。 1、近似数 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 2 有效数字 对于有小数点的数，和以非0结尾的整数，从左边第一个非零数字起到最右边的所有数字都是有效数字。第一个非零数字前面的0不是有效数字，但数据末尾的0是有效数字。 当一个近似数所引入的误差的绝对值小于该近似数末位数的0.5时,从该近似数左边第一个非零数字算起,直到最后末位数为止均是有效数字。 从左边第1个非零的数字起，到所截取的数位止，所有数字均称为有效数字。如：3.1416；3.2345；420.00；0.87130；0都称为五位有效数字。而123；1.23；0.00123都称为三位有效数字。 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 在判定有效数字时，要特别注意“0”这个数字，它可以是有效数字，它也可以不是有效数字，如：0.00123的前面的三个零均不是有效数字，因为这三个0与0.00123的精确度无关。又如：870.00后面的三个0，却是有效数字，因为这三个0与870.00的精确度有关。若设此二数均是采用“四舍五入”法截取所得，对于0.00123，其误差的绝对值为0.000005，若去掉此近似数前面的三个0，则可写成123×10-5，其误差的绝对值为0.5×10-5，即为0.000 005，与精度无关。对待近似数时，不可象对待准确数那样，随便去掉小数点部分右边的0，或在小数点部分右边加上0，因为这样作的结果，虽不会改变这个数的大小，却改变了它的精确度。 2 有效数字 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 1、常数运算 参加运算的常数如π、e以及其他无误差的数值，其有效位数可认为是无限的，在计算中要几位取几位。常数的取值不影响有效位数。 二 数字运算规则 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 2、加减运算 在加减运算中只保留各数共有的小数位数。先找出小数位数最少的值，然后将其它的值按比最少的小数位多一位进行修约，再运算，结果按小数位最少的位修约 。 例如：12.5+3.26+0.165，先将0.165化整为0.16，则12.5+3.26+0.165=12.5+3.26+0.16=15.9 在减法运算中，应避免两个接近的值相减计算结果，因相减后其有效数字将减少