油气计量技术-第2章-计量基础.pptVIP

（3）有效数字 如用一支最小刻度为毫米的钢板尺测量某物体长度，得出四个数字：（1）L＝3mm；（2）L＝3.3978…mm；（3）L＝3.4126…mm；（4）L＝3.4mm。 上述四个数据显然都是近似数，但第一个数据未能充分利用刻尺的精度，应再多估读一位；第二、三个数据虽然位数较多，但不能通过尺的刻度准确读出来，数据中小数点后第二位以后的数字都是虚假无效的；惟独第四个数据最合理地反映了L的真实值，有效地表示了原有物体的真实尺寸。 因此，称3.4mm为L的有效值。这一数值的特点是只有最末一位数字是估读的，而其他位的数字都是准确数字。 * （3）有效数字 为了进一步探讨这一数值的特点，分析一下估读数值的精度。一般情况下，计量检测人员都能估读出最小刻度的1/10 ，其估读精度为±0.05刻度值，或者说估读值的最大误差不超过估读位上的半个单位。 例如，上例中的数值3.4mm，是在1/10mm位上的估读的，估读误差不超过 ，即L的实际值在3.35～3.45mm的范围内。 * （4）有效位数 一个数全部有效数字所占有的位数称为该数的有效位位数。如3.4中的“3.4”为两位有效数字。应该指出： ① 有效数字的位数与该数中小数点的位置无关。 上例中被测长度L的有效数值为3.4mm；若以米为单位来表示，则为0.0034m。这两个数字虽然其小数点位置不同，但都为二位有效数字。 ② 一个数末位的“零”可能是有效数字，也可能不是有效数字。 上例中测得的L＝3.4mm，如果以微米为单位表示，则L＝3400μm。但根据有效数字定义，此数仍为二位有效数字，其末两位的“零”不是有效数字。 如果用按毫米刻度的刻尺测出一个尺寸为50mm，则其“50”之末位的“零”显然为有效数字。 * （4）有效位数 ③ 乘方形式体现的有效数字。 如3.4mm可以为3400μm。此时，如果不加特殊说明，就很难断定L的数值是几位有效数字。 为了能在选择不同单位的情况下，都能准确无误地辨认出一个数的有效数字位数，可采用如下数据形式： 有效数字×10n单位 这里n为幂指数，根据选定单位而定。例如，有效数字为3.4mm的测值可表示成3.4mm、3.4×103μm、3.4×10-3m、3.4×10-2cm。 * 测量数据的有效位数是受测量器具及方法的精度限制的，不能随意选定。如成品油计量中，散装成品油重量计算时的数据处理，一般规定： ① 若油重单位为吨（t）时，则数字应保留至小数点后第三位；若油重单位为千克（kg）时，则有效数字仅为整数。 ② 若油品体积单位为立方米（m3）时，则有效数字应保留至小数点后第三位；若体积单位为升（L）时，则有效数字仅为整数；但燃油加油机计量体积单位为升时，数字应保留至小数点后第二位。 * ③ 若油温单位为摄氏度（℃）时，则有效数字应保留至小数点后一位，即精确至0.1。 ④ 若油品密度单位为g/cm3时，则有效数字应保留至小数点后第四位；若油品密度单位为kg/m3，则有效数字应保留至小数点后一位，且kg/m3=10-3 g/cm3。 ⑤ 石油体积系数，有效数字应保留至小数点后第五位。 以上数字在运算过程中，应比结果保留位数多保留一位。 * （1）数字修约原则 在处理计量测试数据的过程中，常常需要仅保留有效位数的数字，其余数字都舍去。这时要遵循以下规则进行取舍： ① 拟舍去数字的最左一位数字小于5，则舍去。 ② 拟舍去数字的最左一位数字大于5，则进1。 ③ 拟舍去数字的最左一位数字是5，且其后有非0数字时进1。 ④ 拟舍去数字的最左一位数字是5，且其后无数字或皆为0时，若保留的末位数字为奇数（1，3 ， 5 ， 7 ， 9）则进1；若保留的末位数字为偶数（0 ， 2 ， 4 ， 6 ， 8），则舍去。 * 2、数字修约原则及近似数运算 例：将下列左边各数保留到小数点后第二位。 15.6735→15.67 76.7464 → 76.75 0.3650 → 0.36 0.3750 → 0.38 0.365000001 → 0.37 * * （2）近似数的加减运算 近似数的加减，以小数点后位数最少的为准，其余各数均修约成比该数多保留一位，计算结果的小数位数与小数位数最少的那个近似数相同。 例：求28.1+14.54+3.0007的值？ 28.1+14.54+3.0007≈28.1+14.54+3.00=45.64≈45.6 * （3）近似数的乘除运算 近似数的乘除，以有效数字最少的为准，其余各数修约成比该数字多一位的有效数字；计算结