热工仪表计量检定中有效数字的运算规则.pdfVIP

《n量与se,／试技拳》203年第4o卷第、期 热工仪表计量检定中有效数字的运算规则 ThermalMeterinVerificationofMeasuringEffectiveDigitalOperationRules 张东风 张晓娟 (山东省电力学校，山东 泰安271000) 摘 要：在热工仪表计量检定中，有效数字及其运算，往往使许多计量人员感到棘手，本文总结了关于有效数字的基本概念和基本运算规则。 关键词：有效数字；运算；规则 1 有效数字的概念及有效位数 的确定 在减法运算中，应避免用两个接近的值相减计算结 任何数据总是有若干位数字，所取数字位数除与所 果，因相减后其有效数字将减少。 表示的量值大小有关外，还与数据的误差及数据表达方 2．3 乘除运算 式有关。正确的确定数据的位数对简化数据的表达与运 在乘除运算中，先找出有效位数最少的值，将其它值按 算 ，以及正确反映量值而不损失准确度等方面有着重要 多一位有效位数进行修约，然后运算，最后按有效位数最少 意义。记录数据时，数据位数要适当。位数太少会增大 的值的位数修约。 数据的误差，而太多又会对数据 的准确度产生误解。这 例0．12x11．3×15．24，先将 l5．24修约为 15．2，则 一 点我们在检定或测量时应特别注意。 0．12xl1．3×15．24=0．12xl1．3x15．2：20．61=21 如果近似数字 z的误差限是某一位上的半个单位， 2．4 乘方与开方运算 则从这一位起直到 z的第一个非零数字均为有效数字。 数据经乘方与开方运算，所得结果的有效数字位数 这里对于按 1、2、5的倍数修约的数所说的半个单位可分 不大于该数据的位数。一般取相同的位数。 别理解成0．5、l、2．5。 2．5 对数运算 对于一般数据，应按有效数字取舍数据的位数，也就 运算结果应与真数的位数相同。 是根据数据的误差限来取舍数据的位数。对于小数第一 例 l2．8=1．51587…：1．52 个非零数字前面的0不是有效数字，但数据末尾的0是 2．6 三角运算 有效数字。如 ，=0．040A，前面的两个 0不是有效数字， 三角运算的有效位数按表 1确定。 而后面的一个 0是有效数字，此时不能写成 ，：0．04A， 表 1 三角运算的有效位数 这两个量值的误差限是不一样的。对于整数其末尾的0 是否为有效数字 比较难确定，有的0可能是有效数字，有 的0却只是为了补位用的，为了强调有效数字的位数，最 2．7 计算平均值时 好将其用科学计数法表示。如 12000m，若有两位有效数 若数据的个数较多，则平均值的保留位数可增加—位。 字则写成 1．2×lo4m或 12km，若有三位有效数字则写成 2．8 混合运算 1．20x104m或 12．0km。 混合运算时所有中间运算比上面的运算多保留一位。 2 数字运算规则 3 数值修约规则 2．1 常数运算 3．1 术语 参加运算的常数如 丌、e√2及其它无误差的数值，其 3．1．1 修约间隔。系确定修约保留位数的一种方式。修 有效位数可认为是无限的，在运算中需要几位取几位。 约间隔的数值一经确定，修约值即应为该数值的整数倍。 常数的取值不影响有效位数。 例如：指定修约间隔为0．1，修约值即应在0．1的整 2．2 加减运算