劳动出版社精品课件 《电子测量与仪器（第四版）》 A05 762213.pptVIP

第一章 电子测量与仪器基础知识 §1—3 数据处理 1．能正确地使用有效数字表示测量数据 2．掌握有效数字的处理方法 一、有效数字 有效数字——在测量数值中，从最左边第一位非零数字算起 到含有存疑数字为止的各位数字。 读数示例 有效数字练习表 1．用有效数字来表示测量结果时，可以从有效数字的位数估计出测量结果。一般规定误差不超过末位有效数字的一半。例如，测量结果记为1.000A，小数点后第三位为末位有效数字，其单位数字为0.001A，单位数字的一半即为0.0005A，测量误差可能为正，也可能为负。所以1.000A这一测量结果的误差为±0.0005A。 用有效数字记录测量结果时的注意事项： 3．有效数字的位数不能因采用的单位变化而变化，通常用10的乘幂来表示。例如，测量结果为1.000A，若以mA为单位，则记为1000mA，两者都为四位有效数字；若测量结果为1A，以mA为单位，不能记作1000mA，因为1000mA是四位有效数字，这样汇夸大了测量的精度，这里应记作1×103mA。 2．在测量结果的数字列中，最左边的零不算是有效数字，而末位的零很重要，它是有效数字。如：0.5为一位有效数字，而0.50为两位有效数字。 二、有效数字的处理 1．多余数字的舍入规则 小于5舍，大于5入，等于5凑偶。 1.866≈1.87 1.732≈1.73 3.15≈3.2 3.25≈3.2 2．有效数字的运算规则 （1）加减法运算以小数点后位数最小的为准，其余各项可多取一位。 例如: 35.15+15.04=50.19 （3）乘方开方的运算。运算结果比原有数多保留一位有效数字。 例如: （2）乘除法运算以有效数字位数最小的数为准，其余参与运算的数字及结果中的有效数字位数应与之相等。例如: 为了保证必要的精度，最终结果可以比有效数字最少者多取一位。 第一章 电子测量与仪器基础知识