计量检测人员培训教材提纲.pptVIP

数据处理 3.14最末一位的单位量值为0.01,故3.14皆为有效数字,共3位有效数字。 例② 测量某房间的长度，得到测量结果为 5.823m,测量误差为 0.007m,请问该测量结果的有效数字为几位？ 5.823的最末一位的量值为0.001,倒数第二位的量值为0.01 0.007 0.0005 0.007 0.005 0.0070.05 故5.823的有效数字为5.8,共二位有效数字 第三十页，共七十四页，2022年，8月28日 2 近似数运算 1)加、减运算 以最末位单位量值最大的数为准，其余的数均比它多保留一位，计算结果可多保留一位，也可不多保留，主要看是否还要参与下一步运算 例 18.3+1.4546+0.876=18.3+1.45+0.88 =20.63≈20.6 第三十一页，共七十四页，2022年，8月28日 2近似数运算(续） 2)乘、除运算 以有效数字位数最少的数为准，其余的数字比它多保留一位，运算结果的有效数字位数与有效数字位数最少的数相同，可多保留一位，主要看是否参与下一步运算。 例 1.1×0.3268×0.10300=1.1×0.327×0.103 =0.0370≈0.037 第三十二页，共七十四页，2022年，8