测定概论知识讲座.pptVIP

⑤数值的 四舍五入 ● 5.346的有效数字算2位数 ( 第一阶段 ) ( 第二阶段 ) - 错误方法 : 5 . 3 5 5 . 4 - : ( 5 . 3 ) 四舍五入只进行一次 ● 把某数以n位数的有效数字来结束时，小数点以下n位的数字来结束时（n+1） 位置以下的数值如下整理。 - 方法(1) (n+1)次位置以下的数值比 n次位置的1单位的 1/2 以下时丢掉。 　　·1.23(保留2位有效数字的话) → ( 1.2 ) 　　·1.2344(保留3位有效数字的话) → ( 1.23 ) 　　·1.2344(保留小数点以下3位数的话) → ( 1.234 ) 正确方法 - 方法(2) (n+1)次位置以下的数值比 n次位置的1单位 1/2 超过时在n位置加1单位。 　　·1.26(有效数字2位数) → ( 1.3 ) 　　·1.2501(有效数字2位数) → ( 1.3 ) 　　·1.2967(小数点以下3位数) → ( 1.297 ) - 方法(3) (n+1)次位置以下的数值是 n次位置的 1单位1/2 时 或 (n+1)次位置以下的数字 是否丢弃不清楚时。 ○ n次位置数值是 0,2,4,6,8 (偶数)就丢掉. 　　 ·0.105(有效数字2位数) → ( 0.10 )