- 23
- 0
- 约7.24千字
- 约 83页
- 2017-06-13 发布于湖北
- 举报
测量平差基础课件
* 有效数字位数与底数的相同 乘方、立方、开方 * 初等函数运算 四位有效数字,经正弦运算后得几位? 问题是在 位上有波动,比如为 , 对正弦值影响到哪一位,哪一位就应是欠准 数所在位。 根据微分在近似计算中的应用,可知: 第四位为欠准数位。 * 不参与有效数字运算 常数 * 1. 不确定度的有效数字 一般情况下不确定度的有效数字取一位,精密测量情况下,可取二位。 2. 测量结果的有效数字 测量结果最佳值的有效数字的末位与不确定度首位取齐。 3. 舍入规则: 四舍六入五凑偶 四、舍入法则 * 当实验结果的有效数字位数较多时,进行取舍一般采用1/2修约规则。 (1) 需舍去部分的总数值大于0.5时,所留末位需加1,即进。 (2) 需舍去部分的总数值小于0.5时,末位不变,即舍。 (3) 需舍去部分的总数值等于0.5时,所留部分末位应凑成偶数。 即末位为偶数(0、2、4、6、8),数字舍去;末位为奇数(1、3、5、7、9),数字入进变为偶数。 修约成4位有效数字 3.14159 → 3.142 6.378501→ 6.379 2.71729 → 2.717 4.51050 → 4.510 5.6235 → 5.624 3.21650 → 3.216 四舍、六入、五凑偶 * 一、列表法 表1.不同温度下的金属电阻值 n 1 2 3 4
原创力文档

文档评论(0)