- 3
- 0
- 约6.09千字
- 约 60页
- 2020-01-17 发布于辽宁
- 举报
截尾(补码) 截尾(原码、补码) 定点截尾误差范围: Q[x] Q[x] x x 2?b 2?b 2?b 2?b ?2?bQ[x]?x≤0 ?2?bQ[x]?x≤0 x0 0 ≤ Q[x] ? x 2? b x0 x0 x0 补码 ?2?b ET ≤0 x0 原码 x0 反码 0 ≤ ET ?2?b 2、定点舍入 因为舍入处理是按最接近的数量化,不论正、负,也 不论原、补、反码,其误差总是在 之间。即 ,其量化特 性如图8.1-2所示。 Q[x] x ?2?b/2 Q[x]?x ≤ 2?b/2 2?b 2?b /2 3、浮点 在浮点制中截尾与舍入的处理只受尾数字长影响,但所 例如x1、x2是两个位数不同但阶码相同的数: 产生的绝对误差 E=Q[x]?x 却与阶码有关。 ? [0△1001]2 x1= ? [0△1001]2 x2= =1?0.5625=0.5625 =8?0.5625=4.5 若尾数字长b=2取两位,则 可见在相同的尾数舍入情况下,由于x2比x1大8倍,相 误差与数值本身大小有关。 ? [△10]2=1?0.5=0.5 Q[x1]= E1 =Q[x1] ?x1 = ?0.0625, ?E1? = 0.0625; 应的绝对误差 ?E1?就比?E1?大8倍,即浮点制中绝对 E2 =Q[x2] ?x2 = ?
原创力文档

文档评论(0)