有限字长量化误差哈工大预案.ppt

统计分析 A/D采样的 量化效应 采用舍入法，量化噪声的方差与A/D变换的字长b有关，b越大，方差越小 舍入法引入的噪声期望为0，与字长无关，易求截尾法引入的噪声期望为与字长有关，故舍入法较为常用 ? 结论 统计分析 A/D采样的 量化效应 信噪比 信噪比是衡量量化噪声的重要指标，舍入法A/D转换的信噪比为： ? 每增加一位字长，SNR约增加6dB 通过计算说明什么情况下误差的绝对值达到最大的q值 正小数截尾后数值变小，故截尾误差为负数。当截掉部分全为1时，截尾误差绝对值最大 原码截尾后使负小数的绝对值变小，所以负小数原码截尾误差为正数 负小数补码截尾后数值变小，所以负小数补码截尾误差是负数 通过计算说明什么情况下误差的绝对值达到最大的q值 正小数截尾后数值变小，故截尾误差为负数。当截掉部分全为1时，截尾误差绝对值最大 原码截尾后使负小数的绝对值变小，所以负小数原码截尾误差为正数 负小数补码截尾后数值变小，所以负小数补码截尾误差是负数 通过计算说明，什么情况下误差达到最大的q/2 通过计算说明什么情况下误差的绝对值达到最大的q值 正小数截尾后数值变小，故截尾误差为负数。当截掉部分全为1时，截尾误差绝对值最大 原码截尾后使负小数的绝对值变小，所以负小数原码截尾误差为正数 负小数补码截尾后数值变小，所以负小数补码截尾误差是负数 截尾量化呈现单极性分布，舍入误差呈现对称分布 截尾量化呈现单极性分布，舍入误差呈现对称分布 有限字长效应和量化误差 参考资料： [1]陈后金.数字信号处理[M].北京:高等教育出版社.2004 [2]程佩青.数字信号处理教程[M].北京:清华大学出版社.2007 [3]桂志国.数字信号处理[M].北京:科学出版社.2010 概述 产生 数字信号以有限位二进制表示 理论设计上无限精度与实际工程中有限字长的矛盾 数字运算中有限字长效应 A/D采样的量化效应 数字滤波器的系数量化效应 1 2 3 分类 目录 数字运算的有限字长效应 A/D采样的量化效应 数字滤波器的系数量化效应 定点运算的有限字长效应 数字运算的有限字长效应 1 数字运算过程中为限制位数而进行尾数处理而产生的有效字长效应 二进制 小 数 数字运算的 有限字长效应 数据的二进制数采用定点表示动态范围小，有溢出，尾数处理会带来截尾或舍入误差。由此，在数字系统的计算中会发生有限字长效应。 定点数 浮点表示的阶码决定浮点数的动态范围，浮点数也存在量化误差，与定点相比，浮点有更大的动态范围，且不易溢出。但浮点数运算量较大，耗时长，且要求处理器必须具备浮点运算能力 浮点数 浮点数 数字运算的 有限字长效应 数码中小数点的位置是浮动的，b位二进制数分成指数部分和尾数部分。 定义 ? M，尾数，决定浮点数精度 ? 2c，指数，决定浮点数动态范围 C，阶码，决定浮点数动态范围 举例 F=0.101×2010=0.625×4=2.5 符号位 符号位 定点数 数字运算的 有限字长效应 在整个运算中，二进制小数的在数码中位置固定不变 定义 ? 表示 符号位，0正1负 数本身只有小数部分，称为尾数 ? 转换 举例 二进制1.110转为十进制： =-0.75 ? 定点数 数字运算的 有限字长效应 原则 为运算方便，定点小数限制在[-1,1]上，用乘以比例因子的方法表示绝对值大于1的数 加法 不会增加字长，但比例因子不合适会产生溢出 乘法 不会产生溢出，但相乘后字长增加一倍（2b），需要通过量化手段，将其字长变回b 0.101 0.011 101 101 0.001111 × 字长由3变为6 量化误差 0.101 0.101 1.010 + 溢出！ 二进制 表 示 原码 反码 数字运算的 有限字长效应 补码 ? ? ? 取反加1 截尾误差 二进制 表 示 数字运算的 有限字长效应 将x10=0.75 和x10=-0.75分别用原码、反码、补码表示。 原码 x10= 0.75 =(x2)原=0.110 x10= -0.75=(x2)原=1.110 补码 x10= 0.75 =(x2)补=0.110 x10= -0.75=(x2)补=1.010 反码+1 反码 x10= 0.75 =(x2)反=0.110 x10= -0.75=(x2)反=1.001 举例 二进制 表