限失真信源编码1.ppt

平均绝对失真D取最小，为： 对应的极限信息率： 可见编码效率只达到52.9% 由： 得： 即当： 时， 即： -a 0 a 同时处理两个采样值：-∞x∞和-∞y∞，就是在二维平面上选择4个点：x=±a和y=±a， 相当于把坐标平面以两对角线分割成的4个区域，分别把各区内的抽样值量化到这四个量化点上。 二维的绝对失真定义为|x-x0|+|y-y0|，其中(x0,y0)是量化点的坐标。 (0,a) (-a,0) (a,0) (0,-a) 如何选a值使平均失真最小？只需在半个象限内（阴影区）计算即可： 编码效率达到60.6%，比单样值编码提高7.7%； 或者说在平均失真不变的情况下可实现更大压缩。 可知 时D有极小值，为： 由 其极限信息率为: 求 的极小值： 2. 均匀分布的二维量化： 现讨论概率分布为二维均匀分布时的量化方案。 概率为均匀分布时，量化分区也应是均匀的，较方便是取一些形状面积都相同、具有对称性的小区，如(a)正方形，(b)正三角型和 (c)正六边型。 设它们面积均为A，量化点可取在面积中心处。 a/2 a/2 b b -b -b -b b 在平方失真（二维平方失真定义为(x-x0)2+(y-y0)2， (x0,y0)是量化点的坐标）下，分别求得的平均失真度为： 在绝对失真下，分别求得的平均失真度为： 3、矢量量化技术 从二维联合量化推广到高维时，便产生了矢量量化。 矢量量化是对相继N个样值进行联合编码，在N维空间中进行分区和选择量化点，并使平均量化失真为最小。 矢量量化并无解析解，都是采用迭代法求数值解。 把超空间中的小区称为“胞腔”，各“胞腔”内“量化点” 称之为“码书”。码书实际是指向各量化点的那些N维矢量的集合。 迭代算法：由预设的码书求胞腔，再由胞腔求新的码书，每次迭代都应使计算的平均失真不断减小，直至变化不大为止。 小结： 连续信源限失真编码的任务就是实现数字化。 连续信源限失真压缩的理论极限是率失真函数。 有解析表达的率失真函数只有三种情况： （1）平方失真情况下的高斯分布信源 （2）绝对失真情况下的负指数分布信源 （3）误码失真情况下的二元离散信源 连续信源数字化的关键是量化。 量化有两种方式：标量量化（孤立量化单个抽样值）与矢量量化（同时量化多个抽样值）。 量化的具体任务是设计各分区端点ai与量化点yi 的位置。 最佳量化的要求是让平均失真最小。 用微商求极值的方法，可在已知{yi}的情况下得到最佳{ai}，也可由{ai} 得到最佳{yi} 。 由此引出两种递推算法来计算最佳标量量化的数值解。 有解析表达的最佳标量量化有四种情况： （1）均匀概率密度和平方失真 （2）均匀概率密度和绝对失真 （3）负指数概率密度和绝对失真 （4）正态概率分布和平方失真 语音信号的特例下，均匀量化的量化级数应取到12位编码。 语音信号的实际量化是8位编码的非均匀的量化。 矢量量化：可以达到比标量量化更接近R(D)的压缩效果。 课后复习题 思考题： 矢量量化为什么优于标量量化？ 作业题： 试计算13折线8位PCM编码的量化中，最小量化区间与最大量化区间的量化误差各为多少？ * * 这里的信道传输概率包括了因为限失真信源编码引入的不确定性 * 选用哪种形式，或者自定义其它什么形式的函数，应以尽可能符合具体问题中信宿关于失真的感受为宜，比如失真所引起的损失、风险、主观感觉的差别等。 * 表示当信源发送符号0（或符号1）而信宿接收到符号0（或符号1）时，则认为无失真或无错误存在;反之，若发送信源符号0（或符号1）而信宿接收符号1（或符号0）时，则认为有错误，并认为这两种错误的后果是等同的。 * 平均失真度 是信源符号概率和信道传输概率的泛函 * 在信源给定，又定义了失真函数以后，总希望在满足一定失真的情况下，使信源传输给信宿的信息传输率R尽可能地小。 * 从接收端来看，就是在满足保真度准则下，寻找再现信源消息所必须获得的最低平均信息量。而接收端获得的平均信息量可用平均互信息量I(U；V)来表示，寻找平均互信息量I(U；V)的最小值。BD是所有满足保真度准则的试验信道集合，可以在D失真许可的试验信道集合BD中寻找某一个信道p(vj|ui)，使I(U；V)取最小值。由于平均互信息量I(u;v)是p(vj|ui)的U型凸函数，所以在BD集合中，极小值存在。 * 从数学上讲，求率失真函数就是满足保真度准则下求传信率极小值的问题。 传信率等于单位时间传输的信息量。如果把时间效应计入传码率RB中，传信率正比于平均每符号的互信息I(X;Y)。 从信息传输角度