信源编码CM抽样与标量量化.pptVIP

信源与信源编码 六、信息率失真函数 等长编码定理和变长编码定理均要保证信息的完全无失真和近似完全无失真，但在实际应用中，并不要求完全无失真的恢复信息，只要满足一定的条件，近似地恢复信源发出的消息即可： 1）实际通信中，信源常常是连续的，信息率无限大； 2）实际的信道带宽有限，所以信道容量有限； 3）实际生活中并不要求获得完全无失真消息，通常只要求近似地再现原始消息，允许一定的是真 仙农定义了信息率失真函数R(D)，在允许一定失真度的情况下，信源输出的信息率可压缩到R(D) 失真函数与平均失真 设X表示单消息信源取值空间，Y表示单消息信宿取值空间，则失真函数： 则平均失真为： 令D表示保真的最大失真程度，则D应为平均失真的上限： 也可称之为保真度条件 当信源确定时，即P(X)已知，允许的最大失真度D确定后，需要选择信道使得平均失真小于D，凡是满足要求的信道称之为D失真许可的实验信道，简称试验信道，这组试验信道的集合为： 其中 称为信道的转移概率 即选择那些转移概率能够保证平均失真不会超过上限D的信道 互信息可被理解为信源与信宿之间传送的信息量： 性质1：互信息是先验概率P( xi )的上凸函数； 性质2：互信息是转移概率P(yj | xi )的下凸函数 利用性质2，以及试验信道集合的表达式可知： 1）在信源P(X)和最大失真度D给定后； 2）确定了试验信道集合后，即满足条件的转移概率的集合； 3）并且互信息是转移概率的下凸函数 那么就一定能找到一个试验信道使得I(X;Y)达到最小，即某个转移概率P(yj | xi )使得I(X;Y)达到最小 这个最小值R(D)称为信息率最小失真函数 信息率失真函数的物理意义： 1）信息率失真函数是在满足保真度条件下，信宿必须获得的平均最小值，是信源必须输出的最小信息率； 2）说明在保真条件下信源编码比无失真情况得到了压缩，同时R(D)是保真条件下对信源进行压缩的极限值，也就是信源信息率可压缩的最低限度 七、连续信源的限失真编码 模拟信号的数字传输： 模拟信号的数字化（PCM）： 1）抽样：对信号在时域上进行离散化； 2）量化：是对信号在取值上进行离散化； 3）编码：将离散的量化值进行编码，使其变成二进制序列 PCM—抽样定理 抽样的过程： 抽样定理：如果对一带宽有限的时间连续信号进行抽样，且抽样率达到一定数值时，那么根据这些抽样值就能准确地确定原信号 1）低通抽样定理：对频带限定在（0，fH）内的信号 2）带通抽样定理：对频带限定在（ fL ，fH）内的信号 低通抽样定理：一个频带限定在（0，fH）内的连续模拟信号x(t)，如果以 秒的间隔对其进行等间隔抽样，则x(t)将被所得到的抽样值完全确定 脉冲序列信号 ：间隔为Ts的一串脉冲，即为一个周期信号 抽样序列： 频域上： 定理要求 ，若不满足则会发生频谱的混叠，导致混叠失真 信号的重建过程：采用一个截止频率为fH的理想低通滤波器，就可恢复出原始信号 低通滤波器的传递函数及冲激响应： 重建信号： 带通抽样定理：一个受限于（ fL ，fH）的带通模拟信号，其带宽为B = ( fH - fL )，则： 其中R必为一个正实数，则其可被表示为R = m + k，其中k为一个不大于R的最大整数，则m必为[ 0, 1)之间的一个小数，因此： 那么保证不失真的最低采样速率fs 为： 模拟信号能否数字化的基本要求就是不能发生混叠失真，即不失真的要求就是信号的频谱不能重叠在一起，可以从这个角度证明带通抽样定理 fL 、fH与fs 之间的关系： PCM—标量量化 标量量化：对抽样序列的逐个样值独立地进行量化 1）将量化器的量化区间分成若干个相邻的段落； 2）每个段落内取一个固定值作为量化输出 则量化过程可被表示为： 量化误差，又称量化噪声： 衡量量化器的指标：量化信噪比，即输出信号的平均功率与量化噪声平均功率之比 由于量化误差eq是随机变量，就可以用它的统计特性来描述，则它的平均功率： 其中p(x)为输入信号的概率密度函数，将积分区域分为M个量化区间： 量化信噪比： 因此，对于量化器来说，其输出的量化噪声越小，量化信噪比越大 对于上式，当量化级数确定，即M确定后， Nq的大小与分层电平xk和量化电平yk有关，可将Nq分别看成是xk和yk的函数，则通过下式可求得Nq的最小值： 此即为Lloyd-Max条件，是标量量化器最优化的