电子科大信息论与编码2016复习提纲绪论.ppt

* 香农公式的意义 最大信息传输速率与所传输信号的带宽成正比，基本与信噪功率比成正比 信噪功率比小于1时最大信息传输速率仍大于0 所传输信号的带宽趋于无穷时，最大信息传输速率趋于有限值 最大信息传输速率一定时，增大所传输信号的带宽，可以降低对信噪功率比的要求 * 第4章 信息率失真理论 汉明失真矩阵 平方误差失真函数 * 单符号离散信源的信息率失真函数 信源固定时，平均互信息量是信道转移概率分布的严格下凸函数，总能在实验信道中找到一种信道转移概率分布，使实验信道中传输的平均互信息量在保真度准则下达到最小 二进制信源的信息率失真函数 R(D) D 0.5 0.25 p=0.25 p=0.5 0 1 0.811 ，当0 =D =min{p，1-p} 等概率信源的信息率失真函数 * 高斯信源的信息率失真函数 方差为D的反向高斯加性信道 R(D) D 0 * 第5章 信源编码 编码效率 异前置码 延时码——等到对应于下个符号序列的码字出现时才能译出 * 长度为ki i=1,2, …,nN的二进制异前置码存在的充分必要条件 Kraft不等式 * 香农码 ①将符号序列ai i=1,2,…,nN按概率降序排列 ②确定第i个码字的码长 ③令P(a0)=0，计算第i-1个符号序列的累加概率 ④将Pa(ai)用二进制表示，取小数点后ki位作为符号序列ai的码字ci i=1,2,…,nN