2014信息论复习提纲.pptVIP

* 香农公式的意义 最大信息传输速率与所传输信号的带宽成正比，基本与信噪功率比成正比 信噪功率比小于1时最大信息传输速率仍大于0 所传输信号的带宽趋于无穷时，最大信息传输速率趋于有限值 最大信息传输速率一定时，增大所传输信号的带宽，可以降低对信噪功率比的要求 * 第4章 信息率失真理论 汉明失真矩阵 平方误差失真函数 * 单符号离散信源的信息率失真函数 信源固定时，平均互信息量是信道转移概率分布的严格下凸函数，总能在实验信道中找到一种信道转移概率分布，使实验信道中传输的平均互信息量在保真度准则下达到最小 二进制信源的信息率失真函数 R D D 0.5 0.25 p 0.25 p 0.5 0 1 0.811 ，当0 D min p，1-p 等概率信源的信息率失真函数 * 高斯信源的信息率失真函数 方差为D的反向高斯加性信道 R D D 0 * 第5章 信源编码 编码效率 异前置码 延时码——等到对应于下个符号序列的码字出现时才能译出 * 长度为ki i 1,2, …,nN的二进制异前置码存在的充分必要条件 Kraft不等式 * 香农码 ①将符号序列ai i 1,2,…,nN按概率降序排列 ②确定第i个码字的码长 ③令P a0 0，计算第i-1个符号序列的累加概率 ④将Pa ai 用二进制表示，取小数点后ki位作为符号序列ai的码字ci i 1,2,…,