[工学]应用信息论基础期末复习2011.pdf

应用信息论基础 应用信息论基础 应用信息论基础 金明录教授 10-11学年 第二学期 春季 1 应用信息论基础 应用信息论基础 期末复习 2 应用信息论基础 应用信息论基础课程概要 应用信息论基础 有效性 数字信道 无失真编码(香农第一定理)、哈夫曼编码 1-p 有失真编码(香农第三定理) 1 1 可靠性 0 0 信道编码(香农第二定理) 1-p 香农公式 信 加 调 解 解 受 信源 信道 信 信道 信源 息 密 制 调 密 信 编码器 编码器 道 译码器 译码器 源 器 器 器 器 者 噪声 基本方法 模拟信道 凸函数、詹姆森不等式、渐进均分原理（大数定理） n(t) 基本定理 S(t) r(t) 最大熵定理、数据处理定理、Fano不等式、Kraft不等式 + 基本概念 熵、互信息、鉴别信息、信道容量、率失真函数、典型序列 3 离散信源的信息描述 应用信息论基础 应用信息论基础 单符号离散信源 : , , , x , x X ,