09级的信息论复习(2012总)教程.ppt

信息论与编码复习提纲 2012年5月 基本题型 填空、问答、证明、计算、设计 重点内容 信息论部分：基本概念和仙侬编码定理 编码相关基本概念（码的分类原则） 信源压缩编码：霍夫曼编码 DCT变换原理 静态图象压缩原理 语音压缩基本原理 纠错编码原理 码字纠、检错能力 线性分组码（编、译码原理） 循环码（编译码原理和电路原理） BCH码（基本概念+快速译码原理框图） 信源： 信号的发生源 信源编码：把连续信号变换为数字信号 信道编码：数字信号与传输媒介匹配，提高传输的 可靠性或有效性 调制： 提高信号的抗干扰能力，并能有效地利用频带 传输媒介：从发送设备到接收设备之间信号传递所经 过的媒介 解调： 调制的逆过程 信道译码：信道编码的逆过程, 从带有干扰的信号中正确恢复 出原始消息来 信源译码：信源译码的逆过程 信宿: 信号的接收端 信源、信道和信宿(收信者)是通信系统不可缺少的三个组成部分。通信的目的是将信源产生的信息传递给信宿，然而，在存在干扰的实际信道中传输时，其最高信息传输率受到限制。 仙侬(Shannon)信息论的信道容量公式从理论上阐明了信道容量、信道带宽和信号-噪声功率此三者之间的极限关系，这正是通信系统研究和设计者们所追求的目标和面临的挑战。 为了理解仙侬信道容量公式，首先必须掌握信息论的一些基本概念和定义：  　　　　　　C = Wlog(1+S/N) 　　 　　= Wlog[1+PS/(N0*W)]（比特/秒） 　　　 　　　　 PS 是信号的平均功率， 　 　　　N0*W 为噪声在带宽W内的平均功率。 （1） S/N增加， C增加 （2） N→0 , C→∞ 即无干扰信道容量为无穷大 （3） 增大W并不能无限增大C (因为噪声N也增大） （4） C一定时，W与S/N可以互换 　　　（未提具体方案） 1. 信息量的单位是什么? 2. 平均信息量的定义和含义是什么? 3. 由n个符号组成的离散信源，其最大熵是多少? 4. 比特率与波特率之间的关系是什么? 5. 具有怎样概率密度函数的连续信源能产生最大平均信息量? 6. 从信息传输角度解释平均互信息量的物理意义。 7. 解释仙侬信道容量公式的物理意义。 8. 用仙侬信道容量公式解释实现数字信号无误传输的最低 Eb/N0极限值为-1.6dB 9. 频带利用率(b/s)/Hz的含义是什么? 10. 电话信道信噪比为30dB、带宽为3.4kHz时的最高信息传输 率是多少?  问答题示范1、模拟信号与数字信号的区别是什么？ 答：时间和幅值都为连续的信号称为模拟信号； 而时间与幅值离散化的信号叫做数字信号。 2、试述数字通信的优点，并简述理由。 答：1、抗干扰能力强。数字信号可通过中继再生后消除噪 声积累，因而理论上，数字信号可传输无限远。 2、数字通信可通过差错控制编码，提高通信可靠性。 3、由于数字信号通常采用二进制码，便于计算机处理， 促成计算机通信。 4、数字通信系统可以传输各种消息，使通信系统灵活、 通用，有利于实现综合业务通信网（ISDN）。 5、 数字信号易于加密，可进行保密通信。 6、数字通信设备轻小灵便，易于集成化。 7、通过数字调制技术， 便于实现多路通信。 3、在数字通信系统中，其可靠性及有效性指标有哪些？如何计算？ 答：可靠性指标有误比特率或误码率，它们的计算式分别为： 误比特率： Pb＝ 误码率： Ps = 有效性通常用信息传输率和频带利用率来衡量。 信息传输速率: Rb = (bit/s) 频带利用率： y =