北京邮电《信息论基础》试卷(期末)(A2卷).doc

PAGE 《信息论基础》试卷第PAGE 14页 试题编号： 北京邮电大学2009/2010学年2学期 《信息论基础》试卷（期末）（A卷）（开卷） 题 号 一 二 三 四 五 六 七 八 九 总 分 得 分 评卷人 一、填空题（共15分，每空1分） 1、当 时，信源与信道达到匹配。 2、若高斯白噪声的平均功率为6 W，则噪声熵为 。如果一个平均功率为9 W的连续信源的熵等于该噪声熵，则该连续信源的熵功率为 。 3、信源符号的相关程度越大，信源的符号熵越 ? ，信源的剩余度越 ? 。 4、离散无记忆信源在进行无失真变长信源编码时，码字长度是变化的。根据信源符号的统计特性，对概率 的符号用短码，对概率 的符号用长码，从而减少平均码长，提高编码效率。 8、香农第一编码定理指出平均码长的理论极限值为 ，此时编码效率为 。 4、在下面空格中选择填入数学符号“，，，”或“” （1） = （2） 。 9、有一信源X，其概率分布为，若对该信源进行１００次扩展，则每扩展符号的平均信息量是 。 11、当 时，信源熵为最大值。８进制信源的最大熵为 　　　　　　　　　 。 二、判断题（正确打√，错误打×）（共5分，每小题1分） 1）噪声功率相同的加性噪声信道中以高斯噪声信道的容量为最大。???? （ ） 2）即时码可以在一个码字后面添上一些码元构成另一个码字。??? ?????? ?（ ） 3）连续信源的熵可正、可负、可为零，　 ??????????????????????????? ?（ ） 4）平均互信息始终是非负的。?? ?? （ ） 5）?信道容量C只与信道的统计特性有关，而与输入信源的概率分布无关。 （ ）  三、（10分）计算机终端发出A、B、C、D、E五种符号，出现概率分别为1/16，1/16，1/8，1/4，1/2。通过一条带宽为18kHz的信道传输数据，假设信道输出信噪比为2047，试计算： 香农信道容量； 无误码传输的最高符号速率。 四、（10分）有一信源发出恒定宽度，但不同幅度的脉冲，幅度值x处在和之间。此信源连至信道，信道接收端接收脉冲的幅度y处在和之间。已知随机变量X和Y的联合概率密度函数 试计算和  五、（10分）设某信道的传递矩阵为 计算该信道的信道容量，并说明达到信道容量的最佳输入概率分布。  六、（１0分）设随机变量X和Y的联合概率分布如下所示： 已知随机变量，计算H（X），H（Z），H（XY），H（X/Z），I（X；Y） 七、（20分）一个离散无记忆信源 求和冗余度；（4分） 编成Fano码，计算编码效率；（8分） 编成Huffman码，计算编码效率。（8分） 八、（10分）设一个离散无记忆信源的概率空间为，它们通过干扰信道，信道矩阵为。信道输出符号集为，试计算： （1）信源的信息熵；（２分） （2）收到信息后，获得的关于的信息量；（２分） （3）共熵；（２分） （4）信道疑义度；（2分） （5）收到消息后获得的关于信源的平均信息量。（２分） 九、（10分）有一个二元马尔可夫信源，其状态转移概率如图所示，括号中的数表示转移时发出的符号。试计算 达到稳定后状态的极限概率。 该马尔可夫信源的极限熵。 《信息论基础》试卷答案 《信息论基础》试卷答案 一、填空题（共15分，每空1分） 1，当（R=C或信道剩余度为0）时，信源与信道达到匹配。 2，若高斯白噪声的平均功率为6W，则噪声熵为（1/2log12e=3。337bit/自由度） 如果一个平均功率为9W的连续信源的熵等于该噪声熵，则该连续信源的熵功率为（6W） 3，信源符号的相关程度越大，信源的符号熵越（小），信源的剩余度越（大） 4，离散无记忆信源在进行无失真变长信源编码时，码字长度是变化的。根据信源符号的统计特性，对概率（大）的符号用短码，对概率（小）的