安徽大学2011—2012学年第学期《信息论》考试试卷（A卷）.doc

安徽大学2011—2012学年第1学期 《信息论》考试试卷（A卷） （闭卷 时间120分钟） 院/系 年级 专业 姓名 学号 题 号 一 二三 四 五 总 分 得 分 一、填空题（每小题2分，共20分） 1、香农信息的定义 。 2、在已知事件的条件下，接收到y后获得关于事件x的条件互信息 。 3、研究信息传输系统的目的就是要找到信息传输过程的共同规律，以提高信息传输的可靠性、有效性、 和 ，使信息传输系统达到最优化。 4、某信源有32个信源符号，其实际熵1.4比特/符号，则该信源剩余度为 。 5、信源固定的情况下，平均互信息是信道传递概率的 型凸函数。 6、已知信源X的熵H(X)=0.92比特/符号,则该信源的五次无记忆扩展信源X5的信息熵= 。 7、S，用含r个字母的码符号集对N长信源符号序列进行变长编码，总能找到一种无失真的唯一可译码，使每个信源符号所需平均码长满足： 。 8、多项式剩余类环的任一理想的生成元与关系为 。 9、有限域的全部子域为 。 10、国际标准书号（ISBN）由十位数字组成（诸，满足：），其中前九位均为0-9，末位0-10，当末位为10时用X表示。《Coding and Information Theory》的书号为ISBN：7-5062-3392- 。 二、判断题（每小题2分，共10分） 1、离散信源的信息熵是信源无失真数据压缩的极限值。 （ ） 2、对于有噪无损信道，其输入和输出有确定的一一对应关系。 （ ） 3、在任何信息传输系统中，最后获得的信息至多是信源所提供的信息。如果一旦在某一过程中丢失一些信息，以后的系统不管如何处理，如不触及到丢失信息过程的输入端，就不能再恢复已丢失的信息。 （ ） 4、码C={0,10,1100,1110,1011,1101}是唯一可译码。 （ ） 5、一定存在码长分别为1，3，3，3，4，5，5的二元即时码。 （ ） 三、计算题（每小题8分，共32分） 1、有一离散无记忆信源 ， 。 求该信源的二次扩展信源，并计算二次扩展信源的信源熵。 2、设二元对称信道的传递矩阵为，求此信道的信道容量及相应的最佳输入概率分布。当输入概率分布为时，求。 3、设有一马尔可夫信源，其状态集为，符号集为。在某状态下发某符号的概率为。见下图： 计算此马尔可夫信源熵。 4、求以为生成多项式的长为3的三元循环码C的全体码字。 四、综合题（每小题10分，共30分） 1、设有一离散信道，其信道传递矩阵为，并设，。试分别按最小错误概率准则和最大似然译码准则确定译码函数，并计算相应的平均错误概率。 2、信源空间为，码符号为，试构造一种三元紧致码，并计算平均码长。 3、设C是二元线性码，其校验矩阵为。试求全体码字，列简明译码表；当收到的字为，如何译码？  五、证明题（每小题4分，共8分） 证明：最大离散熵定理，即 。 设C是q元线性码，证明： ， 其中，。 1 页 共6页 得分 得分 得分 得分 得分 a1:1/2 a2:1/4 a2:1/2 S1 S2 S3 a3:1/4 a1:1 a3:1/2