信息论补充习题.pptVIP

补 充 习 题 1、从大量的统计资料知道，男性中红绿色盲的发病率为7%，女性发病率为0.5%，如果你问一位男士他是否是色盲，他若回答“是”，则此回答中含有的信息量为 ，他若回答“否”，则此回答中含有的信息量为 ，平均每个回答中含有的信息量为 ；如果你问一位女士她是否是色盲，则每个回答中含有的平均信息量是 。 2、一个离散信源有三种消息：A、B、C，各消息出现的概率分别是1/2，1/3，1/6，信源发送消息A所提供的信息量是 ，信源发送每一个消息所提供的平均信息量是 ，若信源每秒钟发出100个消息，则信源的信息速率为 ，对信源进行二元等长编码，码长为2，则每个码元所携带的平均信息量是 。 3、有一个传输“0”和“1”的二元数字通信系统，以平均1000码元/秒的速率传输，传送“0”和“1”的概率相等，由于信道有噪声，误码率为0.15， 1）试求信道可疑度； 2）计算信源熵速率和接收熵速率； 3）现有一消息共有4000个二元符号，10秒钟内能否将这消息无失真地传递完？ 4、有一信源： 每秒发出2.1个信源符号，将此信源的输出符号送入某一个二进制信道中，要求进行无损无失真传输（设信道是无噪无损的），而信道每秒钟只能传输2个二进制符号，问： 1）信源不通过编码能否与信道正常连接？为什么？ 2）若通过简单的哈夫曼编码后（两个符号一组编码）能否与信道正常连接？请具体计算。 3）若信源每秒发出2.9个信源符号，编码后能否与信道连接？为什么？ 4）如上问的答案是不能连接，技术上还有何办法？ 5、设有12枚同值硬币，其中一枚为假币，且只知道假币的重量与真币的重量不同，但不知究竟是重还是轻。现采用天平比较左右两边轻重的方法来测量（因无砝码）。为了在天平上称出哪一枚是假币，试问至少必须称多少次？ 6、1）某黑白电视系统，为了使电视图像获得良好的清晰度和适当的对比度，需要用5×105个像素和10个不同亮度电平，求传递此图像所需的信息率。设信道无噪无损，每秒要传送30帧图像，所需像素是独立变化的，且所有亮度电平等概率出现。 2）若上题为彩电系统，则还必须有30个不同的色彩度，求此彩电系统传递图像所需的信息率。 7、二元一阶马尔可夫信源，信源的概率分布为：p (0) = 0.3，p (1) = 0.7，其状态空间具有两个状态：e1和e2 ，其条件概率矩阵如下图： 1）请画出此一阶马尔可夫信源的状态转移图； 2）计算此一阶马尔可夫信源的熵。 8、一个离散信源有6个消息，已知各消息出现的概率分别为： 1）求信源熵和信源冗余度； 2）对信源分别进行山农费诺编码和霍夫曼编码； 3）计算霍夫曼码的编码效率和码冗余度。 9、判断以下两个码字是否是狭义伪噪声码字，并计算两码字间的互相关系数。 10、一个理想通信系统，已知加性高斯白噪声信道中功率信噪比为10dB，若原始消息带宽为15kHz，则为使接收机输出端的功率信噪比增加到30dB， 1）信道带宽至少应为多少？ 2）该有噪信道的最大传信率能达到多少？ 11、码字集110110，111000，101011，011101的最小码距是 ，它能检测 个码元错误，或者能纠正 个码元错误。 13、(5,4)奇一致校验码：11011，01011，10111，10110中，能被译码器检测到错误的码字有 。 12、将信源消息序列1101010110010010，编码成(5,4)奇一致校验码 14、下列五三定比码中，能被译码器检测到错误的是： A、11011 B、01011 C、10101 D、10110 15、已知纠正一位错的（7，4）汉明码的生成矩阵为： 1）请写出其监督矩阵； 2）请写出其校验表； 3）对信源序列1110，1010，0110，...进行编码； 4）对接收端接收到的码字序列0011101，1100100，1011001，…进行译码。 16、（7，4）循环码的生成多项式为： 1）写出其监督矩阵和生成矩阵； 2）对信息码元0110，1001进行编码，分别写出它们的系统码和非系统码； 3）对接收端接收到的码字0101111，0011100进行译码。 17、已知（3，1，3）卷积码的监督方程为： 对信源序列010110…进行编码后的系统码字为 。 或者：已知（3，1，3）卷积码的基本监督矩阵： 对