信息论与编码09–10B试卷答案.docVIP

武汉工业学院 课程考核试题参考答案及评分标准 学 年： 2009－2010 学 期： 第2学期 课程名称： 信号理论与编码（ B卷） 考核方式： 考试（闭卷） 任课教师： 曾武、温红艳 课程所在院（系、部）： 电气信息工程系 考试班级： 07级电子信息、通信工程 - 2 - 一、填空（每空3分，共30分） 1、信息论基础主要研究信息的测度、 信道容量 以及 信源和信道编码理论 等问题。 2、十六进制脉冲所含的信息量是四进制脉冲的 2 倍。 3、若把掷骰子的结果作为一离散信源，则信源熵为。 4、当事件和彼此之间相互独立时，平均互信息量为 0 。 5、若二维平稳信源的信源熵为3bit/sign，则其平均符号熵为 1.5bit/sign 。 6、对于r进制树图，n级节点的个数一般为 。 7、信道中任一时刻输出符号仅统计依赖于对应时刻的输入符号，而与非对应时刻的输入符号及其它任何时刻的输出符号无关，这种信道称之为 有干扰无记忆信道 。 8、码字101111101、011111101、100111001之间的最小汉明距离为 2 。 9、有噪信道编码定理是以临界值 信道容量C 来确定是否存在一种编码方法使平均错误概率任意小。 二、简答题（每题5分，共20分） 1、答： （1） ； （2分） （2）； （1分） （3） （2分） 2、答：编码步骤如下： （1）将信源发出的个消息符号按其概率的递减次序依次排列：；（1分） （2）按下式计算第个消息的二进制代码组的码长，并取整； （1分） （3）为了编成唯一可译码，首先计算第个消息的累加概率； （1分） （4）将累加概率（为小数）变换成二进制； （1分） （5）去除小数点，并根据码长，取小数点后位数作为第个信源符号的码字，由下式确定：。 （1分） 3、答：（3分） 信道容量 （2分） 4、答： 三、计算题（每题10分，共30分） 1、解：设随机变量X代表女孩子学历 X x1（是大学生） x2（不是大学生） P(X) 0.20 0.80 设随机变量Y代表女孩子身高 Y y1（身高160cm） y2（身高160cm） P(Y) 0.5 0.5 已知：在女大学生中有60%是身高160厘米以上的 即： （6分） 求：身高160厘米以上的某女孩是大学生的信息量 即： （4分） 2、解：（1）根据题意有： （2分） （2分） （2分） ?（2） （4分） 3、平均码长最小的霍夫曼码为：10、11、00、01、010、011。 （6分） （2） 该霍夫曼码的平均码长为： （4分） 四、应用题（10分） 1、重大新闻是语言，频率为300-3400Hz,而轻音乐的频率为20-20000Hz。同样的时间内轻音乐的采样编码的数据要比语音的数据量大，按码元熵值，音乐的信息量要比新闻大。但在信宿端，按信息的不确定量度信息量就应分别对待，对于新闻与音乐的信息量大小在广义来说因人而异。 2、解：（1）从240颗珠子中取3颗，含1颗假珠的概率为 （2）240颗中含1颗假珠，用天平等分法最多6次即可找到假珠，是必然事件， 因此信息量为0。 （3）按照shannon对信息量的定义，只有事件含有不确知成分，才有信息量， 且不确知成分越大，信息量越大，必然事件则没有信息量。但从广义信息论来说， 如果那人不知用天平二分法找假珠，另一人告之此事，使他由不知到知，也应该 含有一定的信息量。