北航三版信息科学基础的答案第3章 离散信源.docVIP

3.1 设有一离散无记忆信源，其概率空间为 该信源发出的信息序列为(202 120 130 213 001 203 210 110 321 010 021 032 011 223 210)。求： (1) 此消息的自信息量是多少？ (2) 此消息中平均每符号携带的信息量是多少？ 解： (1) 此消息总共有14个0、13个1、12个2、6个3，因此消息发出的概率是： 此消息的信息量是： (2) 此消息中平均每符号携带的信息量是： 3.2 某一无记忆信源的符号集为{0, 1}，已知信源的概率空间为 (1) 求信息符号的平均熵； (2) 由100个符号构成的序列，求某一特定序列（例如有m个“0”和（100 - m）个“1”）的自信息量的表达式； (3) 计算(2)中序列的熵。 解： (1) (2) (3) 3.5 某信源的消息符号集的概率分布和二进制代码如题表3.2所列。 题表 3.2 信源 1/2 1/4 1/8 1/8 代码 0 10 110 111 (1) 求信息的符号熵； (2) 求每个消息符号所需要的平均二进制码的个数或平均代码长度。进而用这一结果求码序列中的一个二进制码的熵； (3) 当消息是由符号序列组成时，各符号之间若相互独立，求其对应的二进制码序列中出现0和1的无条件概率和，求相邻码间的条件概率、、、。 解： (1) (2) (3) 设消息序列长为，则、、、的个数分别为个。 则0的个数为 而1的个数为 因而 3.7 设有一个信源，它产生0，1序列的信息。该信源在任意时间而且不论以前发生过什么消息符号，均按P(0) = 0.4，P(1) = 0.6的概率发出符号。 (1) 试问这个信源是否是平稳的； (2) 试计算H(X2), H(X3/X1X2)及H∞； (3) 试计算H(X4)并写出X4信源中可能有的所有符号。 解： (1) 这个信源是平稳无记忆信源。因为有这些词语：“它在任意时间而且不论以前发生过什么符号……” (2) (3) 3.11 有一马尔可夫信源，已知转移概率为，，，。试画出状态转移图，并求出信源熵。 解： 3.21黑白传真机的信息元只有黑色和白色两种X={黑，白}，一般气象图上黑色出现的概率为P(黑) = 0.3，白色出现的概率为P(白) = 0.7，黑白消息前后没有关联，其转移概率为P(白/白) = 0.9，P(黑/白) = 0.1，P(白/黑) = 0.2，P(黑/黑) = 0.8。求该一阶马尔可夫信源的不确定性H(X/X)，并画出该信源的状态转移图。 解： 3.23 设信源产生A, B, C三种符号，，，，，，，。试计算冗余度。 解： 3.26 一阶马尔可夫信源的状态图如下图所示。信源X的符号集为{0, 1, 2}。 (1) 求平稳后信源的概率分布； (2) 求信源的熵H∞。 解： (1) (2) · 6 ·