2013年考前复习题.docVIP

2012年信息论复习 全是计算题 熟悉计算 H(X), H(X/Y), H(XY)和 I(X;Y) 马氏源的; 连续信源的信源度量： 均匀分布和高斯分布 信道容量 一般信道 对称信道 P为方阵而且是满秩 按定义去求 注水定理 Shannon 公式 Huffman 编码（average code length , encoding efficiency）二、三、四进制 Rate distortion function 按其定义 离散的 1. （12 points）consider the joint probability of and , which is shown in Table.1, compute （1），； (4分); （2），； (8分) 表1 Y P(xy) 0 1 X 0 0.1 0.2 1 0.4 0.3 解：（1），； ；(6分)。 = 0.8813bit/symbol =1bit/symbol = 1.8464 bit/symbol （2），； (4分) =1.8464-1=0.8464bit/symbol =1.8464-0.8813=0.9651 bit/symbol =0.8813+1-1.8464= 0.0349bit/symbol 2. （１4分）设一离散无记忆信源概率空间为 它们通过干扰信道，信道输出端的接收符号集为，信道传输概率如