北京大学通信工程综合考试_2008版概要.doc

1~3 信息论 通过信道传输，得到了信息量。这个信息量具有什么特性，它和熵有什么关系？说明相应的物理意义。离散二进制对称信道的差错概率是p，信道的容量是什么？ 答： 1）设发送信号为，接收信号为，则互信息量，即互信息量是的熵减去与的条件熵，也就是说互信息量是的不确定性减去收到之后依然存在的不确定性。 2）特性 互信息量是信源概率分布的凸函数。 互信息量是信道转移概率的凹函数。 当信源是离散无记忆信源时， 当信道是无记忆信道时， 当信源和信道都是无记忆时， 3）对于有r个输入, s个输出的离散无记忆对称信道, 当信道输入等概时，信道传输的信息量达到它的信道容量: 2．awgn信道的噪声的单边功率谱密度是N，带宽为W、信号功率是P的信道容量是什么？怎么才能使信道传输的信息量达到信道容量？ 答： 使信道传输的信息量接近信道容量的方法：信道编码和调制。 3．描述1）Shannon的信道编码定理，2）限失真Shannon信源编码定理。在证明它们时，使用了随机编码，什么是随机编码？ 答： 1）香农信道编码定理：对每个有确定信道容量C的离散无记忆信道（DMC），对于任意和，以及足够大的码长，一定存在一个码长为并且速率为R的码以及相应的译码算法，使该码在给定信道中传输时，译码错误概率；而即时候，一定存在，即不可能实现无误传输。 2）限失真香农信源编码定理：设R(D)为一离散无记忆信源