第三章 信道及其容量解析.pptVIP

信道剩余度定义为： 信道剩余度 = 相对信道剩余度 = 表示信道的实际传信率和信道容量之差。 信道剩余度可以用来衡量信道利用率的高低。 在无损信道中，信道容量 C＝logr (r是信道输入符号数)。而I(X;Y)＝H(X)，因而： 无损信道的相对剩余度 = 上式说明提高无损信道信息传输率就等于减少信源的剩余度。 对于无损信道，可以通过信源编码、减少信源的剩余度，使信息传输率达到信道容量。 因此引入问题：在一般通信系统中，如何将信源发出的消息(符号)转换成适合信道传输的符号(信号)从而达到信源与信道的匹配。 注：信道容量C和输入信号的概率分布无关，它只是信道传输概率的函数，只与信道的统计特性有关。 例如，某离散无记忆信源 通过一个无噪无损二元离散信道进行传输。 对二元离散信道的信道容量为：C＝1(比特／信道符号) 对本信源的信息熵为 H(X)＝1.937(比特／信源符号) 要使信源在此二元信道中传输，必须对X进行二元编码： 因此，必须通过合适的信源编码，使信道的信息传输率接近或等于信道容量。 ? ? 对于码 (比特／信道符号) 对于码 (比特／信道符号) 3.7 信道编码定理 定理3.7.1 有噪信道编码定理(香农第二定理)： 若有一离散无记忆平稳信道，其容量为C，输入序列长度