北邮信息论课件 第6章 离散信道及其容量.pptVIP

31/78 ) ,..., , ( log 1 12 11 s p p p H s C ? ? ) ,..., , ( ) ( 2 1 s p p p H Y H C ? ? § 6.2.2 离散对称道的容量 ★ 定理 6.2.1 对于离散对称信道，当输入等概 率时达到信道容量： H(Y) 为输入等概率时输出的熵 H(p 1 ,p 2 , … ,p s ) 为信道转移概率矩阵某行元素 注释 : 对强对称信道 , 输入等概率时达到容量，此时输出 等概率。 32/78 ? ? ? ? ? ? ? ? ? ? 2 / 1 6 / 1 3 / 1 3 / 1 2 / 1 6 / 1 6 / 1 3 / 1 2 / 1 § 6.2.2 离散对称道的容量 6.2.2 例 解： 一信道的转移概率矩阵如图，求信道容量和达 到容量时的输出概率。 1 2 3 , , q q q 设输出概率为 。由于信 道为强对称信道，故当输入等概率 时达到容量 C ，此时输出也等概率 ? 3 / 1 3 2 1 ? ? ? q q q 符号 比特 / 126 . 1 ) 6 1 , 3 1 , 2 1 ( 3 log ? ? ? H C 33/78 ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? p r p r p r p p r p r