第6章联合渐近均分性与第二定理.pptxVIP

第6章 联合渐近均分性与香农第二定理;6.1 n次扩展信道;2、n维离散平稳无记忆信道（n次扩展信道）及其模型;n维离散平稳无记忆信道——独立同分布，形式上相当于单符号离散信道的n次扩展（重复）——n次扩展信道;3、n次扩展信道的的平均互信息与信道容量;②联合平均互信息;③联合信道容量;4、n次扩展信道的信道容量率;求二次扩展信道的信道矩阵和信道容量;二次扩展信道的信道矩阵;二次扩展信道的信道容量;6.2 联合渐近均分性定理;二次扩展信源各消息的概率;二次扩展信道的信道矩阵;二次扩展信宿??消息的概率;概率之和不小于0.99的分布特点;信源信宿各联合消息的联合概率;联合概率之和不小于0.99的分布特点;n次扩展信源、 n次扩展信宿的符号序列和信源信宿的联合符号序列都分为两组，n越大，其中一组的概率之和越接近1，概率相差越小——联合渐进均分性;2、联合渐进均分性定理;任意给定ε 0，当n足够大，n次扩展信源、 n次扩展信宿的典型序列和信源信宿的联合典型序列满足;不满足该式的符号序列和联合符号序列——非典型序列和非联合典型序列;取n≥n1，当n1足够大;取n≥n2，当n2足够大;取n≥n3，当n3足够大;6.3 香农第二定理;平均译码错误概率;信源等概率条件下;②最大似然准则下的平均译码错误概率;平均译码错误概率;求信源等概率时的平均译码错误概率Pe;最大似然准则译码;平均译码错误概率;2、香农第二定理;正定理;不失一般性，记E1*表示第一种情况，Ei 表示第二种情况 i=2,…,2nR;当n足够大;6.4 费诺不等式与香农第二定理的逆定理;2、逆定理;香农第二定理表明了平均译码错误概率任意小的信道编码的存在性，明确了信道容量C是信道编码的码率上界——香农界