信息论第六章有噪声编码讲义.ppt

* 第6章 有噪信道编码 第6章 有噪信道编码 内容提要 本章介绍了信道编码和译码的基本概念，介绍了两种常用的译码准则：最大后验概率译码准则和极大似然译码准则,还介绍了在这两种译码准则下错误概率的计算方法。 本章还介绍了信道编码定理及信道编码逆定理，以及信息论中的一个重要不等式Fnao不等式。 6．1 信道编码的基本概念 将信道用图6-1所示的模型表示。 信道编码器 信道 信道译码器 u x y 图6-1 信道模型 信源输出序列u，经信道编码器编成码字x = f (u) 并输入信道，由于干扰，信道输出y，信道译码器对y估值得 = F (y) 。 信源编码以提高传输效率作为主要考虑因素，信道编码以提高传输可靠性作为主要考虑因素。 【例6.3】 逆重复码 离散无记忆二进制对称信道，固有误码率为p (p0.5)，信源输出序列为三位二进制数字。 编码规则：为提高传输效率，仅向信道发送一位，预先将信源输出序列进行择多编码: 图6-3 逆重复编码传输示意图 译码规则：将接收的 一位符号重复三次译出，即若接收到1就译码为111，即若接收到0就译码为000。 信源输出的三位符号中有两位或3位是1，信源序列编码为1，若三位符号中有两位或3位是0，就将此信源序列编码为0。 计算差错概率pe ： （1）先设p = 0，计算这种编码方法带来的固有错误p1