《信息论与编码原理》孟放-第六章 有噪信道编码定理 - 2016 - Final - 单页.pdfVIP

第六章有噪信道编码定理 2016/11/17 信息论的旅程  本章将着重讨论有噪信道中如何能使消息通过传输后发生的错误 最少，得出重要的香农第二定理。并进一步学习基本的纠错编码 技术。 √【2】离散信源及其信息测度 √【3】离散信道及其信道容量 【4】波形信源 【4】波形信道 √【5】无失真信源编码定理 【6】有噪信道编码定理 【7】保真度准则下的信源编码 【9】信道的纠错编码 √【8】无失真的信源编码 本章的研究内容  背景：一般信道总存在干扰和噪声，必然 对信息的传输带来损伤。  目标：如何提高通信的可靠性？  有噪信道编码的主要研究内容 1. 如何使消息通过传输后发生的错误最少？ 2. 有噪信道中无错误传输可达到的最大信息传输 率是多少？  香农第二定理–1948年提出的信道编码定理 3. 纠错编码技术简介 3 主要内容 信道编码概述– 目标、模型 译码准则与错误概率 基本概率：译码准则、错误概率 两种重要的译码准则  费诺（Fano ）不等式 错误概率和编码方法 简单重复编码 汉明距离 有噪信道编码定理– 香农第二定理 编码定理、逆定理 联合信源信道编码定理– 简述 4 主要内容 目标  信道编码器概述 编码器模型  错误概率与译码准则  错误概率和编码方法  有噪信道编码定理–香农第二定理 联合信源信道编码定理– 简述 5 1.1、概述–信道编码器目标  目标：提高通信的可靠性  信道编码 按照一定的规则给信源编码后的码符号序 列增加一些冗余信息，使其变成具有一定 数学规律的码符号序列。 ？  信道译码 接收到码符号序列后，按照与信道编码器 相同的数学规律，去掉符号序列中的冗余 符号。  有噪信道传输错误最少？最大信息传输率？ 6 1.2、概述–信道编码器模型 具有某种规律性的 码元序列 M X Y 信道 ˆ 信道 信道 M 编码器 译码器 信源编码器输出 的码元序列 编码信道模型