信息论与编码--信道及其容量1.pptx

信息论与编码（第八讲）──────────────信道及其容量ⅠXXX2017年春E-mail：xxxxxxmailto:songpeng@ncut.edu.cn@xxxx.edu.cnDepartment of Electronics and Information, NCUT Song Peng第页目 录第1讲：绪论第2讲：信源及其信息量1—自信息与熵第3讲：信源及其信息量2—平均互信息第4讲：信源及其信息量3—多符号离散平稳信源第5讲：信源及其信息量4—马尔科夫信源第6讲：信源及其信息量5—连续信源第7讲：信源及其信息量6—信源编码定理第8讲：信道及其容量1第9讲：信道及其容量2第10讲：信息率失真函数1第11讲：信息率失真函数2第12讲：习题课1Electronics Engineering Department, NCUT Song Peng第页目 录第13讲：信源编码1第14讲：信源编码2第15讲：信道编码概论第16讲：线性分组码第17讲：循环码第18讲：卷积码第19讲：习题课2第20讲：上机1第21讲：上机2第22讲：上机3第23讲：上机4第24讲：总复习Electronics Engineering Department, NCUT Song Peng第页第三章 信道及其容量信道的功能：以信号形式传输和存储信息。信道传输信息的速率：与物理信道本身的特性、载荷信息的信号形式和信源输出信号的统计特性有关。信道研究内容：在什么条件下，通过信道的信息量最大。信道定义：传输信息的媒介或通道。信道也可以看作一种变换，把输入变换成输出。信道的随机性：由于干扰和噪声的存在，变换是随机（概率）的。信道的描述：用条件转移概率表示（ p(yj /xi)）。Electronics Engineering Department, XXXX Xxx Xxxx第页第三章 信道及其容量3.1 信道的数学模型和分类3.2 单符号离散信道的信道容量3.3 离散无记忆扩展信道3.4 多用户信道3.5 连续信道3.6 信道编码定理3.7 小结第页3.1 信道的数学模型和分类(1) 一般信道的数学模型(2) 信道的分类(3) 实际的信道第页3.1 信道的数学模型和分类(1) 一般信道的数学模型① 信道的广义性② 一般信道的数学模型第页3.1 信道的数学模型和分类(1) 一般信道的数学模型① 信道的广义性信息论把任何一个有输入、输出的系统都可以看成是一个信道（物理信道多种多样：简单：滤波器；复杂：国际通信线路）。信号在信道中传输会引入噪声或干扰，它使信号通过信道后产生错误和失真。信道的输入和输出之间一般不是确定的函数关系，而是统计依赖关系。知道了信道的输入信号、输出信号以及它们之间的依赖关系，信道的全部特性就确定了。第页3.1 信道的数学模型和分类(1) 一般信道的数学模型② 一般信道的数学模型信息论对信道的研究：对具体物理信道抽象，建立与各种通信系统相适应的信道模型，研究信息在这些模型信道上传输的普遍规律，指导通信系统的设计。信道模型：不研究信号在信道中传输的物理过程，把信道模型看作黑匣子。第页3.1 信道的数学模型和分类(1) 一般信道的数学模型② 一般信道的数学模型一般，输入和输出信号都是广义的时间连续的随机信号，可用随机过程来描述。数学模型的数学符号表示：{X P(Y/X) Y}第页3.1 信道的数学模型和分类(2) 信道的分类① 根据输入输出随机信号的特点分类② 根据输入输出随机变量个数的多少分类③ 根据输入输出个数分类④ 根据信道上有无干扰分类⑤ 根据信道有无记忆特性分类第页3.1 信道的数学模型和分类(2) 信道的分类① 根据输入输出随机信号的特点分类离散信道：输入和输出的随机序列的取值都是离散的信道。连续信道：输入和输出的随机序列的取值都是连续的信道。半离散／半连续信道：输入变量取离散值而输出变量取连续值，或反之。第页3.1 信道的数学模型和分类(2) 信道的分类① 根据输入输出随机信号的特点分类波形信道：信道的输入和输出都是一些时间上连续的随机信号 {x(t)} 和{y(t)}，即信号输入和输出的随机变量是连续的，并且还随时间连续变化。一般可用随机过程来描述其输入和输出。波形信道可分解成离散信道、连续信道或半离散信道来研究。第页3.1 信道的数学模型和分类(2) 信道的分类② 根据输入输出随机变量个数的多少分类单符号信道：输入和输出端都只用一个随机变量来表示。多符号信道（离散无记忆扩展信道）：输入和输出端用随机变量序列（随机矢量）来表示。第页3.1 信道的数学模型和分类(2) 信道的分类③ 根据输入输出个数分类单用户信道：只有一个输入和一个输出的信道。多用户信道：有多个输入和多个输出的信道。 单符号与单用户的区别，不要搞混!第页3.1