信息论及编码 第9讲.pdfVIP

信息论与编码 （第九讲） 目录 第一篇 信息论 第1章 概论（2 ） 第2章 信源及其信息量（12） 第3章 信道及其容量（4 ） 第4章 信息率失真函数（4 ） 第二篇编码理论 第5章 信源编码（4 ） 第6章 信道编码的基本概念（2 ） 第7章 线性分组码（6 ） 第8章 循环码（4 ） 第9章 卷积码（4 ） 2010-4-11 Department of Communication Engineering, NCUT 第2页 第三章 信道及其容量 3.1 信道的数学模型和分类 3.2 单符号离散信道的信道容量 3.3 离散无记忆扩展信道 3.4 多用户信道 3.5 连续信道 3.6 信道编码定理 3.7 小结 2010-4-11 Department of Communication Engineering, NCUT 第3页 3.3 离散无记忆扩展信道 3.3.1 多符号离散信道的数学模型 3.3.2 离散无记忆信道和独立并联信道的信道容量 2010-4-11 Department of Communication Engineering, NCUT 第4页 3.3.1 多符号离散信道的数学模型 3.3 (1) 多符号离散信道定义 离 散 定义：多符号离散信源X =X X …X 在N 个不同时刻分别 1 2 N 无 记 通过单符号离散信道{X P (Y/X) Y}，则在输出端出现相应的 忆 随机序列Y =Y Y …Y ，这样形成一个新的信道称为多符号 扩 1 2 N 展 信 离散信道。 道 单符号离散信道{X P (Y/X) Y} 的N 次扩展：新信道相当于 单符号离散信道在N 个不同时刻连续运用了N 次。 2010-4-11 Department of Communication Engineering, NCUT 第5页 3.3.1 多符号离散信道的数学模型 3.3 (1) 多符号离散信道定义 离 散 [举例]：求二元对称信道的二次扩展信道。 无 记 设输入：X ∈{0,1}，输出：Y ∈{0,1} 忆 二次扩展信道的输入符号集为： 扩 展 A2={00,01,10,11} 信 2 道 输出符号集为：B ={00,01,10,11} 根据无记忆信道的特性，求得二次扩展信道的传递概率为： 2 p p p p p ( / ) (00 / 00)