信息论与编码PPT.ppt

第二章 信源与信息熵;2.1信源的描述与分类;2.1信源特性与分类; 2.1信源特性与分类;2.1信源特性与分类;2.1信源特性与分类;2.1信源描述与分类;2.1信源描述与分类;2.1信源描述与分类;2.1信源描述与分类;2.1信源描述与分类;2.1信源描述与分类;2.1信源描述与分类;2.1信源描述与分类;2.1信源描述与分类; 2.1信源描述与分类; 2.1信源描述与分类; 2.1信源描述与分类; 2.1信源描述与分类;2.1信源描述与分类;2.1信源描述与分类;2.1信源描述与分类; 2.1信源描述与分类;2.2离散信源熵与互信息;2.2离散信源熵与互信息;2.2离散信源熵与互信息;2.2离散信源熵与互信息;2.2离散信源熵与互信息;2.2离散信源熵与互信息;2.2离散信源熵与互信息;2.2离散信源熵与互信息;2.2离散信源熵与互信息;2.2离散信源熵与互信息;2.2离散信源熵与互信息;2.2离散信源熵与互信息;2.2离散信源熵与互信息;2.2离散信源熵与互信息;2.2离散信源熵与互信息;2.2离散信源熵与互信息;2.2离散信源熵与互信息;2.2离散信源熵与互信息;2.2离散信源熵与互信息;2.2离散信源熵与互信息;2.2离散信源熵与互信息;2.2离散信源熵与互信息;2.2离散信源熵与互信息;2.2离散信源熵与互信息;2.2离散信源熵与互信息;2.2离散信源熵与互信息;2.2离散信源熵与互信息;2.2离散信源熵与互信息;2.2离散信源熵与互信息;2.2离散信源熵与互信息;2.2离散信源熵与互信息;2.2离散信源熵与互信息;2.2离散信源熵与互信息;2.2离散信源熵与互信息; 2.3离散序列信源的熵; 2.3离散序列信源的熵; 2.3离散序列信源的熵; 2.3离散序列信源的熵; 2.3离散序列信源的熵; 2.3离散序列信源的熵; 2.3离散序列信源的熵; 2.3离散序列信源的熵; 2.3离散序列信源的熵; 2.4连续信源的熵与互信息; 2.4连续信源的熵与互信息; 2.4连续信源的熵与互信息; 2.4连续信源的熵与互信息; 2.4连续信源的熵与互信息; 2.5冗余度; 2.5冗余度;第3章信道与信道容量;3.1信道分类和表示参数;3.1信道分类和表示参数;3.1信道分类和表示参数;3.1信道分类和表示参数;3.1信道分类和表示参数;3.1信道分类和表示参数;3.2离散单个符号信道及其容量;3.2离散单个符号信道及其容量;3.2离散单个符号信道及其容量;3.2离散单个符号信道及其容量;3.2离散单个符号信道及其容量;3.2离散单个符号信道及其容量;3.2离散单个符号信道及其容量;3.2离散单个符号信道及其容量;3.2离散单个符号信道及其容量;3.2离散单个符号信道及其容量;3.2离散单个符号信道及其容量;3.2离散单个符号信道及其容量;3.2离散单个符号信道及其容量;3.2离散单个符号信道及其容量;3.2离散单个符号信道及其容量;3.2离散单个符号信道及其容量;3.2离散单个符号信道及其容量;3.2离散单个符号信道及其容量;3.2离散单个符号信道及其容量;3.2离散单个符号信道及其容量;3.3离散序列信道及其容量 ;3.3离散序列信道及其容量 ;3.3离散序列信道及其容量 ;3.3离散序列信道及其容量 ;3.3离散序列信道及其容量 ;3.3离散序列信道及其容量 ;3.4 连续信道及其容量 ;3.4 连续信道及其容量 ;3.4 连续信道及其容量 ;3.4 连续信道及其容量 ;3.4 连续信道及其容量 ;3.4 连续信道及其容量 ;3.4 连续信道及其容量 ;3.4 连续信道及其容量 ;3.4 连续信道及其容量 ;3.4 连续信道及其容量 ;3.4 连续信道及其容量 ;3.4 连续信道及其容量 ;3.4 连续信道及其容量 ;3.4 连续信道及其容量 ;第4章　信息率失真函数;4.1 平均失真和信息率失真函数;4.1 平均失真和信息率失真函数;4.1.1 失真函数;失真矩阵;最常用的失真函数 ; 失真函数的定义可以推广到序列编码情况，如果假定离散信源输出符号序列X=(X1X2…Xl…XL)，其中L长符号序列样值xi＝(xi1xi2…xil…xiL)，经信源编码后，输出符号序列Y=(Y 1Y 2…Y l…Y L)，其中L长符号序列样值yj＝(yj1yj2…yjl…yjL)，则失真函数定义为： ? ;4.1.2 平均失真 ;?;4.1.3 信息率失真函数R(D);4.1.3 信息率失真函数R(D);（1）D允许试验信道 ;（2）信息率失真函数R(D) ;对于离散无记忆信源，R(D)函数可写成; 例4-1-3 设信源的符号表为A＝{a1，a2，…，a2n}，概率分布为p(ai)＝1/2n，