第四章：无失真信源编码.pptVIP

第四章：无失真信源编码;无失真信源编码;§4.1无失真编码概述－1;;§4.1无失真编码概述－3;§4.2定长编码定理－1-描述;结论：对信源进行二元等长编码时，每个信源符号所需码长的极限值为 ;§4.2定长编码定理－2-进一步理解;讨论：第三章：在考虑符号出现的概率和符号间相关性前提下,每个 英文符号平均携带的信息量是1.4bit/符号5bit/码符号。;§4.2定长编码定理－4-进一步理解;§4.2定长编码定理－5－证明;任何一个离散随机序列信源当序列长度L→∞时,信源序列会产 生两极分化.小概率事件集合 与大概率事件集合 ,即nL= ∪ 对于 有性质: ??????? ??????? 对于 有性质: ?;§4.2定长编码定理－7 － AEP证明;§4.2定长编码定理－7 － AEP证明;例2 p(1)=p,p(0)=q,统计独立L长的序列: 当L＝8时，序序列011100101 的概率为 和 显然，这两个序列不等概, 当L→ 时，有一些序列1出现的次数接近Lp，这些序列的概率为