2.如何有效地表示信源的输出.第2个问题也就是信源编码问题-Read.pptVIP

显然,要使这种编码不失真,即能从编码符号序列唯一的恢复出信源输出序列,则必须要求 整理得 式中M/N代表X的一个符号所用去的码元数目,量纲为“ 码元/符号”, 代表X的最大J进制熵,量纲为”J进制单位/符号”.此式的物理意义为: 对X的N长符号序列进行等长编码,若要求所编的码唯一可译,则X的一个符号所需用去的码元数目M/N以X的最大J进制熵为下界,再小就不能唯一可译了. (4.9) (4.10) (4.10)是假设对AN中的KN个序列都有一一对应的码字.但由DMS 的AEP知, 集AN可划分为典型序列集和非典型序列集,且 特别地, 当N 时, 出现的概率为0. 因此,可以只对集 中的序列进行一一对应的编码. 定理4.3(定理4.2.2 定长编码定理) 设DMS为 对X发出的N长符号序列进行定长编码.若码字是从J元符号表中选取M个码元符号组成,那么，对 及 , 只要N足够大, 且满足不等式 则信源符号序列没有自己特定码字的概率 (4.11) * 第 4 章 离散信源的无错编码 4.1 信源编码概述 4.2 无记忆信源的渐近等同分割性 与定长编码定理 4.3 离散无记忆信源的变长编码 4.