信息论与纠错编码题库.docxVIP

信息论与纠错编码题库 第三章 离散信源无失真编码 3.2 离散无记忆信源，熵为H[x]，对信源的L 长序列进行等长编码，码字是长为n 的D 进制符号串，问： （1）满足什么条件，可实现无失真编码。 （2）L 增大，编码效率 也会增大吗？ 解： （1）当log ()n D LH X ≥时，可实现无失真编码； （2）等长编码时，从总的趋势来说，增加L 可提高编码效率，且当L →∞时，1η→。 但不一定L 的每次增加都一定会使编码效率提高。 3.3 变长编码定理指明，对信源进行变长编码，总可以找到一种惟一可译码，使码长n 满足 D X H log )(≤n D X H log )(+L 1,试问在n D X H log )(+L 1 时，能否也找到惟一可译码？ 解：在n D X H log )(+L 1 时，不能找到惟一可译码。 证明：假设在n D X H log )(+L 1 时，能否也找到惟一可译码，则由变长编码定理当n 满足 D X H log )(≤n D X H log )(+L 1，总可以找到一种惟一可译码知：在n ≥D X H log ) ( ① 时，总可以找到一种惟一可译码。 由①式有： L n ≥L X H ) (logD ② 对于离散无记忆信源，有H(x)= L X H ) ( 代入式②得：n L ≥ D x H log )( 即在 n L ≥ D x H l