第三章信源编码-离散无记忆源等长编码.docVIP

第三章 信源编码——离散信源无失真编码 本章分析问题：在信宿要求无失真接收时，或所有信源信息无损的条件下，离散信源输出的表示——即信源编码问题。 内容：信源分类，信息速率的计算，编码定理，有效编码方法等。 一、信源及其分类 离散信源和连续信源 离散信源表示：…Ｕ－２Ｕ－１Ｕ０Ｕ１Ｕ２… 　　其中ＵＬ随机变量，取值范围：Ａ＝｛ａ１，ａ２，…ａｋ｝ ２．无记忆源和有记忆源 　　无记忆源：各ＵＬ彼此统计独立 　　简单信源：各ＵＬ彼此统计独立且服从同一概率分布 　　　　　　　Ｐ（ＵＬ＝ａｋ）＝Ｐｋ，ｋ＝１，２，…，Ｋ 　　　　　　　Ｐｋ＝１ 　　有记忆源：各ＵＬ取值相关。 　　ＵＬ＝（Ｕ１，Ｕ２，…，ＵＬ）ＵＬ，其概率分布由Ｌ维随机矢量表示，Ｐ（ＵＬ＝ａ）＝Ｐ（Ｕ１＝ａｋ１，…，ＵＬ＝ａｋＬ） ３．平稳信源：概率分布与起始下标无关 　　Ｐ（Ｕ１＝ａｋ１，…，ＵＬ＝ａｋＬ）＝Ｐ（Ｕｔ＋１＝ａｋ１，…，ＵＬ＝ａｋＬ） ４．各态历经源：信源输出的随机序列具有各态历经性。 ５．有限记忆源：用条件概率Ｐ（ＵＬ，ＵＬ－１，ＵＬ－２，ＵＬ－ｍ）表述。ｍ为记忆阶数。 ６．马尔可夫源：有限记忆源可用有限状态马尔可夫链描述，当ｍ＝１时为简单马尔可夫链。 ７．时间离散的连续源：各随机变量ＵＬ取值连续。 ８．随机波形源：时间和取值上均连续的信源；由随机过程ｕ（ｔ）描述，时间或频率上有限的随机过程可展开