信息论和编码马尔可夫信源.pptVIP

2.4马尔可夫信源 (1)马尔可夫信源的定义 (2)m阶马尔可夫信源 (3)举例 (1)马余可夫信源的定义 ①信源的状态和符号集 ②马尔可夫信源定义 ③举例 ①信源的状态和符号集 ■有一类信源,输出的符号序列中符号之间的依赖关系 是有限的,即任何时刻信源符号发生的概率只与前面 已经发出的若干个符号有关,而与更前面发出的符号 无关。 设符号集为X和状态为S。信源输出的信息符号还与 信源所处的状态有关 状态S∈{e12…,e} 符号X∈{x1x2,…,xn} 每一时刻信源发出一个符号后,所处的状态将发生 转移。 信源输出的随机符号序列为X1,K2,…,K11X 信源所处的随机状态序列为S1,S2,…,S1S 在第l时刻,信源状态为e时,输出符号xk的概率为 Prxklei=P(Ark/s=ei) 在第-1时刻,信源状态e,时,下一时刻转移到e的状 态转移概率为 步转移概率:状态转移概率p/ee)=P(Se/S1=e;) 称为马尔可夫链在时刻l的状态一步转移概率 般情况下,状态转移概率和 已知状态下符号发生的概率均与时刻l有关。若这些 概率与时刻l无关,即 Parke=p(xilei pei /ei=p(eile) 则称为时齐的或齐次的。此时的信源状态服从时齐 马尔可夫信源定义 马尔可夫信源:信源输出的符号和所处的状态满足 下列两个条件。 时刻信源符号的输出只与此刻信源所处的状态有 关,与以前的状态和以前的输出符号都无关。即 P(XErk/SFe, X=xk-1, S=ei,)=pxklej 当具有时齐性时有P(xk/e1)=p(xkle) 信源某时刻所处的状态由当前的输出符号和前一时刻 (1-1)信源的状态 即 ,