第三章马尔科夫源..docVIP

第三章 马尔科夫源 本节分析问题：马尔科夫源的定义 马尔科夫源的编码定理 内容： 一、马尔科夫源的定义 1．马尔科夫源是有记忆源； 2．有记忆信源的“状态”概念，信源产生消息符号与信源所处的状态有关。信源状态要合理设置，有利于描述信源输出特性。 举例：某信源U={0,1},其任一时刻的输出由它前面输出的两个字母决定。则可设置两个字母构成其状态，共有00，01，10，11四个状态。若进一步规定其状态转移概率矩阵为： 00 01 10 11 Q={Qji}= 则可画出该信源的状态转移图如下： 3．状态转移概率表示：， 　　设信源输出表示为：Ｕ1，Ｕ2，…，Ｕl，…，其中Ｕl为随机变量，取值范围：Ａ＝｛ａ１，ａ２，…ａｋ｝ 信源的随机状态序列为：S1，S2，…，Sl，… 则用：Pj(ak)=P(ul= akSl=j)——第l时刻（前一时刻）信源处于j状态下产生符号为ak的概率； Qji=P(Sl=iSl-1=j)——第l-1时刻信源处于第j个状态，而第l时刻转到第i个状态的概率。 4．马氏链的定义 某随机状态序列S1，S2，…，Sl，…满足下述条件时，称为有限状态齐次马尔科夫链，简称马氏链。 可能的总状态数J有限，J＜； 状态转移概率Qji只由状态j和i而定，与时间无关（时齐性）； 进入某一