随机过程{Xi带下标的随机变量序列-USTC.PDFVIP

第四章随机过程的熵率  随机过程{X }：带下标的随机变量序列 i  平稳的随机过程： 中国科学技术大学 刘斌 《信息论基础》 1 马尔可夫过程  马尔可夫过程（马尔可夫链）：  时间不变的马尔可夫过程：  如无特别声明，总假定马尔可夫链是时间不 变的。 中国科学技术大学 刘斌 《信息论基础》 2 马尔可夫链的表征  若{X }为马尔可夫链，则称X 为n时刻的状 i n 态。  一个时间不变的马尔可夫链完全由其初始状 态和概率转移矩阵P=[Pij]所表征，  n+1时刻的随机变量概率密度函数： 中国科学技术大学 刘斌 《信息论基础》 3 平稳分布  若马尔可夫链可以从任意状态经过有限步转移到另一任意 状态，且转移概率为正，则称此马尔可夫链是不可约的。  如果从一个状态转移到它自身的不同路径长度的最大公因 子为1，则称该马尔可夫链是非周期的。  若在n+1时刻状态空间的分布与n时刻的分布相同，则称 此分布为平稳分布。  若马尔可夫链的初始状态服从平稳分布，则该马尔可夫链 为平稳过程。  若有限状态马尔可夫链是不可约的和非周期的，则它的平 稳分布惟一，从任意的初始分布出发，当n趋向于无穷时， Xn的分布必趋向于此平稳分布。 中国科学技术大学 刘斌 《信息论基础》 4 马尔可夫链的例子 例 中国科学技术大学 刘斌 《信息论基础》 5 熵率  当如下极限存在时，随即过程{X }的熵率定义为： i  打字机：输出m个等可能的字母  i.i.d.随机变量序列  独立但非同分布的随机变量序列 中国科学技术大学 刘斌 《信息论基础》 6 熵率的一个相关量  当如下极限存在时，定义：  定理 对于平稳随机过程， 均存 在且相等：  定理 对于平稳随机过程， 随 n递减且存在极限。  定理 若 且 ，则 中国科学技术大学 刘斌 《信息论基础》 7 马尔可夫链的熵率  对于平稳的马尔可夫链：  定理 设{Xi}为平稳马尔科夫链，其平稳分布 为u，转移矩阵为P，则熵率为： 例 中国科学技术大学 刘斌 《信息论基础》 8 加权图上随机游动的熵率  节点：{1,2, …,m}  边权重：W ≥0，W =W ij ij ji  若两节点之间没有边， W =0 ij  随机移动{X }, X {1,2, …,m} n n  转移概率：  平稳分布：  熵率： 中