马尔可夫信源的状态转移.docVIP

马尔可夫信源的状态转移 马莉 2001级信息与计算科学 摘要：在马尔可夫信源中，若信源处于某一状态，当它发出一个符号后，所处的状态就变了，从现在状态转移到另一个状态。状态的转移依赖于发出的信源符号，任何时刻发生依赖的概率是有限的，且状态之间的转移有一定的概率分布。 关键字：马尔可夫链 状态序列 转移概率 1.问题提出 在一般情况下，离散信源的输出是空间或时间的离散符号序列，而且在符号序列中符号之间有依赖关系。对于平稳离散信源来说，其发出的平稳随机序列前后的依赖关系与时间起点无关，只与关联长度有关，某时刻发出的符号与之前发出的个符号有关，即任何时刻它们的依赖关系是一样的。但是在非平稳离散信源中，存在一些特殊的信源，它们输出的符号序列中符号之间的依赖关系是有限的，也就是说，在任何时刻发出的概率只与它前面已经发出的若干个符号有关，与更前面发出的符号无关。因此，当信源发出一个符号后，它所处时刻的状态要发生转移，从这一时刻所处的状态转移到下一状态，与此同时，状态的概率也将发生转移。 2． 问题分析与解决 假设有一随机运动的体系，它可能处的可列多个或有限个状态为，每次系统仅仅处于其中一个系统，而且体系只可能在可列时刻上改变它的状态，随着体系运动的进程得一随机序列，一般情况下，随机序列的各变量之间是有依赖的，这一序列称为马尔可夫链（它是一种特殊的随机过程，即是一种时间离散、状态离散的无后效过程）。由此可知，马尔可夫链中将来时刻体系所处的状态只与现在时刻体系所处的状态有关，与以前时刻所处的状态无关，也就是说体系每次状态的转移仅仅依赖与前一时刻转移后的状态，与更以前体系的状态无关。 设信源在每一状态下可能输出的符号，信源输出的随机符号序列为。在第时刻，信源所处状态时，输出符号的概率为，即为条件概率。 假设在第时刻信源处于状态，它在下一时刻状态转移到的状态转移概率为 由此可见，信源的随机状态序列服从马尔可夫链。一般情况，状态转移概率和已知状态下发出符号的概率都与时刻有关。但当这些概率与时刻无关时（即称为时齐的），则满足： 表示由状态经过一次转移到状态的转移概率。转移概率都是非负的，即 ，且 。显然体系从任何一个状态出发，经过一步转移后必然转移到可能的状态之一。又因为“体系从状态经过二步转移到状态”这个事件，等于“体系从状态出发，先一步转移到状态，，再由状态一步转移到状态”的事件之和。因此可见，由一步转移概率可以决定所有的转移概率，体系所有有限维分布完全可由起始概率和一步转移概率来决定。 由于马尔可夫信源的状态序列可以作为时齐马尔可夫链来处理，因而可以用马尔可夫链的状态转移图来描述信源的状态转移以及概率转移。 下面我们举一具体的例子来说明这种解决方法。假设有一二元二阶马尔可夫信源，其信源符号集为，条件概率为 分别用表示信源可能的状态。可见，此信源任何时刻发出的符号只与前两个有关，与更前面的符号无关。根据状态转移的可能发生，可得到以下的状态图（图 1），该图详细的描述了概率和状态发生转移的过程。 然后根据给定的条件概率，可以求得状态之间的转移概率（一步概率），容易发现，状态转移概率完全依赖于给定的条件概率。 3．总结 除了与发出的信源符号有关，常见的马尔可夫信源，其可能所处的状态与符号序列是有关的。若在任何时刻符号发生的概率只与前面若干个符号有关，那么，我们可以把前面若干个符号序列看作信源在此时刻所处的状态，而状态的转移也就可以理解为从前面若干个状态集转移到下一状态。 参考文献 [1] 庞元正、李建华.系统论、控制论、信息论经典文献选编[M].北京：求实出版社.1989.1 [2] 傅祖芸.信息论——基础理论与应用[M].北京：电子工业出版社.2003.6 1