随机过程.pptVIP

随 机 过 程 第十一章 马尔可夫链 关键词： 无后效性(马尔可夫性) 齐次马尔可夫链 n步转移概率 n步转移概率矩阵 C-K方程 马氏链的有限维分布律 遍历性 极限分布(平稳分布) §1 马尔可夫过程及其概率分布 马尔可夫性(无后效性) 过程(或系统)在时刻t0所处的状态为已知的条件下，过程在时刻tt0所处状态的条件分布与过程在时刻t0之前所处的状态无关。 通俗地说，就是在已经知道过程“现在”的条件下，其“将来”不依赖于“过去”。 时间和状态都离散的马尔可夫过程称为马尔可夫链， 简称马氏链，记为： {Xn=X(n),n=0,1,2,…},参数集T={0,1,2,…}， 记链的状态空间为： 例5：(0-1传输系统) 如图所示，只传输数字0和1的串联系统中，设每一级的传真率为p，误码率为q=1-p。并设一个单位时间传输一级， X0是第一级的输入，Xn是第n级的输出(n≥1)，那么 {Xn,n=0,1,2…}是一随机过程，状态空间I={0,1}，而且当Xn=i为已知时，Xn+1所处的状态的概率分布只与Xn=i有关，而与时刻n以前所处的状态无关，所以它是一个马氏链，而且还是齐次的，它的一步转移概率和一步转移概率矩阵 分别为： 例6：一维随机游动。设一醉汉Q(或看作一随机游动的 质点)在直线上的点集I={1,2,3,4,5}作随机游动， 且仅在1秒、2秒等时刻发生游动，游动的概率规则 是：如果Q现在位于点i(1i5)，则下一时刻各以 的概率向左或向右移动一格，或以 的概率 留在原处；如果Q现在处于1(或5)这一点上，则下 一时刻就以概率1 移动到2(或4)这点上，1和5这 两点称为反射壁，这种游动称为带有两个反射壁的 随机游动。以Xn表示时刻n时Q的位置， 说明{Xn,n= 0,1,2 …}是一齐次马氏链，并写出它的一步转移概 率矩阵。 解：以Xn表示时刻n时Q的位置，不同的位置就是Xn的不同 状态；而且当Xn=i为已知时，Xn+1所处的状态的概率分布 只与Xn=i有关，而与Q在时刻n以前如何到达i完全无关， 所以{Xn,n=0,1,2 …}是一马氏链，且是齐次的。 它的一步转移概率矩阵为： 例7：排队模型 设服务系统由一个服务员和只可以容纳两个人的等候室组成。服务规则为：先到先服务，后来者需在等候室依次排队，假设一个需要服务的顾客到达系统时发现系统内已有3个顾客，则该顾客立即离去。 设时间间隔⊿t内有一个顾客进入系统的概率为q，有一接受服务的顾客离开系统(即服务完毕)的概率为p,又设当⊿t充分小时，在这时间间隔内多于一个顾客进入或离开系统实际上是不可能的，再设有无顾客来到与服务是否完毕是相互独立的。 现用马氏链来描述这个服务系统： 设Xn=X(n⊿t)表示时刻n⊿t时系统内的顾客数，即系统的状态。{Xn,n=0,1,2…}是一随机过程，状态空间I={0,1,2,3},且如前例2、例3的分析可知，它是一个齐次马氏链，它的一步转移概率矩阵为： 例8：设甲、乙两袋共装5个球，每次任取一袋,并从袋中 取出一球放入另一袋(若袋中无球则不取)。Xn表示 第n次抽取后甲袋的球数，n=1,2,….{Xn,n=1,2,…} 是一随机过程，状态空间I={0,1,2,3,4,5},当Xn=i 时，Xn+1=j的概率只与i有关，与n时刻之前如何取到 i值是无关的，这是一马氏链，且是齐次的,一步转 移概率矩阵为： 例10：某计算机机房的一台计算机经常出故障，研究者每隔15分钟观察一次计算机的运行状态，收集了24个小时的数(共作97次观察)，用1表示正常状态，用0表示不正常状态，所得的数据序列如下： 11100100111111100111101111110011111111100011 01101111011011010111101110111101111110011011 111100111 设Xn为第n(n=1,2,…,97)个时段的计算机状态，可以认为它是一个齐次马氏链. 求(1)一步转移概率矩阵; (2)已知计算机在某一时段(15分钟)的状态为0，问在此条件下，从此时段起，该计算机能连续正常工作45分钟(3个时段) 的条件概率. 解: (1) 设Xn为第n(n=1,2,…,97)个时段的