随机过程 马尔科夫过程课件.pptVIP

第四章 马尔可夫链 随机过程 马尔科夫过程 4.1 马尔可夫链与转移概率 定义 设 {X(t)，t ?T }为随机过程，若对任意正整数n及t1 t2? tn，P{X(t1)=x1,?, X(tn-1)=xn-1}0，且条件分布P{X(tn)?xn|X(t1)=x1,?, X(tn-1)=xn-1}= P{X(tn) ? xn|X(tn-1)=xn-1}，则称{X(t)，t ?T }为马尔可夫过程。☆若t1,t2,?,tn-2表示过去，tn-1表示现在，tn表示将来，马尔可夫过程表明：在已知现在状态的条件下，将来所处的状态与过去状态无关。2随机过程 马尔科夫过程 4.1 马尔可夫链与转移概率马尔可夫过程通常分为三类：(1)时间、状态都是离散的，称为马尔可夫链(2)时间连续、状态离散的，称为连续时间马尔可夫链(3)时间、状态都是连续的，称为马尔可夫过程3随机过程 马尔科夫过程 4.1 马尔可夫链与转移概率随机过程{Xn，n?T }，参数T={0, 1, 2, ?},状态空间I={i0, i1, i2, ?} 定义 若随机过程{Xn，n?T }，对任意n?T和i0,i1,?,in+1 ?I，条件概率P{Xn+1=in+1|X0=i0,X1=i1,?,Xn=in} = P{Xn+1=in+1|Xn=in}， 则称{Xn，n?T }为马尔可夫链，简称马氏链。4随机过程 马尔科夫过程 4.1 马尔可夫链与转移概率马尔可夫链的性质 P{X0=i0, X1=i1, ?, Xn=in}=P{Xn=in|X0=i0, X1=i1, ?, Xn-1=in-1} P{X0=i0, X1=i1, ?, Xn-1=in-1}= P{Xn=in|Xn-1=in-1} P{Xn-1=in-1 |X0=i0,X1=i1,?,Xn-2=in-2} P{X0=i0,X1=i1,?,Xn-2=in-2}=P{Xn=in|Xn-1=in-1}P{Xn-1=in-1 |Xn-2=in-2} P{X0=i0,X1=i1,?,Xn-2=in-2}5随机过程 马尔科夫过程 4.1 马尔可夫链与转移概率=?=P{Xn=in|Xn-1=in-1}P{Xn-1=in-1 |Xn-2=in-2} ? P{X1=i1|X0=i0}P{X0=i0} 马尔可夫链的统计特性完全由条件概率P{Xn+1=in+1|Xn=in}确定。6随机过程 马尔科夫过程 4.1 马尔可夫链与转移概率定义 称条件概率pij(n)= P{Xn+1=j|Xn=i} 为马尔可夫链{Xn，n?T }在时刻n的一步转移概率，简称转移概率，其中i,j?I。定义 若对任意的i,j?I，马尔可夫链{Xn,n?T }的转移概率pij(n)与n无关，则称马尔可夫链是齐次的，并记pij(n)为pij。齐次马尔可夫链具有平稳转移概率，状态空间I={1, 2, 3, ?}，一步转移概率为7随机过程 马尔科夫过程 4.1 马尔可夫链与转移概率转移概率性质(1) (2) P称为随机矩阵8随机过程 马尔科夫过程 4.1 马尔可夫链与转移概率定义 称条件概率 = P{Xm+n=j|Xm=i} 为马尔可夫链{Xn，n?T }的n步转移概率(i,j?I, m?0, n?1)。n步转移矩阵其中 P(n)也为随机矩阵9随机过程 马尔科夫过程 4.1 马尔可夫链与转移概率定理4.1 设{Xn，n?T }为马尔可夫链，则对任意整数n?0,0?ln和i,j?I，n步转移概率 具有性质(1) (2) (3) P(n)=PP(n-1)(4) P(n)=Pn10随机过程 马尔科夫过程 4.1 马尔可夫链与转移概率证(1)11随机过程 马尔科夫过程 4.1 马尔可夫链与转移概率(2)在(1)中令l=1,k=k1,得由此可递推出公式(3)矩阵乘法(4)由(3)推出说明：(1)此为C-K方程(切普曼-柯尔莫哥洛夫)(2) n步转移概率由一步转移概率确定， n步转移概率矩阵由一步转移概率矩阵确定(n次幂)12随机过程 马尔科夫过程 4.1 马尔可夫链与转移概率初始概率绝对概率初始分布绝对分布初始概率向量绝对概率向量定义13随机过程 马尔科夫过程 4.1 马尔可夫链与转移概率 设{Xn，n?T }为马尔可夫链，则对任意整数j?I和n?1 ，绝对概率pj(n)具有性质(1) (2) (3) PT(n)=PT(0)P(n)(4) PT(n)=