科尔莫戈罗夫微分方程讲解.pptVIP

§5.2科尔莫戈罗夫微分方程 时间离散的马尔可夫链 * * * 一步转移矩阵 n步转移矩阵 初始概率 + 一步转移概率 有限维的概率分布 时间连续的马尔可夫链来说，讨论像离散的马尔可夫链那样的n步转移概率是十分复杂的，因为时间是连续的，任意的一个时间段内都会存在无数步转移概率，所以我们需考虑在某个时间段内的状态转移概率，下面我们首先讨论转移概率pij(t)的可微性。 故 引理5.1 设齐次马尔可夫过程满足正则条件，则对于任意固定的i,j∈I,pij(t)是关于t的一致连续函数。 证明：设h0,由连续时间齐次马尔可夫链的C-K方程(定理5.1)得 因此得 又 对于h0,同样有 综上所述有 即pij(t)是关于t的一致连续函数 证毕 由正则条件及一致连续的定义知 因此 以下我们恒假设齐次马尔可夫过程满足正则条件 定理5.3 设pij(t)是齐次马尔可夫过程的转移概率，则下列极限存在。 （1）由泰勒公式得 带入①式得 ① ② 证明： 由正则性知pij(t)在(0,∞)中都有有穷的连续导数pij(t),故可用泰勒公式求极限 称qij为齐次马尔可夫过程从状态i到状态j的转移速率或跳跃强度。 证明：由定理5.1，有 由于上式中的求和是在有限集中进行的，去可与极限交换顺序 即 推论 对有限齐次马尔可夫过程有 即 对于状态空间无限的齐次马尔可夫过程，一般只有 若连续时间的齐次马尔可夫链具有有限的状态空间，即I={0,1,2.....n}则其转移速率可构成如下形式的矩阵： 转移速率矩阵特点: ①每一行的元素之和为零。 ②对角线上的元素小于等于零。 ③非对角线上的元素大于等于零。 在此我们想利用转移速率矩阵Q推出任意时间间隔t的转移概率所满足的方程组，从而可以求解出转移概率。 由上节中的切普曼—科尔莫戈罗夫方程有 上式可以等价于 两边同时除以h后，令h趋于零时取极限，应用转移速率的定义得 上式的左边是pij(t)的导数，现假设右边可交换极限和求和的顺序，就得到科尔莫戈罗夫向后方程，下面就证明极限和求和可以交换顺序。 定理5.4（科尔莫戈罗夫向后方程） 则对一切i,j及t≥0 有 证明：我们只需证极限和求和可以交换顺序，现在对于任意固定的N,有 因为上式对一切N成立，可见 为求其上极限，注意对于Ni,由于pkj(t)≤1，所以 假设 上述不等式对一切Ni成立，令N趋向于∞，我们得到 ∴ 由上下极限定义知有 上极限与下极限相等 上式中pij(t)满足的微分方程称为科尔莫戈罗夫向后方程，我们之所以在这里称它为向后方程式因为在计算时刻t+h的状态概率分布的时候我们选取时刻h的状态取条件，即 当我们选取时刻t的状态去条件，可以导出另外一组方程，称为科尔莫戈罗夫向前方程，即 再此我们假设这里的极限和求和的顺序能交换顺序，因此上式我们就可以化简为 但是上式的极限和求和的交换不是恒成立的，所以上式并不是恒成立的式子，但是对于我们后面考虑的全部生灭过程和全部有限的状态模型都是成立的。 定理5.5(科尔莫戈罗夫向前方程) 在适当的正则条件下有 利用向前方程（或者向后方程）和初始条件，可以解得pij(t)。费勒证明出了向前和向后方程求解出来的结果一样 在实际的应用中，当固定最后的所处状态j时，研究pij(t)时，采用向后方程相对简单；当固定状态i，研究pij(t)时，采用向前方程 相对容易。 下面我们将向前方程和向后方程写成矩阵的形式，即 上式中的Q矩阵为 而矩阵P(t)的元素是矩阵P(t)的元素的导数，而 这样上述的求转移概率矩阵问题就转移为矩阵微分方程的求解问题了，其转移概率由其转移速率矩阵Q决定，若Q是一个有限维矩阵，其解为 定理5.6 齐次马尔可夫过程在t时刻处于状态j∈I的绝对概率pj(t)满足下列方程： 证明：由定理5.2，有 将向前方程的两边同时乘以pi，并对i求和得 故 与离散的马尔可夫链类似，我们也讨论pij(t)当t趋于无穷时的极限分布于平稳分布的有关性质。 定义5.4 设pij(t)为连续时间马尔可夫链的转移概率，若存在时刻t1和t2，使得pij(t)0,pji(t)0 则称状态i与j是互通的。若所有状态都是互通的，则称此马尔可夫链为不可约的。 下面我们来讨论齐次马尔可夫链的绝对概率应该满足怎样的方程。 * *