1140503102450451连续时间马尔可夫链教程.doc

5 连续时间马尔可夫链 5.1引言 本章中我们考虑与离散时间马尔可夫链类似的连续时间马尔可夫链。如离散情形一样，它们由马尔可夫性刻画，即已知现在的状态时将来与过去独立。 在5.2节中。我们定义连续时间马尔可夫链且把它们与第四章的离散时间马尔可夫链相联系。在5.3节中，我们引入一类重要的连续时间马尔可夫链，即所谓生灭过程。这些过程可用作在任何时刻其总量的变化仅为一个单位的群体的模型。在5.4节中，我们导出两组描述系统的概率规律的微分方程——向前与向后方程。5.5节的内容是确定连续时间马尔可夫链的有关的极限（或长时间后的）概率。在5.6节中，我们考虑时间可逆的问题。其中，我们证明一切生灭过程是时间可逆的，而后阐明这事实对于排队系统的重要性。在这一节中也提供了时间可逆性对随机群体模型的应用。在5.7节中，我们阐明逆向链的重要性，即使过程不是时间可逆的。利用它我们研究排队网络模型。导出爱尔朗消失公式，分析共用加工系统。5.8节中我们表面如何“一致化”马尔可夫链——对于数值计算有用的一种技巧。 5.2连续时间马尔可夫链 考虑取非负整数值的连续时间随机过程，与第四章中给出的离散时间马尔可夫链的定义类似，过程称为连续时间马尔可夫链，如果对一切及非负整数，，，有 换言之，连续时间马尔可夫链是具有马尔可夫性的随机过程，即已知现在时是状态