随机过程课程设计-连续马尔科夫过程的转移概率及应用.docVIP

《随机过程》 课程设计（论文） 题 目: 连续马尔科夫过程的转移 概率及应用 学 院： 理学院 专 业： 数学与应用数学 班 级： 数学09-2班 学 生 姓 名： 学 生 学 号： 2009026249 指 导 教 师： 2011 年 12 月 20 日 目录 课程设计任务书 I 摘 要 II 第1章 绪论 - 1 - 第2章 连续时间马尔可夫链基本理论 - 2 - 2.1定义 - 2 - 2.2转移概率 - 2 - 第3章 柯尔莫哥洛夫微分方程 - 3 - 3.1跳跃强度 - 3 - 3.2 Q矩阵 - 3 - 3.3柯尔莫哥洛夫向后方程 - 4 - 3.4柯尔莫哥洛夫向前方程 - 4 - 第4章 马尔可夫过程研究的问题的分析 - 5 - 4.1连续参数随机游动问题 - 5 - 第5章 计算结果及程序 - 6 - 第6章 结论和展望 - 11 - 参考文献 - 11 - 评 阅 书 - 12 - 随机过程 课程设计任务书 姓名 姜德月 学号 18 指导教师 蔡吉花 设计题目 连续马尔科夫过程的转移概率及其应用 理论要点 连续时间马尔科夫链，转移概率及应用，科尔莫格罗夫向前、向后方程 设计目标 找实例解决具体问题，用科尔莫格罗夫向前、向后方程求解时编程解微分方程。 研究方法步骤 了解基本原理，寻找相关实际问题，解决问题。 预期结果 学习MATLAB有关求解微分方程的指令；微分方程数值求解法；能够解决随机游动的微分方程。 计划与进步的安排 1.了解基本要求，整理思路，设计大纲。 2 .查找相关书籍，上网查找相关资料。 3.初步设计课程设计 4 .对设计进行整理，进行排版，检查，审核。 参考资料 《应用随机过程》，钱敏平，龚光鲁，北京大学出版社， 1998.《》钱敏平 《应用随机过程》林元烈清华大学出版社2002 《随机过程》《》2011年12月20日马尔夫过程(MarKov Process)是一个典型的随机过程。设是一随机过程，当过程在时刻所处的状态为已知时，时刻所处的状态与过程在时刻之前的状态无关，这个特性成为无后效性。1951年前后，建立的随机微分方程的理论，为马尔可夫过程的研究开辟了新的道路。1954年前后， W.将半群方法引入马尔可夫过程的研究。流形上的马尔可夫过程、马尔可夫向量场等都是正待深入研究的领域。 　　类重要的随机过程,它的原始模型马尔可夫链,Α.Α.马尔可夫于1907年提出。人们在实际中常遇到具有下述特性的随机过程：在已知它目前的状态(现在)的条件下，它未来的演变（将来）不依赖于它以往的演变（过去）。这种已知“现在”的条件下，“将来”与“过去”独立的特性称为马尔可夫性，具有这种性质的随机过程叫做马尔可夫过程。中一只青蛙的跳跃是马尔可夫过程的一个形象化的例子。青蛙依照它瞬间或起的念头从一片荷叶上跳到另一片荷叶上，因为青蛙是没有记忆的,当现在所处的位置已知时,它下一步跳往何处和它以往走过的路径无关。如果将荷叶编号并用分别表示青蛙最初处的荷叶号码及第一次、第二次、……跳跃后所处的荷叶号码，那么 就是马尔可夫过程。液体中微粒所作的布朗运动，传染病受感染的人数，原子核中一自由电子在电子层中的跳跃，人口增长过程等等都可视为马尔可夫过程。还有些过程（例如某些遗传过程）在一定条件下可以用马尔可夫过程来近似。 　　关于马尔可夫过程的理论研究，1931年Α.Η.柯尔莫哥洛夫发表了《》，首先将微分方程等分析方法用于这类过程，奠定了它的理论基础。1951年前后，伊藤清在P.莱维和C.H.伯恩斯坦等人工作的基础上，建立了随机微分方程的理论，为研究马尔可夫过程开辟了新的道路。1954年前后，W.弗勒将泛函分析中的半群方法引入马尔可夫过程的研究中，Ε.Б.登金（又译邓肯）等并赋予它概率意义（如特征算子等）。50年代初，角谷静夫和J.L.等发现了布朗运动与偏微分方程论中问题的关系，后来G.A.亨特研究了相当一般的马尔可夫过程（亨特过程）与 位势的关系。目前，流形上的马尔可夫过程、马尔可夫场等都是正待深入研究的领域。，状态空间,若对任意及非负整数及非负整数有，则称为连续时间马尔可夫链。 2.2转移概率 在s时刻处于状态i，经过时间t后转移到状态j的概率 定义.2 齐次转移概率 (与起始时刻s无关，只与时间间隔t有关)转移概率矩阵 命题：若τi为过程在状态转移之前停留在状态i的时间，则对s, t≥0有 (1) (2) τi 服从指数分布 定理1 齐次马尔可夫过程