贝叶斯统计学.docVIP

贝叶斯统计学目录 第一章：贝叶斯统计学基础知识 一、贝叶斯统计学的历史 二、统计推断与决策利用的基本信息 1、总体信息 2、样本信息 3、先验信息 4、损失函数 三、条件观点与似然原理 四、贝叶斯公式、先验分布和后验分布 1 离散参数的贝叶斯公式 2 连续参数的贝叶斯公式 3、后验分布的计算 五、先验分布的确定 1、主观概率 2、确定先验分布的直接方法 3、确定先验分布的间接方法 第二章、贝叶斯推断 1、点估计 1.1、频率派点估计 1.2、贝叶斯点估计 2、区间估计 2.1、频率派区间估计 2.2、贝叶斯区间估计 3、假设检验 3.1、频率派假设检验 3.2、贝叶斯假设检验 4、预测推断 第三章、贝叶斯决策 1、决策问题的三要素 2、无数据决策理论 3、频率派决策理论 4、贝叶斯决策理论 第一章 贝叶斯统计学基础知识 一、贝叶斯统计学的历史 1、贝叶斯理论的发展简述 约三百年以前，人们开始去严肃的考虑面对不确定性时如何进行推理。James Bernoulli是第一个构造该问题的人，他意识到在可应用于机会游戏的演绎逻辑和每日生活中的归纳逻辑之间的区别。对于他来说，这个未回答的问题在于前者的机理如何能帮助处理后者的推断问题。 英国学者托马斯.贝叶斯(Thomas Bayes,1702-1761)生前所作的一篇论文——《论有关机遇问题的求解》，对Bernoulli的问题提供了回答。在文章中他提出了著名的贝叶斯公式和一种归纳推理的方法。然而，当时他的理论成果并没有得到足够的重视，后来在他理论的基础上逐渐形成了贝叶斯学派。时至今日，贝叶斯学派已经与经典学派共同成为统计学的两大主流学派。 贝叶斯学派的基本观点是：任一未知参数都可以看作是随机变量，可用一个概率分布去描述，这是经典学派和贝叶斯学派争论的焦点所在。贝叶斯学派认为：可以把任一未知参数看作随机变量，并且通过利用主观的判断和直觉，提供先验信息（即先验分布）；而经典学派只承认利用样本信息，不承认利用主观的判断和直觉，即不承认利用先验信息。关于未知参数是否可以看作随机变量在经典学派和贝叶斯学派间争论了很长时间，如今经典学派已经不反对这一观点。现在争论的焦点是：如何利用各种先验信息合理的确定先验分布。 总体来说，贝叶斯学派的发展经历了以下几个阶段： 1736年Thomas Bayes提出了重要的贝叶斯定理，其遗著《论有关机遇问题的求解》被他的朋友Richard Price整理于1763年发表。贝叶斯理论的价值才被世人认识，贝叶斯理论开始奠基。目前以他姓名命名的定理的现代形式实际上归功于Laplace。Laplace本人不仅重新发现了贝叶斯定理，且阐述的远比贝叶斯更为清晰，还用它来解决天体力学，医学统计，甚至法律问题。他全心全意的赞成用于推断问题的贝叶斯公式。遗憾的是，Laplace取得的成功和他对概率论的发展做出的巨大贡献，却并不为当时有势力的欧洲数学家所认可。之后虽还有一些零星的研究，由于理论的不完善和应用中出现了一些问题，贝叶斯学派的一些理论长期不被人们所接受。 进入到上世纪50年代，贝叶斯理论得到了充分发展，60、70年代以来，其发展达到鼎盛时期。许多专家学者投身于贝叶斯理论的研究和应用推广中来，力图从不同的角度对贝叶斯理论进行进一步的探讨和研究，形成了具有多分支的理论系统。目前被承认的现代贝叶斯统计工具应当归功于Jeffry、Wald、Savage、RaiffaSchlaifer、Lindly及De Finett。他们都曾做过大量有意义的工作，为建立统一的理论体系和方法论奠定了基础。 统计决策理论是著名统计学家A.Wald (1902-1950)在上世纪四十年代建立起来的，他在其文章《统计决策函数》中系统、详细的阐述了统计决策理论，统计决策理论与经典统计学的差别在于是否涉及后果，经典统计学着重于推断，而不考虑用在何处和效益如何，而统计决策理论引入损失函数，用来度量效益大小，评价统计推断结果的优劣。 贝叶斯统计推断是统计决策方法的基础之一，通过采样，修改先验的概率分布，从而减少事物的不确定性，在此基础上制定统计最优决策，因此称这类决策为贝叶斯决策。 贝叶斯统计理论与最优决策的结合，首先在商业和社会科学中得到了很大的成功，其次是在物理、化学、生物等学科领域得到了广泛的应用，如今其概念和方法在社会许多领域得到了广泛应用，如在工程技术、管理科学、系统运筹、医疗诊断等。贝叶斯决策理论已经象“控制论”、“信息论”一样成为了现代的信息控制和系统科学中的一个重要分支，并在实际的决策应用中发挥了不可替代的作用。 统计学家们将统计决策理论和贝叶斯理论相结合形成了系统的贝叶斯决策理论。在对贝叶斯决策理论研究方面，Definetti