贝叶斯统计学1.pptVIP

同学们好！ 欢迎大家学习《贝叶斯统计学》！ 贝叶斯统计学 贝叶斯统计简介：贝叶斯统计是英国统计学家贝叶斯（1702～1761）首先提出的。贝叶斯统计是在与经典统计理论的长期争论中发展起来的。形成了两大重要的统计学派（贝派和频派）。贝叶斯统计主要在统计决策理论中应用广泛。尽管很早就产生贝叶斯统计，但它真正得到发展是二次世界大战以后，特别是上个世纪初。 学习的目的：介绍贝叶斯统计的基本思想和基本方法，给学生提供一种新的统计思维方式，丰富统计知识-------锦上添花。同时提供一种研究实际统计问题的新方法。 学习方法：以概率论为基础，系统学习。注重方法的基本思想和原理。学会运用有关工具，加强练习。 教学计划安排：重点介绍1～3章（原理），适当介绍4～5章。 第一章 先验分布与后验分布 1.1 三种信息（总体信息、样本信息和先验信息） 1.2 贝叶斯公式（事件形式和密度函数形式） 1.3 共轭先验分布 1.4 超参数及其确定 1.5 多参数模型 1.6 充分统计量 1.1三种信息 三种信息及对应的统计分科 贝叶斯统计与经典统计的主要区别 1.三种信息及对应的统计分科 总体信息：是人们对总体的了解，所带来的有关信息，总体信息包括总体分布或者总体分布族的有关信息。例如：“总体属于正态分布”、“它的密度函数是钟型曲线”等等。 样本信息：是通过样本而给我们提供的有关信息。这类“信息”是最具价值和与实际联系最紧密的信息。人们总是希望这类信息越多越好。样本信息越多一般对总体推断越准确。 基于以上两种信息所作出的统计推断被称为经典统计。其特征主要是：把样本数据看成是来自具有一定概率分布的总体，所研究的对象是总体，而不是立足与数据本身。 事实上，在现实活动中，还有一类信息可以用来进行统计推断------先验信息。 先验信息：是在抽样之前有关所要研究的问题的一些信息。来源于经验和历史资料的总结。先验信息是现实活动中一种有用的信息应该加以充分利用，但经典统计忽视了，对于统计推断是一个损失。 利用先验信息进行统计推断的统计理论就是贝叶斯统计。 2.贝叶斯统计与经典统计主要区别 （1）统计推断所依据信息不同 （2）对总体参数的认识不同 （3）对概率的理解不同 （4）对样本利用方式上不同 （5）应用领域不同 1.2贝叶斯公式 事件形式的贝叶斯公式 密度函数形式贝叶斯公式 贝叶斯统计学派主要观点 后验分布及其与三种信息的关系 1.事件形式的贝叶斯公式 （1）全概公式：设有事件A只能与一完备事件组 中之一事件同时发生，则事件A出现的概率 称上式为全概公式。 （2）贝叶斯公式：设有事件A只能与一完备事件组 中之一事件同时发生，则事件A发生的条件下 发生的概率--------称之为贝叶斯公式m=1..n 2.密度函数形式的贝叶斯公式 定义 设在给定样本x后，θ的 后验分布为 ，它是给定样本观测值x后的条件分布。若又设θ和x具有联合密度 （ x为样本，下同） 其中， 为θ的先验分布。x的边缘密度（边际密度）为 （θ为连续随机变量） （θ为离散随机变量上式求和） 显然，θ的后验分布为（m(x)≠0） 称此为贝叶斯公式的密度函数形式。 3.贝叶斯学派主要认识 （1）贝叶斯统计中 表示θ给定时，某值x的条件分布。 （2）根据参数的先验信息确定的分布就是先验分布 （3）从贝叶斯观点来看，样本一般分两步进行，首先从 产生一个θ，第二步是在分布 产生一个样本。 （4）样本似然函数为 （5）h将三种信息综合进去了。 （6） 是将h中与θ无关即我们研究的问题无关的信息消除。基于后验分布作出推断。 4.后验分布与三种信息的关系 后验分布是利用总体信息、样本信息和先验信息进行综合处理（去粗取精）得到后验信息（即后验分布）的过程。贝叶斯统计可就是以后验分布为基础的统计学。 对理解后验分布，可以这样看：事先人们对总体和θ有一个初步的经验的认识这就是 ，当样本取得以后，根据样本的“鲜活”信息调整人们事先对总体和参数θ的认识，得到后验分布 ，贝叶斯统计再根据后验分布进行估计推断。 对样本理解：样本在没有抽选之前，与经典统计一样，抽样过程是随机的（样本值是随机变量），但一旦抽中就