第23章 基于Bayes及数据预测.ppt

第二十三章 MATLAB优化算法案例分析与应用 第23章 基于Bayes的数据预测 第二十三章 MATLAB优化算法案例分析与应用 23.1 贝叶斯统计方法 贝叶斯统计方法是基于贝叶斯定理而发展起来用于系统地阐述和解决统计问题的方法。贝叶斯统计方法不同于经典统计方法。经典统计方法只利用两种信息：一是模型信息，二是样本信息。然而贝叶斯统计方法的核心是贝叶斯公式。 1963年，贝叶斯提出了贝叶斯公式： 事件B 的发生总是与 A1，A2 ，……， An 之一同时发生。 贝叶斯公式是在观察到事件 B 已经发生的条件下，寻找导致 B 发生的每个原因的概率。 第二十三章 MATLAB优化算法案例分析与应用 23.1 贝叶斯统计方法 在该公式中，直观地将 看作是导致随机事件 B 发生的各种可能原因，则 可以理解为随机事件 发生的先验概率（A Priori Probability）。如果我们知道随机事件 B 发生这个新信息，则它可用于对事件 发生的概率进行重新的估计。事件 就是知道了新信息“A发生”后对于事件 发生概率的重新认识，称为随机事件 的后验概率（A Posteriori Probability）。 第二十三章 MATLAB优化算法案例分析与应用 23.1 贝叶斯统计方法 贝叶斯学派认为，后验概率分布综合了样本信息 x 及先验概率分布 ，因此抽样的全部目的是完成由先验概率分布到后验概率分布的转换，从而完成对事件 A 认识的改变。此过程如图23-1所示。 图23-1 贝叶斯统计方法 第二十三章 MATLAB优化算法案例分析与应用 23.1 贝叶斯统计方法 贝叶斯统计方法在统计过程中用到了先验概率分布，即决策者的主观因素。可以说在统计过程中是否使用先验概率分布是区分贝叶斯统计方法和非贝叶斯统计方法的标志。使用不同的先验概率分布对后验概率分布的确定是有影响的。但是贝叶斯学派已经证明，开始时不管使用什么样的先验概率分布，随着实验次数的增多，后验概率分布对初始先验概率分布的依赖会越来越小，后验概率分布最终趋于一致。 贝叶斯统计方法归纳如下： （1）将未知参数看成随机变量（或者随机向量），记它为 ，于是当 已知时，样本 的联合分布密度 就看成是 ， 对 的条件密度，记为 或者简写为 ； 第二十三章 MATLAB优化算法案例分析与应用 23.1 贝叶斯统计方法 （2）用 表示 的先验分布，一般根据以往对参数 知识来确定先验分布（经常用于表示先验知识），如果没有关于先验参数 先验知识， 应采用在 取值范围内的均匀分布（也被成为贝叶斯假设），这也是贝叶斯统计方法中最容易引起争议的一步； （3）利用先验分布 和条件分布密度 ，可以求出 与 的联合分布以及样本数据 ， ， ，……的分布，于是就可以利用二者求得 对 ， ， ，……， 的条件分布密度，也就是利用贝叶斯公式求得后验分布密度 的过程； （4）利用后验分布密度 做出对 的推断（估计 或者对 作检验），则 第二十三章 MATLAB优化算法案例分析与应用 23.2 贝叶斯预测方法 贝叶斯（Bayes）预测是一种以贝叶斯统计方法为基础、以贝叶斯定理为理论依据，以动态模型为研究对象的时间序列预测方法。贝叶斯（Bayes）预测方法在统计推断中不仅仅使用了模型信息及样本数据信息，还使用了先验概率分布信息，这也是不同于非贝叶斯统计预测的标志。 贝叶斯预测在预测过程中，对总体分布的未知参数预先规定一个先验概率分布，此概率分布可以是根据以前的数据、经验给出，也可以是完全根据决策者的主观意识给出。这样将先验概率分布、总体分布、样本信息通过贝叶斯定理（贝叶斯公式）就可以得到后验概率分布，通过后验概率分布对预测目标进行预测。其一般模式可用图23-2表示。 第二十三章 MATLAB优化算法案例分析与应用 23.2 贝叶斯预测方法 贝叶斯统计预测方法与经