统计决策与贝叶斯推断.pptVIP

6.2 贝叶斯推断 在经典统计学中，总体 的分布函数用 表示， 其中 表示未知参数， 表示参数空间。 改写为 经典统计学并不产生任何实质上的影响，仅仅是记号的变更。 Bayes统计中意义就不同了，其表示条件分布。 第三十页，共四十六页，2022年，8月28日 定义6.1 若函数 和 相比仅差一个常数因子，则称 为 的核，记为 例如 第三十一页，共四十六页，2022年，8月28日 贝叶斯学派认为， 的后验分布 集先验信息和样本信息于一身，包含了 的所有可供利用的信息，所以有关 的点估计，区间估计和假设检验等统计推断都要基于后验分布来进行。 样本分布 其中 为总体 的条件概率密度。 第三十二页，共四十六页，2022年，8月28日 一、贝叶斯估计 1、点估计 贝叶斯估计量就是贝叶斯决策函数（贝叶斯解） 则称 为 的贝叶斯估计量 定义 设总体 的分布函数为 ，其中参数 为具有先验分布 的随机变量，又设 为来自总体的样本。若在决策函数类 中有一个 ，使得 第三十三页，共四十六页，2022年，8月28日 第一页，共四十六页，2022年，8月28日 在数理统计学中存在两大学派： 经典学派、频率学派或抽样学派 贝叶斯学派：贝叶斯统计，其核心是贝叶斯推断 第二页，共四十六页，2022年，8月28日 统计学家瓦尔德(A.Wald)把关于假设检验和参数估计的经典统计理论加以概括，将不确定意义下的决策科学也包括在统计学范围之内，于1939年创立了统计决策理论，该理论弥补了过去统计理论的缺陷。 统计决策的显著特点是： 统计决策建立在统计分析和统计预测的基础 上，是一种定量决策 。 统计决策是在不确定情况下，应用概率来进行决策的计算和分析，是一种概率决策。 6.1 统计决策 第三页，共四十六页，2022年，8月28日 决策问题的 三个基本要素 状态集 行动集 行动空间 损失函数 第四页，共四十六页，2022年，8月28日 依统计决策论的观点，对决策有用的信息 先验信息 样本信息 决策问题的分类 无数据 （无样本信息） 决策问题 统计决策问题 贝叶斯 决策问题 第五页，共四十六页，2022年，8月28日 一、基本概念 1、损失函数 描述当未知量处于状态 而采取行动 时所引起的损失，记为 线性损失函数 第六页，共四十六页，2022年，8月28日 第七页，共四十六页，2022年，8月28日 一、基本概念 2、决策函数 由样本空间 到行动空间 的可测映射 称为决策函数。 第八页，共四十六页，2022年，8月28日 3、风险函数 称为决策函数 的风险函数。 设 是一个决策函数，则损失函数 关于样本分布 的数学期望 平均损失愈小，决策函数愈好。 风险函数 描述在未知量处于状态 而采取决策 时所蒙受的平均损失。 第九页，共四十六页，2022年，8月28日 二、常用的决策准则 1、一致最优决策准则 则称 为决策函数类 的一致最小风险决策函数，或称为一致最优决策函数。 定义 设 表示定义在样本空间 上取值于行 动空间 的某一决策函数类，若存在一个决 策函数 ，使得对任意 ，都有 第十页，共四十六页，2022年，8月28日 2、最小最大（Minimax）决策准则 则称 为该统计决策问题的最小最大决策函数，相应的风险称为最小最大风险。 定义 对于一个统计决策问题，设 表示定义 在样本空间 上取值于行动空间 的某一决策 函数类。若有决策函数 ，使得 第十一页，共四十六页，2022年，8月28日 3、贝叶斯决策准则 ? 先验信息与先验分布 无论是在统计决策问题还是在统计推断问题中总会包含未知量 。为了对 作统计决策或者作统计推断，样本信息是必不可少的，因为它包含 的最新信息。除此之外，一些非样本信息也可用于统计决策和统计推断。这些非样本信息主要来源于经验或历史资料。由于此类经