《数据科学统计基础（第二版）》 课件 吕晓玲 第4、5章 统计决策与贝叶斯方法; 再抽样方法.pptx

数理统计中国人民大学统计学院

第四章统计决策与贝叶斯方法4.1统计决策的基本概念4.2贝叶斯点估计4.3贝叶斯区间估计4.4贝叶斯假设检验4.5MCMC算法4.6与本章相关的R语言操作

统计决策的基本概念PART4.1

4.1统计决策的基本概念4.1.1统计决策问题的三要素著名统计学家瓦尔德（A.Wald,1902–1950）提出把统计推断问题看成是人与自然的一种”博弈”，建立了统计决策理论，对数理统计学的发展产生了重要的影响。贝叶斯方法运用统计决策理论。以点估计问题为例，我们需要给出一个合适的估计量，这个估计量也称为该统计问题的解，从统计决策理论来看，一个统计问题的解就是统计决策函数。为了了解统计决策函数这一概念，我们先介绍构成统计决策问题的基本要素：样本空间和分布族，决策空间以及损失函数。

4.1统计决策的基本概念4.1.1统计决策问题的三要素1.样本空间和分布族???

4.1统计决策的基本概念4.1.1统计决策问题的三要素例4.1.1????i=1?n?i=1?n?n-

4.1统计决策的基本概念4.1.1统计决策问题的三要素2.决策空间统计问题,如参数??的点估计，区间估计及其他估计问题需要给出合适的回答。在统计决策理论中称每一个具体的回答为一个决策，一个统计问题中可能选取的全部决策组成的集合称为决策空间，记为Δ。一个决策空间Δ至少应含有两个决策。

4.1统计决策的基本概念4.1.1统计决策问题的三要素例4.1.2某公司打算根据历年来市场的销售量以及当前市场竞争情况决定下年度应该扩大投资还是缩减投资，或者维持现状，这样决策空间Δ为Δ={扩大投资，缩减投资，维持现状}。例4.1.3?

4.1统计决策的基本概念4.1.1统计决策问题的三要素3.损失函数统计决策的一个基本观点和假定是，每一个决策都会产生经济或其他的后果，不同决策产生的后果不同。一个具体的统计决策问题，一般有多种优劣不同的决策可以选择。引入一个依赖于参数值??∈Θ和决策a∈Δ的二元实值非负函数L(??,a)≥0，称之为损失函数。表示当参数真值为??而采取的决策为a时所造成的损失，决策越正确，损失就越小。由于统计问题总是利用样本对总体进行推断，所以误差是不可避免的，损失总是存在的，这就是损失函数定义为非负函数的原因。

4.1统计决策的基本概念4.1.1统计决策问题的三要素例4.1.4设总体X服从正态分布N(??,1)，??为未知参数，参数空间M=(?∞,+∞)，决策空间取Δ=(?∞,+∞)，一个可供参考的损失函数是：当a=??，即估计正确时损失为0，估计a与实际值??的距离|a???|越大，损失也越大。?

4.1统计决策的基本概念4.1.1统计决策问题的三要素如果要求未知参数??的区间估计，损失函数可取为：??????

4.1统计决策的基本概念4.1.1统计决策问题的三要素常见的损失函数有以下几种：(1)线性损失函数?(4.1.1)??(4.1.2)

4.1统计决策的基本概念4.1.1统计决策问题的三要素(2)平方损失函数?（4.1.3）?(3)凸损失函数?（4.1.4）

4.1统计决策的基本概念4.1.1统计决策问题的三要素(4)多元二次损失函数?（4.1.5）当??和a均为多维向量时，可取如下二次型作为损失函数。?（4.1.6）?i=1?p??

4.1统计决策的基本概念4.1.1统计决策问题的三要素在实际问题中采用决策方法，如何选择损失函数是一个关键问题，也是一个难点。一般来说，选取的损失函数应与实际问题相符合，同时也要方便数学处理。上面提到的二次损失即平方损失函数是参数点估计中常用的一种损失函数。从统计决策的观点来看，负对数似然函数也是一种损失函数，最大似然估计就是要最小化这个损失。

4.1统计决策的基本概念4.1.2统计决策函数与风险函数1.统计决策函数?

定义4.1.1定义在样本空间??上,取值空间在决策空间Δ上的函数??(X),称为统计决策函数,简称为决策函数。4.1统计决策的基本概念4.1.2统计决策函数与风险函数?

4.1统计决策的基本概念4.1.2统计决策函数与风险函数例如?????就是一个决策函数。

4.1统计决策的基本概念4.1.2统计决策函数与风险函数2.风险函数给定一个决策函数??(x)，则采取的决策完全取决于样本X，从而损失必然与X有关，也就是说决策函数??(x)与损失函数L(??,a)都是样本X的函数，因此都是随机变量。?为了比较决策的优劣，常用平均损失作为指标，平均损失也称为风险。