第七章：模型选择和模型评估.pptVIP

上节课内容总结 贝叶斯的概率观点 概率描述的是主观信念的程度 可以对参数进行概率描述，为参数生成一个概率分布 贝叶斯推理的基本步骤 先验分布 似然模型 计算后验分布 从后验分布中得到点估计和区间估计 点估计：后验均值、后验众数（MAP） 后验区间 上节课内容总结 后验的仿真模拟 贝叶斯推理与MLE 例 令 为 的极大似然估计，在合适的正则条件下，后验均值为 贝叶斯推理的优点 可以方便的结合先验信息 数据和先验同等对待 由后验可以同时推出点估计和区间估计 第七章：模型选择和模型评估 内容： 估计选择 （Ch13） 模型选择 （Ch14，Ch9，统计学习基础第7章） 估计选择 有几个不同的估计，哪个估计更好一些？ 统计决策理论 损失函数 损失函数：度量真值 与估计 之间的差异 损失函数举例 风险函数 风险函数：损失的均值 一个估计 的风险是 对平方误差损失，风险为MSE 风险是 的函数 比较不同的估计，转化为比较不同估计的风险 但并不能清楚地回答哪个估计更好 风险比较 风险比较 风险函数的两个单值概述 最大风险 贝叶斯风险 其中 为θ的先验。 决策规则(Decision Rules) 决策规则是估计的别名 最小化贝叶斯风险的决策规则成为贝叶斯规则或贝叶斯估计，即 为对应先验 f 的