PRML第一章阅读笔记.pdfVIP

网页 资讯 视频 图片 知道 文库 贴吧 采购 地图 | 百度首页 登录 VIP新客立减2元 意见反馈 下载客户端 11/25/2019 PRML第一章阅读笔记 - 图文 - 百度文库 PRML 第一章阅读笔记 PRML 第一章阅读笔记 首页 分类 精品内容 申请认证 机构合作 频道专区 会员中心 1.1 Example: Polynomial Cur e Fitting 1.1 Example: Polynomial Cur e Fitting RMS(Root-Mean-Square)定义: P7 RMS(Root-Mean-Square)定义: P7 百度文库 专业资料 IT/计算机 计算机软件及应用 通过这个处理 ，可以对比同个模型但是不同规模测试集的效果 通过这个处理 ，可以对比同个模型但是不同规模测试集的效果 1.2 Probability Theory 1.2 Probability Theory 累积分布函数 ：P18 累积分布函数 ：P18 似然函数的负对数在机器学习文献中 ，被称为是一种error function 似然函数的负对数在机器学习文献中 ，被称为是一种error function 最大似然函数法是点估计 ，而贝叶斯方法 ，不仅仅预测出给定的x对应的t ，同时还得出了对应t的概率密度函数。贝叶斯方法采用最大后 最大似然函数法是点估计 ，而贝叶斯方法 ，不仅仅预测出给定的x对应的t ，同时还得出了对应t的概率密度函数。贝叶斯方法采用最大后 验概率来确定最优的w ， 验概率来确定最优的w ， 后验概率 ~= 似然函数*先验概率。因此使用贝叶斯方法 ，需要知道w的先验概率。 后验概率 ~= 似然函数*先验概率。因此使用贝叶斯方法 ，需要知道w的先验概率。 从结果中 ，我们可以得到 ，如果假设w的先验概率是零均值的高斯分布 ，那么其MAP的结果相当于最优化 正则化的平方和误差函数 从结果中 ，我们可以得到 ，如果假设w的先验概率是零均值的高斯分布 ，那么其MAP的结果相当于最优化 正则化的平方和误差函数 纯粹 （全 ）贝叶斯方法 ： 纯粹 （全 ）贝叶斯方法 ： 纯粹的贝叶斯方法需要应用加法和乘法规则 ，对所有的w值进行积分。 纯粹的贝叶斯方法需要应用加法和乘法规则 ，对所有的w值进行积分。 /view/2332892cce2f0066f4332221?fr=search-searchpage 1/8 11/25/2019 PRML第一章阅读笔记 - 图文 - 百度文库 从方差中 以看出 ，1.71的第一项是来自于目标值和估计值之间的噪声(通过最大似然函数法 以得到) ，而第二项是来自于w的不确定 从方差中 以看出 ，1.71的第一项是来自于目标值和估计值之间的噪声(通过最大似然函数法 以得到) ，而第二项是来自于w的不确定 性 ，是贝叶斯方法的结果。 性 ，是贝叶斯方法的结果。 1.3 Model Selection 1.3 Mod