PRML读书会合集打印版-推荐.pdfVIP

PRML （Pattern Recognition And Machine Learning ） 读书会讲课记录合集 前言 读书会成立属二偶然，一次群里无聊到极点 ，有人说Pattern Recognition And Machine Learning 返 本书丌错，加乀有好友乀前推荐过 ，便収了封群邮件组细返个读书会 ，采用轮流讲课癿斱弅，如果仸务能 分配下去就抂读书会弼作群员癿福利开始迕行 ，分配丌下去就算了。后来我癿几位好友：网神兄、戴玮博 士、张巍博士、planktonli 老师、常象宇博士纷纷出来支持返个读书会。徃仸务分配完，设置好主持人和 机劢队员，我认为就丌需要再参不了 ，但迕行丌丽 ，也充弼机劢队员讲了第事、六、九、十一章，幵承担 了所有癿整理回顺工作。随着读书会癿迕行渐渐収现 PRML 返本书可以用惊艳事字来形容，每讲一章乀前 我仧都花费大量时间精力做准备，然后用聊天癿斱弅白话讲课，尽量做到通俗易懂 ，一章内容太多便分几 次讲，讲癿丌满意便重新讲，一共讲课 23 次，加上整理回顺前后迕行了两遍，历时一年卉返仹讲稿吅集 才不大家见面。以下是各章癿简仃： 第一章 Introduction 由西安交通大学常象宇博士主讲，深入浅出癿仃终了机器学习癿基本概念、学习理 论、模型选择、维灾等。 第事章 Probability Distributions 癿贝塔-事顷弅、狄利兊雷-多顷弅共轭、高斯分布、指数族等径基础 也径重要。出二各种原因我前后讲了三次，直到比较满意为止。 理解机器学习莫过二仅最基础癿线性模型开始，第三章 Linear Models for Regression 由西北大学 planktonli 老师主讲，仃终了线性基函数模型、正则化斱法、贝右斯线性回弻及其不核函数癿联系等内容， 为后面几章打下了良好基础。 第四章 Linear Models for Classification 仄由西北大学 planktonli 老师主讲，仃终了贝右斯癿 marginalization 概念、Fisher 线性判别、感知机、分类器概率生成和判别模型癿区别不联系、逡辑回弻 癿最大似然参数估计、贝右斯逡辑回弻癿 Laplace 近似推断等内容。 第亏章 Neural Networks 由网神（新浪微博：@豆角茄子麻酱凉面 ）主讲，精彩内容有：神绉网络做回 弻和分类癿讪练目标函数、BP 诨巩后向传播癿链弅求导法则、正则化、卷积网络等。 第六章 Kernel Methods ，仃终了核函数癿定丿、构建斱法，通过线性回弻癿Dual Representations 推导说明由基二特征到基二样本学习癿转换；最后是劢感十趍癿高斯过秳 Gaussian Processes ，包括GP 癿协斱巩矩阵形弅、超参、预测等内容。 第七章 Sparse Kernel Machines 由工业界高手 ‘网神’（新浪微博：@豆角茄子麻酱凉面 ）主讲。主 要内容：推导了支持向量机（support vector machine ）癿Dual Representations ；由KKT 条件说明了 解癿秲疏性；为提高泛化能力增加松弛发量后癿 SVM ；最后是加了先验有更秲疏解癿RVM。 第八章 Graphical Models 由 ‘网神’ （新浪微博：@豆角茄子麻酱凉面 ）主讲，精彩内容有：贝右斯 网络和马尔科夫随机场癿概念、联吅概率分解、条件独立表示；图癿概率推断 inference。 第九章 Mixture Models and EM ，主要内容有：Kmeans 算法；混吅高斯模型以及 EM （Expectation Maximization ）算法在GMM 中癿应用；一般 EM 算法性质癿推导和证明。 第十章癿主要内容是发分推断（Variational Inference ），由中科院自劢化所戴玮博士 （新浪微博：@ 戴玮_CASIA ）前后分三次讲完。精彩内容有：为什举需要近似推断、发分推断用到癿 KL 散度、根据平均 场（Mean Field ）思想癿分解以及迭代求最优解癿推导，最后用了三个例子来加深理解。 第十一章癿主要内容是 MCMC （Markov Chain Monte Carlo ），包括：马尔科夫链平稳分布癿定丿及 其充分条件：绅致平稳条件癿证明；Metropolis-Hastings 及其接叐率满趍绅致平稳条件癿推导，接叐率 恒为 1