贝叶斯机器学习前沿进展综述.pdfVIP

计算机研究 与发展 DOI：10．7544／issn1OOO一1239．2015 JournalofComputerResearchandDevelopment 52(1)：16—26，2O15 贝叶斯机器学习前沿进展综述 朱 军 胡文波 (智能技术与系统 国家重点实验室(清华大学) 北京 100084) (清华信 息科学与技术 国家实验室(筹) 北京 100084) (清华大学计算机科学技术系 北京 100084) (deszj@mail．tsinghua．edu．cn) RecentAdvancesinBayesianM achineLearning ZhuJunandHUW enbo fSateKeyLaboratoryofIntelligentTechnologyandSystems(TsinghuaUniversity)，Beijing100084) (TsinghuaNationalLaboratoryforInformationScienceandTechnology，Beijing100084) (DepartmentofComputerScienceandTechnology，TsinghuaUniversity，Beijing100084) Abstract W ith thefastgrowth ofbig data，statisticalmachine learning has attracted tremendous attention from both industry and academ ia，with many successfulapplications in vision， speech， naturallanguage。and biology． In particular，the lastdecades have seen the fastdevelopment of Bayesianmachinelearning，which isnow representingavery importantclassoftechniques． In this article。weprovidean overview oftherecentadvancesin Bayesian machinelearning，including the basics of Bayesian machine learning theory and methods， nonparametric Bayesian methods and inferencealgorithms，andregularizedBayesianinference．Finally，wealsohighlightthechallengesand recentprogressonlarge—scaleBayesianlearningforbigdata，anddiscusson somefuturedirections． Keywords Bayesianmachinelearning；nonparametricmethods；regularizedmethods；learningwith bigdata；bigBayesianlearning 摘 要 随着大数据的快速发展 ，以概率统计为基础的机器学．-j在近年来受到工业界和学术界的极 大关 注 ，并在视 觉、语音 、自然语言、生物等领域获得很 多重要的成功应用，其中贝叶斯方法在过去 20多年也 得到了快速发展，成为非常重要的一类机器学．-j方法．总结了贝叶斯方法在机器学．-j中的最新进展 ，具 体 内容包括贝叶斯机器学习的基础理论与方法、非参数 贝叶斯方法及常用的推理方法、正则化 贝叶斯方 法等．最后 ，还针对大规模 贝叶斯学．-j问题进行 了简要 的介绍和展望，对其发展趋势作 了总结和展望． 关键词 贝叶斯机器学习；非参数方法；正则化方法；大数据学-*3；大数据 贝叶斯学习 中图法分类号 TP181 机器学习是人工智能及模式识别领域 的共 同研 correct，PAC)学 习理论 ；2011年 的图灵奖获得 者 究热点 ，其理论和方法 已被广泛应用于解决工程应 为加州