[电脑基础知识]从决策树学习谈到贝叶斯分类算法、EM、HMM.docVIP

第一篇：从决策树学习谈到贝叶斯分类算法、EM、HMM ? ? 本文借鉴和参考了两本书，一本是Tom M.Mitchhell所著的机器学习，一本是数据挖掘导论，这两本书皆分别是机器学习 数据挖掘领域的开山?or?杠鼎之作。 分类与聚类，监督学习与无监督学习 ? ? 在讲具体的分类和聚类算法之前，有必要讲一下什么是分类，什么是 HYPERLINK /wiki/%E6%95%B0%E6%8D%AE%E8%81%9A%E7%B1%BB \t _blank 聚类，以及都包含哪些具体算法或问题。 Classification (分类)，对于一个 classifier ，通常需要你告诉它“这个东西被分为某某类”这样一些例子，理想情况下，一个 classifier 会从它得到的训练集中进行“学习”，从而具备对未知数据进行分类的能力，这种提供训练数据的过程通常叫做 supervised learning (监督学习)， 而Clustering(聚类)，简单地说就是把相似的东西分到一组，聚类的时候，我们并不关心某一类是什么，我们需要实现的目标只是把相似的东西聚到一起，因此，一个聚类算法通常只需要知道如何计算相似 度就可以开始工作了，因此 clustering 通常并不需要使用训练数据进行学习，这在 Machine Learning 中被称作 unsupervised learning (无监督