贝叶斯分类器详解.pdfVIP

贝叶斯分类器详解 ⼀、贝叶斯分类器详解 贝叶斯分类器是⼀类分类算法的总称，这类算法均以贝叶斯定理为理论基础。贝叶斯分类器的分类原理是通过先 概率，利⽤贝叶斯公式计 算出后 概率，选择最⼤后 概率所对应的分类结果。 贝叶斯准则 其中，P(c)是先 概率，P(x |c)样本x相对于；类标记c的类条件概率，或称为似然 （likelihood） ；P(x)是⽤于归⼀化的证据因⼦。对于给 定样本x ，证据因⼦与类标记⽆关，则估计P(c|x)可转换为基于训练数据D来估计鲜艳P(c)和似然P(x |c)。类先 概率P(c)可通过各类样本出 现的频率来进⾏估计。对于类条件概率P(x |c)，⼀种常⽤策略是先假定其具有某种确定的概率分布形式，再基于训练样本对概率分布的参数 进⾏估计。 对于朴素贝叶斯分类器，朴素 （naive）的含义是各个特征属性之间是相互独⽴的。例如，在计算p(w |ci)时，我们将特征向量w展开为独⽴ ⼦特征，则转化为 ，这⾥我们有假设所有特征都独⽴，即可以使⽤以下公式来计算 ，这就是利⽤了朴素的原则。 （wi和下⽂的xi是相同含义，表⽰各个特征属性分量） 基于以上，朴