高斯朴素贝叶斯原理及Python实践.docxVIP

高斯朴素贝叶斯原理及Python实践

高斯朴素贝叶斯（GaussianNaiveBayes,GNB）算法是一种基于高斯分布（也称为正态分布）的朴素贝叶斯分类器。该算法在处理特征值为连续型且近似服从正态分布的数据集时表现出色。以下是高斯朴素贝叶斯算法的主要原理：

###一、基本假设

1.**特征条件独立性假设**：朴素贝叶斯算法的一个基本假设是特征之间相互独立，即给定类别下，一个特征的出现不会影响其他特征的出现。这种假设在现实中往往不成立，但在许多情况下，这种简化的假设仍然能够提供良好的分类性能。

2.**高斯分布假设**：高斯朴素贝叶斯进一步假设每个类别的数据特征都遵循高斯分布（正态分布）。因此，我们可以为每个类别学习一个高斯分布，即估计每个特征的均值和方差。

###二、算法原理

1.**参数估计**：

-对于每个类别，计算每个特征的均值（μ）和方差（σ2）。这些参数描述了在该类别下，各个特征的高斯分布。

2.**概率计算**：

-对于新样本，使用高斯概率密度函数计算其在每个类别下的概率。高斯概率密度函数的公式为：

\[

P(x_i|y_c)=\frac{1}{\sqrt{2\pi\sigma_c^2}}\exp\left(-\frac{(x_i-\mu_c)^2}{2\sigma_c^2}\right)