机器学习（慕课版）实验及参考结果 实验4 朴素贝叶斯分类器处理 MNIST 数据集.pdf

朴素贝叶斯分类器处理MNIST数据集

报告分：(100points)

Attendance(5points)Results(10points)

1.实验课时签到成功(5)1.给出算法正确和可运行程序(10)

2.实验课时没有签到成功(0)2.程序算法原理有部分理解错误(5)

3.程序算法原理和程序都有完全错误(0)

ContentofReport(55points)FormatinReport(30points)

1.要求点全部高质量完成(55)1.图表、引用等符合学术规范(15)、语言清

晰，逻辑明确和表述清晰完整(15)

2.要求点完成但有错误(给分点减半)2.图表、引用不符合学术规范(0)

3.要求点没有完成(扣相应给分点的分)3.语言清晰，逻辑明确和表述清晰完整(0)

最终本次实验得分成绩=报告分（时间或算法）性能排序因子

（时间或算法）性能排序因子为：

·top1-3，100

·Top4-10，95

·Top11-15，90

·Top16-最后，80

性能可以并列第一。

1问题描述

实验要求使用朴素贝叶斯分类器来对MNIST数据集进行分类。MNIST数据集是手写数字的数据

集，其中每个样本都是一个28x28像素的图像，对应0到9的数字标签。

2问题的本质和分析

朴素贝叶斯方法对手写数字图像进行分类，朴素贝叶斯分类器天真地假设所有特征（这里是像素）

之间是条件独立的。

3解决问题的思路和结果预测

首先进行数据的预处理，将像素值二值化，使其变为0或1。然后我们使用训练集来计算先验概率

和特征的条件概率。最后，我们使用这些概率来预测测试集的类标签。

考虑到MNIST数据集的复杂性，不难猜到这种简单的方法可能不会达到最先进的结果，但应该可

以获得令人接受的准确率。

4解决问题中遇到的难点

1.数据量大，需要高效的计算方法。

2.二值化可能丢失一些图像的重要信息。

3.对于图像数据，特征间的条件独立假设可能不太合理。

4.单纯的朴素贝叶斯肯定有不够高的上限。

5关键代码的实现与解释

5.1先验概率的计算

公式：

P(y)

1self.class_log_prior_=np.log(np.bincount(y)/len(y))

计算每个类y的先验概率，并将结果保存为对数值。‘np.bincount(y)‘计算每个类在数据集中出现的次数，

然后除以总样本数得到每个类的先验概率。

5.2计算特征的条件概率

公式：

Count(x,y)+1

P(x|y)=i

i

Count(y)+|V|

1

1forcinnp.unique(y):

2X_c=x[y==c]

3self.feature_log_prob_[c,:]=np.log((X_c.sum(axis=0)+1