深度学习基础与实践 教案2.4任务实施（操作参考）.docx

PAGE

PAGE1

2.4任务实施：常用代价函数实验

2.4.1任务书

常用代价函数实验，主要包含以下内容：实现最小二乘法；实现L1，L2代价函数；实现交叉熵。

2.4.2任务分组

表2-3学生任务分配表

班级

组号

指导老师

组长

学号

成员数量

组长任务

组员姓名

学号

任务分工

2.4.3获取信息

引导问题1：自主学习，了解各类代价函数的优缺点和适用范围，如L1代价函数、L2代价函数、交叉熵代价函数等。

L1代价函数：

优点：有着稳定的梯度，不会导致梯度爆炸问题，具有较为稳健性的解，适用于回归问题。

缺点：中心点是折点，不能求导，且由于稳定的梯度，在接近解的附近会发生持续的震荡。

L2代价函数：

优点：各点都连续光滑，方便求导，具有较为稳定的解，适用于回归问题。

缺点：因为当函数的输入值距离中心值较远的时候，使用梯度下降法求解的时候梯度很大，可能导致梯度爆炸；在接近于真实值的时候，曲线却变得十分的平缓，甚至可能会出现梯度趋向于0的情况，这就造成训练速度变慢。

交叉熵代价函数：

优点：对于网络输出的概率分布，交叉熵代价函数能够量化其与真实分布的差异，从而减小了误差；对于存在类别不平衡的多分类问题，交叉熵代价函数能够根据不同类别的权重进行加权，从而更加合理地评估模型性能；交叉熵函数在反向求导中，避开了softmax函数自身导数的影响

缺点：在多分类问题中，交叉熵代价函数需要对每个类别的输出进行计算，因此对于类别数目较大的问题，其计算代价也会较高；对于存在类别噪声的问题，交叉熵代价函数可能会过分关注噪声类别，从而影响模型性能。

2.4.4工作实施

引导问题2：根据实验手册，学会如何新建项目以及配置环境。

1）创建实验检测路径及文件。在实验环境的桌面右键点击“创建文件夹(F)...”，输入文件夹名称为“test2”，如图2-20所示。打开“test2”文件夹，会显示其路径为“/home/techuser/Desktop/test2”

图2-20创建新文件夹

打开“PyCharm”，在“WelcometoPyCharm”窗口界面中点击“CreateNewProject”新建一个工程，或者在已经打开的“PyCharm”主界面中选择菜单栏中的“File”，然后点击“NewProject”。

2）选择配置好的python环境，接着点击最右边的文件夹图标，浏览系统文件夹，选择新创建的“test2”文件夹，文件夹路径为“/home/techuser/Desktop/test2”，如图2-21所示。

图2-21选择系统路径

配置项目环境，先点击“ProjectInterpreter:Python3.7(Course)”，然后点击“Existinginterpreter”右侧“更多”图标的按钮，如图2-22所示。

图2-22选择Python版本

选择左侧“CondaEnvironment”，然后点击最右边的“更多”图标的按钮，浏览系统文件，再到路径“/home/techuser/anaconda3/envs/Course/bin/python”选择“python”文件，点击“OK”，如图2-23所示。

图2-23配置项目环境

最后点击“Create”即可，如图2-24所示。

图2-24创建项目

是否完成项目创建与环境配置？￡是￡否

3）新建3个python文件“topic1.py”、“topic2.py”、“topic3.py”，将分别用于保存下述三个实验的代码。

引导问题3：数据是深度学习的基础，无论是模型的拟合还是神经网络的训练都离不开数据的支持。查阅资料了解在深度学习中数据以及数据预处理的重要性。

数据集下载（两者二选一）

（1）直接下载地址：“/file/2676/data.csv”；

（2）数据下载地址（需要自己复制数据）：“/chenmingjun/phtml#_label0_6”，并请新建Excel表格命名为“data.csv”。将数据文件保存到目录“/home/techuser/Desktop/test2”中，数据集格式如图2-25所示。

图2-25数据集格式

数据及数据预处理的重要性：

深度学习模型对于输入数据的质量和数量都有很高的要求，而数据预处理则是保证数据质量的关键步骤。

1.提高模型的训练效果：优质的数据可以提供更加准确的信息，从而帮助模型更好地学习和预测。

2.减少模型的过拟合：通过数据清洗和归一化等操作，可以缩小不同特征之间的差异，从而减少模型对于噪声和无用信息的关注，进而减少过拟合的发生。

3.提高模型的泛化能力：经过充分的数据预处理，可以提供更加丰富的数据信息，从而帮助模型更好地处理新数据，提高泛化能力。

引导问题4：实