高教社课件模式识别与数据挖掘教材PPT-第5章-浅层分类器.pptxVIP

第五章浅层分类器;目;引言;引言;线性判别学习;线性判别学习;;线性判别学习;线性判别学习;线性判别学习;线性判别学习;线性判别学习;线性判别学习;;近邻法;近邻法;近邻法;决策树;决策树;;信息增益的数学表达;信息增益的数学表达;信息增益的数学表达;此外，在特征度量时还有增益率和基尼指数两个改进的指标可用;;决策树;决策树;决策树;决策树;浅层神经网络;人工神经网络;人工神经网络;人工神经网络;神经元结构;激活函数

在神经元结构中使用激活函数的主要原因在于,如果不使用激活函数,每一层的输出将仅为上层输入的线性函数。这意味着无论神经网络的层数有多少,最终的输出都是输入的线性组合。而引入激活函数后,神经元能够实现非线性映射,使得神经网络能够任意逼近任何非线性函数。

常用的激活函数有以下几种形式：

阶跃函数:

Sigmoid函数：;激活函数

常用的激活函数有以下几种形式：

(1)阶跃函数:

特点：输出仅有两个值,0和1,这使得它非常适合用于二分类问题。可以将其视为一种激活机制,当输入信号达到一定阈值时,神经元被激活。

缺陷：其具有离散性，在反向传播时,无法根据输出误差有效地更新权重,这使得神经网络在训练时难以收敛.

;激活函数

(2)Sigmoid函数：

特点：Sigmoid函数也称Logistic函数，输出值范围是(0,1)。这使