深度学习核心知识点（精炼系统版，零基础可吃透）.docxVIP

深度学习核心知识点（精炼系统版，零基础可吃透）

一、深度学习基础概念

定义：深度学习是基于多层神经网络的机器学习分支，通过多层非线性变换，自动从海量数据中提取高维特征，无需人工设计特征，是人工智能的核心技术。

核心本质：浅层网络提取简单特征（线条、纹理），深层网络融合复杂特征（轮廓、语义、逻辑）。

与传统机器学习区别：传统机器学习依赖人工特征工程；深度学习端到端自动特征学习，数据量越大效果越好。

二、神经网络核心组成

1.基础单元：神经元（感知机）

输入、权重、偏置、激活函数、输出

权重：学习的核心，通过训练不断更新

偏置：微调模型，提升拟合能力

2.网络层级

输入层：接收原始数据（图像、文本、数值）

隐藏层：多层非线性运算，特征提取核心（深度学习=≥2层隐藏层）

输出层：输出预测结果（分类/回归）

3.激活函数（核心：引入非线性）

无激活函数的网络等价于线性回归，无法拟合复杂数据

Sigmoid：二分类输出，易梯度消失

Tanh：值域对称，缓解偏移，仍存在梯度消失

ReLU：主流激活函数，缓解梯度消失、计算快

Softmax：多分类输出，输出概率和为1

三、核心训练原理

1.前向传播

数据从输入层→隐藏层→输出层，逐层计算，得到预测值。

2.损失函数

衡量预测值与真实值的误差

回归：MSE均方误差

二分类：二元交叉熵

多分类：交叉熵损失

3.反向传播