清华社课件人工智能导论第4章 深度学习新方法.pptxVIP

第四章深度学习新方法

深度学习新范式

3自监督学习的基本概念监督学习（SupervisedLearning）：有标注，学习拟合特征与标签间的映射自监督学习（Self-SupervisedLearning）：无标注，学习特征的通用表示猫猫狗狗未知未知未知未知

4AI模型训练常用流程：自监督预训练（特征提取）＋有监督微调（例如分类）自监督学习的基本概念1.预训练2.微调海量无标注样本自监督学习少量标注样本监督学习特征通用表示分类器

5自监督学习的基本概念自监督学习的两类方法：掩码学习对比学习对比学习：判别图片相关性（差异性）掩码学习：预测被遮盖的图片/文字信息

6掩码学习学习目标：根据上下文（Context）推断缺失的信息，基于剩余部分预测被隐藏部分掩码操作：隐藏输入样本的一部分（例如句子中的某些词语或图像中的某些区域）文本掩码图像掩码

7掩码学习掩码学习的两类典型方法：自回归自编码自编码（以MAE模型预测图像为例）：随机隐藏输入中的部分元素自回归（以GPT模型预测词元为例）：隐藏当前预测位置及后续位置的所有元素

8对比学习????对比学习的三类样本

9对比学习????如何实现这一学习目标？对比学习的三类样本

10InfoNCE损失函数经典损失函数InfoNCE：InformationNoiseContrastiveEstimation信息噪声对比估计

11In