人工智能研发技术与趋势手册.docx

研发技术与趋势手册

第1章研发技术与趋势手册

1.1基础架构与核心原理

1.1.1深度学习模型架构演进

卷积神经网络（CNN）作为图像识别的基石，通过二维卷积层自动提取空间特征，其基本单元为感受野，随着卷积核大小增加，提取能力从边缘到纹理再到语义对象逐步增强。循环神经网络（RNN）与长短期记忆网络（LSTM）解决了序列数据的时序依赖问题，通过引入门控机制抑制梯度消失，使得模型能够记住序列中的历史信息并后续预测。

Transformer架构通过自注意力机制（Self-Attention）实现了全局上下文理解，将序列视为一组向量进行加权求和，从而在自然语言处理和机器翻译任务中展现