2025年人工智能技术应用与发展趋势手册.docxVIP

2025年技术应用与发展趋势手册

第1章

式基础与核心架构演进

1.1大原理与训练范式变革

大（LLM）本质上是一个基于Transformer架构的序列模型，其核心工作原理是将输入文本序列视为一系列令牌（token），通过自注意力机制（Self-Attention）和多头注意力机制（Multi-HeadAttention）捕捉长距离依赖关系，并结合前馈神经网络（FFN）进行非线性变换，从而学会语言世界的统计规律。在训练范式上，LLM经历了从监督微调（SFT）到人类反馈强化学习（RLHF）的范式转移。传统SFT通过标注好的指令数据让模型模仿人类指令，而RLHF则引入奖励模型（RewardModel）和人类反馈（HumanFeedback），通过最大化人类偏好评分来对齐模型价值观，解决了模型“聪明但危险”的问题。

数据是训练成功的关键，现代LLM训练通常使用数十亿参数，需要海量的高质量语料。例如，在构建语料库时，需严格过滤掉包含暴力、仇恨言论或隐私信息的样本，同时引入高难度的数学推理和逻辑推理任务数据，以提升模型的逻辑链条构建能力。训练过程中，模型会经历“预训练（Pre-training）”、“指令微调（SFT）”和“对齐（Alignment）”三个主要阶段。预训练阶段在通用语料上让模型掌握语言基础；SFT阶段在特定领域指令数据上让模型学会如何执