机器学习系统与优化 教案 案例19-第五章 基于混合并行的推荐系统训练（DeepFM on大规模点击日志）.docx

案例19——基于混合并行的推荐系统训练（DeepFMon大规模点击日志）

工业级推荐系统（如广告点击率预测）通常处理数十亿样本和数亿特征，涉及大规模稀疏嵌入表（EmbeddingTable）。混合并行结合数据并行与模型并行的优势，既能处理大数据量，又能应对大模型参数。本案例以DeepFM模型在大规模点击日志上的训练为例，展示分布式嵌入表与混合并行优化的实现。

1．系统架构与算法流程

数据特征：

稠密特征（如用户年龄、点击时长）：维度较低。

稀疏特征（如用户ID、物品ID）：维度高达108

模型结构：DeepFM＝FM（因子分解机）+DNN（深度神经网络）。

并行策略：

数据并行：用于D