模型轻量化处理手册（最新版）.docx

模型轻量化处理手册（最新版）

第一章总则

一、手册适用范围

1.覆盖的模型类型

本手册适用于全场景深度学习模型的轻量化全流程操作，覆盖Transformer系列预训练大模型、CNN卷积神经网络模型、RNN循环神经网络模型、多模态融合模型4大类，参数规模覆盖1B-70B的通用大模型，以及10M以下的端侧小模型，支持计算机视觉、自然语言处理、语音识别、工业检测、医疗影像识别等全部AI落地领域的轻量化改造需求。

2.适配的部署硬件

本手册操作流程适配ARM架构嵌入式设备、x86低功耗边缘服务器、FPGA加速卡、移动端芯片、RISC-V架构物联网设备5类主流部署硬件，算力覆盖0.5TOPS-10