推理优化工程师实操清单（必备合集汇编）.docxVIP

推理优化工程师实操清单

第PAGE1页共NUMPAGES1页

推理优化工程师实操清单

解决「延迟高、显存爆、单位成本降不下来」：82项逐条勾选，覆盖前置准备·分步操作·校验标准·常见坑点·收尾归档，附检查表与记录模板，新人照着做也不会漏

使用说明

本清单用于一次完整的大模型推理服务性能优化项目，从目标定义到上线灰度，共9个步骤、52个可勾选项、18个高频坑点。

适用场景：新模型上线前的性能达标、存量服务降本、国产卡替代验证、私有化交付前的性能验收。也可作为新人接手存量服务的第一个月作业指导书。

使用方法：

1.打印后逐项勾选，未勾选项即为当前阻塞点；每完成一个步骤，由项目负责人签字后方可进入下一步。

2.带★的为强制项，跳过将直接导致结论不可信、线上事故或返工。

3.每一步的判断表用于决策，不要跳过直接进入下一步操作。

角色分工：推理优化工程师（执行与结论）、算法工程师（精度容忍度与模型交付）、应用开发（接口与流控）、平台运维（资源与发布）、评测工程师（回归口径）、采购/财务（卡型与预算）。

三条铁律：没有基线的优化不算优化；没有精度回归的压缩不许上线；没有P99的性能报告不算报告。

一、前置准备（22项）

1.1目标与口径定义

序号

检查项

判定标准

勾选

1★

优化目标已书面化

写明在什么硬件、什么模型、什么输入输出长度下，把哪项指标从多少做到多少

?

2★