推理优化工程师岗位说明书（含避坑说明）.docxVIP

推理优化工程师岗位说明书

第PAGE1页共NUMPAGES1页

2026版推理优化工程师岗位说明书

解决「推理优化工程师招不准、定级没依据、考核扯皮」：17张表讲透岗位职责·任职要求·考核指标·薪酬带宽·晋升路径，附JD模板与可打印面试评估表，HR与用人经理可直接套用

一、岗位概述

1.1岗位定位

推理优化工程师属于AI原生技术岗，但它的考核对象不是模型答得对不对，而是模型跑得多快、多贵、多稳。同一个70B模型，同一批GPU，换一个人部署，首字延迟可能从1.8秒降到0.4秒，单卡吞吐可能从600tokens/s提到2400tokens/s，月度账单可能从48万元降到13万元——这中间的差距就是本岗的全部工作内容。

它与算法岗的分工可以用一句话切开：算法岗改模型能力，本岗改模型跑法；算法岗对效果负责，本岗对效率负责。

维度

大模型算法工程师

推理优化工程师

交付物

模型权重、微调方案、效果评测报告

推理服务、性能基线报告、容量与成本模型

核心指标

评测分、准确率、幻觉率

TTFT、TPOT、P99、tokens/s、显存峰值、元/百万token

改动对象

参数、数据配比、对齐策略

精度格式、批处理策略、KVCache布局、算子、并行切分

失败形态

效果不达标，答错、答偏

超时、OOM、吞吐塌陷、账单超预算、长输入下P99爆炸

常用工具

PyTorch、Dee