2026年人工智能工程师面试题及答案.docx

2026年人工智能工程师面试题及答案.docx

2026年人工智能工程师面试题及答案

一、单项选择题(共10题,每题只有1个正确答案)

1.以下大模型推理加速技术中,通过动态跳过Transformer层中冗余注意力头计算、且精度损失控制在1%以内的是()

A.SpeculativeDecodingB.SparseAttentionC.HeadPruningD.Key-ValueCacheQuantization

答案:C。解析:HeadPruning(结构化注意力头剪枝)通过预训练阶段对注意力头贡献度打分,推理时动态剔除贡献度低于阈值的头,经Llama3-70B实测可降低32%推理时延,精度损失0.8%

文档评论(0)

1亿VIP精品文档

相关文档