2025年大模型运维工程师模拟卷及答案.docxVIP

2025年大模型运维工程师模拟卷及答案

一、单项选择题（每题2分，共20分）

1.针对千亿参数级大语言模型（LLM）的在线推理部署，以下哪种架构最适合应对突发百万级并发请求？

A.单节点GPU直连推理服务

B.基于Kubernetes的分布式推理集群+模型分片

C.边缘节点部署轻量级蒸馏模型

D.云函数（Serverless）无状态推理实例

答案：B

解析：千亿参数模型单节点无法存储完整权重，需通过模型分片（如张量切片、流水线并行）分布在多GPU节点；Kubernetes提供弹性扩缩容能力，可应对突发流量；Serverless受限于冷启动延迟，边缘部署无法承载百万级并发。

2.大模型运维中，衡量“服务可用性”的核心指标是？

A.平均推理延迟（ms）

B.99分位推理延迟（ms）

C.服务成功率（%）

D.GPU显存利用率（%）

答案：C

解析：可用性定义为服务在指定时间内正常运行的比例（MTBF/(MTBF+MTTR)），直接体现为请求成功处理的比例；延迟和利用率属于性能指标，非可用性核心。

3.某大模型在峰值时段出现“显存OOM（OutOfMemory）”报错，优先排查的是？

A.GPU驱动版本兼容性

B.模型推理批处理大小（BatchSize）

C.监控系统告警阈值设置

D.训练数据质量

答案：B

解析：批处理大小过大会导致单批次计算所需显存激增，是OOM的常见原因；驱动兼容性问题通常表现为服务启动失败而非峰值时段报错；监控阈值是结果而非原因；训练数据不影响推理阶段显存使用。

4.多租户共享大模型推理集群时，以下哪种资源隔离方案对算力利用率影响最小？

A.基于vGPU的硬件级隔离

B.通过cgroup限制CPU/内存

C.模型实例独立容器化部署

D.动态优先级调度+配额管理

答案：D

解析：vGPU和独立容器会固定分配资源，可能造成空闲浪费；cgroup对GPU无隔离效果；动态调度根据实时负载调整配额（如高优先级租户优先占用空闲资源），可最大化利用率。

5.对大模型进行量化压缩（如FP16转INT8）后，运维需重点监控的指标是？

A.模型参数量变化

B.推理吞吐量提升率

C.输出结果准确率波动

D.GPU温度

答案：C

解析：量化可能引入精度损失，需监控业务侧反馈的结果质量（如问答准确率、生成内容相关性）；吞吐量提升是优化目标，非监控重点；参数量在量化后通常不变（仅存储格式变化）。

6.大模型日志中出现“CUDA_ERROR_LAUNCH_TIMEOUT”错误，最可能的原因是？

A.GPU计算任务超过驱动允许的最大执行时间

B.网络延迟导致数据传输超时

C.模型权重文件损坏

D.CPU与GPU间内存拷贝带宽不足

答案：A

解析：CUDA驱动默认限制单GPU核函数执行时间（通常≤10秒），复杂模型推理或过大BatchSize可能触发此超时；网络延迟对应“连接超时”类错误；权重损坏多表现为计算结果异常而非执行超时。

7.部署多模态大模型（支持文本、图像、视频输入）时，运维需额外关注的是？

A.不同模态输入的流量占比

B.GPU计算单元（CUDACore）数量

C.模型微调频率

D.训练框架版本

答案：A

解析：多模态输入的流量分布（如视频占比高时）会影响资源需求（视频需解码+特征提取，计算量远高于文本），需针对性优化（如预加载视频解码器、动态调整各模态实例数量）；CUDACore数量是硬件固有属性，非部署时额外关注点。

8.大模型定期全量备份时，以下哪种策略最符合“RPO（恢复点目标）”最小化要求？

A.每日凌晨全量备份+每小时增量备份

B.每周全量备份+每日增量备份

C.实时镜像同步到异地机房

D.每月全量备份+每周增量备份

答案：C

解析：RPO指故障后可恢复的最近数据点与故障时间的间隔，实时镜像同步的RPO接近0；增量备份的RPO为上一次增量备份到故障的时间差，全量备份频率越低RPO越大。

9.某大模型在A/B测试中，实验组（优化后）的推理延迟下降15%，但用户投诉率上升20%，最可能的原因是？

A.测试流量未覆盖真实用户场景

B.GPU显存分配不足

C.模型输出质量下降

D.监控系统指标采集错误

答案：C

解析：延迟下降但用户投诉率上升，直接关联输出质量（如生成内容错误、回答相关性降低）；测试流量偏差可能导致延迟数据不真实，但不会反向导致投诉；显存不足会导致OOM而非质量