2026年人工智能推理部署认证试题集及答案.docx

2026年人工智能推理部署认证试题集及答案.docx

2026年人工智能推理部署认证试题集及答案

一、单项选择题(共20题,每题1分,共20分)

1.2026年工业级大语言模型推理部署的核心吞吐量优化技术为连续批处理(ContinuousBatching),下列关于其与静态批处理的核心差异描述正确的是()

A.静态批处理需等待批次内所有请求完成推理才返回结果,连续批处理可动态插入新请求、单独返回已完成请求的结果

B.静态批处理的吞吐量普遍高于连续批处理3倍以上

C.连续批处理仅支持文本生成场景,不支持多模态推理场景

D.连续批处理会显著提升首包延迟(TTFT)

答案:A

解析:2026年主流大模型推理框架vLLM、TGI、Tenso

您可能关注的文档

文档评论(0)

1亿VIP精品文档

相关文档