AI 推理框架工程师考试试卷及答案.docVIP

AI推理框架工程师考试试卷及答案

AI推理框架工程师考试试卷及答案

一、填空题（共10题，每题1分）

1.常用的开源AI推理框架有TensorRT、______等。

2.模型量化中，将FP32转为INT8的技术称为______量化。

3.推理框架中，______是指将多个模型或算子合并以提高效率的技术。

4.ONNX格式的全称是OpenNeuralNetwork______。

5.TensorRT的核心优化技术包括层融合、______和动态张量显存。

6.推理过程中，______是指模型在不同设备上的适配过程。

7.常见的推理加速硬件有GPU、______和FPGA。

8.模型推理时，输入数据的预处理通常包括归一化、______等步骤。

9.推理框架中的______机制可以动态调整batchsize以适应不同场景。

10.模型剪枝技术主要分为结构化剪枝和______剪枝。

二、单项选择题（共10题，每题2分）

1.TensorRT主要针对哪种硬件进行推理优化？（A）CPU（B）GPU（C）FPGA（D）ASIC

2.ONNX格式的主要作用是？（A）模型训练（B）模型部署（C）模型交换（D）模型可视化

3.以下哪种技术可以减少模型推理时的内存占用？（A）模型量化（B）数据增强（C）随机梯度下降（D）dropout

4.推理框架中，“算子融合”的目的是？（A）增加模型复杂度（B）提高