2025年Web端AI推理加速优化案例试题（含答案与解析）.docx

2025年Web端AI推理加速优化案例试题（含答案与解析）

一、单选题（共15题）

1.以下哪种技术可以实现模型在多核CPU上的并行推理，从而提高推理速度？

A.模型量化（INT8/FP16）

B.模型并行策略

C.知识蒸馏

D.结构剪枝

答案：B

解析：模型并行策略可以将模型的不同部分分配到不同的处理器上并行执行，从而提高推理速度。这种策略适用于大规模模型，如BERT或GPT，在多核CPU上的并行推理可以显著提升性能，参考《深度学习模型并行技术》2025版4.2节。

2.在进行分布式训练时，以下哪种框架支持自动优化模型并行和数据并行？

A.TensorFlow

B.P