2026年人工智能并行计算真题题库.docx

2026年人工智能并行计算真题题库

1.单选题（每题2分，共20分）

1.1在NVIDIAA100GPU上，若启用TensorFloat-32（TF32）精度，下列哪一项最能描述其峰值稠密矩阵乘算力相对于FP32的加速比？

A.1×?B.2×?C.4×?D.8×

1.2在数据并行训练中，若全局批大小为8192，使用256张GPU，则每张GPU的本地微批大小为

A.8?B.16?C.32?D.64

1.3下列哪种通信原语最适合实现All-Reduce的Ring算法？

A.broadcast?B.reduce-scatter?C.all-gather?D.poi