2026年人工智能训练师实操技能易错试题及解析.docxVIP

  • 9
  • 0
  • 约1.44万字
  • 约 29页
  • 2026-04-15 发布于四川
  • 举报

2026年人工智能训练师实操技能易错试题及解析.docx

2026年人工智能训练师实操技能易错试题及解析

1.(单选)在PyTorch2.1中,将float32模型以INT8静态量化部署到ARMCortex-A78,若观察到推理延迟反而增加20%,最可能忽略的步骤是

A.在校准集上运行torch.backends.quantized.engine=qnnpack

B.对Conv-BN-ReLU6结构执行torch.nn.utils.fusion.fuse_modules

C.将权重预置为torch.qint8后再调用torch.quantization.convert

D.在校准前把模型切换为train模式收集动态范围

答案:D

解析:静态量化必须在eval模式下收集统计量;train模式会更新BN的running_mean/var,导致scale/zero-point漂移,量化参数失效,反而增加反量化开销。

2.(单选)使用DeepSpeedZeRO-3训练一个7B参数模型,节点数=8,每节点A100-80G,当batch_size=4、sequence_length=4096时,出现“OOM”报错。下列参数调整中,唯一可能在不降低batch前提下解除OOM的是

A.将zero_stage改为2

B.增大allgather_bucket_size到5e8

C.开启cpu_offload同时降低reduce_bucke

文档评论(0)

1亿VIP精品文档

相关文档