2026年人工智能分布式基础易错试题.docx

2026年人工智能分布式基础易错试题

1.单选题（每题2分，共20分）

1.1在参数服务器架构中，若worker节点采用异步SGD更新全局模型，下列哪一项最可能导致“梯度失效”现象？

A.学习率过大

B.参数服务器带宽不足

C.节点本地batchsize过小

D.参数服务器采用一致性哈希分片

答案：A

解析：异步更新下，过大的学习率会使worker上传的“过时”梯度对全局模型造成剧烈扰动，导致目标函数震荡甚至发散，俗称梯度失效。

1.2某系统使用RingAll-Reduce进行梯度聚合，节点数为8，每个节点发送带宽为1Gbps，梯度总大小为256MB。忽略计算与启动延迟，理