2026年信息技术竞赛试题及答案.docxVIP

  • 1
  • 0
  • 约8.47千字
  • 约 19页
  • 2026-09-20 发布于四川
  • 举报

2026年信息技术竞赛试题及答案

1.题目:在2026年主流的存算一体AI芯片架构中,针对大语言模型(LLM)推理的权重存储优化,下列技术路径中,能同时兼顾推理延迟降低与片上存储利用率提升的是()

A.将全部LLM权重加载至HBM3e高带宽内存,通过增大内存带宽降低延迟

B.采用4-bit结构化权重量化配合片上SRAM分块驻留策略,仅将当前计算所需的注意力头权重块预取至计算单元旁的SRAM

C.使用FP8精度非结构化稀疏存储权重,通过片外GDDR6X内存随机访问完成权重调度

D.基于3D堆叠DRAM的近存计算架构,将权重全部存储于计算单元下方的堆叠DRAM中

答案:B

解析:选项A全部依赖HBM3e虽带宽较高,但HBM与计算单元间仍存在访存延迟,且未对权重存储本身做优化,片上SRAM利用率低;选项C非结构化稀疏的随机访问会导致GDDR6X带宽浪费,调度延迟极高;选项D近存计算的3D堆叠DRAM容量有限,无法承载70B参数以上规模LLM的全部权重,且访存路径仍长于片上SRAM。结构化4-bit量化可将权重压缩至原FP16精度的1/4大小,配合分块预取策略可让计算单元旁的SRAM始终缓存当前推理步骤所需权重,访存延迟降低60%以上,SRAM利用率可达92%,是2026年存算一体芯片推理优化的主流方案。

2.题目:根据我国2025年正式实施的《生成式人工智能服务安全基本要求》

文档评论(0)

1亿VIP精品文档

相关文档