基于脉动阵列的注意力机制加速器设计与数据复用优化 .docxVIP

PAGE2

基于脉动阵列的注意力机制加速器设计与数据复用优化

摘要

随着大模型技术的飞速发展，Transformer架构中的注意力机制成为核心算力瓶颈。其密集的矩阵乘法与高昂的访存开销，严重制约了硬件执行效率。本课题旨在设计一款基于脉动阵列的注意力机制加速器，并针对QKV数据访存瓶颈提出优化方案。

课题遵循工程递进思路展开。首先，剖析注意力机制的计算特性与访存痛点，完成需求分析。其次，基于数据流特征进行总体架构设计，划分计算阵列与存储控制模块。接着，在详细设计阶段，重点构建脉动阵列微架构与QKV数据复用控制逻辑，通过数据驻留与广播策略减少片外访存。最终，完成RTL实现与仿真验证，测试结果表明加速器在保证计算精度的前提下，显著降低了访存带宽需求。

本设计的核心创新点在于提出了针对注意力计算的QKV数据复用策略，结合脉动阵列的流水特性，实现了计算与访存的高效解耦，为边缘端AI芯片设计提供了有价值的参考。

第一章绪论

1.1研究背景

近年来，以大语言模型为代表的人工智能技术取得了突破性进展，其背后的Transformer架构已成为自然语言处理与计算机视觉领域的通用范式。Transformer的核心在于自注意力机制，它通过计算序列中任意两个元素的关联度，捕获全局上下文信息。

然而，注意力机制的计算复杂度随序列长度呈二次方增长，导致庞大的算力需求。更严重的是，Q、K、V矩阵的频繁读