面向脉动阵列加速器的软硬件协同容错设计.pdfVIP

://

httwww．skx．com

pjj

:/

DOI１０．１１８９６skx．２４０８０００５５

jj

面向脉动阵列加速器的软硬件协同容错设计

,

魏晓辉１关泽宇１王晨洋１岳恒山１吴旗１２

吉林大学计算机科学与技术学院长春

１１３００１２

吉林大学高性能计算中心长春

２１３００１２

()

weixh＠lu．edu．cn

j

,,().

摘要近年来随着模型推理精度的不断提高卷积神经网络在安全关键领域得到了广泛应用为了满足在实

CNNCNN

、,.,

时性高性能和低功耗计算方面的需求领域专用架构的CNN加速器应运而生其中脉动阵列架构凭借其结构简单和高并

.,,(),

行度等优势被广泛应用然而由于制程变异和设备老化等因素的影响脉动阵列容易发生StuckＧAt故障SAF进而可能导

.,.,、

致灾难性事故因此制定针对脉动阵列的容错策略显得尤为重要然而现有的容错策略存在时间和资源开销大网络参数

.,,

修改过多等问题为实现高效且低开销的轻量级容错策略拟挖掘CNN的固有容错能力对部分影响较小的SAF进行松弛处

,.,,(),

理以减少整体容错开销同时充分考虑脉动阵列的计算特性提出了行列交换和权重拆分两种软硬件协同容错设计有效

.,(),

缓解SAF对模型推理精度的影响实验结果表明相较于传统行列跳过策略和选择保护策略所提软硬件协同容错策略在

执行效率和模型精度恢复方面更具优势.

:;;;;

关键词卷积神经网络容错设计StuckＧAt故障脉动阵列卷积神经网络加速器

中图分类号TP１８３

HardwareＧSoftwareCoＧdesinFaultＧtol