ESM：用于构建有效的硬件感知神经架构搜索替代模型的框架.pdfVIP

©2025IEEE.这是作者的工作版本。最终版本发表于

设计自动化大会（DAC），美国旧金山，2025年6月。

ESM：用于构建有效的硬件感知神经架构搜索替代模型的

框架

Azaz-Ur-RehmanNasir,SamrozAhmadShoaib,MuhammadAbdullahHanif,MuhammadShafique

eBRAINLab,DivisionofEngineering,NewYorkUniversityAbuDhabi,UAE

{an3525,ss14256,mh6117,muhammad.shafique}@nyu.edu

摘要—硬件感知神经架构搜索（NAS）是为资源受限设备设Suboptimalw.r.t.ActualValuesPareto-optimalw.r.t.ActualValues

计高效深度神经网络（DNNs）最有前途的技术之一。代理模型在100

y

硬件感知NAS中扮演着至关重要的角色，因为它们能够对目标硬c90

a

r

件设备上不同候选模型的性能特征（例如推理延迟和能耗）进行有u]80

cePareto-front

效预测。本文重点在于构建硬件感知的延迟预测模型。我们研究了cg

Aa70withactuallatency

不同类型代理模型并突出了各自的优缺点。我们进行了系统性分%

5[values

析以了解影响这些模型预测准确性的各种因素，旨在评估涉及模p60

o

型设计过程中每个阶段的重要性，并确定设计/训练有效估计模型T50

所需的方法和策略，特别是针对GPU驱动设备。基于从分析中获(a)0.0020.0030.0040.005

得的见解，我们提出了一种整体框架，该框架能够生成可靠的数据Latency[sec]

库并高效地构建模型，考虑了模型生成管道各阶段的整体成本。y100

IndexTerms—神经架构搜索，代理模型，硬件，延迟预测，c90

a