原创力文档- 8
- 0
- 约1.05万字
- 约 11页
- 2023-11-22 发布于四川
- 举报
本发明提供一种基于代理模型和遗传算法的CNN算子间调度方法，属于深度学习模型推理优化领域。本发明首先根据被调度的CNN模型，获得CNN中的算子和数据依赖关系等信息；为遗传算法设计适应度函数并使用代理模型，以避免在遗传算法运行过程中，测量解的适应度时，对CNN推理时延在硬件上的实际测量，从而极大缩短了遗传算法的运行时间开销；使用基于代理模型的遗传算法，搜索出一系列能减少CNN推理时延的调度。本方法搜索得到的调度可在GPU上实际部署运行，并获得其真实推理时延。
(19)国家知识产权局
(12)发明专利申请
(10)申请公布号 CN 117093338 A
(43)申请公布日 2023.11.21
(21)申请号 202310727571.4
(22)申请日 2023.06.19
(71)申请人 大连理工大学
文档评论（0）