- 0
- 0
- 约1.56万字
- 约 15页
- 2023-10-25 发布于四川
- 举报
本发明公开了一种基于黑盒分析的硬件资源建模方法。该方法包括:基于一般性能表征和特殊性能表征对硬件资源进行建模;其中,所述一般性能表征由根据神经网络特征拟合模型推理延迟的参数向量构成;所述特殊性能表征由根据多设备间相关系数低于设定阈值的神经网络推理延迟向量构成。本发明针对存在多维异构的智能推理设备,构建了一种基于黑盒分析的硬件资源建模方法,实现了对异构设备的统一建模分析,能够有效区分异构设备的DNN推理性能差异。
(19)国家知识产权局
(12)发明专利申请
(10)申请公布号 CN 116933640 A
(43)申请公布日 2023.10.24
(21)申请号 202310916207.2
(22)申请日 2023.07.25
(71)申请人 中国科学技术大学苏州高等研究院
地
原创力文档

文档评论(0)