原创力文档- 2
- 0
- 约1.9万字
- 约 16页
- 2023-06-01 发布于四川
- 举报
本申请公开了一种残差网络内存优化方法、装置、设备及介质，涉及残差网络、嵌入式设备技术领域，包括：获取训练后的深度学习模型，并将残差网络中各Add节点的输入量化类型设置为INT32类型，搭建嵌入式设备的深度学习推理框架；利用深度学习推理框架对深度学习模型进行推理，以从各Add节点中确定出导致内存瓶颈的目标Add节点；将目标Add节点的输入量化类型设置为INT7类型，并在深度学习推理框架中更新相应的量化因子，在深度学习推理框架中增加具有INT32类型数据相加功能的第一Add算子和具有INT8类型数据
(19)国家知识产权局
(12)发明专利申请
(10)申请公布号 CN 116187404 A
(43)申请公布日 2023.05.30
(21)申请号 202310077606.4 G06N 5/04 (2023.01)
(22)申请日 2023.01.3
文档评论（0）