原创力文档- 1
- 0
- 约2.76万字
- 约 23页
- 2023-04-13 发布于四川
- 举报
本发明实施例提供一种模型量化方法、装置、电子设备和存储介质。所述方法包括：获得校准数据集；利用全精度模型对所述校准数据集进行处理，获得所述全精度模型中的每个块结构的第一输出数据；利用至少一种量化模型对所述校准数据集进行处理，获得所述至少一种量化模型中的每个块结构的第二输出数据；基于第一量化模型中的第一块结构的第二输出数据，和所述全精度模型中与所述第一块结构对应的第二块结构的第一输出数据，对所述第一块结构的参数进行调整；在所述第二输出数据和所述第一输出数据满足第一预设条件的情况下，基于调整后的所述
(19)中华人民共和国国家知识产权局
(12)发明专利申请
(10)申请公布号 CN 113554097 A
(43)申请公布日 2021.10.26
(21)申请号 202110846406.1
(22)申请日 2021.07.26
(71)申请人 北京市商汤科技开发有限公司
文档评论（0）