1. 您所在位置：
  2. 网站首页
  3. 文档分类
  4. 行业资料
  5. 国内专利

模型量化方法、装置、设备、计算机程序及存储介质.pdfVIP

  • 9
  • 0
  • 约3.03万字
  • 约 26页
  • 2023-05-11 发布于四川
  • 举报

模型量化方法、装置、设备、计算机程序及存储介质.pdf

    本公开实施例公开了一种模型量化方法、装置、设备、计算机程序及存储介质，能够提高模型量化的精度与量化模型部署的广泛性。方法包括：利用待量化的初始模型进行模型推理，得到初始数据集合；基于目标部署平台的量化模式，对初始模型进行模拟量化，得到量化数据集合；模拟量化用于对初始模型中每个网络层输出的激活值进行量化与还原后进入下一层网络层进行推理；基于初始数据集合与量化数据集合，计算量化误差集合；并基于量化误差集合对初始模型进行调整，得到量化模型；基于每个网络层模拟量化后的激活值的截断值，生成量化参数；量化参

    (19)国家知识产权局 (12)发明专利申请 (10)申请公布号 CN 114580280 A (43)申请公布日 2022.06.03 (21)申请号 202210199396.1 (22)申请日 2022.03.02 (71)申请人 北京市商汤科技开发有限公司 地址

    您可能关注的文档

    最近下载

    文档评论（0）

    1亿VIP精品文档

    更多 >

    相关文档

    更多 >