1. 您所在位置：
  2. 网站首页
  3. 文档分类
  4. 行业资料
  5. 国内专利

神经网络模型中归一化算子的量化方法、装置、电子设备.pdfVIP

  • 3
  • 0
  • 约3.39万字
  • 约 17页
  • 2023-10-28 发布于四川
  • 举报

神经网络模型中归一化算子的量化方法、装置、电子设备.pdf

    本申请实施例提供了一种神经网络模型中归一化算子的量化方法、装置、电子设备及计算机可读存储介质，涉及神经网络领域。该方法包括：根据浮点输出数据、量化位宽、浮点缩放参数以及第一移位数，获得第一量化系数；根据定点输入数据、第二移位数和量化位宽，获得定点归一化结果；根据定点缩放参数、定点平移参数、定点归一化结果，获得初始定点输出数据；根据第一量化系数对初始定点输出数据进行量化，将量化结果以第一移位数进行移位，获得定点输出数据。本申请实施例无需全部求出均值和方差，规避了传统计算均值和方差的方法带来的误差，

    (19)国家知识产权局 (12)发明专利申请 (10)申请公布号 CN 116956989 A (43)申请公布日 2023.10.27 (21)申请号 202310955099.X (22)申请日 2023.07.31 (71)申请人 安谋科技（中国）有限公司 地址

    您可能关注的文档

    最近下载

    文档评论（0）

    1亿VIP精品文档

    更多 >

    相关文档

    更多 >