1. 您所在位置：
  2. 网站首页
  3. 文档分类
  4. 行业资料
  5. 国内专利

一种神经网络模型的量化方法.pdfVIP

  • 6
  • 0
  • 约2.07万字
  • 约 17页
  • 2024-02-24 发布于四川
  • 举报

一种神经网络模型的量化方法.pdf

    本发明提供一种神经网络模型的量化方法，包括：S1，对于卷积层Conv的量化，假设其权重Weight和偏置Bias分别为w1和b1，得卷积层的量化公式为：其中Qa1为卷积层Conv的定点输出；S2，对于激活层ReLU的量化，使用Qa1作为激活层的输入；激活函数ReLU的目的是把实数域小于0的数值截断为0，简化激活层的量化公式：Qa2＝max(Qa1，Za1)(1‑15)S3，对于全连接层FC的量化，假设其权重Weight和偏置Bias为W2和b2，根据网络输出y对应的量化参数Sy和Zy以及激活层

    (19)国家知识产权局

    (12)发明专利申请

    (10)申请公布号CN117592515A

    (43)申请公布日2024.02.23

    (21)申请号202210930086.2

    (22)申请日2022.08.03

    (71)申请人合肥君正科技有

    您可能关注的文档

    最近下载

    文档评论（0）

    1亿VIP精品文档

    更多 >

    相关文档

    更多 >