以熟练的推理速度和功耗,生成神经网络的压缩表示.pdfVIP

  • 0
  • 0
  • 约5.83万字
  • 约 41页
  • 2023-05-29 发布于四川
  • 举报

以熟练的推理速度和功耗,生成神经网络的压缩表示.pdf

本公开涉及一种用于生成压缩神经网络权重张量的技术。从神经网络接收权重张量以进行压缩,将进行压缩的神经网络的权重张量重排序,以具有内部二维(2D)形态及2D稀疏位图。生成表示重排序权重张量的分层结构,并将重排序权重张量分为一个或多个系数组GOC。选择编码模式,使用码本或直接量化中的一种来生成量化的重排序权重张量,并生成列交换的量化的重排序权重张量。通过编码形成神经网络的压缩表示,并将神经网络的压缩表示传输到目标系统以进行解压缩。

(19)中华人民共和国国家知识产权局 (12)发明专利申请 (10)申请公布号 CN 112437930 A (43)申请公布日 2021.03.02 (21)申请号 201980046514.1 (74)专利代理机构 北京龙双利达知识产权代理

文档评论(0)

1亿VIP精品文档

相关文档