蛋白质语言模型的量化方法、装置、设备和存储介质.pdfVIP

  • 0
  • 0
  • 约1.59万字
  • 约 14页
  • 2023-05-25 发布于四川
  • 举报

蛋白质语言模型的量化方法、装置、设备和存储介质.pdf

本申请涉及人工智能领域,特别是涉及一种蛋白质语言模型的量化方法、装置、设备和存储介质,所述方法包括:采用均匀对称量化方法对蛋白质语言模型的权重值进行量化;通过校准数据集确定所述蛋白质语言模型的激活值的第一截断范围,并将所述第一截断范围划分为多个量化区间;通过分段线性量化方法分别对所述多个量化区间的激活值进行量化;基于量化后的权重值以及量化后的激活值,配置得到量化后的蛋白质语言模型。本发明提出的量化方法降低了模型量化的精度损失,在保证量化后模型预测精度的同时,减少模型的内存占用,提升模型推理速度。

(19)国家知识产权局 (12)发明专利申请 (10)申请公布号 CN 116153389 A (43)申请公布日 2023.05.23 (21)申请号 202310431440.1 (22)申请日 2023.04.21 (71)申请人 之江实验室 地址 311121

文档评论(0)

1亿VIP精品文档

相关文档