- 0
- 0
- 约1.59万字
- 约 14页
- 2023-05-25 发布于四川
- 举报
本申请涉及人工智能领域,特别是涉及一种蛋白质语言模型的量化方法、装置、设备和存储介质,所述方法包括:采用均匀对称量化方法对蛋白质语言模型的权重值进行量化;通过校准数据集确定所述蛋白质语言模型的激活值的第一截断范围,并将所述第一截断范围划分为多个量化区间;通过分段线性量化方法分别对所述多个量化区间的激活值进行量化;基于量化后的权重值以及量化后的激活值,配置得到量化后的蛋白质语言模型。本发明提出的量化方法降低了模型量化的精度损失,在保证量化后模型预测精度的同时,减少模型的内存占用,提升模型推理速度。
(19)国家知识产权局
(12)发明专利申请
(10)申请公布号 CN 116153389 A
(43)申请公布日 2023.05.23
(21)申请号 202310431440.1
(22)申请日 2023.04.21
(71)申请人 之江实验室
地址 311121
原创力文档

文档评论(0)