CN119396995A 一种基于近期查询注意力信息的大型语言模型KV Cache优化方法 （浙江大学）.pdfVIP

(19)国家知识产权局

(12)发明专利申请

(10)申请公布号CN119396995A

(43)申请公布日2025.02.07

(21)申请号202411443829.9

(22)申请日2024.10.16

(71)申请人浙江大学

地址310058浙江省杭州市西湖区余杭塘

路866号

(72)发明人代金成李纪为

(74)专利代理机构杭州求是专利事务所有限公

司33200

专利代理师郑海峰

(51)Int.Cl.

G06F16/334(2025.01)

G06F16/31(2019.01)

G06F40/284(2020.01)

G06N3/045(2023.01)

G06N5/04(2023.