CN120276667A 键值缓存数据的调度方法、大模型推理方法及装置 （上海芷锐电子科技有限公司）.pdfVIP

(19)国家知识产权局

(12)发明专利申请

(10)申请公布号CN120276667A

(43)申请公布日2025.07.08

(21)申请号202510219153.3

(22)申请日2025.02.26

(71)申请人上海芷锐电子科技有限公司

地址200100上海市闵行区苏召路1628号

(72)发明人朱帅

(74)专利代理机构北京超凡宏宇知识产权代理

有限公司11463

专利代理师李光霞

(51)Int.Cl.

G06F3/06(2006.01)

G06N5/04(2023.01)

G06N3/092(2023.01)

权利要求书2页说明书14页附图4页

(54