CN119831053A 一种基于自适应投机解码的大模型推理加速方法及系统 .pdfVIP

(19)国家知识产权局

(12)发明专利申请

(10)申请公布号CN119831053A

(43)申请公布日2025.04.15

(21)申请号202510264368.7

(22)申请日2025.03.06

(71)申请人同济大学

地址200092上海市杨浦区四平路1239号

(72)发明人史清江黄开宇施朱博徐凡

(74)专利代理机构上海德昭知识产权代理有限

公司31204

专利代理师王雪欣陈龙梅

(51)Int.Cl.

G06N5/04(2023.01)

权利要求书4页说明书8页附图2页

(54)发明名称

一种基于自适应投机解码的大模型推理加

速方法及系统

(57)摘要