尚旭春-面向 Agentic 负载的下一代 LLM 推理引擎设计实践.pdfVIP

  • 1
  • 0
  • 约3.39万字
  • 约 32页
  • 2026-08-28 发布于山东
  • 举报

尚旭春-面向 Agentic 负载的下一代 LLM 推理引擎设计实践.pdf

InfoQ技术⼤会

构建⾯向Agentic推理的下⼀代LLM推理引擎

——从Runtime到Kernel的系统优化实践

TokenSpeed研发实践:调度器、⾃动并⾏编译、BlackwellMLAKernel与跨平台Kernel的协同设计

Agentic负载Runtime调度Kernel优化跨平台580TPS实践

演讲⼈:尚旭春·TokenSpeed团队

2026年8⽉·AICon全球⼈⼯智能开发与应⽤⼤会

⽬录·AGENDA

50分钟·五个部分

为什么Agentic推理需要新推理引擎

019min

负载范式转移·模型与硬件复杂度同步提升

文档评论(0)

1亿VIP精品文档

相关文档