Mooncake:面向长上下文的 KVCache 中心化推理优化方案.pdf

Mooncake:面向长上下文的 KVCache 中心化推理优化方案.pdf

InfoQ极客传媒

Mooncake:KVCache

解耦架构下的大模型推理

优化生态

演讲人:马腾

阿里云/高级技术专家、

KVCache.Al成员

AiCon

全球人工智能开发与应用大会

AiCon

您可能关注的文档

文档评论(0)

1亿VIP精品文档

相关文档