Axon:面向智能体工作负载的跨分布式实例异步全局 KV 感知调度.pptxVIP

  • 0
  • 0
  • 约8.56万字
  • 约 10页
  • 2026-11-02 发布于山西
  • 举报

Axon:面向智能体工作负载的跨分布式实例异步全局 KV 感知调度.pptx

ChengZhongXu

UniversityofMacau

MacauSAR,China

czxu@.mo

onproductionagenttracesshowsthatAxonreducespre-filllatencybyupto4.14×,decodelatencyby1.87×,andend-to-endlatencyby2.27×comparedtostate-of-the-artsystems.

ACMReferenceFormat:

Yuqi

文档评论(0)

1亿VIP精品文档

相关文档