CCSConcepts:•Computersystemsorganization→Cloudcomputing;•Generalandreference→Measure-ment.
Keywords:LLMinference,Model-as-a-Service,workloadcharacterization,productiontraces,heterogeneousGPUclus-ters,resourcemanagement
ACMReferenceFormat:
YiyunZheng,LingyunYang,Yi
您可能关注的文档
- “数字员工”赋能千行百业应用观察报告2026.pptx
- 2026年Meta人工智能发展战略研究报告.pptx
- AI安全:智能体拓展安全边界,传统网安有望迎来新一轮产品升级.pptx
- AI算力场景下高带宽内存芯片性能适配技术规范(征求意见稿).pptx
- Axon:面向智能体工作负载的跨分布式实例异步全局 KV 感知调度.pptx
- CacheFS:面向云规模大语言模型权重分发的点对点协同缓存.pptx
- Chorus:面向长度偏斜解码的 GPU-CPU 协同大语言模型服务.pptx
- Claude Code 实战:从零构建真实 AI 应用.pptx
- Dasheng(大圣):面向云覆盖网络的大语言模型驱动可靠性工程助手.pptx
- TraJudger:面向大语言模型驱动的多智能体系统的结构引导式故障归因.pptx
原创力文档

文档评论(0)