原创力文档- 0
- 0
- 约1.39万字
- 约 24页
- 2026-08-28 发布于山东
- 举报
盘古训练与推理通信优化实践：
亲和昇腾平台的性能探索
演讲人：李柏潮
华为/大模型系统工程通信技术专家
01大模型训练/推理在通信方面面临两大技术挑战
01
02亲和昇腾硬件，加速EP域的AllToAll通信
目录02
03硬件软件双管齐下，加速H2DKVCache加载
03
04总结和展望：减少未被掩盖的通信时间
04
大模型训推在通信方面
两大挑战
背景：MoE模型中KVCacheOffload和EPAllToAll是
通信最关键的两大挑战
KVCache
您可能关注的文档
- 巴志欣-从 Tool Calling 到 Data Agent：企业数据智能体的生产化路径.pdf
- 柏佳辰-Coding Agent 如何真正落地研发流程：任务编排、质量保障与知识沉淀.pdf
- 曹智勇-从成功率到失败归因：Agent Harness组件级评测实践.pdf
- 郭人通-Agentic-Native 增长：Zilliz 如何用 AI Agent 支撑超线性业务扩张.pdf
- 黄之鹏-从开源模型到 AI 生态：LFAI&Data 基金会与 Omni-AI 的开源实践.pdf
- 康斌-Agent Harness + 原子 Skills：服务机器人具身智能的落地实践.pdf
- 李渭宁-从代码生成到研发闭环：AI Coding 在金融科技 SDLC 中的落地实践.pdf
- 李响 -Agentic AI 在普惠健康险的创新与实践0821无视频版.pdf
- 李元庆-轻量化异构双臂 × VLA_世界模型：家庭服务具身机器人的落地实践.pdf
- 刘仁权-蚂蚁 AI 驱动的生产级软件交付基建和实践.pptx.pdf
- 刘少山+康留旺-从单体机器人到多机器人协同：AIRSEAI 具身智能基础设施的演进与探索.pdf
- 陆畅-打造AI时代下的AI原生产品形态及用户体验重构.pdf
- 莫梓峰-vLLM 针对多模态模型的推理优化实践.pdf
- 聂鹏鹤-从App容器到Agent调度中心：荣耀YOYO智能体平台的架构演进与技术实践.pdf
- 彭锦文-DataBuddy：数据语义驱动的企业 Agent Runtime 设计与落地.pdf
- 邱慧-智能互动 Agent 在快手商业场景的落地实践.pdf
文档评论（0）