从烟囱到积木:基于openYuanrong的AIInfra实践
吴杰
华为系统软件架构师
目录
03
02
Agent服务的变化:从毫秒级的无状态请求到小时级的有状态session
session状态:
1.历史上下文
2.内部任务状态3.…
Session1Session2
Agent服务的挑战:提升长程session并发度和资源利用率
问题2.session运行过程中的线程cpu负载低
Session运行时间占比
Agent实例(忙)
Agent网关
Session路由
Session状态
Session状态
Session状态
Sess
您可能关注的文档
- 2026 AI 时代信任构建报告:金融咨询行业从 AI 转型领先机构获得的启示.pptx
- AI 从“工具”到“同事”.pptx
- AI-in-SRE Loop:当 AI 成为核心业务后,SRE 的下一站.pptx
- DeepSeek大模型在数字旅游中的64个应用场景规划方案.pptx
- FDE 100 案例集 江苏篇.pptx
- 大规模图上的高效局部计算与优化.pptx
- 大规模语言模型在马上金融的应用实践.pptx
- 大模型+数据智能分析应用发展趋势及标准化工作介绍.pptx
- 大模型分布式训练的第四种境.pptx
- 大模型辅助需求代码开发.pptx
- 《设备控制处处在》教学课件-2026-2027学年华中科大版(新版)小学信息科技六年级全一册.pptx
- 部编语文二年级上册句子总复习.pptx
- 《通过反馈知效果》教学课件-2026-2027学年华中科大版(新版)小学信息科技六年级全一册.pptx
- 《我是小小控制员》教学课件-2026-2027学年华中科大版(新版)小学信息科技六年级全一册.pptx
- 《开关量的真与假》教学课件-2026-2027学年华中科大版(新版)小学信息科技六年级全一册.pptx
- 部编版语文三年级上《礼物》.pptx
- 退货跨班周期维护问题复盘与改进跟踪.docx
- 退货跨班任务分派与班前准备核对单.docx
- 退货跨班资料追溯与责任交接单.docx
- 退货逆向物流结果复核与验收确认记录表.docx
最近下载
- 党建与业务融合 PPT 破解两张皮 实操方法 + 案例分析.pptx VIP
- 《构建产品原型》课件.ppt VIP
- 义务教育版(2024)四年级信息科技 第15课 自定编码讲规则 课件.pptx VIP
- 心理委员培训期课件.ppt VIP
- 2026年医院日间手术麻醉安全与快速康复方案.docx
- ASNZS 4680-2006 铁加工件热浸镀锌-中英文.docx VIP
- 传染病防控中的公共卫生伦理.pptx VIP
- 耐心资本驱动硬科技企业长期高增长的内在机制与路径研究.docx VIP
- IEC31010-2019风险管理 风险评估技术(译-2024).docx VIP
- 创新创业教育与工程设计实践(郑州大学)智慧树知到网课章节测试答案.doc VIP
原创力文档

文档评论(0)