原创力文档让推理引擎可被“看见”
大模型推理端到端Token级可观测工程实践
刘杨
蚂蚁集团可观测架构师
03Token为中心的可观测方案
01推理全链路可观测体系
02传统Trace的局限
目录
05社区贡献与展望
04经典案例
06QA
推理全链路可观测体系
总览
以推理为核心的统一观测解决方案
推理云服务
AI应用
MetricsLogsTraces
AntCollector(DaemonSet)
otlp
蚂蚁主站
DataGW
您可能关注的文档
- 重塑全球价值：中国创新药出海制胜策略与实践 2026.pptx
- 郑州市律师协会：2025年郑州市律师行业发展报告.pptx
- 银行-2025H2理财公司半年报解读：规模普涨，低波主线下策略分化.pptx
- 数据质量良好实践指南 Data Quality Good Practice Guide.pptx
- 南沙区气象公共服务白皮书2026版.pptx
- 惠誉博华 商业银行2025年度及2026年一季度业绩点评 扩表支撑业绩回正，一季度盈利承压.pptx
- 创业指南-重新定义OPC.pptx
- 标志物驱动的肿瘤治疗 发展现状与下一代技术启示 2026-丁香园 Insight 数据库出品.pptx
- 【世界银行】全球碳定价现状和趋势报告.pptx
- 存量修复 增量拦截：B站代码债务治理实践.pptx
最近下载
- 完整版《中华人民共和国生态环境法典》全文解读PPT.pptx VIP
- 部编人教版二年级语文下册全套测试卷（配2026年春改版教材）.pdf
- 2026新版人教版二年级下册数学期末试卷3套（含答案名师解析易错题专项）可直接打印.docx
- 2026年中考第一次模拟考试：生物一模模拟卷（新疆专用）（解析版） .pdf VIP
- 2026年天津中德应用技术大学辅导员招聘考试参考试题及答案解析.docx VIP
- (2025年)九江市浔阳区社区《网格员》典型题题库(含答案).docx VIP
- 北京地质灾害危险性评估报告资料精要.ppt VIP
- 老年社会工作：老年社区工作PPT教学课件.pptx VIP
- 老年社会工作：老年小组工作PPT教学课件.pptx VIP
- 湘美版高中美术第三单元第一课《亲近的人——素描、油画表现（二）》课件.pptx VIP
文档评论（0）