从推理爆发到具身智能 AI新时代对网络基础设施的重新定义.pptx

从推理爆发到具身智能 AI新时代对网络基础设施的重新定义.pptx

从推理爆发到具身智能:

AI新时代对网络基础设施的重新定义

阮伯超

英特尔数据中心事业部中国区网络与边缘总经理

趋势

数据流变化

对AI网络的要求

AgenticAI与工具调用

多轮、并发、外部服务访问

Sandbox隔离更关键,请求链更长

更大参数/更长上下文

权重与KVCache持续增大

模型加载、缓存分层与远端访问

P/D分离与分布式服务

Prefill与Decode跨节点协同

KVCache迁移、突发大数据量

MoE与并行扩展

Token跨Expert动态路由

更高并发、更复杂东西向流量、低尾延迟

更确定性NIC/DPU

承载突

您可能关注的文档

文档评论(0)

1亿VIP精品文档

相关文档