从推理爆发到具身智能 AI新时代对网络基础设施的重新定义.docx

从推理爆发到具身智能 AI新时代对网络基础设施的重新定义.docx

从推理爆发到具身智能:

AI新时代对网络基础设施的重新定义

阮伯超

英特尔数据中心事业部中国区网络与边缘总经理

Agentic应用:多轮调用工具、长上下文,请求链显著变长AI模型从“单次响应”走向“Agentic

Agentic应用:多轮调用工具、长上下文,请求链显著变长

趋势

数据流变化

对AI网络的要求

AgenticAI与工具调用

多轮、并发、外部服务访问

Sandbox隔离更关键,请求链更长

更大参数/更长上下文

权重与KVCache持续增大

模型加载、缓存分层与远端访问

P/D分离与分布式服务

Prefill与Decode

您可能关注的文档

文档评论(0)

1亿VIP精品文档

相关文档