2温涛-腾讯云 Data Platform 构建 Agent Memory Lake让智能体拥有无限记忆.pdfVIP

腾讯云DataPlatform构建AgentMemoryLake：

让智能体拥有无限记忆

演讲嘉宾：温涛

从训练到推理：AIAgent正在改变算力与数据范式

AI推理将成为未来AI基础设施支出主体，而智能体部署带来的海量交互数据、实时访问与复杂治理需求，正在推动数据存储与管理成为AI成败

的关键因素

Gartner预测：

•至2026年约40%的企业应用将集成任务型AIAgent；Agent推动数据范式的变化

•到2026年AI推理将成为主要的IaaS支出占比（约55%），推理支出预计从2025的$9.2B增

至2026的$20.6B+传统AI（以训练+单次推理为主）

•数据主要集中在训练阶段使用

•推理阶段以模型参数为核心

•数据访问呈“阶段性、批量化、无状态”特征

数据更多是“训练燃料”，而不是运行时资产

AIAgent（以持续运行/自主决策为主）

•数据贯穿Agent的完整业务闭环

•Agent在运行过程中持续生成新数据

•数据访问呈“持续性、链路化、强状态”特征

Agent本身，正在成为一个“持续运行的数据生产者+数据消费者”

传统AI的数据服务于模型训练，AIAgent的数据直接服务于业务运行与决策本身

Agent推理效率的真正挑战：Memory记忆体成为关键因素

在AIAgent场景下，推理效率不再只由模型算力决定，Memory的访问效率、容量与管理能力，正在成为新的系统级瓶颈

推理上下文变长、变多、变“活”Memory访问从“偶发”变成“主路径”Memory规模快速膨胀，但访问要求更苛刻

•多轮对话每一轮reasoning都要：Agent运行中产生：

•历史决策链•读历史•轨迹数据

•中间状态•写状态•决策日志

•反思结果•查经验•工具调用记录

•Memory访问进入推理主链路•反思与反馈