M emp: 探索代理程序记忆.pdfVIP

:探索代理程序记忆

∗

RunnanFang,YuanLiang,XiaobinWang,JialongWu,

†

ShuofeiQiao,PengjunXie,FeiHuang,HuajunChen,NingyuZhang

ZhejiangUniversityAlibabaGroup

{rolnan,zhangningyu}@

AbstractTaskExecution

大型语言模型（LLMs）驱动的代理在多种任务中表现出

Slow

色，但它们遭受着脆弱的过程记忆的影响，这种过程记

忆要么是手动设计的，要么嵌入在静态参数中。在这项TasksHowtodo?

工作中，我们研究了赋予代理可学习的,可更新的和终Inaccurate

本身过程记忆的方法。我们提出了，它将过去的代

译理轨迹提炼成细粒度、分步指令和更高层次的脚本样抽TaskExecution

象，并探讨了不同策略对过程记忆构建,检索和更新的影

中响。结合一个动态制度，该制度不断更新、纠正并弃用其ProceduralIknow…Faster

Memorysteps↓50%

1内容，这个仓库与新的经验同步进化。在TravelPlanner

v和ALFWorld上的实证评估表明，随着记忆库的改进，Accurate

3accuracy↑50%

3代理在类似任务中实现了稳步提高的成功率和更高的效Tasks

4率。此外，基于更强模型构建的过程记忆保持了它的价

6值：将过程记忆迁移到较弱的模型上会产生显著的性能

0.提升。图1:通过程序性记忆，代理可以提高解决类似任务的

8成功率（准确性↑）和执行效率（步骤↓）。

0

5介绍

2

:随着大型语言模型（LLM）变得越来越强大，基于

v事件——网络故障、UI更改、数据模式的变化——可

iLLM的代理，通过自身的推理和外部工具的增强，正在

x能会使整