递归抽象处理以实现树形组织检索.pdfVIP

已发布作为ICLR2024的会议

RAPTOR：递归抽象处理以实现树形组织检索

ParthSarthi,SalmanAbdullah,AditiTuli,ShubhKhanna,AnnaGoldie,

ChristopherD.Manning斯坦福大学psarthi@

2024

年1月增强检索的语言模型可以更好地适应世界状态的变化并纳入长尾知识。然

31日而，大多数现有方法仅从检索语料库中检索短的连续片段，限制了对整个

]文档上下文的整体理解。我们引入了一种新的方法，即递归地嵌入、聚类

.

C

和总结文本片段，自下而上构建具有不同层次总结的树。在推理时，我们

9

L

5的RAPTOR模型从这棵树中检索信息，跨多个层级的抽象整合长文档中的

0

[

8信息