基于向量相似性搜索RAG应用中动态路由Prompt模板方法.pdfVIP

在RAG应用开发中，针对不同场景的问题使用特定化的prompt模板效果一般都会比通

用模板会好一些，例如在教培场景，制作一个可以教学+数学的授课机器人，如果使

用通用的prompt模板，会导致prompt编写变得非常复杂；反过来如果prompt写的简

单，有可能没法起到很好的回复效果。

如果能针对用户的提问，例如用户提问的内容是数学相关的则使用数学的模板，提问的内容

是相关的则使用的模板，针对性选择不同的模板，LLM生成的内容会比使用通用

模板会更好，例如下方有两个prompt模板：

physics_temte=你是一位非常聪明的教授。

你擅长以简洁易懂的方式回答问题。

当你不知道问题的时，你会坦率承认自己不知道。

这是一个问题：

{query}

math_temte=你是一位非常优秀的数学家。你擅长回答数学问题。

你之所以如此优秀，是因为你能将复杂的问题分解成多个小步骤。

并且回答这些小步骤，然后将它们整合在一起回来更广泛的问题。

这是一个问题：

{query}

基于这个思想和我们前面学习的向量与文本嵌入模型，我们其实可以猜测，提问如果是数

学问题(能介绍下余弦计算么？)，在向量空间上，正