大模型函数回调机制及其在化输出中应用.pdfVIP

table{边框‑合并:塌陷;}table,th,td{边框:1px实线#000;}

使用检索器逻辑路由缩减检索范围

使用检索器逻辑路由缩减检索范围

01.大模型的函数回调与规范化输出

让LLM执行函数回调听起来是一项高级技术，但实际上理解起来非常简单。简而言之，

就是将大量工具/函数（包括函数名称、参数描述、函数功能等）传递给LLM，使其能

够自行识别，在用户提问时，识别出最合适的函数进行调用（可以选择一个、多个、不

调用，或者强制调用某一个），并将要调用的函数的参数作为LLM的输出内容。

完成上述步骤后，尽管称为LLM函数回调，但LLM实际上并不会直接调用本地函数。本地函数仍

然需要由本地程序根据LLM的输出内容来调用。拥有functioncall功能意味着LLM可以智能选

择不同的工具，并且规范化输出。

因此，对于一个完整的函数回调运行过程来说，除了要有LLM的参与，还需要有本地程序的

与

参，完整运行流程如下：

既然LLM可以强制调用某个函数，并且函数的参数输出对应的数据，因此可以考虑利用函数回调

这能来执行相应的规范化输出。我们构建一个假函数，并告知LLM强制调用这个函数，让

LLM返回其函数的参数信息。只需要将需要规范化的数据写成函数参数，并配上对应的解释，就

可以实现规范化输出。

通通过这种方式约束大语言模型生成的内容