大模型函数回调机制及其化输出应用.pdfVIP

01.大模型的函数回调与规范化输出

让LLM执行函数回调听起来是一个很高级的技术，但是理解起来其实很简单，简单来说，

就是传递给LLM一大堆工具/函数（传递函数名字、参数描述、函数作用等），让LLM自

行识别，在当前用户的提问下，识别出最适合调用的函数（选择一个、多个、或者不调用、

亦或者强制调用其中某个），然后把要调用的函数的参数作为LLM的输出内容。

执行完上面这一步，虽然说是LLM函数回调，但是LLM并不会真正调用本地的函数，本

地的函数仍然是需要本地的程序根据LLM的输出内容来调用，拥有functioncall就意味着

LLM可以智能选择不同的工具，并且规范化输出。

所以对于一个完整的函数回调运行过程来说，除了要有LLM的参与，还要有本地程序的

参与，完整运行流程如下：

既然LLM可以强制调用某个函数，并且函数某个函数的参数输出对应的数据，所以其实可

以考虑利用函数回调这个功能来执行相应的规范化输出，我们构建一个假函数，并告知

LLM强制调用这个函数，让LLM返回其函数的参数信息，只需要将需要规范化的数据写

成函数参数，并配上对应的解释，其实就可以实现规范化输出。

通过这种方式约束大语言模型生成的内容，比