《大语言模型基础与应用开发》郑天民教材 ppt课件 8.构建工具组件.pptx

构建工具组件

引入工具组件一个事实：有些LLM除了生成文本之外，还可以触发一定的动作（Action）。针对这一事实，在LLM中出现了一个被称为工具（Tool）或函数调用（FunctionCalling）的概念。这一概念允许LLM在必要时调用一个或多个可用工具组件，这些工具组件通常由开发人员根据业务需求进行定义举个例子，LLM本身并不擅长处理数学计算。如果应用程序涉及偶尔的数学计算，你可能希望为LLM提供一个“数学工具”。通过在对LLM的请求中声明一个或多个工具，LLM可以决定在必要时调用它们。给定一个数学问题以及一组数学工具，为了正确回答问题，LLM会决定它应该首先调用其中哪个有效的数学工具