大语言模型输出器功能与应用.pdfVIP

01.为什么需要输出解析器

当我们使用大语言模型时，不论是通过

LangChain

还是直接调用模型的

API，都会遇到如

_

何解析大语言模型输出的问题。以

OpenAI

的模型为例

from

langchainopenai

import

ChatOpenAI()

llm

=ChatOpenAI()

#

示例

1

llm.invoke(告诉我

1+1等于几?)

#

输出:

1+1等于

2。

#

示例

2

llm.invoke(告诉我

3

个动物的名字。)

#

输出:

好的,这里有三种动物的名字:

1.

狮

子2.

大熊猫3.

斑马

#

示例

3

llm.invoke(给我一个

json

数据,

键为

a

和

b,

值为任意的整型。)

#

输出:

{\n

a:

10,\n

b:

20\n}

虽然整体的问题已经回答了,

但是返回的内容都是一个字符串,

并不是结构化的数据,

某些场合下

我们需要的仅仅是对应的返回值,

而不是多余的内容,

就需要对返回的内容进行结构化、格式化

或者解析。

例如下方为修改后的提示，尽可能先让大语言模型按照特定的规则输出内容，然后再进行解析

_