大模型程序执行故障回退机制研究.pdfVIP

LangChain表达式语言(LCEL)：故障回退

大模型程序执行过程中可能出现各类问题（如API调用异常、输出质量不佳等），故障回退机制可便捷处理这些问题

import

json

模型

=ChatOpenAI()

输入

=以JSON格式写三首诗，每首诗都包

含标题、作者和第一行

model.invoke(input)

lcel3=模型

|json.loads

lcel3.invoke(input)

lcel3_无错误

=模型

|StrOutputParser()

|js

_

on.loads

lcel3_f

=lcel3.with故障回退([lcel3_无错误])

lcel3_f.invoke(input)

LangChainExpressionLanguage(LCEL)：fallbacks

大模型程序执行中可能会有问题出现，如API，输出质量等，fallbacks可以方便地处理这些问题

importjson

model=ChatOpenAI()

input=以JSON格式写三首诗，每首诗都包含标题、作者和第一行

model.invoke(input)

lcel3=model|json.loads

lcel3.invoke