腾讯安全沙龙：基于函数调用的大模型越狱攻击.pptx

2,AutornetedLLWReedesing

Github;https://github,cow,/wcoczirwui;

函数调用是OpenAI在2023年6月发布的功能；是指大

语言模型通过调用函数工具从而与外部环境交互的能力；

这一功能解决的问题:

1.让大模型能够通过函数工具与外部环境交互，如获取天气，搜索等；(agent=LLM+记忆+规划+函数调用)

2.大模型的缺陷，如容易产生幻觉，无法进行精准计算等，因此需要依靠外部工具来解决这些问题。;

机制:

函数调用过程通常可以分为4个步骤:

Step1:用户提供外部函数的声明文件，并通过prompt触发需要调用的函数。