DEEPNOVA-大语言模型优化.pdfVIP

大语言模型优化：

Fine-Tuning技术与方法实践

黄月红

2023/11/25

点滴努力普惠科技

目录

•为什么要Fine-Tuning大语言模型

•什么样的情况下我们需要fine-tuning大语言模型

•fine-tuning大语言模型需要准备些什么

•Fine-Tuning算法介绍

•一般过程及原理

•模型量化,Qlora,Neftune,…

•测试自己的大语言模型

•各种测试平台，工具，指标介绍

•自己定义测试指标和方式

PART01为什么要Fine-Tuning

大语言模型

为什么要Fine-Tuning大语言模型

llama-2-13bllama-2-13b-chat

USER:你是一个小说家，给我写个故事吧USER:你是一个小