大模型的本地部署和微调（40页PPT）.pptx

+

大模型的本地部署和微调;

目录

1、大模型在垂直领域使用时为啥需要修改或增强

2、检索增强生成RAG和微调Fine-tunning选择

3、微调的种类和相关工具框架介绍

4、RAG、Fine-tunning微调时费用常见的估算方法

5、实际微调

lPromptLearning中常使用的技巧介绍

现场演示Prompt微调实列

lLoRA中的常用技巧介绍

现场演示LoRA微调实列

lRLHF常用技巧介绍

现场演示RLHF微调实列;

l目前大模型存在的问题

幻觉问题：LLM有时会生成看似合理但实际错误的内容，这种现象被称为“幻觉”。这主要是由于预训练数据的局限性，模型可能缺