LLM微调策略:从开源到高效训练实践指南.pdf

LLM微调策略:从开源到高效训练实践指南.pdf

得唠唠这几个事(故事背景是我很穷,电费都付不起那种)

l:Meta开源语言模型(我们能负担得起下游任务了)

LoRA:给你模型你也得能训练的动才行(咱们也能微调下游任务了)

Self-Instruct:下游任务得规矩一些,输入和输出都得有一个格式

PEFT:Parameter-EfficientFine-Tuning(将上面三个大哥整合到一起)

流行的

让NLP走进千万家(模型参数量,7B-65

文档评论(0)

1亿VIP精品文档

相关文档