LLM主要类别架构介绍
学习目标
了解LLM主要类别架构.
掌握BERT、GPT、T5等模型原理
1.LLM主要类别
LLM本身基于transformer架构。自2017年,attentionisallyouneed诞生起,原始的transformer模型为不同领域
的模型了灵感和启发。基于原始的Transformer框架,衍生出了一系列模型,一些模型仅仅使用encoder或
decoder,有些模型同时使用encoder+decoder。
LLM分类一般分为三种:自编码模型(encoder)、自回归模型(decoder)和序列到序列模
您可能关注的文档
最近下载
- 2025年山东省济宁市兖州区小升初数学试卷(含答案).pdf VIP
- 急性肩锁关节脱位的治疗策略.pdf VIP
- 2025年国家公务员考试《公安专业科目》真题.pdf VIP
- 北京市人大附中小升初数学期末试卷综合测试(Word版 含答案).doc VIP
- (资料查询大全.doc VIP
- 机械原理课程设计1122_半自动钻床说明书(完全免费).doc VIP
- 四川省遂宁市射洪县2024届小升初数学试卷.doc VIP
- 【统编版语文三年级下册】《22 我们奇妙的世界》PPT课件【精华版】.pptx VIP
- 大学英语四级考试模拟试题(含答案及详细解析).docx VIP
- 煤化工行业温室气体排放核算与报告要求 第1部分:煤制甲醇企业.pdf VIP
原创力文档

文档评论(0)