初识大模型45课件讲解.pptxVIP

初识大模型

01了解信息表示的原因02掌握主要信息类型的编码方式03认识不同表示方式对信息检索的影响学习目标

什么是模型？数学问题：请根据前面已知信息填写横线处正确答案第i个数字第i-1个数字2=+人学习并解决问题的过程AI学习并解决问题的过程

分类回归由连续变量预测的定量输出的算法由离散变量预测的定性输出的算法什么是模型？模型的概念模型就是对数据中的规律进行抽象和表示根据任务类型分为两大模型

什么是大模型？大模型的概念人工智能大模型（简称“大模型”）是指由人工神经网络构建的一类具有大量参数的人工智能模型大模型的参数量有多大小规模的大模型：7B，70亿参数中规模的大模型：13-70B，130亿-700亿参数大规模的大模型：175B-1.8T，即1.75万亿-1.8万亿参数

大模型的特征规模性参数规模、数据规模、计算规模十分庞大，体现了大型模型在硬件资源和数据处理能力上的显著特征，是支撑其高性能的基础。涌现性指小规模模型不具备而大规模模型突然出现的能力，如复杂推理、代码生成等，体现了量变到质变的智能跃迁。通用性具备跨任务、跨领域、跨模态的强大能力，能够灵活适应多种应用场景，展现出广泛的适用性和迁移性。维度传统AI模型大模型数据需求特定领域标注数据海量无标注文本能力范围单一任务多任务通用使用方式定制化部署预训练+微调/提示

初识大模型的核心架构基础自注意力机