大模型技术深度解析(微课版) 课件 第6章大模型的计算存储优化.pptx

大模型计算效率优化

主要内容一、定义与概念二、分类与介绍三、总结与展望

技术背景定义与概念随着科技的飞速进步，人工智能领域迎来了前所未有的发展机遇。模型的发展从早期的感知机和支持向量机等浅层模型起步，到如今已进入深层神经网络普及的时代。然而，模型规模的提升与结构的复杂化导致其参数量和计算需求呈指数级增长，对设备的算力消耗和算法优化提出了更高的要求。深度学习技术：兴起时间:2006-2010代表:CNN、RNN等特点:结构趋于复杂化模型层数显著增加计算需求大幅提升开始有能力处理如语音识别等更为复杂的任务多层神经网络:发展时间:20世纪80年代-21世纪初代表:MLP、反向传播算法等特点:通过隐藏