《大模型技术深度解析》微课版 任飞亮教材 ppt课件 6.2-大模型压缩技术.pptx

大模型压缩技术

模型压缩一、为什么需要模型压缩二、评级指标与基准三、小模型现状四、挑战与未来

模型压缩一、为什么需要模型压缩

深度学习的成功与挑战深度学习的成功 随着深度学习技术的飞速发展，神经网络模型在图像识别、自然语言处理等多个领域取得了显著的成功。巨大的资源消耗 模型通常包含数百万乃至数十亿个参数，导致了巨大的计算资源消耗和存储需求，也限制了它们在边缘设备上的部署与应用。

模型压缩与加速方法压缩加速方法 研究者们提出了多种模型压缩及加速方法，旨在减少模型尺寸的同时保持或提升其性能，以解决深度学习模型资源消耗巨大的问题。学术与工业关注大规模预训练模型以及卷积神经网络等架构已经在多个任务上