小语言模型(SLM)崛起:1B-8B参数的-端侧智能-时代.pptxVIP

  • 2
  • 0
  • 约2.6千字
  • 约 16页
  • 2026-06-25 发布于北京
  • 举报

小语言模型(SLM)崛起:1B-8B参数的-端侧智能-时代.pptx

2026/06小语言模型(SLM)崛起:1B-8B参数的端侧智能时代Moeimijiang

目录SLM崛起的产业背景性能对标与端侧优势典型落地场景矩阵量化技术与未来展SLM崛起的产业背景01

重新定义小:SLM崛起的产业逻辑小从来不是绝对概念大模型能力溢出70B以上大模型基准趋近饱和,但部署成本高、网络依赖强、隐私隐忧大,大量端侧场景难以落地移动硬件算力跃升旗舰手机NPU算力突破50TOPS,足以支撑数十亿参数模型实时推理训练技术突破知识蒸馏、数据精选、架构搜索让小而强从理论变为工程现实2025年市场突破支持本地AI推理的智能手机出货量占比首超40%2027年Canalys预测超70%智能终端将搭载端侧语言模型能力SLM不再是大模型的廉价替代品,而是具有独立价值主张的品类

性能对标与端侧优势02

性能对标:小模型的越级表现评估维度Phi-4(14B)Llama-4-8BGemma-3(7B)Qwen3-4BLlama-3-70B(对照)MMLU84.2%78.6%76.3%74.1%79.5%MATH72.8%61.2%58.4%55.6%52.3%HumanEval88.7%82.1%79.3%76.8%77.4%推理速度(tokens/s)284552686推理内存占用8GB4.5GB3.8GB2.2GB40GB+关键发现参数仅为Llama-3-7

您可能关注的文档

文档评论(0)

1亿VIP精品文档

相关文档