- 2
- 0
- 约2.6千字
- 约 16页
- 2026-06-25 发布于北京
- 举报
2026/06小语言模型(SLM)崛起:1B-8B参数的端侧智能时代Moeimijiang
目录SLM崛起的产业背景性能对标与端侧优势典型落地场景矩阵量化技术与未来展SLM崛起的产业背景01
重新定义小:SLM崛起的产业逻辑小从来不是绝对概念大模型能力溢出70B以上大模型基准趋近饱和,但部署成本高、网络依赖强、隐私隐忧大,大量端侧场景难以落地移动硬件算力跃升旗舰手机NPU算力突破50TOPS,足以支撑数十亿参数模型实时推理训练技术突破知识蒸馏、数据精选、架构搜索让小而强从理论变为工程现实2025年市场突破支持本地AI推理的智能手机出货量占比首超40%2027年Canalys预测超70%智能终端将搭载端侧语言模型能力SLM不再是大模型的廉价替代品,而是具有独立价值主张的品类
性能对标与端侧优势02
性能对标:小模型的越级表现评估维度Phi-4(14B)Llama-4-8BGemma-3(7B)Qwen3-4BLlama-3-70B(对照)MMLU84.2%78.6%76.3%74.1%79.5%MATH72.8%61.2%58.4%55.6%52.3%HumanEval88.7%82.1%79.3%76.8%77.4%推理速度(tokens/s)284552686推理内存占用8GB4.5GB3.8GB2.2GB40GB+关键发现参数仅为Llama-3-7
您可能关注的文档
- 本科生进实验室:如何给导师写第一封自荐邮件.docx
- 辅修与微专业申请全流程:软院学生的第二学位攻略.docx
- 辅修与微专业申请全流程:软院学生的第二学位攻略.pptx
- 华东师大图书馆软件工程数字资源完全手册.docx
- 丽娃河畔的“创客空间”:3D打印、激光切割与树莓派借用规则.docx
- 普陀校区软件工程地标地图.pptx
- 普陀校区软件工程地标地图:一份给软院人的空间指南.docx
- 软件工程学院前世今生:从建院到国家示范性软件学院.docx
- 软件工程学院前世今生:从建院到国家示范性软件学院.pptx
- 软件工程专业高含金量竞赛时间轴与备赛指南.docx
- 河北省沧州市献县部分校2025_2026学年七年级下学期期末地理试卷(文字版,含答案).docx
- 河南2025-2026学年6月高二阶段检测语文试题及参考答案.docx
- 小学语文一到六年级知识点总结(最新整理).docx
- 一年级升二年级语文入学测试卷及答案(暑假衔接专用).docx
- 一年级升二年级语文入学测试卷及答案(重点精讲).docx
- 国家电网校园招聘结构化半结构化面试指南及全真模拟50题.docx
- 国家电网管理岗行测+企业文化全真模拟卷(共6套卷,含完整解析).docx
- SOE-MT-NOTE 三桶油招聘考试核心考点笔记:石油地质与勘探开发.docx
- 中石油中石化校园招聘全真模拟试卷(3套).docx
- 萍乡市住宅区物业管理暂行办法全文.docx
最近下载
- 小学数学奥林匹克竞赛试题及答案(四年级).doc VIP
- 科普版小学英语三四五六年级单词.doc VIP
- 广东工业大学《高等数学2》2022-2023学年第二学期期末试卷及答案A卷.doc VIP
- 2022年版科学课程标准新课标考试题库及答案2 .pdf VIP
- PEP人教版小学英语三四五六年级单词词汇表 .pdf VIP
- 2025江苏南通如皋市教育局所属学校招聘教师13人备考题库及答案解析.docx VIP
- 建筑工程图集 18GL205:预制混凝土综合管廊制作与施工.pdf VIP
- BS EN 50160-2010+A1-2015 公共配电系统的电压特性.pdf VIP
- 2025年浙江省宁波市某中学高一入学英语分班考试真题含答案.docx VIP
- 浙江省嘉兴市2025年某中学高一入学英语分班考试真题含答案.docx VIP
原创力文档

文档评论(0)