2024年中国端侧大模型行业研究：算力优化与效率革命 如何重塑行业生态.pdfVIP

2024年中国端侧大模型行业研究

算力优化与效率革命

如何重塑行业生态

企业标签：阿里云、商汤科技、面壁智能

AI变革行业创新发展

ChinaEndToSideLargeModelIndustry

中国エンド側大型モデル産業

行业研读|2024/5中国：人工智能系列

摘要

端侧大模型定义为运行在设备端的大规模人工◼2023年中国端侧大模型市场规模达8亿元，持

乐观态度估计，预计2024年中国端侧大模型

智能模型，这些模型通常部署在本地设备上，

市场将达到21亿元

如智能手机、IoT、PC、机器人等设备。与传

统的云端大模型相比，端侧大模型的参数量更生成式AI市场的蓬勃兴起，正驱使大模型厂商积极

小，因此可以在设备端直接使用算力进行运行，探索端侧应用新蓝海，以此作为增长的新引擎。端

侧大模型通过在设备本地运行，有效降低了数据传

无需依赖云端算力。

输延迟，增强了隐私保护，拓宽了AI应用场景的广

端侧大模型在成本、能耗、可靠性、隐私和个度与深度。

性化方面相比云端推理具有显著优势，并能够与此同时，下游市场需求的强劲增长，特别是手机

以低能耗提供高效且安全的AI处理，减少延迟与自动驾驶行业的蓬勃发展，正强力拉动端侧大模

并保护用户隐私，适合个性化的AI应用。取决型市场的扩张，2023年中国端侧大模型市场规模达

8亿元，预计2024年中国端侧大模型市场将达到21

于行业对数据安全、隐私保护的需求、行业本

亿元。

身智能设备的普及程度以及AI大模型技术的成

熟度，这些因素的相互作用和共同推动，端侧依托技术实力和生态建设，头部大模型厂商纷纷投

大模型将推动各行业智能化发展的步伐。入端侧大模型市场，利用在云端大模型领域的技术

优势，商汤商量、阿里通义以及面壁智能率先在端

端侧大模型面临的行业壁垒包括技术、硬件、侧大模型领域取得领先突破。

数据、成本以及市场等方面，要求产业界在技

术创新、标准制定、生态建设和市场推广等方

面进行深入合作，以克服挑战，实现端侧大模

型的广泛应用和落地。

400-072-5588

3

研究框架

◆中国端侧大模型行业概述6

•定义与分类7

•发展历程8

•驱动力9

•市场规模