人工智能-系列报告（一）：终端智能，人工智能AI的新革命.pdfVIP

行业专题报告|计算机

终端智能，人工智能AI的新革命证券研究报告

2024年03月05日

人工智能系列报告（一）

核心结论行业评级超配

前次评级超配

基于成本、能耗、可靠性和时延、隐私、个性化服务等考虑，端云混合的AI

评级变动维持

才是AI的未来，高通认为终端AI能力是赋能混合AI并让生成式AI实现全

球规模化扩展的关键。近一年行业走势

百亿参数开源MoE大模型Mixtral8x7B再掀热潮，性能超LLaMA2-70B，对计算机沪深300

17%

标GPT-3.5。MoE（混合专家模型）通过将任务分配给对应的一组专家模型来9%

提高模型的性能和效率。Mixtral8x7B的专家数量为8个，总参数量为470亿，1%

-7%

但在推理过程中仅调用两个专家即只调用130亿参数。-15%

-23%

我们认为MoE或为现阶段大模型平衡成本、延迟以及性能的最优选择，叠加-31%

-39%

开源模型本身高灵活性、安全性和高性价比特点，MistralAI的开源MoE轻量2023-032023-072023-11

化模型可能是未来最适合部署于终端的模型。目前，高通、联发科、英特尔、

AMD等龙头芯片厂商都推出了终端AI芯片,能跑十亿甚至百亿量级大模型。后相对表现1个月3个月12个月

续类Mixtral8x7B的SMoE模型在高性能基础上继续压缩的话，很大几率可以计算机35.45-8.84-17.94

装进终端设备实现本地运行。SMoE轻量模型大幅降低了训练的门槛和成本，沪深30011.415.05-13.68

且由于在推理时只激活少部分参数，保持较高性能的同时能适应不同的计算环

分析师

境，包括计算能力有限的终端，降低推理成本且将催生更多大模型相关应用。

郑宏达S0800524020001

2024年有望成为终端智能元年，看好拥有终端资源、深耕场景、掌握行业

knowhow、积累了海量数据的B端和C端公司。1）未来每台终端都将是AI