2024高通AI白皮书-让AI触手可及-高通-78正式版.doc

让AI触手可及

高通AI白皮书

QualcommAIWhitePaper

高通AI白皮书QualcommAIWhitePaper

序言

PREAMBLE

携手合作拥抱AI终端创新的黄金时代

高通公司中国区董事长孟樸

一年前，高通公司发布了《混合AI是AI的未来》白皮书，率先向业界分享了对人工智

能（AI）技术发展趋势的洞察。那时，ChatGPT等生成式AI初露锋芒，这一现象级的应

用引发了产业界对这场AI技术革命的广泛探讨和巨大期待。人们开始意识到，生成式

AI将为各行各业生产力的提升带来质变。从那时起，大模型技术日新月异，商业化应

用的步伐不断加快。当每个人都希望无时无刻地拥有“个人大模型”时，生成式AI走

向终端，成为了一个不可逆转的趋势。智能终端的新应用、新形态、新场景，正在为

技术的普及提供广阔的空间，AI终端创新的黄金时代已经到来。

AI

从云到端：智能终端迎来新增长周期，让AI真正触手可及

当生成式AI展现出强大的能力和前景，我们也认识到，AI技术的真正价值在于其普

惠性——要实现AI人人可享、人人可用，需要让AI技术更加贴近用户，在人们触手可及

的终端上运行。

由此，AI的计算重心正在从云端向终端迁移。这是由市场需求、技术趋势和用户体验共同

驱动的结果。从主机到智能手机、个人电脑（PC）等终端，计算能力的下沉使得这些终端也

能够进行AI加速计算。这种分布式计算平台的运行，不仅提高了计算效率，也加速了AI在

终端侧的演进。与此同时，AI能够本地运行，并根据用户需求与云端交互，人机交互将变

得更自然、更即时、更加个性化，隐私性也更有保障。在这个过程中，5G作为关键的连

接“底座”，为AI在云端、边缘云和终端侧协同奠定了坚实的基础。预计到2025年底，全

球5G连接规模将达到25亿1。这正是“5G+AI”协同发展所带来的令人兴奋的变革——它改

变了用户体验的定义，丰富了千行百业的智能连接用例，也推动了新一轮终端创新的浪潮。

在高通看来，这也正是生成式AI的革新意义——智能终端让AI成为无处不在的个人助理，

推动终端与云端的融合，为智能手机带来新的互动方式，让汽车成为全新的运算空间，

为下一代PC带来强大的AI能力，智能终端市场迎来了新的增长动力。

1GSMI、GTI、中移智库：5G新技术创造新价值

智能手机、PC、智能网联汽车位于AI终端创新的最前沿。其中，智能手机市场规模庞大，

年出货量高达十几亿台。目前，众多手机厂商积极推广生成式AI应用，使得智能手机

有望成为生成式AI发展最快的领域之一。据预测2，生成式AI智能手机出货量将在

2023到2027年迅速增长，预计2024年出货量占比达到11%，到2027年将达到

5.5亿部，占比43%，年均复合增长率为49%。

从“百模”到“百端”：让高性能的AI处理成为可能，

赋能终端侧AI规模化扩展

AI应用场景不断拓展，各类算法模型日趋多样化和复杂，对底层算力的需求也与日俱增。

如何将“大模型”高效装载到“小设备”，满足多样化的生成式AI用例？——这有赖于终

端算力的革新升级。

你的智能手机将成为个人AI助理的载体，帮你完成信息查找、场景识别、图像处理等各

种任务。然而，这些任务对计算资源和处理能力的要求不尽相同。这就需要从以通用计

算为核心的计算架构，向更加高性能的异构AI计算架构升级，让CPU、GPU和NPU等

不同的计算单元“各司其职”。只有协同使用这些计算单元，异构计算才能在应用性能、

能效和电池续航上实现最优化，让AI助理如虎添翼，赋能增强的生成式AI体验。

作为AI前沿科技的开拓者和探索者，我们看到，终端侧AI规模化扩展正在点燃产业

界的热情和信心，推动智能终端软硬件和生态层面的创新。我们也倍感自豪，高通能

够成为推动这一进程的重要力量。今年3月，我们发布了《通过NPU和异构计算开启

终端侧生成式AI》白皮书，分享了高通在异构计算架构和NPU研究方面的创新成果。

事实上，早在2007年，也就是生成式AI进入大众视野的15年前，高通就开始了对

的研究。多年来，高通致力于将高性能低功耗的AI计算能力带入终端设备，打造了专

为AI定制设计的全新计算架构。通过异构计算AI引擎，我们将性能卓越的CPU、

和GPU进行组合，为行业提供了可行的解决方案，支持生态系统在跨多品类终端上开

发并实现生成式AI用例、体验和领先产品，让智能计算无处不在。

NPU

NPU

从共享机遇到共建生态：共创AI终端创新的黄金时代

终端侧AI规模化扩展的发展浪潮，为大模型服务商、终端厂商、算力提供商、应用开发者

等产业链各方，带来了前