端侧AI推理芯片对低比特量化技术的支持能力与硬件设计趋势.docxVIP

PAGE2

端侧AI推理芯片对低比特量化技术的支持能力与硬件设计趋势

摘要

本报告聚焦端侧AI推理芯片在低比特量化技术领域的支持能力与硬件设计演进方向，系统研究INT4/INT8等低精度计算单元在保证模型精度的同时降低功耗与成本的技术路径。研究范围覆盖全球主要芯片设计企业、IP供应商及终端应用场景，时间跨度自2020年至2030年，地理覆盖以中国、美国、欧洲及亚太关键市场为主。

核心发现表明，端侧AI推理芯片正经历从FP32/FP16主导向INT8/INT4混合精度计算的范式迁移。2024年全球端侧AI芯片市场规模约78亿美元，其中支持INT8及以下精度推理的芯片占比已超过65%，预计2