非Transformer架构的端侧大模型创新研究与应用.docxVIP

非T

非Transformer架构的端侧大模型创新研究与应用

演讲人：刘凡平

ROCKAI,CEO

CONT目E录NTS01端侧大模型的现状与挑战02ROCK

CONT目E录NTS

01

端侧大模型的现状与挑战

02

ROCKAI的端侧大模型的实践

03

未来趋势

端侧大模型的现状与挑战

端侧大模型的现状与挑战

1.1大模型时代的端侧需求以全行业视角工信部赛迪研究院数据显示，预计2035年生成式人工智能有望为全球贡献近90万亿元的经济价值，其中我国将突破30万亿元，占比超过四成。浙商证券预计到2028年全球大模型市场规模将达到1095亿美元，2022~2028年复合增长率约为

1.1大模型时代的端侧需求

以全行业视角

工信部赛迪研究院数据显示，预计2035年生成式人工智能有望为全球贡献近90万亿元的经济价值，其中我国将突破30万亿元，占比超过四成。浙商证券预计到2028年全球大模型市场规模将达到1095亿美

元，2022~2028年复合增长率约为47.12%。

以终端设备视角

IDC预测，2024年中国终端设备市场中，将有超过半数的设备在硬件层面具备针对AI计算任务的算力基础，至2027年，这一比例将进一步攀升至接近80%的水平。瑞银预计生成式AI智能手机出货量将从2023年的5000万部增长到2027年的5.83亿部，到2027年收入将达5130亿美元，未来