OPPO 多模态大模型端侧化应用实践.pdf

演讲人:宋晓辉

01端侧化算法技术概览

02模型稀疏化压缩

03量化感知训练

04编解码加速

05落地实践

06总结和展望

珍贵的内存有限的电量

终端设备内存有限,算法效果需要一定程度上向模型为用户提供端侧AI能力的同时,也不能成为“电老

体积和推理精度妥协,因此如何设计和优化端侧模型虎”,不能制造续航焦虑,持续的下探端侧AI的能耗水

您可能关注的文档

文档评论(0)

1亿VIP精品文档

相关文档