原创力文档- 1、本文档内容版权归属内容提供方，所产生的收益全部归内容提供方所有。如果您对本文有版权争议，可选择认领，认领后既往收益都归您。。
- 2、本文档由用户上传，本站不保证质量和数量令人满意，可能有诸多瑕疵，付费之前，请仔细先通过免费阅读内容等途径辨别内容交易风险。如存在严重挂羊头卖狗肉之情形，可联系本站下载客服投诉处理。
- 3、文档侵权举报电话：400-050-0827(电话支持时间：9:00-18:30)。
查看更多
2025年招聘类面试题目及答案
技术类岗位面试题及参考答案
问：企业在部署多模态大模型时，常遇到推理延迟高、资源消耗大的问题，作为技术负责人，你会从哪些维度优化？
答：首先需明确问题的核心矛盾：模型性能与资源成本的平衡。可从四个维度系统优化。其一，模型层面的轻量化处理。针对业务场景裁剪非核心模块，例如在电商商品推荐场景中，若多模态需求仅涉及图文匹配，可移除视频理解分支；采用动态量化技术（如8位或4位量化），在精度损失小于3%的范围内降低计算量，某头部电商曾通过FP16转INT8量化，将推理延迟从280ms降至120ms。其二，硬件与框架适配。根据企业算力资源选择最优方案：若使用GPU集
文档评论（0）