多模态预训练模型的提示学习算法研究.pdf

多模态预训练模型的提示学习算法研究.pdf

摘要

多模态预训练模型通过融合视觉-语言跨模态关联学习,在视觉表示学习领

域取得显著进展,基于“预训练-微调”范式构建的通用架构已成为跨域知识迁

移与下游任务适配的典型技术路径。针对传统全参数微调存在计算资源消耗高、

人工标注依赖性强等问题,基于提示学习的高效微调方法逐渐成为研究主流。近

年来,利用丰富的未标注数据进行提示学习的方法引起广泛关注。然而,采用传

统伪标记策略的提示学习方法易受错误伪标记的负面影响。因此,构建基于多模

态预训练模型生成高精度弱监督标记的提示学习框架具有重要研究意义。鉴于

文档评论(0)

1亿VIP精品文档

相关文档