- 1、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。。
- 2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
- 4、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
- 5、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们。
- 6、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
- 7、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
TAR-TVG:通过时间戳锚点约束的
推理增强视频时序定位中的视觉语言模型
1∗1∗11243
ChaohongGuo,XunMo,YongweiNie,XuemiaoXu,ChaoXu,FeiYu,ChengjiangLong
1SouthChinaUniversityofTechnology
23
NanjingAuditUniversityBytedanceInc.
4GuangdongLaboratoryofArtificialIntelligenceandDigitalEconomy(SZ)
cguo5104@,202421044335@,{nieyongwei,xuemx}@,
xuchao@,yufei@,cjfykx@
Abstract
本时间视频定位(TVG)旨在精确地将自然语言查询对应
的视频片段进行定位,这是理解长格式视频的关键能力。
译尽管现有的强化学习方法鼓励模型在预测前生成推理
中链,但它们未能明确约束推理过程以确保最终的时间预
测质量。为了解决这一局限性,我们提出了时间戳锚点
1
v约束推理用于时间视频定位(TAR-TVG),这是一种新
3的框架,在推理过程中引入时间戳锚点,对思维内容进
8行显式监督。这些锚点作为中间验证点。更重要的是,我
6
7们要求每个推理步骤产生越来越准确的时间估计,从而
0确保推理过程对最终预测有实质性的贡献。为了解决模
8.型中低概率生成锚点的挑战(例如Qwen2.5-VL-3B),我
0们开发了一种高效的自蒸馏训练策略:(1)初始GRPO
5训练以收集包含多个时间戳锚点的高质量推理轨迹,共
2
:计30K条,(2)对蒸馏数据进行有监督微调(SFT),以
v及(3)在经过SFT增强的模型上进行最终的GRPO优
i
x化。这种三阶段训练策略在保持推理质量的同时实现了
r
a稳健的锚点生成。实验表明,我们的模型达到了最先进
的性能,并产生了可解释、可验证的推理链,且时间估
计逐步精化。
介绍图1:“人打开灯”这一查询的时序定位方法比较。我们
时序视频定位(TVG)是视频理解中的一个基本的方法(底部)在推理过程(思考块)中引入了逐步
任务,要求模型能够精确地在未经修剪的视频中定位时间戳锚点(8.6秒到18.5秒和11.3秒到16.2秒),从初
出与自然语言查询相对应的时间片段(AnneHendricks始预测到最终预测强制精度细化,而TimeZero(Wang
etal.2017;Gaoetal.2017;Krishnaetal.2017;Linetal.2025c)则没有。真实值(GT:11.3秒到16.6秒)显
etal.2023;Zhangetal.2023b)。设想在智能家居环示我们的最终时间戳(11.3秒到16.2秒)比TimeZero
境中,TVG可以使得AI助手能够从数小时的录像中的预测(13.0秒到19.0秒)更接近对齐。红色框突出显
准确找到“孩子进入厨房”的时刻(Yangetal.2025;示视频帧中的关键动作区域。
Graumanetal.2022;Sigurdssonetal.2016)。这种能
∗Theseauth
您可能关注的文档
- 元离线策略估计.pdf
- 弥散盲点:使用扩散模型合成子宫 MRI.pdf
- 尚未对心灵应用 AlphaFold:评估 Centaur 作为合成参与者的能力.pdf
- 多智能体系统在化学工程中的应用:综述与展望.pdf
- GPU 加速的量子 LDPC 码综合解码低于 63 微秒延迟阈值.pdf
- 推荐 菜肴趁热吃更佳.pdf
- 混合现实辅助成人注意缺陷多动障碍症状的挑战.pdf
- 半导体微结构的形态学分析使用骨架图.pdf
- G-IFT:一种具有迭代微调的门控线性单元适配器,用于低资源儿童说话人验证.pdf
- 无注释的病理学中视觉语言模型的轻松专业化.pdf
- DiffVC-OSD:一步扩散感知神经视频压缩框架.pdf
- 使用时频回归和运动-顶叶网络整合改进 EEG 连续抓取力解码.pdf
- Ethics2vec: 自动代理与人类偏好的对齐.pdf
- GraphCoT-VLA:一种用于处理模糊指令的机器人操作的三维空间感知推理视觉语言动作模型.pdf
- LaRender:通过潜在渲染在图像生成中实现无训练遮挡控制.pdf
- 利用基于图的空域异常检测与纠正增强静态环境中的自我中心对象检测.pdf
- SOFA:用于模拟和优化房颤消融的深度学习框架.pdf
- 牙科锥束计算机断层扫描中带有截断视野的迭代重建方法.pdf
- HGMF:用于模型上下文协议中可扩展工具调用的分层高斯混合框架.pdf
- MSPT:一种基于多阶段渐进训练的轻量级人脸图像质量评估方法.pdf
- 专业Latex文档翻译 + 关注
-
实名认证服务提供商
专业Latex文档翻译,完整保持文档排版,完美处理文档中的数学公式和图表等元素,并提供 arXiv Latex 论文中文翻译。
文档评论(0)