TAR-TVG:通过时间戳锚点约束的 推理增强视频时序定位中的视觉语言模型.pdfVIP

TAR-TVG:通过时间戳锚点约束的 推理增强视频时序定位中的视觉语言模型.pdf

  1. 1、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。。
  2. 2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  3. 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
  4. 4、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
  5. 5、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们
  6. 6、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
  7. 7、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多

TAR-TVG:通过时间戳锚点约束的

推理增强视频时序定位中的视觉语言模型

1∗1∗11243

ChaohongGuo,XunMo,YongweiNie,XuemiaoXu,ChaoXu,FeiYu,ChengjiangLong

1SouthChinaUniversityofTechnology

23

NanjingAuditUniversityBytedanceInc.

4GuangdongLaboratoryofArtificialIntelligenceandDigitalEconomy(SZ)

cguo5104@,202421044335@,{nieyongwei,xuemx}@,

xuchao@,yufei@,cjfykx@

Abstract

本时间视频定位(TVG)旨在精确地将自然语言查询对应

的视频片段进行定位,这是理解长格式视频的关键能力。

译尽管现有的强化学习方法鼓励模型在预测前生成推理

中链,但它们未能明确约束推理过程以确保最终的时间预

测质量。为了解决这一局限性,我们提出了时间戳锚点

1

v约束推理用于时间视频定位(TAR-TVG),这是一种新

3的框架,在推理过程中引入时间戳锚点,对思维内容进

8行显式监督。这些锚点作为中间验证点。更重要的是,我

6

7们要求每个推理步骤产生越来越准确的时间估计,从而

0确保推理过程对最终预测有实质性的贡献。为了解决模

8.型中低概率生成锚点的挑战(例如Qwen2.5-VL-3B),我

0们开发了一种高效的自蒸馏训练策略:(1)初始GRPO

5训练以收集包含多个时间戳锚点的高质量推理轨迹,共

2

:计30K条,(2)对蒸馏数据进行有监督微调(SFT),以

v及(3)在经过SFT增强的模型上进行最终的GRPO优

i

x化。这种三阶段训练策略在保持推理质量的同时实现了

r

a稳健的锚点生成。实验表明,我们的模型达到了最先进

的性能,并产生了可解释、可验证的推理链,且时间估

计逐步精化。

介绍图1:“人打开灯”这一查询的时序定位方法比较。我们

时序视频定位(TVG)是视频理解中的一个基本的方法(底部)在推理过程(思考块)中引入了逐步

任务,要求模型能够精确地在未经修剪的视频中定位时间戳锚点(8.6秒到18.5秒和11.3秒到16.2秒),从初

出与自然语言查询相对应的时间片段(AnneHendricks始预测到最终预测强制精度细化,而TimeZero(Wang

etal.2017;Gaoetal.2017;Krishnaetal.2017;Linetal.2025c)则没有。真实值(GT:11.3秒到16.6秒)显

etal.2023;Zhangetal.2023b)。设想在智能家居环示我们的最终时间戳(11.3秒到16.2秒)比TimeZero

境中,TVG可以使得AI助手能够从数小时的录像中的预测(13.0秒到19.0秒)更接近对齐。红色框突出显

准确找到“孩子进入厨房”的时刻(Yangetal.2025;示视频帧中的关键动作区域。

Graumanetal.2022;Sigurdssonetal.2016)。这种能

∗Theseauth

文档评论(0)

专业Latex文档翻译 + 关注
实名认证
服务提供商

专业Latex文档翻译,完整保持文档排版,完美处理文档中的数学公式和图表等元素,并提供 arXiv Latex 论文中文翻译。

1亿VIP精品文档

相关文档