视觉场景描述及其效果评价.docx

软件学报 ISSN 1000-9825, CODEN RUXUEW E-mail: jos@ Journal of Software ,2019,30(4):867 883 [doi: 10.13328/ki.jos.005665] ? 中国科学院软件研究所版权所有 . Tel: +86-10视觉场景描述及其效果评价 马 苗1,2, 2 3 2 2 王伯龙, 吴 琦, 武 杰, 郭 敏 1( 现代教学技术教育部重点实验室 ( 陕西师范大学 ), 陕西 西安 710062) 2( 陕西师范大学 计算机科学学院 , 陕西 西安 710119) 3(School of Computer Science, The University of Adelaide, Adelaide SA5005, Australia) 通讯作者 : 马苗 , E-mail: mmthp@ 摘 要: 作为计算机视觉 ? 多媒体 ? 人工智能和自然语言处理等领域的交叉性研究课题 ,视觉场景描述的研究内 容是自动生成一个或多个语句用于描述图像或视频中呈现的视觉场景信息 .视觉场景中内容的丰富性和自然语言 表达的多样性使得视觉场景描述成为一项充满挑战的任务 ,综述了现有视觉场景描述方法及其效果评价 . 首先,论述 了视觉场景描述的定义 ? 研究任务及方法分类 ,简要分析了视觉场景描述与多模态检索、跨模态学习、场景分类、 视觉关系检测等相关技术的关系 ;然后分类讨论视觉场景描述的主要方法 ? 模型及研究进展 ,归纳日渐增多的基准 数据集 ;接下来 ,梳理客观评价视觉场景描述效果的主要指标和视觉场景描述技术面临的问题与挑战 ,最后讨论未来的应用前景 . 关键词 : 深度学习 ; 图像描述 ; 视频描述 ;基准数据集 ;性能评价中图法分类号 : TP37 中文引用格式 : 马苗 , 王伯龙 , 吴琦 ,武杰 , 郭敏 .视觉场景描述及其效果评价 . 软件学报 ,2019,30(4):867 –883. . cn/1000-9825/5665.htm 英文引用格式 : Ma M, Wang BL, Wu Q, Wu J, Guo M. Visual scene description and its performance evaluation. Ruan Jian Xue Bao/Journal of Software, 2019,30(4):867 883 (in Chinese). /1000-9825/5665.htm Visual Scene Description and Its Performance Evaluation MA Miao 1,2, WANG Bo-Long 2, WU Qi3, WU Jie2, GUO Min 2 1(Key Laboratory of Modern Teaching Technology of Ministry of Education (Shaanxi Normal University), Xi ’ an 710062, China) 2(School of Computer Science, Shaanxi Normal University, Xi ’ an 710119, China) 3(School of Computer Science, The University of Adelaide, Adelaide SA5005, Australia) Abstract : As a cross-domain research topic related to Computer Vision, Multimedia, Artificial Intelligence and Natural Language Processing, the task of visual scene description is to produce automatically one or more sentences to describe the content of visual scene from an image or a video snippet. The richness of the content in the visual scene and the diversity of the expression of natural language make visual scene description a challenging task. This paper gives a review about the generation met