基于深度学习的生成式与多模态图像编码研究.pdfVIP

目录

摘要I

AbstractII

第一章绪论1

1.1研究背景和意义1

1.2国内外研究现状2

1.2.1基于深度学习的图像编码2

1.2.2感知图像编码3

1.2.3感兴趣区域图像编码4

1.2.4文字驱动视觉识别5

1.3文章主要工作6

1.4论文组织结构7

第二章相关基础知识9

2.1端到端的图像编码方法9

2.2感知图像编码方法10

2.3基于感兴趣区域图像编码方法11

2.4语言驱动视觉识别13

2.5小结14

第三章基于生成网络的感知图像编码15

3.1研究动机15

3.2基于生成网络的感知图像编码方法结构16

3.2.1主干网络17

3.2.2熵模型18

3.2.3损失函数19

3.3实验设置20

3.3.1基本设置20

3.3.2训练策略20

3.3.3用户实验设置21

3.4实验结果及分析21

3.4.1MOS结果21

3.4.2实验细节结果展示23

3.5小结25

第四章跨模态的感兴趣区域图像编码26

4.1研究动机26

4.2跨模态的感兴趣区域图像编码方法结构28

4.2.1文字控制的掩码获取模块29

4.2.2掩码注意力模块31

4.2.3感兴趣区域图像编码器32

4.3实验设置33

4.3.1基础设置33

4.3.2训练策略33

4.3.3评价标准34

4.4实验结果与分析34

4.4.1主观质量结果34

4.4.2客观比较结果37

4.4.3消融实验38

4.5小结40

第五章总结与展望42

5.1工作总结42

5.2未来展望43

参考文献44

致谢52

攻读学位期间发表的学术论著54

山东师范大学硕士学位论文

摘要

随着数字化进程的加速，从社交网络的瞬时分享到企业级的数据分析，产生的图像

数据量正在爆炸性地增加，而高效的图像编码技术可以有效降低存储和传输的压力。现

有的许多图像编码方案都是针对一些客观评价指标进行优化，忽视了对主观视觉体验的

优化，而且人眼对图像内容的关注并非均匀分布，更倾向于关注某些特定区域，这一类

视觉特性在现有的编码方法中往往未得到充分利用。

针对上述问题，本文的创新点如下：

1）出了一种基于生成对抗网络（GenerativeAdversarialNetwork，GAN）的感知图

像编码方法，改进了网络的速率-失真优化（Rate-DistortionOptimization，RDO）过程来

达到更好的重建效果。此外，概率估计模型采用离散化的高斯-拉普拉斯-逻辑混合模型

（discretizedGaussian-Laplacian-LogisticMixtureModel，GLLMM）进行熵建模，以高

对潜在表示概率分布的估计准确性。为了保证重建效果评价的真实有效，在评估过程中

不使用图像质量评估指标来评估重建图像的感知质量，而是直接在不同编解码器之间进

行均值意见分数（MeanOpinionScore，MOS）实验，充分反映人类的实际感知结果。实

验证明，所出的方法优于现有的基于GAN的方法和最先进的混合编解码器（即VVC）。