论文部分内容阅读
作为数字图像处理领域的一个重要分支,数字图像修复主要是使用计算机自主学习图像特征信息,还原出待修复图像缺失信息,自动对缺失图像进行修复的技术。数字图像修复有着广泛的应用前景,目前已应用于文物修复、卫星遥感以及医学成像等多个领域。然而,现有图像修复模型仍然存在诸多问题以及挑战。为此,本文提出了两种基于生成对抗网络(Generative Adversarial Network,GAN)的图像修复模型,主要研究内容如下:第一,鉴于现有图像修复模型难以修复出如真实图像那样完整且细节丰富的图像,提出一种基于图片块相似度的图像修复模型。首先,计算真实图像与修复图像中图片块的相似度,建立一个修复图像纹理细节的衡量指标,进而构建出基于图片块相似度的损失函数;然后,在训练过程中优化该损失函数,修复出真实且具有丰富细节的图像;最后,针对普通卷积在图像修复模型中,仍然对缺失区域不可见像素进行卷积运算,而导致修复图像出现模糊、色彩不协调以及棋盘效应等问题,提出了残差门卷积。通过让模型自身学到掩模更新策略,控制卷积的输出值,提高对未缺失区域可见像素的利用,减小缺失区域不可见像素的影响。第二,现有图像修复模型大多是确定性模型,对一张待修复图像只能修复出相同图像,无法产生多样化的修复结果。为此,本文将变分自编码器(Variational Autoencoder,VAE)与GAN结合,提出一种基于VAE-GAN的多样化图像修复模型。首先,利用VAE从完整图像编码得到一个正态分布,从这个正态分布中采样潜变量,解码重构出完整图像。再将从待修复图像与完整图像得到的正态分布的KL散度降低,在修复过程中,从待修复图像的正态分布采样,解码修复出多样化的完整图像;其次,在网络的末端使用判别器,分别对重构图像和修复图像进行判别,以此提高修复图像的真实性;然后,对从正态分布采样的潜变量使用特征解耦,提高潜变量对图像各因素的表征能力,进一步增加修复结果多样性;最后,图像各区域对修复某个特定区域起到的作用是不同的,需要提高关键区域在图像修复过程的参与度。因此,本文提出全局自注意力机制,帮助修复模型学到一个自注意力图,提高对图像修复起主要作用的特征权重,降低次要特征权重,从而提高修复模型的效率,增强修复效果。在CelebA、Places2和PSV等图像修复基准数据集上的实验结果表明,所提出的两种图像修复模型解决了现有图像修复模型修复结果缺少真实细节以及多样性的问题。该论文有图38幅,表9个,参考文献98篇。