本文探讨了人眼视觉系统(HVS)的建模及其在数字图像通信领域中的若干应用,其中包括图像视频质量评价算法、图像后处理算法以及自适应图像模型的建立。HVS的建模及基于HVS模型的图像处理在近年来获得了广泛的关注。由于HVS通常是数字图像通信的最终接收者,在视觉通信系统的设计中考虑HVS的某些特性必将提高系统的处理能力和整体性能。作为HVS计算模型的一个重要应用,图像质量评价算法能够预测HVS对图像视觉质量的主观感受,从而能够在以提高视觉质量为目的的图像通信系统的优化过程中起到重要作用。在已知某些测试数据的主观质量的前提下,图像质量评价算法又可以用来衡量HVS模型的准确度。图像的后处理算法一直以来都是图像处理领域的研究热点。受信源、信道等条件的限制,视觉通信系统接收端获得图像质量常常不能满足HVS的要求,为此我们可以使用图像后处理算法在保证通信系统标准兼容性的同时,提高解码图像的主观质量。图像建模是图像处理、模式识别和计算机视觉等领域中的一个基本问题,考虑HVS对图像的认知特性并且符合自然图像分布规律的数学模型能够为图像处理和识别等提供更多的先验知识,从而提高算法的处理效果。本义的具体研究内容分为四个部分:首先,我们探讨图像的质量评价算法。根据原始无失真参考图像的有无,图像质量评价算法可以分为全参考算法、半参考算法和无参考算法。考虑到HVS对视觉刺激响应过程的某些特性,我们首先提出一种基于自顶向下和自底向上HVS建模方式的全参考质量评价算法。视觉生理学研究表明,Gabor变换能够模拟HVS系统中若视神经细胞的特性,因此我们提出一种基于Gabor变换能量特征的HVS模型,并将其用于全参考质量评价。视觉心理学研究表明,图像中的边缘和轮廓对于HVS对景物的认知过程起着决定性作用,因此我们提出一种基于图像多尺度边缘提提取和相似度比较的全参考图像质量评价算法。同时,由于通过图像的多尺度边缘可以近似地重建原图,该算法也可用于半参考图像质量评价。最后,我们提出一种针对JPEG图像的块效应敏感度估计模型,该模型可以用于无参考JPEG图像质量评价以及图像后处理。接下来,我们讨论视频质量评价算法。我们提出一种针对可分级视频编码(SVC)的HVS视觉注意力模型,并给出了该模型在质量评价,SVC感兴趣区域(ROI)编码等领域中的应用。针对SVC中新出现的不同视频在不同码率和时空分辨率条件下质量比较的问题,我们提出一种跨空间的视频质量评价思路。在充分的主观观测试验的基础上,我们分析了编码器类型、视频内容、码率和时空分辨率对视频主观质量的影响,其若干结论将对SVC编码质量评价和编码器的优化起到重要的指导作用。在本章的第三部分,我们考虑了基于无线广播网络的SVC视频传输中最优时空分辨率的选择,即视频适配的问题。我们提出了基于用户端无参考视频质量评价及反馈的视频适配方案,实验表明,该方案能够有效地选择最佳码流,提高解码视频的主观质量。我们进而探讨考虑HVS特性的图像后处理算法。在此我们重点考虑HVS认知过程中对于图像中边缘和轮廓信息的依赖性。本章的前三节中,我们讨论了图像去块效应的问题,提出了具有良好边缘保持特性的空间域的块移动滤波方案、DCT域的交流系数调整方案和小波域的变换系数模值、相角调整方案。实验表明,这三种方案均取得了很好的处理效果,同时各具特点,相互补充,适合于不同的场合。在本章的第四节,我们首先推广了目前广泛用于边缘保持图像去噪的双向滤波器,提出了基于块的双向滤波器的概念,并进一步将其应用于误码掩盖,事实表明,该算法取得了非常优异的处理效果。最后我们提出了一种基于信息论中最短描述(MDL)准则的自适应图像自回归(AR)模型。AR模型能够保护图像结构的二阶统计量,具有良好的边缘描述能力,符合HVS对图像的认知特性,因此被广泛用于图像处理的各个领域。然而一个亟需解决的问题是如何选择最优的二维AR模型支撑集和训练集。目前所有AR图像模型都采用基于空间距离的选择模式,即将像素周围的某个临域作为AR模型支撑集以及训练集。事实表明,在边缘和纹理等具有各向异性的区域,该方案仅能给出次最优解。我们提出使用像素间的相关系数来定义AR模型支撑集,使用模板匹配方案来定义AR模型训练集,并使用MDL准则来选择模型长度和训练集大小,防止overfitting现象。该模型在图像的预测编码中给出了目前类似算法中最优的结果。同时,基于MDL的自适应AR模型能够在统计意义上更好地解释目前被广泛研究的非局部(non-local)滤波方式,并获得更好的去噪效果。