随着计算机技术、数字信号处理技术及图像处理技术的发展,高光谱遥感图像处理技术由于实际应用的需求已经得到人们广泛的研究。光谱成像仪在瞬时视场角内通过捕捉地面物质反射的电子光谱能量能够得到几百甚至上千波段光谱分辨率高的高光谱图像,而高光谱图像中光谱分辨率高这个特点有助于通过谱信息识别地物种类。但是在实际情况中,由于光谱成像仪空间分辨率低及地面地形变化等复杂情况,使得高光谱图像中混合像元的存在,即一个像元中包含多种物质,这对高光谱图像的解译形成一个障碍,有效的解决办法就是通过高光谱图像解混技术实现端元提取和对应端元的丰度估计。本文基于线性光谱混合模型,综合考虑高光谱数据的空间结构信息和光谱库中光谱特征高相关性的影响,主要研究了组稀疏解混算法,进一步提高端元提取的准确度和丰度估计的精度。本文的主要成果如下:1.提出了基于空谱信息丰度约束的组稀疏解混算法。该方法考虑了高光谱数据的空间块结构信息,利用均值漂移算法对高光谱数据进行自适应分组并对每组数据进行组稀疏解混,在组稀疏解混的基础上通过丰度约束的光谱库修剪策略来进一步降低光谱库谱特征高相关性的影响。在考虑高光谱图像空谱信息和光谱库数据特性的情况下,建立新的组稀疏解混框架,达到了提高解混效果的目的。2.提出了基于分层行稀疏的高光谱图像解混方法。该方法考虑了高光谱数据的空间块信息和光谱库的数据组结构信息,稀疏解混中得到的估计丰度矩阵具有层稀疏、行稀疏和行内稀疏的特性,根据丰度矩阵所具有的多重稀疏性质,建立了一个新的稀疏解混模型,利用双组稀疏解混算法来解决光谱解混问题。此方法通过新的稀疏解混模型将高光谱数据和光谱库数据的结构信息结合起来有效的解决了光谱解混问题,提高了稀疏解混的精度。3.提出了一种基于图正则的非负组稀疏编码,并将其用于端元提取。该方法的主要目标是剔除高光谱图像中混合度较高的像元,保留混合度较低的像元作为端元提取的候选集,纯像元一般存在于像元混合度较低的空间均匀区域。基于该目的设计了预处理的目标函数并给出了图正则的组稀疏编码算法,利用得到的系数矩阵作为参考信息,获得端元候选集,最后利用传统的端元提取算法从端元候选集中提取端元。在模拟数据和真实数据上的实验结果证明了该方法的有效性和实用性。本文的工作得到了国家自然科学基金(61272282),教育部新世纪优秀人才支持计划(NCET-13-0948)等项目的资助。