机载雷达通常处于下视工作状态,接收到的后向散射回波中往往包含功率很强的地杂波。地杂波强度大、范围广且在距离多普勒平面上会发生展宽。回波功率较弱的目标常常湮没在副瓣杂波中,导致雷达探测性能下降。空时自适应处理（STAP）能够有效抑制杂波,提高雷达的目标检测性能。但实际的杂波环境和重频、带宽等工作参数往往限制了雷达能够获得的均匀样本数量,导致杂波协方差矩阵估计不准确,STAP对杂波的抑制性能下降。针对非均匀杂波环境,本文对改进了知识辅助样本挑选方法在距离多普勒单元上的精细化划分的策略,充分利用了训练样本的信息,改善了远程杂波抑制能力;针对稀疏贝叶斯学习算法的收敛速度慢的问题,对小样本条件下利用稀疏表示进行杂波抑制的技术做了改进,通过优化字典矩阵和引入酉矩阵,提高了稀疏贝叶斯学习算法的收敛速度。论文的主要内容概括如下:1.研究了样本选取后对训练样本加权处理来估计协方差矩阵的方法。针对现有知识辅助样本挑选方法远程杂波抑制性能下降的问题,从距离多普勒（RD）单元精细划分方法和对挑选后的训练样本加权两方面做了改进。首先从方位向上对RD单元面积平均值对应的单元进行划分,接着通过与其面积比值确定其余RD单元的划分份数,根据不同地表覆盖类型得到每个细分单元的后向散射系数分布矢量,通过后向散射系数分布矢量间的距离函数完成对训练样本的挑选,最后通过训练样本与待测单元的相似性求得每个训练样本对应的权矢量,得到估计的样本协方差矩阵。该方法考虑到RD单元内的不同地形的分布情况及散射特性,改善了非均匀环境下STAP算法的远程杂波抑制性能。2.研究了小样本条件下的快速收敛稀疏贝叶斯学习的杂波抑制方法。针对现有的稀疏贝叶斯学习算法迭代过程中运算量大的问题,从字典矩阵的选取和简化矩阵求逆运算两方面对现有的快速收敛的稀疏贝叶斯学习算法做了改进。首先利用直接数据域（DDD）算法与先验知识联合确定的杂波脊位置,选取杂波脊附近的网格点形成字典矩阵,接着引入酉矩阵进一步降低矩阵求逆的运算量,加快算法的收敛速度。该方法显著降低了协方差矩阵形成的运算量。