大型阵列的自适应波束形成（adaptive beamforming,ADBF）系统复杂、实现成本高,权值运算复杂度高,因此在具体工程实现时,需要对大型阵列进行优化降维处理,或者采用降秩ADBF算法。而自适应权值由于阵列规模大受限于设备计算速度无法实时更新,往往采用零陷展宽技术以适应于高动态干扰,但干扰零陷展宽后零深变浅、主旁瓣区域增益同时调控等问题尚未妥善解决。现有的自适应主瓣干扰抑制算法很难兼顾主瓣保形和干扰抑制,无须保形即可抑制主瓣干扰并实现和差测角的和差四通道主瓣干扰相消（mainlobe jammer canceller,MLJC）算法在适用阵型方面有其局限性,而针对主旁瓣同时存在的复合式干扰,尚没有有效的方法消除旁瓣抑制过程对主瓣干扰抵消及和差测角精度的影响。针对上述问题,本论文对旁瓣干扰零陷展宽、主旁瓣增益同时调控的方向图综合、主瓣保形和用于自适应单脉冲测角的主瓣干扰及主旁瓣复合式干扰抑制算法展开研究,主要工作可以概括为如下三个部分:第一部分研究了基于方向图综合的自适应抗干扰算法。首先针对大型阵列子阵级ADBF算法的主瓣增益损失、旁瓣抬高等自适应性能降低问题,提出了基于非均匀子阵的ADBF权值逼近优化算法,对大型阵列进行两级子阵划分后,给出全阵的基于广义旁瓣相消器（generalized sidelobe canceller,GSC）的自适应权值,然后子阵级和阵元级的自适应权值联合优化逼近全阵参考自适应权值,并将权值求解问题转化为凸优化问题进行求解。然后,在干扰走动而无法被完全抑制的情况下,为了解决经典的协方差矩阵锐化（covariance matrix tapers,CMT）波束形成算法在展宽干扰方向零陷的同时导致零陷变浅的问题,提出了基于注入人工噪声的CMT（inject-artificial-noise-CMT,IAN-CMT）算法,通过迭代的方式不断更新权值使得零陷区域增益不断逼近参考增益值,从而展宽零陷宽度同时保证深度。在实测数据处理中,验证了IAN-CMT波束形成算法能够展宽方向图在干扰方向的零陷、有效抑制位置走动后的干扰。最后,从兼顾主瓣赋形和抑制旁瓣强干扰的角度出发,提出了联合迭代快速傅里叶变换算法的多线性约束最小方差算法,填补了这方面研究的空缺,在满足主瓣区域波束均匀照射需求的同时,对旁瓣区域入射的强干扰进行调零,并且利用子空间投影方法消除旁瓣干扰抑制对主瓣区域增益的影响。第二部分研究了主瓣保形和用于自适应和差测角的主瓣干扰抑制算法。首先针对阻塞矩阵预处理（blocking matrix preprocessing,BMP）算法抵消主瓣干扰带来的主瓣偏移问题,提出了基于shrinkage估计的主瓣保形方法,利用阻塞矩阵预处理消除有限样本估计得到的协方差矩阵中的主瓣干扰,再基于shrinkage估计利用二阶锥规划模型优化改进预处理后的协方差矩阵,并将其用于后续旁瓣干扰抑制的自适应权值求解,从而改善BMP抵消主瓣干扰后的主瓣形变。其次,由于MLJC利用的是矩形栅格阵列的两维可分离性,决定了MLJC算法只适用于矩形栅格阵列,为了突破这一局限我们提出了用于三角形栅格阵列自适应和差测角的主瓣干扰抑制算法,并且分析推导和仿真验证了MLJC的适用条件和影响其性能的多种因素,例如信噪比、干噪比、目标角度和干扰角度等,为其在工程实践中的应用提供了科学参考。在最后的实测数据处理试验中,对比传统自适应干扰抑制算法,验证了MLJC可以得到相对静态鉴角曲线无畸变的自适应鉴角曲线,从而实现精确测角。第三部分研究了用于自适应和差测角的主旁瓣复合式干扰抑制算法。首先,经典的MLJC缺乏波束自由度来同时抑制旁瓣干扰,因此在MLJC的基础上,本论文提出了用于自适应和差测角的双和/三差通道复合式干扰同时抑制算法,利用权值逼近的方法,在非均匀子阵上形成静态和、俯仰差、方位差、双差波束以及指向旁瓣干扰方向的和波束,增加了一个指向干扰的和通道,与双差通道共同作为差通道的辅助通道,俯仰差和方位差通道分别作为和通道及差通道的辅助通道,然后根据维纳滤波原理通过优化自适应加权调控辅助通道的输出同时抵消主通道中的主旁瓣干扰,同时可以得到逼近静态鉴角曲线的自适应鉴角曲线。其次,现有的分步抑制复合式干扰算法将采样矩阵求逆算法与MLJC相结合,需要利用主瓣干扰先验信息对协方差矩阵进行预处理,这在工程实践中难以实现,从无需任何数据预处理和增强复合式干扰抑制稳健性的角度出发,提出了用于自适应和差测角的改进GSC与MLJC相结合的算法来抑制复合式干扰,改进GSC的关键是改进其阻塞矩阵构造,使其能够阻塞与波束指向存在一定角度偏差的目标和主瓣干扰,防止目标和主瓣干扰在旁瓣干扰抑制过程被消除,同时避免阻塞矩阵的引入破坏自适应和差鉴角曲线在半功率波束宽度范围内的线性,然后利用和差四通道抵消主瓣干扰,并得到无畸变的自适应和差鉴角曲线,保证复合式干扰抑制后的和差测角精度,实现复合式干扰存在时目标的精确跟踪。