本论文主要研究海杂波背景下的雷达目标检测问题。在低分辨雷达或者擦地角较大时,海杂波通常被建模为高斯模型;但是在高分辨雷达或者擦地角较小时,海杂波通常会呈现出明显的非高斯特性,此时使用高斯模型下的自适应检测器往往会有较大的性能损失。本论文使用复合高斯模型来建模海杂波,复合高斯海杂波背景下的雷达目标检测主要面临以下几个问题。第一,当雷达分辨率较高时,目标回波往往会占据多个距离单元,被称为距离扩展目标,此时点目标的假设就不在成立,除此之外,高分辨雷达能够观测到目标更多的细节,目标相对于雷达会存在转动、俯仰等多种形式的运动,目标的秩1模型假设也会出现失配,这两点都会使传统的点目标检测器产生一定的性能损失;第二,在自适应检测器中,通常需要一定数目的参考单元来估计杂波的协方差矩阵来对待检测的数据进行去相关操作,在实际应用中,由于海杂波在空间上的非均匀性质,往往没有充足的参考单元可以使用,这就导致了协方差矩阵估计误差较大,此时检测器的性能会有较大的损失;第三,广义逆高斯纹理复合高斯海杂波背景下的最优相干检测器中包含依赖于数据项的第二类修正贝塞尔函数,是一个反常积分的形式,这也导致了其计算复杂度较高,难以满足雷达系统对于实时性的要求。针对以上提到的几个问题,本论文的工作如下:1、针对高分辨雷达中出现的目标模型失配的问题,将目标建模为子空间的距离扩展目标。在广义逆高斯纹理复合高斯杂波中,使用两步法,在广义似然比检验（Generalized Likelihood Ratio Test,GLRT）、最大后验广义似然比检验（Maximum aPosteriori GLRT,MAP-GLRT）、Rao检验框架下推导了三种自适应检测器。针对参考单元数目较少时,检测器性能下降的问题,利用协方差矩阵的斜对称结构,推导了三种基于协方差矩阵斜对称结构的自适应检测器。实验证明,在仿真数据和实测数据下,提出的几种检测器性能均优于传统的检测器,在参考单元数目较少时,提出的基于协方差矩阵斜对称结构的自适应检测器,也具有较好的检测性能。2、针对参考单元数目较少时,检测器性能下降的问题,使用协方差矩阵的先验分布信息来减小自适应检测器检测性能对于参考单元数目的依赖。在广义逆高斯纹理复合高斯杂波中,将目标建模为点目标,将散斑的协方差矩阵建模为一个服从复逆威沙特分布的随机矩阵。首先根据准则,在广义似然比检验准则下推导了一种不依赖于辅助数据的自适应检测器,由于只使用了先验信息,所以设计的检测器会有一定的信息损失;接下来,为了能够同时使用先验信息与参考单元的的信息,本章使用两步法,在最大后验广义似然比检验准则下,首先假设散斑协方差矩阵已知,设计了一种非全自适应的检测器,然后使用参考单元信息与先验信息来估计散斑的协方差矩阵,并将其带入到设计的检测器中得到了依赖参考单元信息和先验信息的完全自适应检测器。实验结果表明,在参考单元数目较少时,本章提出的两种检测器的性能均优于传统的自适应检测器;在不同的参考单元数目下,提出的依赖参考单元信息和先验信息的自适应检测器性能要优于不依赖于辅助数据的自适应检测器。3、针对广义逆高斯纹理复合高斯杂波背景下的最优相干检测器的检验统计量中包含依赖于数据项的第二类修正贝塞尔函数的问题,提出了一种具有新结构的计算可实现的近最优检测器,这个检测器同时包含了广义帕累托分布杂波背景下的最优检测器广义似然比线性门限检测器（GLRT with Linear-threshold Detector,GLRTLTD）、K分布杂波背景下的近最优计算可实现的检测器（α-Match Filter,α-MF）。并且在逆高斯纹理复合高斯杂波背景下也具有最优或者渐进最优的检测性能。本章通过理论证明了所提出的近最优检测器对于目标的导向矢量、散斑的协方差矩阵以及杂波平均功率均具有恒虚警性质,同时也使用了蒙塔卡罗方法验证了所提出检测器的虚警性能。实验证明,在仿真数据和实测数据下本论文所提出的近最优检测器均具有渐进最优的检测性能,优于AMF检测器和ANMF检测器。由于广义逆高斯纹理复合海杂波模型能够包含三种常用的海杂波模型,既广义帕累托分布海杂波模型、K分布海杂波模型、CG-IG海杂波模型,因此本章所提出的近最优检测器能够尽可能的避免因为模型失配所导致的检测性能下降。