现代雷达所处的工作环境比较复杂,由于周边目标的存在以及电磁干扰等原因,欠定问题和信号相干问题是当前阵列雷达系统进行DOA（Direction of Arrival）估计时所面临的两大难题。然而当前已有的解决这两类问题的算法大多是基于线阵提出的,并不适用于均匀圆阵。均匀圆阵相比于线阵拥有更好的角度估计性能且能同时估计俯仰角和水平角。基于此,本文基于LFMCW（Linear Frequency Modulated Continuous Wave）体制雷达,提出了一种适用于各种阵列结构的欠定DOA估计算法,然后对圆阵的二维相干信号解调进行了研究。本文的主要工作内容如下:1、提出了一种基于目标空间分集的欠定DOA估计算法,描述了算法的基本原理,并给出几种可行的目标空间分集方法,然后讨论了算法的时间复杂度。仿真表明该算法能够实现目标距离-速度-角度的联合估计,且能够提高DOA估计精度。2、目标空间分集DOA估计算法需要多次二维谱峰搜索,针对常规搜索算法运算量大搜索时间长的问题,本文采用遗传算法进行二维谱峰搜索来降低时间复杂度,详细描述了算法的原理,并给出仿真结果。3、针对均匀圆阵的二维相干信号解调问题,提出了一种压缩感知和遗传算法相结合的圆阵解相干算法,先用压缩感知方法进行DOA估计得到目标角度方位的大致估计,然后利用遗传算法进行进一步的谱峰搜索提高精度。MATLAB仿真结果表明该方法具有较高的可靠性和可行性。