波达方向(Direction-of-Arrival,DOA)估计是阵列信号处理领域最基本的问题之一,如何利用有限的阵列资源提升DOA估计的性能是非常具有挑战性和意义的课题。互质阵由两个数量成互质关系(M和N)的子阵组成,只需M+N-1个阵元就能达到MN阵元均匀线阵相同的分辨力和自由度,近年来获得了广泛的关注。然而,所提出的乘积处理和最小值处理方法在波束模式图中通常具有高旁瓣且可能检测出错误目标。高旁瓣问题可以通过多重信号分类算法(Multiple Signal Classification,MUSIC)解决,但它要求高信噪比且需要预先知道目标数量,对于声呐等很多应用领域都难以适用。本论文主要研究互质阵和半互质阵的DOA估计问题,讨论不同方法在单目标和多目标场景下的性能,并将解卷积算法应用于互质阵中。围绕阵列信号处理空间谱的主瓣宽度、旁瓣高度、栅瓣效应、阵列增益、自由度等要素,评估现有算法和所提出的解卷积算法的优缺点,比较验证不同方法对于目标检测的有效性,并对乘积处理方法和解卷积方法等线性方法的阵列增益进行了分析。本文主要工作如下:1.综述了互质阵列理论、基本信号处理方法并推导了相关信号模型,阐述了不同方法的优缺点。2.针对互质阵中常用的乘积处理方法,提出一种相干的处理方案,可以极大提升该方法的阵列增益,并通过理论推导解释了原因。3.将解卷积波束形成方法应用于互质阵,极大地提高了DOA估计的分辨力和准确性,并提升了阵列增益,在单目标和多目标场景下分别与其他方法进行了结果比较,分析不同方法在不同场景下的处理性能。4.综述了虚拟域处理方法(用于目标数量大于阵元数量的检测问题)。为进一步提升可检测目标上限,比较了核范数优化和傅里叶逆变换(Inverse Fourier Transform,IFT)方法的虚拟阵列孔洞补全效果,并比较了解卷积和虚拟域方法的DOA估计性能。5.回顾了最近提出的半互质阵的阵列结构,指出原有处理方法在多目标等场景下的不足,提出使用虚拟域MUSIC和解卷积方法,提升了分辨力和多目标检测能力。