复杂环境的散射、反射和衍射会导致信号源在空间发生一定的角度扩展,此时需要将目标信号源建立为一个分布源模型。目前,针对分布源模型的波达方向（Direction of Arrival,DOA）估计算法大多基于均匀阵列,稀疏互质阵列在分布源DOA估计领域的应用面临适用性问题;现有算法大多基于分布源信号为高斯信号和圆信号的假设,较少考虑非高斯信号特性与非圆信号特性问题。相比均匀阵列,稀疏互质阵列以其阵列孔径大、互耦误差小的优势广泛应用于点源模型DOA估计,且利用特殊的信号特性对提升分布源DOA估计性能有重要意义。因此,本文考虑解决互质阵列在分布源模型DOA估计领域的适用性问题,并围绕信号非高斯特性和非圆特性展开研究,提出若干高精度、高自由度的分布源DOA估计算法。论文的主要工作和创新点如下:1.研究了基于互质阵列的一般分布源角度参数估计问题。现有算法受限于均匀阵列阵列孔径小、互耦误差大的缺点。针对该问题,提出一种互质阵列下公共谱峰搜索的分布源角度参数估计算法,解决互质阵列在分布源模型条件下的适用性问题。基于一般分布源单源入射场景,推导模糊产生机理,证明了两个稀疏均匀子阵DOA估计结果的交集即为真实值,并以此为依据消除角度模糊。该算法不再局限于原稀疏互质阵列的阵型结构特性,使得算法在复杂应用场景中有较强的适用性。仿真实验表明该算法相比于相同阵元数的现有算法估计精度更高。2.研究了基于互质阵列的非高斯特性分布源角度参数估计问题。现有算法大多基于信号为高斯信号的假设,当信号为非高斯信号时,仍然沿用二阶统计量无法全面描述其信号特征,故损失一定的信息量,导致DOA估计性能受限。针对该问题,利用非高斯信号高阶累积量不为零的特点,结合互质阵的虚拟阵列性质,提出一种基于四阶累积量的分布源角度参数估计算法。与二阶统计量不同的是,当信号为非高斯信号时,四阶累积量包含更多的有用信息,所提算法首先通过建立互质阵列下的接收信号模型,选取合适的四阶累积量构造形式,进而推导四阶累积量在分布源模型下的扩展虚拟阵列机理,构造虚拟阵列,扩大阵列孔径,提高估计自由度,解决四阶累积量和互质阵列在分布源模型下的适用性问题;其次,对四阶累积量进行去冗余操作,将其等效为虚拟阵列接收信号的协方差矩阵进行处理;最后通过二维谱峰搜索的方式求解中心方位角和角度扩展参数。仿真结果与分析表明,相同物理阵元数条件下,所提算法的估计精度和自由度性能均好于现有算法。3.研究了基于互质阵列的非圆特性分布源角度参数估计问题。现有算法在圆与非圆信号混合情况下,圆信号无法扩展虚拟阵列,将限制阵列孔径和自由度的提升,且无法分辨同一方向的分布式圆信号和分布式非圆信号。针对此问题,提出一种基于圆与非圆分离的分布源信号角度参数估计算法。所提算法首先研究互质阵列中分布式圆信号与分布式非圆信号混合场景下的阵列接收信号模型;然后依次对分布式非圆信号和分布式圆信号进行DOA估计求解。针对非圆信号,采用椭圆协方差矩阵矢量化方法获取虚拟阵列,使接收信号变为等效单快拍形式,通过空间平滑处理得到等效协方差矩阵,从而利用谱峰搜索算法或复杂度较低的求根算法求解非圆信号中心方位角与角度扩展参数;针对圆信号,将分布式非圆信号的估计结果反代,重构非圆信号的协方差矩阵,得到仅含分布式圆信号的等效协方差矩阵,同样利用谱峰搜索算法或者求根的方法求解分布式圆信号中心方位角与角度扩展参数。理论分析与仿真实验共同表明,较现有算法而言,所提算法通过矢量化和信号的分离重构,具有更高的自由度与更大的阵列孔径,因此能够实现欠定估计并且获得更高的参数估计精度。