信号检测是阵列信号处理领域的基本问题之一。传统的信号检测理论主要针对单通道数据。随着多天线技术的发展,所要处理的数据通常以多维形式呈现,即以复值向量或矩阵形式存在。此外,由于无线电环境日趋复杂,多天线阵列的背景噪声可能为色噪声,且通常功率未知。此时,需要根据噪声协方差矩阵的特殊结构设计相应的检测器。对于所得检测器,还需要给出准确的门限表达式。为此需首先求解检测器零分布表达式,再对其进行求逆。现有文献使用的矩匹配法通常不能导出易于求逆的零分布解析式,因此无法给出闭式的门限表达式。一些可给出闭式表达式的方法如Wilks定理及Box近似则精度较低,或仅适用于有限情形。本文将统计学中基于特征函数的渐近展开法推广到复数形,旨在给出具有适用性广、能够给出闭式门限表达式的方法。同时,该方法还可以用于推导检测器的非零分布用于检测概率的评估。本文着重研究四种不同统计特性背景噪声下的检测算法,对应的研究成果主要包括以下几点:(1)针对John检测门限设置算法运算量大的问题,使用渐近展开法获得了闭式门限表达式。现有文献给出的John检测器零分布CDF难以求逆,在计算门限时只能依靠数值搜索,计算量较高。针对这一问题,本文使用渐近展开法给出了John检测卡方加权和形式的近似零分布。这一形式的近似分布函数具有易于求逆的特性,方便获得闭式的门限表达式。该方法的另一个优点在于其近似误差可根据表达式余项预估。本文给出的零分布及门限值近似表达式的误差项为o(n-2)阶,表明该方法的近似误差随样本数n的增加下降速度较快,具有十分可靠的精度。(2)针对空间平稳色噪声,基于广义似然比准则提出了一种恒虚警检测器。空间平稳色噪声的协方差矩阵具有Toeplitz结构,其最大似然估计无闭式解。本文使用逆迭代算法对该估计进行数值求解,并进一步获得了广义似然比检验。该检测器在空间平稳色噪声环境中具备良好的恒虚警特性。其检测性能和鲁棒性同样优于现有的基于预白化的检测算法。(3)针对局部相关空间色噪声,给出了局部最优不变检测精度高的渐近零分布及非零分布,并获得了闭式门限表达式。其中,零分布结果的一阶项为卡方CDF,且包含一个o(n-1)阶的修正项,可看做对现有结果的高阶修正。对于非零分布,由于协方差矩阵展开式的不同,使用渐近展开法需分为高、低信噪比两种情形讨论。针对两者情形,均给出了精度为o(n-2/2)阶的近似非零分布。仿真结果显示所得各分布均具有很高的近似精度。且在门限值设置上,本文给出的门限闭式表达式的误差要远小于现有文献的结果。(4)针对MIMO雷达噪声的时域独立同分布特性,给出了高斯向量球检测精度高的渐近零分布及非零分布。对于其零分布及低信噪比下的非零分布,同样给出了精度分别达到o(n-2)和o(n-3/2)的近似分布,并给出了闭式门限表达式。对于其高信噪比下的分布,先通过渐近展开法求解统计量的均值和方差,再将它们与Gamma分布的均值和方差匹配,获得近似分布。由于非零分布的用处在于检测性能评估,无需具有闭式逆函数,仅需保证分布函数精度即可。这一方法的优点在于使用简单,可作为渐近展开法过于复杂时的备选方法。仿真结果显示各近似分布均具有较高的精度,且同时表明Ts在MIMO雷达中的检测性能要好于现有文献中使用的的Wilk s检测器,且具有无需纯噪声样本的优势。