随着无线通信业务量的迅速增加，无线通信系统对容量和性能的要求越来越高。但各种复杂的电磁环境极大的影响了移动通信系统的性能。其中一个有效解决途径就是使用智能天线。智能天线系统通过控制天线阵列和数字信号处理产生空间定向波束，使天线主波束对准信号到达方向，旁瓣或零陷对准干扰信号到达方向，从而提高系统的信干噪比。然而智能天线的性能很大程度上依赖于信号到达角(DOA)的估计精度。对于到达角估计技术，二维空间谱估计更贴近实际应用，例如对信号源方位角与俯仰角的联合估计、频率和到达角的联合估计等。ESPRIT算法凭借其较小运算量特性受到了很大的关注。近二十年之间出现了许多基于ESPRIT算法的不同阵列模型的二维DOA算法。这些谱估计算法或多或少存在着一些缺点，如：运算量大，角度模糊，估计精度不够高，无法估计相干信号等等。本论文的目的就是提出一种精度更高的，可以估计相干信号的二维ESPRIT算法。针对一维DOA估计，本文主要研究了均匀直线阵下的MUSIC算法、求根MUSIC算法、LS-ESPRIT算法、TLS-ESPRIT算法和TAM-ESPRIT算法的性能。分别在单信号和多信号情况下，研究了信噪比、阵元数、快拍数对五种算法的影响。仿真结果表明：在对多个信号进行估计时，不同角度信号的估计精度是不同的；MUSIC算法的估计精度比ESPRIT算法精度要高。同MUSIC算法相比，ESPRIT算法的估计精度虽有所降低，但是具有计算量小，省时的优点。针对二维DOA估计，本文在L型阵列的基础上，结合前人的研究结果，通过构造一个新的特殊矩阵C，提出了一种改进的二维ESPRIT算法。新的特殊矩阵通过采用不同的协方差矩阵，降低了误差影响。仿真结果表明，改进后的算法在同等信噪比、阵元数、快拍数情况下估计精度均有提高。随后对改进的二维ESPRIT算法进行双向空间平滑处理，仿真结果表明，改进算法能够有效地估计相干信源，有效解决了相干信源二维DOA估计问题。