随着移动用户的急剧增加,无线频谱资源日趋紧张,智能天线作为TD-SCDMA移动通信系统的关键技术之一,受到了广泛的关注。智能天线技术把研究的方向引向了空分领域,空域资源的发掘为解决频谱资源不足、提高移动通信系统容量和系统服务质量、减小信号间干扰及多径效应提供了有效的解决途径。波达方向估计(DOA)作为智能天线技术中的关键一环,对下行信号的定向发射起着十分重要的作用,因而对移动用户DOA的准确估计是智能天线发挥作用的前提。现有的DOA估计算法中,多重信号分类(MUSIC)算法和旋转不变子空间(ESPRIT)算法是经典的子空间类算法,该类算法在理想情况下能精确检测出信号的DOA,有着很高的估计精度和分辨力。但是当信噪比很低或者入射信号为相干信源时,经典的子空间类算法的性能受到很大的影响,甚至失效。针对这些算法的局限性,本文提出了三种改进算法：基于特征值准则和特征差值准则的MUSIC算法,检测相干信源的ESPRIT算法。本文提出的三种改进算法利用Toeplitz矩阵重构来解相干,改进MUSIC类算法是对阵列天线的输出协方差矩阵解相干,改进ESPRIT类算法是对协方差矩阵的特征矢量解相干。通过详细的理论推导和大量仿真实验,分析研究了本文算法与经典子空间类算法及现有改进算法的性能特性,仿真结果证明了本文算法在检测相干信源方面的优势和有效性。