智能天线作为未来移动通信系统的关键技术之一，是当前通信领域的研究重点。智能天线系统通过天线阵列扩展了空间域，充分利用了空间扩展所提供的资源，能有效提高系统容量、提供更大带宽和降低多径效应的不利影响，然而这些优点的实现以及智能天线系统下各种信号处理算法性能的优劣都和信道的特性密切相关，尤其是各个天线间的相关性。因此，在智能天线研究领域，其信道模型特征始终是人们研究的一个重点。波达方向(Direction of Arrival，DoA)估计作为智能天线技术的关键技术之一，可以用来实现空分多址、移动台的精确定位、精确的进行下行波束赋形等。　　 本论文主要工作集中在基于智能天线系统的时变多径信道建模及相干多径环境下（包括多用户环境）智能天线系统DoA估计算法研究，具体内容包括:　　 ①介绍了智能天线系统的基本结构和数学模型，简要地分析了以Bartlett算法、Capon算法为代表的传统DoA估计算法和现代高分辨算法——多重信号分类（MultipleSignal Classification，MUSIC）算法的优缺点，并进行了性能仿真。仿真结果表明，传统DoA估计算法均为低分辨率算法，MUSIC算法尽管具有较高分辨率，但对相干信号源却无能为力。　　 ②基于3GPP/3GPP2 TR25.996协议，即空时信道模型（Spatial Channel Model，SCM），对智能天线系统的时变多径信道进行了分析和建模。首先从链路级和系统级对SCM模型参数及建模流程进行介绍，然后分别进行链路级和系统级仿真，得出了SCM信道的空、时、频相关特性，及对应的波数谱、多普勒功率谱、功率时延谱特性。最后研究了SCM信道衰落深度的特点。实验结果表明:SCM信道模型能反映智能天线系统空间信道的每次实现的变化特性，可用于链路级与系统级仿真。　　 ③针对MUSIC算法不能解相干的缺点，首先分析并给出了窄带相干信号模型，然后研究了几种改进的解相干DoA估计算法。一种是基于子阵平滑的空间平滑解相干，该算法虽然可实现解相干，但牺牲了阵列有效孔径，进而降低了解相干分辨率、减小了可估计相干信号源的个数。空间平滑中当所取子阵长度和阵元数相等时，即形成修正MUSIC算法，该算法不损失阵列孔径，对相干信号有较好的分辨率，且计算量较小，但是由于只存在两个子阵，因此只可实现两个相干多径的解相干。另外一种是时间平滑算法，该算法利用移动通信信号的衰落特性，在不同的时间段取多个衰落不相关的数据块，且每个数据块的持续时间大于信道相干时间，当时间平滑采样块的数量大于或等于多径数目，通过对处理各块数据后得到的协方差矩阵进行平均就可以实现解相干。时间平滑算法不会造成阵列孔径损失，是一种以时间为代价来换取阵列孔径的减小的算法。最后针对传统的Toeplitz矩阵重构算法只能实现对实相干信号解相干的缺陷，研究了一种针对复相干信号的Toeplitz矩阵重构算法，建立了一种Toeplitz矩阵构造方式，计算机仿真表明该Toeplitz矩阵重构算法可以有效地对复相干信号进行解相干处理，并且具有较好的鲁棒性，与时间平滑算法相比有着较小的均方根误差，但是该算法存在阵列孔径损失较大的缺陷。同时，通过研究这几种算法运行所需的浮点数和执行算法所需的时间来进行算法复杂度的对比。　　 ④研究了时变多径环境下的多用户DoA估计算法，首先建立了多用户信号模型，根据高阶累积量有盲高斯性，可以抑制高斯色噪声的特点，本文提出了利用四阶累积量结合时间平滑技术进行多用户DoA估计的算法。该算法突破了传统DoA估计算法的局限，利用四阶累积量求出多用户的空间特征，进而实现多用户分组，然后利用时间平滑技术进行DoA估计。计算机仿真表明该算法与基于四阶累积量的前/后向空间平滑算法相比，可以估计更多的相干多径，并且具有较小的均方根误差。该算法需要在不同的相干时间内取多个时间样本，以时间为代价换取的阵列孔径，并且仍然需要进行高阶累积量计算，因此计算量偏大，但随计算机处理能力的提升，该问题会逐步得到解决。