移动通信的飞速发展极大地拓展了业务范围,人们的需求也变得更加多样化,这对移动通信系统的容量及速率提出了更高的要求。MIMO(多输入多输出)技术的出现将移动通信的发展带上了一个新的高度,由于它在提高系统容量和频谱利用率方面有着出色的表现,这激发起科研人员的浓厚兴趣。分布式MIMO系统巧妙地将MIMO技术置入到分布式天线系统中,充分利用两种技术的优点,有效解决了传统MIMO系统自身无法克服的一些问题,如减小天线相关性、缩短信号接入距离等,也因其采用分布式架构,可利用更多数量天线同时进行收发,使其获得更高的系统容量。但是,MIMO系统及分布式MIMO系统的自身结构特性决定了系统需配备更多射频链路,这导致了整个系统成本的提升,也大幅增加了系统复杂度。而天线选择技术可以在全部天线里找出部分对提高系统性能最好的天线进行收发,减少了射频链路,在保证系统容量的前提下,很好地降低了系统成本及复杂度,并且在大规模分布式天线系统、双向中继、多用户MIMO系统中的应用也有非常好的前景。本文重点分析天线选择算法在分布式MIMO系统中的应用,主要从信道容量及运算复杂度的角度来评价其性能优劣。首先从构建MIMO系统信道模型、分析容量影响因素方面着手,推导分布式MIMO系统容量公式,分析在不同信道环境下系统容量的变化。其次,主要研究了几种经典天线选择算法,对各算法从不同方面进行对比,通过仿真对结果进行验证。然后重点研究了天线选择算法在分布式MIMO系统中的应用,通过仿真分析了经典算法在分布式MIMO系统中的表现。最后给出一种改进的递减选择算法,从系统容量和系统复杂度两个方面对改进算法与其他算法进行对比,通过仿真验证,改进算法可以保证容量性能逼近最优算法,同时又可以通过简化运算很好地降低系统复杂度。