MIMO技术作为提高数据传输率的重要手段得到人们极大的关注,被认为是未来新一代移动通信(4G)的备选关键技术之一。而天线选择是MIMO技术中的一个关键问题,它能从MIMO系统的多个发射天线和多个接收天线中选择出性能最好的一根或几根天线,从而以很小的性能损失换取成本的大幅降低,极大地提高了MIMO系统的性价比。同时可以通过减少接收终端中的天线数目,从而解决在个人移动终端中因天线数量过多,接收机过于复杂且天线间距过小等一系列影响个人移动终端的使用和造型设计的重大问题,正是这些问题极大地限制了MIMO技术的发展和推广。因此天线选择成为无线通信领域的一个研究热点。本文首先分析了空时分组码的MIMO系统接收端天线选择的性能。用不同方法推导了任意发射/接收和要选择的天线数目下两个误码率上界;对任意发射/接收天线,接收端只选择一根天线的情况,给出了一个紧致的误码率上界;并在Alamouti编码下接收端只选择一根天线时,推导了其精确的误码率表达式,最后对推导出的公式进行了仿真验证。其次分析了已有经典的天线选择算法,基于对已有算法的理解和总结,提出了一种新的天线选择算法,考虑在接收端进行天线选择,以信道容量最大化为目标。仿真结果表明,新算法在容量上接近最优算法,而且具有较低的复杂度。再次,对基于相关的CBM算法进行了修正和补充,增加了递增的CBM算法,形成了完整的相关算法。仿真结果表明,系统性能有了很大的提高。最后对在匙孔信道中进行天线选择的选择策略和容量等进行了分析以及仿真。