大规模多输入多输出(Multiple-Input Multiple-output,MIMO)技术能够在不増加系统带宽及发射功率的基础上提高系统容量性能,同时相较于传统MIMO,该技术可以深度挖掘空间维度资源。然而这些性能的提升都是以牺牲射频链路成本为代价的,在大规模MIMO系统中,天线选择技术被认为是系统性能与高硬件成本两者折中的有效解决方案之一。由于多用户MIMO系统中普遍存在着干扰问题,而干扰将会造成通信质量恶化,进而限制系统的容量。因此,在大规模MIMO系统中需要使用干扰消除技术消除多用户之间的干扰问题。基于上述问题的研究,本文将天线选择和干扰消除技术两者结合使用于大规模MIMO系统,该方案可以在降低硬件成本的同时有效地消除系统间的干扰,从而提高系统的性能。本文研究的主要内容包括以下几个方面:(1)首先将天线选择技术与线性预编码技术结合使用于单小区多用户的大规模MIMO系统,将这两种技术结合使用能够充分利用两者的优点,在降低硬件成本的同时实现近似最优容量,这一结论为大规模MIMO技术的市场化提供理论依据。(2)针对两小区多用户的大规模MIMO系统,本文将Tse等人提出的下行干扰对齐技术和天线选择技术结合使用。仿真表明该方案获得的容量性能优于迫零(Zero-Forcing,ZF)和最小均方误差(Minimum Mean Square Error,MMSE)预编码方案,这一优点在高信噪比情况下尤其明显。(3)针对三小区多用户的大规模MIMO系统,本文提出一种新的干扰对齐技术,并将它与基于贪心算法的天线选择技术结合使用,仿真结果证明该方案实现的容量性能优于ZF预编码方案。