频谱效率一直都是移动通信领域研究,发展和部署的热点问题。在当今这个数据爆炸的移动互联网时代,大量的智能终端层出不穷,对系统频谱效率的需求将更加迫切。上世纪90年代初,多天线空分复用技术的发现,使得在有限带宽下提升频谱效率成为可能。为了进一步挖掘空分复用技术的潜能,由于部署的天线数目和空间自由度正相关,在2010年美国贝尔实验室的Marzetta提出了大规模天线系统,并论证了其性能优势,随后,基于电磁波在三维空间中传播的事实,大规模多输入多输出(Massive Multiple Input and Multiple Output,M-MIMO)的衍生技术三维MIMO(Three Dimensional MIMO,3D-MIMO)技术备受青睐,并被认为是第五代移动通信系统(Fifth Generation,5G)的核心技术。本论文首先深入研究了3D-MIMO波束赋形技术。对传统的基于相关阵的3DMIMO波束赋形,基于码本的3D-MIMO波束赋形和基于水平垂直维度分别迫零的3D-MIMO波束赋形技术进行了研究和仿真验证。同时也对不同天线端口数目对3D-MIMO性能的影响也进行了分析。其次,论文在深入研究3D-MIMO波束赋形技术的基础上,提出了一种新型的3D波束赋形技术。该方法在水平或者垂直维度上消除干扰,在另一维度采用最大比发送技术最大化波束赋形增益。与传统3D波束赋形算法相比,该方法能够以更低的复杂度获更优的性能。最后,本文在长期演进(Long Term Evolution,LTE)链路级平台上进行了大规模MIMO及高阶调制的仿真验证。验证了大规模MIMO系统在采用传统线性预编码方法同时引入高阶调制如1024正交振幅调制(Quadrature Amplitude Modulation,QAM)后系统吞吐量的大幅提升。为了适应信道,进一步提升性能,该平台还加入了链路自适应技术,使得系统能够根据实时的信道质量信息调整调制阶数,最大化系统性能。