在万物互联的今天,无论是移动通信的数据量还是移动通信的设备连接数量都在极速的剧增,想要满足日益增长的传输速率和设备连接数量的要求,必须在现有的物理传输技术上进行突破。MASSIVE MIMO(Massive Multi-input Multi-output,大规模多输入多出输出)技术无论是提升频谱效率还是提升能量效率,其效果都非常显著,所以可以有效的解决以上问题。MASSIVE MIMO通过在基站一侧装配大量的天线阵列,通过数量众多的天线,在时间和频谱不变的情况下,同时服务多个用户终端,以此获取更高的空间增益、频谱效率和系统鲁棒性。论文主要围绕FDD(Frequency division duplex,频分双工)模式下MASSIVE MIMO系统下行链路传输研究,重点研究了两阶段预编码在单个小区和多个小区场景中应用。针对用户接收终端分组时,信号波束存在重叠问题设计了一种重叠度量化的用户接收终端调度方案,确保每个服务群内信号波束重叠程度最小,以此降低信号波束重叠的程度从而提升两阶段预编码的性能。为了选择最优分组,将度量化的波束重叠程度构建成无向赋权图,将用户群分组问题转化为最小权重边选择问题。此外,在多个小区场景下,为了解决不同小区间信号波束的重叠干扰和降低系统开销,根据小区中心区域和边缘区域用户接收终端所处环境的差异性,基于两阶段预编码和干扰对齐技术,设计出了一种多个小区联合传输方案。由于小区边缘和中心的用户接收终端干扰环境、信道链接特征空间秩、到达信号强度的不同,将各个小区分为中心部分和边缘部分。对于中心区域的用户接收终端,由于远离其他小区的发送端基站,故受到其他小区用户接收终端的信号干扰较小,可以忽略不计,利用JSDM(Joint Space Division Multiplexing,联合空分复用)方案消除本小区内的组群间的信号干扰。各个小区边缘的用户接收终端使用JSDM方案降低等效信道链路矩阵的维度,再利用干扰对齐技术以提高小区边缘的用户接收终端的传输性能。