大规模MIMO作为传统MIMO技术的延伸,是5G通信的关键技术之一,受到研究学者的广泛关注。大规模MIMO系统在收发端部署数以百计的天线,并同时服务更多的用户,实现了惊人的信道容量和频谱效率。预编码技术是一种成熟的信号处理技术,它根据已知的信道状态信息,通过在发射端对发送信号进行预处理操作,显著地消除了用户间的信号干扰,提升了系统的信道容量。然而大量的天线部署同时带来了高昂的运算复杂度,这也使得传统的预编码技术很难直接“迁移”到大规模MIMO系统上。在此背景下,本文深入地研究了大规模MIMO系统下具有创新意义的分级预编码技术。其中包括典型分级预编码实现策略分析和性能对比分析;本文还结合了全阵列天线的结构优势,提出一种基于WMMSE的混合预编码策略。论文的主要贡献如下:第一、论文从大规模MIMO系统的天线部署,天线结构及信道模型的系统分类分析出发,简述了传统预编码中四种经典线性预编码技术,重点分析了不同天线结构下的全数字预编码和混合预编码的实现。论文对比分析了不同天线结构下的分级预编码的性能优劣,可以得出结论,不同天线结构下的预编码性能主要取决于硬件复杂度;另外论文对预编码性能和硬件成本进行了折中分析,为大规模MIMO的天线结构选择提供了参考指南。第二、由分级预编码的性能分析可知,全阵列天线结构具有预编码性能良好和硬件成本低廉的优势。然而,目前全阵列结构下大规模MIMO系统主要还是基于SU-MIMO场景,其复用增益近乎为零。本文结合全阵列天线结构,以WMMSE为优化目标,提出一种基于MU-MIMO场景的混合预编码算法。算法主要分为最优一级预编码求解,“粗调”求解模拟预编码,“精调”求解数字预编码三个部分。所提的预编码算法大大降低了大规模MIMO系统的硬件成本,并获得了近乎最优的性能增益。