大规模多输入多输出（Multiple-Input Multiple-Output,MIMO）技术被认为是未来无线通信系统极具发展潜力的技术之一,在不增加带宽的情况下极大地提升了系统的吞吐量,因而受到了研究人员的广泛关注。然而在大规模MIMO系统中,传统通信技术理论在大数据处理和超高速通信等方面表现出一些固有的局限性,亟需研究人员寻找更高效的解决方法。近年来深度学习方法作为人工智能（Artificial Intelligence,AI）领域一颗冉冉升起的新星,在处理愈加复杂的物理层无线通信时被视为一种有效的解决工具。因此,本文结合深度学习方法对大规模MIMO下行传输系统的统计预编码以及用户调度方案进行探究。首先,本文简要总结了深度学习的基础理论,介绍了深度神经网络（Deep Neural Network,DNN）的前向传播以及神经元激活的方式,描述了卷积神经网络所包含的模块及其作用,并介绍了指导模型进行参数更新的损失函数。之后推导了用于模型优化的反向传播（Back propagation,BP）算法,进而引出本文训练模型时采用的最小批量梯度下降（Mini-Batch Gradient Descent,MBGD）算法以及自适应矩估计（Adaptive Moment Estimation,Adam）优化算法。随后,在相关莱斯信道下,针对单小区全维MIMO（Full-Dimension MIMO,FD-MIMO）下行传输系统,研究了基于深度学习的统计预编码。首先,在基站仅知晓各用户统计信道信息（Channel State Information,CSI）的情况下,通过最大化用户平均信漏噪比（Signal-to-Leakage-and-Noise Ratio,SLNR）下界,推导出用户的最优波束成形向量以及相应的波束成形指数。在此基础上,为了进一步降低计算延迟,用深度学习理论将用户预编码设计抽象为一个分类问题,由用户的统计CSI预测波束成形指数。然后分别提出了一种基于数据驱动的波束成形深度神经网络和两种基于模型驱动的波束成形深度神经网络模型,利用监督学习的方法离线训练三种网络模型,使网络从训练数据中学习用户统计CSI到波束成形指数的映射。在线预测的结果表明,所提出的三种深度学习算法能够根据用户的统计CSI预测该用户的最优波束成形向量,在几乎没有性能损失的情况下,大大降低了波束成形算法的计算延迟。另外,基于模型驱动深度神经网络的波束成形算法相比基于数据驱动深度神经网络的波束成形算法性能更优,需要的计算时间更少。最后,针对大规模MIMO单小区下行传输系统,在相关莱斯衰落信道下,研究了基于深度学习的利用统计CSI的用户调度方法。在前一部分所获得的各个用户最优统计波束成形向量的基础上,推导了用户遍历速率的近似表达式,由此得到一种最大化系统近似和速率的穷举搜索调度算法。为降低调度算法的计算时延,进而采用深度学习方法解决用户调度问题。为避免将用户调度问题视为多分类时所导致的输出维度爆炸,本文将用户调度抽象为多标签分类问题,提出了一种基于卷积神经网络的用户调度网络。在离线训练阶段,该网络从各个用户的归一化信号以及所受干扰的图样中学习使系统近似遍历和速率最大的调度方案,相应的训练样本由最大化系统近似遍历和速率的调度准则生成。在线预测阶段,用户调度网络根据系统中各个用户的信号以及所受干扰所组成的归一化图样预测各用户被调度的概率,最终根据所输出的概率向量选择基站将要服务的用户,以较低的计算延迟实现较高的系统吞吐量。此外,训练完的用户调度网络仅需要利用各个用户的统计CSI,降低了信道信息的反馈开销,且对不同的信道环境及基站传输天线数量也具有较好的鲁棒性。