近年来,人们对通信的需求日益增长,对移动通信系统的信道容量和传输速率也有了更高的要求。正交频分复用(OFDM)和多入多出(MIMO)技术成为了移动通信领域的研究热点,并且广泛应用于长期演进(LTE)系统和第四代移动通信(4G)系统中。其中,MIMO技术最大的优势是能够在不增加频谱资源和天线发射功率的情况下,成倍地提升信道容量,因此成为了LTE和4G系统的核心技术之一。预编码技术是为了解决MIMO系统所引入的天线间干扰问题,能够简化接收端的设计并提升系统性能,对移动通信系统的发展具有重要的意义。对发送数据进行预编码,有线性和非线性两种不同的处理方式。前者是将常用的接收端信号线性检测技术直接应用于发射端,预先消除天线间干扰,这类方案易于实现并且具有较低的复杂度,但会降低接收端的信噪比,影响系统性能;后者是在发送端对待发射信号进行非线性处理,在预先消除干扰的同时避免了接收端信噪比的降低,因此这类方案能够获得较大的性能增益,但具有较高的复杂度,难点主要集中在扰动向量的求解上。因此,如何降低非线性预编码的复杂度,是本文研究的核心内容。当前现有的几种传统的MIMO广播信道预编码方案中,线性的ZF预编码具有最低的复杂度,但同时具有最差的性能;球形编码复杂度最高,但能够达到最理想的性能。要提出一种既有较低复杂度、同时还具有优异性能的预编码算法是极其困难的,因此对于低复杂度非线性预编码的研究,关键在于如何在性能与复杂度这一对矛盾中获得一个折中的方案。本文先对线性预编码方案和非线性预编码方案进行了介绍,并详细分析两种方案的优点和缺点。随后重点对非线性预编码的关键问题——扰动向量的求解进行深入研究,通过分析对比现有的几种求解算法,提出了两种能够有效降低复杂度的非线性预编码方案:基于矩阵条件数的预编码切换方案和改进的球形编码方案。通过性能仿真和复杂度分析,本文提出的这两种方案能够在性能和复杂度之间取得较好的平衡。