MIMO系统是指收发端各自拥有多根天线的系统。在不增加带宽和发送功率的情况下,MIMO可以成倍地提高无线信道容量,改善系统性能,因此成为无线通信领域的关键技术之一。多用户MIMO预编码技术是MIMO系统中的一项重要技术,它通过在发射端对信号进行预处理以消除多用户干扰、降低误码率或提高系统容量。本文从线性预编码、非线性预编码以及二者的结合三个方面对多用户MIMO系统中的预编码技术进行研究：首先,建立了适合各种预编码方案的系统模型,并在此基础上研究了多种经典的预编码算法。然后,基于信漏噪比(SLNR)思想,提出了适用于任意用户和天线配置的迭代SLNR算法。重点研究了使用施密特信道正交化(CO)代替传统矩阵分解的方法,提出了低复杂度的CO算法和考虑噪声影响的CON算法。为了进一步消除CO算法中的剩余干扰,本文还提出了结合CO和THP的CO-THP算法。最后,通过性能仿真将所提算法与其他算法进行了分析比较,验证了所提算法的有效性。