多输入多输出(MIMO)无线通信系统具有极高的系统容量和频谱利用率，呈现出极好的应用前景。它已成为目前无线通信技术的研究热点，也是下一代移动通信中的核心技术。MIMO系统的技术主要分为开环和闭环两大类，开环技术主要有空时编码技术和空分复用技术，闭环技术主要有预编码技术、自适应调制和功率分配技术、天线选择技术等。本文主要研究了MIMO系统开环中的信号检测技术和闭环中的预编码技术，具体如下： 1、研究了开环中MIMO平衰落信道下的信号检测技术，主要包括空时编码系统和空分复用系统中的信号检测技术。在空时编码系统中，主要研究了空时分组码，从Alamouti方案着手进行研究；在空分复用系统中，主要研究了分层空时码中的V-BLAST结构及其检测技术，并给出了一种改进的检测方法，该方法能获得最大分集。 2、研究了MIMO单用户系统预编码技术。首先研究了一种推广的线性预编码和解码方案，它是以最小均方误差为准则，将MIMO信道分解为特征子信道，根据不同的加权值得到不同的预编码方案；然后研究了实际系统的发射端具有相关性的线性预编码，通过对发射天线相关矩阵进行特征值分解，设计收发联合优化线性预编码方案。 3、研究了MIMO多用户系统预编码技术。首先研究了块对角化预编码技术，该方法通过零空间约束设计预编码矩阵来消除多用户干扰；然后研究了逐次优化的预编码技术，该技术在低信噪比时，性能优于前者，而且能更好地消除“远近”效应。 4、研究了MIMO多用户系统中的多用户分集技术。首先研究了线性接收下的空间复用多用户系统中各种分集方案并进行了性能分析；然后研究了基于块对角化预编码的用户调度问题。