本论文主要研究了MIMO信道下多用户的信道容量以及MIMO系统中的预编码技术。本论文的主要工作如下：1.在深入研究了单小区MIMOMAC信道容量和MIMOBC信道容量的基础上，我们研究了多小区下的MIMOBC信道容量。首先提出了多小区MIMOBC的信道模型，由于每个基站均有自己的功率约束条件，所以前面章节的结论不能直接使用，但是我们通过变换利用前面的结论可以仿真出多小区MIMOBC的速率和容量的上界和下界，通过比较发现在高SNR情况下，上界和下界几乎相同，所以我们可以使用该方法来估计多小区MIMOBC的速率和容量。2.推导出了矢量广播信道下CDMA和TDMA信道容量的比较，结论表明在矢量广播信道中，当信道为慢衰落时，采用CDMA多址方式所能提供的速率和容量与采用TDMA方式比较，其比值的上界为min(M,K)，其中M为基站的天线数目，K为系统的用户数目。该结论与SNR和用户的天线数目无关。3.利用实值信道模型，我们通过简要的分析和必要的仿真证明了在V-BLAST的带排序的译码算法中，如果采用实值信道模型其性能要优于复值信道模型。4.提出了码速率约束下的收发联合优化，该思想很具有实际意义，即在保证基本码速率的前提下，如何使性能最优。我们给出了系统的结构，给出了理论推导，利用改进的Fischer算法解决了上述问题。