现代科技发展突飞猛进,无线通信的发展以及人们对无线通信的需求与过去的十年相比已经不可同日而语,无线通信从以往的传输文字和声音为主渐渐的转移向视频直播和图像传输为主的下一代通信系统。而相应的频谱资源并没有增加,如果需要提供更高的速率和更好的服务质量就需要提高频谱的利用率。其次,无线信道的衰落,多径和时变特性对信号的可靠性有很大的影响。而空时处理技术,尤其是多输入多输出(MIMO)技术作为4G或B3G的核心技术之一,能够大幅度提升系统速率,改善无线通信的可靠性,可以很好的解决这些问题。采用空时编码的MIMO系统能够提升系统的可靠性,增加系统的覆盖范围,很好的适应未来无线通信的需求。本文研究了未来通信系统中的关键技术:多用户MIMO系统下行广播信道的传输技术和多用户通信系统中的多用户调度机制。在多用户MIMO系统下行广播信道的研究中,本文研究了多用户特征模式传输(MET),MET在线性预编码系统中有着最好的性能表现,可以达到近乎于脏纸编码的效果。MET可以同时发送几个空间复用的流给多个用户,极大的提升系统的容量。由于基站发送天线和用户接收天线数的限制,MET同一时刻服务用户的数量也是有限制的,需要进行用户选择,而穷举搜索算法的高复杂度限制了它的应用。本文介绍了一种新的递归用户选择算法,降低了用户选择的复杂性,算法复杂度得到了降低。针对多用户MIMO系统下行广播信道的资源分配和用户调度,本文提出了一种新的基于多用户比例公平调度的自适应算法。基站端采用MET来消除用户间干扰,增加系统吞吐量,在保证用户传输速率的情况下使用比例公平调度和本文提出的自适应比例公平调度算法提高系统的公平性,在同一时刻选择最优用户集来传输。仿真与分析表明本文提出自适应算法不仅保证了系统的速率,还提高了系统的公平性。