随着无线通信技术的快速发展,无线通信业务的用户数成指数增长,这对无线数据流量提出了更高的要求。然而,无线电频谱资源是很有限的,如何在有限的资源下进一步提高数据流量成为一个亟待解决的问题。多输入多输出(MIMO)技术是在这种背景下发展起来并成为无线通信领域中的研究热点。MIMO技术可以显著提高系统的传输速率和链路的可靠性,具有很大的理论意义及实用价值,已成为下一代无线通信技术提升信道容量的重要途径之一。MIMO技术可以分为闭环与开环MIMO技术。在闭环MIMO下行链路中,反馈信道信息的控制信道带宽是有限的,这使得MIMO预编码无法利用完整的信道信息以获取充分的预编码增益。因而在有限反馈的前提下,如何获得较多MIMO预编码增益就成为一个重要的研究问题。在开环MIMO下行链路中,发送端虽然无法获知信道信息,但发送端同样能通过开环MIMO技术以增强信号强度或获得空间复用增益,所以开环MIMO传输技术也是一个研究热点。本文围绕蜂窝网络闭环与开环MIMO两方面展开研究工作,所取得的主要研究成果如下：(1)在闭环MIMO单用户下行链路中,基于预编码码本的有限预编码,本文提出了交替码本预编码方案。在不增加额外反馈开销的条件下,该方案能虚拟地增大码本,从而减小码本对信道的量化误差。所提出的交替码本预编码方案比传统的预编码方案有着更好的BER性能。在移动速度为1km/h时,4反馈比特的交替码本BER性能接近传统预编码方案在10比特下的性能；在移动速度为3km/h时,4反馈比特的交替码本方案的BER性能接近传统预编码方案在8反馈比特下的性能；当移动速度为15km/h时,交替码本相对传统方案的增益减小,但仍然优于4反馈比特的传统预编码方案性能。在移动速度为60km/h时,交替码本与4反馈比特的传统预编码方案性能一样。(2)在闭环MIMO单用户下行链路中,基于差分码本的有限反馈,本文提出了融合优化于不同信道变化速率的交替差分码本方案。通过交替使用该差分码本集合,可以虚拟地增加码本的大小,更为重要的是使得优化于不同速率的码字变得同时可用,从而克服了传统的差分码本常常优化于某一特定的速率这一缺点。所提方案的理论分析与仿真研究结果表明该方案相比传统的差分码本预编码而言,不仅能在低移动速率时保持传统差分码本(优化于低速率)的优异信道追踪性能,而且能在中高速率环境下提升该差分码本的性能,改善了差分码本不能快速适应于各种速率的特点,这种方案较好地增强了差分码本有限反馈的实用性。在低速率时(1km/h),交替差分码本预编码性能略优于优化于1km/h的原始差分码本性能,交替差分码本在15km/h时的性能仍然优于原始的且分别优化于1km/h与30km/h的差分码本。当速率达到30km/h时,交替差分码本性能优于原始的优化于1km/h的差分码本,并且接近于单纯优化于30km/h原始差分码本。(3)在闭环多用户MIMO下行链路中,本文将交替码本思想应用到了多用户有限反馈预编码技术中,多用户MIMO采用了3GPP-LTE标准中基于正交波束成形的SDMA的下行链路传输方案,并进一步优化了算法,在贴近实际的多蜂窝环境中进行了仿真验证,证实了该方案现实可行,明显地提高了系统吞吐量。在速率为1km/h时,4反馈比特的基于交替码本的多用户MIMO接近传统的多用户MIMO在10反馈比特时的性能,获得近6比特增益；在速率为3km/h时,4反馈比特的基于交替码本的多用户MIMO能优于传统的多用户MIMO在8反馈比特时的性能,获得4比特增益。(4)在开环MIMO下行链路中,针对单频广播网络的传输问题,首先分析了制约开环MIMO空间复用传输的客观条件,给出了解决这一问题的思路与方案,提出了分布式空间复用方案。针对LTE多媒体广播多播传输这一典型开环MIMO应用实例,首先研究了LTE中标准化的多媒体广播多播技术,并将同站点MIMO空间复用传输技术应用到了LTE MBMS中,同时针对同站点MIMO技术的不足,提出了两种开环MIMO传输方式,即分布式多数据流传输方案：一个是基于规划的分布式多数据流传输；另一个是随机选择的分布式多数据流传输。两种方案均能有效地克服同站点MIMO天线间相关性、视距传输信道秩缺失等问题。在5MHz带宽条件下,相比标准化的LTE MBMS传输方案频谱效率提高了40%,相比同站点MIMO传输方案频谱效率提高了24%。