无线信道具有的多径衰落特性是阻碍信道容量增加和服务质量改善的主要原因之一。空域分集就是利用空间上分离的多个发射信号样本或多个接收信号样本(多个不相关的信道)来对抗多径衰落。近年来提出的多输入多输出(MIMO:Multi-Input-Multi-Output)发送分集技术能有效地改善无线多径，时变衰落信道的性能，因此得到快速发展，在一些通信系统基站中得到广泛应用，并已逐渐被新一代无线通信系统的主流协议所采纳。空时编码是适合于多天线阵信道的一种编码方案，它综合了空间分集和时间分集的优点，同时提供分集增益和编码增益，能够获得远远高于传统单天线系统的频谱利用率。MIMO中的空时编码技术，在不牺牲带宽的情况下，可获得更高的编码增益，从而有效提高无线通信系统容量，已成为B3G(Beyond Third Generation in mobile communication system:超三代移动通信系统)通信系统的关键技术，被越来越多地应用于提供高数据传输率的业务(例如视频会议)和宽带无线信道中的移动业务。 研究表明对于多径衰落环境下的无线通信系统，多天线技术能够有效地提高频谱效率而不需要增加额外的带宽。但在实际的传播环境中，由于“匙孔”现象所引起的秩减小会降低MIMO系统的容量及其性能。通常情况下，天线之间的相关性并不能有效保证频谱利用率的提高。事实上，在实际信道中，恶化的传输条件(通常称为“匙孔”效应)会给MIMO信道容量带来相当大的影响。目前，关于匙孔信道的研究还处于初级阶段，本文在匙孔信道的基础上对空时编码技术进行了分析，提出了有效改善匙孔信道性能的方法——双极化天线技术和协作分集技术，并通过仿真验证了这两种方法的有效性。 本文的研究主要包括以下几个方面： (1)分析了匙孔信道的信道容量和性能，研究了匙孔效应对MIMO系统信道容量的影响，通过仿真证实在匙孔信道下信道容量与瑞利信道相比明显减小，系统的性能与瑞利信道相比也明显下降。 (2)对基于匙孔信道的空时分组码(STBC: Space Time Block Codes)进行了研究，主要包括匙孔信道下的正交空时分组码，准正交空时分组码，旋转准正交空时分组码。首先建立信道模型，然后进行编码设计、译码、仿真和差错分析。仿真结果表明，无论哪种编码方式，匙孔信道中的性能与瑞利信道相比明显下降，分集增益变小。 (3)研究了基于匙孔信道的空时网格码(STTC：Space Time Trellis Codes)，包括空时网格码的编码、性能分析以及匙孔信道下的编码准则，并依据此编码准则进括空时网格码的编码、性能分析以及匙孔信道下的编码准则，并依据此编码准则进行匙孔信道最佳编码的设计，得到最佳码字。通过仿真表明，同一码字在匙孔信道中的性能比瑞利信道要差，匙孔信道中的最佳编码与瑞利信道下的最佳编码相比性能有所改善。 (4)提出了两种改善匙孔效应性能的方法，即在匙孔信道中引入双极化天线技术和协作分集技术。通过仿真表明，这两种技术都能极大地改善匙孔信道的性能，降低了误码率。