下一代无线通信系统的目标是提供高速率、高质量的数据通信。MIMO技术就是一种能提高数据传输速率和可靠性的无线通信技术。在MIMO信道中，使用空时编码可以使信息容量接近理论值，且能显著提高系统的性能。空时编码有着很好的应用前景，目前已被纳入3G标准之中，也必将成为4G中的关键技术。　　 本文首先分析了MIMO无线通信和空时编码的基本原理，然后简要介绍了分层空时码和空时网格码的编码原理，接下来重点研究了空时分组码的编译码。　　 在编码方面，本文首先研究了正交空时分组码。通过仿真发现，通过增加发射天线数目能显著提高系统的性能，但当调制信号为复数、发射天线数大于2时，正交空时分组码不能获得满速率。由此引出了准正交空时分组码，它是以降低分集增益和提高译码复杂度为代价来获得满速率的。为了同时获得满速率和满分集，引出了旋转准正交空时分组码。本文还提出了一种在实信号正交空时分组码的基础上设计满速率、满分集的准正交空时分组码的编码方法，并对几种空时分组码的误码性能进行了仿真分析。结果表明，在收发天线数相同的情况下，旋转准正交空时分组码的性能最好，本文提出的准正交空时分组码次之，且二者在整个信噪比范围内的性能都要优于传统的准正交空时分组码和正交空时分组码。　　 在译码方面，本文首先分析了正交空时分组码和准正交空时分组码的译码，包括传统的最大似然译码、基于QR分解和干扰消除的最大似然译码及利用零空间来分离不同发射天线信号的低复杂度译码，并对三种译码算法的复杂度进行了分析。结果表明，利用零空间分离的译码算法的复杂度较传统的最大似然译码算法明显降低，非常适用于调制阶数较高的情况，基于QR分解和干扰消除的最大似然译码算法复杂度居中。　　 最后本文分析了正交空时分组码与格拉斯曼流形上点集的对应关系，并利用它构造了一个4发射天线的正交空时分组码。这种码可以获得比原来的正交空时分组码更高的速率，通过仿真还发现，在信噪比较高的情况下，这种码的性能要优于其他同速率的空时分组码。