当前无线通信的发展正处于最为关键的时期，人们持续增长的需求与有限频谱资源之间的矛盾成为研究高频谱利用率技术的动力和挑战。众多新技术中，基于多天线的多输入多输出(MIMO)无线通信系统已显示出无尽的潜力，成为充分利用空间资源的必然途径。MIMO技术是3G及未来移动通信系统中的关键技术，它利用信道的多径效应能够有效地提高信道容量，能极大改善无线通信的可靠性。作为MIMO构架核心环节的空时编码技术，是一种新兴而颇具潜力的方案，能够有效提高无线频谱利用率。它充分利用了MIMO信道的发射分集技术，具有质量高、可靠性强、运行速度快、易于实现，系统开销低等特点，得到了人们的广泛关注，并且已经纳入了3GPP(3G合作项目)标准，由此可见其重要性。 最近几年，由于第三代移动通信系统要求具有更高的话音质量和比特率数据服务，使用空时编码的发射分集受到了格外的重视。空时编码是无线通信的一种新的编码和信号处理技术，它使用多个发射和接收天线进行信息的发射和接收，可以改善无线通信系统的信道容量和数据速率。空时编码在不同天线发射的信号之间引入时域和空域相关，使得在接收端可以进行分集接收。与不使用空时编码的系统相比可以在不牺牲带宽的情况下获得更高的编码增益。在接收机结构相对简单的情况下空时编码的结构可以有效提高无线系统的通信容量。 目前，针对空时编码的研究主要侧重于两个方面：其一，优化空时编码解码算法本身，如减少运算的复杂度，或者设计一种新的编码矩阵和算法；其二是将空时编码和其他技术的结合，形成各种高速无线通信传输方案，典型的是将空时编码与调制技术和信道编码结合提出各种性能比较优异的方案。 本文首先介绍了MIMO无线通信系统的研究背景以及空时编码技术的基本概念和分类，突出介绍空时分组编码技术并与其他编码技术做比较以表明研究的必要性和必然性。然后本文在复正交空时分组编码矩阵的设计，编解码算法的优化以及减少编解码运算复杂度方面做了大量的研究。本文的主要内容和创新结果概括如下： 第一，介绍了MIMO无线通信系统的研究背景，分析了各种空时编码技术的特点、主要研究热点、研究进展和基本问题等等；然后叙述本论文的创新点及研究成果，指出了本文的研究方向。