无线通信MIMO技术是分别在发送端和接收端采用多天线系统的先进通信技术，为解决无线接入所需的高容量和高速率的瓶颈问题提供了重要的解决方案。空时编码是一种基于MIMO架构的信道编码方法，它通过融合空间分集(天线)和时间分集(时隙)于一体的思想，获得联合最佳的信道分集增益，能取得比单发单收天线系统大得多的信道容量，因此被认为是承载下一代无线通信高速率业务的关键技术。 MIMO系统是一种自干扰系统，所有天线在相同频率工作，不可避免的相互发生干扰，因此，空时编码主要研究的问题在于其检测技术；同时，MIMO系统同时具有天线分集和信道复用两大功能，如何取得很好的折衷性能也是空时编码必须处理的问题。在这两个方面，分层空时码(BLAST)，通过结合纠错编码方法和空时分层技术，使得天线分集和传输速率问题得到了很好的兼顾，而应用Turbo原理的迭代检测方法则能大大提高其检测性能，在未来的MIMO系统中具有巨大的应用前景。 本文在结合Turbo码的Turbo原理研究的基础上，对分层空时码及其检测和译码方面进行了深入的研究，取得了以下4个方面的研究成果： 1．在Turbo码研究的基础上提出一种新的交织器的设计方法。交织器在Turbo码中具有重要作用，本文分析了交织器在优化Turbo码距离谱方面的作用，提出了一种新的基于三维矩阵的交织器设计方法，通过距离分隔和随机化步骤，使得交织器具有更好的输入输出分隔谱性能和随机特性，满足交织器设计准则中所提出的要求，新方法相比于其它传统方法具有更好的误码率性能。 2．提出了一种BLAST系统的迭代检测方法。在研究了BLAST系统传统检测方法的基础上，本文提出了一种新的能够并行处理的迭代干扰消除检测算法，新方法通过软信息的估计、软干扰消除等步骤较好的降低了传统检测中的错误传播现象的影响，通过极少量次数的迭代处理取得了很好的性能，在实际中具有较大的应用价值。 3．提出了一种应用于H-BLAST系统的联合检测方法。本文针对H-BLAST系统的特点采用了一种新的联合检测算法，将检测器和译码器进行联合考虑，通过软信息的传递，有效地抑制了检测过程中的错误传播影响，提高了系统的检测性能。 4．设计出一种采用Turbo原理进行迭代检测．译码的BLAST系统。编码BLAST系统的不足在于系统很难达到最优的联合MAP检测-译码结果，而Turbo 原理的迭代检测技术则在此方面具有优势。本文提出了一种采用比特交织编码的BLAST系统和用于此系统的基于Turbo原理的迭代检测．译码方法，通过交换检测器和译码器之间的软信息，利用迭代的检测和译码大大提高了系统的整体性能。