现代无线通信面临着频谱资源有限,时变无线传输环境复杂等困难。随着对更高的数据传输率、更好的服务质量、更能大的网络容量和覆盖的需求的增大,出现了许多能够提高频谱效率和传输可靠性的新技术和新方案。在无线通信系统的发射机和接收机处使用多元天线阵,也就是无线MIMO(Muitiple-Input Multiple-Output,多入多出)系统技术,就是其中之一。随着对MIMO 技术的研究的深入,它所能够提供的性能增益也越来越引人注目。目前,MIMO 技术已经被引入诸如UMTS 和CDMA 2000 标准中。在固定无线接入和WLAN 应用中,MIMO 技术也被IEEE 802.16 和802.11 标准制订者作为一种重要实现方案进行研究。概略的来说,MIMO 系统可以通过空间复用技术提高数据传输率,或者通过发射分集方法提高传输可靠性。本文针对这两方面做了以下工作: 1、在空间复用技术应用方面,最早的是贝尔实验室做出的垂直分层空时(V-BLAST) 传输系统。但是他们提出的接收机检测算法——迫零-判决反馈消除(ZF-DFE)算法——并不是最优的,其性能受到符号分量的检测顺序和差错传播的影响。本文提出了逐符号最大似然判决(SSML)算法就不存在上述的缺点,同时也是在误码率最小意义上最优的V-BLAST 检测算法,仿真结果表明,SSML 算法的误码性能比ZF-DFE 算法有着显著的提高。针对SSML 算法计算复杂度较高的特点,我们提出使用径向基神经网络(RBF NN)的实现方法,利用神经网络硬件的并行计算,数据存储等特点使SSML 算法在实际系统中的应用成为可能。2、在发射分集技术方面,研究表明采用空时分集编码的MIMO 系统的性能与信道矩阵的特性密切相关。但是经典的MIMO 信道模型都是假设对应于不同发射-接收天线对的无线传输链路是准静态(Quasi-static)独立同分布的瑞利衰落信道。但是在实际应用中,经常会出现移动台移动速度较快、天线阵的阵元间距不足等问题,此时再采用准静态独立同分布的瑞利衰落模型就不够准确了。本文利用矩阵的知识,用向量和矩阵的表示方法给出了一个能够在相关快衰落信道下进行系统性能分析的通用MIMO 信道模型。进一步,通过对信道矢量的协方差矩阵的构架,这个通用信道模型可以综合考虑诸如莱斯衰落、空间衰落相关、时间衰落相关等情况下的信道特性。3、在本文提出的通用MIMO 信道模型下,我们对空时分集编码在相关快衰落信道下相干最大似然接收机的性能(成对误符号率)进行了分析,并分别