更高的传输速率和更可靠的传输方式是未来无线通信系统的基本特征。由于多输入多输出(MIMO)技术可明显提高系统容量、改善通信质量以满足高速无线业务需求,所以MIMO技术已成为未来无线通信系统的关键技术之一。MIMO系统的核心思想在于通过空时编码和空时信号处理达到或接近MIMO信道的容量。空时编码的设计方法始终是MIMO研究的主题之一。一个性能优异且实际可行的空时编码方法应当在不明显降低系统传输效率的前提下,同时具备最大分集增益和尽量高的编码增益,且具有简单的编码结构和低复杂度的译码算法,通常很难实现这一设计目标。而无线信道开放性带来的安全问题也存在于MIMO通信系统中,常规的加密方法都没有利用空时编码各并行数据流的内在联系。进一步,如何将具有信道容量优势的MIMO系统与具有多址特性的扩频系统有机结合也是一个非常值得研究的课题。本文围绕着上述几个关键问题展开讨论和分析,主要的研究内容和取得的成果可概括如下:1、深入分析了一种特殊的空时编码技术——时变线性变换(TVLT),修正并完善了TVLT可使空时编码系统具有全分集的证明,并推导了TVLT与MIMO信道和编码增益的数学关系。通过应用TVLT,极大简化了全分集全速率条件下,具有高编码增益空时码的构造和验证过程。针对TVLT对信道码的要求,对比分析了Turbo码和LDPC码,基于生成矩阵提出并证明了关于LDPC码最小汉明距离紧致上界的两个定理。首次提出并证明了一类LDPC码——Tanner码不含四环的充要条件并以多个定理形式给出,可依据这些定理验证Tanner码四环特性并构造出LDPC好码。首次将TVLT和Tanner码结合提出一种新颖的TVLT-LDPC-MIMO系统架构,并给出了相应的联合迭代检测/解码算法。与常见的STBC-LDPC-MIMO架构的系统相比,此系统具有编码结构简单、可同时到达到最大分集增益和编码增益的优势,具有更高的传输速率和更低的误码率。2、证明了将TVLT作为加密手段的有效性。首次将TVLT中随机变化的酉阵和“一次一密”的流密码体制相结合,创造性地建立了基于TVLT的MIMO保密通信系统的概念和方法,并使用多重独立产生且完全随机的流密码序列构成TVLT中的酉阵元素。通过联合使用多重对称密码和非对称密码的设计方法,本文提出了新的保密系统的架构并给出其加解密详细流程和具体算法。该算法加解密速度快,几乎不影响系统传输速率。所有加解密过程都通过软件算法实现,且符合基尔霍夫准则。采用最强攻击分析了加密算法的安全性,理论证明了系统具有理论安全性和实际安全性,非常适合于在未来无线宽带通信网中使用。3、提出一种可用于CDMA系统下行链路的低复杂度MIMO预编码方案,并给出相应算法及系统误码率分析。与已有的MIMO CDMA系统相比,该方案大大降低了系统难度且具有更好的误码性能。将Rake技术应用到MIMO CDMA系统,基于智能天线和空时Rake接收机,提出一种用于TD-SCDMA系统基站的简化空时接收机方案,主要由数字信号处理软件实现,这是其他方案无法做到的。基于波束成形技术,提出一种类似于2维信号滤波器的空时接收机算法,它可以通过波形信号和空间信号来区分移动台,也引出了MIMO子扇区的概念。将MIMO和跳频通信相结合,首次建立了跳频序列S距离的概念并给出广义宽间隔跳频图案的定义。提出一种新颖的非相干解调快跳频MIMO系统方案和相应的广义宽间隔跳频图案族的生成算法。与常规跳频通信系统相比,不仅降低了误码率和被截获概率而且大大提升了系统传输速率,同时改善了跳频系统的有效性和可靠性。