现代社会,人们对移动互联网的迫切需求,对无线通信技术提出了越来越高的要求:无线通信系统需要进一步提升带宽效率,同时通过灵活的配置系统中的时频资源,才能够达到为更多的用户提供更大的下载带宽,更快的数据传输速率以及更加实时的上网互动体验的目的。因此,单载波系统以及由它发展而来的正交频分复用多址接入系统(Orthogonal Frequency Division Multiplexing Access,OFDMA),已经广泛应用在WIFI,Wimax以及LTE等无线通信系统中。但是,这两个系统还有其自身的特点,从而在下一代通信系统中受到了制约。一方面,单载波频域均衡和OFDMA系统属于变换域系统,他们的中断概率、误码率性能都没有准确的估计,这是由于变换域均衡及解调的复杂性本身造成的。进一步导致了作为衡量系统关键性能的中断概率,还没有一个闭合表达式。同时,很多关于SC-FDE系统的分集增益的分析,也存在着很多的问题:现在的分析方法,都是基于近似的,不能够准确的将仿真结果和理论曲线进行对比,从而不能通过理论曲线和仿真曲线的对比来准确印证相应的结论。对于多载波系统的变换域均衡解调系统的性能分析,更是没有合适的方法。另一方面,现今为止,单载波频域均衡(Single Carrier Frequency Domain Equalization,SC-FDE)以及正交频分复用多址接入系统已经在无线通信系统中广泛使用。虽然他们都有其各自的优点,但是都不能满足未来无线通信系统的要求。其中SCFDE技术能够很好的利用符号干扰多径信道(Inter Symbol Interference Channel,ISIC),以取得较好的分集增益及中断概率性能,但是不能够对时频资源进行灵活的配置和运用,对于承载多用户方面来说,不具备优势。对于OFDMA系统,能够将时频资源进行高效的利用和配置,但是需要差错控制编码(Error Correct Code,ECC)的协助,才能有效的对抗多径信道带来的干扰,以便给用户提供有保障的服务。如果能够将SC-FDE系统和OFDMA系统的优势相结合,同时利用SC-FDE系统的高分集度、优异的中断概率性能和OFDMA传输的灵活性,将为下一代无线通信系统的性能提升提供了一个新的思路。于是,向量化正交频分复用系统(Vector Orthogonal Frequency Division Multiplexing,V-OFDM)系统应运而生了。V-OFDM系统是2000年Xiang-gen Xia教授提出了一种更加通用的多载波系统,它继承了SC-FDE系统的高分集度和OFDMA系统的灵活配置时频资源的优势,同时消除了(Inter Symbol Interference channel,ISI channel)信道中的信道空洞,获得了空间-多径的满分集增益,是一种优秀的多载波调制方案。但是,V-OFDM是针对SISO系统的技术,而未来的无线通信系统已经是多输入多输出(Multiple Input Multiple Output,MIMO)系统的主场,怎样把它应用在MIMO系统中,是本文研究的一个问题。针对以上问题,本文的进行了详细的研究,本论文的主要研究成果如下:·针对SC-FDE系统在ISI信道下中断概率分析没有闭式解的问题,提出了一种计算复杂多维累积分布函数的基于格拉斯漫流形的多维超几何分析方法(Grassmannian Manifold based Multi-Dimensional Hypergeometric Analysis,(GMMDHA)。该方法可以在将估计误差限制在一定程度的前提下,给出SC-FDE系统中断概率性能的闭合表达式,同时给出了进一步减小估计误差的方法。根据推导出来的中断概率闭合表达式,可以轻松的获得系统的中断概率分集增益。更加令人兴奋的是,GMMDHA方法不仅可以用于SC-FDE系统的性能分析,同时还可以运用于更加通用的Vector-OFDM在不同符号干扰信道环境中的性能分析。在本文中的第二章,首先对该方法的具体步骤进行阐述,在后续的章节分析中,将会用到该方法进行严格的理论分析。通过把理论曲线和仿真曲线进行对比,从而证明了,GMMDHA是一种通用的精度极高的分析ISI信道下变换域系统性能的方法;同时也能够给出严格的系统的中断概率表达式。·提出了一种针对SC-FDE系统的单输入多输出的(Single Input and Multiple Output,SIMO)的循环延迟接收方案。在下一代通信系统的上行链路中,基站资源对于用户信息的解调复杂度,将随着用户数量的提升而增大。所以,迫切需求一种低复杂度的解调方案,同时能够很好的获得系统的分集增益。所提出的循环延迟接收方案正好解决了这个问题。在该方案里,系统性能的提升并没有给接收机的解调带来很大的复杂度的提升,同时还能够获得空间-多径满分集增益和较高的编码增益,因此是一种性能优秀的、针对LTE系统上行传输的方案。·在V-OFDM系统和SIMO系统的结合方面,提出了一种基于循环延迟发送分级的向量OFDM(Cyclic Delay Diversity transmission for V-OFDM system,CDD-VOFDM)方案。该方案很好的将V-OFDM技术应用于了MISO系统中,通过循环延迟发送方法,有效的增加了系统的分集增益性能,同时获得了更多的编码增益。本方案的另外一个优点是没有大幅度增加发射机的复杂度,同时接收机的复杂度也没有提升。通过GMMDHA方法对本方案进行的理论分析,得到了系统的中断概率的表达式,进一步的获得系统的分集阶数。最后,通过仿真分析,证明了CDD-V-OFDM系统的在ISI信道下的优异性能,是针对下一代无线通信物理层通信的可靠传输方案。·提出了一种针对现有的V-OFDM系统的发射端预编码方案。现有的提升VOFDM性能的方案,都是采用了比较复杂的星座旋转或者卷积码编码的方案,并且在接收端采用了最大似然解调以及迭代均衡的复杂度很高的方案。为了获得多径满分集增益和较好的中断概率以及较高的平均信道容量,提出了一种针对V-OFDM的低复杂度的预编码方案。相对于现有的基于信号星座旋转方案获得多径满分集的方案和接收端采用判决反馈均衡的方案,所提出的方案在发送端已知信道状态信息(Channel State Information,CSI)的条件下,通过频域的预编码,发射机仅采用单抽头的对角线矩阵预编码,接收端采用简单MMSE均衡,就可以让系统获得完全的多径分集增益和逼近高斯信道的信道容量,而发射机在进行预编码的复杂度,仅仅正比于V-OFDM中信息块的长度。