MIMO-OFDM是新一代移动通信系统的物理层的核心关键技术。MIMO系统能够显著提升系统的频谱效率和功率效率,同时不额外占用频谱资源,OFDM系统相对于单载波系统而言能够有效对抗无线通信系统中的多径所造成的频率选择性衰落效应。本文在MIMO系统中所研究的主要方向是V-BLAST系统下的信号检测技术,对于V-BLAST系统下的信号检测技术研究,本文主要介绍了常用的检测算法,包括线性检测算法(包括ZF检测和MMSE检测),ML检测,次最优低复杂度迭代检测算法(包括PDA检测和MMSE-ISDIC检测),线性检测算法复杂度低,但性能太差,ML检测复杂度过高,常用于与其它检测算法做比较。本文重点分析低复杂度迭代检测算法,介绍了PDA检测算法的基本原理,并给出了PDA检测算法中噪声和干扰的真实PDF。对于MMSE-ISDIC检测算法,本文给出了详细推导,并且给出了MMSE-ISDIC检测算法的一种改进,这种改进是基于传统的MMSE-ISDIC检测算法所使用的噪声和干扰的方差并不精确,从而提出了一种更精确的描述,这种改进可以在一定程度上提升原检测算法的性能。OFDM技术能够有效的对抗无线通信系统中的频率选择性衰落,但当无线信道为时变时,就会产生多普勒频移,同时产生时间选择性衰落,多普勒频移会破坏OFDM子载波间的正交性,从而产生子载波间干扰。本文在OFDM系统中所研究的主要方向为OFDM在频率选择性时间选择性(即双选择性)衰落信道下的信号检测算法,包括传统检测算法和低复杂度检测算法。本文分析了双选衰落信道对OFDM符号的影响,分析了子载波间干扰的产生机制,并给出了OFDM在双选衰落信道下的系统模型。同时,介绍了几种常用的检测算法,包括线性检测算法,以及根据双选衰落信道下的OFDM系统信道矩阵的特点而直接忽略信道矩阵带外能量的低复杂度检测算法FIR-MMSE-SIC检测算法。对于OFDM低复杂度检测算法,常用的方法是直接忽略带外能量,如FIR-MMSE-SIC检测算法,这会造成一定的性能损失。对于低复杂度检测算法,当信道为莱斯信道时,本文介绍了一种发送预处理,通过发送预处理,可以使信道矩阵的能量更向对角线集中,也就是减小ICI,从而提高低复杂度检测算法的性能。同时,本文提出了一种发送接收联合预处理的方法,通过本文所提出的发送接收联合预处理,不仅可以使信道矩阵的能量向对角线方向集中,更能保证信道矩阵大部分都集中在一定大小的带状内,从而在忽略信道矩阵带外能量时不会产生太大的性能损失。经过发送接收联合预处理后,在接收端采用低复杂度检测算法进行信号检测时,会比只有发送预处理,只有接收预处理或没有预处理的OFDM系统取得更好的性能。