多输入多输出(MIMO: Multiple Input Multiple Output)技术利用空间资源可以提高系统容量,但同时也增加了接收端信号检测的难度,因此如何设计复杂度低且性能较好的MIMO检测器是MIMO技术的一个重要方向。本论文研究了采用V-BLAST技术的空间复用MIMO系统检测算法,完成了如下工作。1)研究了未信道编码MIMO系统的检测算法。首先介绍了几种现有的检测算法,包括最大似然检测、线性检测、干扰消除检测和树搜索检测,并进行了MATLAB仿真。接着针对K-Best检测算法在路径度量计算和排序等过程复杂度较高的情况,利用归并排序方法改进排序过程,提出了一种具有低复杂度的K-Best检测算法,该算法在性能损失可以忽略的条件下降低了算法的复杂度,可适于高速无线MIMO系统检测器的设计。2)研究了联合信道编码MIMO系统的迭代检测,包括SISO-MAP、SISO-MMSE、树搜索列表迭代检测,并利用MATLAB对其性能进行了仿真。