多输入多输出系统(Multiple Input Multiple Output,MIMO),是一种发射端和接收端都采用多个天线的通信系统,能在有限的带宽内极大的提高系统信道容量。实际MIMO系统中会受到码间干扰(Inter-symbol Interference,ISI)和用户间干扰(Inter-user Interference,IUI)的影响,因此,在均衡的同时还需要进行信源分离。传统的处理方法需要发送训练系列,增加了额外开销,降低了频带利用率,对此,一种行之有效的方法就是将盲均衡算法与盲源分离(Blind Source Separation,BSS)算法相结合,前者负责抑制干扰,而后者实现信源分离。本文主要研究了三种盲源分离算法与不同盲均衡算法的组合,对比分析其算法性能并分别加以改进。其中,三种盲源分离算法分别为基于互相关函数(Cross Correlation,CC)最小的算法、基于多用户峰度(Multiuser Kurtosis,MUK)最大化的算法,和约束拟合概率密度函数(Probability Density Function,PDF)的CFPA算法(Constrained Fitting PDF Algorithm)。分别对比三类算法的精度和收敛速度性能可知:CFPA类算法精度最高,MUK类次之,CC类最低;CFPA类收敛速度最快,MUK类次之,CC类最慢。但是CFPA类算法的复杂度也最高。因此,本文的研究重点是提高CC类算法和MUK类算法的精度,在对CFPA类算法精度影响较小的情况下降低其算法复杂度。本文取得的主要成果如下:1)针对CC类和MUK类均衡算法,通过引入动态误差反馈机制,有效提高了算法精度。其中,将互相关类的CC-MMA算法稳态误差降低6~10d B,将CC-MMA-DD算法稳态误差性能提升1~2d B;将高阶统计量类的MUK-MMA算法稳态误差降低9~11d B;改进的MUK-MMA-DD算法,稳态误差性能提升1~5d B。2)针对高精度CFPA算法计算复杂度过高的问题,通过在不同阶段使用不同的代价函数方法,使其计算复杂度得到了明显降低。同时,对CFPA-MMA算法稳态误差牺牲小于1d B;对CFPA-MMA-DD算法稳态误差牺牲小于0.5d B。