无线多输入多输出(Multiple-Input Multiple-Output)技术可以显著提高系统容量，是下一代移动通信系统的关键传输技术。Turbo迭代接收机是逼近MIMO系统容量的有效途径，而迭代接收机对信道估计精度提出了很高的要求。因此，本文重点研究了无线MIMO系统的迭代检测与信道估计技术。 首先研究基于线性检测的迭代软干扰抵消检测算法。证明了基于概率数据融合的检测算法和基于线性最小均方误差的迭代软干扰抵消算法是等价的，并提出了块迭代的软干扰抵消算法和基于瞬时信噪比排序的软干扰抵消算法。仿真结果表明，在低阶调制下，迭代软干扰抵消算法可以有效地逼近最优检测。 提出基于循环前缀的MIMO分块传输系统的空频Turbo迭代接收机。接收机算法利用循环前缀分块传输系统的特点，对线性最小均方误差软输入软输出检测进行适当简化，可以在离散傅立叶变换域中实现，复杂度大大降低。由于我们从一般的分块传输去推导这类系统的迭代接收机，因此该算法适用于各种基于预编码的块传输系统。研究结果表明，空频Turbo接收机可以大大提高多输入多输出分块传输系统的性能，并且可以逼近信道容量。 提出一种基于多项式展开的软输入软输出检测算法。该算法首先采用多项式展开对迫零检测进行逼近，然后利用反馈信号的先验信息进行软干扰抵消。对检测输出做高斯假设，可以得到发送信号的后验概率。由于该检测器仅存在矩阵向量相乘运算，复杂度大大降低。我们将该算法应用于无编码系统的迭代检测和编码系统的Turbo迭代接收机，并对其在尾随零分块传输系统和分层多码道码分多址系统中的性能进行评估。仿真结果表明，通常情况下仅需要1～3次展开，经过迭代检测，系统的误码率性能可以逼近基于线性最小均方误差的迭代接收机。因此，该算法较好地获得了复杂度和性能的折中。 论文还研究了频率选择性衰落信道下MIMO系统的信道参数估计算法。我们先对最优导频设计进行研究，发现同一个恒模零相关序列经过适当的移位，可以得到MIMO单载波块传输系统的时域最优导频和MIMO正交频分复用系统的频域最优导频。接着本文研究了稀疏信道下MIMO正交频分复用系统的信道估计算法。提出了一种迭代的算法，它利用有限冲击响应信道的抽头之间的相关性从噪声中提取出信道信息并同时估计出多径时延。理论推导和仿真结果表明，信道越稀疏，所提算法的性能越好。 最后，论文提出一种非理想信道下联合信道估计与符号检测的迭代接收机。针对存在多载波窄带干扰的MIMO正交频分复用系统，提出了基于马尔可夫链蒙特卡罗方法的迭代接收机。该方法不仅可以精确地估计出信道冲击响应，还可以估计出噪声方差以及冲击噪声发生的位置，这样接收机能够对窄带干扰区别对待，从而有效提高系统性能。该方法的另一个优点是，易于和软输