与二维矩阵低秩分解存在旋转模糊性不同,当加载矩阵满足一定条件时,多维矩阵具有低秩分解唯一性。在无线通信系统中,多维矩阵模型的维度可与信号的空间、时间和频率等维度相关联,在分解唯一性的基础上,通过拟合所构造的多维矩阵模型,无需或仅需少量的信道状态信息(CSI)和编码矩阵等信息,就能实现信号检测和信道估计。基于多维矩阵的信号处理技术能提高通信系统的频谱效率和可靠性,因此得到了学术界和产业界的广泛关注和研究。本文旨在研究基于多维矩阵的信道估计和信号检测技术,对多维矩阵模型和多维矩阵拟合算法进行了深入的研究,将多维矩阵低秩分解思想与多输入多输出(MIMO)中继和空时编码等先进通信技术相结合,提出了新的信道估计与信号检测方法。本文的主要工作和创新成果如下：(1)为了提高平行因子(PARAFAC)模型的拟合速度,本文提出了一种低复杂度的拟合算法。该算法利用新迭代与旧迭代之间的增量值,来预测下一次迭代的初始值,对每一次迭代,为两个加载矩阵设置相应的松弛因子,并通过联合优化的方法求得最优松弛因子对,从而加速收敛。理论分析与仿真结果表明,与已有的二线性交替最小二乘(BALS)算法相比,所提算法在不牺牲性能的条件下,有效地提高了PARAFAC模型的拟合速度。(2)针对两跳放大转发(AF) MIMO中继系统,本文提出了一种基于PARAFAC模型的低复杂度信道估计方法。该方法通过构造具有分解唯一性的PARAFAC模型,采用所提的低复杂度拟合算法能有效地估计出该通信系统中所有的信道矩阵,并利用线性最小均方误差(LMMSE)方法进一步提高了信道估计的精度。理论分析与仿真结果表明,与已有的信道估计方法相比,所提方法具有较低的复杂度并产生较小的信道估计误差。(3)与两跳MIMO中继系统相比,多跳MIMO中继系统的信道估计问题相对复杂,目前这方面的研究较少。本文针对三跳MIMO中继系统,提出了一种基于PARATUCK2模型的信道估计方法。所提方法在信宿端对接收的信号构造PARATUCK2模型,对该模型的可辨识性和唯一性条件进行了分析,通过拟合该模型,估计出了每一跳的信道矩阵。理论分析表明,所提信道估计方法也适用于任意多跳MIMO中继系统。与已有方法相比,所提方法只需信源发送信道训练信号、无需在中继处进行信道估计并产生较小的信道估计误差。仿真结果验证了所提方法的有效性。(4) MIMO中继系统中传统的信号检测方法需要己知CSI,而CSI通常通过使用信道训练信号来获取,频繁地使用信道训练信号会导致系统的频谱效率降低。为了提高MIMO中继系统的频谱效率,本文提出了一种多组Khatri-Rao空时编码方案下的联合信道估计与信号检测方法。该方法在无需CSI的条件下,利用经过预处理的多组Khatri-Rao空时码的特定结构及构造的两重PARAFAC模型设计了一种半盲接收机,实现了信道和信息符号的联合估计。理论分析与仿真结果表明,所提方法能有效地估计出该通信系统中所有的CSI,而且所提半盲接收机的性能接近基于导频的迫零接收机的性能。(5)基于多维矩阵信号处理技术的接收机,能应用于点对点的MIMO系统进行盲或半盲信道与信号估计,已有的接收机设计方案没有考虑协作链路,因此不能直接应用于协作MIMO中继系统。本文针对两跳协作MIMO中继系统,提出了一种基于四维矩阵模型的接收机设计方案。该方案信源发送信号的设计结合了线性星座预编码与时域扩展方法；在信宿,将接收信号构造成为一个四维矩阵模型,通过拟合该模型,所设计的接收机能实现信道与信号的联合估计。理论分析与仿真结果表明,与已有的接收机相比,所设计的接收机具有较好的性能,而且所提接收机设计灵活,在半盲和全盲模式下都能适用。