随着无线通信系统向着更高的带宽,多样化的数据业务需求,以及更复杂的应用场景等方向的演进,多输入多输出技术(Multiple-Input Multiple-Output,MIMO)以及适合宽带无线通信系统的多址技术相结合,成为了现今以及未来无线通信系统的关键技术。单载波频分多址(Single Carrier Frequency Division Multiple Access,SC-FDMA)技术,作为宽带无线通信系统中最重要的多址技术之一,其与MIMO技术的结合成为了必然的发展趋势。如今,SC-FDMA 作为第四代移动通信系统 LTE-Advanced(Long Term Evolution-Advanced)的上行多址技术标准,得到了广泛的应用和关注。在MIMO宽带通信系统中,信道频率选择性衰落造成的码间干扰以及不同天线数据流之间的干扰成为了限制通信系统性能的重要问题。本文从接收端均衡、发射端波束赋形以及协作通信系统下的中继波束赋形入手,研究如何抑制频率选择性衰落以及多天线带来的干扰问题。首先,本文深入研究了迫零均衡以及最小均方误差(Minimum Mean-Squared Error,MMSE)均衡在SC-FDMA系统下的性能。分析了系统带宽,信道多径个数,收发端天线数等参数对接收机线性均衡性能的影响。在频率选择性瑞利衰落信道下,推导出了采用迫零均衡或最小均方误差均衡下单载波频分多址系统可达和速率的上下界及其闭式解,该闭式解适用于任意的系统带宽和信道多径径数。通过对上下界在高低信噪比、大规模天线数量下的分析,取得了新的理论结果。比如,当发射端天线数小于接收端天线数时,随着天线数量成比例的增长,系统可达和速率的上下界近似相等,这意味着此时系统带宽的变化和信道多径个数的变化几乎不会影响系统的性能。对于非线性均衡接收机,本文提出了一种子载波级最大似然接收算法并对其性能进行了理论分析。结果显示,该接收机在平坦衰落信道下是一种最优接收机,且算法的计算复杂度与传统最优接收机的计算复杂度相比,大大降低。然后,本文研究了 SC-FDMA系统波束赋形技术。具体来讲,针对接收机采用频域均衡技术的SC-FDMA系统,基于均方误差和最小化准则给出了发射端最优波束赋形算法。针对发射端信道状态信息非理想情况下的波束赋形,提出了基于子载波信道误差矩阵谱范数受限的信道误差模型,并在此基础上利用优超理论以及奇异值不等式推导出了非理想信道状态信息下的鲁棒波束赋形算法。仿真结果显示,与等功率分配算法相比,本文提出的波束赋形算法在非理想信道状态信息条件下能够获得更好的误码率和速率性能,且在信道误差越小时,优势越大。与现有文献不考虑信道误差的非鲁棒波束赋形算法相比,本文提出的波束赋形算法仍能获得更好的误码率和速率性能,且在信道误差越大时,优势越明显。最后,针对协作SC-FDMA系统研究了中继节点的波束赋形优化问题。在理想信道状态信息下,针对中继节点发射功率受限下最大化输出信干噪比问题以及输出信干噪比约束条件下最小化中继节点发射功率问题分别进行了研究。结果显示,源节点发射功率给定时的中继波束赋形无法满足任意给定的信干噪比约束条件。为了解决该问题,本文提出了源节点发射功率与中继节点波束赋形联合优化算法,它能保证满足任意给定的信干噪比条件的同时最小化源节点和中继节点发射功率之和。仿真结果显示,该算法与OFDM系统下的算法相比能有效的节省源节点和中继节点的发射功率。此外,本文还提出了非理想信道状态信息下的中继节点波束赋形算法,与现有波束赋形算法相比能够获得更好的误码率性能。