随着通信需求的快速发展及密集型无线数据业务爆发式地增长,低能耗、高容量以及高可靠的弹性传输能力为高速移动无线通信提出了更高的挑战。为了满足高速移动毫米波网络的高质量链路通信及高能效传输的需求,混合预编码技术及中继协作技术在保证传输链路稳定和提高系统能效方面优势显著。通过利用中继辅助通信网络来额外构建信息链路以弥补毫米波衰落损耗,并结合混合预编码技术进一步提升系统的容量及能量效率。基于此,本文主要聚焦于高速移动毫米波信道下中继协作混合预编码技术的研究。首先,为了提高高速移动毫米波信道下中继系统的波束成形增益,降低混合预编码架构中的硬件成本,研究已知信道状态条件下使用不同精度移相器的混合预编码对中继系统性能的影响。以最大化系统频谱效率为目的,通过解耦多节点复杂优化问题降低求解最优混合预编码矩阵的复杂度,并采用离散化正交匹配追踪算法对中继混合预编码进行离散化联合求解。仿真结果表明,提出的离散化混合预编码方案对中继发送端具有更低的量化损耗,且使用低量化精度移相器就能够达到接近全精度移相器时的频谱效率。其次,针对非完美毫米波信道条件下的全双工中继系统,研究在中继接收端与中继发送端利用不同量化位数移相器时的混合预编码系统性能。考虑存在具有残余的自干扰噪声传输过程,将不完全信道状态信息下的优化函数转化为低复杂度范数最小化形式方程。在此基础上,提出了一种基于量化步长和交替方向乘子法的松弛优化算法,在任意量化精度的条件下,获得系统频谱效率与能量效率之间的权衡。数值结果表明,传输功率对量化损耗的补偿起到了积极的作用,但过高的传输功率会导致能量效率的降低。最后,为了进一步降低毫米波通信系统的能耗并保证直视链路出现阻塞情况下的成功通信,研究在多级链路阻塞条件下的混合预编码方案设计与优化。首先以最大化频谱效率为目标,对于无阻塞情况提出利用正交匹配码本字典的算法方案设计基站混合预编码。其次针对轻度阻塞情况,通过额外优化波束范围内的辐射功率以补偿因阻塞造成的性能损耗,并通过更新的码本字典设计基站混合预编码。然后针对重度阻塞情况,利用智能反射表面重建通信链路,并提出了一种多块交替优化算法框架以联合优化基站端混合预编码码本字典、被动相移矩阵与功率分配因数。数值结果表明,所提方案能够在保证用户所需最低服务质量前提下有效地处理随机阻塞,并表明为了获得更经济的系统性能,针对不同服务质量需求的用户需要提供具有差距的传输功率。