近年来全球各种无线终端设备的数量呈爆炸式增加的趋势,致使移动数据的需求增加速度越来越快,现有的通信频段愈发饱和。处于高频段的毫米波通信有着丰富的频谱资源,因此受到了学术界广泛的关注。但是,由于毫米波频率高,波长短,信号在传输过程中路径损耗大,易受阴影影响,严重时可能会导致通信中断。针对这些挑战,学术界的研究者提出了许多方案,其中混合波束成形和大规模天线阵列相结合毫米波通信系统模型成为主流架构并不断优化发展。大规模天线阵列拥有大量的发送天线和接收天线,产生的天线增益可以有效弥补路径损耗。数字与模拟相混合的波束成形结构可以减少射频链路的数量。但是,在这种毫米波通信架构中,发射端功率放大器的数量仍然会随着发送天线的增加而增加。所以降低功率放大器的损耗,对提高系统效率十分关键。为了提高功率放大器的能量转换效率,需要降低发射端毫米波信号的功率峰均比（Peak-to-Average Power Ratio,PAPR）以保证功率放大器稳定地工作在饱和区附近。本文研究基于毫米波通信的大规模天线阵列的预编码技术,以实现发射信号PAPR的压缩。本文主要工作内容如下:针对发射端天线的峰值功率受限的毫米波通信系统,本文介绍了传统的数学优化模型的毫米波信号的功率峰均比压缩方案,即快速迭代收缩阈值算法（Fast Iterative Shrinkage-Thresholding Algorithm,FISTA）,这种方案利用改进的Squash方法求解近端优化问题。在阐述了复数神经网络设计方案的基础上,针对发射端天线的最大发射功率不受约束的场景,本文提出了一种基于复数神经网络的毫米波信号的功率峰均比压缩方案（AE1d）。设计了基于一维卷积网络构成的自编码器用来进行毫米波信号的功率峰均比压缩,并根据互补累计分布函数和系统误码率两个指标参数设计了基于多任务学习的损失函数。通过仿真表明了AE1d方案能取得较好的功率峰均比性能和误码率性能,并说明了损失函数中权重对毫米波信号的功率峰均比性能和系统误码率性能的影响。最后,针对发射端单天线峰值功率受限的场景,本文对AE1d方案进行改进提出了AE2d方案。设计了基于二维复数卷积网络构成的自编码器。并对损失函数进行优化,构造了基于神经网络预测权重的多任务损失函数,以实现毫米波信号的功率峰均比压缩。同时,对经过编码器编码后的信号进行了削波操作以满足发射天线最大功率约束的条件。最终的仿真结果表明,相对于FISTA算法,AE2d方案的毫米波信号的功率峰均比显著下降,系统误码率也比较低,而且复杂度也有所下降。