数字微波通信是一种适用于各种容量、距离和环境的无线通信方式。随着通信业务的不断融合和发展，数字微波通信系统的信息传输速率要求不断提高；而不断增长的信息传输速率和有限的系统带宽这一矛盾十分突出。采用高阶调制是解决这一矛盾的有效手段，但是高阶调制方式对于相位噪声十分敏感。本文的主要工作即是研究高阶调制系统中的相位噪声抑制算法。本文首先分析了通信系统中相位噪声的各种模型，并且简要讨论了相位噪声的仿真生成方法，同时也分析了相位噪声对于高阶调制系统的主要影响。其次在分析系统信号模型和相位噪声统计特性的基础之上，提出了一种导频辅助的判决数据导向的插值算法用于相位噪声的估计补偿；仿真结果表明：在AWGN信道下，与现有的相位噪声估计补偿算法相比，提出的算法具有较大的性能改善。然后通过应用提出的相位噪声估计补偿算法，提出了一种新的抵抗相位噪声的载波恢复环路；仿真结果表明，与现有的抗相位噪声的载波恢复环路相比，新的载波恢复环路取得了更好的抵抗相位噪声的性能。最后，结合实际系统详细分析了相位噪声情景之下解映射模块的输入信号统计分布特性；并且讨论了解映射器中针对相位噪声的软硬判决算法，并将这些算法置于算法仿真平台进行了性能仿真验证和对比分析。