大气激光通信是一种将信号加载到激光上,然后在大气环境中进行信号传输的通信技术,具有传输速率高、保密性好、无需频带许可、指向性好、便于架设等优点,可以应用在地面通信、卫星通信、星地通信等领域。然而光信号在大气信道中传输时,容易受大气湍流效应影响而发生功率衰减、光束漂移、光束展宽、波前畸变,进而严重劣化通信质量。因此,对大气湍流造成的信号损伤进行补偿是一项十分重要的工作。本文对基于模式分集技术的大气激光通信技术进行了深入研究,利用少模光纤的多个正交模式进行分集接收,可以较好地实现对大气湍流的补偿。为探究结构复杂度较低的大气激光通信系统,实验搭建了基于内差相干接收和KK相干接收的模式分集接收系统,分别在不同湍流强度下对系统通信性能进行研究。主要内容如下:首先,论述了基于模式分集大气激光通信的基本特性。阐述了大气衰减效应与大气湍流效应的产生原因以及对光束的作用机理。为了更好地研究大气湍流效应,对大气湍流的折射率分布模型和常用的大气湍流模拟方法进行了介绍。论述了少模光纤中模式的存在形式以及模式的正交性,介绍了几种常见的用于模式转换与模式分集的模式复用/解复用器。然后对相干探测技术进行了简要介绍。其次,研究了基于内差相干接收的模式分集大气激光通信技术。论述了内差相干接收技术的基本工作原理和信号损伤补偿算法。详细阐述了大气湍流的相位屏模拟方法,论述了空间光到少模光纤的模式耦合机理和不同湍流强度下的耦合效率,研究了接收端的模式分集方法及分集合并算法。分别在弱、中、强三种湍流强度下研究了模式分集系统误码性能和中断概率性能,并与没有分集的单模光纤接收系统进行了性能对比。实验结果表明,当平均误码率为3×10-3时,在弱、中、强湍流情况下,基于内差相干接收的模式分集系统相比较于单模光纤接收系统能够节省约3.5d B、5.6d B和4.6d B的功率预算,能有效补偿大气湍流带来的信号损伤。再次,为降低系统结构的复杂度,研究了基于Kramers-Kronig（KK）相干接收的模式分集大气激光通信技术。论述了基于单光电探测器结构的KK相干接收技术的工作原理,对KK相干接收技术和内差相干接收技术的结构和接收性能进行了理论分析,详细阐述了KK相干接收技术的光场重建算法。实验搭建了基于KK相干接收的模式分集大气激光通信系统,分别在弱、中、强三种湍流强度下研究了模式分集系统误码性能和中断概率性能,并与没有分集的单模光纤接收系统进行了性能对比。实验结果表明:当平均误码率为3×10-3时,在弱、中、强湍流情况下,基于KK相干接收的模式分集系统相比较于对应的单模光纤接收系统能够节省约3.2d B、5.2d B和4.8d B的功率预算,能够有效补偿大气湍流。基于KK相干接收的模式分集大气激光通信系统的每一路只需使用1个光混频器、1个光电探测器和1个模/数转换器。与基于内差相干接收的模式分集大气激光通信系统相比,极大地简化了系统复杂度,降低了成本与功耗。最后对本文的主要工作内容进行了总结,分析了采用模式分集技术进行大气激光通信的有效性以及采用KK相干接收技术简化系统结构复杂度的合理性,并对基于模式分集的大气激光通信系统的优化、通信性能提升等方面进行了展望。