随着自由空间光通信系统使用场景的扩展,终端数的大幅增长,全社会对自由空间光通信系统流量需求正在提升,针对自由空间光通信系统的补偿手段成为了本领域的研究热点之一。空间分集技术大多基于多天线接收,系统复杂度较高。模式分集技术采用少模光纤接收光信号,能支持数个正交模式同时传输,传输中在空间光信道激发出的高阶模式信号可利用模式的正交性进行模式分集接收。由此,基于少模光纤的面向模式分集空间光通信系统应运而生。本文探究了面向模式分集空间光通信系统中的关键基础技术,重点研究了面向模式分集空间光通信系统的数字信号处理算法,并搭建了模式分集合并补偿仿真系统及试验系统,并测试了其性能。本文的工作内容主要包括以下几个方面:首先,介绍了面向模式分集空间光通信系统的基本结构,探讨了面向模式分集空间光通信系统的关键基础技术。从麦克斯韦方程组出发,对少模光纤中的模式传输特性进行了分析,讨论了模式传输的理论基础,对相干接收技术进行了理论分析与介绍。其次,从面向模式分集空间光通信系统中可能出现的各类损伤出发,研究了系统中的数字信号处理算法,分析了正交不平衡补偿算法、位同步算法、偏振解复用算法、载波同步算法、模式分集合并算法的结构、优缺点与理论基础,结合初步实验数据和仿真手段对各算法的可用性进行了验证。提出了基于二度临近相位差求和的载波同步改进算法,讨论了算法的理论基础,仿真分析了算法的性能,并与四次方频偏估计算法及一度临近相位差求和算法做了性能对比。最后,利用VPItransmissionMaker仿真平台并结合MATLAB编程建立了基于少模光纤模式分集空间光通信仿真系统。在仿真传输中将各模式视作独立信道,在接收端采用数字相干接收与数字信号离线处理,在离线数字信号处理时使用最大比合并算法,对三种湍流强度下单模光纤接收与三模式、六模式少模光纤分集接收的通信性能进行了仿真分析。搭建了面向模式分集空间光通信试验系统,采集了三种湍流强度下QPSK调制格式的试验数据,进行了六模式合并与单模式接收的性能比较。