在空间激光通信中,通信系统的灵敏度是制约通信速率的关键因素之一。传统的强度调制-直接探测方式无法实现高速率的远距离通信,因此世界各国正在探索具有较高灵敏度,并适用于高速通信的通信体制。基于自差探测的DPSK通信被认为是这一方面的潜在方案之一。美国和日本均计划在下一代高轨卫星激光通信中采取这种方案,实现超过1Gbps的有效数据率。因此,对基于DPSK/自差探测高速激光通信系统进行研究,具有重要的应用价值。本论文介绍了DPSK信号调制解调的原理,对比了Li Nb O3相位调制器(PM)和Li Nb O3马赫曾德尔调制器(MZM)的调制效果。分析了马赫-曾德尔(MZM)外调制器的工作点漂移情况对系统性能的影响,说明了对调制器进行自动偏压控制的重要性;分析了接收机关键损伤对差分相移键控(DPSK)/自差探测系统性能的影响,如接收机平衡光电探测器幅度失衡、接收时间不平衡、MZI延时时间与比特周期不匹配和激光器和延迟线干涉仪频率偏移?f。最后对系统进行了整体设计,搭建了基于DPSK/自差探测的通信系统,通过实验来研究了这一种高速通信的方式。通过实验,搭建了发射端和接收端的光路,验证了10Gbps高速通信的可能性。