差分相移键控调制格式(DPSK)作为一种新型调制格式,成为近年来高速长距离光通信技术的研究热点。本文在教育部新世纪优秀人才计划的资助下,对DPSK调制解调技术和传输特性进行了较为完整的理论分析和实验研究,并制作了一种可调马赫-泽德干涉仪型DPSK解调器。主要工作可概括为以下几点:(1)介绍了DPSK调制格式的研究意义,阐述了DPSK的传输研究状况和DPSK解调方式。(2)对DPSK调制原理进行了分析,得到了非归零差分相移键控(NRZ-DPSK)、归零差分相移键控(RZ-DPSK)和载波抑制归零差分相移键控(CSRZ-DPSK)三种DPSK调制格式的理论表达式,并通过数值模拟得到各种DPSK格式的时域波形和频域光谱,和对应的开关键控调制(OOK)进行分析对比。(3)对DPSK解调原理进行了分析,推导出马赫-泽德干涉仪的传输矩阵,并数值模拟了解调过程。利用光通信仿真软件分析对比了马赫-泽德干涉仪的结构参数对DPSK解调结果的影响。(4)研制了一种基于光纤型马赫-泽德干涉仪的DPSK解调器,其中温度控制系统对光纤臂进行温度控制。实验中成功实现了40Gbit/s DPSK信号的解调,温度控制实现了输出结果的长时间稳定,并可在相长干涉和相消干涉之间转换。(5)对DPSK格式的抗非线性效应和抗色散能力两个方面来进行了仿真研究,并对比了三种不同的色散补偿方案对DPSK传输特性的影响。完成了速率为40Gbit/s的背靠背和100km加纤传输实验,测量了不同比特速率的DPSK信号的接收性能,并将DPSK和OOK的传输性能进行比较。