在波分复用(WDM)系统中，比特速率的急剧提高带来了许多极限性的挑战。比如系统对色度色散(CD)与偏振模色散(PMD)容限降低，非线性效应影响严重，光信噪比(OSNR)劣化等。因此，需要综合采取各种相关技术来克服这些限制因素，而在系统中使用先进的光调制格式便是其中的最为有效的手段之一。　　 近年来，相位调制格式如差分相移键控(DPSK)与差分四相相移键控(DQPSK)由于在系统中优异的性能引起了研究人员的极大关注。在WDM系统中使用DPSK与DQPSK调制技术能够提高系统对CD、PMD以及非线性效应的容限，延长了传输距离。而在DPSK和DQPSK系统的接收端，需要有光解调器将相位调制信号转换为强度调制信号从而提取载波相位中所携带的信息，因此光解调器是DPSK与DQPSK系统中的最重要光学器件之一。本文对光DPSK和DQPSK解调器进行了研究与设计，主要完成的工作如下：　　 (1)介绍了两种不同原理的新型DPSK解调器：首先设计与分析了一种基于标准具结构的Michelson干涉仪型DPSK解调器。分析表明这种DPSK解调器有着较好的温度特性，可作为商用DPSK解调器的一种理想的实现方案，相关内容已申请知识产权保护。然后，从理论上提出并分析了一种偏振无关的晶体型DPSK解调器，这种解调器基于偏振光干涉的原理，并用Jones矩阵法推导了解调过程。　　 (2)重点分析了DPSK解调器两个关键参数-频率失配与输出端口间传播时延的产生及测试方法，该测试方法同样适用于DQPSK解调器。实际制作了上述两种DPSK解调器，并进行了实验验证，比较了这两种DPSK解调器的性能。　　 (3)设计并实际制作了一种可商用的Michelson干涉仪型DQPSK解调器，通过实验验证了该DQPSK解调器的性能。然后，在晶体型DPSK解调器的基础上，提出了一种基于双折射晶体的新型DQPSK解调器，此种结构的DQPSK解调器通过两个1/8波片来实现DQPSK解调器中±π/4的相移，理论推导结果表明此种DQPSK解调器能够实现普通DQPSK解调器同样的功能。