随着互联网以及其相关行业的进步和发展,人们对带宽的需求也日益增加,这推动了光纤通信的变革与进步。相比于传统的强度调制/直接解调的光纤通信系统,相干光通信的优点使得通信的速率大幅提升,从而广泛的应用于目前的光纤通信系统。就其系统性能来说,表现最为出色的是100G的双偏振正交相移键控(Dual-Polarization Quadrature Phase Shift Keying,DP-QPSK)零差相干光通信系统,但使用光锁相环会导致系统的性能有所降低。本文研究了一种基于反射式电光调制器的零差相干接收系统,一方面由于该系统发射机和本振光是同一激光器,可以在不使用光锁相环的条件实现零差同步相干解调,另一方面由于该系统的输入和输出在同一条光纤上,因此可以避免信息在光纤中被窃取,从而能够应用于保密通信系统。本文首先简要分析了零差相干光通信系统的基本原理,并提出了反射式的相干光通信系统。作为系统的重要器件之一,详细分析了铌酸锂晶体以及铌酸锂相位和强度两种电光调制器,并以此为基础提出了反射式的铌酸锂相位和强度电光调制器。对反射式调制器的进行了详细的分析,由于微波与光波的速度失配,信号的两次调制中的反向调制会形成噪声,正向调制实现对信号的调制。最后给出了总相移变化的规律并提出了抑制反向调制所产生的噪声的方法。之后详细阐述了DP-QPSK零差相干光通信系统的结构与原理。同时结合反射式电光行波调制器的特点,给出了一种反射式的DP-QPSK零差相干光通信系统。运用OptiSystem对反射式的DP-QPSK系统进行仿真。但是由于光纤中的色散与非线性效应会导致系统性能下降,仿真的结果与理论的结果相距甚远,这就需要运用数字信号处理(Digital Signal Processing,DSP)对其在电域进行补偿。最后介绍了电域DSP的补偿算法,其中包括数字后向传输补偿技术和恒模算法。运用这两种算法对色度色散、偏振模色散以及非线性效应进行补偿。在DSP的补偿下,通过仿真得到系统的星座图和误比特率,反映出系统的性能良好,在系统误差许可的范围内,可以完成相位调制与解调。同时与正向DP-QPSK系统进行比较,在两者成本大体相同的情况下,两者的性能也大体相当,说明该系统在实际工程应用中的可行性。