当前,40Gb/s密集波分复用(DWDM)光纤通信系统研究的不断深入。系统中的传输损伤:主要有噪声积累;色散,包括群速度色散(GVD)和偏振模色散(PMD);非线性效应,包括自相位调制(SPM)、交叉相位调制(XPM)、受激拉曼散射(SRS)、受激布里渊散射(SBS)和四波混频(FWM),成为限制通信容量进一步增加的瓶颈。新型调制格式是减轻这些损伤,提高频带利用率的40Gb/s系统的关键技术之一。本文针对适合40Gb/s系统的调制格式作了广泛而深入的研究,并获得一些创新性成果,主要有(1)在广泛阅读国内外相关文献的基础上,归纳总结了近年来新出现的主要调制格式的特点及产生方式。(2)创新性的提出了一种新的,用保偏光纤环镜(PMFLM)产生改进的双二进制归零(MD-RZ)码的方法。从理论上详细推导了产生过程;在40Gb/s环境下,用实验证明了该方法的可行性并得到良好的结果。(3)用Optisystem 3.1软件模拟了四种调制格式:非归零(NRZ)、归零(RZ)、光双二进制(ODB)、MD-RZ在40Gb/s系统中单信道和多信道的传输实验。分析比较了四种码型的在色散容限,非线性容限,传输距离上的优势及不足。MD-RZ在抗非线性效应及长距离传输中有独特的优势。(4)全面分析了“多功能光纤型全光码型转换器”的码型转换功能。归纳总结了四种主要的码型转换功能:NRZ到伪归零码(PRZ);RZ到NRZ;差分相移键控(DPSK)码到通断键控(OOK)码;DPSK到MD-RZ。