光纤有着巨大的带宽资源和优异的传输性能,是实现高速率、大容量传输的最理想的传输媒介。随着掺铒光纤放大器(EDFA)的广泛应用和波分复用(WDM)技术的成熟,一根光纤中已经能够传输Tbit/s级的数字信息。然而,随着通信业务的急剧膨胀,要求传输的距离越来越长,单信道速率越来越高,复用信道之间的间隔越来越小,一些物理效应对信号质量的损伤不可避免。第一,信道间距的变小和光纤中传输总功率的增加,使光纤的非线性效应导致的信道间串扰成为影响系统性能的重要因素;第二,多个信道通过半导体光放大器(SOA)时,由于SOA的增益饱和效应,导致单信道的增益受到同时传输的其他信道的影响;第三,由于构成光交叉连接(OXC)节点的器件不可能实现光通道之间的完全隔离,使得输入信号的一部分功率泄漏到其它本不应该去的信道中,导致信道间串扰。本文围绕WDM光网络中的信道间串扰及其抑制技术开展了较为全面的理论研究和实验研究,具体内容如下:理论研究了光纤中的多信道非线性效应及其对WDM系统性能的影响和相应的抑制措施。实验研究了高非线性光纤中的四波混频效应(FWM)及其影响,发现与非等信道间隔相比,等信道间隔情况下FWM引入1.5dB的功率代价。对SOA增益饱和效应引起的信道间串扰进行了理论研究。对SOA中串扰的抑制方法进行了理论和实验研究,实验验证了两信道的40Gb/s系统中,注入连续光可以减小SOA引起的码型畸变和信道间串扰;实验证明了SOA放大有一定色散的信号可以减小信道间的串扰。提出了两种新型的低串扰光开关矩阵:改进的扩展Benes结构(IDB)和各级改进的扩展Benes结构(GIDB),分析了两种结构中的串扰,结果表明:IDB结构相对于扩展Benes(DB)结构信噪比提高约3dB,GIDB结构相对于DB结构信噪比提高约10dB,随着光交换规模的扩大GIDB结构对信噪比的提高更加明显。理论分析了基于DB结构和GIDB结构的三种典型OXC节点中带内串扰的积累特性,发现采用GIDB结构时系统的功率代价远远小于采用DB结构时的功率代价;同时与基于DB结构的OXC节点相比,基于GIDB结构的OXC节点对光开关串扰系数的要求放宽了大约5dB,这大大降低了对光开关隔离度的要求,说明在器件性能有限的基础上,可以通过设计适当的OXC节点结构来减小串扰的影响。理论分析了具有有限波长转换功能的OXC节点中的串扰,发现相干串扰的影响远远大于非相干串扰,尤其当时间延迟小于激光器的相干时间并小于码型周期时,串扰引起的功率代价最大。比较了波长转换器的加入对OXC节点串扰的影响,结果发现:加入波长转换器后系统的功率代价与不加波长转换器相比有一定的改善。实验研究了带间和带内串扰的影响,结果表明,带间串扰可以由滤波器滤除对系统没有影响,带内串扰的影响无法用滤波器消除;比较了串扰和信号相干和非相干情况下对信号的影响,串扰与信号偏振状态平行和垂直的条件下对信号的影响,结果表明:相干串扰的影响远远大于非相干串扰;当串扰和信号偏振状态垂直时,串扰对信号的影响很小;偏振平行情况下串扰对信号的影响最大。实验研究了在光开关的串扰系数为-20dB时,4×4的Benes、DB、IDB、GIDB结构中串扰的影响。结果表明,即使在光开关的串扰系数很大(-20dB)的情况下,与DB结构相比,IDB、GIDB结构也能有效的减少串扰的影响。这些特性表明IDB和GIDB结构优于其他由2×2光开关组成的光开关矩阵拓扑结构而更适合组建大规模的光交换网络。