波分复用(WDM)技术是光通信技术的一个新领域，其基础的研究有很大的空间。WDM在有效的改善了高速网的带宽的情况下，也带来了很多不利的影响，本文将要对交叉相位调制(XPM)效应的影响展开研究，对于信道数较少时，传输光纤中的XPM效应研究的理论、实验较成熟，所以有必要对信道容量大于10Gb、信道间隔较小(＜0.8)的情况进行研究；掺铒光纤放大器(EDFA)中XPM效用非常的明显，有这方面的实验报道，但其理论分析是一个空白，建立其理论模型将对提高系统的性能有非常重要的意义。 本文将结合分步傅里叶方法和小信号分析法来求解复杂的非线性薛定谔方程(NLSE)。在频率域中，对NLSE求解的结果能描述调制不稳定性的原始状态，连续波调制不稳定性的所有特点都能用小信号分析的方法来讨论，其结果也适应于正常和反常色散区，而且，导出了非线性介质中，色散介质中，强度和相位调制(或噪声)的转换矩振。此转换矩振适应于任何频率和强度调制之间的转换，并可用来分析光纤中高阶色散(或脉冲波)效用。 运用小信号分析的结果，可以详细讨论调制不稳定性对波分复用系统的影响。调制不稳定性使信号的强度下降，而且对噪声有放大作用，它将降低了波分复用系统的信噪比。调制不稳定性对波分复用系统中各信道的影响是不同的，调制不稳定性对短波段的作用强于长波段；它也会使各信道的信噪比产生偏差，将使长波段较短波段有大的信噪比，信噪比的偏差将随着长度而累积。对于一定的系统或一定的波长，为了使得SNR达到最大值，传输长度、信号功率和信道间隔必须合理匹配。 运用小信号分析的结果，也可讨论EDFA中调制不稳定的产生和共振色散的影响。调制不稳定的产生和输入功率、EDFA的小信号增益有关，输入功率、EDFA的小信号增益愈大，调制不稳定的产生愈快；调制不稳定的产生和色散系数没有关系，色散对调制不稳定积分增益的最大值影响较小，而对调制频率影响较大；随着EDFA长度的增加，调制不稳定增益谱变得宽而平。实际中，很难严格区分由掺铒离子浓度所引起的共