在传统的光纤系统中，对系统性能影响最大是光纤损耗，色散和非线性效应。在高速光纤系统中，尤其是40Gbit/s以上的高速系统，由于偏振模色散(PMD,PlarizationModeDispersion)的作用，严重影响了系统的传输速率和传输距离。相敏光放大器(PSA，Phase-SensitiveAmplifier)是一种新型的光放大器，能够补偿光纤损耗，更由于具有光增益的相敏特性，能够放大主脉冲分量，抑制正交脉冲分量，从而能够在一定程度上补偿色散和偏振模色散影响的高速光纤孤子通信系统。 本文主要研究在平均孤子系统中PSA对光纤偏振模色散的补偿效果。 首先，从麦克斯韦方程出发，介绍了偏振模色散耦合非线性薛定谔方程组，仿真了在偏振模色散影响下孤子系统的传输性能，研究结果表明：偏振模色散值越大，孤子传输的距离越短；随后，给出了采用PSA和掺铒光纤放大器(EDFA，ErbiumDopedFiberAmplifier)的系统模型。通过仿真分析，我们探讨了分别采用PSA作为在线放大器补偿平均孤子系统的性能。在仿真过程中，我们考虑了群速度色散，二阶群速度色散，自相位调制效应和偏振模色散以及损耗。作为比较，我们同时仿真了采用EDFA作为放大器的系统的性能。研究表明，由于PSA可以补偿色散，包括偏振模色散，且几乎没有ASE噪声，PSA补偿的孤子系统的性能，尤其在高速系统中要高于EDFA；最后，我们主要研究了PSA孤子系统中系统和放大器参量(传输速率、信号初始脉冲输入功率、孤子脉宽、光纤色散系数、放大器增益、放大器间距以及放大器中泵浦光和信号光之间的相位漂移等)的变化对系统传输性能的影响。研究结果表明，系统和PSA的参数对平均孤子系统的性能在一定程度上有所影响。比如，当放大器增益完全补偿光纤损耗时，由于光纤链路中其他因素以及孤子系统中色散波的溢出，都会导致放大器补偿能量不足，必须微调放大器增益才能使孤子以相对恒定的能量传输；泵浦光和信号光之间的相位差的增大也引起了孤子脉冲经过长距离后的衰减，但是相位差如果能够控制在-π/64～π/64之间时，孤子能量的衰减还是在一定程度上可以接受，并不会造成很大的影响。所以，通过仔细调整参数，系统的性能在一定程度上有所改善。 总之，通过对PSA应用于光孤子系统中传输性能的研究，得到了一系列有用的结论，对于今后PSA在光孤子系统中的实际研究具有一定的参考价值。