在高速多跨距非线性光纤通信系统中,光纤色散和非线性效应对通信质量的影响日益严重,已成为限制光纤通信系统向更高容量发展的主要因素。因而在现有设备的基础上对系统进行有效的色散和非线性效应补偿,提高信道容量已成为当前光纤通信领域一个主要的研究方向。本文提出了基于加权微扰技术的数字反向传输,分别在波分复用(WDM)系统和偏振波分复用(PDM-WDM)系统中对光纤色散和非线性进行了同步补偿,显著地提高了补偿精度,降低了所需计算量；提出利用分段微扰技术对含非线性噪声的多跨距光纤通信系统的信道容量进行了解析计算,获得了不同传输速率及不同非线性系数下信道容量随输入功率变化的曲线；在短计算步长下提出了简化微扰技术,有效地降低了所需计算量；在多跨距光纤传输中提出了低阶改进微扰技术,为非线性效应的分析及补偿提供了更为精确的半解析模型。本文主要的创新研究内容及重要结论如下：提出了加权微扰技术(APT),不仅使传统的微扰理论适用于数字反向传输,而且引入了加权非迭代概念首次得到了一个反向传输后的非迭代递归解析输出信号表达式,大大降低所需运算量的同时提高了传统微扰技术的精确度,并且可以对WDM系统中信道间的色散走离失真及色散和非线性效应之间的相互作用进行补偿。理论研究及数值仿真结果表明,相对传统数字反向传输,基于加权微扰技术的数字反向传输在每信道每抽样点上能减少6Nspan个乘法计算数量。并且当输入功率大于-2dBm,能降低对重采样速率的需求,同时拥有更高的补偿精度。在计算步长等于跨距长度,输入功率为3dBm时能有效地提高2.4dB系统Q值。基于加权微扰技术,推导出了偏振复用-波分复用(PDM-WDM)系统中反向耦合Manakov方程组的半解析解,通过递归运算获得了此系统中多跨距光纤传输链路的输出信号半解析表达式。得到PDM-WDM系统中基于加权微扰技术的数字反向传输原理图,并对所需的计算量进行了理论分析,研究结果表明加权微扰技术在每信道每抽样点上能减少17Nspaan个乘法计算数量。由数值仿真结果对比可知,在输入功率等于2dBm,非线性系数为3.5(W·km)-1时,基于加权微扰技术的数字反向传输系统Q值比传统数字反向传输系统Q值提高了46%。当系统信道数为24,输入功率为-1dBm时,系统Q值有3.5dB的提高。高非线性系数、高输入功率和多信道下加权微扰技术拥有更好的补偿效果。提出利用分段微扰技术对含乘性噪声的多跨距非线性光纤通信系统的信道容量进行解析计算。获得了关于输入输出的条件概率转移密度函数的半解析表达式。在同时考虑光纤损耗、色散、Kerr非线性效应及ASE噪声的情况下,解析推导出了信道容量的表达式。计算分析了系统各参数对信道容量产生的影响,结果表明信道容量不会随着输入功率的提高而单调增大,而是在达到一个峰值点后随着输入功率的继续增大而减小；光纤非线性效应对信道容量的影响严重,在高输入功率和长距离传输下会加速信道容量的衰减；在输入功率小于9mW的情况下,通过提高系统传输速率(>40Gbit/s),可以获得更大的信道容量峰值,但是在高输入功率条件下这种效果将明显减弱。为减少传统微扰方法的计算量,在小计算步长下提出了简化微扰技术。理论推导和数值仿真计算得到当计算步长小于30km时,简化微扰技术能保持较高计算精度的同时有效降低运算量,可取代传统微扰方法来使用。在多跨距非线性光纤传输链路中提出了低阶改进微扰技术,理论分析表明低阶改进微扰技术在只取一阶微扰解的情况下能有效补偿高阶微扰项舍弃所带来的计算误差,提高计算精度。数值仿真结果表明低阶改进微扰技术在输入功率为8mW,传输距离为120km时,提高2.1dB计算精度,并且随着传输距离和输入功率的继续增大计算精度提高更为显著。综合上述研究结果可知,本文提出四种优化微扰技术为高速多跨距非线性光纤系统性能的优化及信道容量的解析计算提供了更为精确有效的计算模型,对进一步提高系统传输速率、扩大通信容量的相关研究具有重要的理论和应用价值。