相干光正交频分复用(Coherent Optical Orthogonal Frequency Division Multiplexing,CO-OFDM)技术是下一代光网络中物理层调制技术的重要发展方向之一,其在超长距离超高速传输系统应用中具有独特优势。利用这类技术特有的多载波正交分割信道的性质,可实现对通信带宽的动态调度,支持复杂的业务配置以及高效的资源优化。此外,这类系统可采用灵活的数字信号处理技术来进行电域色散补偿,大大弱化了对光学色散补偿精确度的要求,极大地降低了网络系统建设和运营成本。然而,CO-OFDM技术带来的光网络性能提升也存在一定的限度,主要原因是该类系统的子载波过于密集地排列,使得光纤信道中的非线性效应较为强烈,给光信号带来不可逆转的物理损伤。在超长距离传输系统中,这种非线性损伤会沿途一再累积,有可能造成信号质量的过度劣化以致系统性能的严重下降。尽管已有初步的研究成果探讨CO-OFDM系统中的非线性损伤,但是仍未产生较为精确的理论模型来描述其机理和影响。因此,本论文在国家自然科学基金的支持下,针对上述问题进行了深入的研究,获得了若干具有创新性的成果,已经发表在国际期刊Journal of Lightwave Technology和Optics Communications上。主要的工作和贡献如下：第一、基于光纤信号演化所遵循的非线性薛定谔方程,结合CO-OFDM信号的具体形式,推导并得到了描述CO-OFDM通信系统中非线性损伤机理的较为精确的模型,给出了由光纤非线性效应所约束的信噪比上限。第二、基于理论推导所得到的非线性损伤模型,指出了数据相关性会加剧非线性损伤这一CO-OFDM通信系统特有的性质。同时,给出了一个衡量CO-OFDM系统中数据相关性大小的量化指标,提出并研究了该指标作为均衡算法优化准则的可行性。第三、构建了CO-OFDM系统级仿真系统并对理论推导结果进行了验证。在本实验室的Matlab实现的CO-OFDM仿真平台上,搭建了4×80km的CO-OFDM仿真系统。分别在不同光信号功率水平的情况下,验证理论推导结果的正确性。