随着5G技术标准的发布,5G网络预计2020年实现商业部署。巨大的带宽需求及众多的业务种类给底层承载网络带来了空前压力,底层承载网络面临的首要问题是不断提高网络容量以满足上层网络快速增加的带宽需求。高阶调制格式的光信号相比于二进制启闭键控(On-Off Keying,OOK)更能满足底层承载网对带宽的需求,但是光信号随怎调制格式的增加会导致信号的抗干扰能力下降。同时光信号在光纤传输中产生的非线性效应噪声会对信号的传输产生干扰。对高阶调制格式信号再生的研究能够提高光信号在传输过程中的质量。本论文主要工作和研究内容如下:首先对光电光转换的信号处理和全光信号处理进行了探讨,全光信号处理的方式相比于光电光转换的方式更适用于超高速的网络。对全光信号处理中基于相位敏感放大(phase sensitive amplifier,PSA)的高阶调制格式光信号的再生进行调研,对用PSA实现幅相再生中存在的问题进行了探讨。其次对非线性效应在信号上的影响进行了探讨。在通过PSA实现信号的幅相再生的过程中伴随着各种非线性效应的影响。给出了非线性效应对信号幅度和相位影响的理论分析和仿真,同时给出了消除非线性效应噪声对信号影响的方案。然后设计出了MPSK(Multilevel phase shift keying)信号幅相再生的结构。对MPSK信号幅相再生中存在的低次谐波和非线性效应消除问题进行了探讨。采用双泵浦共轭的方法解决了低次谐波产生的问题,对多段非线性效应过程中产生的非线性效应噪声给出了消除方案和理论分析。最后对QPSK信号进行了幅相再生的仿真分析和优化。通过星座图和误差统计分析等方法对再生系统的各个阶段进行了分析。不同噪声进入系统后的误码率和EVM都得到了明显的改善。同时通过控制相位再生阶段的增益轴和信号功率对QPSK再生系统进行了优化。