随着光通信技术的发展,高清IPTV、超清视频的点播、高清可视电话等宽带业务的推动,移动带宽需求随时间呈现指数级的增长,光纤通信中现有的带宽无法满足人们对网络传输速率和传输容量的要求。在光纤链路中利用反射半导体光放大器作为光网络单元中的调制器,实现无色的光网络单元使链路产生额外的增益。先进的调制有利于充分利用频谱资源,可以在相同的带宽下传输更高速的数据信息。本文主要设计了双电极配置的反射半导体光放大器和利用滤波器组多载波调制来优化链路的性能以及利用光纤高带宽的特性,为终端用户的高速数据接入服务提供可能。在上行传输链路中利用反射半导体光放大器调制器实现光纤链路的无色化,对比使用不同的配置的双电极反射半导体光放大器,得出最优性能来改善链路的增益,从而获得更远的传输距离。在下行传输链路中运用先进调制格式滤波器组多载波调制实现更高的频谱利用率,更低的相邻信道泄露,从而获得更高的传输速率和传输容量。本文的主要工作以及创新点如下:1.构建了反射半导体光放大器的物理模型并研究其特性,提出了双电极偏置的反射半导体光放大器的配置方式,并研究了双电极配置的反射半导体光放大器对链路增益的改善。2.研究了选择性映射技术和部分传输序列技术降低带有偏移量的滤波器组多载波调制信号的峰均功率比。提出了将选择性映射技术与部分传输序列技术结合的算法,相对于传统的选择性映射技术和部分传输序列技术获得了更低的峰均功率比,改善了链路传输的性能。