随着人们对信息需求量的迅速增长，光纤通信主干网正朝着超高速、超大容量、超长距离（3U）的方向迅速发展，相干检测是实现3U传输的关键技术之一。本论文根据本振相干光通信系统中为降低相位噪声对光源线宽所提出的严格要求，设计了一种可调谐单纵模窄线宽光纤环形腔激光器并进行了实验研究；针对非本振相干光通信系统中抑制相位噪声新方法的特点，选择了性能符合系统要求的超连续谱多波长光源并进行了仿真分析。研究成果主要包括以下几个方面：（1）建立了相干检测中相位噪声和幅度噪声的理论模型并讨论了两种噪声对接收机性能的影响，设计了本振和非本振相干光通信系统的架构并仿真分析了两种系统对于单纵模和多波长光源性能的不同需求。（2）提出了一种基于可调光纤布拉格光栅（FBG）、光纤环、未泵浦的掺铒光纤（EDF）等选频器件综合作用选择单纵模并压缩线宽的可调谐单纵模窄线宽光纤环形腔激光器结构，实验验证了该结构能获得波长调谐范围大于35nm、输出功率大于1mW、线宽小于15kHz的单纵模激光输出。（3）仿真实现了基于超连续谱切割的频率间隔为25GHz、超过320个波长同时输出的多波长光源；验证了使用超连续谱两相邻纵模分别作为相干检测的信号光和相干光在传输速率为100Gbit/s、调制格式为QPSK（正交相移键控）的单信道、背靠背非本振相干光通信系统中应用时能够很好地抑制中频信号相位噪声的产生，为非本振相干接收在3U光纤通信系统中的应用提供了依据。