随着数据流量需求的急剧增长，光纤通信系统目前正朝着更高速、更高频谱效率、更大容量、更远传输距离以及动态可重构的方向发展。为了确保光纤通信系统运行的可靠性和稳定性，光性能监测(Optical Performance Monitoring，OPM)技术的作用显得尤为重要。在众多OPM参数中，与误码率有着直接关系的光信噪比(Optical Signal-to-Noise Ratio，OSNR)参数能够准确反映光信号质量的优劣。因此，精确的OSNR监测技术在光纤通信领域一直是不可或缺的。
　　然而，随着密集波分复用(Dense Wavelength Division Multiplexing，DWDM)系统的信道间隔越来越窄以及可重构光分插复用器的广泛部署，基于线性插值的传统带外OSNR监测技术已经不再适用。于是针对高速光纤通信系统和动态光网络，OSNR监测技术不得不从带外转向带内。此外，为了灵活监控光纤链路中任意节点处光信号的质量，OSNR监测需要遍布在整个光网络中，包括接收机终端节点和中间节点。基于以上背景，本论文围绕带内OSNR监测技术开展了一系列研究，主要创新成果如下：
　　(1)提出并实验验证了一种应用于接收机终端节点的基于频域线性调频(Linear Frequency Modulation，LFM)信号的带内OSNR监测技术。该技术首先通过在发射端将LFM信号以极低的功率叠加在数据信号的频谱范围之内，然后在接收端利用LFM信号在以最优阶次进行分数阶傅里叶变换时具有很好的能量聚集性来有效地分离信号功率和噪声功率，从而实现带内OSNR监测。最后通过搭建10GBaudQPSK相干光通信系统进行实验研究，实验结果表明该技术在不占用额外频谱资源的条件下仍具有较高的OSNR监测精度。
　　(2)提出并实验验证了一种应用于中间节点的基于高斯过程回归(Gaussian Process Regression，GPR)的带内OSNR监测技术。该技术是一种新颖的机器学习方法，它首先通过以恒定步长调整宽带可调谐带通滤波器的中心波长对信号进行扫频，然后再利用GPR与低速光电探测器测量得到的信号不同波长成分处的光功率测量值相结合来实现带内OSNR监测。最后分别通过搭建9×10GBaudQPSK相干光通信系统和9×32GBaudPDM-QPSK、PDM-16QAM、PDM-64QAM相干光通信系统进行实验研究，实验结果表明该技术具有以下优点：较高监测精度；较宽监测范围；对色度色散、偏振模色散、非线性效应、级联滤波效应、光放大器类型均具有强鲁棒性；对调制格式透明；对符号速率兼容；无需链路配置的先验知识；无需测量发射端光谱；低成本；快速响应时间；分布式监测。因此，该技术能够实现中间节点处的OSNR监测，适用于动态可重构的高速DWDM光纤通信系统，具有广泛实际应用的潜力和巨大的发展前景。