随着新型通信业务种类及需求的不断增加,光纤通信系统朝着大容量、高速率、长距离的方向飞速发展。与此同时,在传统小容量、低速率光纤通信系统中可忽略的信号偏振态变化导致的信号损伤问题,在大容量、高速率条件下日益凸显,已成为限制光纤通信系统性能发展的重要原因之一。偏振态不稳定会导致偏振模色散(PMD),造成光信号脉冲展宽,从而限制高速光传输系统长距离传输。此外,光信号偏振态随机变化会导致偏分复用系统中不同正交偏振态间的信号产生串扰,由此对接收端信号解复用造成重大影响。另外光纤传感、相干接收等系统同样需要偏振稳定。因此如何快速准确地稳定光信号偏振态是当前研究的重要问题。本文针对光信号在传输中偏振态会随机快速变化的问题,设计了一种基于偏振跟踪直接检测方案的偏振稳定系统,提出并采用了改进的禁忌-粒子群算法作为反馈控制算法,实现了在光纤通信系统中光信号偏振态的快速稳定。论文的主要工作和成果如下:1、研究了光纤偏振稳定技术,设计了基于偏振跟踪直接差分检测方案的偏振稳定系统。该系统采用两路电压差作为反馈信号,通过负反馈控制的方式在光域对信号偏振态不断进行调整,实现偏振稳定。该方法无需高速电路支持、具有高实时性、高灵敏度等特点。2、研究了偏振稳定控制中反馈控制算法,提出了改进的禁忌-粒子群优化反馈控制算法。该算法将普通粒子群算法权重自适应化后,又融入禁忌搜索算法的禁忌思想,通过仿真实验验证了该算法收敛速度快、搜索精度高、不易陷入局部最优值。3、完成了基于上述方案的光纤偏振稳定系统硬件设计与实现,并搭建实验系统,实验验证了该偏振稳定系统可实现输出光信号偏振态快速稳定,且具有稳定性好、偏差小、对输入信号调制格式及速率透明等特点,证明了该系统及算法具有良好的实际应用价值。