在高速光纤通信系统中,随时间随机变化的偏振模色散(Polarization mode dispersion PMD)是限制系统比特速率和传输距离的重要因素之一。作为当前PMD问题理想的解决方式,动态补偿的技术与应用前景极为广阔,PMD补偿技术及相关理论的研究已经成为当前光纤通信领域的研究热点之一。本课题的研究工作主要包括以下几方面:分析光纤中PMD现象的实质,由单模光纤中光传输的基本方程出发,得出描述PMD效应的非线性Schr?ndinger方程;在斯托克斯空间中,推导了一阶、二阶和更高阶PMD矢量模型,并由此分析PMD所引起的脉冲展宽,在多种情况下进行讨论,得到简化模型。通过输入光脉冲信号的自相关函数建立起差分群时延(Differential group delay DGD)与偏振度(Degree of polarization DOP)的关系模型。针对PMD在线监测的问题,采用偏振扰动和正交偏振分束探测来实现,采用差动式测量方案的设计来提高DOP测量的灵敏度,通过对比电域补偿、光域补偿和光电混合补偿三大PMD补偿方案,选取偏振控制器(Polarization controller PC)加可变(或固定)时延线的光域补偿方案来设计PMD补偿单元。在PMD补偿系统搜索算法的设计中,将原标准粒子群优化(Particle swarm optimization PSO)算法进行了改进,通过动态改变惯性权重,用影响算法性能的两个主要因素——粒子聚集度和全局最优值变化的速度来构建惯性权重调整的策略,同时在PSO算法中引入免疫克隆原理来保持种群的多样性,从而提高了算法的全局搜索能力而不至于陷入局部最优解。通过算法测试可以发现,改进PSO的全局寻优能力明显优于原标准PSO算法。为了在多维空间中准确、快速、实时地跟踪最佳补偿点的随机变化,在跟踪算法的设计中,采用局部搜索算法——改进的单纯形法(Simplex method SM)对PMD的微小变化进行局部精细搜索。在反射操作中,除了基于最差点和剩下点的重心进行反射操作外,还加上了剔除最好点,并基于最好点和剩下点的重心进行反射操作,从以上两个反射方向上选择一个有利的方向进行反射和扩张,从而使迭代运算过程很快地逼近极值点;用单纯形映射操作代替原有的顶点代换操作,从而可使单纯形在迭代过程中不发生退化现象。在跟踪算法设计的基础上,提出基于改进SM与改进PSO算法的串行算法作为反馈控制算法的总体设计方案。整个算法由IC-PSO算法、改进SM和个体迁移操作三部分组成,通过设置适当的个体迁移条件,改进的SM利用IC-PSO算法跳出局部最优,IC-PSO算法依靠改进的SM迅速找到问题的最优解,从而做到广度探索和深度开发的均衡。通过搭建以DOP为反馈控制信号的PMD自适应补偿系统,将本文所提出的搜索算法和跟踪算法作为补偿系统的反馈控制算法,对DOP进行寻优,调整光纤时延线和PC的波片使得DOP不断趋近全局最优值,并根据PMD的随机波动情况对补偿单元进行动态调整,将基于改进SM和改进PSO的串行算法应用于实验获得了良好的效果,搜索算法的响应时间约为71 ms,跟踪算法的信号恢复时间小于12 ms。实验证明,该反馈控制算法具有很好的抗噪声能力,且能够有效避开局部最大值,找到全局最佳补偿点。由眼图和误码率(Bit error rate BER)的监测统计结果,可以发现,通过反馈控制算法对DOP的寻优,系统的PMD大大降低,信号传输质量明显改善,BER最低可达3.59e-16,达到了动态自适应PMD补偿的要求。