随着社会信息化的发展,特别是多媒体技术的发展,人们对系统的传输速率的要求不断提高。在40G以上光纤通信系统中,偏振模色散(PMD)成为限制比特距离积的关键因素。自上世纪80年代中期各国研究人员对PMD和PMD补偿技术进行了深入研究,目前已存在多种补偿方法。但无论补偿器的成本,反应速度,还是工作可靠性都不适应商用的要求。如何将PMD补偿器商用化成为现在研究的热点。在国家863项目“光纤偏振模色散自适应补偿技术”研究的基础上,本论文首先对现有的各种补偿技术的优缺点及研究情况进行了总结;然后重点对偏振模色散补偿中的全局最优化算法和跟踪算法进行研究,理论研究了Direct算法对全局最优点的搜寻能力,并将Direct算法搜寻到的全局最优点的DOP与遍历算法得到的最佳DOP比较,数值分析结果表明Direct算法能较快、较好的搜寻到全局最优点,并且能防止补偿算法陷入局部最优化,具有较高的稳定性;在综合考虑跟踪速度及Direct算法的基础上对跟踪算法进行了改进,并分别在8×10Gbit/s 400KmDWDM PMD补偿系统和40Gb/s传输系统中对Direct算法和改进的跟踪算法进行实验检测,得到了补偿前后的误码率曲线和眼图,根据系统实验和统计经验,改进的跟踪算法可以补偿机械振动引起的偏振变化,补偿后无论8×10Gbit/s 400KmDWDM PMD补偿系统还是40Gb/s传输系统的眼图都有明显改善;最后对Direct算法的不足进行了总结并提出改进方向和建议。