近年来,带有轨道角动量(Orbital angular momentum,OAM)的涡旋光束引起了国内外学者的极大兴趣,它在光通信领域具有重要的研究价值和广阔的应用前景。我们常利用OAM光束进行传输来提高数据速率。传输时,光束经过大气信道,大气信道为时变信道,粒子之间的吸收作用、闪烁效应等会引起传输光束的能量损失以及相位改变。本文根据传统的基于沙克哈特曼传感器的自适应光学修复方案,提出了无波前传感器的自适应光学修复方案,对畸变的OAM光束进行校正。并且深入探讨了变形镜的影响函数对修复效果的影响。本文的工作和成果如下:(1)研究了在大气湍流影响下OAM光束的传输特性,针对畸变的OAM光束搭建无波前传感器的自适应光学修复系统进行修复。本文提出的无波前传感器的自适应光学修复方案无需沙克哈特曼波前传感器,也无需加入高斯信标光,缩减了修复流程,降低了修复成本。(2)研究了无波前传感器的自适应修复方案,结合随机并行梯度下降算法(Stochastic parallel gradient descent,SPGD)对修复前后的 OAM 光束畸变相位图进行了 MATLAB仿真分析。(3)对变形镜的影响函数进行了研究,分析变形镜的高斯指数和交连值的改变对拟合精度的影响,寻求变形镜的最优参数,从而使无波前传感器的自适应光学修复系统性能得到提升。(4)研究变形镜中驱动器的数目和排列,分析了驱动器的数目和排列对修复性能的影响。结合像质评价函数、误差拟合度和光功率三个性能指标探索提升系统性能的最佳驱动器数目和排列方式。本论文通过对以上四点进行研究分析,对OAM光束在大气湍流中传输后的畸变相位进行校正。提出无波前传感器的自适应光学修复方案并对其进行仿真研究,分析了变形镜的参数改变以及驱动器的数目排列对校正效果的影响,为轨道角动量的补偿方法提供了新的思路。