近二十年来,随着社会信息化程度的不断加深,各类移动通信业务的迅猛发展,以及云计算、大数据等互联网技术的日渐兴起,当前高度信息化的社会对于通信容量的需求也与日俱增。为此,在光通信领域中,密集波分复用、正交频分复用、模分复用等复用技术日渐兴起,但是均受限于电磁通信容量资源有限。由于涡旋光束具有除光强、频率、偏振外的一个新的自由度,即轨道角动量,而且可能的光束轨道角动量数理论上是无限的,将其用于光通信可以大幅提高光通信容量。为此,用于光通信的涡旋光束的产生和探测技术越来越受到人们的关注。如何产生稳定性好、保真度高、利于传输的涡旋光束以及如何有效分析大气湍流对涡旋光束探测性能的影响成为当前迫切需要解决的关键问题。本论文通过深入研究涡旋光束单值及多值产生方法,针对其中光学旁瓣的抑制问题提出改进方案,对大气湍流对涡旋光束探测性能的影响进行了理论分析和数值仿真,主要工作和成果如下：(1)详细分析了涡旋光束单值产生法中抑制光学旁瓣的问题,提出基于螺旋相位板法生成涡旋光束方法的改进方案,对此进行了理论分析与数学建模,仿真结果表明该方法可以有效抑制光学旁瓣的生成；(2)基于涡旋光束单值产生方法,提出了一种基于循环光路的轨道角动量可调谐的涡旋光束产生系统方案,利于简化系统结构；(3)研究了大气湍流强度、传输距离等因素对涡旋光束应用于大气空间光通信时探测性能的影响,为涡旋光束广泛应用于大气空间光通信提供了一定的理论基础；(4)分析了采用OOK调制格式的基于涡旋光的大气空间光通信系统性能,研究比较了不同初始轨道角动量发射态对通信系统误码率的影响。仿真分析结果表明,轨道角动量优选态可以更好地抵抗大气湍流效应。