对光场中涡旋相位的调控研究衍生出了一个新兴学科——奇点光学,其中涡旋光束就是其主要的研究对象。涡旋光束具有螺旋波前、携带相位奇点和轨道角动量（orbital angular momentum,简称“OAM”）等新颖物理特性,在粒子操控、量子信息、超分辨成像、生物医学、光通信、纳米加工和天文探测等领域具有重要的应用,并已成为包括光学、物理学、化学、生物医学、天文学以及其他交叉学科在内的学科的研究热点。相干性作为光束的另一个重要固有特性,它同样具有可控性。对光束相干性的调控,尤其是对相干性和涡旋相位的联合调控能够引发一些独特的物理效应（如:相干奇点、光束整形、自修复、偏振态转换、非线性增强、抗湍流等）,并在激光核聚变与激光涂敷、自由空间光通信、鬼成像、大气探测、非线性光学和信息加密等领域展现出特有的优势和应用前景。以往对涡旋相位的调控研究主要集中于具有整数阶拓扑荷的涡旋相位。本论文将具有分数阶拓扑荷的涡旋相位引入部分相干光场,分别从理论和实验上提出了标量和矢量部分相干分数阶涡旋光束模型,并实现了对它们的涡旋相位和相干性的联合调控,揭示了新颖的光束整形、相干结构（关联）精细化以及退偏振转换等物理效应。其中,我们还提出了适用于部分相干光场的卷积传输处理方法,用以解决分数阶涡旋相位不稳定传输问题,且该方法还可避免冗长的中间计算过程。其次,本论文借助费马尔螺旋环,在理论上提出并在实验上产生了异常贝塞尔涡旋光束,探究和证实了其区别于传统贝塞尔涡旋光束的独特传输特性,即观测范围内的拓扑荷数随传输距离的增加而减小,且这个拓扑荷自递减过程具有连续变化性（即拓扑荷可根据传输距离调制为任意值,包括整数和分数）,研究结果有望在粒子捕获和量子光学等领域发挥作用;另外,我们介绍了更符合实际情况的各向异性大气湍流谱模型,并通过设定合理的约束性条件首次将各向异性与湍流强度项分离,详细研究了拉盖尔高斯光束在各向异性大气湍流中的OAM螺旋谱的传输特性,发现并讨论了各向异性大气湍流中减少模态串扰（大气扰动）的一些策略,我们的研究结果对基于OAM的自由空间光通信有一定的实际参考价值。最后,本论文还研究了涡旋光束在相位成像与恢复中的应用,提出了一种简单、实时、精准的相位恢复方法——相位扰动法,并借助于部分相干涡旋光束特有的相干奇点这一物理效应,实验上实现了部分相干拉盖尔高斯光束的径向指数与角向指数的同步测量。此外,提出了一种新型多级螺旋相位板的设计,用以产生具有任意拓扑荷跃变和多样化径向开口的新型多奇点异常涡旋光束,以满足多粒子操控的应用需求。