本论文从非均匀光学介质中的各种变系数非线性薛定谔方程入手,利用解析和数值模拟两种方法互补研究了空间分布参数对自相似涡旋的局域结构、振幅、相位、波宽度等传输特性的影响,以及涡旋激发、维持、旋转速度等操控问题。着重讨论了对称涡旋、角量非对称涡旋孤子,对形成涡旋孤子提出可行性方案,为研究实际非均匀光学系统中光涡旋的参量调控和动力学控制提供一定的理论依据。研究结果对物质波涡旋孤子和等离子体中的涡旋孤波等其他物理领域动力学研究具有潜在的应用价值。主要内容如下:1.非局域介质中拉盖尔-高斯型方位角调制涡旋光束研究基于2+1维广义非局域非线性方程,采用形变约化及变分方法,研究非局域非线性耗散系统中的拉盖尔-高斯型方位角调制涡旋局域结构及传输特性。调制深度不同,此解包含环形涡旋孤子和孤子簇。数值研究响应函数宽度与涡旋的稳定性的联系。研究表明,当响应函数宽度远大于光束宽度时,即介质非局域化变强时,涡旋的稳定性增大。周期分布参数系统中,涡旋形成呼吸相似子,不仅强度和宽度随传播距离变化,其角频率也受到空间调制。2.强非局域非线性介质中惠特克涡旋孤子研究基于广义Snyder-Mitchell模型,采用形变约化法和变分原理,分析了强非局域非线性介质中,惠特克涡旋孤子解析局域结构及其传输特性,此类涡旋孤子为空间方位角可调。在一定条件下,惠特克涡旋孤子会退化为项链孤子、非旋转高斯孤子、环形涡旋孤子、孤子簇等。特别地,涡旋解显示表达式中方位角函数受到系统分布参数及涡旋束宽的调制,当涡旋角频率不为零时,可以把涡旋旋转角度控制在一定范围内。值得注意的是,涡旋的涡核中心随传播距离移动,本章最后分析在零增益系数和恒定束宽的条件下,不同传播距离时两束非对称、非共面涡旋的相互作用,了解两涡核中心移动轨迹。3.自聚焦缓变折射率波导中非自治亮涡旋研究基于2+1维变系数耗散薛定谔方程,采用形变约化及数值方法,研究自相似涡旋光束在各向同性非均匀缓变折射率波导放大器中的传输性能。在一定条件下,我们得到了涡旋幅度、宽度和相位的显式表达式。发现在缓变折射率波导中,涡旋光束的形成不仅受其初始功率的影响,而且还受波导不均匀性的影响。虽然这些旋涡是近似的,但它能反映自相似光学光束传输在短程内的真实性质。对解显示表达式的进一步研究,我们可以分析旋涡在不同衍射和非线性参数下自聚焦缓变折射率波导中的传输特性。4.空间变化外电场作用下涡旋孤子研究基于（2+1）维带外势的变系数非线性薛定谔方程,利用变分方法,研究横向非周期外场调制型的非线性介质中三类方位角调制涡旋解,包括高斯外电场势下的单层方位角调制涡旋和非谐振外电场势下的多层方位角调制涡旋。在研究中,我们采用了光学材料中常见的两种非线性响应类型。涡旋结构受到拓扑荷、传播常数、径向量子数、角速度调制。研究了参量对涡旋特征的影响,并从数值上模拟其在相应介质中的传输,并对模拟结果做出讨论。5.非线性空间调制介质中涡旋孤子研究本章基于五次变系数非线性薛定谔方程,应用形变约化方法和直接拟解法,解析研究了非线性空间调制系统的单环或多环涡旋结构.然后采用线性稳定性分析法,来对产生的涡旋光束做出稳定性判断。研究发现所有的单环涡旋孤子解析解都是稳定的,多环涡旋孤子只存在很小的能量区域,即便是低拓扑指数情况。通过松弛法数值分析发现,对应相同的非线性系数,传播常数变化时,系统还存在数值构造涡旋解。这些数值解有两个特征量,分别为拓扑荷和传播常数。从数值构造解形成条件和线性稳定性分析可知:对于数值单环涡旋孤子,对应自散焦五次非线性,非线性系数是中心接近零,边缘快速增长到无穷大,拓扑荷m=1的所有涡旋孤子都是稳定的,但是拓扑荷m≥2的涡旋孤子的稳定性随着传播常数的增大,呈现稳定-不稳定交替变化;对于解析或数值多环涡旋孤子,对应自聚焦五次非线性,所有拓扑指数的涡旋孤子稳定性随着随着传播常数的增大,出现很小的存在区域。