光纤激光中受激布里渊散射表现出了丰富的动力学特性,近年来已经引起了广泛的关注。基于这些动力学特性,受激布里渊散射已经被广泛用于实现光通信系统中的布里渊放大器、光纤传感、脉冲压缩、信号处理技术(如光存储以及快慢光等)以及产生不同种类的光源。然而在这些与受激布里渊散射相关的应用当中,仍然存在一系列的问题,如光纤激光器中有源增益对受激布里渊散射过程的影响、共振频率失谐对受激布里渊散射动力学特性的影响、受激布里渊散射过程中泵浦光和斯托克斯光之间的瞬时能量流动特性以及多模光纤中受激布里渊散射的动力学特性和阈值特性等,尚未有明确解释,需要进一步深入研究。另外在高功率窄线宽脉冲光纤激光器中,包括受激布里渊散射在内的各种非线性效应已经成为限制其功率进一步提升进而制约其在地球科学、原子分子物理、频率变换、光束合成等领域的应用前景的主要因素。本文针对上述问题开展了针对性的理论和实验研究,主要内容如下:论文首先回顾了目前关于光纤中受激布里渊散射动力学特性的研究进展,详细介绍了分别在单模和多模光纤内与受激布里渊散射效应相关的各种动力学特性的研究,阐明了进一步拓展和深入研究受激布里渊散射在光纤激光中的动力学特性的意义。针对在高损耗稀土离子掺杂光纤激光器中的受激布里渊散射过程,从实验和理论两个方面证明了混合的布里渊和有源增益可以支持部分锁模现象的出现。首先,设计了相应的实验方案,实验结果表明为了使得激光器内部分锁模现象能够出现,需要布里渊和有源增益同时存在;其次,还建立了描述这一动态过程的理论模型,较好地解释了实验结果;最后详细阐述了导致不同斯托克斯纵模之间相位实现部分同步的物理机制。针对在连续泵浦下无外界反馈光纤中的受激布里渊散射过程,研究了共振频率失谐对受激布里渊散射动力学特性的影响。从数值和理论结果中首次发现在无需克尔效应的参与下,共振频率失谐可以使得受激布里渊散射过程表现出丰富的动力学特性。上述机制在不借助外界反馈的情况下表现出一系列不同的动力学行为,包括连续稳态、周期态以及确定性混沌行为。此外,通过研究发现,导致上述动力学行为的主要物理机制包括:声波场的瞬时响应、受激布里渊散射的弛豫振荡效应、基于受激布里渊散射三波耦合的混频效应以及受激布里渊散射感应的群速度变化。针对瞬态情况下的受激布里渊散射过程,从理论上证明了受激斯托克斯散射及其逆过程可以同时发生,从而使得布里渊泵浦光和斯托克斯光之间存在瞬时的能量对流。分析表明在受激斯托克斯散射和其逆过程之间的状态转换条件为三波中的任何一个经历π的附加相位变化,并且其转化的特征时间尺度反比于初始注入的泵浦和斯托克斯功率。另外从整体来看,由于有限的声子寿命,受激斯托克斯散射相对于其逆过程在整个受激布里渊散射过程中占据主导地位,从而使得最终的净能量流动是从泵浦光到斯托克斯光的。建立了能够描述多模光纤内受激布里渊散射一般动力学特性的理论模型。在该模型中,考虑了多模光纤的波导特性对光声场分布的影响,以及不同的光声模式之间的相互耦合。而且在该模型中,除了受激布里渊散射效应之外,群速度色散、自相位调制以及交叉相位调制也被考虑在内。另外,为了解决光纤激光器和放大器中与受激布里渊散射有关的问题,将上述动力学模型推广到了多模增益光纤中,并考虑了由于增益的空间饱和效应而导致的模式竞争。另外,在该模型的基础上,还对多模光纤内受激布里渊散射的阈值特性进行了理论和数值研究。对于长光纤(αL?1)和短光纤(αL?1)两种情况,分别推导了对应的受激布里渊散射阈值功率满足的超越方程。该理论以及数值仿真结果表明多模光纤中的受激布里渊散射阈值功率是由信号光中的横模成分决定的。开展了对高功率窄线宽脉冲光纤激光器和放大器中激光非线性动力学特性的理论研究,建立了相应的较为完善的物理模型,考虑了多模增益光纤中群速度色散、自相位调制、交叉相位调制、四波混频、受激布里渊散射、布里渊增强的四波混频、受激拉曼散射等非线性效应以及增益饱和导致的模式竞争共同对激光输出时域、频域以及空域特性的影响。并且在上述一般模型的基础上,对其进行适当的简化,从而获得了该模型在两种不同情况下的具体应用,并结合相应的实验验证了理论模型的正确性。