具有高效率、高可靠性、高光束质量及高集成度等独特优势的高性能脉冲光纤激光器对传统激光行业产生了巨大影响,已成为激光领域充满活力和创新机遇的研究方向。其中,中红外光纤激光器、宽调谐光纤激光器和新型被动脉冲光纤激光器等高性能光纤激光器件及相关技术的研究取得了重要进展,并应用于生产生活和军事国防等领域。随着激光输出功率提升和激光工作波长拓展等应用需求的增加,亟需深入认识脉冲光纤激光器的动力学演化特性,以及研究和发展相关新型光电材料和器件。近年来,随着新材料技术的发展,二维原子晶体纳米材料（如石墨烯、拓扑绝缘体、二硫化钼、黑磷等）由于其独特而优良的光电子学和非线性光学特性,为脉冲光纤激光器的性能提升提供了更多解决方案。本文围绕高功率、高效率和紧凑型脉冲光纤激光器的应用需求,重点研究新型被动调Q短脉冲和被动锁模超短脉冲光纤激光器及其非线性脉冲动力学特性。取得如下成果:（1）研究全正色散被动锁模光纤激光器中耗散孤子爆炸和孤子对爆炸的形成机制,揭示了多脉冲相互作用的瞬态演化动力学过程,为超短高能量脉冲激光器的设计和实验提供理论依据。分析了激光器的小信号增益系数、窄带滤波器带宽和泵浦功率对耗散孤子不同形态的影响。通过数值仿真得出了在各小信号增益系数下所形成的稳定单脉冲、孤子标准爆炸、类噪声的混沌过渡状态、主次脉冲碰撞爆炸伴随振荡的过渡状态及稳定双脉冲锁模状态等过程所对应的窄带滤波器带宽和泵浦强度范围。（2）建立了被动锁模激光器的集总分立模型与复系数立方-五次方金斯堡朗道方程的分布式模型间的对应关系,分析了高阶效应对孤子爆炸模式的影响,揭示了光谱滤波带宽对多孤子态的爆炸和碰撞动力学的影响规律,为实现稳定可控的脉冲激光器提供依据。将光波反射和光波折射现象的概念延伸至频域,研究发现:同向传输的弱探测光与垂直偏振的强泵浦光发生交叉相位调制时,弱探测脉冲的频谱会偏移;两脉冲穿过特定色散不连续边界时,弱探测脉冲在频域也会发生可与空间域和时域类比的光折射和反射现象,并推演出全反射的临界条件,据此提出了频谱波导的概念设计。（3）通过优化黑磷可饱和吸收体参数和谐振腔设计,实验获得了脉宽短至91 ns的超短调Q脉冲序列输出和窄至280 fs的超快激光输出。通过优化光学沉积工艺参数,使得制备的黑磷可饱和吸收体调制深度大幅增加,用于紧凑型调Q掺Er3+全光纤激光器中,获得了脉宽短至91 ns的超短调Q脉冲序列输出。在全负色散掺Er光纤激光器中实现传统孤子脉冲锁模运转,脉宽窄至280 fs,并观察到多种孤子状态,如束缚态、类噪声等。实验结果表明,基于黑磷二维材料可饱和吸收体和激光腔优化设计,为从全光纤激光器中获得100 ns以内的高能量调Q脉冲及300 fs以内的孤子锁模脉冲提供了一种有效解决方案。（4）在掺Er3+氟化物光纤激光器中实现了3.5μm中红外波段高功率、高效率连续和调Q激光输出。研究了双波长、双端泵浦条件下不同长度及不同掺杂浓度增益光纤及其它腔参数和结构对激光特性的影响。基于SESAM在3.5μm Er3+:ZBLAN光纤激光器中实现了调Q运转,获得的稳定脉冲序列重复频率可在26.83-58.71 k Hz范围调节,最大平均功率为63 m W,最小脉宽为2.1μs。结果表明,商用SESAM可用于稳定的3.5μm中红外激光脉冲产生,为下一步将针对～3.5μm激光波段优化设计的SESAM应用于Er3+:ZBLAN调Q和锁模光纤激光器并实现更佳的脉冲激光特性输出打下了基础。