飞秒激光的出现为人类探索世界提供了崭新的工具,伴随其超短脉宽产生的超高峰值功率以及超宽频谱特性在诸多科学领域得以应用。在1微米波段,掺镱激光晶体由于其优良的物化性质、宽增益谱线等特征被人们认为是绝佳的产生飞秒脉冲的增益介质。基于掺镱晶体的全固态飞秒激光器在近些年取得了长足的发展,同时实现窄脉宽以及高效、高功率锁模脉冲输出是当前的发展方向。本论文研究核心为新型增益谱线非均匀展宽掺镱晶体的光谱及其超快激光输出特性。集中于两大类晶体：一类是通过向掺镱石榴石(Yb:GGG,Yb:YAG)晶格中分别引入不同阳离子或(和)阴离子基团占据不同格位而得到的新型无序石榴石晶体。另一类是宽增益带宽硼酸盐Yb:Sr3Y2(BO3)4(Yb:SYB)晶体。本论文第二章详细阐述了飞秒固体锁模激光产生的机理,对于不同类型锁模激光器中脉冲的启动、筛选整形以及稳定机制进行了分析,并从理论上给出了不同锁模机制主导下的锁模激光的脉冲宽度与激光参数的关系。第三章对无序石榴石结构Yb:GAGG, Yb:LuGGG以及Yb:CTGG晶体的光谱特性进行了分析。结果表明,随着晶格中离子种类的增加或取代形式的复杂,晶体光谱展宽会逐渐增大,而且,稀土缺陷离子引入可引起比非稀土缺陷离子更大的展宽。基于SESAM或含氧石墨烯可饱和吸收镜对上述晶体的超快激光特性进行了实验探索。在SESAM锁模的Yb:GAGG谐振腔中获得脉宽422 fs,平均功率1.1 W脉冲。基于氧化还原石墨烯以及氧化石墨烯可饱和吸收镜,分别实现Yb:GAGG飞秒激光运转。实验证实了石墨烯材料在实现较高脉冲能量固体锁模激光器上的应用潜力。含氧石墨烯结构中尽管存在氧官能团等缺陷,但其在1μm波段仍具备良好的可饱和吸收特性。而且,含氧基团的存在使得石墨烯材料在溶剂中的分散性得到改善,大大降低了可饱和吸收镜的制备难度,提高了可重复性。基于Yb:LuGGG晶体,实现了324 fs,1.3 W SESAM锁模激光输出,中心波长及斜效率分别为1029.6 nm和41.6%。通过优化腔型,脉冲宽度压缩至188 fs,平均功率0.77 W,中心波长为1026.8nm。结果说明Yb:LuGGG晶体是一种适于实现瓦级、高效飞秒脉冲激光器的优秀增益介质。第四章对高级无序石榴石晶体Yb:CTGG的光谱及超快激光特性进行了研究。复杂的晶格场使其发射截面线宽达到30 nm。在SESAM锁模的Yb:CTGG激光器中获得了脉冲宽度389fs,平均功率420 mW的锁模脉冲。针对Yb:YAG,设计了新型复合石榴石晶体YAG-MASG (M=Ca, Mg).在其晶格中,除了存在阳离子之间的取代,特殊的是还存在阴离子基团之间的取代[Ca2+(Mg2+)离子部分取代Y3+离子；(Si04)4-基团部分占据(A104)5-基团的格位；Yb3+离子掺入后可占据Y3+和Ca2+离子的格位],这使得复合石榴石晶体具有极其复杂的晶格结构。经光谱研究发现,随着复合比例的增加,其吸收谱可展宽三倍以上,发射谱可展宽一倍以上。上述研究给光谱非均匀展宽无序晶体的生长提供了一个新思路。第五章对高级无序硼酸盐Yb:SYB晶体的光谱及超快激光特性进行了系统研究。低掺(3%)以及高掺(11%)Yb:SYB晶体的发射截面线宽均大于60 nm,可用于直接产生Sub-50 fs超短脉冲。在SESAM锁模的高掺Yb:SYB激光器中,实现了脉冲宽度窄于130 fs,平均功率大于1W锁模激光运转,光光效率超过30%,斜效率达到50%。利用SESAM辅助克尔透镜锁模技术,基于低掺Yb:SYB晶体实现了脉冲宽度58 fs,平均功率400mW的锁模脉冲输出。结果说明Yb:SYB晶体在实现高效、百飞秒超短脉冲激光方面具有重要潜力。