传统的光学器件受到衍射极限的限制,无法实现光电集成。表面等离激元（Surface Plasmon Polariton,SPP）能够突破衍射极限,一直以来被研究人员认为是实现光子回路的重要途径之一。然而,表面等离子体波导的传输损耗大、模场限制能力差、抗干扰能力弱的问题依然未能解决。混合表面等离子体波导近年来被发现在亚波长尺度下具有较强的场限制能力和较低的损耗,使得它在工程技术、纳米光子学、生物医学等交叉学科受到了广泛的关注与研究。本文将金属光栅和增益介质分别应用到混合表面等离子体波导中,研究了两种不同的新型混合表面等离子体波导结构。基于有限元软件仿真分析了这两种结构的特性,得出了设计的波导结构具备低损耗、强耦合的特性。本文的主要研究内容如下:（1）介绍了混合表面等离子体波导的研究现状和应用前景,分析了表面等离激元的色散模型以及激发方式,重点阐述了仿真算法-有限元法的原理。（2）研究了一种基于金属光栅结构的混合等离子体波导。首先分析了不同几何尺寸下波导结构的基模特性,包括电场分布、传输长度、模场面积和品质因数等。接着探究了结构几何参数对波导特性的影响,得到了最优的尺寸大小:光栅厚度150 nm,铌酸锂厚度389 nm和光栅宽度42 nm。上述条件下的归一化模场面积为0.0334,传输损耗为0.0004 cm^-1,在保持亚波长的场限制能力的同时传输损耗达到最低。与同类结构相比,所研究波导的传输损耗小了3个数量级,因而在场限制能力和传输损耗之间有着良好的平衡能力。（3）研究了一种基于增益介质—对称圆柱纳米线的混合等离子体波导,分析了纳米线型波导的传输特性,得出了不同尺寸下的模式特性和最优参数。与同类结构相比,最优尺寸下,尽管传输损耗在同一量级,但结构表现出更强的耦合效应,更强的光限制能力。基于上述结果,最后研究了波导的激光特性,得到了相应的低阈值纳米激光器,达到.1 1?10⁶m^-1。研究成果为新一代微纳光电子集成器件的研制提供了一定的理论基础和设计思路,为实现微纳米光子集成技术的发展提供了参考。