模式转换器是模分复用系统中的关键器件,而模式转换器件的设计与开发离不开相应的理论指导。本文研究了多模磁光耦合理论模型下的磁光光纤、Bragg衍射单元以及磁光光栅三种不同结构,分别建立了相应的模式耦合方程,研究了它们的模式耦合特性。相应的分析方法也可以推广到其他类似结构中。本文主要研究内容和创新点如下:1.采用线偏振近似方法,利用光纤本征模式的正交性和归一化条件,建立了多模磁光光纤的磁光耦合模方程。通过引入与模场相关的磁光耦合系数,分析了模式之间的耦合特性,并进行了仿真验证。研究表明,磁光光纤中的模式耦合可分为模群内的耦合和模群间的耦合。通过调节外加磁场以及优化光纤长度的方式,可以减小模群间的耦合作用对偏振模转换效率的影响,可应用于偏振模转换器的设计;而选择更大比法拉第旋转角的磁光光纤材料可以改善模群间的模式转换效率,进而实现基于多模磁光光纤的空间模式转换器。2.建立了适用于多模磁光Bragg衍射单元的理论模型,通过分析Bragg衍射单元的模式转换特性,优化Bragg单元结构,使得同阶模式转换衍射效率可达98%。对不同阶的模式转换,采用更高阶的静磁波模式,以实现模式转换开关功能。多模衍射与传统的单模Bragg衍射相比,主要有以下几点差别:一是后者涉及高阶的TE/TM模式与静磁波的相互作用,甚至静磁波也是高阶模式;二是单模导波光总是假设其模场很好的限制在波导中传播,对归一化本征模场作了近似,极大地简化了耦合模方程的推导,而多模情形将有更加复杂的耦合模方程推导过程;三是通过多模耦合模方程推导的磁光耦合系数依赖于导波光和静磁波的模场分布,与单模相比更具有一般性和扩展性,为磁光传感,磁控模式转换和选择器件的开发提供了理论指导。3.推导了多模磁光光栅的耦合模方程,分析并优化了磁光薄膜结构中厚度和耦合长度对磁光耦合系数以及模式转换衍射效率的影响,使得各模式转换衍射效率最高可达99%。通过调节磁场,实现磁光光栅的周期可调,可用于固定磁光光栅的集成模式转换器的设计开发;同时通过对磁化强度振幅进行修正以及增大偏置磁场大小,可以改善不同阶模式之间的模式转换衍射效率。