近年来,波分复用系统因单模光纤的非线性容忍度小,传输容量越来越接近香农极限。为了进一步扩充光纤通信的容量,以模式为自由度的模分复用技术应运而生。模分复用技术利用少模光纤中的高阶模式作为新的独立信道,成倍地提高了光纤通信系统的容量和传输效率。同时,光纤模式转换是利用模式耦合原理实现基模和高阶模的能量交换,是构建模分复用系统的关键技术之一,也是近年来的研究热点。光子晶体光纤因其灵活的结构设计性和和特殊的光学特性,广泛应用在光纤传输及光学器件的设计等领域。本文从实用化角度出发,设计了基于光子晶体光纤的少模传输光纤和模式转换器。利用麦克斯韦方程分析少模光子晶体光纤中的模式特性,利用波导耦合理论分析了模式转换的原理,为少模传输和模式转换器的实现提供了理论依据,论文的具体工作如下:本文首先针对长距离大容量光纤传输系统,从降低制作难度和提高实用性出发,设计了一种单芯的双模PCF。在1.46¹.56μm波长段内,该光纤可实现稳定的基模和二阶模的双模传输,模式间有效折射率差大于0.001,避免了模间串扰。通过优化结构得到Λ=10μm,d₁/Λ=0.55、d₂/Λ=0.65、d₃/Λ=0.75时,基模和二阶模在C波段上的相对色散系数分别为2.138ps/（nm·km）、1.154ps/（nm·km）,色散斜率介于-0.012⁰.322 ps/（nm²·km）之间满足色散平坦要求;1.55μm处,模场面积分别为106.72μm²和155.34μm²;传输模式的衰减系数小于1.41×10^-5d B/m,总损耗小于10^-4量级。双模PCF的传输特性符合G.652和G.655光纤标准,且有效抑制了非线性效应,参考现有光纤成熟的制备技术,具有广阔的实用化前景。其次,针对模分复用技术中的模式转换问题,提出了一种基于PCF的模式转换器,实现了LP₀₁和LP₁₁模的低损耗转换。在1.50¹.56μm范围内,耦合效率可达92.93%,传输损耗小于1d B,并具有宽带特性。文中给出基于少模光子晶体光纤的模分复用系统结构模型,对相关技术问题做了论述。本文的研究均基于光子晶体光纤的特殊结构及特性,有利于新一代光纤通信技术的进一步研究和应用。