近年来，光子晶体光纤因其特有的传光特性，已成为当前光学领域中的一个热门课题。本文所研究的光子晶体光纤是一种带有缺陷的二维光子晶体结构，即光纤结构的横截面上周期性分布着沿光纤轴向延伸的微气孔结构，因而使得光子晶体光纤具有传统光纤无法比拟的传输特性，例如高双折射、色散特性、非线性等。本文的主要工作为：采用多极法和全矢量有限元法对设计的光子晶体光纤的基本特性进行了研究。利用CUDOS MOF Utilities软件和有限元软件COMSOL Multiphysics建立了光子晶体光纤的理论模型，并给出了具体的求解步骤。基于建立的模型，对光子晶体光纤的模场分布、双折射、色散及非线性等特性进行了理论分析。(1)提出了三种不同纤芯的混合双包层光子晶体光纤，对它们的特性进行了分析比较，选择出性质较好的光纤结构。接下来再讨论空气孔径的大小对该光纤传输特性的影响。模拟结果表明，光纤结构每层空气孔对传输特性的影响均不相同：最内层包层空气孔对双折射特性的影响最为明显；色散特性受次内层包层孔径的影响最大，最内层包层和外包层孔径大小对该特性的影响较微弱；而限制损耗主要受外包层孔径大小和包层圈数影响。根据上面的规律，得出了一种具有高双折射、低限制损耗且具有一定色散补偿功能的光子晶体光纤。(2)基于有限元法提出了一种高非线性光子晶体光纤。第一层包层为矩形结构，且x，y方向间距不同，从而便于获得较高的双折射。其余包层为八边形结构。通过改变空气孔径的大小来获得较高的双折射和较高的非线性系数。理论证明增加纤芯附近的空气孔径大小便于获得较高的双折射，原因是随着孔径的增加，纤芯不对称性增强，进而双折射增加。而非线性特性主要受小纤芯和高占空比的影响。本文中通过增加纤芯附近包层空气孔径的大小达到减小纤芯和增加包层占空比的目的，从而获得较高的非线性，同时该光纤结构还具有一定的色散补偿功能。